跳到正文
10月30日周五
10月28日周三
  1. Google Research61

    Google Research 提出 Sleep 框架:模拟睡眠机制实现大语言模型持续学习

    Google Research 提出面向持续学习的 Sleep 框架,通过让大语言模型交替进行主动交互与离线巩固,将短期上下文记忆转化为稳定的长效参数。该架构包含模拟慢波睡眠的参数扩展与策略蒸馏记忆巩固,以及模拟快速眼动睡眠的随机 MoE 专家激活与做梦自我提升循环。

    推荐理由:该方案通过模拟人脑睡眠时的记忆巩固与做梦机制,为解决大语言模型部署后的灾难性遗忘提供了可迁移的持续学习范式。

10月13日周二
  1. Microsoft Research46

    微软研究院通过模拟学生学习改进 AI 导师系统

    微软研究院推出研究系统 StudentSim,通过对去标识化的公开学习记录进行两阶段训练,为单个学生构建个性化 AI 模拟器。该系统从行为保真度与指导响应度两个维度建模,在国际象棋、二语英语写作和数学领域均超越主流基线模型。同步提出的 StudentSimEval 评测基准可在 AI 导师进行真实测试前提供训练与评估反馈。

3月13日周五
  1. Berkeley AI Research44

    Berkeley AI Research 详解 SPEX 与 ProxySPEX:规模化识别 LLM 关键交互

    Berkeley AI Research 介绍了 SPEX 和 ProxySPEX 算法,旨在通过消融实验为 LLM 规模化识别驱动决策的关键交互。SPEX 结合信号处理与编码理论将指数级交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层次结构以减少约 10 倍的消融成本达到同等表现,能在数千特征规模下保持高保真度。