持续学习

睡眠框架：让大语言模型在持续学习中留住知识的新方法

Google Research 的研究者 Ali Behrouz 和 Vahab Mirrokni 提出了一种叫「睡眠框架」的持续学习方法。问题是：大模型部署后知识就固定了，学新东西要么靠把新数据直接更新进模型，但这会「灾难性遗忘」，把旧本领覆盖掉；要么只靠上下文临时记住，对话一结束就忘。他们的做法是模仿人脑休息时巩固记忆：模型在「清醒」时正常交互，在「睡眠」阶段把短期上下文里脆弱的新知识压缩进固定的参数记忆，再在「做梦」阶段自己生成练习题、挑选有用的更新来练推理，整个过程中模型结构和代码不变。实验结果里，在满语、Kalamang 等未见语言的连续翻译上性能几乎不掉，BABILong 长上下文测试中可扩展到 1000 万 token 并超过 GPT-4 等基线。不过文中提到的是研究阶段的框架，尚不清楚是否已作为产品开放使用。