Language Models

上下文语言模型：自我管理上下文以提升性能并降低计算成本

Meta、MIT 和华盛顿大学的研究人员提出了一种叫“上下文语言模型”（CLM）的新方法。过去，语言模型的长上下文通常靠事先定好的规则来总结、压缩和检索信息，不够灵活。这次让模型自己决定怎么管理和修改上下文内容。研究人员表示，这种做法在性能和计算效率上都有明显提升。对读者来说，这意味着未来 AI 处理长对话、长文档时可能更聪明，同时更省算力，不过目前还只是研究阶段。