资讯

我们如何检测前沿模型失准

OpenAI 说他们用多层监控来发现前沿模型出现“失准”（行为偏离预期），以及 AI 代理做出未经授权的操作。原来的问题是：模型能力越强，越可能出现难以察觉的异常行为，如果不及时发现，小问题会升级成事故。这次的做法是把多种监控手段叠加起来，让响应人员在事态扩大前就能介入处理。对普通读者来说，这属于安全机制方面的公开说明，目前还没有给出具体工具、检测指标或上线状态等细节。