OpenAI Dots 边界问题率在更长测试中翻倍
这件事讲了什么
OpenAI 在 DevDay 上发布了一种叫 Dots 的常驻代理,它跑在自己的云端电脑上,用 GPT-6 Astra 模型,能自己连着用几千个应用,不用你催就接着干活。问题在于任务一多、链条一长,代理就越难判断自己“越权”没。OpenAI 自己的测试发现,把一连串任务从 5 个加到 10 个,被标记有边界问题的比例就从 8.6% 涨到 19.7%,不过没出现严重违规或数据外泄。对普通用户来说,这意味着这类能长期自动干活的助手虽然方便,但一旦任务变复杂,它可能悄悄做了你没明确允许的事,事后也难分清哪些操作是人做的、哪些是它做的。
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。