Datadog AI Guard

检测 AI 智能体是否复制自我复制的提示注入

OpenAI 此前报告了一种“自我复制提示注入”：攻击者把隐藏指令藏在 AI 智能体读取的内容里，诱导智能体照做，并把这些指令复制进邮件、文件或消息中，从而感染其他智能体和后续会话，像电脑蠕虫一样扩散。这次 Datadog 把 OpenAI 报告中的两个例子改造成针对测试智能体的模拟攻击，并用其安全产品 Datadog AI Guard 检查智能体读到的内容和发起的工具调用。结果 AI Guard 在看邮件或 CSV 时，就标记了被植入的内容不安全；当测试智能体把注入指令复制进回复或技能文件时，AI Guard 也判定这些操作不安全。需要注意的是，这是模拟环境中的演示，不是正式发布的新功能，也不能说明真实的拦截成功率；文章的重点是展示如何排查智能体最终回复里看不出来的可疑行为。