← 返回列表

Agent 在运行时做决策,你的安全控制也应如此

Datadog Blog原文发布 2026-11-02 08:00首次收录 2026-11-03上架 2026-11-03 07:15

☆ 收藏查看原文 ↗

这件事讲了什么

Datadog 正在开发一款叫 AI Guard 的安全产品,专门保护 AI 智能体。问题在于:智能体能访问内部系统和敏感数据,还会读取外部内容,攻击者可以把恶意指令藏在工具返回的内容里,诱导智能体做出危险操作;传统安全控制只看权限、不看意图,而智能体是边走边推理的,很难提前把它的所有动作都测一遍。AI Guard 的思路是直接嵌进智能体的运行循环里:先盘点云环境中有哪些智能体、各自连了哪些服务和数据,再在每一步决策点结合对话历史、自定义规则和应用上下文判断意图,发现异常就当场拦截或脱敏,并把整个事件过程整理成可调查的记录。目前该产品仍在开发中,文中未说明何时可用或价格。

可以使用的工具

文中可用工具

  • AI GuardDatadog 开发中的运行时智能体安全防护产品,用于发现智能体、在决策点拦截恶意操作并辅助调查
  • Datadog提供智能体追踪、日志和基础设施遥测,供安全调查使用
这是基于来源内容整理的摘要。原文链接失效后,本页摘要和讨论仍会保留。

讨论 0

登录后参与讨论,阅读资讯无需注册。

还没有评论,来分享第一个看法。