用 Agent Observability 优化 AI 成本
这件事讲了什么
Datadog 推出 Agent Observability 的新功能，帮企业搞清楚 AI 智能体的钱花在了哪里。原来云厂商账单只按 API 密钥和模型统计，看不出是哪个应用、哪一步工作流在烧钱，所以成本一涨就很难查原因——可能是流量变大、换了更贵的模型，也可能是缓存没用上、对话历史每轮都重发。现在这个工具把估算的 AI 成本直接挂到具体应用和请求链路上，打开 Cost 页面就能按应用对比花费和效率（比如每次请求成本、缓存命中率），还能钻取到单次最贵的调用，看它的执行链路。它还会自动指出可省钱的点，比如未被缓存的提示词前缀，估算能省多少并给出修改建议。对读者来说，这意味着 AI 成本问题能更快定位到技术原因，而不是对着账单猜。目前材料只说明这是 Datadog 的产品能力介绍，未说明具体定价和正式上线时间。
可以使用的工具
文中可用工具
- Datadog Agent Observability把 AI 智能体的估算成本关联到具体应用和调用链路，帮助定位花钱多的环节
- Cost page按应用、供应商或自定义标签查看 AI 花费和效率指标
- Cost Savings Opportunities找出可避免的花费并估算潜在节省、给出修复建议
- Most Expensive LLM Calls table按估算总成本给 LLM 调用排名，方便查看最贵的请求
- Execution Graph展示智能体、LLM 调用、工具和评估之间的连接关系
- Datadog Application Performance Monitoring (APM)与 Agent Observability 关联，把 AI 操作放回更完整的应用调用链中排查
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。