Datadog 的工程师用自家产品 Insights 来观察和优化他们自己的 AI agent。Insights 会分析 agent 的运行记录，找出它在哪些地方花了过多 token、工具调用失败或任务没完成，并解释原因、估算影响、给出有依据的修复建议。例如它发现搜索工具一次返回太多内容，导致后续请求被重复计费；还发现请求顺序不对，使提示缓存无法复用，估算每月可省约 2734 美元。工程师随后把建议交给编程 agent 改代码，并通过重放原任务验证修复后 token 是否更少、回答是否仍然正确。这是 Datadog 的自用案例，节省数字为估算、尚未实测。
文中可用工具
- Insights分析 agent 运行记录，找出成本与可靠性问题并给出修复建议
- Agent ObservabilityDatadog 用于观测 AI agent 的产品，Insights 位于其中
- search_llmobs_spans在已记录的 trace 中搜索证据的工具
- update_insight用于更新已有 insight 的工具
- Fix with Bits把 insight 的证据与建议交给编程 agent 修改代码
展开详情收起详情：我们如何用 Insights 改进 Insights 背后的 agent⌄
Datadog Blog
原文发布：2026-10-30 08:00收录：2026-10-31
Kubernetes 社区在 10 月 27 日宣布成立一个专门的工作组，要为「工作负载在 Kubernetes 上运行时的行为」制定统一标准。此前虽有测试能判断一个集群能不能跑 AI/机器学习任务，但对于具体工作负载本身没有类似标准，团队只能靠变通办法、手动摸索，或者盯着节点被清空、权限报错这类迹象来排查问题。新工作组希望补上这块空白，让不同工作负载在集群里的运行表现有一致、可检验的规范。对跑 AI 工作负载的团队来说，这意味着未来判断平台是否适合自己的任务会更有依据；不过目前只是宣布成立并征集社区意见，标准尚未发布。同期还有：TNS 与 HPE 合作发布一本关于在 Kubernetes 上运行 AI 工作负载的电子书，可立即下载；OpenTelemetry 转换语言 OTTL 达到 v1，对 traces、metrics、logs 稳定，包含在 Collector Contrib v0.164.0 及之后版本，并承诺语法和标准函数保持向后兼容。另有 AWS 架构师预告将在 KubeCon 展示用 agent 流水线实时分析工作负载并在 GPU 上共置多个模型的方案，属于演示预告，原文未说明可用时间。
文中可用工具
- Kubernetes容器编排平台，文章讨论其上新成立的工作负载一致性工作组
- Kubernetes AI Conformance已有测试，用于判断集群能否运行 AI 或机器学习工作负载
- OpenTelemetry Transformation Language (OTTL)OpenTelemetry 的配置语言，可在收集器层修改、过滤和丰富遥测数据
- Collector ContribOpenTelemetry 收集器贡献版，v0.164.0 起包含 OTTL v1
- VPC Flow LogsGoogle Kubernetes Engine 内置功能，记录 IP、端口和协议之间的连接，帮助排查临时 Pod 的问题
展开详情收起详情：Kubernetes 成立工作负载一致性工作组，为何对 AI 团队意义重大⌄
The New Stack
原文发布：2026-10-31 01:29收录：2026-10-31
DoorDash 优化了杂货复购流程：过去用户要等约 16 秒才能重新下单，现在缩短到约 2 秒。做法是提前用批量 LLM 推理算出用户常买的东西，再用确定性的规则校验，而不是每次临时让模型现算；同时实时核对商品目录，保证选中的货还在售，并把清单做成可编辑界面，用户不改就不必再调用模型。DoorDash 称购物清单浏览量翻倍，该流程下单率提升约 34%。这些数字来自公司自述，文中未说明上线范围、统计口径和具体模型。
展开详情收起详情：DoorDash 借助 AI Agent 将杂货复购延迟从 16 秒降至 2 秒⌄
InfoQ Architecture & Design
原文发布：2026-10-30 21:31收录：2026-10-31