Datadog 的工程师用自家产品 Insights 来观察和优化他们自己的 AI agent。Insights 会分析 agent 的运行记录,找出它在哪些地方花了过多 token、工具调用失败或任务没完成,并解释原因、估算影响、给出有依据的修复建议。例如它发现搜索工具一次返回太多内容,导致后续请求被重复计费;还发现请求顺序不对,使提示缓存无法复用,估算每月可省约 2734 美元。工程师随后把建议交给编程 agent 改代码,并通过重放原任务验证修复后 token 是否更少、回答是否仍然正确。这是 Datadog 的自用案例,节省数字为估算、尚未实测。
文中可用工具
- Insights分析 agent 运行记录,找出成本与可靠性问题并给出修复建议
- Agent ObservabilityDatadog 用于观测 AI agent 的产品,Insights 位于其中
- search_llmobs_spans在已记录的 trace 中搜索证据的工具
- update_insight用于更新已有 insight 的工具
- Fix with Bits把 insight 的证据与建议交给编程 agent 修改代码
展开详情收起详情:我们如何用 Insights 改进 Insights 背后的 agent⌄
Datadog Blog
原文发布:2026-10-30 08:00收录:2026-10-31
Kubernetes 社区在 10 月 27 日宣布成立一个专门的工作组,要为「工作负载在 Kubernetes 上运行时的行为」制定统一标准。此前虽有测试能判断一个集群能不能跑 AI/机器学习任务,但对于具体工作负载本身没有类似标准,团队只能靠变通办法、手动摸索,或者盯着节点被清空、权限报错这类迹象来排查问题。新工作组希望补上这块空白,让不同工作负载在集群里的运行表现有一致、可检验的规范。对跑 AI 工作负载的团队来说,这意味着未来判断平台是否适合自己的任务会更有依据;不过目前只是宣布成立并征集社区意见,标准尚未发布。同期还有:TNS 与 HPE 合作发布一本关于在 Kubernetes 上运行 AI 工作负载的电子书,可立即下载;OpenTelemetry 转换语言 OTTL 达到 v1,对 traces、metrics、logs 稳定,包含在 Collector Contrib v0.164.0 及之后版本,并承诺语法和标准函数保持向后兼容。另有 AWS 架构师预告将在 KubeCon 展示用 agent 流水线实时分析工作负载并在 GPU 上共置多个模型的方案,属于演示预告,原文未说明可用时间。
文中可用工具
- Kubernetes容器编排平台,文章讨论其上新成立的工作负载一致性工作组
- Kubernetes AI Conformance已有测试,用于判断集群能否运行 AI 或机器学习工作负载
- OpenTelemetry Transformation Language (OTTL)OpenTelemetry 的配置语言,可在收集器层修改、过滤和丰富遥测数据
- Collector ContribOpenTelemetry 收集器贡献版,v0.164.0 起包含 OTTL v1
- VPC Flow LogsGoogle Kubernetes Engine 内置功能,记录 IP、端口和协议之间的连接,帮助排查临时 Pod 的问题
展开详情收起详情:Kubernetes 成立工作负载一致性工作组,为何对 AI 团队意义重大⌄
The New Stack
原文发布:2026-10-31 01:29收录:2026-10-31
DoorDash 优化了杂货复购流程:过去用户要等约 16 秒才能重新下单,现在缩短到约 2 秒。做法是提前用批量 LLM 推理算出用户常买的东西,再用确定性的规则校验,而不是每次临时让模型现算;同时实时核对商品目录,保证选中的货还在售,并把清单做成可编辑界面,用户不改就不必再调用模型。DoorDash 称购物清单浏览量翻倍,该流程下单率提升约 34%。这些数字来自公司自述,文中未说明上线范围、统计口径和具体模型。
展开详情收起详情:DoorDash 借助 AI Agent 将杂货复购延迟从 16 秒降至 2 秒⌄
InfoQ Architecture & Design
原文发布:2026-10-30 21:31收录:2026-10-31
artmelo/juno-pm · Juno PM. Capstone Project for AI Product Management Certification
Juno PM 是 Product School AI 产品管理认证的结业项目,以一个虚构的 RocketShip 任务为背景,探索 Agent 式 AI 如何辅助产品经理工作。它的原型可以把粗略的产品想法转成结构化的 PRD 和可供开发使用的用户故事,并通过 Mission Radar 依据产品目标、约束和任务优先级评估这些想法;它还会指出缺失的需求、风险与假设,并让产品经理保留最终决策权。该仓库按模块整理了提示词技能文件、原型说明、AI PRD、Agent 控制面板、人工评估量表和最终展示,属于学习和原型性质的项目;当前界面用示例 AI 输出演示预期体验,并未接入实时 AI。项目未说明部署条件、硬件要求、API 成本与使用限制。
展开详情收起详情:Juno PM:将粗略产品想法转化为结构化 PRD 与用户故事的 AI 产品管理副驾驶⌄
★ 0 · 研究实现
GitHub
原文发布:未知收录:2026-10-31
idataconnect/outturn · A fast, secure Rust foundation for multi-tenant agent platforms
outturn 是一个用 Rust 构建的多租户 Agent 平台基础框架,面向需要让每个客户都能运行各自 Agent 的公司。它内置租户隔离、按租户用量归因、在 WebAssembly 沙箱中运行 Agent 代码、默认拒绝的出站访问规则、网关集中保管凭证、每轮签名令牌,以及防止单个租户故障影响其他租户的断路器。项目处于早期开发阶段,接口可能变动,提供本地 Kubernetes 集群的开发与演示流程,以及面向真实部署的密钥与清单生成脚本。
展开详情收起详情:outturn:多租户 Agent 平台的 Rust 运行时基础⌄
★ 4 · 开发框架
GitHub
原文发布:未知收录:2026-10-31
crewship-ai/crewship · Self-hosted runtime for AI coding agents. Real Linux containers, your hardware, your keys, your data.
Crewship 是一个用 Go 编写的自托管运行时与控制平面,为每个 AI 编程 Agent 团队提供独立的真实 Linux 容器,可驱动 Claude Code、OpenCode 或通过 Ollama 运行本地模型。它在运行时之外提供任务分解与执行的 Missions、定时 Routines、问题跟踪与分诊、基于角色的访问控制、审计日志、Keeper 治理层、加密备份及清单式 GitOps 管理等能力,代码、数据、对话与记忆均保留在自有硬件上。项目处于开放测试(pre-1.0)阶段,README 明确标注各模块的稳定、早期或未完成状态。
展开详情收起详情:Crewship:在自有硬件上运行 AI 编程 Agent 的自托管控制平面⌄
★ 4 · 可直接使用的工具
GitHub
原文发布:未知收录:2026-10-31
kubernetes-sigs/agent-sandbox · agent-sandbox enables easy management of isolated, stateful, singleton workloads, ideal for use cases like AI agent runtimes and reinforcement learning (RL).
Agent Sandbox 是 Kubernetes SIG Apps 下的项目,提供 Sandbox 自定义资源定义(CRD)及控制器,用于以声明式 API 管理长期运行、有状态、单容器的单例工作负载,具备稳定身份、持久存储,以及创建、定时删除、暂停、恢复等生命周期管理。扩展模块提供 SandboxTemplate、SandboxClaim 和 SandboxWarmPool,支持模板复用、从预热池快速认领沙箱。项目自身是沙箱编排器,底层隔离交由 gVisor、Kata Containers 等 Sandbox Runtime(通过 RuntimeClass)负责。适用于 AI Agent 运行时、强化学习与评测、开发环境、Notebook 和有状态单 Pod 服务等场景,并提供 Go SDK、Python SDK 及可选的 Sandbox Router。
展开详情收起详情:Agent Sandbox:在 Kubernetes 上管理 AI Agent 与强化学习的隔离有状态单例工作负载⌄
★ 4456 · 开发框架
GitHub
原文发布:未知收录:2026-10-31