Agent 与工作流01
Datadog 的工程师用自家产品 Insights 来观察和优化他们自己的 AI agent。Insights 会分析 agent 的运行记录,找出它在哪些地方花了过多 token、工具调用失败或任务没完成,并解释原因、估算影响、给出有依据的修复建议。例如它发现搜索工具一次返回太多内容,导致后续请求被重复计费;还发现请求顺序不对,使提示缓存无法复用,估算每月可省约 2734 美元。工程师随后把建议交给编程 agent 改代码,并通过重放原任务验证修复后 token 是否更少、回答是否仍然正确。这是 Datadog 的自用案例,节省数字为估算、尚未实测。
文中可用工具
- Insights分析 agent 运行记录,找出成本与可靠性问题并给出修复建议
- Agent ObservabilityDatadog 用于观测 AI agent 的产品,Insights 位于其中
- search_llmobs_spans在已记录的 trace 中搜索证据的工具
- update_insight用于更新已有 insight 的工具
- Fix with Bits把 insight 的证据与建议交给编程 agent 修改代码
Agent 与自动化02
amantalwar/pm-product-capabilities · 37 product-management skills for Claude Code, the Product Capabilities tier of the AI Operating System skills list
这是一个 Claude Code 插件,包含 37 项产品管理技能,属于 AI Operating System 技能清单中的 Product Capabilities 层级。每项技能将具体的产品管理框架(如 OKR、RICE、金字塔原理、JTBD 风格故事映射、事前验尸等)封装为 Claude 可遵循的指令,附带统一的输出模板和质量检查清单。其中包括 32 项单一用途技能和 5 项端到端工作流技能(如从洞察到 backlog、从访谈需求到签署确认、倡议启动、GTM 发布、干系人沟通)。用户无需每次重新解释框架,只需提出所需产物,Claude 即可按框架应用生成结果。
推理与部署03
ashhart/TensorFold · Fast, exact LLM decoding on Apple Silicon (MLX) behind an OpenAI-compatible endpoint
TensorFold 是一个本地 LLM 推理服务工具,可在 Apple Silicon(MLX/Metal)或 NVIDIA GPU(CUDA)上运行大模型,并通过 OpenAI 兼容的 /v1/chat/completions 端点对外提供服务。用户指定 Hugging Face 上的模型、上下文窗口和采样参数后,它会自动下载模型、加载针对该模型系列编写的内核并启动服务。其核心卖点是“精确”推测解码:通过为每个 token 使用基于种子的 Gumbel 噪声与行级一致的算术,使多行验证与串行解码输出逐字节一致,从而在保持确定性的同时加速解码。仓库提供了模型清单、速度测量、DGX Spark 双机张量并行部署方法以及提示缓存等能力。