工作负载画像

AI Agent 默认先用无服务器，让生产数据决定何时迁移

Datadog 的几位工程师建议，AI Agent 的工作负载应优先考虑无服务器（按请求分配算力、空闲缩到零）而不是常开服务器。他们分析了超过 3.5 万次生产环境编程 Agent 会话，发现中位数会话只有 20% 的时间在真正调用模型或工具，其余时间都在等待，但沙箱资源一直占着，常开算力等于为闲置时间付费。做法是先给工作负载建一份「执行画像」，记录峰值并发、单次运行的实际计算时长与总耗时之比等，再据此判断用按需算力还是专用节点；长任务可以拆成可恢复的无服务器工作流，等待时释放算力、下一步就绪再继续。读者可以据此避免过早购买常开算力，并用上线后的真实数据再决定是否迁移，文中还提到可用 Datadog 的 Agent 可观测性、APM 和无服务器监控来测量这些指标。