你的 AI agent 失败了，问题可能不在模型本身

AI agent 进入生产环境后，从收到请求到给出结果之间的路径越来越难预测：agent 会自己选工具、改路线，即使没有明显报错也可能一路错下去，所以光看日志和输入输出不够，还要弄清它的推理过程、用了哪些工具、在哪里卡住、又为什么换方法。英伟达产品副总裁 Adel el Hallak 在接受 The New Stack 采访时说，要把运行环境当作收集这些信息的地方，并推动约 140 家公司参与的 SAFE（Secure Agent Findings Exchange）共享 agent 失败经验，像传统软件披露漏洞那样让各家都能修补。对开发者来说，这意味着 agent 出问题不一定换模型就能解决，先弄清楚失败发生在模型、编排还是运行层，才知道该调什么。相关工具的实际开放状态和具体获取方式，原文未说明。