如何在 Harness 中构建模型路由器
这件事讲了什么
LangChain 为开源编码 Agent Open SWE 加了一个「模型路由器」，先判断每个请求有多难，再决定用贵模型还是便宜模型。原来所有任务都交给顶级前沿模型处理，很多简单任务白白多花钱；路由器放在 Agent 的 harness 里，因为这里本来就有任务和领域上下文，通用网关没有。结果是每个编码任务的成本中位数降了 64%，质量没有可测量的下降。对读者的用处是：这篇教程告诉你如何理解任务、挑选模型档位，并在自己的 Agent 里也做类似的省钱路由。
可以使用的工具
文中可用工具
- Open SWE开源编码 Agent，工程师用它提问和请求改代码，也是这次模型路由的落地对象
- LangChain模型无关的通用接口，路由器作为中间件换模型，换新模型只需改一行
- LangSmith查看和探索 Agent 追踪数据，用来分析任务类型、成本和轮次
- LangSmith Custom Apps在 Open SWE 追踪数据上搭小界面做任务探索
- LangSmith Insights对追踪数据做分组归类
- GLM-5.3-Flash路由器里的快速档模型，成本低、速度快
- GPT-5.6 Sol路由器里的均衡档模型
- GPT-6 Astra路由器里的高性能档模型
- Claude Haiku 4.5被 Anthropic 指南举例为许多应用可以从它起步的更快、更便宜模型
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。