开源模型已跨过临界点
这件事讲了什么
LangChain 团队用 Deep Agents 测试框架跑了一批开放权重模型,发现 GLM-5 和 MiniMax M2.7 在文件操作、工具调用、指令遵循这些智能体核心任务上,已经和 Claude Opus 4.6、GPT-5.4 等闭源顶级模型打得差不多。过去用闭源大模型跑智能体,又贵又慢:每天输出 1000 万 token,Opus 4.6 大约要 250 美元,MiniMax M2.7 只要约 12 美元,一年差出近 8.7 万美元。开源模型还能跑在 Groq、Baseten 这类专门优化的推理服务上,延迟和吞吐都更好。不过这还只是早期评测结果,团队正在继续扩充测试集;普通用户暂时用不上,主要意义是给要做智能体产品的开发者一个更便宜、更快的选择。
可以使用的工具
文中可用工具
- Deep AgentsLangChain 的智能体测试与运行框架,用来统一跑评测和部署智能体
- GLM-5z.ai 推出的开放权重模型,本次评测中表现接近闭源顶级模型
- MiniMax M2.7MiniMax 推出的开放权重模型,成本最低,本次评测中表现接近闭源顶级模型
- Ollama本地运行模型的工具,可跑私有化开源模型
- vLLM高性能推理引擎,用于自行部署开源模型
- Baseten模型托管推理服务,本次用于跑 GLM-5
- OpenRouter模型调用聚合平台,提供 MiniMax M2.7 等模型的调用
- Groq专注低延迟高吞吐的推理服务商
- Fireworks面向生产场景的模型推理服务商
- SWE-Rebench软件工程类公开评测基准
- Terminal Bench 2.0终端操作类公开评测基准
- LangSmithLangChain 的评测与可观测平台,公开分享本次评测运行结果
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。