提升长时间智能体运行的 token 效率 · Cursor
这件事讲了什么
Cursor 团队说，他们优化了智能体（也就是能自己连续干活的 AI）跑长任务时的“上下文”组织方式：过去每轮请求都要重复带上大量系统提示和工具说明，费用高。现在他们精简了约 66% 的系统提示，把低频工具改成按需加载，并在 GPT-5.6 之后利用 OpenAI API 显式标记缓存断点，还改为每十行才标一次行号、更谨慎地使用子智能体。结果是整体 token 成本降低 7%，冷缓存未命中率降低 20%，缓存读取 token 减少 1.6%，智能体质量没有下降。这些经验也被用到了 Grok Bot 上。
可以使用的工具
文中可用工具
- CursorAI 编程智能体，本次效率优化发生在它的 harness 上
- GPT-5.6OpenAI 的模型版本，从它开始 API 允许客户端显式标记缓存断点
- OpenAI API提供模型调用接口，支持显式缓存断点以复用请求前缀
- Grok BotCursor 团队把 harness 优化经验应用到的另一个智能体产品
- MCP 工具外部工具接入协议下的工具，此前已被改为动态上下文按需加载
- Read 工具Cursor 智能体读取文件的工具，行号标注从每行改为每十行一次
- ask_question保留在静态上下文中的工具，部分模型容易幻觉调用它
- create_plan规划模式中保留在静态上下文里的工具
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。