Tokenomics:AI Agent 浪费 Token 的五种方式 | Semgrep
AI 模型的价格在下降,但企业的 AI 账单却在上涨。Semgrep 这篇文章解释了原因:现在的 AI Agent 不只回答一次问题,而是会推理、检查、重试,一步接一步地消耗 Token,每一步都要花钱。作者提出要管理“Tokenomics”(Token 的采购、消耗与预算管理),并指出很多消耗其实是被浪费的。文中给出五种浪费方式,举了两个例子:一是让 LLM 扫描整个代码仓库找安全漏洞,其实可以用传统静态分析先过滤,研究显示这样能把成本从约 23700 美元降到 1461 美元,省了 96% 以上;二是让 AI 反复做同一件事,不如让它一次生成可复用的检测规则,有研究用 AI 生成 96 条 CodeQL 查询,花费不到 13 美元,发现了 50 个已知漏洞。对读者的用处是:省钱的思路不是只比模型价格,而是分清哪些任务根本不需要 LLM,让便宜、确定的工具干它们擅长的活,把昂贵的推理留给真正需要判断的问题。文章为观点类分析,除引用两项研究外未说明自身的发布状态或可用产品细节。
文中可用工具
- OpenAntKnostic 的漏洞发现流水线,用静态可达性分析缩小 LLM 需要检查的范围以节省成本
- CodeQL代码查询工具,研究中由 LLM 生成检测查询,代替直接扫描整个仓库
评论 · 分享第一个看法