AI 资源库 · 已整理 4 项
查看与成本管理相关的 AI 资讯、工具、Skill、工作流和开源项目。
LangChain 推出了 LangSmith LLM Gateway，目前处于公开测试阶段。它解决的是生产环境智能体的一个麻烦：智能体调用模型时可能因重试失控产生高额账单，或遇到模型服务商宕机就报错。这个网关夹在智能体和模型之间，统一执行花费上限、速率限制、模型回退和敏感信息（如个人隐私、密钥）脱敏，不用在每个智能体里各写一遍，也不必绑定某一家供应商。工程师可以在组织、工作区、API 密钥、用户四个层级设限额；敏感信息脱敏功能目前只对 Enterprise 套餐开放。
Harness 这家工程公司发现，AI 工具费用涨得飞快，但没人看得清钱花在谁身上、花在哪个模型上。他们用自家的 Harness Cloud Management Agent 把各家 AI 服务商的用量和费用汇总到一处，按开发者、供应商、模型、token 类型拆分展示，还引入「每百万 token 成本」这个效率指标，让开发者能看到自己用得贵不贵。接着他们给每位开发者设了每周预算：用到 90% 先提醒，超过 100% 才停用，而且可以自助申请加预算、按金额分级审批，不用提工单。2026 年 7 月中旬上线后，每百万 token 成本从约 1.80 美元明显下降，总支出也先降后小幅回升；作者认为这说明开发者不是少用了 AI，而是不再拿高价模型干便宜模型的活。以上是该公司自述的效果，文中未给出具体降幅百分比，也未附第三方验证。
Harness 在它的成本管理 Agent 里新增了“AI 预算”功能，把写在纸面上的 AI 花钱规则变成实时能看见的限额。以前很多公司虽然定了 AI 费用政策，却没法知道有没有被执行，往往要等到下个月账单出来才发现超支。现在可以按团队、开发者、模型或项目设预算，每周重置，用到 90% 时提醒，超过 100% 就暂停使用，直到下周重置或有人批准加钱，加预算也能在系统里自助申请。这样超支几天内就能被发现，也方便留出审计记录。目前是早期开放阶段，文中未说明具体收费和全面上线时间。
imrohitagrawal/quorum-ai · Multi-model LLM orchestration with cost approval, source-backed synthesis, disagreement, uncertainty, and degraded-mode disclosure.
Quorum-AI 是一个基于 FastAPI 的研究问答工具：它把同一个问题并行发送给四个 LLM，再经过两轮互评或主持人评审，最后由独立的合成模型给出包含共识、分歧、来源支持、不确定性和建议五项内容的答案。它提供成本预估与分级额度控制（单次软阈值/硬上限、账户日上限、全局日上限），并通过确定性结构评测计算信任分；但信任分默认因评审模型关闭而显示未验证，引用支持仅比对来源标题与链接而不读取页面内容。结果默认不持久化，需要用户手动导出。