AI 资源库 · 已整理 3 项
查看与成本治理相关的 AI 资讯、工具、Skill、工作流和开源项目。
这篇文章讨论了一个常见现象：工程师常常不关注云账单，不是因为不在乎，而是因为账单数据藏在财务系统里，和他们日常写代码、发版本的工作完全脱节。于是当月底账单超支时，财务发来一堆看不懂的资源编号，工程师也没有动力去查。对于 AI 相关花费，比如模型调用和编码工具的费用，这个问题更严重，因为没法像给服务器打标签那样给每一次提问打标签。文章建议把成本信息提前放进开发流程里：提交代码时自动显示这次改动会让每月多花多少钱，并设置规则自动关掉闲置资源。这样工程师就能在做决定时顺手考虑成本，而不是事后被追着算账。文中提到 Harness 的 Cost Management Agent 作为解决工具，但具体效果和实施细节原文没有展开说明。
Mattbusel/llm-bench · CLI that benchmarks LLM APIs: run your prompts concurrently against OpenAI and Anthropic models and compare p50/p99 latency, tokens per second, cost and success rate as a table or JSON.
llm-bench 是一个用 Rust 编写的命令行工具，把同一批提示词并发发送给多个模型（OpenAI、Anthropic，以及 Ollama、vLLM、LM Studio 等 OpenAI 兼容服务），并以表格或 JSON 输出 p50/p99 延迟、每秒 token 数、单次与总成本、成功率等指标，帮助使用者在真实网络和自己提示词条件下比较不同模型的快慢与费用。内置价格表可用 llm-bench models 查看，非流式请求且不单独测量首 token 时间。
这是一篇面向平台工程和 DevOps 团队的指南性文章，讲的是怎么在 2026 年把云账单降下来。文章指出，很多云资源被闲置或超额配置，会造成浪费；数据显示 AI 相关支出中约有 26% 被浪费。解决思路分四步：先搞清楚钱花在哪些团队和业务上，再找出闲置或配置过大的资源，在调整容量前先评估对可靠性的影响，最后用自动关停、自动扩缩容、预算和异常告警等手段让节省持续下去。文中给了 10 条具体策略，也包括 Kubernetes 安全缩容和提交折扣等做法，并附有 GE Vernova 省下 50.4 万美元、Tyler Technologies 年化节省 120 万美元等例子。文中还提到 Harness 成本管理代理（Cost Management Agent）可用于自动分摊成本，但文章只是介绍策略，并未说明这些工具目前的开放状态。