Verdict：面向 LLM 调用的故障关闭路由与可验证回执编排

mrnicholasbcarter-code/verdict-core · Fail-closed LLM routing: cheapest qualified model, named drop reasons, receipts.

GitHub原文发布未知首次收录 2026-09-30上架 2026-10-01 09:01

ELI5：它是什么，解决什么问题

Verdict 是一个 Python 编写的 LLM 编排与控制平面：输入一个目标和 git 仓库，先由规划模型把目标拆成小型 DAG 工作节点，再从实时网关证据（模型清单、账号、健康状态、冷却和配额）中构建准入模型集合，为每个节点分配最便宜且合格的路由，在配额、限流、超时或空回答等故障发生时进行同节点故障转移与冷却，并在节点验证、集成校验和独立评审后写入带 SHA-256 摘要的运行回执。它强调封闭失败：没有任何合格候选或重试超过上限时以命名原因 FAIL_CLOSED 并结束为 BLOCKED；被丢弃的候选都有具名理由，不透明的 auto/* 引用不作为候选，付费路由在仍有更便宜合格候选时不会被选中。执行层依赖外部工具 OmniRoute（本地 OpenAI 兼容网关）和 Prime Agent（无头编码 Agent CLI），评审使用 ocr CLI。

# 成本优化 # orchestration # LLM 路由 # 失败转移 # 可验证回执

核心能力与快速开始

★ 1 · Python

能做什么: 将目标规划为带归属文件和验证命令的 DAG；基于实时网关证据（清单、账号、健康、冷却、配额）构建准入模型集合，落选者附具名理由；按能力过滤并为每个节点分配模型，优先已付费订阅额度和免费额度，再考虑按量计费路由；在配额耗尽、限流、超时、空回答等故障时对路由或整个供应商做冷却，并把同一节点改派到其他准入模型；节点通过自身检查和归属检查，合并结果通过集成校验，再由未参与编写的评审者独立评审；结束时生成带事件日志 SHA-256 摘要的回执，可用 verdict run-receipt 重新计算校验，日志被改动会被发现；提供无凭证的离线演示和 dry-run quickstart。
适用场景: 在多次调用多个 LLM 供应商的工作流中控制成本并按证据选择路由；需要为节点级 Agent 任务做故障转移和冷却恢复的编排场景；需要对运行结果生成可校验、防篡改回执的审计需求；需要在控制器重启后复用已验证节点继续推进的长任务；在无 API key 的前提下先通过离线演示了解编排流程。
项目形态: 开发框架
部署方式: 未说明（README 给出本地安装方式 git clone 与 pip install -e .，以及 uv sync --extra dev；执行依赖外部工具 OmniRoute、Prime Agent 和 ocr，未说明其部署与运行条件）
主要依赖: Python 3.10+；示例使用 pip 或 uv 安装；实时运行需通过 OmniRoute 网关接入各供应商（具体硬件、网络与账号要求未说明）
使用限制: 本仓库只是控制平面，执行由外部工具 OmniRoute、Prime Agent、ocr 完成；根控制器故障转移由外部 supervisor 负责，裸启动控制器没有自动替换；节点无准入模型或尝试超过 4 次时会 FAIL_CLOSED 并 BLOCKED，不会无限重试；README 说明本地可复现的 proof 是单次运行，其中评审模型与控制器家族相同，恢复是 VM 重启后而非注入的控制器崩溃；fixture 数据无法满足实时证明；未说明 API 成本与配额限制细节。
许可证: MIT
最近推送: 2026-09-30 06:46

官方入门核对 README 依据 ↗

资料检查：2026-09-30 07:00 · 卡片整理：2026-10-01 09:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

程序员可将 Verdict 作为 LLM 编排与控制平面：输入目标和 git 仓库后，它把目标拆成 DAG 工作节点，从实时网关证据中构建准入模型集合，为每个节点分配最便宜且合格的路由，在配额、限流、超时或空回答等故障时进行同节点故障转移与冷却，并在节点验证、集成校验和独立评审后写入带 SHA-256 摘要的运行回执，用于代码编写、测试与排错工作流。

查看内容依据

Verdict plans a DAG, admits models from live evidence, runs parallel workers with same-node failover, verifies each node, runs an independent review, then writes a tamper-evident receipt.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

OrchestralFlow：面向 Claude Code 的多智能体编排模式框架

OrchestralFlow 是一个以「管弦乐总谱」为隐喻的 Claude Code 智能体编排框架，把 /goal 声明解析成动态总谱，按技能、子代理与代理团队拆分任务，并通过成本阶梯（Tutti / Soloist / Conductor 三档代理）做成本感知的任务路由。它宣称包含 UltraCode 提示压缩层、多语言意图支持、运行中代理热替换与安全检查点等机制，用于单代理向多代理协作的规模化扩展。仓库自述其为概念性编排模式与文档集合，并非独立可执行的软件包，成本阶梯机制为模拟模型。

Ripple HUD：为 Claude Code 更低成本模型注入前沿模型工作方式的插件

Ripple HUD（前身 fable-mode）是一个 Claude Code 插件，通过约 1500 token 的行为层让 Haiku、Sonnet、Opus 等较便宜模型采用类似前沿模型的工作方式：自动分流任务强度（lite/full/deep）、先理解再执行、执行后验证、保持输出精简、控制 token 消耗。它还提供终端状态栏 HUD（显示上下文窗口与用量限额）、基于本地会话记录的习惯纠正闭环、用项目状态文件替代长对话历史，并可将 AGENTS.md 导出到 Cursor、Codex、Zed 等工具。仓库附带的 A/B 评测显示 Sonnet 加装插件后在 6 项评分任务上与对照模型持平，成本更低；插件本身是行为层，不能增加模型原生能力。

model-ladder：为 Claude Code 与 Codex 插件按任务难度分级路由模型并验证结果

model-ladder 是 Claude Code 和 Codex 的插件，通过 Router、Worker、Verifier 三个环节工作：先由路由器为每个编码任务挑选成本与能力匹配的模型及 effort 等级，再由 Worker 在隔离的 Git worktree 中执行，失败时按阶梯升级到更强模型或更高 effort，最后由 Verifier 用项目测试命令校验，通过后才交付结果。它还提供用量守卫与交接文档、任务状态面板、并发运行冲突检测、可配置的 worker/verifier 技能指令等能力。安装需 Git 与 Node.js 20+，并在 Git 仓库中运行，具体模型与测试条件需自行配置。

Toolroll：面向无人值守编程智能体的控制平面

Toolroll 是一个运行在本地机器上的编程智能体控制平面，支持 Claude Code、Codex、Gemini 等编码代理。它把任务排队，让用户一次性批准确切的范围与权限，由规划器读取仓库后起草目标、边界、验收标准与执行计划；长时间运行的代理完成后返回包含 diff、通过检查项和截图的 Ready 结果，仅在需要人工决策时打断。项目还提供 Flows 画布、触发器（GitHub、Linear、定时、Webhook）、无 AI 的脚本步骤、基于 Jev 的分流、手机端审批草稿、统一项目组合聊天与 CLI 操作等能力。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。