模型与多模态AI 资源
Strands Decider：面向智能体工作流的快速决策模型
strands-labs/strands-decider · A small, fast decision model, or system one model, for agentic workflows. Pick between options or rate on a scale faster than an LLM, with a calibrated confidence on every decision.
ELI5：它是什么，解决什么问题
Strands Decider 是一类“系统一”决策模型，不生成自由文本，而是在给定选项之间做选择或对内容按量表打分。它基于 Qwen3.5-2B 主干，去掉语言建模头并替换为约百万参数的指针头，单次前向即可输出答案及置信度，适合智能体工作流中模型路由、工具选择、参数校验、分流和护栏等快速判断场景。项目提供 CLI 与 HTTP 服务两种使用方式，并公开了架构、评测和训练等相关文档。
核心能力与快速开始
★ 195 · Python
- 能做什么
- 支持三类问题：noul（是/否）、choice（从 N 个选项中选一个）和 score（按有序量表打分），可由同一次请求组合提问；每个决策都带校准置信度，用于判断是否需要转人工或进一步确认。基于 1.9B 参数的 Qwen3.5-2B 主干，去掉语言建模头并替换为约百万参数指针头，采用 rank-16 LoRA 适配，单次前向、无生成解码循环。提供 CLI（ask 子命令）和 HTTP 服务（strands-decider serve，/v1/systemone 接口）两种调用方式，支持 cuda、mps、cpu 以及 Apple silicon 上的 mlx 设备；同一段文本可一次读取、多个问题复用，降低多问成本。
- 适用场景
- 适合智能体工作流中的快速判断：模型路由（选择适合任务的 LLM）、工具选择（决定智能体下一步调用哪个工具）、参数校验（执行前核查工具调用参数）、分流（把请求路由到对应团队或队列）、护栏（接地检查、安全分类、策略分类）、评测（低成本给模型输出打分或判断回答是否充分），以及混合智能体（由 LLM 处理困难决策、由 decider 处理常规决策以降低成本和延迟）。README 还提供了在 Strands 智能体 before_tool_call 中根据两个是/否判断来拦截天气工具调用的示例。
- 项目形态
- 模型
- 部署方式
- 未说明。README 提供 CLI 与 HTTP 服务两种运行方式，以及 cuda、mps、cpu、mlx 设备选项，但未给出完整的部署配置说明。
- 主要依赖
- 使用 CLI 需 pip install strands-decider。训练入口运行在带 NVIDIA GPU 的 Linux 或 WSL2 主机上，单卡 RTX 3090（24 GiB）约 11 小时，8 张 H100 使用 FAST=1 约 1 小时 10 分钟；MLX 需安装 mlx extra。其余硬件与依赖细节见 training/README.md。
- 使用限制
- README 自述评测集规模有限：JevBench v1 公开集仅 231 个任务，v17 配方六次重训的标准差为 3.2 个任务，因此两次单次运行差距约在 10 个任务以内应视为未决。v20 在 4096 token 窗口下得 169/231，未超过 v19 的 168，且四项预测未达成。置信度低于 0.9 时建议人工确认或向人询问。模型架构与训练配方仍处于研究迭代阶段，参考模型为 v19。
- 许可证
- Apache-2.0
- 最近推送
- 2026-10-03 05:20
资料检查：2026-10-03 07:00 · 卡片整理：2026-10-03 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。