AI 资源库 · 已整理 2 项

model-router

查看与model-router相关的 AI 资讯、工具、Skill、工作流和开源项目。

Brama:用统一端点聚合所有模型与提供商的 LLM 网关

wisent-ai/brama

Brama 是 Wisent 提供的统一模型访问网关,通过一个 OpenAI 兼容 API 与统一身份接入多个模型提供商与订阅。它支持逻辑别名与 best/fast/cheap 等启发式路由、agent 级订阅选择器(any、any-vision-capable、task:<task-name>)、SSE 流式输出、OAuth 订阅凭据刷新、final-use 密钥兑换(Skarbiec 能力插座或桌面内存凭据映射)以及按 token 归属的审计日志。适用于桌面私有网关、Wisent 服务开发者、Jeden 运行时与运维人员的权限最小化与可审计路由场景。

☆ 收藏查看来源 ↗

TrinityCoordinator:基于小型模型隐藏态路由的 TRINITY 式 LLM 协调器

nshkrdotcom/trinity_coordinator · TRINITY in Elixir (An Evolved LLM Coordinator): route LLM calls via a small-model hidden-state router + Axon coordination head, with Thinker/Worker/Verifier orchestration and policy loop for acceptance-driven completion.

TrinityCoordinator 是 TRINITY 风格本地小模型路由器的 Elixir/Nx 实现:用量化适配后的 Qwen3-0.6B 读取对话记录,提取隐藏态向量,经路由器头映射到 Agent 与角色 logits,再通过可配置的 provider 边界把选定的工作分发给实际 LLM 提供方,并带有 Thinker/Worker/Verifier 编排与验收驱动的完成策略循环。仓库包含 Elixir 运行时、与原 Python 流水线对比的一致性校验工具,以及从干净 clone 上手所需的 Mix 任务;当前处于活跃开发阶段,在 CUDA 上评测集通过 37/37。

☆ 收藏查看来源 ↗