推理与部署01
wisent-ai/brama
Brama 是 Wisent 提供的统一模型访问网关,通过一个 OpenAI 兼容 API 与统一身份接入多个模型提供商与订阅。它支持逻辑别名与 best/fast/cheap 等启发式路由、agent 级订阅选择器(any、any-vision-capable、task:<task-name>)、SSE 流式输出、OAuth 订阅凭据刷新、final-use 密钥兑换(Skarbiec 能力插座或桌面内存凭据映射)以及按 token 归属的审计日志。适用于桌面私有网关、Wisent 服务开发者、Jeden 运行时与运维人员的权限最小化与可审计路由场景。
Agent 与自动化02
nshkrdotcom/trinity_coordinator · TRINITY in Elixir (An Evolved LLM Coordinator): route LLM calls via a small-model hidden-state router + Axon coordination head, with Thinker/Worker/Verifier orchestration and policy loop for acceptance-driven completion.
TrinityCoordinator 是 TRINITY 风格本地小模型路由器的 Elixir/Nx 实现:用量化适配后的 Qwen3-0.6B 读取对话记录,提取隐藏态向量,经路由器头映射到 Agent 与角色 logits,再通过可配置的 provider 边界把选定的工作分发给实际 LLM 提供方,并带有 Thinker/Worker/Verifier 编排与验收驱动的完成策略循环。仓库包含 Elixir 运行时、与原 Python 流水线对比的一致性校验工具,以及从干净 clone 上手所需的 Mix 任务;当前处于活跃开发阶段,在 CUDA 上评测集通过 37/37。