推理与部署工具
Brama:用统一端点聚合所有模型与提供商的 LLM 网关
wisent-ai/brama
ELI5:它是什么,解决什么问题
Brama 是 Wisent 提供的统一模型访问网关,通过一个 OpenAI 兼容 API 与统一身份接入多个模型提供商与订阅。它支持逻辑别名与 best/fast/cheap 等启发式路由、agent 级订阅选择器(any、any-vision-capable、task:<task-name>)、SSE 流式输出、OAuth 订阅凭据刷新、final-use 密钥兑换(Skarbiec 能力插座或桌面内存凭据映射)以及按 token 归属的审计日志。适用于桌面私有网关、Wisent 服务开发者、Jeden 运行时与运维人员的权限最小化与可审计路由场景。
核心能力与快速开始
★ 0 · HTML
- 能做什么
- 提供 OpenAI 兼容的 chat completions、embeddings、moderations 与模型目录;在同一路由决策上原生支持 Anthropic Messages 和 OpenAI Responses 两种第一方入口;三种对话格式均支持 SSE 流式输出,重试仅限首字节之前;支持 canonical provider/model 路由与部署级逻辑别名(含 -best);支持 agent 级选择器 any、any-vision-capable、task:<task-name>;支持 Claude Code、Codex、Kimi 订阅 OAuth 刷新;通过 Skarbiec 能力插座或独立桌面零化内存凭据映射完成 final-use 密钥兑换;提供只读 stdio MCP 接口、健康检查、统计与硬件检测;支持认证、配额、限流失败下的有界凭据轮换;维护仅含退役标记与任务质量证据的追加式运维日志。
- 适用场景
- 桌面用户在本机运行私有 Brama 进程并添加自有提供商凭据或订阅;Wisent 服务开发者用统一 OpenAI 兼容 API 和稳定逻辑别名替代各提供商凭据与专用客户端;Jeden 运行时通过 agent 绑定的 HMAC 身份发现并仅消费委派给该 agent 的订阅;运维人员发布不可变运行时、授予有限的 Skarbiec 能力、配置别名与客户端白名单,并在不暴露密钥的情况下诊断路由。
- 项目形态
- 可直接使用的工具
- 部署方式
- 支持 macOS 或 Linux 上的 brama detect 与只读 MCP 检测;OpenAI 兼容 HTTP 网关运行于 Linux 服务主机,也支持认证回环;部署管理的本地推理路由需 Linux GPU 目标并经 Tailscale 接入;已发布 linux-amd64 与 darwin-arm64 的不可变发布包;服务启动前需用 bin/provision-skarbiec-trust 生成该安装的 Skarbiec 信任材料。
- 主要依赖
- 运行时(发布包或源码构建):Git 与 Cargo.lock 对应的 Rust 工具链(生产构建使用 Dockerfile 中的固定 builder)。网关运行需要提供商能力配置于 Skarbiec;agent 订阅路由需要 Jeden HMAC 身份与委派能力;账号与订阅 API 需要 Wisent Supabase JWT 及 BRAMA_WISENT_AUTH_URL、BRAMA_WISENT_AUTH_ANON_KEY 环境变量。具体硬件与 GPU 要求未说明。
- 使用限制
- 不运行任何 agent 运行时(Jeden 为 agent 运行时,Brama 只发起提供商 HTTP 请求);不启动或监管本地推理引擎;不作为通用密钥存储、身份提供商、计费台账或提供商账号系统记录;不从提示文本推断任务意图(task: 仅使用已记录且显式命名的质量证据);不会跨产品、agent、提供商账号、凭据或存储权威静默回退;不负责生产 DNS、入口、主机注册、编排或 Skarbiec 授权;流一旦提交后不再续传,提供商失败即结束该流。1.0 契约稳定性尚未声明。
- 许可证
- Apache-2.0
- 最近推送
- 2026-10-04 13:28
资料检查:2026-10-05 07:00 · 卡片整理:2026-10-05 07:00
卡片由 AI 根据仓库资料整理,未进行安装或运行验证 · 本次更新未完成,保留上次成功内容
职业应用
程序员
程序员可通过 Brama 的统一 OpenAI 兼容 API 接入多个模型提供商,使用逻辑别名与 best/fast/cheap 启发式路由调用模型,并利用 SSE 流式输出、OAuth 订阅凭据刷新和按 token 归属的审计日志进行开发与排错。
查看内容依据
Brama 是 Wisent 提供的统一模型访问网关,通过一个 OpenAI 兼容 API 与统一身份接入多个模型提供商与订阅。
由 AI 根据来源材料整理,未进行安装或运行验证
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。