outturn：多租户 Agent 平台的 Rust 运行时基础

idataconnect/outturn · A fast, secure Rust foundation for multi-tenant agent platforms

GitHub原文发布未知首次收录 2026-10-31上架 2026-10-31 07:02

ELI5：它是什么，解决什么问题

outturn 是一个用 Rust 构建的多租户 Agent 平台基础框架，面向需要让每个客户都能运行各自 Agent 的公司。它内置租户隔离、按租户用量归因、在 WebAssembly 沙箱中运行 Agent 代码、默认拒绝的出站访问规则、网关集中保管凭证、每轮签名令牌，以及防止单个租户故障影响其他租户的断路器。项目处于早期开发阶段，接口可能变动，提供本地 Kubernetes 集群的开发与演示流程，以及面向真实部署的密钥与清单生成脚本。

# Rust # Kubernetes # 多租户 # webassembly # Agent 编排

核心能力与快速开始

★ 4 · Rust

能做什么: 提供多租户 Agent 平台的安全与隔离底座：以 workspace 划分租户，Agent 代码运行在 WebAssembly 沙箱中，沙箱不持有凭证；网关保管模型与外部服务凭证；API 持有签名密钥和数据库；出站访问默认拒绝并支持按 workspace 规则；提供按租户的用量归因、每轮签名令牌和租户级断路器。支持接入托管模型（Anthropic、OpenAI、Gemini）或本地 ollama/llama.cpp 模型，并提供本地开发与部署脚本、WIT 定义的 Agent 接口边界和分层测试套件。
适用场景: 适合 SaaS 厂商为每个客户提供独立 Agent 的场景，例如金融应用中按客户对账、货运经纪软件中按经纪商报价和追单、租赁市场中按房东管理客房问答与日历；也适合希望自建内部多租户 Agent 平台、自带租户隔离与安全边界的团队用于原型和开发验证。
项目形态: 开发框架
部署方式: 本地开发运行在本地 Kubernetes 集群（kind、Docker Desktop Kubernetes 或 colima），使用 skaffold 构建部署；生产部署脚本只生成清单和 Secret，实际应用需使用者自行完成。
主要依赖: 本地开发需要容器运行时、本地 Kubernetes 集群、kubectl、skaffold、Node 22 或更新版本、Rust stable（edition 2024）；使用托管模型需要 Anthropic、OpenAI 或 Gemini 的 API key，使用本地模型需要相应算力（README 示例提到 Mac 64GB 内存或 Linux 8GB 显存级别）。重新生成 Agent 接口绑定需额外 Rust 工具链组件。
使用限制: 项目处于早期、活跃开发中，接口可能变化；文档未说明托管模型 API 的具体成本、商用支持范围和性能上限；生产部署仅生成清单，后续应用与运维未说明。
许可证: Apache-2.0
最近推送: 2026-10-30 14:27

官方入门项目文档核对 README 依据 ↗

资料检查：2026-10-31 07:00 · 卡片整理：2026-10-31 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证

相似资源

tsrs：用 Rust 实现 TypeScript 7 类型检查器的替代实现

tsrs 是 TypeScript 7 编译器和语言服务器的 Rust 实现，可作为替代品使用，目标是与上游 TypeScript 达到 100% 一致性，同时降低内存占用并加快类型检查。它提供类似编译器的命令行用法（如 --noEmit）、编辑器集成说明、尚不稳定的 Node API 以及面向 wasm32-wasip1 的 WebAssembly 支持；目前不支持 --init 和 --showConfig。

Dynamo：将多节点 GPU 集群编排为协调推理系统的数据中心级推理栈

Dynamo 是构建在 SGLang、TensorRT-LLM、vLLM 等推理引擎之上的开源数据中心级推理编排层，将这些引擎组织为多节点协调推理系统。它提供分离式预填充/解码服务、KV 感知路由、多级 KV 缓存卸载、SLA 驱动的自动扩缩容、模型权重流式加载与请求迁移容错等能力，面向 LLM、推理、多模态与视频生成等工作负载。项目以 Rust 实现核心性能、Python 提供扩展性，支持容器、PyPI 与 Kubernetes（含 Gateway API 推理扩展）等多种部署方式，并附带内置 recipes 与示例。

Crewship：在自有硬件上运行 AI 编程 Agent 的自托管控制平面

Crewship 是一个用 Go 编写的自托管运行时与控制平面，为每个 AI 编程 Agent 团队提供独立的真实 Linux 容器，可驱动 Claude Code、OpenCode 或通过 Ollama 运行本地模型。它在运行时之外提供任务分解与执行的 Missions、定时 Routines、问题跟踪与分诊、基于角色的访问控制、审计日志、Keeper 治理层、加密备份及清单式 GitOps 管理等能力，代码、数据、对话与记忆均保留在自有硬件上。项目处于开放测试（pre-1.0）阶段，README 明确标注各模块的稳定、早期或未完成状态。

Agent Sandbox：在 Kubernetes 上管理 AI Agent 与强化学习的隔离有状态单例工作负载

Agent Sandbox 是 Kubernetes SIG Apps 下的项目，提供 Sandbox 自定义资源定义（CRD）及控制器，用于以声明式 API 管理长期运行、有状态、单容器的单例工作负载，具备稳定身份、持久存储，以及创建、定时删除、暂停、恢复等生命周期管理。扩展模块提供 SandboxTemplate、SandboxClaim 和 SandboxWarmPool，支持模板复用、从预热池快速认领沙箱。项目自身是沙箱编排器，底层隔离交由 gVisor、Kata Containers 等 Sandbox Runtime（通过 RuntimeClass）负责。适用于 AI Agent 运行时、强化学习与评测、开发环境、Notebook 和有状态单 Pod 服务等场景，并提供 Go SDK、Python SDK 及可选的 Sandbox Router。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。