aigateway：统一管理和路由多 LLM 提供商 API 请求的网关工具

marouchsail/aigateway · Manage and route API requests between applications and multiple LLM providers with per-client keys, configs, and real-time usage tracking.

GitHub原文发布未知首次收录 2026-09-16上架 2026-09-16 07:02

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

aigateway 是一个可自托管的 AI API 网关，用于在应用与多个 LLM 提供商之间管理和路由 API 请求。它支持为不同客户端分配密钥与配置、通过 ACL 控制访问权限、指定客户端可用的 AI 模型、设置速率限制和日/月配额，并通过实时仪表盘监控请求量、错误和性能。项目以 Go 编写，README 提供了 Windows 平台的下载、安装与配置说明。

# 自托管 # LLM # API # 配置 # Ollama

核心能力与快速开始

★ 0 · Go

能做什么: 支持对接 Gemini、OpenAI、Anthropic、Ollama、LM Studio 等提供商；为每个客户端创建独立条目并分配密钥与可用提供商/模型；通过访问控制列表（ACL）允许或拒绝特定客户端；设置按日或按月计费的速率限制与配额；实时仪表盘展示请求量、错误与性能数据；在仪表盘界面中以表单方式完成配置，无需编写代码；支持配置备份与版本更新且保留原有设置。
适用场景: 为多个应用或客户端统一分配和管理 LLM 提供商的 API 访问权限；按客户端限制可用模型与调用配额以控制成本和用量；集中查看多个 AI 服务的实时请求量、错误与性能；在同一入口下同时接入 Gemini、OpenAI、Anthropic、Ollama、LM Studio 等多种提供商。
项目形态: 可直接使用的工具
部署方式: 自托管；README 提供 Windows 10 或更新版本（推荐 64 位）的下载与安装步骤，通过浏览器访问仪表盘。其他平台部署方式未说明。
主要依赖: Windows 10 或更新版本（推荐 64 位）、至少 4 GB 内存、1 GHz 或更快的处理器、500 MB 可用磁盘空间、用于安装和更新的网络连接、Chrome/Edge/Firefox 等浏览器；需要各 AI 提供商的 API 密钥。其他环境要求未说明。
使用限制: README 未提供开源许可证信息；未说明各 AI 提供商的 API 调用成本与限制；未说明非 Windows 平台的部署支持情况；未说明性能上限与并发能力。
许可证: 未说明
最近推送: 2026-09-16 07:00

官方入门核对 README 依据 ↗

资料检查：2026-09-16 07:00 · 卡片整理：2026-09-16 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

程序员在开发或维护使用多个 LLM 提供商（如 Gemini、OpenAI、Anthropic、Ollama、LM Studio）的应用时，可自托管 aigateway 作为 API 网关，统一管理各提供商的 API 请求路由，为不同客户端分配密钥与配置，通过 ACL 控制访问权限，指定客户端可用的 AI 模型，设置速率限制和日/月配额，并通过实时仪表盘监控请求量、错误和性能。

查看内容依据

aigateway is a self-hosted tool that controls how your AI services work with different clients. It helps you set up limits for use, choose which AI models each client can access, and watch activity with an easy dashboard. It works with providers like Gemini, OpenAI, Anthropic, Ollama, and LM Studio.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

Dossier：自托管的求职管理应用，依据个人档案生成定制简历与求职信并跟踪申请进度

Dossier 是一个自托管的求职管理应用，使用 TypeScript 和 Next.js 构建、以 PostgreSQL 存储数据。它把职业经历集中在一个档案中，生成基础简历；针对具体职位，读取招聘信息、展示与档案的匹配情况，并用档案中的事实起草定制简历和求职信，用户可在聊天中修改并导出 PDF。它提供求职岗位搜索与评分、创业公司职位聚合、可选的每日求职 Agent、Claude 连接器，以及可选的 Gmail 与 Google Calendar 集成，并能用看板和数据表跟踪从草稿到 offer 的全流程。AI 模型可选用 Ollama 或 LM Studio 提供的本地模型，也可选用任意 OpenAI 兼容 API、Anthropic 或 Mistral 的托管模型。

deepworm：基于 LLM 与网络搜索的深度研究智能体工具

deepworm 是一个帮助用户进行深度研究的 AI 工具，支持连接 OpenAI、Google Gemini、Anthropic Claude 和 Ollama 四家 LLM 服务，并提供 DuckDuckGo 网络搜索集成。它可从命令行使用，也可作为 Python 包调用，旨在无需复杂框架或付费 API 的情况下快速获取聚焦的研究结果。

LLMForge：面向 OWASP VulnerableApp 的真实 LLM 漏洞靶场

LLMForge 是 OWASP VulnerableApp 的 AI/LLM 漏洞模块，是一个故意存在漏洞的 FastAPI 应用，接入现有的 VulnerableApp-facade 生态，提供针对本地真实 LLM（通过 Ollama 运行）的攻防实验套件，而非模拟响应。它覆盖多个渐进难度的实验：提示注入（10 关，目标是提取系统提示中的隐藏密钥）、间接提示注入（4 关，外部内容中的隐藏指令）、LLM 编排导致的 BOLA（医疗聊天机器人，3 关）、RAG 上下文投毒（3 关）与 RAG 敏感数据泄露（4 关）。每个关卡通过声明式装饰器框架定义并标注已知攻击向量与载荷，用于自动生成关卡 UI 和与 facade 兼容的漏洞清单。项目定位为教育与防御性安全研究。

SentryClaw：自托管本地 LLM 驱动的 GitHub/GitLab PR 代码审查机器人

SentryClaw 是一个自托管的 AI 代码审查机器人，通过原生 Webhook 接入 GitHub 与 GitLab 的 PR/MR 事件，使用 llama.cpp、Ollama 或 vLLM 等本地 LLM 后端对代码差异进行审查并回帖评论。项目宣称全程运行在自有基础设施内，无需外部 API Key，支持可插拔模型后端、YAML/TOML 自定义审查规则、自动批准琐碎 PR、Diff 过滤、审查缓存、Prometheus 指标、Web 仪表盘与限流等能力，并给出裸机、Docker、Docker Compose 与 Kubernetes 的部署方式。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。