GarageAI:面向欧洲的本地 GPU 推理交易市场,通过统一 OpenAI 兼容 API 调用
magnusfroste/garageai · A marketplace for local AI inference in Europe: garage owners offer GPUs they already own, buyers call them through one OpenAI-compatible API, and owners get paid per token. NetBird mesh + LiteLLM gateway in the EU.
GarageAI 是一个本地 AI 推理交易市场:拥有 GPU 的车库主通过 GarageAI Bridge 在用户态建立 WireGuard 隧道把算力接入网关,买家通过位于欧盟 VPS 上的 LiteLLM 网关获得 OpenAI 兼容 API,按 token 预付费调用;请求经 NetBird 网状网络(UDP 被阻断时的回退方案)路由到各家车库,支持模型 Pool 与指定车库两种购买方式,并具备自动故障转移与按 key/模型计费能力。项目强调本地化与欧洲数据主权,车库不暴露于公网,无需开放入站端口。