本地路由

EvolveRouter：面向 Agent 的本地 LLM 路由网关

holny/evolve-router · Stop burning premium model tokens on simple prompts. Save tokens. Spend them where they matter. Local-first self-evolving LLM router with a decision model + feedback flywheel. Judges each request and picks the right model on the fly. 7MB Rust, zero cloud, fully auditable. Works with OpenAI/Anthropic & agents.

EvolveRouter 是一个用 Rust 编写的本地 LLM 路由网关，面向 Agent 场景。它对每个请求按八项信号判定，结合计划计价的成本，用五项因素打分后动态选择模型，并通过反馈飞轮持续改进。项目提供 macOS 菜单栏面板和零构建仪表盘，兼容 OpenAI 与 Anthropic 接口及多种 Agent 客户端，配置为 `auto` 模型即可接入；提示词、会话和遥测数据保留在本机。