EvolveRouter:面向 Agent 的本地 LLM 路由网关
holny/evolve-router · Stop burning premium model tokens on simple prompts. Save tokens. Spend them where they matter. Local-first self-evolving LLM router with a decision model + feedback flywheel. Judges each request and picks the right model on the fly. 7MB Rust, zero cloud, fully auditable. Works with OpenAI/Anthropic & agents.
EvolveRouter 是一个用 Rust 编写的本地 LLM 路由网关,面向 Agent 场景。它对每个请求按八项信号判定,结合计划计价的成本,用五项因素打分后动态选择模型,并通过反馈飞轮持续改进。项目提供 macOS 菜单栏面板和零构建仪表盘,兼容 OpenAI 与 Anthropic 接口及多种 Agent 客户端,配置为 `auto` 模型即可接入;提示词、会话和遥测数据保留在本机。
评论 · 分享第一个看法