Kev:可自行训练与部署的轻量决策模型家族
jaredpalmer/kev · Jev-like family of decision models built on top of Qwen3.5/3.8 you can train and run on your own
Kev 是一组基于 Qwen3.5/3.8 构建的小型决策模型(0.8B、4B、9B、27B),用于在同一请求中回答是/否、单选和评分类问题,并输出经校准的概率分布。项目提供预训练权重与本地训练流程,支持在自己的标注数据上微调、在 CUDA/Apple Silicon 上本地推理,并能通过 Modal 一键部署为 HTTPS 端点;其 API 与 TypeSafe System One 兼容,现有 Python SDK 可直接迁移使用。
评论 · 分享第一个看法