Simple Jev:把开放模型变成结构化分类与评分端点
featherless-ai/simple-jev · Turn any open model into a classifier/jev endpoint
Simple Jev 让兼容的开源模型(如 Hugging Face 上的 Qwen、Gemma、Laya 系列)无需额外训练分类头即可用于结构化分类与评分。请求包含共享上下文(state 或 messages)和若干问题,服务端读取模型在候选标签上的 next-token logits,自行构造 JSON 响应,返回 choice(多选一)、score(量表打分)和 noul(真值/支持度判断)三类结果,输出不依赖模型生成文本。项目包含基于 Hugging Face Transformers 与 PyTorch 的本地服务、供其他推理实现复用的 Python common 规则模块、以及带 JevBench 打分、文本/决策与视觉套件、提示格式搜索的评测框架。
展开详情收起详情:Simple Jev:把开放模型变成结构化分类与评分端点
评论 · 分享第一个看法