模型与多模态01
jaredpalmer/kev · Jev-like family of decision models built on top of Qwen3.5/3.8 you can train and run on your own
Kev 是一组基于 Qwen3.5/3.8 构建的小型决策模型(0.8B、4B、9B、27B),用于在同一请求中回答是/否、单选和评分类问题,并输出经校准的概率分布。项目提供预训练权重与本地训练流程,支持在自己的标注数据上微调、在 CUDA/Apple Silicon 上本地推理,并能通过 Modal 一键部署为 HTTPS 端点;其 API 与 TypeSafe System One 兼容,现有 Python SDK 可直接迁移使用。
推理与部署02
featherless-ai/simple-jev · Turn any open model into a classifier/jev endpoint
Simple Jev 让兼容的开源模型(如 Hugging Face 上的 Qwen、Gemma、Laya 系列)无需额外训练分类头即可用于结构化分类与评分。请求包含共享上下文(state 或 messages)和若干问题,服务端读取模型在候选标签上的 next-token logits,自行构造 JSON 响应,返回 choice(多选一)、score(量表打分)和 noul(真值/支持度判断)三类结果,输出不依赖模型生成文本。项目包含基于 Hugging Face Transformers 与 PyTorch 的本地服务、供其他推理实现复用的 Python common 规则模块、以及带 JevBench 打分、文本/决策与视觉套件、提示格式搜索的评测框架。
工具与应用03
OpenAI 在年度 DevDay 大会上发布了一个名为 Decisions API 的新接口,用来专门做“从固定选项里挑答案”这类任务。以前开发者用聊天模型加提示词来做,结果慢、置信度也不准;或者自己训练小分类器,但每次改标签都要重新训练。这个 API 基于 OpenAI 最小的 Luna 模型,开发者只要给出问题、候选答案和背景,它就能在约 150 毫秒内返回带置信度的结果,适合内容分类、请求路由或帮智能体选下一步。目前它只在小范围预览,几天后才会大范围开放,每次调用价格、单次能处理多少候选答案、能否用自己的数据微调都还没说。
文中可用工具
- Decisions APIOpenAI 新推出的决策接口,能从预设答案中快速返回带置信度的选择,适合分类、路由或给智能体选下一步。目前仅限小范围预览。
- LunaOpenAI 当前产品线中最小、最便宜的模型,Decisions API 就建立在它之上。
- Moderation APIOpenAI 已有的内容审核接口,返回各类别分数而非文字,文中作为决策模型的类比提到。
- JevTypeSafe 推出的决策模型,文中称其突然流行,促成了 OpenAI 此次回应。原文未说明具体用途细节。