模型进展01
旧金山初创公司 Subquadratic 发布了一款叫 SubQ Snap 的决策模型,专门从固定答案里挑选项,比如帮 AI 代理决定下一步用哪个工具、该看哪些文件。以往这类决策模型只能装下 3.2 万字的上下文,信息一多就得切块或改用更贵的大模型;Snap 用自家稀疏注意力架构把窗口临时扩到 38.4 万字,能一口气看完整个代码库和日志。公司内部测试显示,它在长文本检索和多文档推理等多项对比中超过先行者 Jev,但目前只是公开预览,算力受限暂不能开放百万级窗口,所有成绩也都未经外部复核。
文中可用工具
- SubQ SnapSubquadratic 新推出的决策模型,可从预设答案中选结果,公开预览版支持 38.4 万 token 上下文。
- JevTypeSafe 早先推出的决策模型,每决策上下文限制 3.2 万 token,Snap 在多项测试中与之对比。
- Subquadratic Sparse AttentionSubquadratic 的稀疏注意力架构,用于降低长输入处理成本,使注意力需求随上下文线性增长。
- OpenAI Decisions APIOpenAI 提供的决策接口,被 Subquadratic 列为对企业客户相关的参照对象之一。
行业动态02
Workday 把 AI 助手 Sana 放到了 HR、财务和 IT 软件的首屏。Sana 的界面不是提前写死的,而是根据你的问题实时“拼”出来:问工资就弹工资卡片,请假就出日期选择器。背后用的是 TypeSafe 的 Jev——它不生成文字,只负责从最多 255 个设计组件里挑一个,回答只要 70 到 500 毫秒,所以界面能边打字边出现。Sana 已经可用,管理员可以选是否设为默认;Workday 也把 TypeSafe 列为可以处理客户数据的子处理商,Jev 只跑在托管 API 上、数据在美国处理、支持零数据保留。
文中可用工具
- SanaWorkday 的 AI 助手,现在是 HR、财务和 IT 软件的新首页
- JevTypeSafe 的决策模型,从预定义组件里挑选来实时拼出用户界面
- CopilotKit开源框架,为应用添加 AI 副驾驶;有示例用 Jev 选择显示哪个预置面板
- json-renderVercel Labs 的框架,从开发者定义的组件渲染 AI 生成的界面;正在测试 Jev 模式
- Claude Opus 5对比测试中使用的模型,准确率略高但更慢更贵
- OpenRouter博客中进行了对比测试,使用 Banking77 数据集评估 Jev
- BanKing77意图分类测试数据集,用于对比 Jev 与 Claude Opus 5 的表现
- MCP AppsModel Context Protocol 扩展,把交互式界面带入 Claude 和 ChatGPT;文中未提及 Workday 使用
- A2UIGoogle 的规范,让智能体描述界面由宿主应用渲染;文中未提及 Workday 在此次发布中使用
工具与应用03
安全平台 Harness 的 AppSec 团队用自研决策模型 Jev 替换了原来生成式大模型做的「是/否判断」环节,用来识别客户 API 里哪些在和 LLM 通信。原来这条流水线要先用两次 LLM 摘要、再做分类,成本高、延迟大,而且模型自报的置信度几乎不能用来判断对错。换成 Jev 后,系统不再让模型写文字,只输出一个概率:每条 API 的判断成本比原流水线降约 1200 倍,比单次 LLM 方案降约 150 倍;出错的样本都落在 0.3–0.8 的不确定区间,只占 3.4%。对读者来说,这提供了一种思路:把流水线中重复的「判断」和「生成」拆开,用专门的决策模型替代,能大幅降本,同时保留可回滚的接口。
文中可用工具
- Jev专门做是/否判断的决策模型,输出校准过的概率而不是生成文本
- Harness文中提到的 AppSec 安全平台,运行该分类流水线
行业动态04
这是 Spring 社区布道师 Josh Long 的每周通讯。他先分享了自己排队三小时买月饼过中秋的趣事,然后介绍了本周 Spring 生态的几个更新。最引人关注的是一个叫 Jev 的新模型,据说做决策特别快,适合放在 AI 智能体系统的外层路由环节,Spring AI 负责人 Christian Tsolov 为此写了文章。此外,Spring Tools 5.4.0 发布,Craig Walls 写了新一篇 Spring AI 教程讲对话记忆怎么只记重点,还有人分享了 Spring Boot 里 EnvironmentPostProcessor 和 Spring Security 的用法。最后,Josh Long 正在写一本免费开源的 Spring Security 书,还没完成。
文中可用工具
- Jev一种据称决策速度极快的模型,适合用于 AI 智能体框架的外层路由
- Spring Tools已发布 5.4.0 版本,原文未说明具体用途
- Spring AI用于给 AI 应用添加对话记忆等能力的框架,原文提到其教程系列
- Spring Batch新增了基于 MongoDB 的作业仓库支持,用于批量处理任务
- Spring Boot原文提到其 4.1 版本的 Spring Batch MongoDB 支持以及 EnvironmentPostProcessor
- Spring Security用于保护各类工作负载的安全框架,作者正在为其写免费开源书籍
评测与安全05
spring-ai-community/spring-ai-typesafe · A Java SDK for the TypeSafe AI JEV API, & Spring AI TypeSafe integrations.
该项目为 TypeSafe AI 的 System One(jev)API 提供 Java 客户端,基于 Spring RestClient 与 Jackson 3 构建,并提供 Spring AI 集成,可作为模型即评审、护栏、RAG 后处理器与工具索引使用。其核心思路是将状态与一组类型化问题提交给 API,并行获得结构化答案(Noul、Choice、Score),而非文本生成。项目包含 typesafe-java-sdk、typesafe-spring-ai、spring-ai-starter-typesafe、typesafe-bom 及示例模块。
模型进展06
TypeSafe 这家公司隐藏研发两年后,带着 DCVC 领投的 4000 万美元种子轮融资亮相,发布了首个模型 Jev。普通聊天大模型是一个字一个字地往外蹦,对话很自然,但让软件等它做判断就太慢;Jev 不写文字,只做决定——开发者给它结构化的问答题,它直接返回带概率的选项或数值,软件可以据此处理“不确定”。据称它比普通 LLM 快 20 到 200 倍、便宜 40 到 400 倍,输出 token 免费,上线 AI Gateway 后 24 小时内成为采用最快的模型。对读者的用处是:以后应用里需要“做个判断”的地方,可以调用 Jev 而不是塞一个聊天模型进去。
文中可用工具
- JevTypeSafe 推出的文本模型,接收结构化问题并返回带概率的类型化决策,供软件在代码中判断和选择
- AI GatewayVercel 的模型接入网关,Jev 在此上线并成为采用最快的模型
- RLCDTypeSafe 为 Jev 开发的训练算法,全称“校准决策强化学习”,让模型输出带概率的可靠决策