Subquadratic 推出决策模型 SubQ Snap,号称上下文窗口达 Jev 的 12 倍
旧金山初创公司 Subquadratic 发布了一款叫 SubQ Snap 的决策模型,专门从固定答案里挑选项,比如帮 AI 代理决定下一步用哪个工具、该看哪些文件。以往这类决策模型只能装下 3.2 万字的上下文,信息一多就得切块或改用更贵的大模型;Snap 用自家稀疏注意力架构把窗口临时扩到 38.4 万字,能一口气看完整个代码库和日志。公司内部测试显示,它在长文本检索和多文档推理等多项对比中超过先行者 Jev,但目前只是公开预览,算力受限暂不能开放百万级窗口,所有成绩也都未经外部复核。
文中可用工具
- SubQ SnapSubquadratic 新推出的决策模型,可从预设答案中选结果,公开预览版支持 38.4 万 token 上下文。
- JevTypeSafe 早先推出的决策模型,每决策上下文限制 3.2 万 token,Snap 在多项测试中与之对比。
- Subquadratic Sparse AttentionSubquadratic 的稀疏注意力架构,用于降低长输入处理成本,使注意力需求随上下文线性增长。
- OpenAI Decisions APIOpenAI 提供的决策接口,被 Subquadratic 列为对企业客户相关的参照对象之一。
评论 · 分享第一个看法