AI 资源库 · 已整理 4 项

长上下文

查看与长上下文相关的 AI 资讯、工具、Skill、工作流和开源项目。

multistep_reasoning:面向 LLM 的多步推理编排工具,将提示拆分为子任务并汇总结果

xgenadam/multistep_reasoning · A reasoning harness for LLM's

该项目是一个 Python 库,把单条用户提示拆分为多个子任务,分别执行后合并为一个可修订的 Document。每轮遵循 decompose → execute → compose → render 流程,后续子任务不接收完整文档,而是通过大纲、滚动摘要和可查询的 DocumentOracle(列出、读取、搜索、提问)获取上下文,使模型在输出前可以回改先前内容。项目目标是让长任务处理超出单次上下文窗口的材料。仓库还包含 oobabooga 聊天扩展(当前已知启动问题)、单元测试与 journal 记录;模型端点无默认值,需显式配置。

☆ 收藏查看来源 ↗

Muse Wonder 对决 Claude Fable 5.1:Meta 新模型比我预想的更接近

Meta 在 10 月 12 日发布了 Muse Wonder,主打个人和专业 agent 任务,还号称在自研记忆测试 MemoryBench 上拿第一,完整版在 DeepSWE 等编程测试中领先。作者拿标准版和 Anthropic 的 Claude Fable 5.1 比了三项硬任务:修 agent 缺陷、排查故障、长对话记忆。价格上 Muse Wonder 每百万 token 输入 4 美元、输出 20 美元,比 Fable 5.1 的 10/50 便宜六成,但实测中它用的 token 几乎多一倍,三次总花费反而更高(2.24 对 1.85 美元)。成绩互有胜负:故障排查都满分,修缺陷 5/6 对 6/6,记忆测试 Muse 25/25 而 Fable 因被自己的“网络安全”过滤器误拦、50 轮里拒绝 34 轮而拿 0 分。作者只跑了一轮、用默认推理档,结论仅供参考;Muse Wonder 完整版只在 Muse Code 最高订阅档开放。

文中可用工具

  • Muse WonderMeta 新发布的模型,标准版可通过 Model API 和 Muse Code 使用,完整版仅在 Muse Code 顶级订阅计划中提供
  • Muse Wonder FullMuse Wonder 的更高能力版本,仅在 Muse Code 顶级订阅计划中提供
  • Claude Fable 5.1Anthropic 的旗舰模型,文中作为对比对象,可通过 API 和 Claude 付费计划使用
  • Muse CodeMeta 的编程 agent,提供标准版 Muse Wonder,完整版也仅在此开放
  • Model APIMeta 的付费模型 API,提供 Muse Wonder 并支持按 token 计费
  • OpenRouter作者用它来调用由 Meta 提供的 Muse Wonder
  • Anthropic API作者用它来调用 Claude Fable 5.1
  • Claude Opus 4.8Anthropic 自己的 Fable 5.1 基准测试中用来接管被标记为网络安全的任务
  • MemoryBenchMeta 的内部记忆测试,文中称 Muse Wonder 系列在此登顶
  • DeepSWE编程基准测试,文中称 Muse Wonder 完整版在此领先
  • SWE-Marathon编程基准测试,文中称 Muse Wonder 完整版在此领先
☆ 收藏查看来源 ↗

decision-longctx-evals:面向决策模型的长上下文检索与推理评测工具

subquadratic-ai/decision-longctx-evals · Evaluating long-context retrieval and reasoning for decision models

该项目为“决策模型”(读取状态并对固定选项集返回概率、而非生成文本的模型)提供两套长上下文评测:Decision RULER 包含 11 个合成任务(针检索、变量追踪、词计数),以多选题决策形式覆盖 64K 至 1M token;Decision LCR 基于真实文档(每份约 100K token)的 100 道多选题。项目提供 pip 安装的 dlce 命令行工具,通过向自定义 HTTP 端点发送包含 state、question、options 的请求并接收每个选项的概率来运行评测,支持并发、多端点分发、断点续跑,并按任务平均分(RULER)或全对准确率(LCR)计分,输出逐决策的 JSON 记录。该评测是 RULER 与 AA-LCR 面向决策模型的原则性改编,分数与原基准不可直接比较。

☆ 收藏查看来源 ↗

Subquadratic 推出决策模型 SubQ Snap,号称上下文窗口达 Jev 的 12 倍

旧金山初创公司 Subquadratic 发布了一款叫 SubQ Snap 的决策模型,专门从固定答案里挑选项,比如帮 AI 代理决定下一步用哪个工具、该看哪些文件。以往这类决策模型只能装下 3.2 万字的上下文,信息一多就得切块或改用更贵的大模型;Snap 用自家稀疏注意力架构把窗口临时扩到 38.4 万字,能一口气看完整个代码库和日志。公司内部测试显示,它在长文本检索和多文档推理等多项对比中超过先行者 Jev,但目前只是公开预览,算力受限暂不能开放百万级窗口,所有成绩也都未经外部复核。

文中可用工具

  • SubQ SnapSubquadratic 新推出的决策模型,可从预设答案中选结果,公开预览版支持 38.4 万 token 上下文。
  • JevTypeSafe 早先推出的决策模型,每决策上下文限制 3.2 万 token,Snap 在多项测试中与之对比。
  • Subquadratic Sparse AttentionSubquadratic 的稀疏注意力架构,用于降低长输入处理成本,使注意力需求随上下文线性增长。
  • OpenAI Decisions APIOpenAI 提供的决策接口,被 Subquadratic 列为对企业客户相关的参照对象之一。
☆ 收藏查看来源 ↗