作者在 10 月 17 日 DeepSeek 发布 V4.1-Flash-1017 后,拿它和 10 月 7 日 Anthropic 推出的 Claude Haiku 5.5 做了三轮实测:修 bug、写数据库查询、给 400 条报错分类。两家官方基准分(DeepSeek 42.3、Haiku 39.2)并非同场对测,作者想自己验证。结果两种模型准确率很接近,DeepSeek 在修 bug 和分类上略胜,查询打平;在所用设置下 DeepSeek 总花费约 0.07 美元,Haiku 约 0.30 美元,差距主要来自一个超长提示词把 Haiku 推到了更高价位;Haiku 在两次工具类任务里更快。注意:文章只跑了各一次,价格受分词、缓存和接入渠道影响,Haiku 的提示缓存默认关,开启后成本对比可能变化;两者都是厂商自报成绩。
文中可用工具
- DeepSeek V4.1-Flash-1017DeepSeek 的开放权重模型,可通过 API、OpenRouter 或从 Hugging Face 下载自部署
- Claude Haiku 5.5Anthropic 面向高吞吐任务(分类、摘要、数据库查询)的最快模型
- OpenRouter本次测试统一调用的模型接入服务
- Hugging Face可下载 DeepSeek 开放权重模型自行部署
- Terminal-Bench 4.0两家厂商引用的基准测试之一,文中仅给出分数
展开详情收起详情:DeepSeek V4.1-Flash-1017 对比 Claude Haiku 5.5:价格更低、准确率更高⌄
The New Stack
原文发布:2026-10-22 22:22收录:2026-10-23
OpenAI 本周公布了两项基准测试结果。在自家的 COBOL 迁移测试中,新模型 GPT-6.1 Sol 在低推理强度下准确率达到 86.6%,而上一代 GPT-5.6 Sol 只有 5.4%,成本还低了 39%;提高推理强度后准确率可达 97.9%。COBOL 是支撑大量银行和 ATM 系统的老旧编程语言,长期缺少代码和文档,AI 很难学好,所以这次进步幅度显得很大。另一项叫 MultiLangBench 的测试在 GitHub 上公开了,考察模型用 20 种语言从零搭建一个兼容 SQLite 的数据库引擎,旗舰模型 GPT-6 Astra 平均通过率 87.4%,上一代仅 26.8%。但要注意:COBOL 测试的题目和数据集没有公开,外部开发者无法独立验证,OpenAI 也承认迁移到生产系统仍需专家审查。
文中可用工具
- GPT-6.1 SolOpenAI 的新模型,用于把 COBOL 程序迁移到其他语言
- GPT-5.6 Sol上一代模型,作为对比基线
- GPT-6 AstraOpenAI 的旗舰模型,在 MultiLangBench 中平均通过率最高
- GPT-6 Luna成本更低的模型选项,在 MultiLangBench 中通过率较低
- MultiLangBenchOpenAI 公开在 GitHub 上的基准,测试模型用 20 种语言从零构建兼容 SQLite 的数据库引擎
- Real-SWE 1.1使用私有代码库的软件工程基准,文中的排名参考
- Claude CodeAnthropic 的工具,文中提到可用于 COBOL 现代化
- Claude Opus 5.5在 Real-SWE 1.1 中排名第一的模型
展开详情收起详情:OpenAI 的 COBOL 迁移评分出现惊人跃升⌄
The New Stack
原文发布:2026-10-22 23:34收录:2026-10-23