每日资讯

每天,跟上 AI 新进展。

官方动态、AI 前沿、开源项目与模型榜单。
按栏目浏览今天的更新,错过的内容可在「补看」中接着看。

每日资讯

10 条今日记录

我们如何用 Insights 改进 Insights 背后的 agent

Datadog 的工程师用自家产品 Insights 来观察和优化他们自己的 AI agent。Insights 会分析 agent 的运行记录,找出它在哪些地方花了过多 token、工具调用失败或任务没完成,并解释原因、估算影响、给出有依据的修复建议。例如它发现搜索工具一次返回太多内容,导致后续请求被重复计费;还发现请求顺序不对,使提示缓存无法复用,估算每月可省约 2734 美元。工程师随后把建议交给编程 agent 改代码,并通过重放原任务验证修复后 token 是否更少、回答是否仍然正确。这是 Datadog 的自用案例,节省数字为估算、尚未实测。

文中可用工具

  • Insights分析 agent 运行记录,找出成本与可靠性问题并给出修复建议
  • Agent ObservabilityDatadog 用于观测 AI agent 的产品,Insights 位于其中
  • search_llmobs_spans在已记录的 trace 中搜索证据的工具
  • update_insight用于更新已有 insight 的工具
  • Fix with Bits把 insight 的证据与建议交给编程 agent 修改代码
展开详情收起详情:我们如何用 Insights 改进 Insights 背后的 agent
☆ 收藏Datadog Blog查看原文 ↗

五场 P99 CONF 演讲揭示了数据库的哪些权衡取舍

P99 CONF 是一个线上会议,专门讨论高性能、低延迟的应用,2026 年的大会在 10 月 21 日至 22 日举办。本文从 60 多场演讲中挑选了五场来介绍,主题都是数据库在不同设计之间如何取舍。比如,读写和存储空间往往此消彼长:让写入变快,读起来可能更费劲。还有团队把数据放到对象存储上并加缓存,用便宜的大容量存储换取稍慢的冷读取;也有团队改用内存索引,让读取更快、几乎不出现长尾延迟,代价是占用更多内存、写入更重。这些结果都针对演讲中特定的测试负载,并非通用性能保证;演讲录像需注册后可在 p99conf.io 点播观看。

文中可用工具

  • SlateDB开源库,让开发者在 S3 等对象存储上直接搭建键值数据系统,不用自己实现 LSM
  • LogstorScyllaDB 中可选开启的存储引擎,面向读多写少的键值负载,用内存索引加快单点查询
  • Valkey内存数据库,文中通过多线程网络 I/O 和槽位迁移来提升吞吐和横向扩展速度
  • turbopuffer向量搜索引擎,在对象存储上支撑千亿级向量的低延迟检索
  • RaBitQ二进制量化方法,把向量的影子索引压缩到每维一位,用来先缩小候选范围
展开详情收起详情:五场 P99 CONF 演讲揭示了数据库的哪些权衡取舍
☆ 收藏The New Stack查看原文 ↗

GPT-6.1 Terra 对比 GPT-6 Astra:高推理强度下,一个以准确率换低成本与高速度

OpenAI 在 10 月 26 日发布了 GPT-6.1 Terra,把它定位成便宜、快速、适合大量日常任务的模型,价格只有旗舰 GPT-6 Astra 的十分之一:输入每百万 token 1 美元、输出 5 美元,而 Astra 是 10 美元和 50 美元。作者用三项自己造的测试对比两者:SQL 推理、数据校验和故障日志排查,推理强度都设为 high。结果是 Astra 更准,例如 SQL 测试 48/50 对 26/50,数据校验 50 对 45;Terra 更快更便宜,SQL 测试约 0.08 美元、133 秒,Astra 约 1.65 美元、320 秒。作者指出,Terra 会把需要累加的任务交回给用户自己跑查询,还会自信地给出错误计数,使用时需要挑选场景。这些只是单次合成测试结果,文章没有说明正式可用范围等更多信息。

文中可用工具

  • GPT-6.1 TerraOpenAI 发布的低价快速模型,用于高量日常任务
  • GPT-6 AstraOpenAI 的旗舰模型,价格更高但测试中更准确
  • GPT-5 Mini文中用作较弱对照模型,用于校准难题测试
  • OpenAI API作者用来运行三项测试的接口
展开详情收起详情:GPT-6.1 Terra 对比 GPT-6 Astra:高推理强度下,一个以准确率换低成本与高速度
☆ 收藏The New Stack查看原文 ↗

Kubernetes 成立工作负载一致性工作组,为何对 AI 团队意义重大

Kubernetes 社区在 10 月 27 日宣布成立一个专门的工作组,要为「工作负载在 Kubernetes 上运行时的行为」制定统一标准。此前虽有测试能判断一个集群能不能跑 AI/机器学习任务,但对于具体工作负载本身没有类似标准,团队只能靠变通办法、手动摸索,或者盯着节点被清空、权限报错这类迹象来排查问题。新工作组希望补上这块空白,让不同工作负载在集群里的运行表现有一致、可检验的规范。对跑 AI 工作负载的团队来说,这意味着未来判断平台是否适合自己的任务会更有依据;不过目前只是宣布成立并征集社区意见,标准尚未发布。同期还有:TNS 与 HPE 合作发布一本关于在 Kubernetes 上运行 AI 工作负载的电子书,可立即下载;OpenTelemetry 转换语言 OTTL 达到 v1,对 traces、metrics、logs 稳定,包含在 Collector Contrib v0.164.0 及之后版本,并承诺语法和标准函数保持向后兼容。另有 AWS 架构师预告将在 KubeCon 展示用 agent 流水线实时分析工作负载并在 GPU 上共置多个模型的方案,属于演示预告,原文未说明可用时间。

文中可用工具

  • Kubernetes容器编排平台,文章讨论其上新成立的工作负载一致性工作组
  • Kubernetes AI Conformance已有测试,用于判断集群能否运行 AI 或机器学习工作负载
  • OpenTelemetry Transformation Language (OTTL)OpenTelemetry 的配置语言,可在收集器层修改、过滤和丰富遥测数据
  • Collector ContribOpenTelemetry 收集器贡献版,v0.164.0 起包含 OTTL v1
  • VPC Flow LogsGoogle Kubernetes Engine 内置功能,记录 IP、端口和协议之间的连接,帮助排查临时 Pod 的问题
展开详情收起详情:Kubernetes 成立工作负载一致性工作组,为何对 AI 团队意义重大
☆ 收藏The New Stack查看原文 ↗

Entire 联合创始人 Thomas Dohmke 最担心科技未来的什么?

前 GitHub CEO Thomas Dohmke 创办了新公司 Entire,本周推出一个 GitHub 替代品,用 AI 代理审查代码改动的 Trails 系统取代传统 pull request,开发者负责把关。他在采访中表示,最担心的是人们以为不再需要学编程,认为每个孩子除了数学、生物、地理,也应懂计算机科学基础。文中还提到其他几位业内人士的看法:有人担忧速度快但理解不足、出现低质量代码,也有人担忧 AI 代理的信任与安全机制跟不上,以及工具价格把人挡在未来之外。

文中可用工具

  • TrailsEntire 推出的代码审查系统,用 AI 代理评估代码改动,开发者负责监督
  • GitHub原文中作为被替代的传统代码托管与 pull request 平台被提及
展开详情收起详情:Entire 联合创始人 Thomas Dohmke 最担心科技未来的什么?
☆ 收藏The New Stack查看原文 ↗

GPU 繁忙会掩盖 Kubernetes 上缓慢的 AI 推理

HPE 的三位产品负责人(Marius Bogoevici、Mahesh Ramachandran、Karthik Subramanian)在一篇赞助文章中讲了怎么发现 AI 服务“机器很忙但用户体验差”的问题。原来大家常看 GPU 利用率,但它只说明显卡在干活,不代表回答够快、够准——首字快可能后面生成很慢,整体快也可能答错。他们建议上线前先用有代表性的提问和流量做一次“基准测试”,记下首字时间、每字生成速度、吞吐量和答案质量,上线后再拿实时表现跟基准对比,并把请求数据和 GPU、网络、数据库、向量库等底层指标对齐,才能分清是需求涨了还是哪里卡住了。读者可以据此建立更靠谱的监控和扩容依据;报道没有给出具体测试数字,相关方法和电子书属于推荐做法,HPE Morpheus 与 OpsRamp 是厂商产品介绍,并非已公开的独立评测结果。

文中可用工具

  • HPE Morpheus Software在混合环境中统一开通和管理虚拟机与 Kubernetes 集群的平台
  • HPE Kubernetes Service (HKS)Morpheus 高级版和企业版中包含的 Kubernetes 服务
  • HPE OpsRamp Software跨多云混合基础设施的全栈可观测与监控工具
  • Horizontal Pod AutoscalerKubernetes 自带的按指标自动扩缩容组件
展开详情收起详情:GPU 繁忙会掩盖 Kubernetes 上缓慢的 AI 推理
☆ 收藏The New Stack查看原文 ↗

Anthropic 取消 Claude 一项重要用量限制,但并非人人适用

Anthropic 把每月 200 美元的套餐改名为 Ultra(原来叫 Max 20x),并取消了这个套餐中 Claude Code 的“滚动五小时用量上限”。以前用户即使本周还有剩余额度,也可能在调试或大重构做到一半时被这个五小时上限卡住,只能等重置。现在只要账号通过验证、且本周额度没用完,就不会再被五小时窗口打断;验证按账号和付款记录自动进行,无法申请加速,通过后会收到邮件通知。注意周用量上限仍然存在,网页、桌面和手机上的 Claude 聊天与 Claude Code 共用同一份额度,用完后可按 API 标准价格购买额外用量。对经常撞上五小时限制但周额度还有剩的人,Ultra 可能值得比 Max 多付 100 美元;如果每周额度本来就早早用完,取消五小时限制并不会增加可用量。另外 Max 5x 改名为 Max,两个套餐价格仍为每月 100 和 200 美元,老用户无需操作。

文中可用工具

  • Claude CodeAnthropic 的命令行 AI 编程工具,此次取消了 200 美元套餐的五小时用量上限
  • ClaudeAnthropic 的聊天助手,其网页、桌面和手机端用量与 Claude Code 共用每周额度
  • Claude Platform API供开发者调用 Claude 的接口,套餐附带等额月度 API 额度
展开详情收起详情:Anthropic 取消 Claude 一项重要用量限制,但并非人人适用
☆ 收藏The New Stack查看原文 ↗

微软将停用 Azure Deployment Environments,且无替代产品

微软宣布,Azure Deployment Environments 将于 2027 年 2 月 22 日停用,而且没有推出替代产品。届时,使用该服务的团队需要改用 Bicep 或 ARM 模板,直接部署环境。Microsoft Dev Box 会在 2028 年 9 月 18 日停用,官方建议转向 Windows 365,但微软自己说明,两者并非一一对应的替代关系。仍在 Dev Box 上的工作负载预计会被删除。对用户来说,原有环境管理能力将逐步消失,需要提前规划迁移,改用相应工具或服务。

文中可用工具

  • Azure Deployment Environments按需创建和管理开发环境的 Azure 服务,即将停用
  • Bicep微软的声明式基础设施即代码语言,被建议作为直接替代方式
  • ARM templatesAzure 资源管理器模板,被建议作为直接替代方式
  • Microsoft Dev Box面向开发者的云托管开发机服务,将于 2028 年停用
  • Windows 365微软云电脑服务,被指为 Dev Box 的迁移方向,但非一一对应
展开详情收起详情:微软将停用 Azure Deployment Environments,且无替代产品
☆ 收藏InfoQ Architecture & Design查看原文 ↗

演讲:缺失的阶梯——当 AI 吃掉中层,工程师如何晋升

Alasdair Allan 在一场演讲中介绍了他对 METR 和 Anthropic 关于 AI 编程普及情况所做的实证研究。他指出一个“监督悖论”:工程师越依赖 AI 工具,新人就越难在真实任务中练出基本功,机构内部积累的经验和背景知识也容易流失。长期来看,这会让能够有效监督自主系统的高级工程人才出现断层。对读者来说,这提醒企业在推广 AI 编程时不能只看效率,还要给初级工程师保留足够的动手成长机会和传帮带机制。

文中可用工具

提供的材料未提及具体可用工具。

展开详情收起详情:演讲:缺失的阶梯——当 AI 吃掉中层,工程师如何晋升
☆ 收藏InfoQ Architecture & Design查看原文 ↗

DoorDash 借助 AI Agent 将杂货复购延迟从 16 秒降至 2 秒

DoorDash 优化了杂货复购流程:过去用户要等约 16 秒才能重新下单,现在缩短到约 2 秒。做法是提前用批量 LLM 推理算出用户常买的东西,再用确定性的规则校验,而不是每次临时让模型现算;同时实时核对商品目录,保证选中的货还在售,并把清单做成可编辑界面,用户不改就不必再调用模型。DoorDash 称购物清单浏览量翻倍,该流程下单率提升约 34%。这些数字来自公司自述,文中未说明上线范围、统计口径和具体模型。

文中可用工具

提供的材料未提及具体可用工具。

展开详情收起详情:DoorDash 借助 AI Agent 将杂货复购延迟从 16 秒降至 2 秒
☆ 收藏InfoQ Architecture & Design查看原文 ↗

查看这个栏目的往期内容与搜索 →

AI 资源库

浏览全部 →

按你的职业,找到能用在工作里的 AI 工具、技能和工作流。

程序员技能库

代码编写、代码审查、测试、排错、技术文档

807 份真实资源

HR技能库

招聘文案、面试准备、培训、员工沟通、人力数据整理

105 份真实资源

产品经理技能库

用户研究、需求分析、PRD、原型、数据分析

278 份真实资源