内容浏览
搜索中文标题、仓库名或关键词，再用分类、来源和日期缩小范围。
谷歌研究团队发布了一项叫“敏捷审议”的方法，帮人训练 AI 图像分类器去判断“健康食品”“励志艺术”这类没有唯一标准答案的类别。原来的问题是：训练 AI 需要人先给出清晰固定的标签，但面对主观概念时，人往往边看例子边改想法，传统流程逼着人硬标，容易疲劳、结果也不一致。新方法把训练变成一场对话：先让用户把大概念拆成小类并写明排除项，再由视觉语言模型主动挑出模棱两可的边界图片请用户判断，人的反馈自动进入提示词优化循环，分类标准随之调整。团队在 18 场、每场 1.5 小时的真人实验中观察到，用户疲劳和焦虑明显下降，做出的分类器比常规基线更稳定、更准。代码和算法已在 GitHub 开源，属于研究阶段成果。
用 AI API 的开发者过去很难确认回答请求的到底是不是自己付费的那个模型，服务商可以偷偷换成更便宜的模型，攻击者也可能篡改回答。Anthropic 的 Frontier Red Team 开源了 FlashProve，用密码学证明（zkSNARKs）在不暴露模型权重的情况下验证回答来自特定模型。不过它目前只是研究原型、不在 Claude API 里，而且生成证明的 GPU 开销是普通推理的 70 到 95 倍（在 Llama 4 Maverick 上单张 H100 每秒约处理 110 个提示 token），只支持 1024 token 上下文，不适合日常 API 流量。对开发者的用处是：以后可能借此核验第三方 AI 服务、发现被入侵的推理系统，但现在还只能自己下载代码测试。
OpenAI 搭建了一条自动化流水线，用来在 Linux 内核里找本地提权漏洞。这类漏洞一旦被利用，普通用户可能拿到管理员权限，相当于从普通住户变成能开所有门的管家。以前找这类漏洞主要靠人工审计，慢且容易漏。这次流水线自己完成了发现、验证并生成补丁，共覆盖 948 个漏洞。读者可以理解为：内核可能有上千条不该存在的“后门”被找出来堵上了，但材料没有说明这些补丁是否已合入、何时公开，也没说流水线能否被外部使用。