模型安全

OSS Scanner：面向关键开源仓库的 AI 安全漏洞扫描服务

anthropics/oss-scanner

OSS Scanner 是 Anthropic 提供的服务，用于扫描关键开源仓库中的安全漏洞。项目方可提交 PR 在 projects/<name>/ 下注册项目，提供 project.yaml 与 Dockerfile（可选 threat_model.md）；扫描器在隔离虚拟机中联网构建项目，随后在无网络环境下分析，并通过邮件把带复现步骤和（可用时）修复补丁的模型生成报告发送给 primary_contact 及抄送人。报告由模型生成、无人工复核，因此不设 90 天披露期也不公开。仓库还提供 tools/validate.py、tools/check 等本地校验与构建工具。

OpenAI 前安全负责人称公司“每周二都在发布新能力与新风险”

OpenAI 前安全负责人 David Robinson 接受采访时说，过去发布一个新模型要从头训练，往往要花好几个月，所以一年只发几次；现在基础模型只是其中一层，上面还能加推理训练、新工具接入和编程智能体，改起来快得多，不必每次重训。他形容这种节奏让公司“每周二都在发布新能力与新风险”，并说安全报告已经跟不上，理想的替代品是实时更新的安全仪表盘。他提到 OpenAI 内部编程智能体用量激增，研究团队用智能体的算力比年初多了上百倍，Codex 甚至取代了内部求助频道。对读者来说，这解释了模型迭代为何越来越快、安全测试为何越来越难跟上，也让人关注智能体能自主操作文件、调用 API 后，风险会被放得更大。