搜索归档

AI 正在清算你已接受的每一份风险：AI 安全圆桌的七点洞察

安全公司 Snyk 在旧金山 AISS 大会前一天办了一场圆桌讨论，请来 OpenAI、Google 威胁情报团队、风投机构和 Snyk 的四位安全负责人聊 AI 安全。原来大家早就积累了不少安全隐患，只是以前攻击成本高、没被利用；现在 AI 让攻击变得又便宜又快，等于把这些旧账一次性催收。讨论指出，找漏洞越来越容易，真正卡住人的是修复速度，所以防守方需要让机器承担大部分修复工作，并配合身份、权限和意图管控。文章还提到一个案例：有人用开源 AI 渗透测试工具攻击了至少九家韩国银行；另有研究发现，扫描的 3,984 个智能体技能中至少 36.82% 存在安全缺陷。这些是会上讨论的观点和案例，不代表已有现成方案落地。

AI 模型风险取决于模型能触及什么

安全公司 Snyk 扫描了上千个企业环境中的 AI 模型，发现近一半环境引用了可能在某种攻击下得分达到严重级别的模型。但作者强调，光看模型分数不够：同一个模型，如果只用来总结会议记录，和用来查询客户数据、触发业务流程，出事的后果完全不同。所以团队应先确认模型是否真的在运行、它能访问哪些数据和工具，再针对具体风险选择换模型或加访问限制、人工审批等控制措施。这项研究来自 Snyk 报告，其中模型分数基于模拟攻击测试，并不代表真实入侵已经发生。

Netflix 通过工作负载证明打通 AWS IAM 与内部身份体系

Netflix 为跑在 Amazon EMR 上的 Apache Spark 任务做了一套“工作负载证明”机制。打个比方：过去托管计算任务要访问内部服务，得把内部凭证直接塞给任务，凭证容易泄露、也难管理。现在的做法是先确认这个任务的 AWS IAM 身份，再核对 Netflix 控制面签发的声明，两者都通过后，才发一张有效时间很短的内部 X.509 证书，任务用它去访问内部服务。这样托管计算任务不必直接携带凭证，就能安全地完成内部认证，凭证暴露的风险和分发负担都小了。这套机制目前应用在 Netflix 的 Spark/EMR 场景，其他场景是否适用文中未说明。

sparebrAIns：用免费闲置算力与 Lean 4 内核验证进行机器可核验数学证明的开放协作平台

kumori-ai/sparebrains · sparebrAIns: idle free-tier LLM compute pointed at machine-verified math. Lean 4 kernel is the judge.

sparebrAIns 是一个开放协作项目，把免费层 LLM 和免费 GPU 算力指向用 Lean 4 形式化的数学问题，由 Lean 4 内核作为机器裁判判定每个提交的证明是否成立。项目维护 378 道 Lean 4 形式化题目（来自 Natural Number Game、Mathematics in Lean、miniF2F 等），通过模型跑道、中继接力、证明修复循环（修复形式、挖洞、Lean 自动化、子目标拆分）和志愿者 Agent 提交等机制求解，并把每次尝试、被拒尝试与最终通过证明一并公开记录。README 报告其修复工具能把免费模型的通过率从 44.8% 提升到 56.1%，最小模型提升最大。