AI 资源库 · 已整理 2 项

威胁情报

查看与威胁情报相关的 AI 资讯、工具、Skill、工作流和开源项目。

AI 正在清算你已接受的每一份风险:AI 安全圆桌的七点洞察

安全公司 Snyk 在旧金山 AISS 大会前一天办了一场圆桌讨论,请来 OpenAI、Google 威胁情报团队、风投机构和 Snyk 的四位安全负责人聊 AI 安全。原来大家早就积累了不少安全隐患,只是以前攻击成本高、没被利用;现在 AI 让攻击变得又便宜又快,等于把这些旧账一次性催收。讨论指出,找漏洞越来越容易,真正卡住人的是修复速度,所以防守方需要让机器承担大部分修复工作,并配合身份、权限和意图管控。文章还提到一个案例:有人用开源 AI 渗透测试工具攻击了至少九家韩国银行;另有研究发现,扫描的 3,984 个智能体技能中至少 36.82% 存在安全缺陷。这些是会上讨论的观点和案例,不代表已有现成方案落地。

文中可用工具

  • ClawHub发布智能体技能的平台,会上提到上传一个恶意技能只需一个 Markdown 文件和新注册的 GitHub 账号
  • Hugging Face模型与数据集平台,会上作为被 AI 智能体突破隔离、发生泄露的案例出现
☆ 收藏查看来源 ↗