AI 资源库 · 已整理 4 项

llm-security

查看与llm-security相关的 AI 资讯、工具、Skill、工作流和开源项目。

Anthropic 红队在 15 台廉价电视盒子上跑 AI,结果让人不安

Anthropic 的前沿红队用约 825 美元买了 15 台杂牌安卓电视盒子,把它们拼成一个小集群来跑 AI 模型,速度只有每秒 0.39 个词,慢得没法聊天,但适合那些不着急、没人等的后台任务。他们周一发布研究,认为小体积的开源模型可能再过几个月就能在廉价联网设备上自我复制,不再依赖数据中心。不过他们并没有做出能在公网上自行传播的 AI 蠕虫,实验是在受控环境里、并开了一些方便复制的后门。普通人可以留意:一旦这类能力成熟,海量廉价设备被悄悄用来跑 AI 并非不可能。

文中可用工具

  • Qwen3.5-9B用来在多种硬件上部署 Llama3.1-8B 推理服务的小模型
  • GLM-5.2更大、更可靠地完成同样部署任务的模型
  • Llama3.1-8B在目标设备上实际运行的推理模型
  • Opus 4.8给 Qwen3.5-9B 提供建议的更强模型,实验未见显著提升
  • Gemma4-26B-A4B在 15 台电视盒子集群上运行的模型
  • CyberGym评估模型攻击能力的基准
  • ExploitBench评估模型漏洞利用能力的基准
  • Epoch Capabilities Index用来追踪小参数量开源模型能力趋势的指数
  • OpenClaw原文未说明用途
  • Hermes Agent原文未说明用途
☆ 收藏查看来源 ↗

vishalhabib99:AI 产品经理的开源作品集——智能体评测与 MCP 信任工具

vishalhabib99/vishalhabib99 · Vishal Habib: AI Product Manager. Agent evals, guardrails and MCP trust tooling, built in the open.

这是 Vishal Habib 的个人 GitHub 仓库,汇集其在开放环境下构建的智能体评测、护栏与 MCP 信任相关工具与案例。内容包括 MCP 服务器诊断(mcp-doctor)、模糊测试(mcp-fuzz)、现实性校验(mcp-reality-check)、信任检查(mcp-trust-check),以及面向 AI 产品经理的技能集合(ai-pm-skills)、智能体产品手册(agentic-product-playbook)和产品案例研究(ai-pm-portfolio)。同时包含金融科技场景下的答案核验(retirement-answer-check)、电商列表声明核验(listing-claim-check)、智能体交接检查(agent-handoff-check)等项目,以及公开的评测报告、红队测试结果和写作链接。

☆ 收藏查看来源 ↗

Guardian SDK:为 Python LLM 与 Agent 应用提供实时威胁检测与拦截

OraclesTech/guardian-sdk · Ethicore Engine® is an AI safety, ethics, and compliance platform. This repo consists of the open-source components of Ethicore Engine™ - Guardian SDK; designed to protect your AI applications from prompt injection, jailbreaks, role hijacking, system-prompt extraction, and 100+ additional threat categories through a multi-layer analysis pipeline

Ethicore Engine 的开源组件 Guardian SDK 面向 Python LLM 与智能体应用,通过多层检测管线在输入、输出、工具调用与工具返回等环节拦截提示注入、越狱、角色劫持、系统提示提取等攻击,支持文本、图像、音频和视频多种模态。社区版以 pip 安装、本地运行,覆盖 7 类威胁;API 与自托管版本覆盖 160+ 类威胁并提供智能体管线防护,具体部署、成本与限制需参考官方说明。

☆ 收藏查看来源 ↗

zero-context:浏览器端 AI 对话敏感信息脱敏与还原扩展

Irongrey-genusengelmannia453/zero-context · Redact sensitive data before sending to AI, then restore it automatically with this local-first DLP extension.

zero-context 是一个本地优先的浏览器扩展,用于在向 ChatGPT、Claude、Gemini 等 AI 网站发送提示词前自动识别并遮蔽姓名、电话、邮箱、信用卡号等个人敏感信息,替换为占位符标签;复制 AI 回复时再自动还原原始内容。检测使用在浏览器中通过 WebAssembly 运行的轻量 ONNX 模型,材料称数据不上传、无云端处理,并支持自定义脱敏规则、按站点开关、剪贴板还原控制与本地日志查看。

☆ 收藏查看来源 ↗