评测与安全AI 资源
Guardian SDK：为 Python LLM 与 Agent 应用提供实时威胁检测与拦截
OraclesTech/guardian-sdk · Ethicore Engine® is an AI safety, ethics, and compliance platform. This repo consists of the open-source components of Ethicore Engine™ - Guardian SDK; designed to protect your AI applications from prompt injection, jailbreaks, role hijacking, system-prompt extraction, and 100+ additional threat categories through a multi-layer analysis pipeline
ELI5：它是什么，解决什么问题
Ethicore Engine 的开源组件 Guardian SDK 面向 Python LLM 与智能体应用，通过多层检测管线在输入、输出、工具调用与工具返回等环节拦截提示注入、越狱、角色劫持、系统提示提取等攻击，支持文本、图像、音频和视频多种模态。社区版以 pip 安装、本地运行，覆盖 7 类威胁；API 与自托管版本覆盖 160+ 类威胁并提供智能体管线防护，具体部署、成本与限制需参考官方说明。
核心能力与快速开始
★ 122 · Python
- 能做什么
- 提供预检（输入到模型）与后检（模型到用户）双层防护管线，包含模式匹配、语义检测（ONNX MiniLM-L6 嵌入）、行为启发式、机器学习评分、视觉与跨模态融合等检测层；后检包含 OutputAnalyzer 与基于嵌入的对抗学习闭环。API 层还提供工具调用校验、工具输出扫描与智能体执行计划监控（DAG 节点校验、扇出追踪），并覆盖 RAG 间接注入、浏览器内容分析、语音/音频威胁分析、50+ 语言多语言检测及自主支付防护。以 pip 包形式提供，可按需安装图像、视频、语音等可选依赖。
- 适用场景
- 用于在生产环境中为 LLM 聊天应用、RAG 检索管线与智能体（含工具调用、并行执行计划）增加对抗性输入防护，在模型看到输入前拦截提示注入与越狱，在响应返回用户前捕获越狱合规、系统提示泄露与角色放弃，并可审查工具参数与返回内容中的注入载荷与数据外泄链接。
- 项目形态
- 开发框架
- 部署方式
- 社区版为本地 pip 安装、本地推理，无需 API key；API 版通过 Ethicore Engine 平台托管，需要 API key；自托管版部署在自己的基础设施上，需要许可证密钥并有一次性的联网激活。以上为 README 说明，未实际验证。
- 主要依赖
- Python 3.8+；视频帧分析需 ffmpeg 在 PATH 中；视觉、语音、浏览器等功能需安装相应可选依赖 extras；API 与自托管版本需要相应的 API key 或许可证。
- 使用限制
- 社区版仅覆盖 7 类威胁、34 条正则规则，语义模型为基于哈希的回退方案，不含 RAG、视觉、语音、多语言与智能体管线防护；智能体管线门（工具调用/工具输出/执行计划校验）仅 API 层提供，自托管版不含；自托管版代码以编译形式发布、威胁库与模型加密；各版本存在请求量、速率限制与付费档位差异，具体成本与 SLA 未在摘录中完整说明。
- 许可证
- NOASSERTION
- 最近推送
- 2026-10-12 08:51
资料检查：2026-10-13 07:00 · 卡片整理：2026-10-13 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。