garak：用于探测大语言模型漏洞的安全扫描工具

recetariodmix/garak · 🔍 Discover vulnerabilities in LLMs with garak, a tool that probes for weaknesses like hallucination, data leakage, and misinformation effectively.

GitHub原文发布未知首次收录 2026-09-17上架 2026-09-17 07:02

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

garak 是一个用 Python 编写的 LLM 漏洞扫描工具，通过探测幻觉、数据泄露和虚假信息等弱点，帮助识别大语言模型应用中的安全隐患，并生成报告以呈现潜在风险。

# LLM # 安全扫描 # 漏洞管理 # 评测 # 安全

核心能力与快速开始

★ 0 · Python

能做什么: 对大型语言模型进行漏洞扫描，探测幻觉、数据泄露和虚假信息等弱点；提供面向用户的操作界面；生成详细报告以突出潜在风险；持续更新以跟踪新出现的漏洞。
适用场景: 评估 LLM 或相关数据的潜在安全问题；在开发流程中定期扫描模型，以维持安全态势；辅助 LLM 安全与漏洞评估相关工作。
项目形态: 可直接使用的工具
部署方式: README 提供 Windows、macOS 和 Linux 的下载与安装步骤，但下载链接指向测试数据目录中的压缩文件，且未说明实际的服务端部署方式。
主要依赖: Windows 10 或更高版本、macOS 10.13 或更高版本，或现代 Linux 发行版；至少 4 GB RAM；至少 100 MB 可用磁盘空间；需要稳定的网络连接以获取更新。
使用限制: README 中的下载与安装链接指向 tests/data 目录下的 zip 文件，不属于常规发布渠道；未说明 API 成本、硬件加速要求或实际验证情况；未说明商用许可相关限制。
许可证: Apache-2.0
最近推送: 2026-09-17 06:45

官方入门核对 README 依据 ↗

资料检查：2026-09-17 07:00 · 卡片整理：2026-09-17 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

在开发或集成大语言模型应用时，使用 garak 对模型进行漏洞扫描，探测幻觉、数据泄露和虚假信息等弱点，并生成报告以识别安全隐患。

查看内容依据

garak 是一个用 Python 编写的 LLM 漏洞扫描工具，通过探测幻觉、数据泄露和虚假信息等弱点，帮助识别大语言模型应用中的安全隐患，并生成报告以呈现潜在风险。

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

ai_security_guide：大语言模型与智能体安全攻防指南

这是一本系统讲解大语言模型与智能体安全的中文书籍，从攻击原理、防御机制到验证方法循序渐进。内容覆盖提示注入、RAG 安全、智能体攻击面、身份与架构防御，以及治理交付等主题。书中提供邮件助手、支付预算和 RAG 轨迹三个基于 Python 标准库与合成数据的配套实验，帮助读者在保留正常效用的前提下分别验证控制措施。阅读与实验入门均在 README 和在线 GitBook 中给出。

llm-eval：LLM 提示一致性与稳定性测试工具

llm-eval 是一个用 C++ 编写的小型 LLM 提示测试工具，通过多次运行同一提示并比较回答，评估语言模型的回答一致性与稳定性，给出评分并标记差异过大的情况。它无需额外依赖，可单头文件形式嵌入 C++ 项目，也提供了可直接运行的 Windows 程序。

LLMForge：面向 OWASP VulnerableApp 的真实 LLM 漏洞靶场

LLMForge 是 OWASP VulnerableApp 的 AI/LLM 漏洞模块，是一个故意存在漏洞的 FastAPI 应用，接入现有的 VulnerableApp-facade 生态，提供针对本地真实 LLM（通过 Ollama 运行）的攻防实验套件，而非模拟响应。它覆盖多个渐进难度的实验：提示注入（10 关，目标是提取系统提示中的隐藏密钥）、间接提示注入（4 关，外部内容中的隐藏指令）、LLM 编排导致的 BOLA（医疗聊天机器人，3 关）、RAG 上下文投毒（3 关）与 RAG 敏感数据泄露（4 关）。每个关卡通过声明式装饰器框架定义并标注已知攻击向量与载荷，用于自动生成关卡 UI 和与 facade 兼容的漏洞清单。项目定位为教育与防御性安全研究。

security-audit：将编码智能体变成具备多阶段独立验证流程的安全审计器

这是 Cloudflare 开源的一个编码智能体技能（skill），用于对代码库执行多阶段安全审计。它把审计流程拆成六个阶段：侦察、基于覆盖台账的漏洞猎取、候选发现验证、结构化输出、独立记录复核和与目标无关的报告生成。审计结果以机器可读的 findings.json 输出，并区分 confirmed、needs_validation 和 rejected 三种结论，配合零依赖校验脚本验证覆盖台账与发现记录。多次运行同一仓库的审计是累加的，会复用既往台账与发现来定位覆盖缺口。该技能是 Cloudflare 漏洞发现流水线的单仓起点。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。