工具
recetariodmix/garak · 🔍 Discover vulnerabilities in LLMs with garak, a tool that probes for weaknesses like hallucination, data leakage, and misinformation effectively.
garak 是一个用 Python 编写的 LLM 漏洞扫描工具,通过探测幻觉、数据泄露和虚假信息等弱点,帮助识别大语言模型应用中的安全隐患,并生成报告以呈现潜在风险。
展开详情收起详情:garak:用于探测大语言模型漏洞的安全扫描工具⌄
程序员在开发或集成大语言模型应用时,使用 garak 对模型进行漏洞扫描,探测幻觉、数据泄露和虚假信息等弱点,并生成报告以识别安全隐患。
★ 0 · 可直接使用的工具
原文发布:未知收录:2026-09-17
Agent Skill
cloudflare/security-audit-skill · A coding-agent skill for multi-phase security audits with independently verified, machine-readable findings
这是 Cloudflare 开源的一个编码智能体技能(skill),用于对代码库执行多阶段安全审计。它把审计流程拆成六个阶段:侦察、基于覆盖台账的漏洞猎取、候选发现验证、结构化输出、独立记录复核和与目标无关的报告生成。审计结果以机器可读的 findings.json 输出,并区分 confirmed、needs_validation 和 rejected 三种结论,配合零依赖校验脚本验证覆盖台账与发现记录。多次运行同一仓库的审计是累加的,会复用既往台账与发现来定位覆盖缺口。该技能是 Cloudflare 漏洞发现流水线的单仓起点。
展开详情收起详情:security-audit:将编码智能体变成具备多阶段独立验证流程的安全审计器⌄
程序员将编码智能体变成安全审计器,对代码库执行多阶段安全审计:侦察、基于覆盖台账的漏洞猎取、候选发现验证、结构化输出、独立记录复核和报告生成,输出机器可读的 findings.json,用于代码审查与漏洞发现。
★ 7041 · 开发框架
原文发布:未知收录:2026-09-17
工具
hermes-labs-ai/rule-audit · Static analyzer for AI system prompts: parses a prompt into normative rules and reports contradictions, coverage gaps, priority ambiguities, and absolute-rule edge cases - no LLM calls. Deterministic pure-Python lint with CLI, Python API, and CI exit codes. pip install rule-audit
rule-audit 是一个纯 Python 静态分析工具,将 AI 系统提示词和 Agent 指令解析为规范性规则,报告逻辑矛盾、覆盖缺口、优先级歧义、元规则悖论和绝对规则边界情况,全程不调用 LLM。它以确定性 lint 方式提供 CLI、Python API 和 CI 退出码,可用于 pre-commit 钩子在提交前审查 CLAUDE.md、AGENTS.md、SOUL.md 等提示词文件,也可作为 Claude Code、Codex、Gemini CLI、Hermes Agent 的插件使用。检测基于词法解析(句子切分、情态动词正则、关键词簇)而非语义模型,作者明确说明它只能发现候选缺陷,不能证明提示词可被利用。
展开详情收起详情:rule-audit:静态分析 AI 系统提示词中的规则冲突与覆盖缺口⌄
程序员在编写或审查 AI 系统提示词与 Agent 指令文件(如 CLAUDE.md、AGENTS.md、SOUL.md)时,用 rule-audit 做静态 lint,发现规则之间的逻辑矛盾、覆盖缺口、优先级歧义、元规则悖论和绝对规则边界情况,并可通过 pre-commit 钩子在提交前审查这些提示词文件。
★ 2 · 可直接使用的工具
原文发布:未知收录:2026-09-16
工具
HutCh1E/Skills-check · Perform automated multi-layer security analysis on AI Agent skills to detect code risks and runtime threats efficiently.
Skills-check 是一款用于检查 AI Agent 技能或插件安全风险的工具,通过静态分析、LLM 分析和沙箱分析三层检测代码中的风险。支持粘贴代码、上传文件、输入 GitHub URL 或安装命令来获取并分析技能代码,帮助用户在安装前发现反向 shell、数据窃取、代码注入等潜在威胁。
展开详情收起详情:Skills-check:AI Agent 技能的多层安全检测工具⌄
程序员在安装 AI Agent 技能或插件前,使用 Skills-check 对技能代码进行静态分析、LLM 分析和沙箱分析,检测反向 shell、数据窃取、代码注入等安全风险,辅助代码审查与安全排错。
★ 0 · 可直接使用的工具
原文发布:未知收录:2026-09-16
综合合集
SnailSploit/Claude-Red · claude-red is a curated library of offensive security skills designed for the Claude skills system. Each skill is a structured SKILL.md file that primes Claude with expert-level methodology for a specific attack surface — from SQLi to shellcode, EDR evasion to exploit development.
claude-red 是一个面向 Claude Skills 系统的进攻性安全技能库,包含 78 个按类别组织的 SKILL.md 文件,覆盖 SQL 注入、XSS、SSRF、AD 攻击、无线攻击、云安全、漏洞利用开发、模糊测试、免杀与红队行动等 23 个类别。每个技能通过对话触发按需加载,为 Claude 提供特定攻击面的专家级方法论、工具与升级路径,用于授权红队演练、漏洞赏金分诊、安全研究、CTF 准备与操作员培训。
展开详情收起详情:claude-red:为 Claude 注入红队进攻性安全方法论⌄
程序员程序员在进行授权安全测试或安全研究时,可将 claude-red 的 SKILL.md 技能文件加载到 Claude 中,获得针对 SQL 注入、XSS、SSRF、反序列化、请求走私、WAF 绕过等具体攻击面的专家级方法论、工具与升级路径,用于漏洞赏金分诊、CTF 准备和代码安全审查。
★ 4691 · 资料合集
原文发布:未知收录:2026-09-15
工具
comet-ml/opik · Debug, evaluate, and monitor your LLM applications, RAG systems, and agentic workflows with comprehensive tracing, automated evaluations, and production-ready dashboards.
Opik 是由 Comet 开发、Apache-2.0 许可的开源 LLM 可观测性与评测平台,覆盖 LLM 应用全生命周期:支持 LLM 调用与多步 Agent 追踪、对话记录、工具调用链路追踪;提供数据集、实验与 LLM-as-a-judge 指标(如幻觉检测、内容审核、RAG 评估);包含 Prompt 管理与 Prompt Playground、Opik Agent Optimizer 提示词/Agent 优化、Opik Guardrails 安全实践、PyTest 集成的 CI/CD 评测,以及面向生产的监控仪表盘与在线评测规则。平台为框架无关,支持自带 SDK、OpenTelemetry 以及多种第三方框架集成,官方称设计上可承载每日 4000 万条以上 trace。仓库包含服务端、Web 应用、追踪、数据集、实验、评测、Prompt 管理、在线评测与 Agent 优化组件,可自托管,数据不离开自有环境。
展开详情收起详情:Opik:开源 LLM 可观测性与评测平台,用于 AI Agent 追踪和生产监控⌄
程序员在开发 LLM 应用或 AI Agent 时,使用 Opik 追踪 LLM 调用、多步 Agent 与工具调用链路,进行调试与排错;通过 PyTest 集成在每次提交时评测 LLM 流水线,并利用数据集、实验与 LLM-as-a-judge 指标(幻觉检测、内容审核、RAG 评估)自动化评测应用。
产品经理在管理 LLM 应用或 AI Agent 产品时,使用 Opik 的生产监控仪表盘查看反馈分数、trace 数量与 token 使用随时间的变化,并通过在线评测规则结合 LLM-as-a-judge 指标识别生产问题,辅助产品数据分析与迭代决策。
★ 22020 · 可直接使用的工具
原文发布:未知收录:2026-09-15