AI 资源库 · 已整理 7 项

prompt-injection

查看与prompt-injection相关的 AI 资讯、工具、Skill、工作流和开源项目。

jev-suite:基于 Jev 决策模型构建的四类决策质量校验工具套件

klauswg/jev-suite · Four decision-quality tools on Jev (TypeSafe System One): Jev answers structured questions, deterministic code keeps the final say.

jev-suite 是一套建立在 Jev(TypeSafe System One)决策模型之上的 Java 工具套件,包含 jev-proof、jev-fit、jev-fidelity、jev-rental 四个应用,分别用于判断赞助视频是否交付了约定内容、候选人相对岗位要求的差距、编辑是否保留原文信息、以及看房前需与房源代理确认的事项。共享内核 jev-kit 提供 JevClient 类型化客户端、三路判定门 NoulGate 与外部文本防提示注入清洗器。设计上坚持“Jev 判断、代码决定”,阈值与路由由单元测试覆盖的确定性 Java 代码掌握,模型不可达时降级为人工复核,评测拒绝模拟数据,无证据即失败关闭。

☆ 收藏查看来源 ↗

Guardian SDK:为 Python LLM 与 Agent 应用提供实时威胁检测与拦截

OraclesTech/guardian-sdk · Ethicore Engine® is an AI safety, ethics, and compliance platform. This repo consists of the open-source components of Ethicore Engine™ - Guardian SDK; designed to protect your AI applications from prompt injection, jailbreaks, role hijacking, system-prompt extraction, and 100+ additional threat categories through a multi-layer analysis pipeline

Ethicore Engine 的开源组件 Guardian SDK 面向 Python LLM 与智能体应用,通过多层检测管线在输入、输出、工具调用与工具返回等环节拦截提示注入、越狱、角色劫持、系统提示提取等攻击,支持文本、图像、音频和视频多种模态。社区版以 pip 安装、本地运行,覆盖 7 类威胁;API 与自托管版本覆盖 160+ 类威胁并提供智能体管线防护,具体部署、成本与限制需参考官方说明。

☆ 收藏查看来源 ↗

Hello Agent System:从零手写企业级 Agent 系统设计的双语课程

heaven999b/hello-agent-system · 👋 Hello Agent System — learn enterprise AI agent system design by building every production layer from scratch. 17 bilingual lessons (EN/中文) with tested exercises: tools, architectures, reliability, security, evals, distributed execution, cost, RAG, release ops. 企业级 Agent 系统设计训练营

该项目是一套中英双语的企业级 Agent 系统设计训练营,通过 32 节课从零手写 Agent 的每一层:主循环、工具、上下文、编排、可靠性、安全、可观测性、评估、并发、成本与发布,并进阶到检索、记忆、MCP、框架对照、Agent 数据与优化。课程强调不依赖 Agent 框架、每课配有离线确定性测试的练习,并在最后将同一套接口替换为 Postgres、Redis、Temporal、OpenTelemetry、LiteLLM、Cedar 等成熟组件以演示生产落地与分布式执行。

☆ 收藏查看来源 ↗

AI DevSecOps:机器学习如何重塑软件开发生命周期

这篇文章讲的是把机器学习用到软件安全开发流程里的做法,也就是所谓的 AI DevSecOps。原来安全团队面对扫描器报出的大量漏洞,光靠人工根本处理不过来,AI 生成代码又让漏洞数量迅速增加。现在可以用 AI 智能体自动合并重复的漏洞、按误报可能性和严重程度排序,并生成修复代码,让开发者直接从修复请求开始工作。但 AI 本身也带来三个新风险:从公开渠道下载的模型可能被篡改、训练数据可能被投毒、提示注入可能影响线上应用。文章主要介绍 Harness 这类平台如何用智能体串联扫描、分流和修复,并强调成熟度取决于治理而非功能数量。

文中可用工具

  • Harness在流水线中编排扫描器、用智能体分流和修复安全问题,并执行策略
  • Triage Agent按误报可能性、可利用性和可达性给漏洞发现排序
  • Remediation Agent生成并验证修复方案,让开发者从修复请求开始
  • Security Testing Agent在 40 多个商业和开源扫描器上做漏洞发现的分流与去重
  • CursorAI 编程工具,在提交代码前就已生成代码
  • DevinAI 编程工具,在提交代码前就已生成代码
  • Claude CodeAI 编程工具,在提交代码前就已生成代码
☆ 收藏查看来源 ↗

Prompt Lint:AI 提示词静态分析与规则校验工具

Kenny27lokku/prompt-integrity-validator · Lint Your Prompts, Ship Better Agents – Prompt Refiner 2026 Rule Engine

Prompt Lint 是一个面向 AI 提示词模板的静态分析引擎,对发送给 Claude、ChatGPT、Gemini 等 LLM 的提示词做确定性的规则检查,而不改写内容。它提供 PR001–PR-INJ03 共 47 条规则,覆盖角色混淆、注入面暴露、分隔符逃逸、长度与冗余指令等问题,并支持 CLI、CI/CD 集成、JSON 与 HTML 报告、本地 Web 仪表盘以及通过自有 API Key 调用 OpenAI 与 Anthropic 接口进行模型特定校验。

☆ 收藏查看来源 ↗

pm-claude-skills:面向 AI 助手的专业 Agent 技能库

mohitagw15856/pm-claude-skills · 1098 professional Agent Skills for Claude, ChatGPT, Gemini, Cursor & Codex — from PRDs and postmortems to appealing a disability benefit, building a go-bag, and settling into a new country. Plain-markdown, MIT, in Anthropic's official plugin directory. Free in-browser or 'npx pm-claude-skills add'.

PM Skills 是一个开源技能库,收录了 1174 个纯 Markdown 编写的 Agent Skill,覆盖从撰写 PRD、事故复盘到解读租约、签证面试准备等 1117 项真实任务。每个技能包含框架、输出模板、质量检查与反模式,可让 Claude、ChatGPT、Gemini、Cursor、Codex 等助手以资深专业人士的结构化方式处理工作与生活问题。支持 npm、pip、MCP、Docker、浏览器 Playground 等多种接入方式,MIT 许可。

☆ 收藏查看来源 ↗

claude-red:为 Claude 注入红队进攻性安全方法论

SnailSploit/Claude-Red · claude-red is a curated library of offensive security skills designed for the Claude skills system. Each skill is a structured SKILL.md file that primes Claude with expert-level methodology for a specific attack surface — from SQLi to shellcode, EDR evasion to exploit development.

claude-red 是一个面向 Claude Skills 系统的进攻性安全技能库,包含 78 个按类别组织的 SKILL.md 文件,覆盖 SQL 注入、XSS、SSRF、AD 攻击、无线攻击、云安全、漏洞利用开发、模糊测试、免杀与红队行动等 23 个类别。每个技能通过对话触发按需加载,为 Claude 提供特定攻击面的专家级方法论、工具与升级路径,用于授权红队演练、漏洞赏金分诊、安全研究、CTF 准备与操作员培训。

☆ 收藏查看来源 ↗