工具
spring-ai-community/spring-ai-typesafe · A Java SDK for the TypeSafe AI JEV API, & Spring AI TypeSafe integrations.
该项目为 TypeSafe AI 的 System One（jev）API 提供 Java 客户端，基于 Spring RestClient 与 Jackson 3 构建，并提供 Spring AI 集成，可作为模型即评审、护栏、RAG 后处理器与工具索引使用。其核心思路是将状态与一组类型化问题提交给 API，并行获得结构化答案（Noul、Choice、Score），而非文本生成。项目包含 typesafe-java-sdk、typesafe-spring-ai、spring-ai-starter-typesafe、typesafe-bom 及示例模块。
展开详情收起详情：Spring AI TypeSafe：TypeSafe AI System One API 的 Java SDK 与 Spring AI 集成⌄
程序员在 Java/Spring AI 应用中集成 TypeSafe AI System One API，将状态与一组类型化问题（Noul、Choice、Score）提交并并行获得结构化答案，用于模型即评审、护栏、RAG 后处理器与工具索引等开发场景。
★ 29 · 开发框架
原文发布：未知收录：2026-09-23
工具
roshcompanylabs/llm-stream-guardrails · LLM guardrails for streaming: redact PII and secrets mid-stream
llm-stream-guardrails 是一个 TypeScript 库，用于在 LLM 流式响应过程中实时检测并遮盖 PII、API 密钥、私钥等敏感内容，无需先缓冲完整回复再过滤。它接收任意字符串异步可迭代对象（可直接接入 Vercel AI SDK 的 textStream，OpenAI/Anthropic SDK 需一行映射），承诺对任意输入、策略与分块方式，流式输出与整串过滤结果逐字节一致且每个输出块独立完整。内置 email、信用卡（Luhn 校验）、电话、SSN、IBAN（mod-97）、35 类密钥形态及 PEM 私钥块检测器，并支持按字段名识别的 labeledSensitive 与自定义敏感标签。仓库定位为纵深防御而非合规控制，作者明确说明对未见文本的召回率约 47%–81%，不能替代其他安全措施。
展开详情收起详情：llm-stream-guardrails：流式响应中实时脱敏 PII 与密钥的 LLM 护栏⌄
程序员在开发 LLM 应用时，将本库接入流式响应管道，实时遮盖输出中的 PII、API 密钥、私钥等敏感内容，避免敏感信息直接展示给用户；也可用于对完整字符串做脱敏并获取检测位置信息。
★ 0 · 开发框架
原文发布：未知收录：2026-09-23
工具
Heimel-open/Heimel · HEIMEL Intent. Realized. HEIMEL is open infrastructure for the transition from intent to consequence.
HEIMEL 是一套面向后果承载执行的授权治理基础设施，位于现有身份、策略与执行系统之间，在意图落地为真实效果的那一刻判断其是否具备当前授权。它不替换 IAM 或策略引擎，而是把决策、精确效果、许可与回执绑定，并通过 Gateway 强制唯一受治理的效果路径，由 Veritas 保留可归因的证据。仓库包含本地参考运行时，支持本地授权、执行、回放与证据查验，并提供标准授权演示、可执行授权演示和回放演示。
展开详情收起详情：HEIMEL：在意图转化为实际后果前进行授权治理的基础设施⌄
程序员在开发需要执行真实后果的 AI Agent 或自动化系统时，将 HEIMEL 作为授权治理层，在意图落地为真实效果前判断其是否具备当前授权，并通过 Gateway 强制唯一受治理的效果路径、由 Veritas 保留可归因证据；仓库提供本地参考运行时，可本地授权、执行、回放与证据查验。
★ 6 · 开发框架
原文发布：未知收录：2026-09-23
工具
joshuakoplik/soc-lab · A SOC lab for studying LLM agents on both sides of the boundary: vulnerable dockerized targets emitting real telemetry, a deterministic ingest/detect pipeline, and triage + red-team agents on top — plus a harness measuring prompt-injection resistance.
soc-lab 是一个用于研究安全运营中心（SOC）内 LLM 智能体行为的研究环境，由三部分组成：刻意存在漏洞、可输出真实遥测的 Docker 靶机实验场；确定性的数据摄取、规范化与检测流水线（结果落入 SQLite，不涉及模型）；以及构建在其上的两类智能体——蓝队分诊智能体和红队智能体。项目还在日志 schema 中按“可信度”而非类型划分列，把攻击者可控字段与基础设施断言字段结构分离，并通过 injection_asr 测试框架对比开启/关闭信任边界防护时，分诊智能体对提示注入的抵抗程度。项目定位为研究工具而非安全产品，包含未沙箱化的工具能力和真实 iptables 网络封锁行为。
展开详情收起详情：soc-lab：在 SOC 场景中研究 LLM 智能体攻防与提示注入抗性的安全实验环境⌄
程序员作为安全研究环境，程序员可用它研究 LLM 智能体在 SOC 场景中的行为，包括蓝队分诊智能体和红队智能体，以及通过 injection_asr 测试框架对比开启/关闭信任边界防护时对提示注入的抵抗程度。
★ 0 · 研究实现
原文发布：未知收录：2026-09-23
工具
dthinkr/openrouter-uptime · Independent uptime registry for every OpenRouter model. Polled every 30 min, raw + derived + incidents, keyless
该项目为 OpenRouter 上每个模型及其各推理提供方建立独立的可用性注册表，通过两个采集器每 15 分钟轮询 OpenRouter 公共 API（无需 API Key），记录约 400 个目录模型、约 1150 个路由端点的状态，并以带时间戳的快照形式提交原始响应与派生数据。仓库提供 raw/、derived/、status/ 三类数据，包括逐端点状态 CSV、最新快照、只追加的故障日志与模型/提供方变更日志，用于重建任意端点的历史可用性；Parquet 镜像每日同步到 HuggingFace 与 Kaggle。
展开详情收起详情：OpenRouter Uptime：面向 OpenRouter 全模型的独立可用性监测与历史数据集⌄
程序员在开发依赖 OpenRouter 模型的应用时，可用该仓库的逐端点状态 CSV、最新快照和只追加故障日志查询各模型与推理提供方的历史可用性，辅助选择稳定端点或排查调用失败。
★ 0 · 资料合集
原文发布：未知收录：2026-09-20
工具
phonghhd/EvoNet-AI-Core · Autonomous AI Security Agent leveraging LLMs, RAG, and Knowledge Graphs for automated CVE analysis and auto-patching.
EvoNet-Core 是一个自主 AI 安全代理项目，持续采集 CVE 数据、分析漏洞并生成防御性代码。它集成了四层 AI 路由故障转移（NVIDIA NIM、Groq、Cloudflare AI、本地 Ollama）、知识图谱与向量检索结合的 Graph RAG（Pinecone + Neo4j）、基于 PPO 的强化学习防御策略、MITRE ATT&CK 映射、EPSS 评分以及人工审批环节，并提供 FastAPI 后端、Web 仪表盘、CLI 工具和 Telegram 机器人接口。项目基于 Python 开发，采用 Apache-2.0 许可。
展开详情收起详情：EvoNet-Core：自主 AI 安全代理，自动进行 CVE 分析与补丁生成⌄
程序员程序员可使用该工具进行代码安全扫描（CLI 支持 evonet scan --path），自动分析 CVE 漏洞并生成防御性补丁，同时通过 MITRE ATT&CK 映射和 EPSS 评分辅助漏洞优先级排序，提升代码审查与安全修复效率。
★ 4 · 可直接使用的工具
原文发布：未知收录：2026-09-20
工具
themanoj-025/AegisAI · AegisAI is an AI-powered security code review agent that analyzes GitHub pull requests, detects vulnerabilities, validates findings, redacts secrets, and posts actionable inline feedback before insecure code reaches production.
AegisAI 是一个基于 AI 的安全代码审查代理，通过 GitHub Webhook 接收 pull request 事件，提取 diff，经 Redis 队列交由 RQ Worker 处理：过滤噪声文件、重定向敏感信息、调用 Claude 或 GPT-4o 检测 12 类以上漏洞（SQL 注入、XSS、命令注入、硬编码密钥等），校验发现后以行内评论形式回写到 PR。项目使用 FastAPI + Redis + RQ 架构，提供 Docker 多阶段构建、HMAC-SHA256 签名校验、幻觉防护、Webhook 重试与死信队列及 Prometheus 指标。
展开详情收起详情：AegisAI：面向 GitHub PR 的 AI 安全代码审查代理⌄
程序员在 GitHub Pull Request 中自动进行安全代码审查：通过 Webhook 接收 PR 事件，提取 diff，调用 Claude 或 GPT-4o 检测 SQL 注入、XSS、命令注入、硬编码密钥等 12 类以上漏洞，并以行内评论形式回写到 PR，帮助程序员在代码合并前发现安全问题。
★ 0 · 可直接使用的工具
原文发布：未知收录：2026-09-19
工具
Kenny27lokku/prompt-integrity-validator · Lint Your Prompts, Ship Better Agents – Prompt Refiner 2026 Rule Engine
Prompt Lint 是一个面向 AI 提示词模板的静态分析引擎，对发送给 Claude、ChatGPT、Gemini 等 LLM 的提示词做确定性的规则检查，而不改写内容。它提供 PR001–PR-INJ03 共 47 条规则，覆盖角色混淆、注入面暴露、分隔符逃逸、长度与冗余指令等问题，并支持 CLI、CI/CD 集成、JSON 与 HTML 报告、本地 Web 仪表盘以及通过自有 API Key 调用 OpenAI 与 Anthropic 接口进行模型特定校验。
展开详情收起详情：Prompt Lint：AI 提示词静态分析与规则校验工具⌄
程序员程序员在开发 AI 应用时，可用 Prompt Lint 对提示词模板做静态规则检查，发现角色混淆、注入面暴露、分隔符逃逸、长度与冗余指令等问题，并通过 CLI 或 CI/CD 集成在提交前拦截有问题的提示词。
产品经理产品经理在编写或评审 AI 产品中的提示词时，可用 Prompt Lint 检查提示词是否存在角色混淆、注入面暴露、冗余指令等问题，并生成 JSON 或 HTML 报告用于团队评审。
★ 1 · 可直接使用的工具
原文发布：未知收录：2026-09-18
工具
wahhyun/llm-eval · Evaluate large language models with tools for performance and consistency scoring as part of the llm-cpp C++ infrastructure toolkit.
llm-eval 是一个用 C++ 编写的小型 LLM 提示测试工具，通过多次运行同一提示并比较回答，评估语言模型的回答一致性与稳定性，给出评分并标记差异过大的情况。它无需额外依赖，可单头文件形式嵌入 C++ 项目，也提供了可直接运行的 Windows 程序。
展开详情收起详情：llm-eval：LLM 提示一致性与稳定性测试工具⌄
程序员在 C++ 项目中集成单头文件库，对同一提示多次运行并比较回答，评估语言模型回答的一致性与稳定性，获得评分和差异标记，用于测试和排错。
★ 1 · 可直接使用的工具
原文发布：未知收录：2026-09-18
工具
NVIDIA/SkillSpector · Security scanner for AI agent skills. Detect vulnerabilities, malicious patterns, security risks, prompt injection, data exfiltration, and supply-chain risks in Claude Code, Codex, and MCP skills before you install them.
SkillSpector 是 NVIDIA 发布的 AI agent 技能安全扫描器，用于在安装 Claude Code、Codex、Gemini CLI 等 agent 技能前发现漏洞、恶意模式、提示注入、数据外泄和供应链风险。它支持扫描 Git 仓库、URL、zip、目录或单个文件，内置 71 个漏洞模式（覆盖 17 个类别），采用静态分析加可选 LLM 语义评估的两阶段分析，并可输出终端、JSON、Markdown 和 SARIF 报告，同时提供 0-100 风险评分与基线误报抑制功能。项目还可作为 MCP 服务器运行，把安全扫描作为工具接入 agent 工作流以拦截不安全的技能安装。
展开详情收起详情：SkillSpector：安装前扫描 AI Agent 技能的安全漏洞与恶意模式⌄
程序员在安装 Claude Code、Codex、Gemini CLI 等 AI agent 技能前，用 SkillSpector 扫描 Git 仓库、URL、zip、目录或单个文件，检测提示注入、数据外泄、供应链风险等漏洞，并输出终端、JSON、Markdown 或 SARIF 报告用于代码审查与 CI/CD 集成。
★ 17453 · 可直接使用的工具
原文发布：未知收录：2026-09-17
工具
SasanLabs/LLMForge · LLMForge is probably the most modern AI vulnerability lab for OWASP VulnerableApp — real-LLM-backed labs for prompt injection, LLM-orchestrated BOLA, and RAG attacks.
LLMForge 是 OWASP VulnerableApp 的 AI/LLM 漏洞模块，是一个故意存在漏洞的 FastAPI 应用，接入现有的 VulnerableApp-facade 生态，提供针对本地真实 LLM（通过 Ollama 运行）的攻防实验套件，而非模拟响应。它覆盖多个渐进难度的实验：提示注入（10 关，目标是提取系统提示中的隐藏密钥）、间接提示注入（4 关，外部内容中的隐藏指令）、LLM 编排导致的 BOLA（医疗聊天机器人，3 关）、RAG 上下文投毒（3 关）与 RAG 敏感数据泄露（4 关）。每个关卡通过声明式装饰器框架定义并标注已知攻击向量与载荷，用于自动生成关卡 UI 和与 facade 兼容的漏洞清单。项目定位为教育与防御性安全研究。
展开详情收起详情：LLMForge：面向 OWASP VulnerableApp 的真实 LLM 漏洞靶场⌄
程序员作为故意存在漏洞的 FastAPI 应用，供程序员在本地真实 LLM（通过 Ollama 运行）上练习和测试 LLM 集成系统的安全缺陷，包括提示注入、间接提示注入、LLM 编排导致的 BOLA、RAG 上下文投毒与 RAG 敏感数据泄露等实验。
★ 11 · 可直接使用的工具
原文发布：未知收录：2026-09-17
工具
recetariodmix/garak · 🔍 Discover vulnerabilities in LLMs with garak, a tool that probes for weaknesses like hallucination, data leakage, and misinformation effectively.
garak 是一个用 Python 编写的 LLM 漏洞扫描工具，通过探测幻觉、数据泄露和虚假信息等弱点，帮助识别大语言模型应用中的安全隐患，并生成报告以呈现潜在风险。
展开详情收起详情：garak：用于探测大语言模型漏洞的安全扫描工具⌄
程序员在开发或集成大语言模型应用时，使用 garak 对模型进行漏洞扫描，探测幻觉、数据泄露和虚假信息等弱点，并生成报告以识别安全隐患。
★ 0 · 可直接使用的工具
原文发布：未知收录：2026-09-17
工具
hermes-labs-ai/rule-audit · Static analyzer for AI system prompts: parses a prompt into normative rules and reports contradictions, coverage gaps, priority ambiguities, and absolute-rule edge cases - no LLM calls. Deterministic pure-Python lint with CLI, Python API, and CI exit codes. pip install rule-audit
rule-audit 是一个纯 Python 静态分析工具，将 AI 系统提示词和 Agent 指令解析为规范性规则，报告逻辑矛盾、覆盖缺口、优先级歧义、元规则悖论和绝对规则边界情况，全程不调用 LLM。它以确定性 lint 方式提供 CLI、Python API 和 CI 退出码，可用于 pre-commit 钩子在提交前审查 CLAUDE.md、AGENTS.md、SOUL.md 等提示词文件，也可作为 Claude Code、Codex、Gemini CLI、Hermes Agent 的插件使用。检测基于词法解析（句子切分、情态动词正则、关键词簇）而非语义模型，作者明确说明它只能发现候选缺陷，不能证明提示词可被利用。
展开详情收起详情：rule-audit：静态分析 AI 系统提示词中的规则冲突与覆盖缺口⌄
程序员在编写或审查 AI 系统提示词与 Agent 指令文件（如 CLAUDE.md、AGENTS.md、SOUL.md）时，用 rule-audit 做静态 lint，发现规则之间的逻辑矛盾、覆盖缺口、优先级歧义、元规则悖论和绝对规则边界情况，并可通过 pre-commit 钩子在提交前审查这些提示词文件。
★ 2 · 可直接使用的工具
原文发布：未知收录：2026-09-16
工具
HutCh1E/Skills-check · Perform automated multi-layer security analysis on AI Agent skills to detect code risks and runtime threats efficiently.
Skills-check 是一款用于检查 AI Agent 技能或插件安全风险的工具，通过静态分析、LLM 分析和沙箱分析三层检测代码中的风险。支持粘贴代码、上传文件、输入 GitHub URL 或安装命令来获取并分析技能代码，帮助用户在安装前发现反向 shell、数据窃取、代码注入等潜在威胁。
展开详情收起详情：Skills-check：AI Agent 技能的多层安全检测工具⌄
程序员在安装 AI Agent 技能或插件前，使用 Skills-check 对技能代码进行静态分析、LLM 分析和沙箱分析，检测反向 shell、数据窃取、代码注入等安全风险，辅助代码审查与安全排错。
★ 0 · 可直接使用的工具
原文发布：未知收录：2026-09-16
工具
comet-ml/opik · Debug, evaluate, and monitor your LLM applications, RAG systems, and agentic workflows with comprehensive tracing, automated evaluations, and production-ready dashboards.
Opik 是由 Comet 开发、Apache-2.0 许可的开源 LLM 可观测性与评测平台，覆盖 LLM 应用全生命周期：支持 LLM 调用与多步 Agent 追踪、对话记录、工具调用链路追踪；提供数据集、实验与 LLM-as-a-judge 指标（如幻觉检测、内容审核、RAG 评估）；包含 Prompt 管理与 Prompt Playground、Opik Agent Optimizer 提示词/Agent 优化、Opik Guardrails 安全实践、PyTest 集成的 CI/CD 评测，以及面向生产的监控仪表盘与在线评测规则。平台为框架无关，支持自带 SDK、OpenTelemetry 以及多种第三方框架集成，官方称设计上可承载每日 4000 万条以上 trace。仓库包含服务端、Web 应用、追踪、数据集、实验、评测、Prompt 管理、在线评测与 Agent 优化组件，可自托管，数据不离开自有环境。
展开详情收起详情：Opik：开源 LLM 可观测性与评测平台，用于 AI Agent 追踪和生产监控⌄
程序员在开发 LLM 应用或 AI Agent 时，使用 Opik 追踪 LLM 调用、多步 Agent 与工具调用链路，进行调试与排错；通过 PyTest 集成在每次提交时评测 LLM 流水线，并利用数据集、实验与 LLM-as-a-judge 指标（幻觉检测、内容审核、RAG 评估）自动化评测应用。
产品经理在管理 LLM 应用或 AI Agent 产品时，使用 Opik 的生产监控仪表盘查看反馈分数、trace 数量与 token 使用随时间的变化，并通过在线评测规则结合 LLM-as-a-judge 指标识别生产问题，辅助产品数据分析与迭代决策。
★ 22020 · 可直接使用的工具
原文发布：未知收录：2026-09-15