工具
spring-ai-community/spring-ai-typesafe · A Java SDK for the TypeSafe AI JEV API, & Spring AI TypeSafe integrations.
该项目为 TypeSafe AI 的 System One（jev）API 提供 Java 客户端，基于 Spring RestClient 与 Jackson 3 构建，并提供 Spring AI 集成，可作为模型即评审、护栏、RAG 后处理器与工具索引使用。其核心思路是将状态与一组类型化问题提交给 API，并行获得结构化答案（Noul、Choice、Score），而非文本生成。项目包含 typesafe-java-sdk、typesafe-spring-ai、spring-ai-starter-typesafe、typesafe-bom 及示例模块。
展开详情收起详情：Spring AI TypeSafe：TypeSafe AI System One API 的 Java SDK 与 Spring AI 集成⌄
程序员在 Java/Spring AI 应用中集成 TypeSafe AI System One API，将状态与一组类型化问题（Noul、Choice、Score）提交并并行获得结构化答案，用于模型即评审、护栏、RAG 后处理器与工具索引等开发场景。
★ 29 · 开发框架
原文发布：未知收录：2026-09-23
工具
roshcompanylabs/llm-stream-guardrails · LLM guardrails for streaming: redact PII and secrets mid-stream
llm-stream-guardrails 是一个 TypeScript 库，用于在 LLM 流式响应过程中实时检测并遮盖 PII、API 密钥、私钥等敏感内容，无需先缓冲完整回复再过滤。它接收任意字符串异步可迭代对象（可直接接入 Vercel AI SDK 的 textStream，OpenAI/Anthropic SDK 需一行映射），承诺对任意输入、策略与分块方式，流式输出与整串过滤结果逐字节一致且每个输出块独立完整。内置 email、信用卡（Luhn 校验）、电话、SSN、IBAN（mod-97）、35 类密钥形态及 PEM 私钥块检测器，并支持按字段名识别的 labeledSensitive 与自定义敏感标签。仓库定位为纵深防御而非合规控制，作者明确说明对未见文本的召回率约 47%–81%，不能替代其他安全措施。
展开详情收起详情：llm-stream-guardrails：流式响应中实时脱敏 PII 与密钥的 LLM 护栏⌄
程序员在开发 LLM 应用时，将本库接入流式响应管道，实时遮盖输出中的 PII、API 密钥、私钥等敏感内容，避免敏感信息直接展示给用户；也可用于对完整字符串做脱敏并获取检测位置信息。
★ 0 · 开发框架
原文发布：未知收录：2026-09-23
工具
Heimel-open/Heimel · HEIMEL Intent. Realized. HEIMEL is open infrastructure for the transition from intent to consequence.
HEIMEL 是一套面向后果承载执行的授权治理基础设施，位于现有身份、策略与执行系统之间，在意图落地为真实效果的那一刻判断其是否具备当前授权。它不替换 IAM 或策略引擎，而是把决策、精确效果、许可与回执绑定，并通过 Gateway 强制唯一受治理的效果路径，由 Veritas 保留可归因的证据。仓库包含本地参考运行时，支持本地授权、执行、回放与证据查验，并提供标准授权演示、可执行授权演示和回放演示。
展开详情收起详情：HEIMEL：在意图转化为实际后果前进行授权治理的基础设施⌄
程序员在开发需要执行真实后果的 AI Agent 或自动化系统时，将 HEIMEL 作为授权治理层，在意图落地为真实效果前判断其是否具备当前授权，并通过 Gateway 强制唯一受治理的效果路径、由 Veritas 保留可归因证据；仓库提供本地参考运行时，可本地授权、执行、回放与证据查验。
★ 6 · 开发框架
原文发布：未知收录：2026-09-23
工具
joshuakoplik/soc-lab · A SOC lab for studying LLM agents on both sides of the boundary: vulnerable dockerized targets emitting real telemetry, a deterministic ingest/detect pipeline, and triage + red-team agents on top — plus a harness measuring prompt-injection resistance.
soc-lab 是一个用于研究安全运营中心（SOC）内 LLM 智能体行为的研究环境，由三部分组成：刻意存在漏洞、可输出真实遥测的 Docker 靶机实验场；确定性的数据摄取、规范化与检测流水线（结果落入 SQLite，不涉及模型）；以及构建在其上的两类智能体——蓝队分诊智能体和红队智能体。项目还在日志 schema 中按“可信度”而非类型划分列，把攻击者可控字段与基础设施断言字段结构分离，并通过 injection_asr 测试框架对比开启/关闭信任边界防护时，分诊智能体对提示注入的抵抗程度。项目定位为研究工具而非安全产品，包含未沙箱化的工具能力和真实 iptables 网络封锁行为。
展开详情收起详情：soc-lab：在 SOC 场景中研究 LLM 智能体攻防与提示注入抗性的安全实验环境⌄
程序员作为安全研究环境，程序员可用它研究 LLM 智能体在 SOC 场景中的行为，包括蓝队分诊智能体和红队智能体，以及通过 injection_asr 测试框架对比开启/关闭信任边界防护时对提示注入的抵抗程度。
★ 0 · 研究实现
原文发布：未知收录：2026-09-23
综合合集
kousalya-pm/ai-foundation-models-lab · Hands-on experiments across time-series and security foundation models: zero-shot forecasting, evaluation, RAG, and LoRA fine-tuning — from a product management perspective.
该项目是一组以 Jupyter Notebook 形式记录的动手实验，从产品管理视角探索基础模型的生命周期：使用 Cisco CTSM 进行单变量零样本时序预测并测试噪声、缺失数据和异常下的鲁棒性；在本地以 Q4_K_M GGUF 量化运行 Cisco Foundation-Sec-1.1-8B-Instruct 安全领域模型，构建评测数据集并从分类准确率、MITRE 技术映射、证据完备性、延迟等多维度评分；用 TF-IDF 与语义向量检索对比实现安全策略 RAG，诊断检索、生成与拒答等失败模式；并在 Qwen2.5-0.5B 与 Foundation-Sec 上对比 LoRA 微调效果。仓库保留了每项实验的原始数字、失败模式与局限性说明，并给出面向产品团队的经验总结和平台能力建议。
展开详情收起详情：AI Foundation Models Lab：从产品管理视角动手探索基础模型的零样本预测、评测、RAG 与 LoRA 微调⌄
产品经理产品经理可参考该仓库从产品管理视角进行的基础模型实验，包括零样本时序预测、安全领域模型评测、RAG 与 LoRA 微调对比，以及面向产品团队的经验总结和平台能力建议，用于理解基础模型生命周期、评估模型质量与延迟等产品权衡。
★ 0 · 研究实现
原文发布：未知收录：2026-09-23
工具
dthinkr/openrouter-uptime · Independent uptime registry for every OpenRouter model. Polled every 30 min, raw + derived + incidents, keyless
该项目为 OpenRouter 上每个模型及其各推理提供方建立独立的可用性注册表，通过两个采集器每 15 分钟轮询 OpenRouter 公共 API（无需 API Key），记录约 400 个目录模型、约 1150 个路由端点的状态，并以带时间戳的快照形式提交原始响应与派生数据。仓库提供 raw/、derived/、status/ 三类数据，包括逐端点状态 CSV、最新快照、只追加的故障日志与模型/提供方变更日志，用于重建任意端点的历史可用性；Parquet 镜像每日同步到 HuggingFace 与 Kaggle。
展开详情收起详情：OpenRouter Uptime：面向 OpenRouter 全模型的独立可用性监测与历史数据集⌄
程序员在开发依赖 OpenRouter 模型的应用时，可用该仓库的逐端点状态 CSV、最新快照和只追加故障日志查询各模型与推理提供方的历史可用性，辅助选择稳定端点或排查调用失败。
★ 0 · 资料合集
原文发布：未知收录：2026-09-20
工具
phonghhd/EvoNet-AI-Core · Autonomous AI Security Agent leveraging LLMs, RAG, and Knowledge Graphs for automated CVE analysis and auto-patching.
EvoNet-Core 是一个自主 AI 安全代理项目，持续采集 CVE 数据、分析漏洞并生成防御性代码。它集成了四层 AI 路由故障转移（NVIDIA NIM、Groq、Cloudflare AI、本地 Ollama）、知识图谱与向量检索结合的 Graph RAG（Pinecone + Neo4j）、基于 PPO 的强化学习防御策略、MITRE ATT&CK 映射、EPSS 评分以及人工审批环节，并提供 FastAPI 后端、Web 仪表盘、CLI 工具和 Telegram 机器人接口。项目基于 Python 开发，采用 Apache-2.0 许可。
展开详情收起详情：EvoNet-Core：自主 AI 安全代理，自动进行 CVE 分析与补丁生成⌄
程序员程序员可使用该工具进行代码安全扫描（CLI 支持 evonet scan --path），自动分析 CVE 漏洞并生成防御性补丁，同时通过 MITRE ATT&CK 映射和 EPSS 评分辅助漏洞优先级排序，提升代码审查与安全修复效率。
★ 4 · 可直接使用的工具
原文发布：未知收录：2026-09-20
工具
themanoj-025/AegisAI · AegisAI is an AI-powered security code review agent that analyzes GitHub pull requests, detects vulnerabilities, validates findings, redacts secrets, and posts actionable inline feedback before insecure code reaches production.
AegisAI 是一个基于 AI 的安全代码审查代理，通过 GitHub Webhook 接收 pull request 事件，提取 diff，经 Redis 队列交由 RQ Worker 处理：过滤噪声文件、重定向敏感信息、调用 Claude 或 GPT-4o 检测 12 类以上漏洞（SQL 注入、XSS、命令注入、硬编码密钥等），校验发现后以行内评论形式回写到 PR。项目使用 FastAPI + Redis + RQ 架构，提供 Docker 多阶段构建、HMAC-SHA256 签名校验、幻觉防护、Webhook 重试与死信队列及 Prometheus 指标。
展开详情收起详情：AegisAI：面向 GitHub PR 的 AI 安全代码审查代理⌄
程序员在 GitHub Pull Request 中自动进行安全代码审查：通过 Webhook 接收 PR 事件，提取 diff，调用 Claude 或 GPT-4o 检测 SQL 注入、XSS、命令注入、硬编码密钥等 12 类以上漏洞，并以行内评论形式回写到 PR，帮助程序员在代码合并前发现安全问题。
★ 0 · 可直接使用的工具
原文发布：未知收录：2026-09-19
工具
Kenny27lokku/prompt-integrity-validator · Lint Your Prompts, Ship Better Agents – Prompt Refiner 2026 Rule Engine
Prompt Lint 是一个面向 AI 提示词模板的静态分析引擎，对发送给 Claude、ChatGPT、Gemini 等 LLM 的提示词做确定性的规则检查，而不改写内容。它提供 PR001–PR-INJ03 共 47 条规则，覆盖角色混淆、注入面暴露、分隔符逃逸、长度与冗余指令等问题，并支持 CLI、CI/CD 集成、JSON 与 HTML 报告、本地 Web 仪表盘以及通过自有 API Key 调用 OpenAI 与 Anthropic 接口进行模型特定校验。
展开详情收起详情：Prompt Lint：AI 提示词静态分析与规则校验工具⌄
程序员程序员在开发 AI 应用时，可用 Prompt Lint 对提示词模板做静态规则检查，发现角色混淆、注入面暴露、分隔符逃逸、长度与冗余指令等问题，并通过 CLI 或 CI/CD 集成在提交前拦截有问题的提示词。
产品经理产品经理在编写或评审 AI 产品中的提示词时，可用 Prompt Lint 检查提示词是否存在角色混淆、注入面暴露、冗余指令等问题，并生成 JSON 或 HTML 报告用于团队评审。
★ 1 · 可直接使用的工具
原文发布：未知收录：2026-09-18
开源项目
NakodaInfotech/pk-drop-in-auth · The 2026 Passkey Developer Starter Kit – Build AI-Ready Login
BioGate 是一个实验性的仿生认证编排层，围绕 passkey/WebAuthn/FIDO2 构建身份边界，通过设备指纹与行为生物特征进行模式识别、基于机器学习的信任分数自适应更新以及异常检测与会话隔离，并提供可选的开源模型 API（OpenAI、Claude）接入以实现风险评分。README 声明其为实验性项目，不建议未经安全审计用于生产环境。
展开详情收起详情：BioGate：基于通行密钥的仿生身份认证编排层⌄
★ 0 · 开发框架
原文发布：未知收录：2026-09-18
综合合集
pixeltable/pixeltable-vs-supabase-vs-convex · One video intelligence app built three ways, on Pixeltable, Supabase and Convex. Every number measured, all three executed, tradeoffs stated.
该仓库用同一份应用契约（视频抽帧、语音转写、多模态嵌入、场景检测与问答）在 Pixeltable、Supabase、Convex 三个平台上各实现一遍，并公开可复现的代码行数、编排跳数、延迟等指标与测试套件（契约测试、差分测试、韧性测试）。材料同时给出各平台在不同条件下胜负的权衡说明，包括作者承认 Pixeltable 在摄入与检索延迟上落后的场景，并明确指出实时能力、行级安全、托管数据库等场景下结论会改变。
展开详情收起详情：Pixeltable vs Supabase vs Convex：同一视频智能应用三种实现的量化对比基准⌄
程序员作为视频智能应用后端实现的参考基准，程序员可对比 Pixeltable、Supabase、Convex 三种实现同一契约（视频抽帧、语音转写、多模态嵌入、场景检测与问答）的代码行数、编排跳数、延迟等指标，并复用其契约测试、差分测试与韧性测试套件来评估或选择技术栈。
★ 0 · 资料合集
原文发布：未知收录：2026-09-18
工具
wahhyun/llm-eval · Evaluate large language models with tools for performance and consistency scoring as part of the llm-cpp C++ infrastructure toolkit.
llm-eval 是一个用 C++ 编写的小型 LLM 提示测试工具，通过多次运行同一提示并比较回答，评估语言模型的回答一致性与稳定性，给出评分并标记差异过大的情况。它无需额外依赖，可单头文件形式嵌入 C++ 项目，也提供了可直接运行的 Windows 程序。
展开详情收起详情：llm-eval：LLM 提示一致性与稳定性测试工具⌄
程序员在 C++ 项目中集成单头文件库，对同一提示多次运行并比较回答，评估语言模型回答的一致性与稳定性，获得评分和差异标记，用于测试和排错。
★ 1 · 可直接使用的工具
原文发布：未知收录：2026-09-18
工具
NVIDIA/SkillSpector · Security scanner for AI agent skills. Detect vulnerabilities, malicious patterns, security risks, prompt injection, data exfiltration, and supply-chain risks in Claude Code, Codex, and MCP skills before you install them.
SkillSpector 是 NVIDIA 发布的 AI agent 技能安全扫描器，用于在安装 Claude Code、Codex、Gemini CLI 等 agent 技能前发现漏洞、恶意模式、提示注入、数据外泄和供应链风险。它支持扫描 Git 仓库、URL、zip、目录或单个文件，内置 71 个漏洞模式（覆盖 17 个类别），采用静态分析加可选 LLM 语义评估的两阶段分析，并可输出终端、JSON、Markdown 和 SARIF 报告，同时提供 0-100 风险评分与基线误报抑制功能。项目还可作为 MCP 服务器运行，把安全扫描作为工具接入 agent 工作流以拦截不安全的技能安装。
展开详情收起详情：SkillSpector：安装前扫描 AI Agent 技能的安全漏洞与恶意模式⌄
程序员在安装 Claude Code、Codex、Gemini CLI 等 AI agent 技能前，用 SkillSpector 扫描 Git 仓库、URL、zip、目录或单个文件，检测提示注入、数据外泄、供应链风险等漏洞，并输出终端、JSON、Markdown 或 SARIF 报告用于代码审查与 CI/CD 集成。
★ 17453 · 可直接使用的工具
原文发布：未知收录：2026-09-17
工具
SasanLabs/LLMForge · LLMForge is probably the most modern AI vulnerability lab for OWASP VulnerableApp — real-LLM-backed labs for prompt injection, LLM-orchestrated BOLA, and RAG attacks.
LLMForge 是 OWASP VulnerableApp 的 AI/LLM 漏洞模块，是一个故意存在漏洞的 FastAPI 应用，接入现有的 VulnerableApp-facade 生态，提供针对本地真实 LLM（通过 Ollama 运行）的攻防实验套件，而非模拟响应。它覆盖多个渐进难度的实验：提示注入（10 关，目标是提取系统提示中的隐藏密钥）、间接提示注入（4 关，外部内容中的隐藏指令）、LLM 编排导致的 BOLA（医疗聊天机器人，3 关）、RAG 上下文投毒（3 关）与 RAG 敏感数据泄露（4 关）。每个关卡通过声明式装饰器框架定义并标注已知攻击向量与载荷，用于自动生成关卡 UI 和与 facade 兼容的漏洞清单。项目定位为教育与防御性安全研究。
展开详情收起详情：LLMForge：面向 OWASP VulnerableApp 的真实 LLM 漏洞靶场⌄
程序员作为故意存在漏洞的 FastAPI 应用，供程序员在本地真实 LLM（通过 Ollama 运行）上练习和测试 LLM 集成系统的安全缺陷，包括提示注入、间接提示注入、LLM 编排导致的 BOLA、RAG 上下文投毒与 RAG 敏感数据泄露等实验。
★ 11 · 可直接使用的工具
原文发布：未知收录：2026-09-17
工具
recetariodmix/garak · 🔍 Discover vulnerabilities in LLMs with garak, a tool that probes for weaknesses like hallucination, data leakage, and misinformation effectively.
garak 是一个用 Python 编写的 LLM 漏洞扫描工具，通过探测幻觉、数据泄露和虚假信息等弱点，帮助识别大语言模型应用中的安全隐患，并生成报告以呈现潜在风险。
展开详情收起详情：garak：用于探测大语言模型漏洞的安全扫描工具⌄
程序员在开发或集成大语言模型应用时，使用 garak 对模型进行漏洞扫描，探测幻觉、数据泄露和虚假信息等弱点，并生成报告以识别安全隐患。
★ 0 · 可直接使用的工具
原文发布：未知收录：2026-09-17
Agent Skill
cloudflare/security-audit-skill · A coding-agent skill for multi-phase security audits with independently verified, machine-readable findings
这是 Cloudflare 开源的一个编码智能体技能（skill），用于对代码库执行多阶段安全审计。它把审计流程拆成六个阶段：侦察、基于覆盖台账的漏洞猎取、候选发现验证、结构化输出、独立记录复核和与目标无关的报告生成。审计结果以机器可读的 findings.json 输出，并区分 confirmed、needs_validation 和 rejected 三种结论，配合零依赖校验脚本验证覆盖台账与发现记录。多次运行同一仓库的审计是累加的，会复用既往台账与发现来定位覆盖缺口。该技能是 Cloudflare 漏洞发现流水线的单仓起点。
展开详情收起详情：security-audit：将编码智能体变成具备多阶段独立验证流程的安全审计器⌄
程序员将编码智能体变成安全审计器，对代码库执行多阶段安全审计：侦察、基于覆盖台账的漏洞猎取、候选发现验证、结构化输出、独立记录复核和报告生成，输出机器可读的 findings.json，用于代码审查与漏洞发现。
★ 7041 · 开发框架
原文发布：未知收录：2026-09-17
开源项目
prometheus/OpenMetrics · Evolving the Prometheus exposition format into a standard.
OpenMetrics 是一个在 Prometheus exposition format 基础上扩展、并保持约 100% 向后兼容的规范项目，目前已迁入 Prometheus 组织并正在推进 OpenMetrics 2.0。仓库提供规范文件 specification/OpenMetrics.md、数据模型 proto proto/openmetrics_data_model.proto，以及提案流程说明（issue 分类标签、正式提案、已接受提案等），供社区讨论和贡献规范变更。
展开详情收起详情：OpenMetrics：将 Prometheus 指标暴露格式演进为开放标准的规范项目⌄
★ 2537 · 资料合集
原文发布：未知收录：2026-09-17
开源项目
tonykoop/makerbench-hwe · An agentic benchmark for the physical world: spatial reasoning, design-for-manufacturing (DFM), and 3D-maker capability. Math-graded, not LLM-judged. MakerBench is to physical design what SWE-bench is to software.
MakerBench HWE 是一个针对物理设计能力的智能体基准，用来评测模型的空间推理、面向制造的设计（DFM）和 3D 造物能力。任务由参数化模板生成、答案无法记忆，图形评分器直接检查导出的网格或 2D 矢量文件，而非依赖 LLM 裁判。基准分为「盲测」（文本到几何，单次评分）和「感知闭环」（允许渲染、测量并迭代）两条赛道，并按结构、几何、物理约束、DFM 四个层级逐级打分，同时输出质量连续性指标。内置本地 McMaster 风格的紧固件目录用于考察工具调用与装配匹配，并提供 BOM、工艺方案等设计档案契约。
展开详情收起详情：MakerBench HWE：面向物理世界设计的智能体基准评测⌄
★ 0 · 开发框架
原文发布：未知收录：2026-09-16
工具
hermes-labs-ai/rule-audit · Static analyzer for AI system prompts: parses a prompt into normative rules and reports contradictions, coverage gaps, priority ambiguities, and absolute-rule edge cases - no LLM calls. Deterministic pure-Python lint with CLI, Python API, and CI exit codes. pip install rule-audit
rule-audit 是一个纯 Python 静态分析工具，将 AI 系统提示词和 Agent 指令解析为规范性规则，报告逻辑矛盾、覆盖缺口、优先级歧义、元规则悖论和绝对规则边界情况，全程不调用 LLM。它以确定性 lint 方式提供 CLI、Python API 和 CI 退出码，可用于 pre-commit 钩子在提交前审查 CLAUDE.md、AGENTS.md、SOUL.md 等提示词文件，也可作为 Claude Code、Codex、Gemini CLI、Hermes Agent 的插件使用。检测基于词法解析（句子切分、情态动词正则、关键词簇）而非语义模型，作者明确说明它只能发现候选缺陷，不能证明提示词可被利用。
展开详情收起详情：rule-audit：静态分析 AI 系统提示词中的规则冲突与覆盖缺口⌄
程序员在编写或审查 AI 系统提示词与 Agent 指令文件（如 CLAUDE.md、AGENTS.md、SOUL.md）时，用 rule-audit 做静态 lint，发现规则之间的逻辑矛盾、覆盖缺口、优先级歧义、元规则悖论和绝对规则边界情况，并可通过 pre-commit 钩子在提交前审查这些提示词文件。
★ 2 · 可直接使用的工具
原文发布：未知收录：2026-09-16
工具
HutCh1E/Skills-check · Perform automated multi-layer security analysis on AI Agent skills to detect code risks and runtime threats efficiently.
Skills-check 是一款用于检查 AI Agent 技能或插件安全风险的工具，通过静态分析、LLM 分析和沙箱分析三层检测代码中的风险。支持粘贴代码、上传文件、输入 GitHub URL 或安装命令来获取并分析技能代码，帮助用户在安装前发现反向 shell、数据窃取、代码注入等潜在威胁。
展开详情收起详情：Skills-check：AI Agent 技能的多层安全检测工具⌄
程序员在安装 AI Agent 技能或插件前，使用 Skills-check 对技能代码进行静态分析、LLM 分析和沙箱分析，检测反向 shell、数据窃取、代码注入等安全风险，辅助代码审查与安全排错。
★ 0 · 可直接使用的工具
原文发布：未知收录：2026-09-16