评测与安全工作流

ISC2 2026 AI 代码评审工作坊：构建并加固本地 AI 代码评审流水线

cameronhopkin/isc2-2026-ai-code-review-workshop · Workshop materials for AI-augmented code review pipelines. ISC2 Security Congress 2026.

GitHub原文发布未知首次收录 2026-09-25上架 2026-09-25 07:02

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

这是 ISC2 Security Congress 2026 为期两天动手工作坊的配套材料，面向希望在流水线中引入 LLM 辅助代码评审、又不希望把代码送给第三方厂商的安全工程师。项目提供参考实现与实验指南：AI 评审机器人接收 Bandit、detect-secrets 等扫描器输出的 SARIF 结果，经本地 Ollama 开源权重的 Qwen2.5-Coder 模型（默认 7B，另有 3B 小模型）分诊，输出带真实文件与行号引用的评审意见。内容涵盖模型本地部署、三种在代码层强制执行的防幻觉模式（强制引用、链式验证、宁可拒答）、CI/CD 集成、对机器人自身的攻击实验（提示注入、假阴性操纵、数据外泄、资源耗尽）以及企业级加固清单和自托管与商业方案的总体拥有成本模型。仓库同时包含刻意存在漏洞的 Flask 目标应用、提示词模板、评测工具和防御模式实现。

# guardrails # LLM安全 # 提示注入 # 本地推理 # code-review

核心能力与快速开始

★ 0 · Python

能做什么: 提供 AI 辅助代码评审流水线的参考实现与两日工作坊实验材料。机器人以 SARIF 作为输入契约，接收 Bandit、detect-secrets 等扫描器结果（Semgrep、CodeQL、gitleaks 等任何输出 SARIF 的工具同样适用），经本地 Ollama 托管的开源权重模型（默认 qwen2.5-coder:7b，可选 3b）分诊，输出引用真实文件与行号的解释性、优先级排序后的评审意见。仓库包含三个在代码层（而非仅提示词中）强制执行的防幻觉模式：每条发现必须引用文件与行号、模型需对照给定上下文校验自身输出、以及允许报告“无发现”。同时提供针对代码评审场景的提示注入缓解措施、提示词模板、检出率测量与结业评分评测工具、CI/CD 集成模板（含 GitHub Actions 与 GitLab CI），以及自托管与商业方案的总体拥有成本模型。
适用场景: 适合安全工程师在自有流水线中引入不向厂商发送代码的 LLM 代码评审能力；作为 DevSecOps 团队构建扫描器结果智能分诊机器人时的参考实现；用于学习与实践 LLM 评审机器人的提示注入、假阴性操纵、数据外泄、资源耗尽等攻击手法及相应加固措施；也可作为工作坊或内部培训的实验教材，通过刻意存在漏洞的 Flask 应用和评测工具验证检测率与防御效果。
项目形态: 资料合集
部署方式: 设计为在参与者自己的笔记本上完全本地运行，使用 Ollama 托管开源权重模型，无需云端、API 密钥、付费层或 Docker；工具也可通过 OLLAMA_HOST 指向另一台机器上服务的模型，但这只是可选机制而非承诺。仓库状态为工作坊准备中，最终实验指南和幻灯片将在 2026 年 10 月交付后发布。
主要依赖: 硬件最低 16 GB 内存（推荐 32 GB，8 GB 机器不可用），约 10 GB 空闲磁盘空间；推荐但不要求独立 GPU 或 Apple Silicon，纯 CPU 笔记本上每次评审约需一到两分钟。操作系统支持 Windows 11、macOS 13 Ventura 或更新（Apple Silicon 或 Intel）、Linux（Ubuntu 22.04 或更新及同类）。软件需要 Python 3.11 及以上、Git、GitHub 或 GitLab 账号（免费层即可）以及 Ollama；模型需预先拉取（7b 约 4.7 GB，3b 约 1.9 GB）。需要能在笔记本上安装软件，部分企业设备管理会直接阻止安装程序。
使用限制: 仓库状态为工作坊准备中，最终实验指南与幻灯片需等到 2026 年 10 月交付后才发布。模型评测数据位于 docs/MODEL_EVAL.md，材料未给出具体数值结论。120B 级自托管配置不能在笔记本上运行，仅在模块 7 中作为扩展参考架构出现。硬件门槛较高，8 GB 内存机器无法使用；纯 CPU 环境下推理速度明显下降。材料未说明模型输出在企业环境中的准确率上限或任何形式的生产级保证，也未说明许可证之外的使用限制。
许可证: Apache-2.0
最近推送: 2026-09-24 08:21

核对 README 依据 ↗

资料检查：2026-09-25 07:00 · 卡片整理：2026-09-25 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

在本地或 CI 流水线中引入 LLM 辅助代码评审：接收 Bandit、detect-secrets 等扫描器输出的 SARIF 结果，经本地 Ollama 的 Qwen2.5-Coder 模型分诊，输出带真实文件与行号引用的评审意见；并可通过三种防幻觉模式（强制引用、链式验证、宁可拒答）加固评审机器人。

查看内容依据

The bot consumes the scanner output you already have. Bandit and detect-secrets findings go in, and triaged, explained, prioritized review comments come out, each one citing a real file and line.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

llm-stream-guardrails：流式响应中实时脱敏 PII 与密钥的 LLM 护栏

llm-stream-guardrails 是一个 TypeScript 库，用于在 LLM 流式响应过程中实时检测并遮盖 PII、API 密钥、私钥等敏感内容，无需先缓冲完整回复再过滤。它接收任意字符串异步可迭代对象（可直接接入 Vercel AI SDK 的 textStream，OpenAI/Anthropic SDK 需一行映射），承诺对任意输入、策略与分块方式，流式输出与整串过滤结果逐字节一致且每个输出块独立完整。内置 email、信用卡（Luhn 校验）、电话、SSN、IBAN（mod-97）、35 类密钥形态及 PEM 私钥块检测器，并支持按字段名识别的 labeledSensitive 与自定义敏感标签。仓库定位为纵深防御而非合规控制，作者明确说明对未见文本的召回率约 47%–81%，不能替代其他安全措施。

soc-lab：在 SOC 场景中研究 LLM 智能体攻防与提示注入抗性的安全实验环境

soc-lab 是一个用于研究安全运营中心（SOC）内 LLM 智能体行为的研究环境，由三部分组成：刻意存在漏洞、可输出真实遥测的 Docker 靶机实验场；确定性的数据摄取、规范化与检测流水线（结果落入 SQLite，不涉及模型）；以及构建在其上的两类智能体——蓝队分诊智能体和红队智能体。项目还在日志 schema 中按“可信度”而非类型划分列，把攻击者可控字段与基础设施断言字段结构分离，并通过 injection_asr 测试框架对比开启/关闭信任边界防护时，分诊智能体对提示注入的抵抗程度。项目定位为研究工具而非安全产品，包含未沙箱化的工具能力和真实 iptables 网络封锁行为。

llama.cpp：面向多种硬件的本地 LLM 与 VLM C/C++ 推理引擎

llama.cpp 是用 C/C++ 实现的 LLM（并支持 VLM）推理项目，目标是在尽量少的配置下，于本地或云端多种硬件上获得高性能推理。它基于 ggml 库，支持 Apple Silicon、x86、RISC-V，以及 CUDA、HIP、MUSA、Vulkan、SYCL 等多种后端，并提供 1.5 位到 8 位的整数量化、CPU+GPU 混合推理、命令行工具 llama cli、兼容 OpenAI 接口的 llama serve 服务以及内置 Web UI。

oxinfer：纯 Rust 实现的本地 LLM、扩散模型与嵌入推理引擎

oxinfer 是一个用纯 Rust 编写的本地推理项目，不依赖 BLAS 或 ML 框架，直接读取 safetensors（含 HuggingFace 与 MLX 4-bit 权重）并自行实现矩阵乘、注意力、归一化、RoPE 与采样等算子，并带有手写 SIMD 内核与线程池。它面向文本生成、多模态输入（图像/视频/音频）、嵌入、Stable Diffusion 图像生成、Whisper 语音转文字和 Orpheus 文字转语音等场景，自动在运行时检测 Metal、CUDA 与浏览器 WebGPU 加速，CPU 路径作为始终可用的回退。支持 Gemma 4/3、Qwen 3.x、JEV 决策模型、sentence-transformers 等模型，输出与 transformers 参考实现进行比对，并支持工具调用与权重流式加载。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。