评测与安全工具
LLMForge：面向 OWASP VulnerableApp 的真实 LLM 漏洞靶场
SasanLabs/LLMForge · LLMForge is probably the most modern AI vulnerability lab for OWASP VulnerableApp — real-LLM-backed labs for prompt injection, LLM-orchestrated BOLA, and RAG attacks.
ELI5：它是什么，解决什么问题
LLMForge 是 OWASP VulnerableApp 的 AI/LLM 漏洞模块，是一个故意存在漏洞的 FastAPI 应用，接入现有的 VulnerableApp-facade 生态，提供针对本地真实 LLM（通过 Ollama 运行）的攻防实验套件，而非模拟响应。它覆盖多个渐进难度的实验：提示注入（10 关，目标是提取系统提示中的隐藏密钥）、间接提示注入（4 关，外部内容中的隐藏指令）、LLM 编排导致的 BOLA（医疗聊天机器人，3 关）、RAG 上下文投毒（3 关）与 RAG 敏感数据泄露（4 关）。每个关卡通过声明式装饰器框架定义并标注已知攻击向量与载荷，用于自动生成关卡 UI 和与 facade 兼容的漏洞清单。项目定位为教育与防御性安全研究。
核心能力与快速开始
★ 11 · Python
- 能做什么
- 提供基于真实本地 LLM 的漏洞实验环境，包含五个实验方向：提示注入（10 个渐进关卡，围绕提取受过滤保护的系统提示隐藏密钥）、间接提示注入（4 关，外部网页/文档中隐藏指令）、通过 LLM 编排的 BOLA（医疗聊天机器人，3 关，从无访问控制到提示层护栏再到应用代码强制）、RAG 上下文投毒（3 关）与 RAG 敏感数据暴露（4 关）。每个关卡用装饰器框架（@vulnerable_llm_controller、@vulnerable_llm_endpoint、@attack_vector）声明式定义并标注已知攻击向量与载荷，自动生成关卡 UI 和漏洞清单，可作为 VulnerableApp 家族的 AI/LLM 成员集成到 VulnerableApp-facade 下。
- 适用场景
- 用于安全教育和防御性安全研究：安全培训中讲解 LLM01 提示注入、间接提示注入、LLM04 上下文投毒、API1:2023 BOLA 以及 RAG 数据处理中的敏感数据泄露；在本地真实 LLM 环境中练习和验证攻击思路，而非依赖预设的模拟响应；作为 OWASP VulnerableApp 生态中 AI/LLM 安全练习的补充模块。
- 项目形态
- 可直接使用的工具
- 部署方式
- 通过仓库中的 docker-compose.yml 启动，使用 Docker 镜像 sasanlabs/llmforge；Ollama 与 LLMForge 由单一 nginx facade 暴露，实验经由 http://localhost 在 Vulnerable Applications 列表下访问；首次启动需先拉取聊天与嵌入模型，会耗时数分钟。可配置环境变量 OLLAMA_MODEL（默认 phi3:mini）、OLLAMA_EMBED_MODEL（默认 nomic-embed-text）、FACADE_ROUTE_PREFIX（默认 /llmforge）。除 Docker/Ollama 与模型拉取时间外，API 成本、硬件要求等未说明。
- 主要依赖
- Docker 与 docker-compose；Ollama 运行时（由 compose 一并启动）；需拉取聊天模型和嵌入模型（默认 phi3:mini 与 nomic-embed-text）。具体硬件规格、内存与显存要求未说明。
- 使用限制
- 项目仅用于教育和防御性安全研究，不应针对未授权系统使用。各关卡需要真实模型参与，首次启动因模型拉取较慢。上游相关链接指向 OWASP VulnerableApp 与 VulnerableApp-facade 生态；除 Apache-2.0 许可证与上述说明外，其他限制未说明。
- 许可证
- Apache-2.0
- 最近推送
- 2026-09-17 06:56
资料检查：2026-09-17 07:00 · 卡片整理：2026-09-17 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容
职业应用
程序员
作为故意存在漏洞的 FastAPI 应用，供程序员在本地真实 LLM（通过 Ollama 运行）上练习和测试 LLM 集成系统的安全缺陷，包括提示注入、间接提示注入、LLM 编排导致的 BOLA、RAG 上下文投毒与 RAG 敏感数据泄露等实验。
查看内容依据
It's a deliberately vulnerable FastAPI application that plugs into the existing VulnerableApp-facade ecosystem — the same one that already hosts the Java, JSP, and PHP vulnerable apps — and adds a lab suite for attacking a **real, locally-running LLM** (via [Ollama](https://ollama.com)) instead of simulating one.
由 AI 根据来源材料整理，未进行安装或运行验证
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。