评测与安全工具
soc-lab：在 SOC 场景中研究 LLM 智能体攻防与提示注入抗性的安全实验环境
joshuakoplik/soc-lab · A SOC lab for studying LLM agents on both sides of the boundary: vulnerable dockerized targets emitting real telemetry, a deterministic ingest/detect pipeline, and triage + red-team agents on top — plus a harness measuring prompt-injection resistance.
ELI5：它是什么，解决什么问题
soc-lab 是一个用于研究安全运营中心（SOC）内 LLM 智能体行为的研究环境，由三部分组成：刻意存在漏洞、可输出真实遥测的 Docker 靶机实验场；确定性的数据摄取、规范化与检测流水线（结果落入 SQLite，不涉及模型）；以及构建在其上的两类智能体——蓝队分诊智能体和红队智能体。项目还在日志 schema 中按“可信度”而非类型划分列，把攻击者可控字段与基础设施断言字段结构分离，并通过 injection_asr 测试框架对比开启/关闭信任边界防护时，分诊智能体对提示注入的抵抗程度。项目定位为研究工具而非安全产品，包含未沙箱化的工具能力和真实 iptables 网络封锁行为。
核心能力与快速开始
★ 0 · Python
- 能做什么
- 提供带真实遥测的漏洞化 Docker 靶机实验场（Cowrie SSH 蜜罐、Metasploitable、Juice Shop、WordPress、Northwind RAG 应用等，分 easy/hard/wordpress/northwind 多种模式）；确定性的摄取→规范化→检测流水线，结果存入 SQLite；蓝队分诊智能体（读取检测结果、判定结论、可通过 block_ip 写入真实 iptables 规则）与红队智能体（侦察、评估、提议、对实验场内靶机执行操作）；injection_asr 提示注入 ASR 测试框架，对比防护开启/关闭两种路径的差异；按信任度分组的日志 schema，将攻击者可控字段用 <untrusted-evidence> 标签隔离；工具调用分为无门禁但记录、人工审批、白名单自动执行三种姿态，并做目标作用域校验；只读实时 dashboard。
- 适用场景
- 研究 LLM 智能体在 SOC 分诊与攻击场景中的表现与失效点；量化提示注入防护（如不可信证据隔离）的实际效果；测试带真实工具调用能力的智能体的安全边界与作用域校验；在本地受控网络中演练红蓝对抗与检测规则。
- 项目形态
- 研究实现
- 部署方式
- 本地自托管，需 Docker + Compose、Python 3.11+，以及 LLM 提供方（本地 Ollama 或 API key）；明确要求不要绑定到可路由接口，建议运行在可弃用的自有主机上。
- 主要依赖
- Docker、Docker Compose、Python 3.11+、LLM 提供方（本地 Ollama 或 API key）；northwind 模式需在 northwind-range/.env 中设置 NW_OLLAMA_UPSTREAM_HOST；requirements.txt 覆盖 garak、langchain、torch/transformers 等研究依赖，而流水线与智能体代码本身仅需标准库加提供方 SDK。
- 使用限制
- 自述为研究工具而非安全产品，无测试套件或 linter；构建的是刻意可被利用的基础设施，智能体工具具备真实且未沙箱化的能力（如写入 iptables、无目标允许列表的 shell_exec）；使用仅限于实验场自身靶机，否则属于未授权访问；其中 Northwind 模式为独立 compose 项目并需先 reset 才有语料；未说明具体 API 成本、硬件要求与商用许可限制。
- 许可证
- MIT
- 最近推送
- 2026-09-23 05:10
资料检查：2026-09-23 07:00 · 卡片整理：2026-09-23 09:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容
职业应用
程序员
作为安全研究环境，程序员可用它研究 LLM 智能体在 SOC 场景中的行为，包括蓝队分诊智能体和红队智能体，以及通过 injection_asr 测试框架对比开启/关闭信任边界防护时对提示注入的抵抗程度。
查看内容依据
soc-lab 是一个用于研究安全运营中心（SOC）内 LLM 智能体行为的研究环境
由 AI 根据来源材料整理，未进行安装或运行验证
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。