AI 资源库 · 已整理 3 项
查看与红队测试相关的 AI 资讯、工具、Skill、工作流和开源项目。
whitecircle/rise · RISE: Red-teaming via Iterative Strategy Evolution (NeurIPS 2026)
RISE 是面向文生图模型的红队测试研究实现。它不逐个优化攻击提示词，而是让一个提示词生成 LLM 在自然语言「策略」层面做岛屿模型进化搜索，用策略所生成提示词实际绕过目标模型的图像效果来打分，并结合 VLM 评审按给定准则评价每张生成图。仓库包含完整流水线、三类类别（裸露、自残、图文暴力）配置、针对论文中多个生产级目标模型及更新版本的配置，以及本地 FLUX.2 测试床；但未包含搜索发现的攻击策略、生成图像和关键类别评审准则。
mfanafuthimhlanga/wchats · Multi-tenant platform for deploying customer-service and transactional AI agents in four steps: create, configure, test, deploy. Layout-aware ingestion, hybrid retrieval (pgvector + BM25 + RRF + reranking), a four-node validation chain, Ragas evals and adversarial red-teaming gate every release. Nothing reaches a customer unverified.
W Chats 是一个多租户平台，让非技术型商家通过四步流程（创建、配置、测试、部署）上线客服与交易型 AI Agent。它提供结构感知的文档摄入、pgvector + BM25 混合检索与重排、四节点验证链、基于 Ragas 的评测与对抗式红队测试，并把这些结果作为部署门禁，未通过验证的 Agent 无法面向客户。支持控制台操作与 REST + SSE API 编程调用两种方式，还包含退款、下单等交易能力的能力信封、幂等执行、身份验证与审计。
LangSmith 把它的智能助手 Engine 升级到 v2，帮开发者修 Agent 更省力。过去它只能分析上线后的运行记录，找出错误和没满足的用户需求，但有些问题比如回答胡编、延迟变慢、花钱变多，人不容易发现，修好的补丁也得自己先测。这次 v2 增加“红队测试”，主动模拟攻击提前找漏洞；还能发现低效路径和性能趋势；并且会用实际输入自动验证修复方案，确认有效后再让人点一下发 PR。目前 v2 对所有 LangSmith Plus 和 Enterprise 计划开放，红队和自动验证修复处于 Private Beta，仅限已用 LangSmith Deployment 的用户。