评测与安全AI 资源
Derailment：诱导并测量大语言模型中类精神病理认知扭曲的评测工具
ictechgy/derailment · A harness for inducing and measuring psychopathology-like cognitive distortions in LLMs — emulation, not diagnosis.
ELI5：它是什么，解决什么问题
Derailment 是一个分层测试工具（harness），用于在 LLM 聊天流水线中诱导并测量类似精神病理的认知扭曲。它通过操控临床概念对应的变量（注意力、显著性、效价、唤醒度），让同一标准探针脚本分别跑在经操控的流水线和健康基线上，输出 A/B 对照的评分报告。项目提供 18 个临床档案与 6 个对抗策略档案及健康基线，涵盖 ADHD、抑郁、精神分裂症、焦虑、双相、强迫症、PTSD、谵妄、痴呆样遗忘、解离性遗忘、反刍、快感缺失、分裂、渴求、疾病焦虑、惊恐、固着、被害观念等，配有 18 项基于转录文本的度量指标。支持离线伪 LLM、任意 OpenAI 兼容端点、本地 Ollama、订阅制 CLI 代理以及手动协议模式，另提供 LLM 作为评判者的评分、交互式聊天 REPL 和本地 Web GUI。项目明确声明这是模拟而非诊断。
核心能力与快速开始
★ 0 · Python
- 能做什么
- 通过四类分层机制（人设、上下文流、采样、响应）操控注意力、显著性、效价、唤醒度等变量，在 LLM 聊天流水线中诱导类精神病理行为；用同一标准探针脚本对经操控流水线与健康基线做受控 A/B 对比并输出评分报告；内置 18 个临床档案、6 个对抗策略档案和健康基线（共 25 个注册项）及 18 项纯函数度量的仪器；支持档案组合形成共病链；提供 LLM 作为评判者的 0-3 分规则评分；提供离线伪 LLM、OpenAI 兼容端点、Ollama 本地后端、订阅制 CLI 代理与手动协议模式；含交互式聊天 REPL 与本地 Web GUI（展示逐轮诱导剂量）；报告汇总产生测量效应的诱导剂量。
- 适用场景
- 在 LLM 上开展类精神病理认知扭曲的诱导与测量实验；跨模型或多提供商端点的可重复评测与基准对比；研究提示、上下文与采样操控对模型行为的影响；作为标准化病人场景的交互式演示（derail chat）；保存转录文本后用评判模型做规则化打分；离线无 API 密钥的快速演示与教学。
- 项目形态
- 可直接使用的工具
- 部署方式
- 可本地离线运行（内置确定性伪 LLM，无需 API 密钥）；支持任何 OpenAI 兼容端点、本地 Ollama、订阅制 CLI 代理的非交互模式以及手动协议模式；Web GUI 默认绑定 127.0.0.1 单用户运行；具体生产部署条件未说明。
- 主要依赖
- Python，可通过 pip install -e . 安装；采样层需要提供商支持 temperature / logit_bias，词级偏置依赖 tiktoken（未安装则丢弃并提示）；其余环境与硬件要求未说明。
- 使用限制
- 项目自述为模拟而非诊断，不代表模型"患有"障碍，也不涉及机器痛苦主张；离线伪模型会过度顺从所有诱导（18 个档案全部达到 L2–L3），真实模型抵抗性更强；跨模型基准报告中非 GLM 的行因仪器缺陷修复而被撤回，需等待重跑；量表阈值基于离线参考模拟器标定，对真实模型仅作指示性参考，应关注相对自身基线的差值；存在记忆污染风险，订阅后端的记忆/个性化功能无法区分脚本刺激与真实经历，需使用专用账号或 API 密钥并关闭记忆/训练设置；订阅网页 UI 自动化通常违反提供商条款；评判模型的 API 成本未说明。
- 许可证
- MIT
- 最近推送
- 2026-10-06 21:39
资料检查：2026-10-07 07:00 · 卡片整理：2026-10-07 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。