AI 资源库 · 已整理 2 项

mechanistic-interpretability

查看与mechanistic-interpretability相关的 AI 资讯、工具、Skill、工作流和开源项目。

推理与部署

Richardson Attention：面向混合注意力 Transformer 的免训练长上下文多跳推理与解码时注意力干预方法

tryggth/richardson-attention · Superconducting Spectral Attention: Zero-Shot 1-to-5 Hop Long-Context Extrapolation & Renormalization Group Relays for Hybrid Transformers (Gemma-4 2B & 4B)

Richardson Attention（又称 Superconducting Attention）是一种免训练、权重不变的运行时推理干预方法，用于缓解混合注意力 Transformer（如 google/gemma-4-E2B-it、gemma-4-E4B-it）在滑动窗口注意力与稀疏全局注意力交错结构下，多跳指针追踪退化为极低准确率的问题。README 报告称，该方法在 8,270 token 的 3 跳检索上把准确率从 0.0380% 提升到 98.5919%，在 9,912 token 的 5 跳链式追踪上从 2.2398% 提升到 93.8942%，并显著降低对抗性诱饵的捕获率，同时基本保持语言建模困惑度不变；在 NVIDIA RULER VT、BABILong qa3 和 Lost in the Middle 的评测中也报告了提升。项目包含论文、Colab 演示、评测脚本和结果文件，面向对长上下文推理与机制可解释性感兴趣的研究者。

# llm-inference# mechanistic-interpretability# long-context# multi-hop-reasoning# attention-mechanism
☆ 收藏查看来源 ↗
评论 · 分享第一个看法
评测与安全

Senbonzakura：对开源权重语言模型进行去审查编辑并量化其代价

elementmerc/senbonzakura · The world's top open-weight AI model workshop. Measure, uncensor and audit: refusal removal for transformer language models, with the instruments to measure what the edit cost.

Senbonzakura 是一套 Python 工具，用于对开源权重 Transformer 语言模型执行 abliteration（项目称为 uncensoring）：移除模型原有的拒绝回答行为，并用带区间与对照的测量工具评估该编辑造成的代价，包括拒绝是否真正消失、模型是否仍能识别有害内容、推理能力是否下降以及首 token 分布漂移。仓库提供 compass、score、drift、capability、validate、check、report 等命令，并附带约 6200 条有害提示的评测轨道以便离线运行。README 明确说明该编辑会永久写入权重，且生成模型仍受基础模型许可证约束。

# 模型评测# 开源权重# 模型编辑# abliteration# mechanistic-interpretability
☆ 收藏查看来源 ↗
评论 · 分享第一个看法