attention-heads

neuron-lens：为 Qwen3-8B 与 Gemma 4 12B 建立神经元和注意力头的可解释性目录

stdlogits/neuron-lens · A catalog of every MLP neuron and attention head of Qwen3-8B and Gemma 4 12B, read from the weights through two Jacobian lenses (R and S), from activations, and from their exact token drivers

neuron-lens 是一个面向大模型机制可解释性的开源项目与数据目录。它针对 Qwen3-8B 和 Gemma 4 12B 两个开放模型，通过 R-lens、S-lens 等基于雅可比的透镜方法，从权重、激活统计和精确 token 驱动三个角度分析每个 MLP 神经元（正负极）和每个注意力头，并公开目录数据集、透镜权重和分析结论；对 Gemma 4 12B 还额外覆盖图像与声音模态的神经元响应。