energy-steered-models

OpenESM：训练与扩展能量引导语言基础模型的开源代码

datamllab/openesm · Open-source code for training and scaling up energy-based foundation models.

OpenESM 是用于训练和扩展 Energy-Steered Models（能量引导模型）的开源代码库，包含预训练、监督微调、BPB 验证评估、QA 评测、零样本基准与交互式聊天等完整流程，并发布 160M、520M、1B 规模在 DCLM、FineWeb、ClimbMix、OWT 上训练的预训练权重及 ESM-FineWeb-1B-CHAT 微调模型，附有缩放律实验图表。