Nebius 将 rollout 收集时间缩短 66.9%——改变了什么

Nebius 的 AI 训练团队在 Terminal-Bench 类负载上做了一次实验：把一次 256 条轨迹的批次收集时间减少了 66.9%。原来在智能体强化学习训练中，模型要先完成任务、拿到结果才能学习，但任务长短不一，慢的几条会让整批训练卡住，昂贵的 GPU 常常在等便宜的沙箱和代码执行。做法是把推理引擎当成训练优化器的一部分：按整组完成而不是启动顺序来组批，让生成和训练部分重叠、缓存对话历史避免重复预填，并把基础设施故障和模型自身失败分开计分。这只是一个实验中的批次收集测量，不含训练器本身的前向反向计算，不等于完整训练提速。对读者来说，这提供了一个思路：智能体训练慢，瓶颈往往不在 GPU 算力，而在任务执行和调度这些配套环节。