训练与微调综合合集

NVIDIA Nemotron：面向智能体 AI 的开源模型训练配方、部署指南与用例资源库

NVIDIA-NeMo/Nemotron · Developer Asset Hub for NVIDIA Nemotron — A one-stop resource for training recipes, usage cookbooks, datasets, and full end-to-end reference examples to build with Nemotron models

GitHub原文发布未知首次收录 2026-10-17上架 2026-10-17 07:01

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

NVIDIA Nemotron 开发者资源库，围绕 Nemotron 系列开源高效多模态模型，提供从数据准备、合成数据生成、预训练、SFT、PEFT、强化学习到评测、量化与部署的完整训练配方，以及使用 cookbook、端到端智能体工作流示例和模块化 nemotron steps CLI。仓库还附带名为 nemotron-customize 的 Claude Code 插件，可按步骤目录规划流水线并生成 YAML 配置。

# Nvidia # fine-tuning # nemotron # model-training # reinforcement-learning

核心能力与快速开始

★ 2169 · Jupyter Notebook

能做什么: 提供 Nemotron 系列（Nano / Lightning / Super / Ultra 及 Omni 多模态版本）的完整可复现训练流水线，覆盖数据策展、合成数据生成、语料翻译、自带基准生成、预训练、SFT、PEFT、RL、检查点转换、模型优化与基准评测等阶段；通过 `nemotron steps` CLI 与 YAML 配置以模块化步骤组合自定义流水线；提供训练配方、使用 cookbook（部署与模型使用指南）以及面向 RAG、Agent、工具调用等场景的端到端用例示例；附带 nemotron-customize Claude Code 插件用于规划步骤 DAG、校验产物连接并生成 YAML 配置。
适用场景: 复现或理解 Nemotron 各规模模型的训练与后训练流程；基于公开数据子集抽取特定训练技术（如两阶段预训练数据配比、多环境 RLVR、异步 GRPO、蒸馏等）应用于自有数据；在自有模型或数据集上组合数据准备、训练、评测步骤以搭建自定义流水线；查阅部署与推理使用指南；参考用例示例构建 Agentic 应用。
项目形态: 资料合集
部署方式: 未说明
主要依赖: README 标注需 Python 3.10+；训练配方涉及 Megatron-Bridge、Automodel、NeMo-RL、NeMo Curator、NeMo Evaluator 等组件，未给出具体硬件或算力要求。
使用限制: 训练配方仅使用开源数据子集，结果会与使用额外专有数据的技术报告基准不同；Nemotron 3.5 Super 的 SFT 与 RL 数据尚未发布，其 agentic teacher 环境未进入公开 NeMo Gym；部分内容（如 Nemotron 3.5 Super）标注为待开源发布状态。
许可证: Apache-2.0
最近推送: 2026-10-16 08:24

项目文档核对 README 依据 ↗

资料检查：2026-10-17 07:00 · 卡片整理：2026-10-17 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证

职业应用

程序员

程序员可参考仓库中的训练配方、使用 cookbook 和端到端智能体工作流示例，用于构建、微调、评测和部署 Nemotron 模型；也可使用 nemotron steps CLI 组合数据准备、SFT、PEFT、RL、量化与部署等流水线步骤。

查看内容依据

提供从数据准备、合成数据生成、预训练、SFT、PEFT、强化学习到评测、量化与部署的完整训练配方，以及使用 cookbook、端到端智能体工作流示例和模块化 nemotron steps CLI。

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

LoRA Forge：用于训练 Anima、SDXL、FLUX 等模型 LoRA 的 Web UI

LoRA Forge 是一个通过浏览器表单启动 LoRA 训练的 Web UI，支持 Anima、Krea 2、MOSS-Image、SDXL、FLUX、SD3.5 和 SD1.5，并为 SDXL 与 SD1.5 提供 Dreambooth 全量微调。底层调用 kohya-ss/sd-scripts、musubi-tuner 以及自研的 MOSS-Image 训练器，自动准备 Python、PyTorch 和训练环境。项目提供 Essentials 简化表单、配置导入导出、Runs 页面进度与 loss 曲线、样本图和控制台输出，并通过 torch.compile、flash-attn、fp16 累加和批量化 ProdigyPlus 步骤提升训练速度。

fine-tuning-pipeline：基于 PyTorch 的 LLM LoRA/QLoRA 监督微调流水线

该项目是一个面向生产场景的因果语言模型监督微调（SFT）流水线，基于 Hugging Face Transformers、PEFT 与 Accelerate 构建，支持 LoRA/QLoRA、assistant-only 损失掩码、单卡与多卡训练以及可选 DeepSpeed ZeRO-3。数据侧提供 JSON/JSONL/HF 数据集的规范化、schema 过滤与确定性切分，训练侧通过种子控制与每次运行的 run_manifest.json 提升可复现性，并输出安全序列化的模型检查点与 LoRA 合并脚本。仓库还包含 AWS SageMaker/Terraform 部署脚手架示例，以及 Ruff、Black、配置校验、测试、CodeQL 与 Terraform 校验等工程质量检查。

autoresearch：让 AI Agent 自主迭代单 GPU 上的 nanochat 训练实验

autoresearch 提供一个可自主运行的 LLM 训练研究循环：给 AI Agent 一个精简版单 GPU nanochat 训练环境，Agent 自动修改 train.py、训练 5 分钟后以 val_bpb 评估结果并决定保留或丢弃，不断重复，从而在夜间无人干预地积累实验日志并可能得到更好的模型。仓库刻意保持精简，只有 prepare.py（数据准备与运行时工具，不改动）、train.py（Agent 修改的模型、优化器与训练循环）和 program.md（供人类为 Agent 编写研究指令）三个核心文件。

minllm：从零构建可在笔记本上运行的最小 LLM 全流程教学项目

minllm 是一个用 PyTorch 从零编写、以可读性为目标的最小语言模型流水线，覆盖分词器、预训练、推理、微调、RLHF 与 RLVR 等十个阶段，并附带交互式网站、测试和实测结果，可在笔记本上运行。项目仅依赖 PyTorch 实现张量与自动微分，其余组件（分词器、模型、训练循环、LoRA 微调、评估和强化学习算法）均为自写代码，不依赖 transformers、tokenizers、peft、trl 或 vllm。README 还列出了混合专家、长上下文、潜在注意力、蒸馏、数据准备、缩放定律、结构化输出、推测解码、工具调用、模型评判、安全、自训练、量化等分支主题及其测量结果。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。