训练与微调工具
Reforge：模块化 LoRA 微调流水线，支持 Hugging Face 语言模型与视觉语言模型
R0U5/Reforge · A modular LoRA fine-tuning pipeline for Hugging Face models with built-in data cleaning, smart early stopping, automatic mode detection, and cross-platform support.
ELI5：它是什么，解决什么问题
Reforge 是一个面向 Hugging Face 因果语言模型和视觉语言模型的模块化 LoRA 微调流水线，覆盖数据集加载与模式自动识别、文本清洗、分词、训练、LoRA 合并和模型导出。它支持 SFT、原始文本、聊天和多模态四种训练模式，内置基于 EMA 的早停、自动序列长度、断点恢复、交互式本地模型选择，并提供 Tkinter 仪表盘用于配置编辑和实时损失曲线查看。
核心能力与快速开始
★ 5 · Python
- 能做什么
- 提供 LoRA 微调全流程：数据集加载与 schema 自动检测、分模式文本清洗（可保留 LaTeX 和代码格式）、基于 P95 的自动序列长度设定、LoRA 训练、EMA 早停、断点续训、训练报告生成、LoRA 适配器合并回基础模型，并支持将合并后模型作为下一次训练的基座；附带本地模型扫描选择器和 Tkinter 仪表盘（配置编辑、启停、实时损失图）。
- 适用场景
- 适合在本地或 Hugging Face 生态中，对 Phi-2、Phi-3、Phi-3-Vision 等模型进行 LoRA 微调的用户；适用于指令-回复 SFT、原始文本因果语言建模、聊天消息格式以及图像加文本的多模态训练；也可用于需要自动数据清洗、早停和训练报告的重复微调工作流。
- 项目形态
- 可直接使用的工具
- 部署方式
- 未说明；材料只给出 CLI 和模块运行方式（pip install -e .、python -m reforge）以及 Tkinter 仪表盘启动方式。
- 主要依赖
- 需要 Python 环境，并按照 README 中的安装步骤操作；材料提到 CUDA warmup 和 GPU 相关流程，但未说明具体硬件、显存和 GPU 要求；仪表盘需安装 dashboard 附加依赖（matplotlib）。
- 使用限制
- 未说明；材料未描述支持的模型范围上限、显存占用、训练数据规模限制或 API 成本。
- 许可证
- MIT
- 最近推送
- 2026-10-31 11:15
资料检查：2026-11-01 07:00 · 卡片整理：2026-11-01 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证
职业应用
程序员
使用 Reforge 对 Hugging Face 因果语言模型或视觉语言模型进行 LoRA 微调，覆盖数据集加载、文本清洗、分词、训练、LoRA 合并与模型导出；可通过 --code 保留代码格式进行清洗，适合需要定制代码相关模型的开发工作。
查看内容依据
A modular LoRA fine-tuning pipeline for Hugging Face causal language models and vision-language models.
由 AI 根据来源材料整理，未进行安装或运行验证
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。