AI 资源库 · 已整理 1 项

指令微调

查看与指令微调相关的 AI 资讯、工具、Skill、工作流和开源项目。

convmerge:将异构对话与文本数据集转换为统一 LLM 训练 JSONL

snowmuffin/convmerge · Merge heterogeneous chat/text sources into a single LLM training format (JSONL)

convmerge 是一个面向 LLM 监督微调的数据准备命令行工具与 Python 库,可把 Alpaca、ShareGPT、原始聊天 JSONL、工具调用、偏好数据以及 Parquet 等多种格式的数据集统一转换为 messages(SFT)或 {prompt, chosen, rejected}(DPO)格式的 JSONL。它支持从 HuggingFace 与 GitHub 拉取数据、格式归一化、按权重混合多个领域来源、去重、规则过滤、去污染、按目标模型聊天模板校验长度与格式,并提供面向 TRL、LLaMA-Factory、axolotl 的接入指南。项目定位于训练循环之前的数据整理环节,不负责模型训练或编排,过滤为基于规则,不包含基于模型的质量判断,也不做个人隐私信息移除,且为单机逐行流式处理而非分布式处理。

☆ 收藏查看来源 ↗