训练与微调01
PineCookie/LoRA-Forge · Web UI for training LoRAs on Anima, Krea 2, MOSS-Image, SDXL, FLUX, SD3.5 and SD1.5. Tuned for speed: per-block torch.compile, flash-attn, fp16 accumulation and a batched ProdigyPlus step (1.5-2x faster adds up!). Built on kohya-ss sd-scripts and musubi-tuner, with its own MOSS-Image trainer.
LoRA Forge 是一个通过浏览器表单启动 LoRA 训练的 Web UI，支持 Anima、Krea 2、MOSS-Image、SDXL、FLUX、SD3.5 和 SD1.5，并为 SDXL 与 SD1.5 提供 Dreambooth 全量微调。底层调用 kohya-ss/sd-scripts、musubi-tuner 以及自研的 MOSS-Image 训练器，自动准备 Python、PyTorch 和训练环境。项目提供 Essentials 简化表单、配置导入导出、Runs 页面进度与 loss 曲线、样本图和控制台输出，并通过 torch.compile、flash-attn、fp16 累加和批量化 ProdigyPlus 步骤提升训练速度。
训练与微调02
AcadifySolution/fine-tuning-pipeline · PyTorch LLM fine-tuning pipeline with LoRA/QLoRA training, chat dataset preparation, and Accelerate, DeepSpeed, and SageMaker configuration examples.
该项目是一个面向生产场景的因果语言模型监督微调（SFT）流水线，基于 Hugging Face Transformers、PEFT 与 Accelerate 构建，支持 LoRA/QLoRA、assistant-only 损失掩码、单卡与多卡训练以及可选 DeepSpeed ZeRO-3。数据侧提供 JSON/JSONL/HF 数据集的规范化、schema 过滤与确定性切分，训练侧通过种子控制与每次运行的 run_manifest.json 提升可复现性，并输出安全序列化的模型检查点与 LoRA 合并脚本。仓库还包含 AWS SageMaker/Terraform 部署脚手架示例，以及 Ruff、Black、配置校验、测试、CodeQL 与 Terraform 校验等工程质量检查。
训练与微调03
NVIDIA-NeMo/Nemotron · Developer Asset Hub for NVIDIA Nemotron — A one-stop resource for training recipes, usage cookbooks, datasets, and full end-to-end reference examples to build with Nemotron models
NVIDIA Nemotron 开发者资源库，围绕 Nemotron 系列开源高效多模态模型，提供从数据准备、合成数据生成、预训练、SFT、PEFT、强化学习到评测、量化与部署的完整训练配方，以及使用 cookbook、端到端智能体工作流示例和模块化 nemotron steps CLI。仓库还附带名为 nemotron-customize 的 Claude Code 插件，可按步骤目录规划流水线并生成 YAML 配置。
训练与微调04
changkun/minllm · A minimal LLM pipeline that runs on a laptop, written from scratch in PyTorch and to be read: tokenizer, pretraining, inference, fine-tuning, RLHF and RLVR, with measured results and an interactive website.
minllm 是一个用 PyTorch 从零编写、以可读性为目标的最小语言模型流水线，覆盖分词器、预训练、推理、微调、RLHF 与 RLVR 等十个阶段，并附带交互式网站、测试和实测结果，可在笔记本上运行。项目仅依赖 PyTorch 实现张量与自动微分，其余组件（分词器、模型、训练循环、LoRA 微调、评估和强化学习算法）均为自写代码，不依赖 transformers、tokenizers、peft、trl 或 vllm。README 还列出了混合专家、长上下文、潜在注意力、蒸馏、数据准备、缩放定律、结构化输出、推测解码、工具调用、模型评判、安全、自训练、量化等分支主题及其测量结果。
推理与部署05
api-evangelist/simplismart · Simplismart — independent third-party profile of a public API surface, by API Evangelist. Simplismart is an AI inference and model-deployment platform that lets teams run, fine-tune, and self-host generative AI models on optimized GPU infrastructure. It offers OpenAI-compatible LLM chat inference (Llama, Qwen, Gemma, Mixtral, DeepSeek), Whisper spe
该仓库是 API Evangelist 维护的第三方公开资料档案，并非 Simplismart 官方 API 或软件。材料显示 Simplismart 是一个 AI 推理与模型部署平台，支持在优化过的 GPU 基础设施上运行、微调与自托管生成式 AI 模型，提供兼容 OpenAI 的 LLM 对话推理（Llama、Qwen、Gemma、Mixtral、DeepSeek）以及 Whisper 语音转文字等能力。仓库本身只包含文本与机器可读的 API 描述，没有可构建、发布或安装的软件。由于该档案尚处于待补充（stub）状态，关于部署条件、硬件要求、API 费用与限制等信息均未说明。
训练与微调06
Adam-Researchh/mlx-embed-finetune · Fine-tune single-vector embeddings on Apple Silicon with MLX: LoRA/QLoRA, GradCache, multi-positive training and teacher ranking distillation.
该项目面向 Apple Silicon 平台，基于 MLX 框架微调单向量嵌入（embedding）模型，支持 LoRA 与 QLoRA 适配器训练、硬负样本池化、多正样本监督、GradCache 梯度缓存、Matryoshka 损失以及离线教师排序蒸馏，并提供检索质量评测（nDCG@10、MRR@10、Recall@k）与合并 MLX 权重导出，用于本地语义检索。README 给出了快速上手命令、训练与评测文档索引，以及内存占用、SciFact 检索基线和测试覆盖等证据说明。
训练与微调07
otawfik/lora-lab · LoRA from scratch in NumPy: a frozen tiny language model plus a rank-8 adapter, A/B'd side by side
LoRA Lab 是一个从零实现的 LoRA 教学项目，不依赖 PyTorch 或 transformers 库，也不调用任何 API。它用 NumPy 手写了一个小型 n-gram 神经语言模型，并叠加一个真实的低秩适配器（W_new = W_base + (alpha/rank) * B @ A），基座权重在训练中始终保持冻结，只有低秩矩阵 B、A 获得梯度。项目提供小批量 Adam 训练流程（含训练/验证集划分与损失日志）、基座模型与适配器并排生成对比的 CLI 和 Flask 网页界面、困惑度评测与损失曲线/困惑度图表，并附带了中性英文与海盗语两套语料。文档记录了自带训练运行的结果：可训练参数从 35,799 降至 3,448（约 9.6%），留出的海盗语语句困惑度从 1288.7 降到 105.5。README 明确说明这是一个教学玩具而非生产级微调方案，并提供 SCALING.md 说明如何用 peft 与 Hugging Face transformers 做真实规模的 LoRA。
训练与微调08
datamllab/openesm · Open-source code for training and scaling up energy-based foundation models.
OpenESM 是用于训练和扩展 Energy-Steered Models（能量引导模型）的开源代码库，包含预训练、监督微调、BPB 验证评估、QA 评测、零样本基准与交互式聊天等完整流程，并发布 160M、520M、1B 规模在 DCLM、FineWeb、ClimbMix、OWT 上训练的预训练权重及 ESM-FineWeb-1B-CHAT 微调模型，附有缩放律实验图表。
训练与微调09
api-evangelist/openpipe · OpenPipe — independent third-party profile of a public API surface, by API Evangelist. OpenPipe is a fine-tuning and inference platform for distilling expensive frontier-LLM workloads into smaller, cheaper specialized models. Captures production traces (OpenAI and Anthropic), fine-tunes, evaluates with judges, caches results, and serves the result
OpenPipe 是一个面向大语言模型的微调与推理平台，核心能力是把昂贵的前沿 LLM 工作负载蒸馏为更小、更便宜的专用模型。平台可采集生产环境中的调用轨迹（支持 OpenAI 与 Anthropic），在此基础上进行微调、使用 judges 做评估、缓存结果，并通过 OpenAI 兼容 API 提供服务，同时支持代理转发到外部模型。本仓库是 API Evangelist 维护的第三方公开 API 概况资料，本身不包含软件，也不是该公司的官方仓库。
训练与微调10
bababa14/fast-DreamBooth · 🎨 Create a customized Stable Diffusion model in just 30 minutes using your images with the automated Fast DreamBooth in Google Colab.
fast-DreamBooth 是一个基于 Google Colab 的自动化 DreamBooth 工具，用于使用自己的图片训练定制化 Stable Diffusion 模型。据描述，整个过程大约只需 30 分钟，适合初学者和希望快速实验 AI 图像生成的用户。项目提供 Jupyter Notebook 形式的使用流程，涵盖图片上传、模型训练和训练后图像生成等步骤。