训练与微调综合合集

minllm：从零构建可在笔记本上运行的最小 LLM 全流程教学项目

changkun/minllm · A minimal LLM pipeline that runs on a laptop, written from scratch in PyTorch and to be read: tokenizer, pretraining, inference, fine-tuning, RLHF and RLVR, with measured results and an interactive website.

GitHub原文发布未知首次收录 2026-10-15上架 2026-10-15 07:03

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

minllm 是一个用 PyTorch 从零编写、以可读性为目标的最小语言模型流水线，覆盖分词器、预训练、推理、微调、RLHF 与 RLVR 等十个阶段，并附带交互式网站、测试和实测结果，可在笔记本上运行。项目仅依赖 PyTorch 实现张量与自动微分，其余组件（分词器、模型、训练循环、LoRA 微调、评估和强化学习算法）均为自写代码，不依赖 transformers、tokenizers、peft、trl 或 vllm。README 还列出了混合专家、长上下文、潜在注意力、蒸馏、数据准备、缩放定律、结构化输出、推测解码、工具调用、模型评判、安全、自训练、量化等分支主题及其测量结果。

# LLM # fine-tuning # from-scratch # pytorch # rlhf

核心能力与快速开始

★ 2 · JavaScript

能做什么: 提供一条从原始文本到可部署模型的最小完整流水线，共十个阶段：字节级 BPE 分词器；带 RMSNorm、RoPE、SwiGLU 和分组查询注意力的 decoder-only transformer；预训练数据管线、AdamW、学习率调度与检查点；带 KV 缓存、采样策略、不等长批处理和停止条件的推理引擎；加载 Qwen2.5-0.5B-Instruct 权重；对话数据微调（全量微调与 LoRA）；对留出提示打分的评估与置信区间；RLHF（偏好比较、奖励模型、拒绝采样、带 KL 惩罚的 PPO、DPO）；RLVR（用程序校验答案，含 rollouts、verifiers 和 GRPO）；导出为其他工具可读格式并提供 MLX 运行和 OpenAI 兼容服务器。另有多条分支主题：混合专家、长上下文扩展、潜在注意力、蒸馏、Common Crawl 数据准备、缩放定律、约束解码结构化输出、推测解码、工具调用、MMLU 式多项选择评测、模型评判、安全拒绝、数学 DPO、自训练、带工具的 RL、推理性 RL 和量化。每个阶段都有说明文档、实现代码和测试。
适用场景: 适合希望系统学习 LLM 全流程原理的开发者、学生和研究者，按阶段阅读代码与笔记并复现实验；适合作为从零实现分词器、transformer、训练循环、推理引擎、LoRA、PPO/DPO/GRPO 等组件的教学参考；适合在单台笔记本上尝试小规模预训练、微调、RLHF/RLVR 和量化的实验基准；适合对比全量微调与 LoRA、不同注意力与位置扩展方案、推测解码收益等具体工程问题。
项目形态: 资料合集
部署方式: 未说明。README 只说明代码可在笔记本上运行，测量数据来自 MacBook Pro（M5 Pro、64GB 内存）的 GPU，其他机器时间与末位数值可能不同。
主要依赖: 唯一机器学习依赖是 PyTorch，用于张量和自动微分。README 提到在 MLX 中运行导出模型、提供 OpenAI 兼容服务器以及使用 safetensors 读取器，但未给出完整环境或版本要求。
使用限制: 模型规模很小（如 14M 参数、0.5B 量级），主要用于教学和实验而非生产。README 指出测量结果依赖单台笔记本和具体批次，其他机器上时间与末位数值会不同，16 位浮点在 GPU 上的贪心回复可能因批次不同而变化；同一 0.5B 模型在 500 道 GSM8K 上两次运行分别解出 48.6% 和 46.6%。部分分支主题依赖前序阶段或特定数据。许可证为 MIT，但未说明商用或 API 成本等限制。
许可证: MIT
最近推送: 2026-10-15 05:41

项目文档核对 README 依据 ↗

资料检查：2026-10-15 07:00 · 卡片整理：2026-10-15 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证

职业应用

程序员

作为从零实现 LLM 全流程的教学参考，程序员可阅读并复用其中的分词器、模型、训练循环、推理引擎、LoRA 微调、评估和强化学习算法代码，用于学习或搭建自己的最小语言模型流水线。

查看内容依据

A minimal LLM pipeline that runs on a laptop, written from scratch in PyTorch and to be read: tokenizer, pretraining, inference, fine-tuning, RLHF and RLVR, with measured results and an interactive website.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

LoRA Lab：从零用 NumPy 实现 LoRA 微调并做基座/适配器 A/B 对比的教学项目

LoRA Lab 是一个从零实现的 LoRA 教学项目，不依赖 PyTorch 或 transformers 库，也不调用任何 API。它用 NumPy 手写了一个小型 n-gram 神经语言模型，并叠加一个真实的低秩适配器（W_new = W_base + (alpha/rank) * B @ A），基座权重在训练中始终保持冻结，只有低秩矩阵 B、A 获得梯度。项目提供小批量 Adam 训练流程（含训练/验证集划分与损失日志）、基座模型与适配器并排生成对比的 CLI 和 Flask 网页界面、困惑度评测与损失曲线/困惑度图表，并附带了中性英文与海盗语两套语料。文档记录了自带训练运行的结果：可训练参数从 35,799 降至 3,448（约 9.6%），留出的海盗语语句困惑度从 1288.7 降到 105.5。README 明确说明这是一个教学玩具而非生产级微调方案，并提供 SCALING.md 说明如何用 peft 与 Hugging Face transformers 做真实规模的 LoRA。

OpenInference：面向 AI 应用的 OpenTelemetry 追踪规范与插件

OpenInference 是 OpenTelemetry 的补充规范和插件集合，用于对 AI 应用进行追踪，可观察 LLM 调用、向量库检索以及搜索引擎、API 等外部工具的使用。它提供与传输方式和文件格式无关的规范，并为多种机器学习 SDK 和框架提供多语言插桩，包括 OpenAI、LangChain、LlamaIndex、Anthropic、MistralAI、Bedrock、VertexAI、CrewAI、Haystack、DSPy、MCP 等。它原生支持 Arize Phoenix 和 Arize AX，也可接入任何兼容 OpenTelemetry 的后端。

Dossier：自托管的求职管理应用，依据个人档案生成定制简历与求职信并跟踪申请进度

Dossier 是一个自托管的求职管理应用，使用 TypeScript 和 Next.js 构建、以 PostgreSQL 存储数据。它把职业经历集中在一个档案中，生成基础简历；针对具体职位，读取招聘信息、展示与档案的匹配情况，并用档案中的事实起草定制简历和求职信，用户可在聊天中修改并导出 PDF。它提供求职岗位搜索与评分、创业公司职位聚合、可选的每日求职 Agent、Claude 连接器，以及可选的 Gmail 与 Google Calendar 集成，并能用看板和数据表跟踪从草稿到 offer 的全流程。AI 模型可选用 Ollama 或 LM Studio 提供的本地模型，也可选用任意 OpenAI 兼容 API、Anthropic 或 Mistral 的托管模型。

midgley：基于 LLM 多智能体的汽油价格预测框架

midgley 是一个用 Python 实现的多智能体时间序列预测框架，目标是预测美国批发 RBOB 汽油期货和多个都市区的零售无铅汽油价格。它把 Gemini、NOAA 天气模型、海运与内河咽喉点、行政社媒缺口、Cboe OVX、Baker Hughes 钻机数、USGS 水文与地震、炼厂检修等非结构化与物理数据，融合为特征向量，再结合 RB=F、CL=F、BZ=F 等商品期货，用 Ridge 回归与 XGBoost 建模，并通过情景模拟器、预测日志和每周复盘反馈回路迭代模型。项目还自动生成公开 Web 仪表盘，展示各地预测、准确率和数据源目录。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。