训练与微调综合合集

OpenPipe：将前沿大模型工作负载蒸馏为更小更便宜专用模型的微调与推理平台

api-evangelist/openpipe · OpenPipe — independent third-party profile of a public API surface, by API Evangelist. OpenPipe is a fine-tuning and inference platform for distilling expensive frontier-LLM workloads into smaller, cheaper specialized models. Captures production traces (OpenAI and Anthropic), fine-tunes, evaluates with judges, caches results, and serves the result

GitHub原文发布未知首次收录 2026-09-24上架 2026-09-24 07:02

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

OpenPipe 是一个面向大语言模型的微调与推理平台，核心能力是把昂贵的前沿 LLM 工作负载蒸馏为更小、更便宜的专用模型。平台可采集生产环境中的调用轨迹（支持 OpenAI 与 Anthropic），在此基础上进行微调、使用 judges 做评估、缓存结果，并通过 OpenAI 兼容 API 提供服务，同时支持代理转发到外部模型。本仓库是 API Evangelist 维护的第三方公开 API 概况资料，本身不包含软件，也不是该公司的官方仓库。

# 推理 # fine-tuning # OpenAI兼容 # prompt-caching # distillation

核心能力与快速开始

★ 1

能做什么: 提供 OpenAI 兼容的 chat completions 接口，以及模型与数据集管理、训练任务提交、基于 criteria 的 judging 评估、请求上报（OpenAI 与 Anthropic 轨迹）、标签与元数据更新、结果缓存和 Anthropic 代理转发能力。平台定位为把昂贵的前沿 LLM 工作负载蒸馏成更小更便宜的专用模型，并在微调与评估后通过 API 提供服务。仓库本身提供的是该 API 的 OpenAPI 描述、Postman Collection、Open Collection 以及 apis.json 等机器可读资料。
适用场景: 适合需要把生产环境中前沿大模型调用替换为更小更便宜专用模型的团队；也适合采集线上 LLM 调用轨迹并用于微调、用 judges 做评估对比、缓存重复请求结果，以及通过 OpenAI 兼容接口统一调用自托管模型或代理外部模型。
项目形态: 资料合集
部署方式: 未说明。仓库本身不包含软件、构建或安装包，仅为文本与机器可读的 API 描述。
主要依赖: 未说明。平台为托管服务，需要注册账号并持有 API 凭据，具体依赖与限制未说明。
使用限制: 仓库是 API Evangelist 的独立第三方 API 概况，与 OpenPipe 公司无关联，不运营、不托管、不转售也不提供支持；仓库内不含任何软件，不能据此进行本地部署。资料未说明具体的价格、API 成本、速率限制与数据保留策略细节。
许可证: 未说明
最近推送: 2026-09-23 09:00

官方入门项目文档核对 README 依据 ↗

资料检查：2026-09-24 07:00 · 卡片整理：2026-09-24 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

程序员可参考该第三方 API 概况资料中的 OpenAPI 规范与 Postman 集合，了解 OpenPipe 平台 API 的聊天补全、模型与数据集管理、训练任务、评判、请求上报、缓存及 Anthropic 代理等接口，用于集成或对接该平台。

查看内容依据

OpenAI-compatible chat completions, model and dataset management, training jobs, criteria-based judging, request reporting (OpenAI and Anthropic), tag/metadata updates, caching, and Anthropic proxying.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

产品经理

产品经理可参考该资料了解 OpenPipe 平台的能力范围（微调、评估、缓存、OpenAI 兼容 API 服务），用于评估将前沿 LLM 工作负载蒸馏为更小更便宜专用模型的产品方案。

查看内容依据

OpenPipe is a fine-tuning and inference platform for distilling expensive frontier-LLM workloads into smaller, cheaper specialized models.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

LoRA Forge：用于训练 Anima、SDXL、FLUX 等模型 LoRA 的 Web UI

LoRA Forge 是一个通过浏览器表单启动 LoRA 训练的 Web UI，支持 Anima、Krea 2、MOSS-Image、SDXL、FLUX、SD3.5 和 SD1.5，并为 SDXL 与 SD1.5 提供 Dreambooth 全量微调。底层调用 kohya-ss/sd-scripts、musubi-tuner 以及自研的 MOSS-Image 训练器，自动准备 Python、PyTorch 和训练环境。项目提供 Essentials 简化表单、配置导入导出、Runs 页面进度与 loss 曲线、样本图和控制台输出，并通过 torch.compile、flash-attn、fp16 累加和批量化 ProdigyPlus 步骤提升训练速度。

fine-tuning-pipeline：基于 PyTorch 的 LLM LoRA/QLoRA 监督微调流水线

该项目是一个面向生产场景的因果语言模型监督微调（SFT）流水线，基于 Hugging Face Transformers、PEFT 与 Accelerate 构建，支持 LoRA/QLoRA、assistant-only 损失掩码、单卡与多卡训练以及可选 DeepSpeed ZeRO-3。数据侧提供 JSON/JSONL/HF 数据集的规范化、schema 过滤与确定性切分，训练侧通过种子控制与每次运行的 run_manifest.json 提升可复现性，并输出安全序列化的模型检查点与 LoRA 合并脚本。仓库还包含 AWS SageMaker/Terraform 部署脚手架示例，以及 Ruff、Black、配置校验、测试、CodeQL 与 Terraform 校验等工程质量检查。

NVIDIA Nemotron：面向智能体 AI 的开源模型训练配方、部署指南与用例资源库

NVIDIA Nemotron 开发者资源库，围绕 Nemotron 系列开源高效多模态模型，提供从数据准备、合成数据生成、预训练、SFT、PEFT、强化学习到评测、量化与部署的完整训练配方，以及使用 cookbook、端到端智能体工作流示例和模块化 nemotron steps CLI。仓库还附带名为 nemotron-customize 的 Claude Code 插件，可按步骤目录规划流水线并生成 YAML 配置。

minllm：从零构建可在笔记本上运行的最小 LLM 全流程教学项目

minllm 是一个用 PyTorch 从零编写、以可读性为目标的最小语言模型流水线，覆盖分词器、预训练、推理、微调、RLHF 与 RLVR 等十个阶段，并附带交互式网站、测试和实测结果，可在笔记本上运行。项目仅依赖 PyTorch 实现张量与自动微分，其余组件（分词器、模型、训练循环、LoRA 微调、评估和强化学习算法）均为自写代码，不依赖 transformers、tokenizers、peft、trl 或 vllm。README 还列出了混合专家、长上下文、潜在注意力、蒸馏、数据准备、缩放定律、结构化输出、推测解码、工具调用、模型评判、安全、自训练、量化等分支主题及其测量结果。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。