工具与职业用途,一起找

AI 资源库

统一浏览 AI 工具、Agent Skills、提示词、工作流与开源项目,按职业和用途找到工作中用得上的资源。

资源与用法

28 份资源

Tensor2Tensor:面向多模态任务的深度学习模型与数据集库

tensorflow/tensor2tensor · Library of deep learning models and datasets designed to make deep learning more accessible and accelerate ML research.

Tensor2Tensor(T2T)由 Google Brain 团队与社区开发,是一个汇集深度学习模型和数据集的 Python 库,覆盖数学语言理解、故事问答、图像分类与生成、语言建模、情感分析、语音识别、摘要和机器翻译等任务。它提供 t2t-datagen 数据生成、t2t-trainer 训练评估推理入口,以及命令行切换问题、模型和超参数集,并支持多 GPU 和分布式训练。项目已标记为弃用,仍维护并可接受缺陷修复,官方建议转向后继库 Trax。

展开详情收起详情:Tensor2Tensor:面向多模态任务的深度学习模型与数据集库

程序员作为深度学习模型与数据集的 Python 库,程序员可用 t2t-datagen 生成数据、用 t2t-trainer 训练/评估/推理,并通过命令行切换问题、模型和超参数集;支持多 GPU 和分布式训练,可用于机器翻译、摘要、语音识别等任务的模型开发与实验。

★ 17473 · 开发框架 · 已归档

☆ 收藏GitHub查看项目 ↗

Nexus Adapter Studio:在浏览器 WebGPU 中为 GGUF 模型训练 LoRA 适配器

RDunbar01/Nexus-Adapter-Studio · Nexus Adapter Studio is an experimental browser-based WebGPU application for training LoRA adapters on supported GGUF models. Bring your own model and JSONL corpus, evaluate learning, and export resumable Nexus adapter checkpoints. Runs locally without a Python or PyTorch backend.

Nexus Adapter Studio 是一个实验性的浏览器 WebGPU 应用,用于在受支持的 GGUF 模型上训练和评估 LoRA 适配器。用户自带模型和 JSONL 语料,在训练前进行架构、分词器、张量格式与内存检查,并可导出可恢复的 Nexus 适配器检查点。浏览器版将界面、JavaScript、CSS 与 WGSL 内核打包为单个 HTML 文件,无需 Python 或 PyTorch 后端;另提供需完整下载、基于 PyTorch 的原生后端。项目不内置基础模型,兼容性需由用户输入实际满足,验证仅限于界面启动、前端与包完整性检查,不代表完整模型正确性或真实硬件性能。

展开详情收起详情:Nexus Adapter Studio:在浏览器 WebGPU 中为 GGUF 模型训练 LoRA 适配器

程序员在浏览器 WebGPU 环境中为受支持的 GGUF 本地模型训练和评估 LoRA 适配器:自带模型与 JSONL 语料,训练前进行架构、分词器、张量格式与内存检查,并导出可恢复的 Nexus 适配器检查点;也可使用需完整下载的 PyTorch 原生后端。

★ 2 · 可直接使用的工具

☆ 收藏GitHub查看项目 ↗

tinyforge:在 4 GB 笔记本 GPU 上微调 8B 级小语言模型并做质量门禁与本地服务

rajratangm/tinyforge · Fine-tune an 8B LLM on a 4 GB laptop GPU, check it with real quality gates, and serve it (pip install tinyforge)

tinyforge 是一个面向小显存 GPU 的 LLM 微调与部署工具,提供数据准备(文档切分、问答对生成、PII 扫描)、LoRA/QLoRA 训练、显存规划、微调前后对比评测(含遗忘检查与失败退出)、GGUF 导出以及 OpenAI 兼容服务端,并附带 CLI、REST API 和 Web UI 三种入口。README 提供了在 4 GB RTX 3050 Ti 笔记本 GPU 上实测的 3B/8B 文本到 SQL 微调结果与失败案例,同时作者声明项目处于早期 alpha、单 GPU 场景。

展开详情收起详情:tinyforge:在 4 GB 笔记本 GPU 上微调 8B 级小语言模型并做质量门禁与本地服务

程序员在显存较小的笔记本 GPU 上对小型语言模型做 LoRA/QLoRA 微调,用于文本到 SQL 等代码相关任务;通过微调前后对比评测、遗忘检查和失败退出机制判断模型质量,并导出 GGUF 或启动 OpenAI 兼容服务进行本地调用。

★ 0 · 开发框架

☆ 收藏GitHub查看项目 ↗

torch-neuronx:AWS Trainium 的原生 PyTorch 后端,支持 eager 执行、torch.compile、分布式训练与 NKI 自定义内核

aws-neuron/torch-neuronx · A native PyTorch backend for AWS Trainium with support for eager execution, torch.compile, distributed training, and custom NKI kernels

torch-neuronx 是 AWS Trainium 的原生 PyTorch 后端,通过 PrivateUse1 机制在 PyTorch 中新增 neuron 设备,让用户可以用熟悉的 PyTorch API 把模型和输入迁移到 neuron 设备上训练或推理。项目默认以 eager 模式逐算子执行,也可通过 torch.compile 的 neuron 后端编译模型或模型区域以提升性能;支持 torch.distributed、DTensor 与函数式集合通信,覆盖数据并行、张量并行和完全分片并行;并支持在 eager 模式和 torch.compile 编译图内调用 NKI 自定义内核。项目当前为 Beta,需要 Trn2 或 Trn3 实例及对应 Python 版本,并列出静态形状、连续张量、float64 降级等已知限制。

展开详情收起详情:torch-neuronx:AWS Trainium 的原生 PyTorch 后端,支持 eager 执行、torch.compile、分布式训练与 NKI 自定义内核

★ 119 · 开发框架

☆ 收藏GitHub查看项目 ↗

TorchTPU:在 Google TPU 上运行 PyTorch 模型与算子

google-pytorch/torch_tpu

TorchTPU 为 Google TPU 提供 PyTorch 后端,包含面向 TPU 的自定义 ATen 算子实现、用于优化 XLA 计算执行的编译缓存,以及分布式训练(数据并行、张量并行)和模型推理示例。项目还支持与 torch.compile() 集成进行图模式执行,并提供调试与性能基准工具。

展开详情收起详情:TorchTPU:在 Google TPU 上运行 PyTorch 模型与算子

★ 701 · 开发框架

☆ 收藏GitHub查看项目 ↗

OpenEnv:面向智能体强化学习的隔离执行环境框架

openenv/OpenEnv · An interface library for RL post training with environments.

OpenEnv 是一个用于创建、部署和使用隔离执行环境的端到端框架,面向智能体强化学习后训练。它提供 Gymnasium 风格的 reset/step/state API(支持同步与异步,通过 WebSocket 连接),每个环境以 Docker 镜像形式在本地、云沙箱或 Hugging Face Space 上运行,并提供 40+ 个现成环境(游戏、代码沙箱、浏览器、金融、模拟器等)。项目支持与 TRL、Unsloth、SkyRL、ART、Oumi、torchforge、Miles 等训练框架配合,内置奖励组合与 Inspect AI 评测能力,同时可通过 CLI 脚手架创建、校验和推送自定义环境。

展开详情收起详情:OpenEnv:面向智能体强化学习的隔离执行环境框架

★ 2760 · 开发框架

☆ 收藏GitHub查看项目 ↗

LoRA Forge:用于训练 Anima、SDXL、FLUX 等模型 LoRA 的 Web UI

PineCookie/LoRA-Forge · Web UI for training LoRAs on Anima, Krea 2, MOSS-Image, SDXL, FLUX, SD3.5 and SD1.5. Tuned for speed: per-block torch.compile, flash-attn, fp16 accumulation and a batched ProdigyPlus step (1.5-2x faster adds up!). Built on kohya-ss sd-scripts and musubi-tuner, with its own MOSS-Image trainer.

LoRA Forge 是一个通过浏览器表单启动 LoRA 训练的 Web UI,支持 Anima、Krea 2、MOSS-Image、SDXL、FLUX、SD3.5 和 SD1.5,并为 SDXL 与 SD1.5 提供 Dreambooth 全量微调。底层调用 kohya-ss/sd-scripts、musubi-tuner 以及自研的 MOSS-Image 训练器,自动准备 Python、PyTorch 和训练环境。项目提供 Essentials 简化表单、配置导入导出、Runs 页面进度与 loss 曲线、样本图和控制台输出,并通过 torch.compile、flash-attn、fp16 累加和批量化 ProdigyPlus 步骤提升训练速度。

展开详情收起详情:LoRA Forge:用于训练 Anima、SDXL、FLUX 等模型 LoRA 的 Web UI

程序员作为本地 Web UI 工具,用于在浏览器表单中配置并启动 SDXL、FLUX、SD1.5 等模型的 LoRA 训练,查看训练进度、loss 曲线、样本图和控制台输出,便于开发者进行图像模型微调实验。

★ 3 · 可直接使用的工具

☆ 收藏GitHub查看项目 ↗

fine-tuning-pipeline:基于 PyTorch 的 LLM LoRA/QLoRA 监督微调流水线

AcadifySolution/fine-tuning-pipeline · PyTorch LLM fine-tuning pipeline with LoRA/QLoRA training, chat dataset preparation, and Accelerate, DeepSpeed, and SageMaker configuration examples.

该项目是一个面向生产场景的因果语言模型监督微调(SFT)流水线,基于 Hugging Face Transformers、PEFT 与 Accelerate 构建,支持 LoRA/QLoRA、assistant-only 损失掩码、单卡与多卡训练以及可选 DeepSpeed ZeRO-3。数据侧提供 JSON/JSONL/HF 数据集的规范化、schema 过滤与确定性切分,训练侧通过种子控制与每次运行的 run_manifest.json 提升可复现性,并输出安全序列化的模型检查点与 LoRA 合并脚本。仓库还包含 AWS SageMaker/Terraform 部署脚手架示例,以及 Ruff、Black、配置校验、测试、CodeQL 与 Terraform 校验等工程质量检查。

展开详情收起详情:fine-tuning-pipeline:基于 PyTorch 的 LLM LoRA/QLoRA 监督微调流水线

程序员作为程序员,可使用该流水线对因果语言模型进行 LoRA/QLoRA 监督微调,包括数据规范化、schema 过滤、确定性切分、单卡/多卡训练、DeepSpeed ZeRO-3 配置,以及合并 LoRA 适配器;还可通过 run_manifest.json 提升训练可复现性,并利用 Ruff、Black、pytest、CodeQL 等工程质量检查。

★ 0 · 开发框架

☆ 收藏GitHub查看项目 ↗

NVIDIA Nemotron:面向智能体 AI 的开源模型训练配方、部署指南与用例资源库

NVIDIA-NeMo/Nemotron · Developer Asset Hub for NVIDIA Nemotron — A one-stop resource for training recipes, usage cookbooks, datasets, and full end-to-end reference examples to build with Nemotron models

NVIDIA Nemotron 开发者资源库,围绕 Nemotron 系列开源高效多模态模型,提供从数据准备、合成数据生成、预训练、SFT、PEFT、强化学习到评测、量化与部署的完整训练配方,以及使用 cookbook、端到端智能体工作流示例和模块化 nemotron steps CLI。仓库还附带名为 nemotron-customize 的 Claude Code 插件,可按步骤目录规划流水线并生成 YAML 配置。

展开详情收起详情:NVIDIA Nemotron:面向智能体 AI 的开源模型训练配方、部署指南与用例资源库

程序员程序员可参考仓库中的训练配方、使用 cookbook 和端到端智能体工作流示例,用于构建、微调、评测和部署 Nemotron 模型;也可使用 nemotron steps CLI 组合数据准备、SFT、PEFT、RL、量化与部署等流水线步骤。

★ 2169 · 资料合集

☆ 收藏GitHub查看项目 ↗

autoresearch:让 AI Agent 自主迭代单 GPU 上的 nanochat 训练实验

karpathy/autoresearch · AI agents running research on single-GPU nanochat training automatically

autoresearch 提供一个可自主运行的 LLM 训练研究循环:给 AI Agent 一个精简版单 GPU nanochat 训练环境,Agent 自动修改 train.py、训练 5 分钟后以 val_bpb 评估结果并决定保留或丢弃,不断重复,从而在夜间无人干预地积累实验日志并可能得到更好的模型。仓库刻意保持精简,只有 prepare.py(数据准备与运行时工具,不改动)、train.py(Agent 修改的模型、优化器与训练循环)和 program.md(供人类为 Agent 编写研究指令)三个核心文件。

展开详情收起详情:autoresearch:让 AI Agent 自主迭代单 GPU 上的 nanochat 训练实验

程序员程序员可将该仓库作为自主 LLM 训练实验工作流:让 AI Agent 在单 GPU 的 nanochat 训练环境中自动修改 train.py、训练 5 分钟后以 val_bpb 评估并决定保留或丢弃,从而在夜间无人干预地积累实验日志并可能得到更好的模型。

★ 98027 · 开发框架

☆ 收藏GitHub查看项目 ↗

minllm:从零构建可在笔记本上运行的最小 LLM 全流程教学项目

changkun/minllm · A minimal LLM pipeline that runs on a laptop, written from scratch in PyTorch and to be read: tokenizer, pretraining, inference, fine-tuning, RLHF and RLVR, with measured results and an interactive website.

minllm 是一个用 PyTorch 从零编写、以可读性为目标的最小语言模型流水线,覆盖分词器、预训练、推理、微调、RLHF 与 RLVR 等十个阶段,并附带交互式网站、测试和实测结果,可在笔记本上运行。项目仅依赖 PyTorch 实现张量与自动微分,其余组件(分词器、模型、训练循环、LoRA 微调、评估和强化学习算法)均为自写代码,不依赖 transformers、tokenizers、peft、trl 或 vllm。README 还列出了混合专家、长上下文、潜在注意力、蒸馏、数据准备、缩放定律、结构化输出、推测解码、工具调用、模型评判、安全、自训练、量化等分支主题及其测量结果。

展开详情收起详情:minllm:从零构建可在笔记本上运行的最小 LLM 全流程教学项目

程序员作为从零实现 LLM 全流程的教学参考,程序员可阅读并复用其中的分词器、模型、训练循环、推理引擎、LoRA 微调、评估和强化学习算法代码,用于学习或搭建自己的最小语言模型流水线。

★ 2 · 资料合集

☆ 收藏GitHub查看项目 ↗

mlx-embed-finetune:在 Apple Silicon 上用 MLX 微调单向量嵌入模型

Adam-Researchh/mlx-embed-finetune · Fine-tune single-vector embeddings on Apple Silicon with MLX: LoRA/QLoRA, GradCache, multi-positive training and teacher ranking distillation.

该项目面向 Apple Silicon 平台,基于 MLX 框架微调单向量嵌入(embedding)模型,支持 LoRA 与 QLoRA 适配器训练、硬负样本池化、多正样本监督、GradCache 梯度缓存、Matryoshka 损失以及离线教师排序蒸馏,并提供检索质量评测(nDCG@10、MRR@10、Recall@k)与合并 MLX 权重导出,用于本地语义检索。README 给出了快速上手命令、训练与评测文档索引,以及内存占用、SciFact 检索基线和测试覆盖等证据说明。

展开详情收起详情:mlx-embed-finetune:在 Apple Silicon 上用 MLX 微调单向量嵌入模型

★ 3 · 开发框架

☆ 收藏GitHub查看项目 ↗

LoRA Lab:从零用 NumPy 实现 LoRA 微调并做基座/适配器 A/B 对比的教学项目

otawfik/lora-lab · LoRA from scratch in NumPy: a frozen tiny language model plus a rank-8 adapter, A/B'd side by side

LoRA Lab 是一个从零实现的 LoRA 教学项目,不依赖 PyTorch 或 transformers 库,也不调用任何 API。它用 NumPy 手写了一个小型 n-gram 神经语言模型,并叠加一个真实的低秩适配器(W_new = W_base + (alpha/rank) * B @ A),基座权重在训练中始终保持冻结,只有低秩矩阵 B、A 获得梯度。项目提供小批量 Adam 训练流程(含训练/验证集划分与损失日志)、基座模型与适配器并排生成对比的 CLI 和 Flask 网页界面、困惑度评测与损失曲线/困惑度图表,并附带了中性英文与海盗语两套语料。文档记录了自带训练运行的结果:可训练参数从 35,799 降至 3,448(约 9.6%),留出的海盗语语句困惑度从 1288.7 降到 105.5。README 明确说明这是一个教学玩具而非生产级微调方案,并提供 SCALING.md 说明如何用 peft 与 Hugging Face transformers 做真实规模的 LoRA。

展开详情收起详情:LoRA Lab:从零用 NumPy 实现 LoRA 微调并做基座/适配器 A/B 对比的教学项目

★ 0 · 研究实现

☆ 收藏GitHub查看项目 ↗

OpenESM:训练与扩展能量引导语言基础模型的开源代码

datamllab/openesm · Open-source code for training and scaling up energy-based foundation models.

OpenESM 是用于训练和扩展 Energy-Steered Models(能量引导模型)的开源代码库,包含预训练、监督微调、BPB 验证评估、QA 评测、零样本基准与交互式聊天等完整流程,并发布 160M、520M、1B 规模在 DCLM、FineWeb、ClimbMix、OWT 上训练的预训练权重及 ESM-FineWeb-1B-CHAT 微调模型,附有缩放律实验图表。

展开详情收起详情:OpenESM:训练与扩展能量引导语言基础模型的开源代码

程序员程序员可使用该开源代码库进行能量引导语言模型的预训练、监督微调、BPB 验证评估、QA 评测、零样本基准测试与交互式聊天,并加载已发布的 Hugging Face 预训练权重进行推理。

★ 9 · 研究实现

☆ 收藏GitHub查看项目 ↗

VeRL-Omni:面向扩散模型与全模态模型的强化学习训练框架

verl-project/verl-omni · Multimodal RL training framework for diffusion & omni models

VeRL-Omni 是构建在 verl 之上的通用强化学习训练框架,专注于多模态生成模型的后训练。它覆盖扩散生成模型(图像、视频、音频,如 Qwen-Image、Wan2.2)、统一多模态理解与生成模型(如 BAGEL、HunyuanImage-3.0)以及全模态模型(如 Qwen3-Omni)。框架提供基于 vLLM-Omni 的快速多模态 rollout、多奖励与异步奖励服务、可选的 VeOmni 与 FSDP2 训练后端,以及 FlowGRPO、DiffusionNFT、Diffusion DPO、GSPO、GRPO 等算法集成,并支持 Ascend NPU。

展开详情收起详情:VeRL-Omni:面向扩散模型与全模态模型的强化学习训练框架

程序员作为构建在 verl 之上的强化学习训练框架,程序员可用它进行扩散模型与全模态模型的后训练:使用 vLLM-Omni 快速多模态 rollout、多奖励与异步奖励服务、VeOmni 与 FSDP2 训练后端,以及 FlowGRPO、DiffusionNFT、Diffusion DPO、GSPO、GRPO 等算法集成,并支持 Ascend NPU。

★ 1200 · 开发框架

☆ 收藏GitHub查看项目 ↗

DASD-Thinking:面向长链思维推理的分布对齐序列蒸馏方法

Mohsen6210/dasd-thinking · 🤖 Distill sequences effectively with DASD-Thinking for improved long-context reasoning and performance in complex tasks.

DASD-Thinking 提出 Distribution-Aligned Sequence Distillation(分布对齐序列蒸馏),用于提升长上下文(Long-CoT)推理能力与复杂任务表现。README 同时指向 DASD-4B-Thinking 与 DASD-30B-A3B-Thinking-Preview 等模型检查点(分布于 Hugging Face 和 ModelScope),并提供下载安装、系统需求与常见问题说明。仓库描述与标签混杂了多种不相关内容,具体来源与许可未在材料中明确。

展开详情收起详情:DASD-Thinking:面向长链思维推理的分布对齐序列蒸馏方法

★ 1 · 研究实现

☆ 收藏GitHub查看项目 ↗

train-studio:通过 Web UI 在自有 GPU 上训练、微调和管理 LoRA(SFT)模型

kevynhundredandfiftyfifth763/train-studio · Train, fine-tune, and manage LoRA (SFT) models on your own GPU via an intuitive web UI — select hardware, datasets, and configs effortlessly.

train-studio 是一个带直观 Web UI 的训练工具,用于在自有 GPU 上训练、微调和管理 LoRA(SFT)模型,可在界面中选择硬件、数据集和配置。仓库 README 内容极少,仅给出项目名称与一句话简介,具体安装方式、依赖、硬件要求和限制均未说明。

展开详情收起详情:train-studio:通过 Web UI 在自有 GPU 上训练、微调和管理 LoRA(SFT)模型

★ 0 · 可直接使用的工具

☆ 收藏GitHub查看项目 ↗

Tlaloc:Kotlin 编译期自动微分与 GPU 推理服务

pedronahum/tlaloc · Autodiff for Kotlin, compiled not traced. A K2 compiler plugin turns grad {} into gradient code; lowers to StableHLO and runs on GPU via PJRT or IREE.

Tlaloc 是一个面向 Kotlin 的可微分数组程序库。它通过 K2 编译器插件在编译期把 grad { } 降级为梯度代码,无需运行时 tracing 或 tape;张量在 Kotlin 类型中携带秩、dtype 与轴名称。程序可下沉为 StableHLO,经 PJRT 或 IREE 在 NVIDIA GPU 上执行,也可通过参考解释器在 CPU 上运行。项目还包含不可变神经网络层与纯函数优化器用于训练,并可将 Hugging Face 检查点导出为 StableHLO 与 safetensors 组成的推理制品,供 NVIDIA Triton、vLLM 或轻量 Python 运行时加载。当前为 0.1.0-alpha02 版本,处于 alpha 阶段。

展开详情收起详情:Tlaloc:Kotlin 编译期自动微分与 GPU 推理服务

★ 0 · 开发框架

☆ 收藏GitHub查看项目 ↗

smithtune:在 LangSmith 轨迹上微调模型并评测部署

langchain-ai/smithtune · LangSmith Post-Training CLI

smithtune 是 LangChain 推出的后训练 CLI 工具(早期 beta),用于将 LangSmith 中记录的 agent 轨迹整理为数据集,并借助 Fireworks 或 Baseten 进行模型微调。它覆盖从轨迹拉取、数据集筛选与可选的多模型评审(agent council),到数据准备、训练、基于 judge 的基础模型与微调模型对比评测,以及在 Fireworks 或 Baseten 上部署推理端点的完整流程,并提供可供编码 agent 使用的 smithtune skill。训练、评测和部署会产生提供商费用,命令与目录格式可能在版本间变化,README 未说明具体硬件、成本与免费/商用授权条件。

展开详情收起详情:smithtune:在 LangSmith 轨迹上微调模型并评测部署

程序员程序员可用 smithtune 将 LangSmith 中记录的 agent 轨迹整理为数据集,并借助 Fireworks 或 Baseten 微调模型,随后在 LangSmith 中对比基础模型与微调模型,并可选部署推理端点供应用使用。

★ 18 · 可直接使用的工具

☆ 收藏GitHub查看项目 ↗

ACTF Core:企业级分布式持续训练与模型治理平台

AdolphoIgor/actf-core · Enterprise Distributed Continuous Training (CT) and Model Governance Platform

ACTF Core 是一个面向受监管行业(RegTech、FinTech、医疗等)的企业级参考架构,用于基础模型的自动化持续预训练、领域适配与监督微调(SFT)。平台将关系型数据湖仓、分布式计算集群、内存自动微分引擎与自动化统计评估防火墙串联为一个不可变、确定性的训练闭环,并提供五级质量防火墙,在存储契约、数据泄漏边界、张量图稳定性与统计非劣性等环节进行把关,最后通过 MLflow 模型注册表别名(@champion)完成候选模型晋升。

展开详情收起详情:ACTF Core:企业级分布式持续训练与模型治理平台

程序员作为企业级分布式持续训练与模型治理的参考架构,供程序员在受监管行业(RegTech、FinTech、医疗等)中搭建基础模型的自动化持续预训练、领域适配与监督微调(SFT)流水线,并实现五级质量防火墙与 MLflow 模型注册表别名晋升。

★ 0 · 开发框架

☆ 收藏GitHub查看项目 ↗