训练与微调工具
surogate:面向 NVIDIA GPU 的大模型训练与微调框架
Kokotpica/surogate · 🚀 Accelerate large language model training and fine-tuning with Surogate’s high-performance, mixed-precision framework in C++ and Python.
ELI5:它是什么,解决什么问题
surogate 是一个用于在 NVIDIA GPU 上快速进行大语言模型训练与微调的应用,采用 C++ 与 Python 的高性能混合精度框架,支持 Llama、Qwen 等多种模型,并提供参数设置与一键训练的图形化使用流程。
核心能力与快速开始
★ 2 · C++
- 能做什么
- 提供大语言模型的快速训练与微调能力;利用 NVIDIA GPU 与 CUDA 加速;采用 C++ 和 Python 的混合精度框架;支持 Llama、Qwen 等多种 LLM;可调整学习率、批大小、epoch 等训练参数;界面面向无编程基础用户设计;包含配置与使用文档。
- 适用场景
- 在 NVIDIA GPU 环境下训练或微调 Llama、Qwen 等大语言模型;对预训练模型做定制化微调;以图形化界面设置训练参数并启动训练。
- 项目形态
- 可直接使用的工具
- 部署方式
- 本地安装:需从 Releases 页面下载对应操作系统的安装包并运行安装程序;支持 Windows 10 及以上、Ubuntu 20.04 及以上。
- 主要依赖
- 操作系统:Windows 10 或更高版本 / Ubuntu 20.04 或更高版本;GPU:支持 CUDA 的 NVIDIA GPU;内存:至少 8 GB RAM;磁盘空间:1 GB 可用空间;需安装最新 NVIDIA 驱动。
- 使用限制
- 未说明支持的模型规模、显存占用、微调方法细节、API 成本或商用许可条件;下载与文档链接在材料中的实际指向未明确说明。
- 许可证
- Apache-2.0
- 最近推送
- 2026-09-17 14:36
资料检查:2026-09-18 07:00 · 卡片整理:2026-09-18 07:00
卡片由 AI 根据仓库资料整理,未进行安装或运行验证 · 本次更新未完成,保留上次成功内容
职业应用
程序员
在 NVIDIA GPU 上训练和微调大语言模型(如 Llama、Qwen),通过图形界面选择模型、设置学习率/批量大小/轮数等参数并启动训练,无需编程知识即可完成模型微调。
查看内容依据
surogate 是一个用于在 NVIDIA GPU 上快速进行大语言模型训练与微调的应用,采用 C++ 与 Python 的高性能混合精度框架,支持 Llama、Qwen 等多种模型,并提供参数设置与一键训练的图形化使用流程。
由 AI 根据来源材料整理,未进行安装或运行验证
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。