AI 资源库 · 已整理 6 项
查看与qlora相关的 AI 资讯、工具、Skill、工作流和开源项目。
recallmabika/ruzivoAI · Ruzivo AI: An end-to-end multimodal conversational intelligence system for ChiShona, featuring parameter-efficient fine-tuning (QLoRA), dense vector retrieval-augmented generation (RAG), and a cross-platform mobile/web client.
Ruzivo AI 是面向津巴布韦绍纳语（ChiShona）的端到端多模态对话系统，采用 QLoRA 参数高效微调低秩适配器、基于教材语料的稠密向量检索增强生成（RAG）以及绍纳语词汇校验与输入防护，并提供 React Native/Expo 移动端与响应式网页客户端。项目还包含基于 FLEURS 绍纳语语音语料的语音识别与合成能力，以及 FastAPI 后端服务和 SQLite 用户认证。
rajratangm/tinyforge · Fine-tune an 8B LLM on a 4 GB laptop GPU, check it with real quality gates, and serve it (pip install tinyforge)
tinyforge 是一个面向小显存 GPU 的 LLM 微调与部署工具，提供数据准备（文档切分、问答对生成、PII 扫描）、LoRA/QLoRA 训练、显存规划、微调前后对比评测（含遗忘检查与失败退出）、GGUF 导出以及 OpenAI 兼容服务端，并附带 CLI、REST API 和 Web UI 三种入口。README 提供了在 4 GB RTX 3050 Ti 笔记本 GPU 上实测的 3B/8B 文本到 SQL 微调结果与失败案例，同时作者声明项目处于早期 alpha、单 GPU 场景。
AcadifySolution/fine-tuning-pipeline · PyTorch LLM fine-tuning pipeline with LoRA/QLoRA training, chat dataset preparation, and Accelerate, DeepSpeed, and SageMaker configuration examples.
该项目是一个面向生产场景的因果语言模型监督微调（SFT）流水线，基于 Hugging Face Transformers、PEFT 与 Accelerate 构建，支持 LoRA/QLoRA、assistant-only 损失掩码、单卡与多卡训练以及可选 DeepSpeed ZeRO-3。数据侧提供 JSON/JSONL/HF 数据集的规范化、schema 过滤与确定性切分，训练侧通过种子控制与每次运行的 run_manifest.json 提升可复现性，并输出安全序列化的模型检查点与 LoRA 合并脚本。仓库还包含 AWS SageMaker/Terraform 部署脚手架示例，以及 Ruff、Black、配置校验、测试、CodeQL 与 Terraform 校验等工程质量检查。
Rxyxs/slm-industrial-gateway · Gateway SLM industrial: motor de inferencia GGUF, herramientas analiticas, guardrails y fine-tuning QLoRA
一个 OpenAI 兼容的 HTTP 网关，围绕面向工业和矿业术语做领域适配的小语言模型（SLM）构建，提供分析工具执行（DuckDB 查询、异常检测、RUL 剩余寿命计算）与安全护栏。仓库包含两条共享领域但代码路径独立的服务：一条是支持工具调用的 OpenAI 兼容聊天网关（多智能体流水线：路由、分析、校验、安全合规），另一条是工厂网关（Plant gateway），接收 MQTT / OPC UA / Modbus / REST 遥测，在 3 秒时限内输出一个经校验的动作，支持边缘到云路由、熔断、提示注入筛查与防篡改审计日志。推理路径可 air-gap 离线运行，并包含离线 QLoRA 微调与批量评测流程。
Adam-Researchh/mlx-embed-finetune · Fine-tune single-vector embeddings on Apple Silicon with MLX: LoRA/QLoRA, GradCache, multi-positive training and teacher ranking distillation.
该项目面向 Apple Silicon 平台，基于 MLX 框架微调单向量嵌入（embedding）模型，支持 LoRA 与 QLoRA 适配器训练、硬负样本池化、多正样本监督、GradCache 梯度缓存、Matryoshka 损失以及离线教师排序蒸馏，并提供检索质量评测（nDCG@10、MRR@10、Recall@k）与合并 MLX 权重导出，用于本地语义检索。README 给出了快速上手命令、训练与评测文档索引，以及内存占用、SciFact 检索基线和测试覆盖等证据说明。
auRose94/base9-quantization · Base-9 (ninths-grid) model quantization: the K9 codec, measured frontiers vs GGUF/NF4, and a parser-verified Godot 4 coder fine-tune
该项目提出并实现了一种基于九进位数（ninths / base-9）重复基权重量化网格的模型压缩格式，允许熵编码在 2 的幂量化档位之间滑动。仓库提供真实的 .k9 容器、可原生加载该格式的 llama.cpp 分支、C 语言 rANS 编解码器，以及在被验证的 Godot 4 解析器语料上训练的编码器微调模型（QLoRA）。README 记录了在 Qwen2.5-Coder 1.5B/7B/14B 上的后训练量化测量结果，包含与 GGUF / NF4 的对比，同时也记录了失败与零结果。