AI 资源库 · 已整理 1 项

rans-entropy-coding

查看与rans-entropy-coding相关的 AI 资讯、工具、Skill、工作流和开源项目。

base9-quantization:九分之格(base-9)模型量化格式与 llama.cpp 运行时的研究与实现

auRose94/base9-quantization · Base-9 (ninths-grid) model quantization: the K9 codec, measured frontiers vs GGUF/NF4, and a parser-verified Godot 4 coder fine-tune

该项目提出并实现了一种基于九进位数(ninths / base-9)重复基权重量化网格的模型压缩格式,允许熵编码在 2 的幂量化档位之间滑动。仓库提供真实的 .k9 容器、可原生加载该格式的 llama.cpp 分支、C 语言 rANS 编解码器,以及在被验证的 Godot 4 解析器语料上训练的编码器微调模型(QLoRA)。README 记录了在 Qwen2.5-Coder 1.5B/7B/14B 上的后训练量化测量结果,包含与 GGUF / NF4 的对比,同时也记录了失败与零结果。

☆ 收藏查看来源 ↗