qwen3.8-27b-in-c:在笔记本 CPU 上用纯 C 本地运行 Qwen3.8-27B 模型
natee6684/qwen3.8-27b-in-c · Run 27B-parameter Qwen3.8 locally on a laptop CPU with native C inference, no GPU or Python, at 2.52 token/s.
该项目用纯 C 编写的原生推理程序在普通笔记本 CPU 上运行 27B 参数的 Qwen3.8-27B 模型,无需 GPU 和 Python,README 声称可达约 2.52 token/s、最低 8 GB 内存即可运行,并提供兼容 OpenAI API 的本地服务接口,方便其他工具接入本地模型。
评论 · 分享第一个看法