AI 资源库 · 已整理 1 项

cpu-inference

查看与cpu-inference相关的 AI 资讯、工具、Skill、工作流和开源项目。

qwen3.8-27b-in-c:在笔记本 CPU 上用纯 C 本地运行 Qwen3.8-27B 模型

natee6684/qwen3.8-27b-in-c · Run 27B-parameter Qwen3.8 locally on a laptop CPU with native C inference, no GPU or Python, at 2.52 token/s.

该项目用纯 C 编写的原生推理程序在普通笔记本 CPU 上运行 27B 参数的 Qwen3.8-27B 模型,无需 GPU 和 Python,README 声称可达约 2.52 token/s、最低 8 GB 内存即可运行,并提供兼容 OpenAI API 的本地服务接口,方便其他工具接入本地模型。

☆ 收藏查看来源 ↗