AI 资源库 · 已整理 2 项

SIMD

查看与SIMD相关的 AI 资讯、工具、Skill、工作流和开源项目。

cpu-slm:在 CPU 上运行的 Rust 大语言模型推理与对话工具

ahmedmagood/cpu-slm · 🖥️ Explore CPU-SLM, a Rust-based SLM/LLM project that runs on CPU, offering efficient inference and chat with minimal dependencies.

cpu-slm 是一个基于 Rust 的 SLM/LLM 项目,目标是在 CPU 上完成高效推理与聊天交互,并尽量减少依赖。README 说明它借助 AVX2 指令集提升性能,支持 Windows、Linux 和 macOS,附带入门安装步骤与学习资料,定位为帮助理解稀疏语言模型与大语言模型工作原理的应用。

☆ 收藏查看来源 ↗

oma:为 Zig 程序自动选择 CPU SIMD 指令的运行时优化工具

Gshacker-cpu/oma · Enable runtime SIMD dispatch in Zig by compiling and selecting optimized functions for specific CPU microarchitectures automatically at startup

oma 是一个面向 Zig 语言的运行时 SIMD 调度工具,在程序启动时自动检测 CPU 所支持的指令集(如 AVX、AVX2、AVX-512、SSE2、NEON),并从一次编译生成的多份优化版本中挑选最快的一份执行,从而提升音视频、科学计算等并行密集型任务的速度。据 README 说明,它主要面向 Windows 10 及以上系统,运行时资源占用较小,不影响其他软件,也可直接删除文件卸载。

☆ 收藏查看来源 ↗