AI 资源库 · 已整理 41 项
查看与Rust相关的 AI 资讯、工具、Skill、工作流和开源项目。
flashmind-labs/flashmind · AI agent framework in Rust — streaming LLM providers, 70+ tools, vector memory, multi-agent orchestration, and MCP support
Flashmind 是一个用 Rust 构建 AI Agent 应用的框架，提供流式 LLM 供应商接入、70+ 内置工具、向量记忆、多智能体编排与 MCP 支持。它通过统一的异步 API 暴露能力，内置 Ollama、OpenRouter、Anthropic、OpenAI（兼容 vLLM/LiteLLM）四类供应商，并支持自定义工具、自定义供应商、混合检索记忆与上下文自动压缩；同时提供 Jev CLI 与 OpenRouter CLI 等命令行入口。
XaviCode1000/webfang · Modular web scraper with Clean Architecture — wreq TLS fingerprinting, RAG export, MCP server, TUI, AI semantic cleaning. 1,337 tests, Miri verified.
webfang 是一个用 Rust 编写的高性能模块化网页爬虫，采用 Clean Architecture 组织为 webfang_core、webfang_ai、webfang_mcp、webfang_cli 四个 crate。它提供基于 Readability 的内容提取、ONNX 语义清洗、多格式导出（Markdown/JSON/JSONL/向量）、Obsidian 保存、站点地图发现、资源下载、WAF 检测、限速与断点续爬等能力，并内置供 AI Agent 集成的 MCP 服务端。
jeffkit/recursive · A minimal, orthogonal, embeddable coding-agent kernel in Rust.
Recursive 是一个用 Rust 实现的最小化、正交、可嵌入的编程智能体内核（ReAct 循环），并围绕内核提供可选的 HTTP API、MCP 客户端与服务器、TUI、多智能体编排、云运行时（Redis/S3）、向量记忆和循环模式等扩展。它支持 OpenAI 兼容接口及 Anthropic 等多种模型后端，内置读写文件、Shell、Web 抓取等工具，工具与文件系统操作被沙箱限制在工作区内，且智能体循环受步数预算约束。可仅嵌入内核，也可作为完整开发工具使用。
datafusion-contrib/datafusion-distributed · Library for bringing distributed capabilities to Apache DataFusion
DataFusion Distributed 是一个 Rust 库，为 Apache DataFusion 扩展分布式查询执行能力。它并非开箱即用的分布式引擎，而是用于构建分布式引擎的工具包，分布式计划仍是一个普通的 DataFusion 物理计划，只是增加了一些在机器之间传输 Arrow 数据的节点，因此可以以较小改动把已有的单机 DataFusion 系统升级为分布式执行。项目对网络栈不做限定，不区分 coordinator 与 worker，任意节点都可充当协调者或工作节点，并为常见的基于文件的数据源提供默认配置。
Datadog 的工程师把 Apache DataFusion（一个用来执行查询的引擎）从只能在一台机器上跑，改造成了可以跨多台机器跑同一个查询，这个项目叫 Distributed DataFusion。原来他们有很多不同系统各管一摊，数据没法方便地合在一起查，而 DataFusion 虽然好用但只在单机上执行，遇到超大数据量就慢。新框架把查询拆到多台机器上并行处理，同时让数据以流式方式传输，避免中间结果落地，小查询仍留在单机跑以免浪费。代码已开源，用 Rust 写，可在 GitHub 和 crates.io 获取，Apache 2.0 许可；在 12 节点集群的公开测试里，部分重型查询最多快了 10 倍，成本不变。
skill-one/agents-skills · A Rust library and CLI for installing and managing AI agent skills (SKILL.md) for Claude Code, Codex, Cursor and 70+ coding agents
agents-skills 是一个 Rust 库与命令行工具，用于安装和管理 AI Agent 技能（SKILL.md）。所有技能集中存放在一个规范目录 ~/.agents/skills/<name>，通过 `agent --link` 为每个已安装的 Agent 建立符号链接，从而使同一份技能对 Claude Code、Codex、Cursor 等 70 多个编码 Agent 可见，实现一次安装、处处可用。CLI 支持从 GitHub 或本地目录安装技能、固定分支/标签/提交、列出、移除、启用或禁用技能，并提供 JSON 输出；同时可作为可嵌入的 Rust 库使用。
ahmedmagood/cpu-slm · 🖥️ Explore CPU-SLM, a Rust-based SLM/LLM project that runs on CPU, offering efficient inference and chat with minimal dependencies.
cpu-slm 是一个基于 Rust 的 SLM/LLM 项目，目标是在 CPU 上完成高效推理与聊天交互，并尽量减少依赖。README 说明它借助 AVX2 指令集提升性能，支持 Windows、Linux 和 macOS，附带入门安装步骤与学习资料，定位为帮助理解稀疏语言模型与大语言模型工作原理的应用。
Q-ANT-GmbH/qant_native_computing_toolkit
Q.ANT 官方提供的原生计算工具包，用于在 Q.ANT 原生处理单元上运行工作负载。提供 Python（wheel/pip）与 C/C++（Debian 包 / 共享库）绑定，支持在有 Q.ANT 硬件与驱动时使用硬件后端，也提供 cpu-backend 独立模式，可在无 Q.ANT 硬件的 CPU 上进行开发，并附有文档与独立示例仓库。
Cloudflare 重新设计了 1.1.1.1 公共 DNS 服务背后那个叫 Big Pineapple 的缓存系统，改变了数据在内存里的存放方式。之前每条缓存记录占用的空间偏大，导致整个服务器集群要消耗大量内存。这次用 Rust 语言做的改动让每条记录的体积缩小了 56%，相当于从所有机器上总共释放出约 100 TB 内存；同时写入缓存的速度快了 43%，查询延迟降低了 19%。对普通用户来说，这意味着 1.1.1.1 的解析可能更快更稳，而且 Cloudflare 不花钱加内存就能存下更多域名记录。
提供的材料未提及具体可用工具。
sai-foundation/s-code · Safe, Speedy, Self-evolving coding agent.
S-Code 是一个用 Rust 编写的编码 Agent，强调隐私控制与效率：可查看哪些内容被发送、锁定敏感文件、以沙箱方式执行命令，并支持加密的本地历史记录。它提供终端与浏览器两种使用方式，也可构建原生 Mac 客户端；支持通过引导式设置连接 SAI、OpenAI、Claude、Gemini、DeepSeek、OpenRouter、本地或自定义模型。当前为源码开发者预览版（v0.1.0-preview.1），仅支持 macOS 与 Linux，需从源码安装。
Aivyx-Agent/aivyx-coder · A terminal (TUI) coding agent for local LLMs only (Ollama, vLLM, llama.cpp) -- never calls a cloud API
aivyx-coder 是一个完全本地化的终端 TUI 编码代理，仅通过 Ollama、vLLM 或 llama.cpp 的 OpenAI 兼容 /chat/completions 接口驱动本地 LLM，绝不调用云端 API。模型可调用读写文件、搜索、执行命令等工具，作用于真实文件系统，并受到分层权限与沙箱模型的约束。项目用 Rust 从零编写，强调可靠性优先，包含仓库符号地图、工作区检查点与回滚、Plan 只读模式、强制验证、自治模式与提示注入检测等机制。
stephen-taipei/stephen-skills · Reusable Agent Skills for Claude Code and Codex CLI — one SKILL.md source, both CLIs install natively
stephen-skills 提供一个可复用的 Agent Skills 仓库，同一份 SKILL.md 源文件同时供 Claude Code 与 Codex CLI 原生安装，遵循 Agent Skills 开放标准，无需符号链接或安装脚本。目前收录的 review-rust-wasm 技能用于扫描 JS/TS 项目中的 CPU 热点、将选定项目迁移到 Rust/WASM 并在 Web Worker 中后台运行，量测改造前后差异并产出 PDF 验收报告。项目使用 MIT 许可，代码语言为 JavaScript。
Annoraprevious80/letheo · Manage agent memory with a cognitive runtime that uses temporal decay to maintain constant-size history at a fixed cost.
letheo 是一个面向数字 Agent 的本地记忆管理工具，使用向量检索（HNSW 算法）保存并召回任务、对话与文档细节。它结合 Rust 处理能力与 Python 接口，通过时间衰减等认知运行时机制在固定成本下维持相对稳定的历史规模。数据以纯文本文件导入，索引与检索均在本地完成，索引可导出为标准格式供其他 AI 工具读取。
GitHub把Copilot的底层运行时从TypeScript/Node.js整体改写成了80多万行Rust代码，并且主要让自家的Copilot编程智能体来写代码，由一名开发者主导、几个月完成，拆成128个拉取请求边改边上线。Anthropic收购的Bun也做了类似的事：它原有53万多行Zig代码，长期被内存泄漏和崩溃困扰，创始人用多个Claude智能体并行翻译，11天后Rust版本在六个平台通过原有测试。两家做法不同：Bun是并行快搬，GitHub是慢慢迁移不停产品，但都想说明智能体让过去“养一个团队一两年”的重写变得可行。
Perplexity 公司觉得用亚马逊 DynamoDB 太贵、读性能不可控，于是让两名工程师带着数百个 AI 编程智能体，花两个月写了一个约四万行的 Rust 键值数据库 CobbleDB，现在已承担部分线上搜索流量。读取延迟从 DynamoDB 的中位 31.4 毫秒降到 5.6 毫秒，p99 从 123 毫秒降到 24.2 毫秒，预计成本至少省 20%，未来计划开源。不过 AI 智能体只帮忙写代码、查问题和跑测试，架构和生产系统仍由两名工程师掌控，没有让智能体直接碰生产数据。对读者来说，这说明 AI 辅助开发让小型团队自建基础设施变得更可行，但长期维护这套自定义数据库的成本和工程投入尚未计入，延迟对比也非同时同流量的严格基准测试。
synthalorian/sentryclaw · Self-hosted AI code review bot. No cloud, no API keys. Rust + Axum + local LLMs.
SentryClaw 是一个自托管的 AI 代码审查机器人，通过原生 Webhook 接入 GitHub 与 GitLab 的 PR/MR 事件，使用 llama.cpp、Ollama 或 vLLM 等本地 LLM 后端对代码差异进行审查并回帖评论。项目宣称全程运行在自有基础设施内，无需外部 API Key，支持可插拔模型后端、YAML/TOML 自定义审查规则、自动批准琐碎 PR、Diff 过滤、审查缓存、Prometheus 指标、Web 仪表盘与限流等能力，并给出裸机、Docker、Docker Compose 与 Kubernetes 的部署方式。
JLABUAN/open-agent-sdk-rust · 🤖 Build AI agents in Rust on your hardware for fast, private, and controlled solutions like copy editing, code reviewing, and market analysis.
open-agent-sdk-rust 是一个用 Rust 编写的 AI Agent 开发 SDK，可与 LMStudio、Ollama、vLLM 等本地 OpenAI 兼容服务配合使用，支持流式输出、工具调用、hooks 与重试逻辑，并提供示例帮助开发者构建拷贝编辑、代码审查、市场分析等本地化、私密可控的 Agent 应用。
ai-dynamo/dynamo · A Datacenter Scale Distributed Inference Serving Framework
Dynamo 是构建在 SGLang、TensorRT-LLM、vLLM 等推理引擎之上的开源数据中心级推理编排层，将这些引擎组织为多节点协调推理系统。它提供分离式预填充/解码服务、KV 感知路由、多级 KV 缓存卸载、SLA 驱动的自动扩缩容、模型权重流式加载与请求迁移容错等能力，面向 LLM、推理、多模态与视频生成等工作负载。项目以 Rust 实现核心性能、Python 提供扩展性，支持容器、PyPI 与 Kubernetes（含 Gateway API 推理扩展）等多种部署方式，并附带内置 recipes 与示例。
sengac/fspec · FSPEC: The Spec-Driven, Multi-Agent Harness. It is infrastructure for the "Dark Factory" - the emerging model of fully autonomous software development where AI agents handle all implementation while humans focus on defining what to build and why.
fspec（Factory Spec）是一套用 Rust 编写的规范驱动多智能体开发基础设施，面向完全自主的“暗工厂”软件开发模式。它以 Kanban 看板管理工作单元，让多个 AI 智能体并行执行任务，并强制走 Acceptance Criteria Driven Development（ACDD）流程：先写 Gherkin 规格，再写失败测试，最后写恰好通过测试的最小实现，从而让每行代码都能回溯到需求。支持多智能体并行、Git 检查点、隔离 worktree 会话、覆盖度追踪、多路复用界面以及与 Claude Code、Cursor、Codex 等外部智能体配合使用。
alphaXiv/OpenResearch · Run parallel research agents with any model
OpenResearch 是一个本地优先的研究工作区，可将 Claude Code、Codex、OpenCode 或 Cursor 等编码智能体转变为能够检索文献、提出假设、运行实验并产出研究工件的研究智能体。它支持为不同研究方向分配独立智能体会话与隔离的 git worktree，以 git 原生实验树追踪变体，并将日志、diff、文件、结果和工件与产生它们的工作关联。计算可本地、自有基础设施或托管 OpenResearch 计算上运行，也支持 SSH、Slurm、Kubernetes、Ray、Hugging Face Jobs、Modal、Tinker 等环境，默认在 127.0.0.1 上使用本地 SQLite 存储。