langchainrust：用 Rust 构建 LLM 应用的框架
atliliw/langchainrust · A Rust framework for building LLM applications with support for 8+ LLM providers, agents, RAG, BM25/hybrid search, LangGraph workflows, and multiple vector/document storage backends.
ELI5：它是什么，解决什么问题
langchainrust 是一个受 LangChain 启发的纯 Rust 框架，用于构建 LLM 应用。它提供统一的 BaseChatModel 接口接入多家 LLM 提供商、流式对话与函数调用、结构化输出、嵌入与向量存储、BM25 与混合检索、RAG 链与 LCEL 式可组合管道，以及 Agent 与多 Agent 编排、LangGraph 风格工作流、内存与会话管理、成本预算与护栏等能力。
核心能力与快速开始
★ 20 · Rust
- 能做什么
- 统一接入多家 LLM 提供商（OpenAI、Ollama、Claude、Gemini、DeepSeek、Qwen 等）并支持任意 OpenAI 兼容端点；提供 chat/streaming、函数调用、视觉多模态、思考内容分离与结构化输出；提供统一 Embeddings trait 及多种嵌入后端、向量存储与文档存储抽象；支持 BM25 关键词检索、混合检索与 RAG 链；提供 LCEL 式 Runnable 组合（pipe、parallel、branch、fallback 等）与多种文档链；提供 AgentExecutor、函数调用 Agent、ReAct Agent、Plan-Execute、DeepResearch、Corrective/Adaptive RAG Agent、多 Agent 交接与 Supervisor/FanOutFanIn 编排；还包含人工审批与预算门、上下文压缩、检查点持久化、成本追踪与注入/内容过滤护栏。
- 适用场景
- 适合希望在 Rust 技术栈中构建 LLM 应用、RAG 知识库问答、工具调用 Agent、多 Agent 协作流程、LangGraph 风格工作流以及带成本与人工审批控制的自动化任务的团队使用。
- 项目形态
- 开发框架
- 部署方式
- 未说明；README 提及可通过 Crates.io 作为库使用，并提到可选 axum SSE 端点与 SQLite/Postgres/Redis 检查点后端，但未给出完整部署方案。
- 主要依赖
- 未说明；README 标注需要 Rust 1.85+，部分嵌入能力涉及本地 ONNX/Candle 特性，具体硬件与平台条件未说明。
- 使用限制
- 未说明；材料未给出 API 成本、商用授权范围、性能基准或各提供商的具体限制。
- 许可证
- Apache-2.0
- 最近推送
- 2026-11-03 09:00
资料检查：2026-11-04 07:00 · 卡片整理：2026-11-04 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证
职业应用
程序员
使用该 Rust 框架构建 LLM 应用：通过统一的 BaseChatModel 接口接入多家 LLM 提供商，组合 prompt/LLM/parser 管道，实现 RAG 检索、Agent 与多 Agent 编排、函数调用与结构化输出，用于开发 AI 功能与排错。
查看内容依据
A LangChain-inspired Rust framework for building LLM applications.
由 AI 根据来源材料整理，未进行安装或运行验证
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。