AI 资源库 · 已整理 93 项

RAG

查看与RAG相关的 AI 资讯、工具、Skill、工作流和开源项目。

演讲:为 Agentic AI 产品构建可复用的评估框架

Elastic 的 Susan Chang 讲述了他们公司如何把 AI 智能体(agent)的测试评估从零散、各自为政的做法,改造成一套统一、可用于生产环境的评估框架。原来的问题是:不同团队各测各的,方法随意,出了问题难以及时发现。她的解决思路包括:把“让大模型当裁判”和“写死规则判断”两种评估方式结合起来;把数据科学家常用的 Python 评估代码和生产环境用的 TypeScript 代码打通;再配合深度追踪,在复杂的 RAG(检索增强生成)和安全场景中抓出性能退步,同时不丢失业务上下文。对读者的用处是:如果你的团队也在做 AI 智能体产品,这套经验能帮你建立更靠谱、更可复用的评估流程。

文中可用工具

提供的材料未提及具体可用工具。

☆ 收藏查看来源 ↗

ISNAD:为 LLM 管线提供溯源、传递链信任评级与防篡改审计

alizahidraja/isnad · Grade every agent, scraper and model in a claim's chain — provenance, trust scoring and audit evidence for LLM pipelines

ISNAD 是一个 Python 开源库,借鉴圣训传述学(isnād–rijāl)框架,为 RAG 和多智能体系统提供 LLM 溯源能力。它不只评估结论,还对每个处理声明的“传述者”(scraper、agent、model)打信任分级,按最弱环节(weakest-link)传播判断,并结合内容批评与决策矩阵,把声明路由为采用、复核或隔离。每次判定都会生成带 SHA-256 哈希、分离签名和 Merkle 日志的防篡改审计记录,映射到 EU AI Act、ISO/IEC 42001、NIST AI RMF 和 SDAIA 等合规框架。项目提供 Python 包、JS/TS 验证器和 LangChain 回调集成。

☆ 收藏查看来源 ↗

AI Engineering: Deep Dives:从零构建 LLM 应用的动手课程合集

alexvervloet/ai-engineering-deep-dive · A from-scratch, build-it-yourself course series for AI engineering. 17 hands-on repos across the API call, RAG, evals, agents, injection, and production. Offline-first, provider-agnostic, no frameworks.

这是一套从零开始、动手构建的 AI 工程课程系列,包含 17(README 中亦称 25)个独立仓库级深潜教程,覆盖 API 调用、提示工程、RAG、评测、Agent、提示注入与防护、生产化等主题。每个概念对应可运行的小型 Python 脚本,多数首个可运行示例无需 API Key,强调离线优先、供应商无关、不依赖框架,仅需基础 Python。另含 bonus 深潜(Agent Harness、上下文工程、AI 数据工程、GenAI 安全、多模态、实时语音、ML 基础、微调、MCP、本地模型、推理平台、可观测性、架构、测试与交付、结构化数据、专业工具)以及 TypeScript 配套版本。

☆ 收藏查看来源 ↗

PromptForge:LLM 应用提示词自动优化与持续调优编排层

ozynautetu-create/FlowForge-Optima · AdalFlow Alternative 2026: Auto-Optimize LLM Apps Without Code

PromptForge(仓库名 FlowForge-Optima)是面向将 LLM 应用当作产品运营的团队的提示词编排与持续优化层,专注于让提示词、链路与检索策略随时间自动变得可度量地更好。它提供自动提示词改写(变异、交叉、指令压缩)、内置评测与统计显著性校验、链路级联合优化(检索查询、重排阈值、工具选择提示词)、响应式控制台、多语言提示词方言与跨语言迁移评分、版本图与确定性重放、成本感知目标函数、可插拔模型适配器以及回归防火墙;支持人类审核后再晋升(promotion)。架构分为 Forge Core(优化器、评测器、版本图)、Forge Relay(模型/向量库/日志适配层)与 Forge Console(UI)。README 称 Forge Core 与 Forge Relay 可完全离线自托管,许可证为 MIT,但免责声明强调按“as-is”提供、结果随数据与模型供应商而异,需在预发环境验证。

☆ 收藏查看来源 ↗

blainville-waste-sorting:面向魁北克 Blainville 居民的垃圾分类与收运查询平台

kingmars2022/blainville-waste-sorting · Tells residents of Blainville, Quebec which bin goes out tonight and where any item belongs. Its AI assistant answers only from the city's guide, and points residents to the city's website when it doesn't know. Personal project, not an official city service.

这是一个面向加拿大魁北克省 Blainville 市居民的网站,用来查询当晚该投放哪个垃圾桶以及某件物品应归入哪一类。居民可先选择自己所在区域,首页即显示下一次收运的桶、投放与收回时间,并支持按物品名称或自然语言提问,由 AI 助手仅依据该市官方指南作答,指南未覆盖时会说明并指向市官网。网站还提供拍照识别物品、节假日收运延迟与特殊收运通知、浏览器通知提醒;市政工作人员可在同一后台维护收运日历、分类规则和通知,AI 助手生成的变更需人工审核批准后才生效。项目为个人作品,非 Blainville 市官方服务,采用 Java 21、Spring Boot、Vue 3 和 MySQL 构建,仓库为 MIT 许可证。

☆ 收藏查看来源 ↗

Leviathan:基于自有 PDF 的封闭域检索问答与引用溯源

AutoMaticDelight/leviathan · Closed-universe search over your own PDFs. Answers only from what you've added, cites every claim, refuses when it has nothing.

Leviathan 是一个面向自有 PDF 文档的封闭域检索问答(RAG)应用:它只依据已导入的文档作答,为每条论断给出出处,并在没有相关内容时明确拒绝回答。流程为 PDF 抽取文本、切分重叠片段、向量嵌入、基于 pgvector 的相似度检索与阈值过滤,最后由模型生成答案并通过第二个更强调核查的模型逐条校验论断是否有证据支撑;还提供评分日志与 /rules 页面展示回答与拒答的最佳匹配分数直方图,用于调整相似度阈值。项目自述为刻意未完成的端到端管线,代码中标记了 TODO(you) 的待改进点。

☆ 收藏查看来源 ↗

webfang:面向 RAG 数据集的高性能模块化网页爬虫

XaviCode1000/webfang · Modular web scraper with Clean Architecture — wreq TLS fingerprinting, RAG export, MCP server, TUI, AI semantic cleaning. 1,337 tests, Miri verified.

webfang 是一个用 Rust 编写的高性能模块化网页爬虫,采用 Clean Architecture 组织为 webfang_core、webfang_ai、webfang_mcp、webfang_cli 四个 crate。它提供基于 Readability 的内容提取、ONNX 语义清洗、多格式导出(Markdown/JSON/JSONL/向量)、Obsidian 保存、站点地图发现、资源下载、WAF 检测、限速与断点续爬等能力,并内置供 AI Agent 集成的 MCP 服务端。

☆ 收藏查看来源 ↗

llm-for-zotero:在 Zotero 文献库内使用的 LLM 研究代理插件

yilewang/llm-for-zotero · An open-source research agent system for your Zotero library.

llm-for-zotero 是一个将大语言模型引入 Zotero 阅读器的开源研究代理系统,让用户无需离开文献库即可与 PDF、选中文本、图表和上传文档对话,获取带引用可跳转的答案,比较多个文献,并把回答、对话记录和研究笔记保存到 Zotero 笔记或本地 Markdown 目录(如 Obsidian、Logseq)。它支持标准 API 提供商、本地 OpenAI 兼容模型、ChatGPT WebChat、Codex App-Server 和 Claude Code 等多种后端,并提供 Agent Mode(beta)用于库级读取、搜索、打标、元数据管理、导入与整理,以及基于 Tavily 的联网搜索。

☆ 收藏查看来源 ↗

Bobby-Botique:开源 Telegram AI 助手框架,支持多模型路由与长期记忆

Le-Who/Bobby-Botique · Open-source Telegram AI assistant framework with provider routing, streaming recovery, agentic research, multimodal tools, Mini App UI, and GraphRAG memory.

Bobby-Botique(GemAI Bot v2)是一个基于 Python 的开源 Telegram AI 助手框架,面向真实生产环境中的机器人运维。它提供多 AI 提供商路由与故障转移(Gemini、Opencode、OpenRouter、FreeTheAI)、流式响应恢复、有限步数的智能体式网络研究、URL/文档/图片理解、语音转录与 TTS、图像生成、Telegram Mini App 界面,以及基于 pgvector 与图谱写入的同意制长期私人记忆。项目采用 Quart/Hypercorn 承载 Web 服务与管理员仪表盘,使用 PostgreSQL/pgvector 与可选 Redis,并提供 Docker 部署与运维工具、可观测性配置。

☆ 收藏查看来源 ↗

Spring AI 模块化 RAG 与 TypeSafe Jev:检索更多,只保留有用的

Spring AI 社区发布了一个模块化 RAG 示例,把 TypeSafe 的 Jev 模型接入检索增强生成流程。传统做法直接把用户问题和相似文档片段塞给模型,问题在于用户口语化提问会带入噪音、相似文档未必有用、检索内容可能被人恶意植入指令。新方案在检索前用两次大模型调用改写并扩展问题,检索后用 JevDocumentFilter 和 JevDocumentReranker 过滤、重排文档,再交给模型生成答案。整套流程通过一个 advisor builder 配置,配套有可运行的 05-1-modular-rag 示例模块,方便与朴素版本对比。需要 TypeSafe API Key,过滤和重排依赖 Jev 模型。

文中可用工具

  • Spring AI构建 RAG 管道的 Java 框架
  • TypeSafe提供类型化输入输出和 Jev 模型
  • JevDocumentFilter过滤检索到的无用文档片段
  • JevDocumentReranker对检索结果重新排序并保留前几条
  • RetrievalAugmentationAdvisor模块化 RAG 的 advisor 入口
  • RewriteQueryTransformer把口语化问题改写成适合检索的查询
  • MultiQueryExpander把一个查询扩展成多个不同查询
  • VectorStoreDocumentRetriever从向量库中做相似度检索
  • ContextualQueryAugmenter把上下文和问题拼进提示词
  • PagePdfDocumentReader读取 PDF 文档用于入库
  • TokenTextSplitter把文档切分成小块
☆ 收藏查看来源 ↗

HealthCare Project:面向越南医院场景的智能医疗就诊与挂号平台

JasonTM17/HealthCare_Project · Educational Vietnamese hospital-style healthcare platform with Spring Boot, Next.js, FastAPI AI/RAG, Docker, and reproducible PostgreSQL demo data.

这是一个面向多院区医院运营的数字化医疗平台,提供患者、医生、管理员三类角色的完整门户:支持按院区/科室/医生分流的在线挂号、带悲观锁的号源防冲突控制、预约全生命周期管理、电子病历与诊断文件存储与角色隔离,并内置 FastAPI 实现的 AI 医疗助手(症状分诊与基于 RAG 的医学知识检索),带提示注入防御、患者隐私拒答与失败时回退的本地规则等安全护栏。系统采用 Next.js 前端、Spring Boot 核心后端、PostgreSQL/Redis/MinIO 存储与 Docker Compose 部署,含可复现的演示数据。

☆ 收藏查看来源 ↗

PathFinder:面向大学生的 AI 实习求职导航平台

timiojoeman-debug/pathfinder · AI-powered internship navigation platform for university students: career direction, CV optimization, job discovery, networking, interview prep, and application tracking.

PathFinder 是一个面向大学生的实习求职「职业操作系统」,覆盖六大阶段:职业方向选择、简历优化(PDF/DOCX 上传、ATS 审核、岗位匹配打分、技能差距项目建议)、职位发现(通过 Adzuna / JSearch 搜索或粘贴职位描述做兼容性分析)、人脉拓展(AI 外联、咖啡聊准备、内推材料、LinkedIn 分析)、面试准备(刷题追踪、STAR 故事构建、AI 出题、公司简报)以及申请追踪(看板流程与一致性仪表盘)。各阶段产生类型化的职业事件,派生出的职业档案、进度引擎与推荐引擎支撑跨阶段智能与 AI 导师记忆。技术栈为 Next.js 16、React 19、TypeScript、Tailwind CSS 4、Zustand、Supabase(Postgres + pgvector)、自定义 JWT 认证与 OpenAI GPT-4o / text-embedding-3-small。

☆ 收藏查看来源 ↗

LLM Document Agent:基于 Google Gemini 的 PDF 文档检索增强问答系统

harshit-ojha0324/Gemini-Powered-RAG-System · Production-ready RAG application that enables intelligent Q&A over PDF documents using Google Gemini. Features semantic search, source attribution, conversation memory, and enterprise-grade security including PII detection, injection prevention, and real-time monitoring.

这是一个全栈 RAG 应用,支持上传 PDF 后用自然语言提问,由 Google Gemini 生成带来源页码引用的回答,并保留多轮对话记忆。系统包含语义分块、向量检索(Chroma)、可选 Gemini 或本地 sentence-transformers 嵌入,以及 PII 检测、提示注入防护、输出敏感信息过滤和安全仪表盘等安全能力,提供 FastAPI 接口、React 前端与 Docker 部署方式。

☆ 收藏查看来源 ↗

Math_Tutor_RAG:基于视觉大模型与 RAG 的智能错题本与间隔重复复习系统

lii-lii321/Math_Tutor_RAG · 📘 基于视觉大模型与 RAG 的智能错题本:AI 拍照录题 · 结构化解析 · 向量检索举一反三 · SM-2 间隔重复复习 | Vision-LLM powered wrong-question notebook with RAG & spaced repetition

MathMaster Edu 是一个智能错题本应用:拍照上传手写作业或试卷照片,由视觉大模型完成结构化解析(考点、分步讲解、答案、难度、易错原因、变式题),配合 ChromaDB 向量检索实现相似题召回与语义搜索,并用 SM-2 间隔重复算法安排复习。项目还提供知识点掌握度画像、学情看板、知识图谱、教师端学生总览、Word 组卷导出、Agent 追问讲题、FastAPI REST 网关与 MCP Server,支持多家 OpenAI 兼容模型提供商及本地 Ollama,未配置 Key 时可进入演示模式。

☆ 收藏查看来源 ↗

Askimo:本地优先的多模型 AI 桌面工作台

askimo-ai/askimo · AI desktop app for chat, RAG, Skills, MCP tools, and agents. Support multiple LLMs (Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM, Gemini, OpenRouter)

Askimo 是一款基于 Kotlin/Compose Multiplatform 的桌面应用,将多家 LLM 对话、本地文件 RAG 检索、联网搜索、多步骤 AI 工作流、MCP 工具接入以及自主编码 Agent CLI 委托整合在同一界面中。它强调隐私设计,文件、RAG 索引、会话历史与用量统计均保存在本机,支持语音输入输出与多语言界面。

☆ 收藏查看来源 ↗

当关系本身构成证据时,请使用 Graph RAG

当回答一个问题需要理清多条记录之间的关联时,普通向量检索可能不够用。比如问“哪个团队负责那个用了有漏洞的库的服务、哪些客户受影响、合同要求怎么通知”,向量搜索只能找出语义相近的文档,却无法证明哪些记录真正相关,可能把错误的服务版本或客户关联到一起。Graph RAG 的做法是把这些关系显式建成图:每条记录是一个节点,服务“使用”库、服务“支持”环境、合同“受制于”政策等关系成为带类型和方向的边,每条边都能追溯到来源并带生效日期。这样回答时先定位实体,再沿允许的关系遍历,最后取原文解释细节。两者配合使用,图的职责是回答“谁和谁相连”,原文负责回答“政策到底写了什么”。

文中可用工具

  • Graph RAG一种把记录间关系显式建模、再沿关系遍历检索的方法,用于回答依赖关系类问题
  • GraphRAG微软的方案,用大模型从非结构化文本中抽取知识图谱并构建社区层级,支持语料级和实体级查询
  • vector search向量检索,按语义相似度找出与问题相关的文档或记录
☆ 收藏查看来源 ↗

Earnings RAG:基于 SEC 10-K 财报的检索增强问答系统

dennisdang5/earnings-rag · RAG over SEC 10-K filings for NVIDIA, Apple, and Capital One — grounded, cited answers with a streaming UI, an eval-gated CI pipeline, and AWS deployment.

该项目是一套端到端的检索增强生成(RAG)系统,面向 NVIDIA、Apple、Capital One 三家公司的 SEC 10-K 年报,回答问题时只依据财报原文并给出引用来源。系统包含 SEC EDGAR 数据抓取、解析与分块、OpenAI 嵌入、PostgreSQL + pgvector 向量检索、基于 gpt-4o-mini 的带引用生成、SSE 流式 Web 界面、可门控 CI 的评测工具以及 AWS 部署方案,仓库中还记录了分块大小、提示词修改、公司路由等设计取舍与已知局限。

☆ 收藏查看来源 ↗

ODS(Osmantic 部署系统):把个人电脑变成私有 AI 服务器的本地 AI 服务栈

Osmantic/ODS · ODS V3 Pre-Release: Public testing and refinement ahead of the official V3 launch. Turn your PC, Mac, or Linux box into a private AI server.

ODS 是一个面向本地自托管的 AI 服务栈,通过一条安装命令把本地模型推理、Open WebUI 聊天界面、控制面板、语音、Agent 与工作流、RAG 与检索、图像生成、隐私与运维工具等预装并串联起来,无需手工组合 Ollama、Open WebUI、n8n、ComfyUI 等组件。支持 Linux、Windows(WSL2/Docker Desktop)与 macOS Apple Silicon,默认本地模式,也可选云或混合 API 模式。当前 V3 处于公开测试阶段的预发布版本。

☆ 收藏查看来源 ↗

Cohere 发布更快的查询模型 Embed 5,测试显示检索质量几乎无损失

Cohere 周三发布了 Embed 5 系列模型,让团队可以用 Embed 5 Pro 来给数据建向量索引,同时用更快更便宜的 Embed 5 Fast 来查询同一批向量,不用再建第二个索引。以前如果既要低成本又要高质量,往往得维护两套数据表示,现在两个模型共享同一个向量空间,可以直接混用,不需要重新嵌入。Cohere 自己的测试显示,用 Pro 建索引、Fast 查询,检索质量相当于 Pro 对 Pro 的 98.4%,差别很小;Fast 的吞吐量平均是 Pro 的 2.4 倍,价格从每百万 token 0.12 美元降到 0.08 美元。两个模型都支持 256 到 2048 维向量以及 float32、int8、binary 格式,能处理文本、图像和图文融合输入,覆盖 100 多种语言。Embed 5 Pro 和 Fast 已通过 Cohere API、Model Vault、Microsoft Foundry 和 Amazon SageMaker 开放,也支持 vLLM 私有部署;但生产环境仍建议在自己的数据上重新评测,因为检索错误可能在多步 Agent 流程中被放大。

文中可用工具

  • Embed 5 Pro用于给数据建向量索引,检索质量更高,价格也更高
  • Embed 5 Fast用于查询同一批向量,速度更快、价格更低,检索质量略低
  • Cohere API通过接口调用 Embed 5 模型
  • Model VaultCohere 提供的模型托管服务,可用于访问 Embed 5
  • Microsoft Foundry微软的 AI 平台,可用于访问 Embed 5
  • Amazon SageMaker亚马逊的机器学习平台,可用于访问 Embed 5
  • vLLM支持私有 VPC 和本地部署 Embed 5
☆ 收藏查看来源 ↗

Portfolio Coder:面向代码仓库的语义搜索、依赖分析与 AI 代码理解平台

nshkrdotcom/portfolio_coder · Code Intelligence Platform: Repository analysis, semantic code search, dependency graphs, and AI-powered code understanding built on the Portfolio RAG ecosystem. Features multi-language parsing (Elixir, Python, JavaScript, TypeScript), AST-aware chunking, call graph analysis, and intelligent code agents for review, refactoring, and documentation.

Portfolio Coder 是一个基于 Portfolio RAG 生态构建的代码智能平台,提供代码仓库索引、语义代码搜索、依赖图谱分析以及 AI 驱动的代码审查、重构建议和文档生成能力。项目支持 Elixir、Python、JavaScript/TypeScript 等多语言解析,具备 AST 感知分块、调用图分析和智能代码代理,并以 Elixir Mix 任务提供 CLI 与编程接口,用于集中管理多个项目仓库。

☆ 收藏查看来源 ↗