知识库与 RAG工具
local-rag-agent:面向闭域环境的带权限过滤与依据引用本地文档检索 RAG 原型
Maaa2005/local-rag-agent · 閉域環境向けのローカル文書検索RAGプロトタイプ。権限プレフィルタ、Excel正規化、Qdrantハイブリッド検索、根拠付き回答を検証。汎用業務AI・回答保証を目的としない(vLLM / FastAPI)
ELI5:它是什么,解决什么问题
该项目是一个面向闭域环境的本地文档检索 RAG 原型,可将机密文档保留在内部网络中进行处理。项目涵盖本地文档导入、Excel 规范化、基于 access_level 的权限预过滤、Qdrant 混合检索以及附检索依据的回答生成,后端采用 FastAPI,推理采用 vLLM 与量化开源模型。作者在小型数据集上的检索与权限过滤验证效果良好,但明确指出最终回答存在数值判断错误,定位为课程演示可用、生产不可用,不保证回答正确性,也未覆盖大规范语料。
核心能力与快速开始
★ 1 · Python
- 能做什么
- 支持闭域网内本地文档导入与索引,对结合单元格较多的 Excel 进行解除合并并做规范化处理,支持按用户 access_level 在向量检索前进行权限预过滤,使用 Qdrant 进行 Dense+Sparse 混合检索,并生成附带检索依据的回答。索引管线按阶段保存任务状态,支持幂等重试;聊天请求到来时可暂停后台索引任务,以优先保证响应。
- 适用场景
- 适合作为企业内部机密文档(如人事制度、会议纪要、客户数据)本地检索问答的教学演示或架构验证原型,也适合作为权限感知 RAG、Excel 规范化处理和低显存本地推理方案的研究参考。
- 项目形态
- 研究实现
- 部署方式
- 提供 docker-compose,包含 qdrant、vllm、backend、frontend 四个服务;需要 GPU 机器(VRAM 12GB 以上)和 NVIDIA Container Toolkit,模型权重不随仓库分发,首次启动需从 HuggingFace 获取并缓存。
- 主要依赖
- GPU 机器、VRAM 12GB 以上、NVIDIA Container Toolkit、Docker Compose;模型权重需联网下载或预先准备缓存。
- 使用限制
- 定位为原型,明确说明不能保证回答正确性,不适用于法务、劳务判断的自动确定,也不支持任意内部业务自动执行;在 6GB 显存实机测试中,语义正确性为 5/6,首 token 和总延迟均未达到目标;检索精度 100% 仅基于 6 份文档、每份 1 个 chunk 的小规模条件,无法泛化;OS 管理员直接改写 SQLite 的权限绕过无法防范;50 问数据集尚未实跑。许可协议与 API 成本未说明。
- 许可证
- 未说明
- 最近推送
- 2026-10-27 08:58
资料检查:2026-10-28 07:00 · 卡片整理:2026-10-28 07:00
卡片由 AI 根据仓库资料整理,未进行安装或运行验证
职业应用
程序员
作为闭域环境本地文档检索 RAG 的参考实现,可查看其 FastAPI 后端、Qdrant 混合检索、权限预过滤、幂等索引流水线等代码与设计判断,用于开发或评审类似内部文档检索系统。
查看内容依据
このリポジトリには実装コード、RAGアーキテクチャの設計判断、検証結果を収録しています。
由 AI 根据来源材料整理,未进行安装或运行验证
HR
可用于在内部网络中检索人事规定、会议纪要等机密文档,并在检索前按 access_level 过滤权限、附检索依据生成回答;但材料明确最终回答存在数值判断错误,仅课程演示可用、生产不可用,不能用于法务或劳务判断的自动确定。
查看内容依据
架空の人事文書6件・24検索ケースでHit@1 / Recall@5 / 権限フィルタ正答率100%
由 AI 根据来源材料整理,未进行安装或运行验证
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。