OpenGeekLLM：面向极客的本地 LLM 浏览器聊天应用

核心能力与快速开始

★ 3 · JavaScript

能做什么

启动并管理 llama.cpp 的 llama-server 子进程进行本地推理；浏览器聊天界面（React 单文件、CDN 引入、无构建工具）。Agentic RAG：由 LLM 自行判断是否需要检索，可调用文档 RAG、DuckDuckGo 联网搜索（无需 API Key，并抓取前 3 条结果正文）与文件操作，最多 3 轮工具调用。服务器文件读写：read_file / write_file / list_files，支持二进制文件经 FormData 上传下载。Google Drive 集成：搜索（含全文检索）、列目录、读取（Google Docs 转文本、Sheets 转 CSV）、导入到服务器、写文件、上传、建文件夹、删除；默认只读，写/删需显式开启，可限定 rootFolderId 范围。外部 LLM 兜底：可转发到 OpenAI、Anthropic、Gemini、OpenRouter、Groq、DeepSeek、Mistral、xAI 或任意 OpenAI 兼容 API，默认关闭，支持手动切换、单条重问与自动升级（上下文耗尽、长度截断、空响应、死循环、放弃式回答、推理错误等触发条件），并含每日次数上限、输入字符上限、用量记录与 RAG 脱敏策略。PDF OCR 流水线：PDF 经 pdftoppm 以 300dpi 转图，由 Vision LLM 逐页转 Markdown，页面级缓存支持断点续做与指定页重 OCR，输出公式（LaTeX）与表格（统一为 GFM 管道表），完成后自动登记进持久 RAG。HTML / 网页登记：URL 或本地 HTML 经 HtmlRAG 式清洗（去脚本样式注释与属性、去站点框架、优先 main/article）转为保留结构的 Markdown，可选同路径下一层链接抓取（含页数上限、抓取间隔、robots.txt 遵守），并可用 Vision LLM 描述与转写页面图片。提供 OCR 相关 HTTP API（上传、GDrive 导入、任务列表与详情、SSE 进度流、启动/重做、取消、删除、状态检查）并支持 curl 调用。另有 agent harness 控制层，提供权限模式（bypassPermissions / default / acceptEdits / plan）、工具白名单、PreToolUse 等钩子、关键字规则绕过判断 LLM、system-reminder 注入、重复工具调用防护与超预算时历史压缩。

适用场景

在家中或公司内网自建、以本地 LLM 提供对话服务并避免数据外发；让模型按需检索文档、联网搜索并操作服务器文件来完成多步任务；把扫描版技术书 PDF 或 Google Drive 中的文档（Docs/Slides/Sheets）转成可检索的 Markdown 知识库；把网页或本地保存的 HTML 文档经清洗后登记进持久 RAG 供对话引用；本地模型能力不足时，把最终回答交给外部大模型并配合用量上限与脱敏策略控制成本与泄露风险；偏好零构建、依赖极少的单文件服务端架构，便于自行改造和作为沙盒环境。

项目形态

可直接使用的工具

部署方式

自托管（本地服务器或公司内网 LAN）。服务端为单个 server.js，依赖仅 express 与 ws，需 Node.js 18+；LLM 推理以子进程方式启动管理 llama.cpp 的 llama-server。OCR 需要 poppler-utils（pdftoppm / pdfinfo）以及一个 Vision LLM。其余部署细节未说明。

主要依赖

Node.js 18+；llama.cpp 的 llama-server 与相应的 GGUF 模型；OCR 需 poppler-utils（Ubuntu/Debian 用 apt、macOS 用 brew、Windows 用 poppler-windows）及 Vision LLM（如 Qwen2.5-VL，可通过 LLM 池管理或自行另起进程）；Google Drive 集成需 OAuth2 凭据；外部 LLM 兜底需相应厂商 API Key；GPU 与显存要求未说明。

使用限制

除显式开启的云端 LLM 兜底外默认不向云端发送数据，该功能默认关闭；Google Drive 集成默认只读，写入与删除需分别显式开启；RAG 资料默认按机密处理不外发（redact 策略）；HTML 抓取仅支持同路径下一层、不递归更深层级，且不适用于 JS 渲染的 SPA（需用浏览器另存 HTML）；Drive 更新不会自动同步，需手动触发检查；Drive API 对超大 Google 文档的 PDF 导出存在 10MB 限制；OCR 按单 GPU 单任务顺序处理；未提供 OCR 列出的项目整体测试与性能数据，实际资源占用与成本未说明。

许可证

MIT

最近推送

2026-10-11 09:00

资料检查：2026-10-12 07:00 · 卡片整理：2026-10-12 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

在本地运行 LLM 聊天应用进行代码相关问答与文件操作：LLM 可通过 read_file、write_file、list_files 工具直接读写服务器文件系统中的 .py/.json 等文件，并支持 Agentic RAG 多轮工具调用。

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

产品经理

通过 Google Drive 集成让 LLM 检索和汇总文档：可用 gdrive_search_files 全文搜索、gdrive_read_file 读取 Google 文档/表格并自动转为文本或 CSV，用于整理会议纪要和资料数据。

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证