← 返回列表

Scaffold Engine:面向本地 LLM 的自托管 DAG 多步工作流编排引擎

LocketKeyLLC/scaffold-engine · Self-hosted AI agent engine for local LLMs. Give it an idea — it researches the web, plans a DAG of steps, executes each with verification and auto-retry, and compiles the result. 100% on your hardware: Ollama inference, RAG with Milvus vector search, Postgres state, SearXNG search. FastAPI + Docker. No cloud calls unless you opt in.

GitHub原文发布 未知首次收录 2026-09-22上架 2026-09-22 09:01

☆ 收藏查看项目 ↗

ELI5:它是什么,解决什么问题

Scaffold Engine 是一个自托管的 DAG 编排引擎,用于多步 LLM 工作流:输入一个想法后,系统会将其细化为结构化简报、做可行性评估并等待人工确认,随后通过 SearXNG 联网研究并把事实蒸馏进知识库,生成由研究/决策/行动/验证/输出等节点组成的执行图,按依赖顺序执行并逐步验证、失败自动重试最多三次,最后编译叶节点的最终输出。推理走 Ollama 本地模型,向量检索用 Milvus,状态存 Postgres,搜索用 SearXNG,采用 FastAPI + Docker,除非主动开启否则不调用云端。

核心能力与快速开始

★ 0 · Python

能做什么
把一句话想法细化为含问题陈述、成功标准与约束的结构化简报;做可行性评估并在执行前暂停等待人工批准;通过 SearXNG 搜索、抓取页面并把事实蒸馏进知识库;生成包含研究/决策/行动/验证/输出节点的 DAG,为每个节点分配工具(LLM、代码生成、网络搜索、RAG 检索);按依赖顺序执行节点,上游输出作为下游上下文,验证器检查结果并对失败节点自动重试最多三次;从叶节点编译并存储最终输出。内置原生 Web UI(/ui)与聊天命令体系,并提供 /execute 自主执行与 /assist 引导执行两种模式。
适用场景
在自有硬件上运行不依赖云端的多步 LLM 研究工作流;从单条想法自动生成研究计划并产出编译后的成品(如脚本、runbook);需要人工在计划阶段确认再放行执行的受控自动化场景;希望以 Ollama + Milvus + Postgres + SearXNG 全本地栈搭建 agent 编排系统的团队。
项目形态
可直接使用的工具
部署方式
自托管,通过 Docker + Docker Compose 部署,orchestrator、Postgres、Milvus、Redis、SearXNG 及三个仿真 sidecar 以容器方式运行;Ollama 需安装在宿主机(非容器内),orchestrator 经 docker bridge 网关访问。可选 compose profile:owui(Open WebUI 聊天前端,:3000)、sandbox(隔离代码执行 sidecar)、observability(Phoenix 追踪查看器 :6006)。快速开始:git clone 仓库后执行 make bootstrap,或手动复制 .env.example 为 .env、拉取模型、docker compose up -d、make doctor 验证;UI 地址为 http://localhost:8000/ui。明确不以云端调用为默认,除非用户主动开启。
主要依赖
Docker 与 Docker Compose;宿主机安装 Ollama(需可执行 ollama list);约 30 GB 空闲磁盘(模型约 25 GB,向量库与 Postgres 另占若干);约 16 GB 内存为下限(常驻容器合计约 14.75 GiB 内存上限,16 GB 机器上 CPU 推理内存竞争严重,可能超过默认每步 600 秒超时),32 GB 以上或使用 Ollama Cloud 预设体验更佳;git 与 UTF-8 终端;需在 .env 中设置 SCAFFOLD_API_KEY(可用 openssl rand -hex 32 生成)等必填变量;默认需拉取 qwen3:4b、qwen2.5:7b、qwen2.5-coder:7b、nomic-embed-text、qwen3.5:latest 五个本地模型。
使用限制
官方 README 标注许可为 BUSL-1.1(仓库元数据 license 为 NOASSERTION),使用与商用条件未在材料中说明;非平凡主题在纯 CPU 硬件上单次运行常需 30–60 分钟,研究阶段可达 10–25 分钟,且可能因内存竞争超过默认 600 秒单步超时;嵌入维度锁定为 512,安装时确定后不能按请求切换,变更嵌入模型需重新嵌入语料;搜索依赖公共搜索引擎,可能被限流或 CAPTCHA 导致 searxng 显示 degraded,研究结果可能稀少或缺失(此时计划仍会生成但不带依据);DAG 节点三次自动重试后进入 blocked 状态需人工处理;材料未说明具体 API 成本与云端调用费用。
许可证
NOASSERTION
最近推送
2026-09-22 05:14

资料检查:2026-09-22 07:00 · 卡片整理:2026-09-22 09:00
卡片由 AI 根据仓库资料整理,未进行安装或运行验证 · 本次更新未完成,保留上次成功内容

职业应用

程序员

程序员可将该自托管 DAG 编排引擎用于多步 LLM 工作流:输入一个想法后,系统细化简报、做可行性评估并等待人工确认,再通过 SearXNG 联网研究、生成由研究/决策/行动/验证/输出节点组成的执行图,按依赖顺序执行并逐步验证、失败自动重试最多三次,最后编译叶节点输出;推理走本地 Ollama 模型,向量检索用 Milvus,状态存 Postgres,搜索用 SearXNG,采用 FastAPI + Docker,除非主动开启否则不调用云端。

查看内容依据
Scaffold Engine 是一个自托管的 DAG 编排引擎,用于多步 LLM 工作流:输入一个想法后,系统会将其细化为结构化简报、做可行性评估并等待人工确认,随后通过 SearXNG 联网研究并把事实蒸馏进知识库,生成由研究/决策/行动/验证/输出等节点组成的执行图,按依赖顺序执行并逐步验证、失败自动重试最多三次,最后编译叶节点的最终输出。

官方使用入口 ↗

由 AI 根据来源材料整理,未进行安装或运行验证

这是基于来源内容整理的摘要。原文链接失效后,本页摘要和讨论仍会保留。

讨论 0

登录后参与讨论,阅读资讯无需注册。

还没有评论,来分享第一个看法。