本地模型

Textus：带 AI 写作助手的 Markdown 编辑器

CatVinci-Studio/Textus · The next-generation Markdown editor, with an AI writing assistant. Free and open source for macOS, Windows and Linux.

Textus 是一款面向 macOS、Windows 和 Linux 的 Markdown 编辑器，以 MIT 许可证开源。它实时渲染 Markdown，支持数学公式、表格和 Mermaid 图表，提供禅模式、打字机模式、分栏视图和源码模式四种写作模式，并可导出 PDF、Word、HTML 等格式。其 AI 写作助手可在写作过程中提供续写建议、错别字与语法提示，并以带理由的修改提案形式呈现，支持句级采纳、行内批注，能学习用户风格并记住人物和地点设定。Textus AI 可接入 20 多种 LLM 及任意 OpenAI 兼容端点，也支持通过 Ollama 使用本地模型。文档以纯 Markdown 文件保存在用户指定位置，API 密钥仅存于本机，AI 请求由设备直连所选服务商；编辑器可完全离线使用，AI 功能则由所用服务商提供。

Google Antigravity SDK 新增本地模型支持，提升 Token 效率与代码隐私

Google 在 Antigravity SDK 中新增了对本地模型的支持，开发者可以把智能体工作流直接跑在自己的电脑上，不再必须调用云端模型。以前这类工作流通常依赖云端，代码和数据要发出去，还受网络和推理费用限制。现在开发者能自己掌控数据隐私、推理成本、网络依赖和算力分配，同时仍可按需混用云端模型处理更复杂的任务。对开发者来说，写智能体时更省钱、更私密，弱网环境下也能跑。文中未说明具体支持哪些本地模型、开放时间或可用范围。

Engineering-Knowledge-Agent：面向工程文档的本地 RAG 知识检索与问答助手

manasIO/Engineering-Knowledge-Agent · Autonomous RAG agent designed to ingest technical documentation, perform local semantic search, and synthesize engineering insights.

该项目是一个轻量的工程知识检索系统，把内部技术文档切分为文本块并用 SentenceTransformers（all-MiniLM-L6-v2）生成向量，写入持久化的 ChromaDB 向量库，再通过语义与关键词混合检索选出与问题最相关的片段，组装成提示交给本地或托管的 LLM 生成有依据的答案。项目强调隐私优先的本地推理（可对接 Ollama、llama.cpp 等）、分块与上下窗管理、以及仅基于检索内容作答以降低幻觉，适合用于内部文档搜索、运维手册与 SRE 剧本等知识密集型场景。

GarageAI：面向欧洲的本地 GPU 推理交易市场，通过统一 OpenAI 兼容 API 调用

magnusfroste/garageai · A marketplace for local AI inference in Europe: garage owners offer GPUs they already own, buyers call them through one OpenAI-compatible API, and owners get paid per token. NetBird mesh + LiteLLM gateway in the EU.

GarageAI 是一个本地 AI 推理交易市场：拥有 GPU 的车库主通过 GarageAI Bridge 在用户态建立 WireGuard 隧道把算力接入网关，买家通过位于欧盟 VPS 上的 LiteLLM 网关获得 OpenAI 兼容 API，按 token 预付费调用；请求经 NetBird 网状网络（UDP 被阻断时的回退方案）路由到各家车库，支持模型 Pool 与指定车库两种购买方式，并具备自动故障转移与按 key/模型计费能力。项目强调本地化与欧洲数据主权，车库不暴露于公网，无需开放入站端口。

tsfm：在 macOS 上通过 TypeScript 调用 Apple 端侧基础模型

meteorologicalballoonfronttooth549/tsfm · Provide on-device Apple Foundation Models inference in TypeScript with streaming, structured output, and chat-style APIs for secure, local AI processing.

tsfm 是一个基于 TypeScript 和 Node.js 的工具库，用于在 macOS 26 及以上系统中访问 Apple 的端侧 Foundation Models，实现本地 AI 推理。它支持流式输出、结构化输出与聊天式 API，数据保留在设备本地以保护隐私，可用于构建虚拟助手、语言翻译、文本摘要和定制 AI 工作流等场景。

CFOperator：面向 homelab 基础设施的自托管 AI SRE 智能体

aachtenberg/cfoperator · AI-powered SRE agent for homelab infrastructure monitoring, OODA sweeps, RAG memory, and remediation workflows

CFOperator 是一个自托管 AI SRE 智能体，用于监控 homelab 基础设施并按 alert → triage → investigate → propose a fix → open a GitOps PR → verify after merge 的流程处理告警。它通过本地 LLM 对 Alertmanager 告警分级，使用工具循环查询 Prometheus、Loki、Kubernetes 和 Docker，并以 pgvector 知识库检索历史调查记录，最终生成针对 manifest 仓库的具体 diff 并开 PR，但不直接改动运行中的集群。它还每 30 分钟执行一次主动巡检，并可通过聊天、Slack 或 MCP 主机进行问答。

AYGENT Core：原生桌面端 AI Agent 运行框架

masonleetompkins/aygent-core · AYGENT is an Open Source AI Agent Harness with built-in security, memory, cron, and parallel threads.

AYGENT Core 是一个开源的 AI Agent 桌面应用（macOS／Windows／Linux），用图形界面而非终端或 SDK 来创建和管理多个智能体。每个智能体绑定一个指定文件夹，可读取、写入、整理文件，具备会话记忆（以 markdown 形式保存在用户自有文件夹中）、定时与 cron 调度、并行线程、Save Points 回滚、工具与技能扩展、MCP 服务器以及 GitHub／Notion 等连接器。安全方面由操作系统级沙箱约束文件访问（macOS Seatbelt、Linux Landlock），密钥存入系统钥匙串并按调用注入，Shell 权限需单独逐智能体授权。支持 Anthropic、OpenAI、OpenRouter、Muse 等自带密钥，也可下载 GGUF 与 Apple Silicon MLX 本地模型离线运行。项目以 Apache-2.0 开源，官方另提供付费闭源的 AYGENT Pro 版本。

Reasonix：面向复杂软件工程任务的编码智能体

esengine/DeepSeek-Reasonix · A reliable coding agent for complex software engineering tasks.

Reasonix 是一个可本地运行的编码智能体引擎，专注于可靠的复杂软件工程任务。它采用配置驱动设计，通过 reasonix.toml 声明模型提供方、智能体、工具与插件，不硬编码模型，内置 DeepSeek 预设并支持任意 OpenAI 兼容端点，也可选用执行器加规划器的双模型协作方式。引擎提供终端、桌面应用、浏览器与编辑器（ACP 协议）四种接入方式，具备计划模式、权限控制、工作空间沙箱与逐轮检查点，支持长时自主运行的读取与回滚。项目以 Go 编写，采用 MIT 许可证，可编译为零 CGO 的单一静态二进制文件，并可通过 MCP 服务器与扩展协议接入插件生态。