Mightling：运行在 DGX Spark/GB10 上的本地私有 AI 编程智能体与桌面应用

dreamference/mightling · DGX Spark & GB10 software: a private, fully local AI coding agent, chat and desktop app. One-command install, no cloud, no account, no telemetry. For NVIDIA DGX Spark, ASUS Ascent GX10, Dell Pro Max GB10, HP ZGX Nano, Lenovo ThinkStation PGX, MSI EdgeXpert, Acer GN100, Gigabyte AI TOP ATOM.

GitHub原文发布未知首次收录 2026-10-10上架 2026-10-14 07:05

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

Mightling 是一个完全本地运行的 AI 编程助手，集终端编程智能体（ling）、网页聊天和桌面应用为一体，可在 NVIDIA DGX Spark 及各类 GB10 机器上通过一条命令安装。它不依赖云服务、账户或遥测，模型（Qwen3.8-27B NVFP4，由 SGLang 提供服务）在本地 GB10 上运行，128GB 统一内存，支持 262K 上下文，并提供 Night Shift 队列、代码索引、网页搜索/抓取以及 Gmail/Drive/Calendar 只读集成（预览）等功能。用户可通过 ling-admin audit egress 审计网络出口，并用 /airgapped on 将命令置于无网络命名空间。

# coding-agent # local-llm # dgx-spark # sglang # air-gapped

核心能力与快速开始

★ 1 · Python

能做什么: 提供终端编程智能体 ling（读取仓库、执行命令与测试、编辑代码、风险操作前询问）；Night Shift 夜间队列（每个任务独立 git 分支，不自动合并或推送）；Web 搜索与抓取（通过本地 SearXNG）；代码索引（定义、调用者与影响面）；兼容已有的 Claude Code、Gemini CLI、OpenClaw 或 Hermes 技能；网页聊天（含搜索、语音输入与图像理解）；桌面应用（含 Work 窗口预览，支持审批、diff 和撤销）；Gmail、Drive、Calendar 只读预览。附带 ling-admin audit egress 网络出口审计，以及 /airgapped on 强制无网络命名空间。
适用场景: 在 DGX Spark 或 GB10 机器上对不允许上传的代码（客户项目、受监管数据、未发布产品）进行本地 AI 编程辅助；离线或在无外网条件下运行编程智能体；把夜间批量重构/依赖升级任务排队并在早上审查分支；通过同一本地模型服务驱动 Cline、Continue、OpenHands 等工具；在多台局域网机器（Linux/macOS，另有 Windows 预览客户端）上以 GB10 作为推理节点。
项目形态: 可直接使用的工具
部署方式: 本地部署于 DGX Spark 或 GB10 机器（NVIDIA DGX Spark、华硕 Ascent GX10、戴尔 Pro Max GB10、惠普 ZGX Nano、联想 ThinkStation PGX、微星 EdgeXpert、宏碁 GN100、技嘉 AI TOP ATOM），通过一条 curl 安装脚本完成；客户端可装在 Linux（Intel/AMD 或 Arm）与 macOS（Apple 芯片或 Intel），Windows 11 on Arm 和 x86-64 为未签名预览版。Mac 桌面应用为未公证预览版。
主要依赖: 运行模型需要 GB10 机器；系统为随附的 DGX OS 7（或厂商提供的 Ubuntu 24.04），需要 Docker 与 NVIDIA Container Toolkit、Python 3 和 Git。模型约 20GB 权重，服务时约 128GB 统一内存中有约 38GB 保持空闲。构建源码需 git、Python venv 等。
使用限制: 运行模型必须有 GB10 硬件。安装、首次模型启动等步骤需要联网下载容器镜像、包与模型权重。Gmail/Drive/Calendar 集成仍为预览状态；Mac 桌面应用为未公证预览；Windows 客户端为未签名预览且需关闭 Smart App Control。搜索查询由模型生成，可能包含上下文片段。AGPL v3 要求通过网络提供修改版本时须提供源码；components 保留各自许可证，Onyx 的 ee/ 目录为非自由软件且默认关闭。
许可证: AGPL-3.0
最近推送: 2026-10-10 05:49

核对 README 依据 ↗

资料检查：2026-10-10 07:00 · 卡片整理：2026-10-14 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

在本地 GB10 机器上运行私有 AI 编程智能体，用于阅读仓库、运行命令与测试、修改代码、排查测试失败原因，并可通过 Night Shift 队列在独立 git 分支上批量完成依赖升级等任务；代码索引帮助定位定义、调用方与影响范围。

查看内容依据

Reads your repository, runs commands and tests, edits code, and asks before anything risky.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

local-inference-setup：本地语言模型自包含启动器的声明式配置

该项目以声明式配置方式管理本地语言模型推理环境的搭建：提供模型下载清单、运行时分发、完整性校验脚本、模型管理文档，以及内嵌完整推理参数的 .cmd 启动器。仓库本身不包含 GGUF 权重或运行时二进制，需通过附带的 PowerShell 安装与下载脚本获取。启动器会显式声明上下文长度、采样参数，并借助 --gpu-layers auto 与 --fit on 自动决定设备放置；服务对外暴露 Web 界面、OpenAI 兼容 API 与健康检查端点。配置面向 Windows、指定硬件（RTX 5080 16GB、64GB 内存）并锁定 llama.cpp 运行时构建版本，接口无鉴权，仅建议在可信私有网络内使用。

Pi-Bolt：将 Pi 编程智能体预编译为原生可执行文件

Pi-Bolt 是 Pi 编程智能体的提前编译（AOT）原生版本，把 Pi 的代码在构建时编译为机器码，无需在启动时解析或进行 JIT 编译，因此不需要 Node.js 或 Bun 即可运行。它保留 Pi 原有的命令、会话、设置、提供方和扩展，支持通过 --acp 接入编辑器智能体面板、通过 --mcp 作为 MCP 服务器，并内置 grep/find 搜索、扩展编译、安装检查与回滚更新等功能；提供 Linux、macOS、Windows、ARM64 及 Android Termux 构建。材料声称相对 Node 上的 Pi 启动更快、CPU 占用和内存占用更低，但具体性能数据仅为项目自述。

llm-inference-fault-tolerance：测量 LLM 流式推理服务崩溃时客户端所见的令牌异常

该项目是针对 vLLM 与 SGLang 的故障注入研究，考察 LLM 推理服务在生成中途崩溃时，流式客户端实际收到什么。基于 Llama 3.1 8B 与 AWS A10G 完成 86 次运行、430 次试验，比较朴素重试、重算、固定间隔 KV 检查点等恢复策略，并记录朴素重试与已交付文本矛盾、确定性模式加重算可精确恢复等发现；仓库包含论文、原始日志、分析制表脚本、故障注入工具与精确一次令牌网关。后续的 KV 检查点微基准与自适应策略尚未开始。

Qwen3.8-27B-abliterated-AWQ-SGLang-DFlash2-RTX-PRO-6000：在单张半卡 RTX PRO 6000 上部署量化 Qwen3.8-27B 推理服务

该仓库记录了一套针对 abliterated Qwen3.8-27B 模型的生产推理部署方案：采用 AWQ-INT4 量化权重，结合 SGLang v0.5.22（含五个补丁）与 FP8 的 DFlash 2 投机解码草稿器，运行在 NVIDIA RTX PRO 6000 的半卡 MIG 分区上，并通过 Cloud Run 提供服务。README 给出了量化流程、显存与 KV 池配置、单流/四流与长上下文下的解码和预填充基准、投机解码与验证优化、并发槽位设置的实测数据，以及视觉输入、工具调用方面的能力说明和结构化输出不支持等限制。部署包含约 14 分钟冷启动和一次耗时约 75 分钟的量化步骤，性能数据均在 Cloud Run 环境下测得。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。