跨栏目检索
搜索中文标题、仓库名或关键词，再用分类、来源和日期缩小范围。
natee6684/qwen3.8-27b-in-c · Run 27B-parameter Qwen3.8 locally on a laptop CPU with native C inference, no GPU or Python, at 2.52 token/s.
该项目用纯 C 编写的原生推理程序在普通笔记本 CPU 上运行 27B 参数的 Qwen3.8-27B 模型，无需 GPU 和 Python，README 声称可达约 2.52 token/s、最低 8 GB 内存即可运行，并提供兼容 OpenAI API 的本地服务接口，方便其他工具接入本地模型。
liveryalpineanemone2431/DeepSeek-v4-Flash-One-DGX-Spark · Run DeepSeek V4 Flash 0731 with EXL3 and DSpark speculative decoding on a single NVIDIA DGX Spark (GB10, 128GB).
该项目面向单台 NVIDIA DGX Spark（GB10，128GB）平台，提供运行 DeepSeek V4 Flash 0731 的打包方案，结合 EXL3 量化与 DSpark 投机解码以提升本地推理性能。仓库 README 主要以 Windows 下 exe 安装向导形式介绍下载、安装、首次配置与聊天使用流程，并声明安装后全部本地运行、无需联网。需要说明的是，README 中的硬件要求（Windows 10/11、16GB 内存、50GB 磁盘）与仓库元数据描述的 DGX Spark（GB10）定位存在不一致，实际部署条件、依赖与限制以官方仓库为准。
Irongrey-genusengelmannia453/zero-context · Redact sensitive data before sending to AI, then restore it automatically with this local-first DLP extension.
zero-context 是一个本地优先的浏览器扩展，用于在向 ChatGPT、Claude、Gemini 等 AI 网站发送提示词前自动识别并遮蔽姓名、电话、邮箱、信用卡号等个人敏感信息，替换为占位符标签；复制 AI 回复时再自动还原原始内容。检测使用在浏览器中通过 WebAssembly 运行的轻量 ONNX 模型，材料称数据不上传、无云端处理，并支持自定义脱敏规则、按站点开关、剪贴板还原控制与本地日志查看。
Amitga5978/mainarch · Run LLM inference directly on AMD GPUs by bypassing ROCm for low-latency serving.
mainarch 是一个用 Rust 从零编写的程序，让计算机直接与 AMD GPU 硬件通信，绕过 ROCm、HIP、HSA 等中间软件层，用于低延迟的 LLM 推理服务。项目针对 AMD CDNA 架构（MI355X）优化，目前支持 OLMo 2 语言模型，可在本地完成对话、文本生成、翻译、摘要等任务，数据不出本机。README 声称可降低延迟、提升内存效率，但未给出具体基准数据。
huntleeouter514/laya-mlx · Run open-weight typed decisions natively on Apple Silicon with sub-14ms local MLX inference, no PyTorch or cloud APIs.
laya-mlx 是一个面向 Apple Silicon Mac 的本地决策推理软件，用于在设备端运行「类型化决策模型」（.laya 文件），据称单次决策耗时约 7–14 毫秒，无需 PyTorch 等重型依赖，也不依赖云端 API，强调数据不出本地的隐私性。其技术组合包括针对 Apple Silicon 优化的 MLX 运行时、ModernBERT 模型与纯本地计算。README 给出下载即用的入门流程和 Apple Silicon 系统要求。
mixpeek/momentbench · Corpus-scale video moment retrieval benchmark — 75h of rights-cleared video, 500 queries, 4 difficulty tiers. Built on Mixpeek.
MomentBench 是由 Mixpeek 构建的语料级视频时刻检索评测基准，目标规模为 75 小时版权清晰视频与 500 条查询，覆盖四个难度层级。当前 v0.2 版本包含 27 个经哈希校验的视频资产，来自 Blender 开放电影、NASA 航空航天与 NASA 机器人三个领域，配套 620 条查询（457 条收录于仓库中）。项目提供查询分层定义、评测协议与评测指标（Recall@1/5、平均时间 IoU）、智能体评测赛道（模型通过 list_assets、search_transcript、read_transcript、sample_frames、submit_answer 等工具在预算内提交答案）、多模型适配器（Gemini、GPT、Claude、TwelveLabs、Qwen-VL、E5-Omni、CLIP 等）、污染控制机制（canary 字符串与 public/held_out/rolling 划分）以及结果提交与自建语料运行流程。
uroshp/scout-ci · Self-verifying AI competitive intelligence tool for PMM/GTM teams — every claim sourced, unverifiable claims cut and logged.
Agent Scout 是一个面向产品营销（PMM）与上市（GTM）团队的竞争情报工具：给定竞争对手（可选加上自家公司和关注领域），生成包含执行摘要、作战卡（battlecard）、异议处理等内容的战略简报。其特点是每条事实性主张都对照公开来源进行核验，无法核实的内容会被删除并记录在可见的 Cut Log 中；核验过程是确定性的、与模型无关的独立代码重新抓取来源并确认引用证据存在。v2 版本由模型驱动的工具调用循环编排（Opus 编排，Sonnet 子代理研究/核验），作战卡会由每日代理监控并仅在判断变化具有实质性时更新。仓库包含 v1（固定 generate→verify→render 流水线）与 v2（Agent Scout 代理式版本）两代实现，二者各自独立可运行。
wellingfeng/UltraGameStudio · UltraGameStudio - AI coding agent for game development: engine workflows, gameplay code, and asset generation.
UltraGameStudio 是一个面向游戏开发的 AI 编程代理，借鉴 Claude Code / Codex / Gemini 的交互形态，专门理解游戏引擎概念，并能在同一会话中生成图像、3D 模型、2D 精灵动画、图集、音频、骨骼绑定和视频等游戏资产。项目内置 40 多个游戏开发专家角色，覆盖 Unity、Unreal、Godot 与 Web 引擎，并支持通过免费或低成本渠道路由请求，将较高成本配额留给关键任务；会话、密钥与历史记录保存在本地。
skzv/ccmux · One TUI for every AI coding agent session — Claude Code, Codex, Cursor, and more — in sync across every device.
ccmux 是一个用 Go 编写的跨设备 tmux 会话管理器，为 Claude Code、Codex、Cursor、Gemini CLI、Antigravity、pi、Grok、Muse Code 等 AI 编程代理提供统一的终端界面。它以 tmux 作为会话存储，把各会话集中在一个仪表盘里按状态（进行中、空闲、等待输入）着色展示，支持启动、恢复与监督会话，并通过 tailnet 与 SSH/Mosh 连接，让用户从 Mac、笔记本或手机访问同一会话。还提供项目笔记浏览、代理安装与登录状态查看、会话历史恢复、用量统计以及多机自动发现等能力。
Wizapply/OpenGeekLLMChat · 日本語のギークのためのllama.cppローカルLLMチャットブラウザクライアント。
OpenGeekLLM 是一个以浏览器为界面的本地 LLM 聊天应用，通过启动 llama.cpp 的 llama-server 子进程完成推理，数据默认保留在本地、不向云端发送。它在聊天之外集成了 Agentic RAG、DuckDuckGo 联网搜索、服务器文件读写、Google Drive 读写、可选的外部 LLM 兜底，以及把 PDF 或网页经 OCR / HTML 清洗后自动登记进持久 RAG 的能力。项目强调精简依赖与易改造：服务端为单个 server.js（仅 express 与 ws），前端为单页 React，无需构建工具。
skydiver/GhostCode · macOS AI coding terminal manager based on Ghostty
GhostCode 是基于 Ghostty 终端引擎的 macOS 原生应用（SwiftUI + AppKit 构建），为 AI 辅助编程工作流提供三栏布局——项目侧边栏、终端和命令面板。它可启动 Claude Code、Codex 或 OpenCode 等 AI CLI 工具，支持按项目配置 AI 二进制、多标签会话、Claude Code 会话续接、git 状态显示，以及通过 JSONC 文件自定义的项目列表和命令面板。该项目的终端模拟能力由 Ghostty 核心引擎提供，并非通用终端模拟器。
tw93/Kaku · 🎃 A blazing-fast Mac terminal, built for coding with AI.
Kaku 是一款面向 AI 辅助编码场景的 macOS 终端，基于 WezTerm 构建，预置了字体、主题、shell 集成和 Mac 快捷键，同时保留 Lua 自定义能力。它提供内置 AI 助手入口，可在命令行给出修复建议、把自然语言描述转成命令并支持 Chat 交互，此外还集成了 zsh 补全、语法高亮、目录跳转以及可选的 Lazygit 和 Yazi。
sjsu-masters-projects/medi-agent · Patient app and clinician dashboard over a FastAPI backend, where LangGraph agents triage incoming chat, pull structured data out of uploaded medical documents, and answer medication questions from retrieved FDA label text.
MediAgent 是一个双门户医疗平台，包含患者端 PWA 与临床医生端 PWA，后端基于 FastAPI，并使用 LangGraph/ADK 智能体对聊天进行分流、从上传的医疗文档中提取结构化信息，并基于检索到的 FDA 药品说明书文本回答用药问题。功能覆盖文档上传与 OCR、带引用的信息抽取、患者助手（文本与语音，支持 en-US 与 es-MX，引用 MedlinePlus、DailyMed、RxNorm）、临床医生审核的护理计划、预约与双向消息、通知中心、SMART on FHIR 沙盒导入以及临床医生仪表盘与 Naranjo ADR 审核。
framerslab/agentos · TypeScript AI agent framework: cognitive memory, runtime tool forging, multi-agent orchestration, 11 LLM providers.
AgentOS 是一个 Apache-2.0 许可的 TypeScript 开源 AI 智能体框架，核心在于让智能体具备持久化的认知记忆、运行时自主锻造工具的能力，并能支撑长时间运行的会话。它提供可选的 HEXACO 人格配置、6 种多智能体编排策略、guradrails 与语音管线，并通过统一 dispatch 接口对接 13 个 LLM 提供商（含 2 个本地 CLI）。框架内置基于神经科学机制的认知记忆（如艾宾浩斯衰减、提取诱发遗忘、重固化等 8 种机制），RAG 管线支持 7 种向量后端与 4 种检索策略，同时宣称在 LongMemEval-S 上达到 85.6%、LongMemEval-M 上达到 70.2% 的可复现成绩。
马斯克在 X 上发帖说，SpaceX 的 AI 代理 Grok Bot 今后会针对每个任务选用最好的后端模型，其中明确包括 Claude Opus 5.5、MidJourney、Suno 等第三方 API，而不是只用 Grok 自家模型。Grok Bot 由 SpaceXAI（马斯克的 AI 实验室，已并入 SpaceX）和 Cursor（SpaceX 6 月同意以 600 亿美元股票收购、8 月完成）联合打造。作者采访了 22 家公司的负责人，至少 10 人表示会按任务挑模型，把贵的留给真正需要的活，主要目的是省成本；但换模型有风险，有团队在重要演示前三天换模型导致工作流崩溃，只能周末回滚，所以应先跑评测再切换。OpenRouter 数据也显示便宜的小模型承担了大部分调用量，而 Claude Opus 5.5 这类前沿模型用量一周增长 74%。
微软在 Foundry 上线了 Microsoft-Decision-1，这是一个专门做“决策”的小模型，比如给选项打分、按规则挑选结果。它没有用合作伙伴 OpenAI 的模型，而是在阿里 Qwen3.5-9B 基础上继续训练，并计划以后换到自家 MAI 和 OpenAI 的底座上。价格是每百万输入 token 收 0.042 美元、输出免费，和 TypeSafe 的 Jev 相同，后者刚拿到 8.7 亿美元 A 轮融资。微软说自己在 Xbox、Copilot 等内部团队已经试用，速度比 GPT-6 Sol 快十几倍，但目前只支持文本、不支持图片，也没有开源权重。
AI Agent 上线后服务运行正常，但回答质量有没有变好？问题在于：训练模型的工程师知道什么叫“好答案”，运维团队只看服务是否在线，两边看不同的仪表盘，评估集慢慢过时也没人更新。CoreWeave 在 Fully Connected 2026 大会上发布 Forge，把运行、观察、整理数据、改进、评估五个环节放进同一个开发环境，用 CoreWeave Registry、Weights & Biases Models 等工具保留从模型版本到生产例子的完整记录，让团队能定位失败、选择改法，并在上线前证明新版本确实更好。目前 CoreWeave ARIA 和 CoreWeave Sandboxes 已正式可用，Agent Lens、Notebooks、Model Distillation 处于预览阶段；MasterClass 和 Canva 已开始使用 Forge。
Cloudflare 把 Traces 功能开放公测，让原本只覆盖 Workers 的自动追踪扩展到安全规则、转换、缓存、路由和回源处理，全部生成标准 OpenTelemetry 追踪片段。它兼容 W3C traceparent 头，还能通过 Trace Rules 只对指定流量采样，减少无用数据。12 月 1 日起计费改为按写入量和保存时长收费。对用户来说，调试请求链路更完整，成本也按实际用量计算。
Defiladeboarfish90/agent-memory · Store persistent AI agent memory in Markdown files with search, context injection, checkpoints, and compaction—no database needed
agent-memory 是一个面向 AI 智能体的文件式记忆系统，把智能体的事实、笔记、任务和历史记录保存在纯 Markdown 文件中，不需要数据库。每个智能体可使用独立文件夹，便于人工阅读、编辑、迁移和备份，并支持搜索、上下文注入、检查点与压缩等能力（依描述所述）。项目以 TypeScript 编写，README 主要面向 Windows 用户提供下载与首次运行说明。
reyhan8543/agent-md · Install portable agent rules, hooks, and task state for coding agents to stop guessing and verify work across Claude, Codex, Cursor, and Windsurf
agent-md 提供现成的智能体指令文件，用于 Claude Code、Codex、Cursor、Windsurf、Aider 等编程工具，帮助用户为智能体设定清晰的工作流程与项目规则，让改动更聚焦、减少来回猜测，并在修改文件前先阅读项目规则。README 主要面向 Windows 用户，说明从 Releases 下载、解压并把指令文件放入项目根目录或工具规则目录的使用方式。