OpenMachine-ai/transformer-tricks · A collection of tricks and tools to speed up transformer models
Transformer Tricks 是一个围绕 Transformer 模型效率优化的技巧与工具集合，通过移除架构中的冗余组件来提升模型效率。项目包含 slim attention（从 MHA 模型的上下文内存中去除整个 V-cache）、FlashNorm（将 RMSNorm 的权重折叠进后续线性层）、MatShrink（进行中）、第一层预计算、以及为 skipless transformer 仅保留 KV 权重等技巧，并附带论文、讲解视频、Colab notebook 与 Python 包。项目提供 pip 安装的 transformer-tricks 包，以及将基于 RMSNorm 的 HuggingFace 检查点转换为 FlashNorm 变体并发布到 HuggingFace 的转换脚本。
展开详情收起详情：Transformer Tricks：简化并加速 Transformer 模型的技巧与工具集⌄
★ 233 · 开发框架
GitHub
原文发布：未知收录：2026-10-13
Fingolfin7/AutumnWeb · Time and project tracking with rich history, charts, and AI insights.
AutumnWeb 是一个极简的网页版时间与项目追踪工具，为原 Autumn CLI 的浏览器版本，采用相同的核心结构和导入导出格式。它以 Django 应用形式记录项目与子项目的时间，支持启动/停止/重启计时器、浏览与检索会话历史，通过硬性上下文与软标签组织项目，并管理基于时间或会话的承诺目标。数据可视化支持饼图、柱状图、散点图、折线图、日历、热力图、堆叠面积图、累计图、矩形树图、状态图、上下文图、直方图、雷达图、标签气泡图与词云等多种图表。此外提供可选的 LLM 驱动的 Insights 工作区，可就选定的会话数据提出自然语言问题，并支持通过 MCP 端点接入 ChatGPT 与 Claude。项目以 JSON 格式导入导出，兼容原 CLI 版本，并声明不使用分析或追踪。
展开详情收起详情：AutumnWeb：基于 Django 的时间与项目追踪工具，支持图表可视化与 LLM 洞察⌄
★ 1 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
junruxiong/IncarnaMind · IncarnaMind is a free, open-source desktop app for macOS, Windows and Linux where you ask questions about your own documents (PDF, Word, PowerPoint, Excel and more) and write with AI. Every answer cites the exact page, and IncarnaMind checks that each quoted passage is really there.
IncarnaMind 是一款面向 macOS、Windows 和 Linux 的开源桌面应用，用于对自己的 PDF、Word、PowerPoint、Excel、CSV、Markdown 和纯文本等文档提问并进行 AI 写作。它会为回答标注具体页码，并校验引文是否确实出现在所引位置，支持打开原页面并高亮显示。用户可以连接已有的文件夹（包括 Zotero 存储目录），从 OpenAlex、arXiv、PubMed 检索开放获取论文，导入 Zotero、CSL JSON、BibTeX、RIS 文献，也可接入 ChatGPT 套餐、自带 API Key 或通过 Ollama 使用本地模型，并将笔记导出为 Word 或 Markdown 并附指定格式的引文和参考文献。项目强调文档与索引留在本地数据文件夹，文件不被移动或修改；当前尚未正式发布安装包，可从源码运行。
展开详情收起详情：IncarnaMind：可核查引文的本地文档问答与 AI 写作桌面应用⌄
★ 806 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
mthomas100/patrol · A search drone that looks for one missing person's things from words alone, with no internet: four local AI models on one Mac, simulated in MuJoCo. Multi Model Hackathon, SF Tech Week 2026.
Patrol 是一个基于提示词描述的无人机搜索系统原型，面向荒野失踪人员场景：家属描述失踪者携带的物品（如蓝色背包、橙色帐篷、灰狗），无人机据此在无网络条件下自主搜索。系统在一台 Mac 上运行四个本地 AI 模型——Clef-Flash 负责快速判定、Qwen 视觉模型负责语义推理与二次判定、Parakeet 负责语音转文字、Kokoro 负责语音播报，由普通代码负责飞行与安全约束。无人机与山坡场景在 MuJoCo 中仿真，项目声称已完成实时飞行演示，3 件物品全部找到且无误报，但项目自述这些结果仅证明行为在仿真中有效，不代表真实环境的检测率。
展开详情收起详情：Patrol：离线运行的失踪人员物品搜索无人机系统⌄
★ 1 · 研究实现
GitHub
原文发布：未知收录：2026-10-13
byteinn-dev/byteinn-client · ByteInn 客户端安装包下载 · Claude Code / Codex 国内桌面工作站 · 官网 byteinn.net
ByteInn 客户端是一款闭源桌面应用（仅发布安装包，不含源码），内置 Claude Code 与 Codex 两个官方内核，面向国内用户提供注册、充值、线路一体化的使用方式。客户端支持多对话并行任务、改动差异查看与一键撤回、危险操作审批、总助理任务拆解与任务地图、AI 操作内置浏览器、定时任务、专家与文件处理技能、手机伴侣及微信/QQ/飞书等聊天软件远程派活、桌面挂件与宠物、离线语音输入等功能。客户端本身免费下载使用，模型用量按实际消耗计费，价格以官网为准。
展开详情收起详情：ByteInn 客户端：面向国内用户的 Claude Code / Codex 桌面工作站⌄
★ 0 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
manasIO/Engineering-Knowledge-Agent · Autonomous RAG agent designed to ingest technical documentation, perform local semantic search, and synthesize engineering insights.
该项目是一个轻量的工程知识检索系统，把内部技术文档切分为文本块并用 SentenceTransformers（all-MiniLM-L6-v2）生成向量，写入持久化的 ChromaDB 向量库，再通过语义与关键词混合检索选出与问题最相关的片段，组装成提示交给本地或托管的 LLM 生成有依据的答案。项目强调隐私优先的本地推理（可对接 Ollama、llama.cpp 等）、分块与上下窗管理、以及仅基于检索内容作答以降低幻觉，适合用于内部文档搜索、运维手册与 SRE 剧本等知识密集型场景。
展开详情收起详情：Engineering-Knowledge-Agent：面向工程文档的本地 RAG 知识检索与问答助手⌄
★ 0 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
Sev7eEn7/dsh-sieve · dsh-sieve: context engineering & token optimization plugin for DeepSeek Harness (DSH) — tool output filtering, context pruning, progressive skill disclosure. 36% smaller payload in offline replay. DSH 上下文管理与 token 优化节省插件。
dsh-sieve 是面向 DeepSeek Harness（DSH）的 AI 编程代理插件，围绕上下文工程与 Token 效率做优化：过滤工具输出、批量剪枝陈旧的工具结果并保留原文存档指针以便按需取回、按任务相关性渐进披露技能目录，从而减少多步代理循环中的重复输入。插件通过独立的判断模型（托管的 Jev 或本地 macOS Apple Silicon 上的 Laya）回答结构化判定问题，超时或失败时保留原文；官方离线回放数据显示 100 条公开代理轨迹请求负载字符数合计减少 36.28%，历史实测 deepseek-flash 主模型输入 token 下降 21.2%。
展开详情收起详情：dsh-sieve：为 DeepSeek Harness 代理提供上下文工程与 Token 优化插件⌄
★ 107 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
Ayorinha/ayorai-opensearch · AYORAI ATTRACTOR — Evidence-first claim-level verification engine
AYORAI ATTRACTOR 是一个面向 AI 生成答案的可审计核验层：将答案拆解为单条 claim，与证据来源（含出处、偏移与溯源信息）关联，推导 stance（支持／矛盾／中立），再由**模型之外的确定性 Judge** 依据固定、带版本号的规则给出最终核验结论。结论状态包括 VERIFIED、SUPPORTED、PARTIALLY_SUPPORTED、UNVERIFIED、REFUTED、CONFLICTING；评估输入输出可用 SHA-256 做内容寻址以保证防篡改，并提供可复现的评测套件。当前领域为巴西电信监管（AnatEL RGC，标记 D10），项目自定位为研究与工程参考实现，明确声明不构成认证、法律意见或合规结论，评测数据为合成开发集且不构成生产泛化证据。
展开详情收起详情：AYORAI ATTRACTOR：面向 AI 答案的逐条声明证据核验引擎⌄
★ 1 · 研究实现
GitHub
原文发布：未知收录：2026-10-13
opod-io/opod-core · Self-hosted AI gateway for the GPUs you already own: one OpenAI-compatible endpoint across many machines. Engine-agnostic (Ollama, vLLM, SGLang, llama.cpp, MLX-LM), load-aware routing, one model sharded across nodes, API keys, Prometheus + OpenTelemetry. Go, Apache-2.0, no telemetry.
Opod 是一个用 Go 编写的自托管 AI 推理网关，将多台自有机器上的开源权重模型聚合为单一的 OpenAI 兼容端点（/v1/chat/completions 与 /v1/embeddings）。它不绑定推理引擎，可对接 Ollama、vLLM、SGLang、MLX-LM、llama.cpp，提供负载感知路由、跨节点分片大模型、API Key 与 join token、Prometheus 与 OpenTelemetry 观测能力，核心无厂商外发流量，仅以 CLI 和 HTTP API 形式提供，无内置 UI。
展开详情收起详情：Opod：为自有 GPU 提供统一 OpenAI 兼容端点的自托管 AI 网关⌄
★ 2 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
DavidCompute/AG-UI_Multi-Party · A group chat protocol hub implemented according to the *AG-UI Group Chat Extension Protocol Standard v1.0*, written in C# / .NET 10 (ASP.NET Core Minimal API).
该项目是依据《AG-UI 群聊扩展协议标准 v1.0》用 C# / .NET 10（ASP.NET Core Minimal API）实现的群聊协议枢纽，覆盖群组生命周期、成员管理、消息扇出、订阅机制、WebSocket 与 SSE 双传输，并集成基于 Microsoft Agent Framework 的智能体网关，支持智能体触发规则、人机交互审批、记忆与知识库 RAG 检索、技能库、内置文档/表格/演示文稿/PDF 生成、用户与权限管理、持久化与数据导出导入等能力，附带 Web 演示前端与桌面客户端（WPF / Avalonia）。
展开详情收起详情：AG-UI 群聊扩展协议 Hub：基于 .NET 的多智能体群聊与协作枢纽⌄
★ 0 · 开发框架
GitHub
原文发布：未知收录：2026-10-13
hurry060215-tech/learnnote-assistant · A local-first AI learning assistant that turns browser videos and local media into grounded, structured study notes.
LearnNote 是一个本地优先的 AI 学习助手，能够把浏览器视频（如 Bilibili、YouTube）和本地视频、PDF、Markdown、TXT、HTML 等资料转成结构化、可回到来源核对的笔记。它优先读取已有字幕，无字幕时可选本地 faster-whisper 转写或远程转写，并按需调用文字、视觉模型生成概览、重点与结论；支持浏览器扩展交接已登录页面的字幕与资源、全局助手与 Skill 追问、FSRS 复习、笔记编辑与版本保留、导出、Obsidian 集成。工作台通过平台启动脚本双击运行，服务只监听本机 127.0.0.1，数据和模型 Key 默认保存在本机，不需要 LearnNote 账号。
展开详情收起详情：LearnNote：把浏览器视频与本地资料整理成可追溯学习笔记的本地优先 AI 助手⌄
★ 3 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
EthanYoQ/AI-Novel-Writer · AI 小说创作软件：把灵感、角色、世界观、大纲、章节写作、审稿和修稿组织成可控流程；提供 Windows/macOS 桌面版，支持本地和在线模型。AI Novel Writing Software: Organizes inspirations, characters, worldbuilding, outlines, chapter drafting, review, and revision into a controllable workflow. Features desktop apps for Windows/macOS, Ollama integration, and a DeepSeek Harness (DSH) plugin preview.
AI 小说作家是一款 Windows/macOS 桌面应用，把「前提 → 角色 → 世界观 → 章节蓝图 → 草稿 → 审稿 → 修稿 → 定稿」组织为可追溯的长篇小说创作流程，管理项目状态、角色卡、剧情树与草稿版本，并围绕当前章节蓝图组织上下文进行章节级生成。软件本身不提供模型服务，需用户自行配置 OpenAI-compatible 或 Gemini 原生协议的本地/云端模型（如 Ollama、DeepSeek），项目资料保存在本地目录与 SQLite 数据库中。仓库另含一个冻结维护的 DeepSeek Harness 插件 0.1.0 预览版。
展开详情收起详情：AI 小说作家：面向 AI 长篇小说创作的桌面写作工作台⌄
★ 1423 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
inkatze/planwright · Autopilot for spec-driven development on Claude Code: sign off a spec and a guardrailed agent fleet builds, reviews, and delivers draft PRs. Scales from one feature to an agentic software factory. You keep sign-off and merge.
planwright 是一个面向 Claude Code 的规格驱动开发框架：先把需求、设计、任务、测试写成四文件规格并人工签署，再由带护栏的 agent 依次完成测试先行的实现、完整 CI、自动化评审收敛，并提交草稿 PR；人工保留签署与合并两道控制。支持多规格并行执行的 fleet 模式，可通过 overlays 定制 linter、测试命令和评审严格度。
展开详情收起详情：planwright：基于 Claude Code 的规格驱动开发自动化框架⌄
★ 5 · 开发框架
GitHub
原文发布：未知收录：2026-10-13
jackft/mumo · tools for multimodal interaction research
mumo 是一个面向多模态交互研究的工具集，提供安装包与浏览器应用、可嵌入库两种构建产物，可用于音频转录等交互数据的查看与标注。仓库使用 TypeScript 编写，采用 pnpm 工作区开发，并注明可在 Linux、Mac 与 Windows 上运行。
展开详情收起详情：mumo：用于多模态交互研究的工具集⌄
★ 4 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
Zafer-Liu/book-learning · 书内 BOOKNOTE · 多账户教材 RAG 学习助手 —— 回答必引原文:C/W 双引用校验、批注阅读器、长对话自动压缩、可选联网补充(MCP)
书内（Book Learning / BOOKNOTE）是一个可自托管的多账户教材学习工作区，支持上传 Markdown、TXT、DOCX 教材，提供问答、章节讲解、要点梳理与自测四种学习模式。所有回答必须基于本轮检索到的教材证据并附带可展开的原文引用（C/W 双轨引用校验），无引用或伪造引用的回答会被整体拒绝且不落库。项目还包含批注阅读器、长对话自动压缩与上下文计量、可选联网补充（MCP/智谱搜索）、自测复习与 Anki CSV 导出、只读分享链接及在线演示，数据按账户与书籍隔离，单本书一个检索上下文。
展开详情收起详情：书内 Book Learning：面向多账户教材的引文校验 RAG 学习助手⌄
★ 45 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
rmednitzer/core-graph · Converged graph + vector knowledge platform on PostgreSQL (Apache AGE + pgvector) for security, threat intel, and AI memory
core-graph 是一个构建在 PostgreSQL 之上的图与向量融合知识平台，使用 Apache AGE 存储图数据、pgvector 存储向量嵌入，用于汇聚安全与基础设施领域的异构数据。它涵盖威胁情报、安全事件、OSINT、审计合规、AI 记忆、取证时间线、基础设施资产、身份与访问管理八个本体层，支持 STIX 2.1、MITRE ATT&CK、OCSF 1.1、OSCAL 等标准，并通过 NATS JetStream 接收卫星系统数据。对外提供 MCP 服务器（面向 AI 智能体）、FastAPI REST API（面向人工用户）和 TAXII 2.1（威胁情报共享）三类接口，并内置多层授权、双时态数据模型和证据完整性机制。项目状态为 Alpha。
展开详情收起详情：core-graph：基于 PostgreSQL 的安全威胁情报图谱与向量知识平台⌄
★ 1 · 开发框架
GitHub
原文发布：未知收录：2026-10-13
Adam-Researchh/mlx-embed-finetune · Fine-tune single-vector embeddings on Apple Silicon with MLX: LoRA/QLoRA, GradCache, multi-positive training and teacher ranking distillation.
该项目面向 Apple Silicon 平台，基于 MLX 框架微调单向量嵌入（embedding）模型，支持 LoRA 与 QLoRA 适配器训练、硬负样本池化、多正样本监督、GradCache 梯度缓存、Matryoshka 损失以及离线教师排序蒸馏，并提供检索质量评测（nDCG@10、MRR@10、Recall@k）与合并 MLX 权重导出，用于本地语义检索。README 给出了快速上手命令、训练与评测文档索引，以及内存占用、SciFact 检索基线和测试覆盖等证据说明。
展开详情收起详情：mlx-embed-finetune：在 Apple Silicon 上用 MLX 微调单向量嵌入模型⌄
★ 3 · 开发框架
GitHub
原文发布：未知收录：2026-10-13
OraclesTech/guardian-sdk · Ethicore Engine® is an AI safety, ethics, and compliance platform. This repo consists of the open-source components of Ethicore Engine™ - Guardian SDK; designed to protect your AI applications from prompt injection, jailbreaks, role hijacking, system-prompt extraction, and 100+ additional threat categories through a multi-layer analysis pipeline
Ethicore Engine 的开源组件 Guardian SDK 面向 Python LLM 与智能体应用，通过多层检测管线在输入、输出、工具调用与工具返回等环节拦截提示注入、越狱、角色劫持、系统提示提取等攻击，支持文本、图像、音频和视频多种模态。社区版以 pip 安装、本地运行，覆盖 7 类威胁；API 与自托管版本覆盖 160+ 类威胁并提供智能体管线防护，具体部署、成本与限制需参考官方说明。
展开详情收起详情：Guardian SDK：为 Python LLM 与 Agent 应用提供实时威胁检测与拦截⌄
★ 122 · 开发框架
GitHub
原文发布：未知收录：2026-10-13
magnusfroste/garageai · A marketplace for local AI inference in Europe: garage owners offer GPUs they already own, buyers call them through one OpenAI-compatible API, and owners get paid per token. NetBird mesh + LiteLLM gateway in the EU.
GarageAI 是一个本地 AI 推理交易市场：拥有 GPU 的车库主通过 GarageAI Bridge 在用户态建立 WireGuard 隧道把算力接入网关，买家通过位于欧盟 VPS 上的 LiteLLM 网关获得 OpenAI 兼容 API，按 token 预付费调用；请求经 NetBird 网状网络（UDP 被阻断时的回退方案）路由到各家车库，支持模型 Pool 与指定车库两种购买方式，并具备自动故障转移与按 key/模型计费能力。项目强调本地化与欧洲数据主权，车库不暴露于公网，无需开放入站端口。
展开详情收起详情：GarageAI：面向欧洲的本地 GPU 推理交易市场，通过统一 OpenAI 兼容 API 调用⌄
★ 1 · 可直接使用的工具
GitHub
原文发布：未知收录：2026-10-13
PavanMudigonda/zero-to-ai · Free AI/ML course with 950+ Jupyter notebooks — Python, deep learning, LLMs, RAG, agents, prompt engineering, fine-tuning, MLOps
Zero to AI 是一个免费开源的 AI 与机器学习课程，提供 950 多个 Jupyter Notebook，覆盖 Python 与数据科学、机器学习数学、分词与嵌入、深度学习、LLM 与 RAG、AI Agent、提示与上下文工程、微调、MLOps、模型评测与安全等主题，并按学习路径组织为渐进式阶段，适合从零开始系统学习 AI/ML。
展开详情收起详情：Zero to AI：涵盖 Python、深度学习、LLM、RAG 与 AI Agent 的免费 AI/ML 课程⌄
★ 135 · 资料合集
GitHub
原文发布：未知收录：2026-10-13