AI 资源库 · 已整理 7 项

本地LLM

查看与本地LLM相关的 AI 资讯、工具、Skill、工作流和开源项目。

measure-twice:在自定义任务上横向评测本地模型与云模型并留存路由证据

aberson/measure-twice · Local benchmarking toolkit and mt CLI that sweeps suites across a model roster, scores them, and keeps an evidence ledger tying every model-routing claim to the run behind it.

measure-twice 是一套本地基准测试工具包与 mt CLI,让用户编写 JSON 任务套件(suite),在同一批题目上横扫(sweep)本地模型与 Claude 等模型档位,支持确定性评分与 rubric 评分、模型调用预算以及按条目/模型/样本级别的断点续跑。运行结果会生成自包含的 HTML 报告,展示分数、错误答案、解析失败、完整提示词与逐字响应,并通过 claim 账本用 MEASURED / PARTIAL / ASSERTED / STALE 区分实测证据与策略声明,配合引用哈希检查来源变动。项目同时包含一个尚在建设中的编码 Agent 基准测试基础设施,目前仅提供结构校验。

☆ 收藏查看来源 ↗

AutoClip:AI 驱动的长视频高光提取与切片剪辑工具

zhouxiaoka/autoclip · AutoClip : AI-powered video clipping and highlight generation · 一款智能高光提取与剪辑的二创工具

AutoClip 是一款 AI 视频剪辑工具,通过分析视频字幕来定位高光片段、生成标题,并自动剪出视频切片与合集。适合访谈、播客、课程和直播回放等以对白为主的素材。它提供桌面应用、Docker Web 界面和 CLI / MCP 三种使用方式,支持通义千问、OpenAI 兼容接口、Gemini、硅基流动等云端模型,以及 Ollama / LM Studio 本地模型;还提供抖音、小红书、YouTube Shorts 和 B 站导出预设,并可在同一页面向多个已连接平台发布。

☆ 收藏查看来源 ↗

swarmflow:用本地编码 Agent 集群从 PRD 确定性交付经过验证的 MVP

reddevil22/swarmflow · Deterministic control plane for orchestrating swarms of local coding agents: PRD in, verified MVP out

swarmflow 是一个面向绿地项目的确定性控制平面,用于编排多个本地编码 Agent 会话并行开发。它接收 PRD,由前沿模型负责规划、验证与验收,通过多波次(wave)并行执行与门禁流水线(进程清理、回归指纹、区分度检查、范围审计)产出模块与测试,并以 SQLite 账本为唯一事实来源,所有声称作凭据验证而非退出码。前沿后端不限厂商,兼容任意 OpenAI 兼容接口、Command Code CLI、通用终端 Agent CLI 或 Pi;模型选择通过配置完成。当前为 Alpha 状态,已在 5 任务 NestJS 项目上完成端到端验证,PR 自动化和打包制品交付暂不在范围内。

☆ 收藏查看来源 ↗

AI Foundation Models Lab:从产品管理视角动手探索基础模型的零样本预测、评测、RAG 与 LoRA 微调

kousalya-pm/ai-foundation-models-lab · Hands-on experiments across time-series and security foundation models: zero-shot forecasting, evaluation, RAG, and LoRA fine-tuning — from a product management perspective.

该项目是一组以 Jupyter Notebook 形式记录的动手实验,从产品管理视角探索基础模型的生命周期:使用 Cisco CTSM 进行单变量零样本时序预测并测试噪声、缺失数据和异常下的鲁棒性;在本地以 Q4_K_M GGUF 量化运行 Cisco Foundation-Sec-1.1-8B-Instruct 安全领域模型,构建评测数据集并从分类准确率、MITRE 技术映射、证据完备性、延迟等多维度评分;用 TF-IDF 与语义向量检索对比实现安全策略 RAG,诊断检索、生成与拒答等失败模式;并在 Qwen2.5-0.5B 与 Foundation-Sec 上对比 LoRA 微调效果。仓库保留了每项实验的原始数字、失败模式与局限性说明,并给出面向产品团队的经验总结和平台能力建议。

☆ 收藏查看来源 ↗

aktma-HRwithAI:集成 LLM 的人力资源管理 Web API

aktmahir/aktma-HRwithAI · Human Resources Applications with LLM Integration

基于 .NET 10 Clean Architecture 构建的 HR 管理系统 Web API,使用 PostgreSQL 持久化,并通过可配置适配器接入本地 LLM(默认 Ollama 兼容接口)。提供简历筛选与绩效评审分析两个 AI 端点,以及员工、部门、角色、请假申请等 HR 管理接口;配套 Docker Compose、Kubernetes 清单、CI/CD 与运维文档。

☆ 收藏查看来源 ↗

Scaffold Engine:面向本地 LLM 的自托管 DAG 多步工作流编排引擎

LocketKeyLLC/scaffold-engine · Self-hosted AI agent engine for local LLMs. Give it an idea — it researches the web, plans a DAG of steps, executes each with verification and auto-retry, and compiles the result. 100% on your hardware: Ollama inference, RAG with Milvus vector search, Postgres state, SearXNG search. FastAPI + Docker. No cloud calls unless you opt in.

Scaffold Engine 是一个自托管的 DAG 编排引擎,用于多步 LLM 工作流:输入一个想法后,系统会将其细化为结构化简报、做可行性评估并等待人工确认,随后通过 SearXNG 联网研究并把事实蒸馏进知识库,生成由研究/决策/行动/验证/输出等节点组成的执行图,按依赖顺序执行并逐步验证、失败自动重试最多三次,最后编译叶节点的最终输出。推理走 Ollama 本地模型,向量检索用 Milvus,状态存 Postgres,搜索用 SearXNG,采用 FastAPI + Docker,除非主动开启否则不调用云端。

☆ 收藏查看来源 ↗

OpenCode Multi-Model Orchestrator:为 OpenCode 提供多 AI 提供商切换与自动路由的零配置桥接工具

yannn14/opencode-claude-cortex-sync · Claude Pro Bridge for OpenCode 2026 - Zero Setup AI Sync

该项目自称是面向 OpenCode 的多模型编排桥接工具,宣称可自动检测并同步系统中已有的 AI 提供商凭据,在 Claude、GPT-4、Gemini 等多家服务及本地模型之间按成本、速度或能力进行请求路由,并提供并行请求、凭据保险库、用量分析与网页控制面板等能力。README 同时给出了配置文件示例、命令行调用示例、系统兼容性表与故障排查命令。需要注意,材料中的性能基准、安全性、客服支持等表述均来自项目自述,未经过独立验证;实际可用性、部署条件和合规性需以官方说明为准。

☆ 收藏查看来源 ↗