AI 资源库 · 已整理 3 项
查看与本地大模型相关的 AI 资讯、工具、Skill、工作流和开源项目。
mcp-tool-shop-org/reasoning-dataset-lab · A map-first lab for datasets of puzzles, quizzes and verification items, where code proves the answer key before any model words the item.
reasoning-dataset-lab（命令行工具 rdlab）是一个 map-first 实验室，用于构建谜题、测验与验证项数据集。它先用代码构造形式化状态并由求解器证明答案键，再由本地模型将条目措辞，并记录每个条目的来源。它提供地图校验与指纹、模型列出与多样性报告以及评委比拼（bake-off）；后者包含密封测试部分、表面特征探测以及独立评分步骤。项目为 Python 包，要求 Python 3.13 及以上，评委运行需 GPU 与经许可的本地模型，版本为 alpha。
kr4ckhe4d/local-llm-benchmarks · Measured llama.cpp benchmarks on AMD Radeon RDNA4 with ROCm: RX 9070 XT + Radeon AI PRO R9700 (48 GB). Qwen3.8, Gemma 4, GLM, gpt-oss; GGUF quant quality (KLD), MTP speculative decoding, 128K context, Claude Code with local models.
这是一个实测记录型仓库，汇集了在 AMD Radeon RDNA4 显卡（RX 9070 XT 与 Radeon AI PRO R9700，合计约 48.9 GB 显存）上运行 llama.cpp + ROCm 7.2 的基准数据。内容包括各模型的吞吐量、显存适配、GGUF 量化质量（与 BF16 的 KL 散度对比）、MTP 推测解码、128K 长上下文实测，以及在本地模型上运行 Claude Code、aider、Cline、Pi 等编码代理的实践记录。还附带了 ROCm 与 Vulkan 后端的对比、llama.cpp 版本升级前后的差异，以及脚本和原始日志。
Solutions-of-Security/Agat · Run AI agents and visual workflows on your own infrastructure, with local LLMs, human approvals, and execution history.
Agat 是一个自托管平台，将模型、计算节点和任务整合到统一的 Web 界面中。它支持通过 Ollama、LM Studio、vLLM 或 llama.cpp 在本地运行模型，提供智能体目录、可视化流程编辑器、13 个流程模板、人工审批、执行日志、本地 RAG、MCP 工具与 A2A 任务交互，并支持 SQLite 本地运行、Docker Compose 和 Kubernetes 部署。当前版本为 1.7.0 公开预览版，RAG/embeddings、MCP/A2A、OIDC、PostgreSQL、Temporal 等能力需要额外配置。