AI 资源库 · 已整理 64 项

LLM

查看与LLM相关的 AI 资讯、工具、Skill、工作流和开源项目。

OpenInference:面向 AI 应用的 OpenTelemetry 追踪规范与插件

Arize-ai/openinference · OpenTelemetry Instrumentation for AI Observability

OpenInference 是 OpenTelemetry 的补充规范和插件集合,用于对 AI 应用进行追踪,可观察 LLM 调用、向量库检索以及搜索引擎、API 等外部工具的使用。它提供与传输方式和文件格式无关的规范,并为多种机器学习 SDK 和框架提供多语言插桩,包括 OpenAI、LangChain、LlamaIndex、Anthropic、MistralAI、Bedrock、VertexAI、CrewAI、Haystack、DSPy、MCP 等。它原生支持 Arize Phoenix 和 Arize AX,也可接入任何兼容 OpenTelemetry 的后端。

☆ 收藏查看来源 ↗

Dossier:自托管的求职管理应用,依据个人档案生成定制简历与求职信并跟踪申请进度

AienTech/dossier · A self-hosted job search app that writes tailored resumes and cover letters from your profile.

Dossier 是一个自托管的求职管理应用,使用 TypeScript 和 Next.js 构建、以 PostgreSQL 存储数据。它把职业经历集中在一个档案中,生成基础简历;针对具体职位,读取招聘信息、展示与档案的匹配情况,并用档案中的事实起草定制简历和求职信,用户可在聊天中修改并导出 PDF。它提供求职岗位搜索与评分、创业公司职位聚合、可选的每日求职 Agent、Claude 连接器,以及可选的 Gmail 与 Google Calendar 集成,并能用看板和数据表跟踪从草稿到 offer 的全流程。AI 模型可选用 Ollama 或 LM Studio 提供的本地模型,也可选用任意 OpenAI 兼容 API、Anthropic 或 Mistral 的托管模型。

☆ 收藏查看来源 ↗

midgley:基于 LLM 多智能体的汽油价格预测框架

KoshiirRa/midgley · LLM Multi-Agent Framework forecasting wholesale (RBOB) and retail unleaded gasoline prices using Gemini 3.8, NOAA weather models, executive social media gap analysis, and global energy market feeds.

midgley 是一个用 Python 实现的多智能体时间序列预测框架,目标是预测美国批发 RBOB 汽油期货和多个都市区的零售无铅汽油价格。它把 Gemini、NOAA 天气模型、海运与内河咽喉点、行政社媒缺口、Cboe OVX、Baker Hughes 钻机数、USGS 水文与地震、炼厂检修等非结构化与物理数据,融合为特征向量,再结合 RB=F、CL=F、BZ=F 等商品期货,用 Ridge 回归与 XGBoost 建模,并通过情景模拟器、预测日志和每周复盘反馈回路迭代模型。项目还自动生成公开 Web 仪表盘,展示各地预测、准确率和数据源目录。

☆ 收藏查看来源 ↗

Revera:基于双模型校验的 GitHub 拉取请求 AI 代码审查工具

VeraTools/revera · AI code review for pull requests: a second model re-checks every finding before it posts. Any model provider; App or Action.

Revera 是一个用 Rust 编写的开源代码审查工具,使用用户自行选择的 AI 模型审查 GitHub 拉取请求。它采用调查者与验证者两阶段流程:调查者阅读变更并提出缺陷候选,验证者则在全新会话中重新从代码中独立确认每条发现,才允许发布,以减少未经验证的误报。支持 OpenAI 兼容端点、OpenAI Responses、Anthropic 和 Google Gemini,可为不同角色分别配置供应商与模型,并支持有序的备用模型。可自托管为 GitHub App(支持 @mention 触发、quick/deep 模式)、GitHub Action 或本地 CLI,并能在多次推送间跟踪发现的修复与重开。仅支持 GitHub 作为发布目标,无托管服务,需自行部署并直接向模型供应商付费;README 说明其评估样本较小,仍可能漏报或误接受错误发现,需要人工审查。

☆ 收藏查看来源 ↗

CodeCritic Review:为 GitHub Actions 中的拉取请求提供 AI 代码审查

CodeCritic-Reviews/review-action · AI-powered pull request code review for GitHub Actions. Posts findings to PRs, optional merge gates on severity.

CodeCritic Review 是一个 GitHub Actions 动作,在拉取请求 opening 或 synchronization(打开或同步)时调用 CodeCritic API 进行 AI 代码审查,并将审查摘要作为 PR 评论发布。它提供 review_id、0-100 的质量分数和 final status 输出;可按配置等待完成,或将分数用于后续步骤,并据此设置合并门槛。材料也说明这是 AI 生成结果,可能存在误报或漏报,不能替代人工审查或专业安全审计,并且不执行代码、不访问运行时行为。

☆ 收藏查看来源 ↗

minllm:从零构建可在笔记本上运行的最小 LLM 全流程教学项目

changkun/minllm · A minimal LLM pipeline that runs on a laptop, written from scratch in PyTorch and to be read: tokenizer, pretraining, inference, fine-tuning, RLHF and RLVR, with measured results and an interactive website.

minllm 是一个用 PyTorch 从零编写、以可读性为目标的最小语言模型流水线,覆盖分词器、预训练、推理、微调、RLHF 与 RLVR 等十个阶段,并附带交互式网站、测试和实测结果,可在笔记本上运行。项目仅依赖 PyTorch 实现张量与自动微分,其余组件(分词器、模型、训练循环、LoRA 微调、评估和强化学习算法)均为自写代码,不依赖 transformers、tokenizers、peft、trl 或 vllm。README 还列出了混合专家、长上下文、潜在注意力、蒸馏、数据准备、缩放定律、结构化输出、推测解码、工具调用、模型评判、安全、自训练、量化等分支主题及其测量结果。

☆ 收藏查看来源 ↗

Datadog 如何大规模定义服务关键性

Datadog 内部有数千个服务,以前对所有服务一视同仁地制定部署和可靠性标准,规模变大后成本太高,也不知道该把有限的可靠性投入放在哪里。他们用大语言模型读取几百篇最高严重级别的故障复盘文档,提取出哪些服务导致或被卷入事故,再结合 APM/RUM 错误链、生产流量和监控告警等信号,给每个服务打出高、低、未知的关键性等级和置信度。这样就能对真正关键的服务严格部署、收紧可靠性目标,对不关键的服务放宽标准,把精力集中在故障时最影响客户的地方。

文中可用工具

  • Datadog APM应用性能监控,用错误链数据判断服务是否在关键错误路径上
  • Datadog RUM真实用户监控,帮助连接入口到关键用户旅程
  • Software Catalog用于校验模型提取出的服务名是否映射到真实服务,也用于统计生产流量
  • Datadog On-Call判断服务的监控是否通知值班轮换,作为关键性信号之一
☆ 收藏查看来源 ↗

Zero to AI:涵盖 Python、深度学习、LLM、RAG 与 AI Agent 的免费 AI/ML 课程

PavanMudigonda/zero-to-ai · Free AI/ML course with 950+ Jupyter notebooks — Python, deep learning, LLMs, RAG, agents, prompt engineering, fine-tuning, MLOps

Zero to AI 是一个免费开源的 AI 与机器学习课程,提供 950 多个 Jupyter Notebook,覆盖 Python 与数据科学、机器学习数学、分词与嵌入、深度学习、LLM 与 RAG、AI Agent、提示与上下文工程、微调、MLOps、模型评测与安全等主题,并按学习路径组织为渐进式阶段,适合从零开始系统学习 AI/ML。

☆ 收藏查看来源 ↗

ai_security_guide:大语言模型与智能体安全攻防指南

yeasy/ai_security_guide · 从原理到实践,全面掌握大语言模型安全攻防之道

这是一本系统讲解大语言模型与智能体安全的中文书籍,从攻击原理、防御机制到验证方法循序渐进。内容覆盖提示注入、RAG 安全、智能体攻击面、身份与架构防御,以及治理交付等主题。书中提供邮件助手、支付预算和 RAG 轨迹三个基于 Python 标准库与合成数据的配套实验,帮助读者在保留正常效用的前提下分别验证控制措施。阅读与实验入门均在 README 和在线 GitBook 中给出。

☆ 收藏查看来源 ↗

PET-I Explanation Data:用诊断名与症状生成带检索依据的宠物犬眼病说明文与 SFT 训练数据

ho72/pet-i-explanation-data · 진단명·증상과 검색 근거로 설명형 SFT 데이터를 만드는 Python 파이프라인 | dry-run · 오류 분리 · 테스트/CI

该项目是一个 Python 数据生成流水线,用于为 PET-I 宠物犬眼病 VLM 诊断服务准备解释型训练数据。它读取 CSV 或 JSON 中给定的诊断名与症状,收集疾病相关的本地文档以及可选的 DuckDuckGo、Wikipedia 网络检索结果,并交给教师 LLM(GPT-4o)生成四个方面的说明文本,输出带有 service 说明文和 sft 对话记录的训练数据。项目本身不分析图像或判断疾病,image_path 仅用于生成输入标识。

☆ 收藏查看来源 ↗

all2md:将 PDF、Office 等 40+ 格式转换为面向 LLM 的 Markdown 并支持反向转换

thomas-villani/all2md · Convert PDF, Word, PowerPoint, HTML, email & 40+ formats to clean Markdown — and back. Built for LLMs, RAG & Python pipelines, with a built-in MCP server.

all2md 是一个 Python 库与命令行工具,基于 AST 流水线将 PDF、Word、PowerPoint、HTML、邮件、表格、电子书、代码等 40 多种格式转换为结构化、LLM 友好的 Markdown,并支持将 Markdown 反向转换为 DOCX、PDF、HTML 等富文本格式。项目面向 RAG 数据摄入、LLM 预处理、批量自动化和 Python 应用嵌入,同时提供 rcat 终端文档阅读器,以及批量转换、grep、语义搜索、diff、分块等命令行能力,并内置 MCP 服务器。

☆ 收藏查看来源 ↗

Derailment:诱导并测量大语言模型中类精神病理认知扭曲的评测工具

ictechgy/derailment · A harness for inducing and measuring psychopathology-like cognitive distortions in LLMs — emulation, not diagnosis.

Derailment 是一个分层测试工具(harness),用于在 LLM 聊天流水线中诱导并测量类似精神病理的认知扭曲。它通过操控临床概念对应的变量(注意力、显著性、效价、唤醒度),让同一标准探针脚本分别跑在经操控的流水线和健康基线上,输出 A/B 对照的评分报告。项目提供 18 个临床档案与 6 个对抗策略档案及健康基线,涵盖 ADHD、抑郁、精神分裂症、焦虑、双相、强迫症、PTSD、谵妄、痴呆样遗忘、解离性遗忘、反刍、快感缺失、分裂、渴求、疾病焦虑、惊恐、固着、被害观念等,配有 18 项基于转录文本的度量指标。支持离线伪 LLM、任意 OpenAI 兼容端点、本地 Ollama、订阅制 CLI 代理以及手动协议模式,另提供 LLM 作为评判者的评分、交互式聊天 REPL 和本地 Web GUI。项目明确声明这是模拟而非诊断。

☆ 收藏查看来源 ↗

Metrum AI Bench CLI:面向 OpenAI 兼容推理端点的可复现负载与性能基准测试工具

metrum-ai/bench-cli · Reproducible load and performance benchmarking for AI inference endpoints

Metrum AI Bench CLI 是 Apache-2.0 许可的 Rust 命令行工具,用于对 OpenAI 兼容的 LLM、VLM、ASR 和图像生成端点做负载与性能测量,可采集延迟、TTFT、ITL/TPOT、token 吞吐、RTFx 与 WER/CER 等指标。它以客户端形式运行,需要用户自备 vLLM、vLLM-Omni 等推理服务;支持通过 SUT 声明块和结果清单生成可发布的基准结果,并可从 Hugging Face 的 metrum-ai/prompt-library 提取指定 ISL/OSL 分布的提示词集。

☆ 收藏查看来源 ↗

ocra(Open-CR-Agent):开源多智能体代码审查引擎,审查本地改动与 GitHub/GitLab 拉取请求

jma49/Open-CR-Agent · ocra: open-source multi-agent code review for local changes and GitHub pull requests. Deterministic engineering selects, bundles and anchors; specialised LLM reviewers find issues, then Verify and a judge filter them. CLI and GitHub Action.

ocra 是一个开源代码审查引擎,采用「确定性工程 + 隔离 LLM 智能体」的流水线:先由代码决定审查范围、风险分级、分捆、规则匹配与评论锚点,再由隔离的 LLM 审查员(correctness、security、performance、docs、agents-md)发现问题,随后经验证器与评审模型事实核查、去重和定级后再发布。支持本地改动、GitHub PR 与 GitLab MR,可运行在自有 CI 中使用自己的模型密钥,输出带版本的 JSON 报告与 SARIF 2.1.0,并提供成本上限、失败回退链、增量复审、记忆、指标与评估工具(ocra-eval、AACR-Bench)。项目以不可信 PR 为设计前提,智能体仅具只读工具、无 shell 与网络。

☆ 收藏查看来源 ↗

PromptForge:LLM 应用提示词自动优化与持续调优编排层

ozynautetu-create/FlowForge-Optima · AdalFlow Alternative 2026: Auto-Optimize LLM Apps Without Code

PromptForge(仓库名 FlowForge-Optima)是面向将 LLM 应用当作产品运营的团队的提示词编排与持续优化层,专注于让提示词、链路与检索策略随时间自动变得可度量地更好。它提供自动提示词改写(变异、交叉、指令压缩)、内置评测与统计显著性校验、链路级联合优化(检索查询、重排阈值、工具选择提示词)、响应式控制台、多语言提示词方言与跨语言迁移评分、版本图与确定性重放、成本感知目标函数、可插拔模型适配器以及回归防火墙;支持人类审核后再晋升(promotion)。架构分为 Forge Core(优化器、评测器、版本图)、Forge Relay(模型/向量库/日志适配层)与 Forge Console(UI)。README 称 Forge Core 与 Forge Relay 可完全离线自托管,许可证为 MIT,但免责声明强调按“as-is”提供、结果随数据与模型供应商而异,需在预发环境验证。

☆ 收藏查看来源 ↗

Flashmind:Rust 编写的 AI Agent 开发框架

flashmind-labs/flashmind · AI agent framework in Rust — streaming LLM providers, 70+ tools, vector memory, multi-agent orchestration, and MCP support

Flashmind 是一个用 Rust 构建 AI Agent 应用的框架,提供流式 LLM 供应商接入、70+ 内置工具、向量记忆、多智能体编排与 MCP 支持。它通过统一的异步 API 暴露能力,内置 Ollama、OpenRouter、Anthropic、OpenAI(兼容 vLLM/LiteLLM)四类供应商,并支持自定义工具、自定义供应商、混合检索记忆与上下文自动压缩;同时提供 Jev CLI 与 OpenRouter CLI 等命令行入口。

☆ 收藏查看来源 ↗

Loupe:面向 GenAI 助手的用户行为分析工具

rsm-sdeenadayalan/wildchat-analytics · Loupe: user analytics for GenAI assistants. 3.2M real conversations, a browser-side dashboard, and a full PM case study (PRD, metrics framework, trends report, retro).

Loupe 将原始对话日志转化为产品经理所需的用户洞察,回答谁在使用助手、使用强度、使用目的以及在哪里体验失败等问题。项目基于 WildChat-4.8M 的 320 万条真实人机对话构建与演示,提供数据处理流水线、浏览器端仪表盘以及完整的 PM 案例研究(含机会简报、指标框架、趋势报告与复盘),并附带可复现的标注、分类与指标聚合脚本。

☆ 收藏查看来源 ↗

ai-engineering-resources:转型 AI 工程的学习资料与论文合集

ochiee/ai-engineering-resources · 🤖 Explore essential AI engineering resources, from research papers to tools, to help software engineers transition into AI roles effectively.

该项目收集了面向希望转型为 AI 工程师的开发者所需的研究论文与博客文章,内容涉及 AI、大语言模型(LLM)和 Transformer,涵盖从基础概念到进阶讨论的资料。仓库以资源合集形式组织,README 提供了通过 Releases 页面下载并解压浏览的说明,并提到集合会定期更新。

☆ 收藏查看来源 ↗

agent-shell:在 Emacs 中原生交互 ACP 驱动的 LLM Agent

xenodium/agent-shell · A native Emacs buffer to interact with LLM agents powered by ACP

agent-shell 是一个原生 Emacs buffer,用于与基于 ACP(Agent Client Protocol)的 LLM Agent 交互。它通过 acp.el 与各类 ACP Agent 通信,支持 Claude Agent、Codex、Gemini CLI、Goose、Grok Build、Cursor、Kimi Code CLI、Qwen Code、OpenCode 等多种后端,并拥有围绕会话管理、侧边栏、书签、通知、Org 集成等方向的多个扩展包。安装前需按各 Agent 说明配置对应的 CLI 或 ACP 适配器,并确保其可执行文件在 PATH 中。

☆ 收藏查看来源 ↗

DNAdistiller:本地过滤原始 DNA 文件,生成聚焦健康与长寿的遗传标记摘要供 LLM 分析

sherlocketransverse33/DNAdistiller · Convert raw DNA files into concise, longevity-focused genetic profiles for private analysis with LLMs. Runs locally to ensure complete data security.

DNAdistiller 是一款本地运行的 Windows 桌面工具,用于处理消费级基因检测产生的原始 DNA 文件。它通过内置的已知遗传标记数据库,将用户原始数据与标记列表进行匹配,按用户选择的新陈代谢、运动反应、长寿等健康类别筛选出相关位点,丢弃其余大量无关变异,最终导出精炼的文本文件。其核心目的是让用户仅将少量筛选后的遗传信息分享给 LLM 等 AI 工具,从而避免上传完整基因数据到云端,保护隐私。软件完全离线处理,宣称不设服务器存储基因数据。

☆ 收藏查看来源 ↗