学习与研究AI 资源

AI Engineering: Deep Dives：从零构建 LLM 应用的动手课程合集

alexvervloet/ai-engineering-deep-dive · A from-scratch, build-it-yourself course series for AI engineering. 17 hands-on repos across the API call, RAG, evals, agents, injection, and production. Offline-first, provider-agnostic, no frameworks.

GitHub原文发布未知首次收录 2026-10-06上架 2026-10-06 07:02

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

这是一套从零开始、动手构建的 AI 工程课程系列，包含 17（README 中亦称 25）个独立仓库级深潜教程，覆盖 API 调用、提示工程、RAG、评测、Agent、提示注入与防护、生产化等主题。每个概念对应可运行的小型 Python 脚本，多数首个可运行示例无需 API Key，强调离线优先、供应商无关、不依赖框架，仅需基础 Python。另含 bonus 深潜（Agent Harness、上下文工程、AI 数据工程、GenAI 安全、多模态、实时语音、ML 基础、微调、MCP、本地模型、推理平台、可观测性、架构、测试与交付、结构化数据、专业工具）以及 TypeScript 配套版本。

# RAG # ai-guardrails # openai-api # llm-agent # ai-education

核心能力与快速开始

★ 2 · Python

能做什么: 提供成体系的动手课程，每个深潜是一个独立仓库，概念以小型可运行 Python 脚本呈现，每节以可运行内容收尾。核心路径按顺序覆盖：OpenAI API、Claude API、提示工程、RAG、评测、Agent、提示注入与防护、生产化。附加深潜覆盖 Agent Harness、上下文工程、AI 数据工程、GenAI 安全、多模态、实时语音、ML 基础、微调、MCP、本地模型、推理平台、可观测性、架构、测试与交付、结构化数据与 AI、专业工具（LiteLLM、Instructor、LlamaIndex、DeepEval、LangGraph、Llama Guard、Langfuse 等，README 称通过同套评测进行对比实验）。配有 HOW-LLMS-WORK、CHOOSING、MODELS、GLOSSARY、CAREERS、SAFETY、RESPONSIBILITY、GOVERNANCE、INCIDENTS、AI-UX、SECRETS 等文档。另提供 TypeScript 版本，含 13 个可运行示例，其中 12 个无需 API Key。
适用场景: 适合想从零理解 LLM 应用构建全流程的开发者按序学习；适合希望理解 API 调用、RAG、评测、Agent 循环、提示注入防护、生产化等具体环节的实践练习；适合团队用于理解各深潜对应岗位描述中的能力；也适合想用同一套评测对比是否采用某框架的读者。
项目形态: 资料合集
部署方式: 每个仓库自包含，设置方式一致：创建 Python 虚拟环境、安装 requirements.txt、可选复制 .env.example、运行 check_setup.py 校验环境。API Key 不放入 .env，建议存于操作系统钥匙串并通过 secrun 按命令注入；离线示例无需包装。README 表示整套内容可在容器中运行，离线路径可在断网下运行。
主要依赖: 假定仅需基础 Python。check_setup.py 会检查 Python 版本、依赖包、供应商和密钥。依赖使用版本范围而非哈希锁定，实际信任链条还包括 PyPI 和所配置的模型供应商。
使用限制: README 提到仓库数量在不同位置表述为 17 和 25（含 submodule 共 25 个深潜），材料本身存在不一致。未说明具体硬件需求、API 成本、模型定价细节与各类限制；本地模型、推理平台、微调等 bonus 深潜的实际运行条件未在摘录中展开。
许可证: MIT
最近推送: 2026-10-05 09:32

项目文档核对 README 依据 ↗

资料检查：2026-10-06 07:00 · 卡片整理：2026-10-06 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

相似资源

llm-for-zotero：在 Zotero 文献库内使用的 LLM 研究代理插件

llm-for-zotero 是一个将大语言模型引入 Zotero 阅读器的开源研究代理系统，让用户无需离开文献库即可与 PDF、选中文本、图表和上传文档对话，获取带引用可跳转的答案，比较多个文献，并把回答、对话记录和研究笔记保存到 Zotero 笔记或本地 Markdown 目录（如 Obsidian、Logseq）。它支持标准 API 提供商、本地 OpenAI 兼容模型、ChatGPT WebChat、Codex App-Server 和 Claude Code 等多种后端，并提供 Agent Mode（beta）用于库级读取、搜索、打标、元数据管理、导入与整理，以及基于 Tavily 的联网搜索。

IntelligenceDocumentSystem：基于 RAG 的多语言文档问答助手，回答附带可追溯引用

该项目是一个面向个人文档的 RAG 问答助手，支持上传 PDF、TXT、Markdown 并以印尼语提问，答案附带可点击溯源到具体 chunk 的引用。检索上下文不足时系统明确拒答，或在使用通用知识模式时给出明确标注、不加引用的回答。还提供按文档隔离的私有会话、跨文档检索、检索参数调整（Top K、相似度阈值）、检索质量评估（precision、hit rate、正确拒答）、延迟与提问日志分析，以及 RAGAS 评测选项。技术栈为 Next.js/React/TypeScript 前端与 FastAPI、ChromaDB、SQLite 后端，LLM 使用 Groq，并有 Ollama 回退。

SyntaxRAG：面向 AI 代理的本地代码检索 MCP 引擎

SyntaxRAG（SYNRAG）是一个本地代码搜索 MCP 引擎，通过 Tree-sitter 按函数、类、类型等 AST 结构切分代码，在 CPU 上用 FlashRank（TinyBERT）对 BM25 候选重排序，并构建依赖影响图。它提供搜索、文件大纲、仓库地图、影响范围分析、测试定位及受控编辑等工具，以减少 AI 代理定位代码时的 token 消耗；附带安装脚本、CLI、可选的变更监视服务和 Gemini 相关可选功能。

research-paper-rag-qa：学术 PDF 语义检索问答工具

该项目是一个面向学术论文 PDF 的检索增强（RAG）语义搜索工具：逐页解析 PDF，将文本切分为带重叠的片段，使用 sentence-transformers/all-MiniLM-L6-v2 生成归一化向量并存入 FAISS 索引，再通过 Streamlit 界面用自然语言查询返回最相关的段落及来源文件与页码。项目刻意只做检索、不做答案生成，以保证每条结果可追溯到原文页面、避免内容幻觉；仓库包含作者硕士阶段的示例 PDF。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。