你是否也经历过:刷了几十篇 RAG 教程却不知该先学 chunk 还是 rerank?看了无数 Agent 概念图,但写不出一个带状态恢复的工具调用流程?面试官问“你们 RAG 的召回率怎么评估”,你只能含糊说“用了 Chroma”……
《LLM-Master》不是又一个“大模型速成课”,而是一份由一线工程师打磨的、面向真实工程场景的**程序员级 LLM 全栈学习路线图**。它不讲玄学原理,只解决你在开发中真正卡壳的问题:API 调用如何防超时?RAG 结果为什么总漏引文档?Agent 失败后怎么自动回滚?模型部署时 P99 延迟突然飙升怎么办?
核心功能
- 阶段式学习路径闭环设计:严格按知识依赖组织为 6 个递进阶段(全局认知 → 模型调用 → RAG → Agent → 生产工程 → 原理与面试),避免“学了 Transformer 却不会写 Prompt”的断层问题,每阶段明确交付标准和完成标志。
- RAG 全链路可评估实现:覆盖文档解析、语义切片、混合检索(关键词+向量)、两阶段 rerank、答案引用溯源、离线评测集构建及 Bad Case 分类分析,不止教“怎么做”,更教“怎么证明做得好”。
- Agent 工程化落地指南:超越 ReAct 模板,深入工具契约设计、状态机管理、Checkpoint 持久化、预算控制(Token/次数/耗时)、失败自动重试与降级策略,并提供多 Agent 协作的 DAG 编排与上下文治理方案。
- 生产级部署实战手册:详解 vLLM/SGLang 部署选型对比、KV Cache 优化原理、PagedAttention 内存管理、AWQ/EXL2 量化实操、压测指标定义(TTFT/TPOT/Goodput)、限流熔断配置及容量规划报告模板。
- Transformer 逐层手写实践:从 Q/K/V 矩阵运算、Softmax 数值稳定性处理、RoPE 位置编码实现,到 LayerNorm 梯度计算、FFN 门控机制,配套可运行的 Tiny Transformer 代码,把黑盒变成白盒。
- AI 编程工作流整合:系统梳理 Claude Code、MCP(Model Calling Protocol)、Agent CLI、Skills 封装、Hooks 注入等新型开发范式,教你用 AI 工具链重构日常开发流程,而非仅当“聊天机器人”用。
- 大厂面试真题闭环训练:覆盖字节、阿里、腾讯等企业高频题(如“RAG 中 embedding 模型换掉后效果下降,如何归因?”、“Agent 的记忆该存在哪?Redis 还是向量库?”),提供回答框架、技术取舍逻辑和项目表达话术。
- 四个简历级项目脚手架:每个项目(AI 业务助手、企业知识库、工具型 Agent、生产级 AI 服务)均定义最低交付标准,强调“能回答为什么选这个方案、效果如何度量、故障如何恢复、成本如何控制”,直击技术面试核心考察点。
技术亮点
- 工程优先的知识组织逻辑:拒绝概念堆砌,所有内容围绕“API 调用→数据处理→检索→生成→评估→部署→监控”真实链路展开,例如在 RAG 专题中,将“chunk size 选择”与“长文本召回率衰减曲线”“embedding 模型 token 限制”联动分析,而非孤立讲解参数。
- 原理与代码强耦合:Transformer 专题不仅讲 Attention 公式,更提供 NumPy 版最小实现,包含梯度检查、数值溢出防护、缓存复用等细节;部署专题则对比 vLLM 的 PagedAttention 与 HuggingFace TGI 的连续 batching 内存占用差异,附压测命令和 GC 日志分析片段。
- 前沿工程实践深度覆盖:同步跟进 Agent Harness 测试框架、Context Engineering(上下文压缩/路由/分层)、MCP 协议规范、多 Agent 通信治理等 2024 年新趋势,在 Multi-Agent 专题中给出 Planner/Worker/Reviewer 角色拆分的真实架构图与消息序列图。
- 评估驱动的学习验证机制:每个阶段设置可量化的完成标志,如“RAG 阶段需输出评测集基线报告(Recall@5 ≥ 82%、引用准确率 ≥ 95%)”“Agent 阶段需提供 Trace 日志样本及失败恢复成功率统计”,倒逼学习成果落地。
适合哪些人用
本仓库专为有**工程背景的开发者**设计:Python/Java/Go/C++ 或前端工程师,熟悉 HTTP、数据库、缓存等基础组件,希望系统性转向大模型应用开发、AI 后端或 Agent 工程师岗位。
真实场景案例:
• 后端工程师小王:正在为公司客服系统接入大模型,已调通 OpenAI API,但用户问“上个月订单退款进度”时总答非所问。他通过《LLM-Master》的 RAG 专题,重构了订单文档解析流程,引入混合检索+rerank,并建立退款状态专用评测集,将关键信息召回率从 63% 提升至 91%;
• 前端工程师小李:想用 LLM 做智能代码助手,但反复调试 Function Calling 却无法稳定触发工具。她跟随《Agent 工程》路线,重新设计工具契约(增加 required_fields 和 timeout 字段),加入执行状态追踪 UI,并实现超时自动 fallback 到通用问答,最终通过内部灰度测试。
快速上手
无需安装任何依赖,纯文档学习!直接访问 GitHub 仓库:
👉 https://github.com/youngyangyang04/llm-master
推荐入门路径:
1. 先读 开发者入门路线(beginner.md),建立技术全景认知;
2. 根据当前水平选择对应阶段,如已会调 API,直接进入 应用开发路线(application.md);
3. 重点精读各专题的「阶段项目」要求,对照 topics 目录中的实操指南,边学边做。
同类对比 / 注意事项
- vs 零散博客/视频教程:多数资源聚焦单点(如“10 分钟学会 LangChain RAG”),缺乏知识依赖关系和工程上下文。《LLM-Master》强制阶段推进,且每个知识点标注“前置依赖”(如学 Rerank 前必须掌握 Embedding 评估指标),避免学习迷航。
- vs 学术论文/课程:不追求理论完备性,而是提炼工业界高频问题(如“为什么用 BGE 而非 text-embedding-ada-002?”“LoRA 微调时 rank=8 和 rank=16 在 GPU 显存占用上差多少?”),答案均来自真实项目踩坑经验。
- 注意事项:本仓库为学习路线图,非开箱即用 SDK;部分代码示例需自行补充 API Key;对数学基础要求不高,但需具备 Python 基础(如理解 async/await、context manager);建议搭配官方文档(如 vLLM 文档、LlamaIndex API 手册)交叉阅读。
项目信息
youngyangyang04/llm-master
GitHub
大模型(LLM)全栈学习路线与中文教程🔥:覆盖 Prompt Engineering、RAG、AI Agent、MCP、微调、模型部署、Transformer、AI 编程与大厂面试,从入门到生产实践。
669
Stars
63
Forks
Unknown
MIT
编程语言:文档为主(含 Python/Shell 代码示例)| Star 数:669| 开源协议:MIT| GitHub 项目地址
如果你厌倦了在海量碎片信息中迷失方向,渴望一份真正由工程师写给工程师的、能带你从“调通 API”走到“独立交付 AI 服务”的硬核学习地图——《LLM-Master》就是你现在最该星标的仓库。


