本课程由吴师兄和卡尔-小林联合推出，涵盖大模型必备基础、Transformer、MOE、Llama、RAG、Agent、预训练、微调、强化学习等多个方面，适合对大模型开发感兴趣的学习者。
课程概述
「吴师兄-卡尔-小林coding十四周大模型训练营」是一套全面深入的大模型开发实战课程。课程内容丰富，从基础入门到高级实战，涵盖了Python基础、PyTorch深度学习、Transformer、MOE、Llama、RAG、Agent、预训练、微调、强化学习等多个方面。
课程亮点
- 实战性强：课程内容紧密围绕大模型开发实战，提供大量代码示例和项目实践。
- 体系完整：从基础到高级，逐步深入，帮助学习者构建完整的大模型知识体系。
- 专家授课：由吴师兄和卡尔-小林两位行业专家联合授课，保证课程质量。
适用场景
本课程适合以下人群：
- 对大模型开发感兴趣的学习者
- 希望提升大模型开发技能的工程师
- 从事人工智能相关工作的专业人士
📂 资源目录
📁 03-第三周：手撕Llama
📁 代码
第2课-llama3-from-scratch-Copy1_54745_1859.zip [16.1 MB]
第2课-Meta-Llama-3-8B_54745_9208.zip [972.8 KB]
手撕GQA & RoPE_54745_1901.ipynb [2.3 MB]
带kv cache的Transformer_54745_3685.ipynb [3.3 MB]
代码必看.zip [1.8 MB]
第二节_54745_2689.mp4 [1.1 GB]
第一节_54745_6610.mp4 [1.2 GB]
📁 吴师兄2025年大模型训练营录播总结
📁 课件
📁 课件
20_大模型实战课_第14节_54745_6485.pptx [10.1 MB]
10_大模型实战正课第6节_20250702011425_54745_8933.pptx [10.3 MB]
09_Deepseek公有云-本地化部署_20250703153244_54745_2079.pptx [11.1 MB]
05_大模型实战正课第2节_20250702011158_54745_5445.pptx [9.4 MB]
01_大模型实战正课第1节_20250702011024_54745_3866.pptx [9.7 MB]
课件资料.zip [1.8 MB]
21_大模型论文带读直播课第三节_15_54745_7466.pptx [7.0 MB]
20_大模型实战课_14_54745_8138.pptx [6.6 MB]
19_大模型实战课13_54745_5274.pptx [6.9 MB]
18_大模型实战正课第12节_20250703152439_54745_6446.pptx [7.5 MB]
17_大模型实战课论文带读加餐_20250703153347_54745_8885.pptx [7.5 MB]
16_大模型实战正课第10节_20250703153039_54745_4871.pptx [6.6 MB]
15_大模型实战正课第9节agent实战课_20250702011609_54745_2477.pptx [7.9 MB]
14_大模型实战正课第8节之RAG实战_20250703153523_54745_4018.pptx [5.4 MB]
13_大模型实战正课第8节RAG实战课_20250702011515_54745_9312.pptx [7.8 MB]
12_大模型实战正课第7节_20250702011451_54745_2173.pptx [7.2 MB]
11_大模型实战正课论文加餐_20250703153318_54745_7791.pptx [5.2 MB]
08_大模型实战正课第5节_20250702011316_54745_7519.pptx [7.0 MB]
07_大模型实战正课第4节_20250702011252_54745_8568.pptx [8.0 MB]
06_大模型实战正课第3节_20250702011227_54745_2616.pptx [5.5 MB]
04_神经网络PyTorch光速入门_20250703153214_54745_5608.pptx [4.3 MB]
03_大模型实战课程之基础速通_20250703153128_54745_6609.pptx [1.7 MB]
02_大模型实战课程第0节公开课_20250703153100_54745_1908.pptx [2.8 MB]
21_大模型论文带读直播课第三节_54745_3878.mp4 [1.1 GB]
20_大模型实战课_54745_3975.mp4 [759.6 MB]
19_大模型实战课第13节_54745_4811.mp4 [1.2 GB]
18_大模型实战正课第12节_54745_5896.mp4 [907.6 MB]
17_大模型实战课论文带读加餐_54745_5203.mp4 [1.1 GB]
16_大模型实战正课第10节_54745_9502.mp4 [1.1 GB]
15_大模型实战正课第9节agent实战课_54745_4556.mp4 [1.0 GB]
13_大模型实战正课第8节RAG实战课_54745_5530.mp4 [1.6 GB]
14_大模型实战正课第8节之RAG实战_54745_7333.mp4 [294.5 MB]
12_大模型实战正课第7节_54745_9631.mp4 [1.4 GB]
10_大模型实战正课第6节_54745_2482.mp4 [1.3 GB]
11_大模型实战正课论文加餐_54745_9302.mp4 [1.1 GB]
09_Deepseek公有云-本地化部署_54745_9849.mp4 [566.0 MB]
08_大模型实战正课第5节_54745_5294.mp4 [1004.1 MB]
07_大模型实战正课第4节_54745_5403.mp4 [1023.5 MB]
06_大模型实战正课第3节_54745_6833.mp4 [825.1 MB]
04_神经网络PyTorch光速入门_54745_2577.mp4 [728.5 MB]
05_大模型实战正课第2节_54745_4532.mp4 [1.2 GB]
吴师兄2025年大模型训练营录播总结必看.png [493.5 KB]
03_大模型实战课程之基础速通_54745_2704.mp4 [440.1 MB]
02_大模型实战课程第0节公开课_54745_7376.mp4 [385.0 MB]
01_大模型实战正课第1节_54745_3537.mp4 [1.2 GB]
📁 01-第一周：大模型必备基础速通
📁 python基础
Python入门（六）：面向对象编程基础_54745_6504.mp4 [792.0 MB]
Python入门（四）：循环语句_54745_5742.mp4 [638.3 MB]
Python入门（二）：列表、元组_54745_7863.mp4 [739.7 MB]
Python入门（五）：集合与字典、异常处理_54745_6631.mp4 [362.4 MB]
Python入门（三）：函数、条件语句_54745_7890.mp4 [738.8 MB]
Python入门（一）：变量、简单数据结构、输入输出_54745_4800.mp4 [611.6 MB]
python基础资料.zip [1.8 MB]
1_第一周第二次直播_54745_7020.mp4 [728.5 MB]
1_python_54745_2957.mp4 [440.1 MB]
2_【基础篇】如何下载模型，数据集_54745_1487.pdf [3.3 MB]
大模型数学基础 (1_54745_6705.ipynb [648.0 KB]
1_【基础篇】autodl使用_54745_8785.pdf [3.8 MB]
01-第一周：大模型必备基础速通必看.zip [1.8 MB]
📁 10-第十周RLHF-实战-PPO-DPO-GRPO
DPO实战_54745_1872.zip [7.2 GB]
PPO实战_54745_5539.zip [2.2 GB]
第十周-强化学习_54745_5832.ipynb [32.5 MB]
PPO手撕_54745_7798.zip [12.8 MB]
rl_图解_54745_3394.drawio [1.5 MB]
Qwen3_(4B)_GRPO_54745_5942.ipynb [891.4 KB]
PPO实战项目-基于Qwen的情感对齐微调_54745_6255.zip [88.7 KB]
grpo_54745_2199.ipynb [4.8 MB]
DPO手撕_54745_9686.zip [40.0 KB]
DPO实战项目-基于Pytorch的原生实现_54745_4323.zip [137.4 KB]
10-第十周RLHF-实战-PPO-DPO-GRPO说明.zip [1.8 MB]
📁 11-第十一周：多模态大模型实战—— 模态融合与模型训练
Multimodel_54745_2056.zip [4.3 GB]
多模态配套材料_54745_4924.zip [21.7 MB]
qwen2_5_vl微调实战_54745_4280.zip [29.0 MB]
11-第十一周：多模态大模型实战—— 模态融合与模型训练必看.png [493.5 KB]
📁 08-第八周：大模型预训练实战
nanoqwen_54745_2818.zip [728.2 MB]
预训练课件_54745_1592.ipynb [16.8 MB]
预训练-3】LLaMA 3 预训练全流程技术解析_54745_6412.pdf [940.8 KB]
预训练-2】Qwen3 预训练技术流程详解_54745_9319.pdf [1.1 MB]
预训练-1】DeepSeekV3 预训练全流程_54745_2695.pdf [1.1 MB]
08-第八周：大模型预训练实战必看.png [493.5 KB]
📁 07-第七周：Agent 智能体：让 LLM 自主行动
第七周第一次_54745_1335.mp4 [1.0 GB]
SalesPilot-main_54745_8187.rar [352.6 MB]
media-mcp_54745_6536.zip [253.3 MB]
mcp-stage2_54745_6275.zip [8.2 MB]
mcp-stage3_54745_8180.zip [5.9 MB]
Agent实战-第7天】Function Call微调指南_54745_8560.pdf [1.6 MB]
Agent实战-第4天】实战项目完整Readme_54745_2014.pdf [5.1 MB]
Agent实战-第6天】Functioncalling优化策略_54745_5738.pdf [1.3 MB]
Agent实战-第5天】Agent简历怎么写_54745_4657.docx [18.5 KB]
Agent实战-第1天】规划模块_54745_4499.pdf [1.5 MB]
Agent实战-第3天】代码结构详细解析_54745_4237.pdf [2.6 MB]
Agent实战-第2天】前后端服务_54745_2710.pdf [786.1 KB]
Agent-Notebook_54745_7929.zip [2.4 MB]
07-第七周：Agent 智能体：让 LLM 自主行动必看.png [493.5 KB]
📁 06-第六周：RAG (Part 2)：RAG工业级项目实战
FinInsRAG-V3_54745_4766.zip [547.7 MB]
RAG实战-第5天】核心代码详解_54745_3952.pdf [15.2 MB]
RAG综述_54745_4702.pdf [1.6 MB]
RAG实战-第9天】实战项目的简历准备、面试、运用（在线召回模块_54745_4257.pdf [3.7 MB]
RAG实战-第8天】实战项目的简历准备、面试、运用（离线解析模块_54745_2377.pdf [4.6 MB]
RAG简历_54745_9314.pdf [219.5 KB]
RAG实战-第7天】如何写一个有深度RAG项目经历_54745_2817.pdf [1.3 MB]
RAG实战-课件_54745_1554.pdf [4.6 MB]
RAG实战-第6天】RAG评估_54745_2118.docx [202.8 KB]
RAG实战-第4天】代码结构详细解析_54745_6742.pdf [3.8 MB]
RAG实战-第1天】RAG流程详解与优化方案：案例+代码+图解_54745_7357.pdf [7.2 MB]
RAG实战-第2天】通用型RAG系统的结构性优化思路_54745_4623.pdf [598.1 KB]
RAG实战-12】记忆模块怎么做_54745_6457.pdf [1.4 MB]
RAG实战-第3天】前后端服务运行_54745_6479.pdf [1.2 MB]
RAG实战-第10天】如何提升首字响应速度_54745_9023.pdf [557.8 KB]
RAG实战-13】 系统评估测试集构建指南_54745_7519.pdf [737.7 KB]
RAG实战-11】Embeding model和Rerank model怎么选_54745_6486.pdf [523.8 KB]
06-第六周：RAG (Part 2)：RAG工业级项目实战资料.zip [1.8 MB]
📁 05-第五周：RAG (Part 1)：检索增强生成 - 原理与核心组件
第五周第二次直播_54745_3858.mp4 [1.4 GB]
提示词工程+Functioncall+RAG_54745_9191.zip [7.7 MB]
📁 04-第四周：大模型部署、压测、应用开发实战
01_大模型实战正课第1节_54745_1164.mp4 [1.2 GB]
深学AI_54745_4128.zip [106.7 MB]
应用开发实战-2】API调用+LLM部署并暴露接口服务_54745_2021.pdf [23.1 MB]
拓展篇】万字详解Qwen系列_54745_2023.pdf [2.7 MB]
面试真题】大模型算法面试1000题_54745_5316.pdf [3.8 MB]
提示词工程_54745_8902.zip [2.9 MB]
论文精读-3】Deepseek-R1论文精读_54745_9037.pdf [4.5 MB]
拓展篇】万字详解Deepseek系列_54745_4134.pdf [5.8 MB]
应用开发实战-1】FastAPI_54745_7803.pdf [4.6 MB]
拓展篇】GPT系列_54745_2167.pdf [2.7 MB]
应用开发实战-4】Qwen 模型 Tool Call 调用机制解析（旅行助手示例_54745_5969.pdf [1.7 MB]
应用开发实战-3】提示词工程_54745_2816.pdf [1.1 MB]
基础篇】解码采样策略_54745_4691.pdf [2.2 MB]
应用开发实战-6】项目运行_54745_9212.pdf [473.6 KB]
应用开发实战-5】如何生成稳定的JSON格式_54745_4632.pdf [499.4 KB]
大模型压测_54745_3771.pdf [694.1 KB]
压测_54745_2676.py [6.7 KB]
fastapi_54745_5671.zip [32.5 KB]
fastapi+llm_54745_4702.zip [10.6 KB]
02_Function_Call_54745_5404.ipynb [222.8 KB]
04-第四周：大模型部署、压测、应用开发实战资料.zip [1.8 MB]
📁 14-第十四周：面试专项训练
面试真题】大模型算法面试1000题_54745_3783.pdf [3.8 MB]
14-第十四周：面试专项训练必看.png [493.5 KB]
📁 13-第十三周：推理加速实战 —— 量化、蒸馏与高效注意力
13-第十三周：推理加速实战 —— 量化、蒸馏与高效注意力资料.png [493.5 KB]
📁 12-第十二周：手撕分布式训练实战 —— 并行策略与工程落地
第11周-分布式_54745_6199.zip [4.8 MB]
手撕分布式训练_54745_7134.zip [15.9 KB]
📁 02-第二周：手撕Transformer&MOE
第二周第一次直播_54745_6946.mp4 [1.2 GB]
01_大模型实战正课第1节_54745_6983.mp4 [1.2 GB]
第1课-Transformer_54745_3707.rar [9.4 MB]
02-第二周：手撕Transformer&MOE文档.zip [1.8 MB]
学透Transformer & MOE_54745_8542.rar [6.6 MB]
📁 09-第九周：大模型微调实战
手撕微调（原理篇_54745_1809.zip [13.5 KB]
手撕微调（实战篇_54745_9062.zip [15.9 KB]
微调_54745_4326.pdf [2.6 MB]
手撕微调_54745_4125.zip [15.9 KB]
微调9】如何评估微调的结果_54745_1807.pdf [953.7 KB]
微调8】如何利用 “token _ LoRA-param” 曲线找到 “拐点” 并指导下一轮微调_54745_2877.pdf [647.6 KB]
微调7】不同任务LoRA微调需要多少数据_54745_5716.pdf [648.5 KB]
微调6】如何构造领域微调数据集_54745_8163.pdf [1.3 MB]
微调5】为什么要微调_54745_3493.pdf [858.8 KB]
微调4】SFT阶段如何缓解灾难性遗忘_54745_7604.docx [11.3 KB]
微调3】一文搞懂微调数据格式怎么构造_54745_4410.pdf [647.9 KB]
微调2】显存估计_54745_2091.pdf [1.6 MB]
微调1】微调数据集模版_54745_4144.pdf [4.3 MB]
DeepSeek R1 Distilled Llama 8B微调实战_54745_5908.ipynb [29.5 KB]
09-第九周：大模型微调实战资料.zip [1.8 MB]
📁 0.部分压缩包 解压码：289286