课程简介
本课程由贪心科技精心打造，专注于大模型微调技术的实战应用。课程内容丰富，从基础理论到实际操作，为学员提供了一套完整的实战教程。
课程亮点
- 深入浅出讲解大模型微调原理
- 提供多个实战案例，涵盖不同应用场景
- 附带完整源码，方便学员实践操作
适用人群
本课程适合对深度学习有基础了解，希望提升大模型微调技能的技术人员。
📂 资源目录
📁 07 第七周
📁 📁 01 第六节 2024年3月31日
📁 📁 01 Distributed Computing、Flash Attention
04 Flash Attention.mp4 [403.4 MB]
02 Distributed Computing.mp4 [328.6 MB]
03 ZeRO-123 and FSDP.mp4 [459.6 MB]
01 GPU时间计算.mp4 [411.1 MB]
📁 01 第一周
📁 📁 01 第一节 2024年1月21日
📁 📁 01 开营+大模型介绍、Transformer
05 Self-Attention.mp4 [329.3 MB]
04 Transformer的应用.mp4 [183.1 MB]
03 大模型是如何炼成的.mp4 [88.3 MB]
01 开营.mp4 [168.9 MB]
02 大模型爆发式发展.mp4 [240.5 MB]
📁 06 第六周
📁 📁 01 助教补充课 2024年3月24日
📁 📁 01 llama介绍&运行&量化&部署&微调
02 llama介绍&运行&量化&部署&微调02.mp4 [927.3 MB]
01 llama介绍&运行&量化&部署&微调01.mp4 [566.4 MB]
📁 09 第九周
📁 📁 01 第七节 2024年4月14日
📁 📁 01 强化学习
02 强化学习.mp4 [282.1 MB]
04 The goal of Agent.mp4 [542.5 MB]
01 RLHF介绍.mp4 [687.3 MB]
03 Multi-armed Bandit.mp4 [343.9 MB]
📁 10 第十周
📁 📁 01 第七节补充课 2024年4月17日
📁 📁 01 Optimal Policy、Intro to Monte Carlo
02 Intro to Monte Carlo.mp4 [229.4 MB]
01 Optimal Policy.mp4 [434.4 MB]
📁 04 第四周
📁 📁 01 第四节 2024年3月3日
📁 📁 01 Alpaca、AdaLoRA、QLoRA
02 AdaLoRA.mp4 [464.6 MB]
01 Alpaca.mp4 [788.3 MB]
03 QLoRA.mp4 [372.4 MB]
📁 03 第三周
📁 📁 01 第三节 2024年2月25日
📁 📁 01 大模型微调概览 Lora微调
03 Lora微调-从零实现Lora到Roberta.mp4 [437.6 MB]
01 大模型微调概览.mp4 [283.1 MB]
02 Lora微调-Lora算法.mp4 [302.0 MB]
📁 02 第二周
📁 📁 01 第二节 2024年1月28日
📁 📁 01 Transformer、Encoder、Advanced
04 Advanced Topics.mp4 [190.1 MB]
03 Encoder-based and Decoder Based LLMs.mp4 [80.9 MB]
01 Transformer Part1.mp4 [264.4 MB]
02 Transformer Part2.mp4 [289.4 MB]
📁 05 第五周
📁 📁 01 第五节 2024年3月17日
📁 📁 01 Prefix Tuning、Quantization
04 Quantization Methos for LLM.mp4 [83.6 MB]
01 Prefix Tuning.mp4 [354.1 MB]
02 Quantization01.mp4 [194.5 MB]
03 Quantization02.mp4 [277.5 MB]
📁 08 第八周
📁 📁 01 第六节补充课
📁 📁 01 Flash Attention cont、微调Mistral 7B
02 Self-Attention的分块计算.mp4 [557.5 MB]
03 分块模式中计算O.mp4 [285.9 MB]
01 Flash Attention cont.mp4 [123.5 MB]
04 Mixture of Expert Model.mp4 [78.0 MB]
05 微调Mistral 7B.mp4 [730.5 MB]
资料.zip [196.4 MB]