一门系统性大语言模型构建课程地址：github.com/datawhalechi

2026-07-30 19:49:50 蚁工厂科技

一门系统性大语言模型构建课程地址：github.com/datawhalechina/diy-llm

本课程参考了斯坦福著名的大模型公开课 CS336 ： Language Modeling from Scratch ，同时又为中文学习者量身打造。🛠️ 覆盖预训练数据工程、Tokenizer、Transformer、MoE、GPU 编程 (CUDA/Triton)、分布式训练、Scaling Laws、推理优化及对齐 (SFT/RLHF/GRPO)🚀 6 个渐进式作业 + 代码驱动，建立 LLM 全栈认知体系具体课程目录如图。