---

🎯 项目介绍

  很多小伙伴在看完 Datawhale开源项目： self-llm 开源大模型食用指南 后，感觉意犹未尽，想要深入了解大语言模型的原理和训练过程。于是我们（Datawhale）决定推出《Happy-LLM》项目，旨在帮助大家深入理解大语言模型的原理和训练过程。

  本项目是一个系统性的 LLM 学习教程，将从 NLP 的基本研究方法出发，根据 LLM 的思路及原理逐层深入，依次为读者剖析 LLM 的架构基础和训练过程。同时，我们会结合目前 LLM 领域最主流的代码框架，演练如何亲手搭建、训练一个 LLM，期以实现授之以鱼，更授之以渔。希望大家能从这本书开始走入 LLM 的浩瀚世界，探索 LLM 的无尽可能。

✨ 你将收获什么？

• 📚 Datawhale 开源免费 完全免费的学习本项目所有内容
• 🔍 深入理解 Transformer 架构和注意力机制
• 📚 掌握 预训练语言模型的基本原理
• 🧠 了解 现有大模型的基本结构
• 🏗️ 动手实现 一个完整的 LLaMA2 模型
• ⚙️ 掌握训练 从预训练到微调的全流程
• 🚀 实战应用 RAG、Agent 等前沿技术

📖 内容导航

章节	关键内容	状态
前言	本项目的缘起、背景及读者建议	✅
第一章 NLP 基础概念	什么是 NLP、发展历程、任务分类、文本表示演进	✅
第二章 Transformer 架构	注意力机制、Encoder-Decoder、手把手搭建 Transformer	✅
第三章 预训练语言模型	Encoder-only、Encoder-Decoder、Decoder-Only 模型对比	✅
第四章 大语言模型	LLM 定义、训练策略、涌现能力分析	✅
第五章 动手搭建大模型	实现 LLaMA2、训练 Tokenizer、预训练小型 LLM	✅
第六章 大模型训练实践	预训练、有监督微调、LoRA/QLoRA 高效微调	🚧
第七章 大模型应用	模型评测、RAG 检索增强、Agent 智能体	✅
Extra Chapter LLM Blog	优秀的大模型 学习笔记/Blog ，欢迎大家来 PR ！	🚧

Extra Chapter LLM Blog

• 大模型都这么厉害了，微调0.6B的小模型有什么意义？ @不要葱姜蒜 2025-7-11

• Transformer 整体模块设计解读 @ditingdapeng 2025-7-14

• 文本数据处理详解 @蔡鋆捷 2025-7-14

• Qwen3-"VL"——超小中文多模态模型的“拼接微调”之路 @ShaohonChen 2025-7-30

• S1: Thinking Budget with vLLM @不要葱姜蒜 2025-8-03

• CDDRS: 使用细粒度语义信息指导增强的RAG检索方法 @Hongru0306 2025-8-21

• 大模型生成 Token 的方式有哪些？ @不要葱姜蒜 2025-10-17

  如果大家在学习 Happy-LLM 项目或 LLM 相关知识中有自己独到的见解、认知、实践，欢迎大家 PR 在 Extra Chapter LLM Blog 中。请遵守 Extra Chapter LLM Blog 的 PR 规范，我们会视 PR 内容的质量和价值来决定是否合并或补充到 Happy-LLM 正文中来。

模型下载

模型名称	下载地址
Happy-LLM-Chapter5-Base-215M	🤖 ModelScope
Happy-LLM-Chapter5-SFT-215M	🤖 ModelScope

ModelScope 创空间体验地址：🤖 创空间

PDF 版本下载

  本 Happy-LLM PDF 教程完全开源免费。为防止各类营销号加水印后贩卖给大模型初学者，我们特地在 PDF 文件中预先添加了不影响阅读的 Datawhale 开源标志水印，敬请谅解～

Happy-LLM PDF : https://github.com/datawhalechina/happy-llm/releases/tag/v1.0.2

PPT 资源下载

  本项目配套教学讲义PPT课件资源获取链接：https://github.com/HZAI-ZJNU/happy-llm-ppt 或可在本项目的 Releases 页面下载。

💡 如何学习

  本项目适合大学生、研究人员、LLM 爱好者。在学习本项目之前，建议具备一定的编程经验，尤其是要对 Python 编程语言有一定的了解。最好具备深度学习的相关知识，并了解 NLP 领域的相关概念和术语，以便更轻松地学习本项目。

  本项目分为两部分——基础知识与实战应用。第1章～第4章是基础知识部分，从浅入深介绍 LLM 的基本原理。其中，第1章简单介绍 NLP 的基本任务和发展，为非 NLP 领域研究者提供参考；第2章介绍 LLM 的基本架构——Transformer，包括原理介绍及代码实现，作为 LLM 最重要的理论基础；第3章整体介绍经典的 PLM，包括 Encoder-Only、Encoder-Decoder 和 Decoder-Only 三种架构，也同时介绍了当前一些主流 LLM 的架构和思想；第4章则正式进入 LLM 部分，详细介绍 LLM 的特点、能力和整体训练过程。第5章～第7章是实战应用部分，将逐步带领大家深入 LLM 的底层细节。其中，第5章将带领大家者基于 PyTorch 层亲手搭建一个 LLM，并实现预训练、有监督微调的全流程；第6章将引入目前业界主流的 LLM 训练框架 Transformers，带领学习者基于该框架快速、高效地实现 LLM 训练过程；第7章则将介绍 基于 LLM 的各种应用，补全学习者对 LLM 体系的认知，包括 LLM 的评测、检索增强生成（Retrieval-Augmented Generation，RAG）、智能体（Agent）的思想和简单实现。你可以根据个人兴趣和需求，选择性地阅读相关章节。

  在阅读本书的过程中，建议你将理论和实际相结合。LLM 是一个快速发展、注重实践的领域，我们建议你多投入实战，复现本书提供的各种代码，同时积极参加 LLM 相关的项目与比赛，真正投入到 LLM 开发的浪潮中。我们鼓励你关注 Datawhale 及其他 LLM 相关开源社区，当遇到问题时，你可以随时在本项目的 issue 区提问。

  最后，欢迎每一位读者在学习完本项目后加入到 LLM 开发者的行列。作为国内 AI 开源社区，我们希望充分聚集共创者，一起丰富这个开源 LLM 的世界，打造更多、更全面特色 LLM 的教程。星火点点，汇聚成海。我们希望成为 LLM 与普罗大众的阶梯，以自由、平等的开源精神，拥抱更恢弘而辽阔的 LLM 世界。

• 中国计算机学会(CCF) × Datawhale × GitLink开源平台联合推出AI普惠课程，免费算力报名参加 【报名地址】【GitLink 地址】

🤝 如何贡献

我们欢迎任何形式的贡献！

• 🐛 报告 Bug - 发现问题请提交 Issue
• 💡 功能建议 - 有好想法就告诉我们
• 📝 内容完善 - 帮助改进教程内容
• 🔧 代码优化 - 提交 Pull Request

🙏 致谢

核心贡献者

• 宋志学-项目负责人 (Datawhale成员)
• 邹雨衡-项目负责人 (Datawhale成员-对外经济贸易大学)
• 朱信忠-指导专家（Datawhale首席科学家-浙江师范大学杭州人工智能研究院教授）

Extra-Chapter 贡献者

• ditingdapeng（内容贡献者-云原生基础架构工程师）
• 蔡鋆捷（内容贡献者-福州大学）
• ShaohonChen （情感机器实验室研究员-西安电子科技大学在读硕士）
• 肖鸿儒, 庄健琨 (内容贡献者-同济大学)

特别感谢

• 感谢 @Sm1les 对本项目的帮助与支持
• 感谢所有为本项目做出贡献的开发者们 ❤️

星标历史

关于 Datawhale

---

📜 开源协议

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

Happy-LLM 快速上手指南

Happy-LLM 是一个由 Datawhale 推出的系统性大语言模型（LLM）学习教程，旨在帮助开发者从零开始理解 LLM 原理，并动手实现从预训练到微调的全流程。本指南将带你快速搭建环境并运行项目代码。

1. 环境准备

在开始之前，请确保你的开发环境满足以下要求：

• 操作系统: Linux (推荐), macOS, 或 Windows (WSL2)
• Python 版本: >= 3.8 (推荐 3.9 或 3.10)
• 硬件要求:
  • 学习基础原理：普通 CPU 即可
  • 复现训练代码（第 5-6 章）：建议配备 NVIDIA GPU (显存 >= 8GB)，支持 CUDA 11.7+
• 前置知识: 具备 Python 编程基础，了解深度学习及 NLP 基本概念。

安装依赖

推荐使用 conda 创建独立的虚拟环境。为方便国内用户下载，以下命令配置了清华镜像源。

# 1. 创建虚拟环境
conda create -n happy-llm python=3.9 -y
conda activate happy-llm

# 2. 配置 pip 国内镜像 (可选，加速下载)
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

# 3. 安装 PyTorch (根据你的 CUDA 版本选择，以下为通用 CPU/GPU 兼容安装示例)
# 若需纯 GPU 版本，请访问 pytorch.org 获取对应命令
pip install torch torchvision torchaudio

# 4. 克隆项目代码
git clone https://github.com/datawhalechina/happy-llm.git
cd happy-llm

# 5. 安装项目所需依赖
pip install -r requirements.txt

注意：如果 requirements.txt 未包含所有特定章节的依赖，请参考对应章节文档（如 docs/chapter5）进行额外安装，通常涉及 transformers, datasets, accelerate 等库。

2. 基本使用

本项目核心在于“动手实现”。以下以第五章：动手搭建大模型为例，演示如何运行一个简单的预训练流程。

步骤一：准备数据与代码

进入第五章的代码目录（假设结构如下，具体路径请以实际仓库为准）：

cd docs/chapter5/code

步骤二：运行 Tokenizer 训练

首先需要对文本数据进行分词处理。

python train_tokenizer.py --data_path ../data/sample_text.txt --vocab_size 5000

步骤三：运行模型预训练

使用构建好的 LLaMA2 架构代码进行小型模型的预训练。

python pretrain.py \
    --model_config config/llama2_small.json \
    --data_path ../data/sample_text.txt \
    --output_dir ./outputs/pretrain_demo \
    --epochs 1

步骤四：体验微调后的模型 (可选)

如果你已下载官方提供的微调模型权重，可以使用以下代码进行推理测试：

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

# 加载本地模型或使用 ModelScope 下载的模型路径
model_path = "./outputs/sft_demo" # 或替换为下载后的模型路径
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path, torch_dtype=torch.float16, device_map="auto")

input_text = "你好，请介绍一下大语言模型。"
inputs = tokenizer(input_text, return_tensors="pt").to(model.device)

outputs = model.generate(**inputs, max_new_tokens=50)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

3. 模型资源下载

为了节省训练时间，你可以直接下载本项目提供的预训练模型进行学习和评测：

模型名称	描述	下载地址
Happy-LLM-Base-215M	基座模型 (预训练)	ModelScope
Happy-LLM-SFT-215M	指令微调模型	ModelScope

在线体验: 无需本地部署，可直接在 ModelScope 创空间 体验 SFT 版本模型。

---

更多详细内容（如 Transformer 架构解析、RAG 应用实战等），请查阅项目根目录下的 docs 文件夹或访问 在线阅读地址。