LLM Zoomcamp：LLM 实战应用免费课程

在10周内，学习如何构建能够基于您的知识库回答问题的AI系统。通过实践掌握LLM、RAG、向量检索、评估、监控等核心技术。

加入Slack • #course-llm-zoomcamp频道 • Telegram公告 • 课程播放列表 • 常见问题解答

如何参加LLM Zoomcamp

2025届

• 开课日期：2025年6月2日，17:00 CET
• 报名链接：Sign up

2025届学员须知：

• 订阅我们的Google日历
• 查看2025届文件夹，及时获取最新信息
• 观看关于课程的直播问答
• 观看课程开播直播
• 将2025届课程播放列表收藏至YouTube
• 在GitHub上导航至相应模块，查看课程内容
• 把这门课程分享给朋友吧！

自学模式

您可以按照自己的节奏学习：

1. 观看课程视频。
2. 完成作业。
3. 开展项目，并在Slack中分享以获得反馈。

课程大纲

课前工作坊

• 构建搜索引擎 (代码)

模块

模块1：LLM与RAG简介

• LLM与检索增强生成（RAG）基础
• OpenAI API及使用Elasticsearch进行文本搜索

模块2：向量检索

• 向量检索与嵌入
• 高效索引与数据检索
• 使用Qdrant作为向量数据库

工作坊：开源数据摄取

• 使用dlt为RAG摄取数据

模块A：智能体（附加模块）

• 为RAG添加智能体功能
• 函数调用

模块3：评估

• 搜索评估
• 在线与离线评估
• 使用LLM作为评判者

模块4：监控

• 在线评估技术
• 通过仪表盘监控用户反馈

模块5：最佳实践

• 混合搜索
• 文档重排序

模块6：附加——端到端项目

• 构建一个基于LLM的健身助手

结业项目

将所学知识付诸实践

授课教师

• Alexey Grigorev
• Srilakshmi Chavali
• Timur Kamaliev

社区与支持

在Slack寻求帮助

加入DataTalks.Club Slack中的#course-llm-zoomcamp频道，参与讨论、解决问题并建立联系。

为保持讨论有序：

• 发布问题时请遵循提问指南。
• 请阅读社区准则。

赞助商与支持者

特别感谢我们的课程赞助商，是他们让这一项目得以实现！

如果您有兴趣支持我们的社区，请联系alexey@datatalks.club。

关于DataTalks.Club

DataTalks.Club 是一个全球性的数据爱好者在线社区。这里是一个探讨数据、学习知识、分享经验、答疑解惑以及互相支持的平台。

官网 • 加入Slack社区 • 邮件通讯 • 即将举行的活动 • Google日历 • YouTube • GitHub • LinkedIn • Twitter

DataTalks.Club的大部分活动都在Slack上进行。我们会在那里发布更新，并讨论数据相关的各种话题、职业发展等问题。

在DataTalksClub，我们组织线上活动、社区互动和免费课程。您可以通过DataTalksClub社区导航了解更多关于我们工作的信息。

LLM Zoomcamp 快速上手指南

LLM Zoomcamp 是一门免费的实战课程，旨在帮助开发者在 10 周内掌握构建基于大语言模型（LLM）的应用系统。课程内容涵盖 RAG（检索增强生成）、向量搜索、评估、监控等核心技术。

环境准备

本课程侧重于代码实战与项目构建，建议具备以下基础环境和依赖：

• 操作系统：Linux、macOS 或 Windows (推荐 WSL2)。
• Python：版本 3.9 或更高版本。
• Git：用于克隆课程代码库。
• Docker（可选但推荐）：用于运行 Elasticsearch、Qdrant 等向量数据库和服务，避免本地环境配置冲突。
• API 密钥：
  • OpenAI API Key（用于 Module 1 及后续模块）。
  • Hugging Face Token（如需使用开源模型）。
• 开发工具：VS Code 或 Jupyter Notebook/Lab。

注意：课程中涉及的网络资源（如 Hugging Face、OpenAI）可能需要稳定的网络连接才能正常访问。

安装步骤

1. 克隆课程仓库

首先，将 LLM Zoomcamp 的代码库克隆到本地：

git clone https://github.com/DataTalksClub/llm-zoomcamp.git
cd llm-zoomcamp

2. 设置 Python 虚拟环境

为每个模块或整个课程创建独立的虚拟环境，以避免依赖冲突。以 Module 1 为例：

# 进入模块目录
cd 01-intro

# 创建虚拟环境
python -m venv env

# 激活虚拟环境
# Linux/macOS:
source env/bin/activate
# Windows:
.\env\Scripts\activate

3. 安装依赖

根据各模块目录下的 requirements.txt 安装必要的 Python 包：

pip install -r requirements.txt

4. 配置环境变量

在项目根目录或当前模块目录下创建 .env 文件，并填入你的 API 密钥：

OPENAI_API_KEY=your_openai_api_key_here

确保你的代码能够加载这些环境变量（通常使用 python-dotenv 库）。

基本使用

课程采用模块化学习路径，以下是开始第一个模块（Introduction to LLMs and RAG）的最简示例流程：

1. 启动必要的服务（如需要）

如果模块涉及 Elasticsearch 或 Qdrant，建议使用 Docker Compose 启动服务。在相应模块目录下执行：

docker-compose up -d

2. 运行示例代码

进入 01-intro 目录，打开 Jupyter Notebook 或运行提供的 Python 脚本。以下是一个典型的 RAG 基础调用逻辑示例（具体代码请参考仓库内 notebook.ipynb 或 .py 文件）：

import os
from openai import OpenAI
from dotenv import load_dotenv

# 加载环境变量
load_dotenv()

client = OpenAI(api_key=os.getenv('OPENAI_API_KEY'))

# 简单的文本补全示例
response = client.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Explain what RAG is in one sentence."}
    ]
)

print(response.choices[0].message.content)

3. 完成作业与项目

• 观看视频：访问 YouTube 播放列表 学习对应模块的理论。
• 执行作业：每个模块文件夹下通常包含 homework.md 或相关练习代码，请按要求完成。
• 参与社区：加入 DataTalks.Club Slack 的 #course-llm-zoomcamp 频道，分享你的进度并获取反馈。

4. 进阶学习路径

按照以下顺序逐步深入：

1. Module 1: LLM 与 RAG 基础，Elasticsearch 文本搜索。
2. Module 2: 向量搜索，Embeddings，使用 Qdrant。
3. Workshop: 使用 dlt 进行数据摄入。
4. Module A (Bonus): Agent 与函数调用。
5. Module 3: 评估体系（Offline/Online Evaluation, LLM as a Judge）。
6. Module 4: 监控与用户反馈仪表盘。
7. Module 5: 最佳实践（混合搜索，重排序）。
8. Capstone Project: 综合项目实战。