机器学习静修营：进阶机器学习学习日志

当前钻研：机制可解释性

本仓库是我个人学习机器学习高级主题的日志。其中包含对基础知识的深入理解，以及针对更细微领域的必读/必看资源推荐。

📝 我的笔记

📕 目录

如果您前往 Days文件夹，可以找到我已涵盖的所有主题列表。不过，为了更方便地访问特定主题，请查看此表格，了解需要阅读的具体日期。

🎯 目标

本次学习静修营的目标包括研读：

• 伊利亚·苏茨克维尔的30篇必读研究论文
• Distilled AI的大部分博客
• 阿特姆·基尔萨诺夫的人工智能/机器学习播放列表
• 安德烈·卡帕西的经典神经网络播放列表
• 对Transformer架构的深入理解与实现
• 大型语言模型及相关主题 ✅
• 大型语言模型幻觉现象的深度研究 ✅
• 量子机器学习
• Jax
• 基于能量的模型

ML Retreat 快速上手指南

项目简介： ml-retreat 并非一个可安装的软件库或框架，而是一个高级机器学习学习日志与资源仓库。它包含了作者深入研习机器学习核心主题（如大语言模型、图神经网络、AlphaFold 3 等）的详细笔记、论文解读及实现思路。本指南将帮助你快速访问和利用这些高质量的学习资料。

环境准备

由于本项目主要由文档（PDF）、笔记代码片段和资源链接组成，无需复杂的系统依赖。

• 操作系统：Windows / macOS / Linux 均可
• 必备工具：
  • Git：用于克隆仓库
  • PDF 阅读器：用于查看 assets 目录下的深度笔记
  • Python (可选)：如果你打算运行笔记中提及的代码片段，建议安装 Python 3.8+ 及基础深度学习库（如 PyTorch, JAX, Transformers）。

安装步骤

本项目无需通过 pip 或 conda 安装，直接克隆仓库即可获取所有学习资料。

1. 克隆仓库 打开终端，执行以下命令：

   git clone https://github.com/Hesamation/ml-retreat.git
   

   (注：如果国内访问 GitHub 较慢，可使用镜像站下载或配置 Git 代理)

2. 进入目录

   cd ml-retreat
   

3. 查看结构 克隆完成后，你将看到以下核心目录：

   • assets/：包含整理好的 PDF 深度笔记（如《从零构建 LLM》、《LLM 幻觉详解》等）。
   • Days/：按天数记录的学习日志，包含具体主题的代码实现和详细推导。

基本使用

本项目的“使用”即指阅读笔记和跟随学习路径。你可以根据感兴趣的主题直接定位到对应文件。

1. 阅读核心主题笔记

在 assets 目录下，你可以直接打开以下精选 PDF 笔记进行深入学习：

• 大语言模型基础：打开 assets/LLM-from-scratch-notes.pdf
• LLM 幻觉机制：打开 assets/LLM-Hallucination.pdf
• 图神经网络入门：打开 assets/introduction-to-GNN.pdf
• AlphaFold 3 解析：打开 assets/AlphaFold3.pdf

2. 按主题追踪学习日志

如果你希望按照作者的学习顺序，从理论基础到代码实现完整复现，请参考 Days 文件夹中的对应章节：

学习目标	对应日志路径
大语言模型 (LLMs)	浏览 Days/003 至 Days/016 (涵盖基础、位置编码、多模态等)
图神经网络 (GNNs)	浏览 Days/017 至 Days/022
AlphaFold 3	查看 Days/023

示例：查看 LLM 基础代码 假设你想研究第 3 天关于 LLM 基础的内容，可以在终端直接进入该目录查看代码（如有）：

cd Days/003\ \(llm\ fundamentals,\ pos\ embedding\)
ls

(注意：文件夹名称中包含空格和括号，在命令行操作时需注意转义或使用引号)

3. 扩展学习资源

根据 README 中的目标列表，本项目还整合了以下外部权威资源链接，建议结合笔记同步学习：

• Ilya Sutskever 推荐的 30 篇必读论文
• Andrej Karpathy 的神经网络黄金教程
• Artem Kirsanov 的 AI/ML 播放列表