在这里您可以找到我的 YouTube 频道 上的所有资料。

概述

我的大部分视频是英文的，但也有一些内容提供德语版本。手写笔记分别放在相应的文件夹中。

目前我涵盖的主题如下：

• 英文：
  • 🧑‍🏫 数学基础 (播放列表)：这些内容通常不在（工程）数学课程中教授，但对于机器学习和仿真却非常相关，例如带约束的优化问题、线性代数中的某些技巧、泛函、泛函导数等。
  • ⚓ 重要的概率密度/质量函数 (播放列表)：标准的离散概率质量函数，如伯努利分布和多项式分布；以及连续概率密度函数，如一元和多元高斯/正态分布，并介绍其最大似然估计、先验、后验、矩等概念。
  • 🎲 概率论机器学习 (播放列表)：从有向图模型、EM 算法和变分推断，到深度生成模型，如变分自编码器、生成对抗网络和潜在狄利克雷分配。
  • 🖥️ 计算机科学杂项主题 (播放列表)：对机器学习和仿真的某些部分非常有用的小技巧，比如如何在 Julia 或 Python 等不同语言中调用 C 语言编写的库。
  • 💾 稀疏矩阵 (播放列表)：处理仿真问题（如有限元分析和计算流体动力学）中出现的大规模稀疏线性方程组时需要用到的不同稀疏矩阵实现方式。所有格式都包含 C 语言的实现代码。
  • 🥔 连续介质力学 (播放列表)：结构力学和流体力学的基础知识，这些知识对于推导计算流体动力学和有限元分析中的数值格式至关重要。内容涵盖欧拉描述和拉格朗日描述、伸长率和应变度量、应力度量、时间导数以及本构建模等。
  • 📉 自动微分、伴随方法及灵敏度分析 (播放列表)：用于对各种计算机程序进行微分的算法和数学技巧。这些程序可能包括显式的计算图（如神经网络）、隐式给出的关系（如线性或非线性系统），甚至常微分方程和偏微分方程。应用范围非常广泛，从可微物理学到经典深度学习，再到最优控制。所有的推导过程都配有 Python 和 Julia 的实现代码。
  • 🛠️ Fenics 教程 (播放列表)：一系列视频，展示如何使用 Fenics 有限元库来求解各种偏微分方程。视频既有实践性的（包括 Python 编程），也有关于有限元方法的理论内容。
  • 🌊 用 Python 或 Julia 简单实现的仿真 (播放列表)：我最喜欢的一个系列！如果您曾经想过从头开始编写一个流体仿真程序，不妨看看这个播放列表。其中包含了各种类型的仿真，如计算流体动力学、结构力学、电动力学等。
  • 👶 自动微分基本规则 (播放列表)：现代自动微分引擎（如 JAX、TensorFlow、PyTorch、Julia Zygote 等）都是基于对计算图中基本运算的转换来实现的。这个播放列表涵盖了最重要的运算的基本规则（包括前向模式和反向模式的自动微分）。
  • 🐍 科学 Python 工作坊 (播放列表)：为期三天的 Python 入门课程录音，重点介绍了科学计算和机器学习中最常用的库。相关的代码仓库请见 这里
• 德语：
  • 📏 张量分析 (播放列表)：多维分析的基础和高级技术，特别注重可视化。
  • ↗️ 常微分方程 (播放列表)：对常微分方程的解析和数值处理，从变量分离和参数变易法，到龙格-库塔方法、稳定性分析和收敛性研究。

以下是我计划在未来长期覆盖的主题：

• 英文：
  • 基础：
    • 张量微积分
    • 自动微分
    • 更多关于概率质量/密度函数的内容
  • 建模与仿真：
    • 常微分方程 (ODEs)
    • 偏微分方程 (PDEs)
    • 线性有限元方法
    • （数值）控制理论
    • 计算流体动力学
    • 非线性有限元方法
    • 可视化技术
    • 固体本构建模
    • 流体本构建模
    • 计算粘弹性
    • 计算塑性
    • 不确定性量化
  • 数值分析：
    • 浮点误差分析
    • 求解线性方程组
    • 插值与求积
    • 特征值计算
    • 求解非线性方程组
    • 优化技术
  • 高性能计算：
    • 并行编程的基础知识
    • BLAS 库简介
    • LAPACK 库简介
    • 并行数值计算
    • PThread
    • OpenMP
    • MPI
    • CUDA
  • 机器学习：
    • （经典）机器学习
    • 降维
    • 机器学习中的评价指标
    • 深度学习
    • 马尔可夫链蒙特卡洛技术

除此之外，我还有一些项目想法呢。:)

贡献

欢迎为本仓库做出贡献。如果您基于我的某段源代码扩展出了更高级的示例，或者您认为某些内容存在错误、需要改进或解释得更加清晰，请随时向本仓库提交 Pull Request。当然，如果您能够在保持代码可读性的前提下提升其性能，也欢迎提交 Pull Request。

捐赠

如果您喜欢本仓库的内容，请考虑成为 Patreon 会员。

machine-learning-and-simulation 快速上手指南

本仓库是 YouTube 频道 "Mathematics for Machine Learning and Simulation" 的配套资料库，涵盖机器学习、仿真模拟、连续介质力学及自动微分等领域的数学基础与代码实现。主要提供手写笔记、视频对应的源代码（Python/Julia/C）及教程。

环境准备

本仓库包含多个独立主题的项目代码，不同子模块对环境和依赖的要求略有差异。以下是通用前置要求：

系统要求

• 操作系统：Linux, macOS 或 Windows (推荐 WSL2)
• 编程语言：
  • Python 3.8+ (大多数示例)
  • Julia 1.6+ (部分高性能计算与自动微分示例)
  • C 编译器 (GCC/Clang，用于稀疏矩阵等底层实现)

前置依赖

根据你感兴趣的主题，可能需要安装以下库：

1. Python 科学计算栈 (适用于大多数 ML 和仿真示例):

   pip install numpy scipy matplotlib jupyter
   

2. 深度学习与自动微分:

   pip install torch tensorflow jax
   

3. 有限元分析 (FEniCS 教程):
   • 需单独安装 FEniCS 库。推荐使用 Conda 安装以避免系统依赖冲突：

   conda install -c conda-forge fenics
   

4. Julia 环境 (如运行 .jl 文件):
   • 访问 Julia 官网 下载并安装。
   • 在 Julia REPL 中安装包（具体包名见各子文件夹 Project.toml 或源码头部）：

   using Pkg
   Pkg.add(["DifferentialEquations", "Flux", "Zygote"]) 
   

提示：国内用户建议使用清华或中科大镜像源加速 Python 包安装： pip install -i https://pypi.tuna.tsinghua.edu.cn/simple <package_name>

安装步骤

本仓库为资料合集，无需全局“安装”整个项目。请按需克隆仓库并进入对应主题目录。

1. 克隆仓库

   git clone https://github.com/Ceyron/machine-learning-and-simulation.git
   cd machine-learning-and-simulation
   

2. 定位主题目录 浏览根目录下的文件夹，找到你感兴趣的主题（例如 sparse_matrices, continuum_mechanics, automatic_differentiation 等）。

3. 安装特定示例依赖 进入具体子目录后，检查是否有 requirements.txt 或 README.md 说明。若有 requirements.txt，执行：

   pip install -r requirements.txt
   

   (注：部分简单示例可能仅依赖标准库或上述通用依赖，无需额外安装)

基本使用

本仓库的核心内容是可运行的代码示例和手写笔记。以下以“稀疏矩阵 (Sparse Matrices)"和“自动微分 (Automatic Differentiation)"为例展示如何使用。

示例 1：运行 C 语言实现的稀疏矩阵

该部分展示了如何在 C 语言中实现不同的稀疏矩阵格式（如 CSR, CSC），常用于 FEM/CFD 仿真。

1. 进入目录：

   cd sparse_matrices/c_implementation
   

2. 编译代码（以 main.c 为例，具体文件名请参考目录内容）：

   gcc -O2 -o sparse_example main.c -lm
   

3. 运行程序：

   ./sparse_example
   

示例 2：运行 Python 自动微分示例

该部分演示如何通过计算图进行前向模式和反向模式自动微分。

1. 进入目录：

   cd automatic_differentiation/python_examples
   

2. 直接运行脚本（确保已安装 numpy 等基础库）：

   python forward_mode_ad.py
   

   或者启动 Jupyter Notebook 查看交互式推导过程：

   jupyter notebook autodiff_tutorial.ipynb
   

示例 3：查看手写笔记

所有视频对应的详细数学推导均以 PDF 或图片形式存储在相应主题的文件夹中（通常命名为 notes 或直接位于文件夹根目录）。

• 操作：直接使用 PDF 阅读器打开对应文件，配合 YouTube 视频链接（见仓库 Overview 部分）进行学习。

---

更多高级主题（如 FEniCS 有限元教程、流体力学仿真等）请参考各子文件夹内的具体脚本和说明文档。