数据科学/人工智能/机器学习/量化金融备考

这是什么

这是一份简短的资源和主题列表，涵盖了数据科学家、人工智能/机器学习从业者、量化开发人员/研究人员，以及准备应聘这些岗位的人所需的核心量化工具。

从高层次来看，我们可以将内容分为三大领域：

1. 机器学习
2. 编程
3. 数学（微积分、线性代数、概率论等）

根据岗位类型的不同，侧重点可能会有很大差异。例如，人工智能/机器学习相关的面试可能会更深入探讨最新的深度学习模型，而量化金融相关的面试则可能涉及各种数学难题。对于研究型岗位的面试，编程题可能会相对较少，或者更侧重于算法设计而非软件架构或工具使用。

资源列表

以下是最优、最实用的资源清单：

机器学习：

• 经典机器学习课程：吴恩达的CS229（有多个版本，Coursera版较为容易获取。我使用的是这个旧版本）。
• 经典机器学习书籍：Alpaydin的《机器学习导论》链接。
• 深度学习方向的课程：斯坦福大学的CS231，相关讲座可在YouTube上找到。
• 深度学习书籍：Ian Goodfellow等人编写的《深度学习》链接。
• 深度学习自然语言处理书籍：Yoav Goldberg的《神经网络在自然语言处理中的方法》链接。
• 深度学习实践练习：与TensorFlow相比，PyTorch和MXNet/Gluon更容易上手。无论选择哪一种，网上都有大量实践示例可供参考。我个人推荐由亚马逊团队开发的https://d2l.ai/，它基于MXNet/Gluon框架，并源自mxnet-the-straight-dope项目。

编程：

• 课程：MIT OCW 6006 链接。
• 书籍：《破解编码面试》链接。
• SQL教程：来自Mode Analytics。
• 练习网站：Leetcode、HackerRank。

数学：

• 微积分和线性代数：本科课程是最好的选择，可参考CS229的复习笔记链接。
• 概率论：哈佛Stats110 链接；同一教授的书籍。
• 统计学：Shaum's Outline 链接。
• 数值方法和优化：这两者实际上是不同的主题，大学课程可能是最佳选择。目前我尚未找到优质的在线课程。不过不用担心，大多数面试并不会深入考察这些内容。

主题列表

以下是面试题目常出自的主题列表。问题的深度和复杂程度当然取决于具体的岗位和公司。

在每个主题下，我会列出一些你需要掌握的关键点。

机器学习

• 模型（按出现频率大致排序）
  • 线性回归
    • 例如：假设条件、多重共线性、如何用线性代数形式从头推导。
  • 逻辑回归
    • 能够从零开始完整实现：从定义分类问题到梯度更新。
  • 决策树/随机森林
    • 例如：树或森林是如何生长的，用伪代码描述。
  • 聚类算法
    • 例如：K-means、凝聚聚类。
  • SVM
    • 例如：基于间隔的损失函数、支持向量的作用、对偶问题。
  • 生成模型与判别模型
    • 例如：高斯混合模型、朴素贝叶斯。
  • 异常检测/离群点检测算法（DBSCAN、LOF等）
  • 基于矩阵分解的模型
• 训练方法
  • 梯度下降、SGD及其他流行变体
    • 理解动量机制、其工作原理，以及不同变体（RMSProp、Adgrad、Adadelta、Adam等）之间的区别。
    • 额外加分：什么时候不应该使用动量？
  • EM算法
    • 吴恩达的讲义非常出色，也可参考这篇。
  • 梯度提升
• 学习理论/最佳实践（参见吴恩达的建议幻灯片）
  • 偏差与方差、正则化
  • 特征选择
  • 模型验证
  • 模型评估指标
  • 集成方法、提升、装袋、自助法
• 深度学习通用主题
  • 前馈网络
  • 反向传播与计算图
    • 我非常喜欢Udacity开发的miniflow项目。
    • 此外，务必熟练掌握矩阵和向量的求导，可参考Erik Learned-Miller的向量、矩阵和张量的导数，以及Justin Johnson的线性层的反向传播。
  • CNN、RNN/LSTM/GRU
  • 神经网络中的正则化，如dropout、批归一化。

编程基础

你需要熟练掌握的最低限度编程概念。

• 数据结构：
  • 数组、字典、链表、树、堆、图，以及稀疏矩阵的表示方法。
• 排序算法：
  • 参考brilliant.org的这篇。
• 树/图相关算法
  • 遍历（BFS、DFS）
  • 最短路径（双向BFS、Dijkstra算法）
• 递归与动态规划

微积分

简单来说就是：

• 导数
  • 乘积法则、链式法则、幂法则、洛必达法则，
  • 偏导数和全导数。
  • 需要记住的内容
    • 常见函数的导数
    • 极限和近似值。
  • 导数的应用：例如这个。
• 积分
  • 幂法则、换元积分法、分部积分法。
  • 坐标变换。
• 泰勒展开
  • 单变量和多变量。
  • 常见函数的泰勒/麦克劳林级数。
  • 推导牛顿-拉夫森方法。
• 常见的ODE和PDE解析解法。

线性代数

• 向量与矩阵乘法
• 矩阵运算（转置、行列式、逆矩阵等）
• 矩阵的类型（对称矩阵、埃尔米特矩阵、正交矩阵等）及其性质
• 特征值与特征向量
• 矩阵微积分（梯度、海森矩阵等）
• 有用的定理
• 矩阵分解
• 在机器学习和优化中的具体应用

概率

解答概率面试题的关键在于模式识别。要想表现良好，需要多做练习，推荐参考以下两本书：《概率导论》 和 《量化金融面试实用指南》。这一主题在量化类面试中占据较大比重，而在机器学习、人工智能和数据科学相关的面试中则相对较少。

• 基本概念
  • 事件、结果、随机变量、概率及概率分布
• 组合数学
  • 排列
  • 组合
  • 容斥原理
• 条件概率
  • 贝叶斯公式
  • 全概率公式
• 概率分布
  • 期望与方差公式
  • 离散型概率分布及其应用场景
  • 连续型概率分布：均匀分布、正态分布、泊松分布
• 期望、方差与协方差
  • 期望的线性性质
    • 利用该性质及对称性解题
  • 全期望定律
  • 协方差与相关系数
  • 独立性意味着零相关
  • 哈希碰撞概率
• 均匀分布的普适性
  • 证明
  • 圆形问题
• 顺序统计量
  • 随机变量的最小值与最大值的期望
• 基于图论的多随机变量问题求解
  • 例如：折断木棍、火车站会面、青蛙跳跃（单纯形法）
• 近似方法：中心极限定理
  • 定义、示例（非公平硬币、蒙特卡洛积分）
  • 示例题目
• 近似方法：泊松范式
  • 定义、示例（重复抽样、生日问题近似）
• 泊松计数与时间的对偶性
  • 从泊松过程推导泊松分布
• 马尔可夫链技巧
  • 多种游戏场景，以及鞅的概念介绍

统计学

• Z分数、p值
• t检验、F检验、卡方检验（明确何时使用哪种检验）
• 抽样方法
• AIC、BIC

【可选】数值方法与优化

• 计算机误差（如浮点数误差）
• 方程求根（牛顿法、二分法、割线法等）
• 插值
• 数值积分与差分
• 数值线性代数
  • 解线性方程组：直接法（理解其复杂度）和迭代法（如共轭梯度法）
  • 矩阵分解与变换（如QR分解、LU分解、奇异值分解等）
  • 特征值计算（如幂迭代法、Arnoldi/Lanczos方法等）
• 常微分方程求解器（显式、隐式）
• 有限差分法、有限元法
• 最优化相关主题：待定

quant-notes 快速上手指南

quant-notes 并非一个需要安装运行的软件工具，而是一份精心整理的量化金融、数据科学与机器学习领域的学习资源与面试准备清单。它涵盖了机器学习、编程算法和数学基础三大核心板块。

本指南将帮助你快速利用该仓库中的资源构建知识体系。

环境准备

由于本项目主要是文档和资源链接集合，无需特定的系统环境或复杂的依赖安装。你只需要具备以下基础条件即可开始学习：

• 操作系统：Windows, macOS 或 Linux 均可。
• 基础工具：
  • 现代浏览器（用于访问课程视频和在线教程）。
  • Python 环境（建议 Python 3.8+），用于运行部分深度学习代码示例（如 PyTorch/MXNet）。
  • Jupyter Notebook，用于查看和运行仓库中可能包含的 .ipynb 笔记（如概率论示例）。
• 前置知识：具备基础的编程能力（Python/C++）和高数基础效果更佳。

获取资源

本项目无需通过包管理器安装，直接克隆仓库或下载内容即可。

方法一：克隆仓库（推荐）

git clone https://github.com/dingran/quant-notes.git
cd quant-notes

方法二：国内加速方案

如果访问 GitHub 速度较慢，可以使用 Gitee 镜像（如果有）或通过代理加速，也可以直接下载 ZIP 包后解压。

# 使用 gitee 镜像（如果存在）或配置 git 代理
git clone https://gitee.com/mirror/quant-notes.git 
# 注意：若官方未同步 Gitee，请直接使用 GitHub 链接或手动下载

基本使用

quant-notes 的核心价值在于其结构化的主题列表和精选资源。请按照以下路径高效使用：

1. 浏览核心资源清单

打开项目根目录下的 README.md 文件，重点关注 "List of resources" 章节。这里列出了该领域最经典的“最小化”书单和课程：

• 机器学习 (Machine Learning)
  • 经典课程：吴恩达 CS229 (Coursera 版或 YouTube 旧版)。
  • 深度学习：斯坦福 CS231n (计算机视觉) 及 Ian Goodfellow 的 Deep Learning 花书。
  • 实战推荐：d2l.ai (动手学深度学习)，基于 MXNet/Gluon 或 PyTorch。
• 编程 (Coding)
  • 算法基础：MIT 6.006 公开课。
  • 面试必备：《Cracking the Coding Interview》。
  • 刷题平台：Leetcode, HackerRank。
• 数学 (Math)
  • 微积分与线性代数：参考 CS229 的复习笔记。
  • 概率论：哈佛 Stats110 课程及配套教材。

2. 针对性专题突破

根据你准备的岗位类型（AI/ML 工程师 vs 量化研究员），在 "List of topics" 章节中选择重点：

• 若准备 AI/ML 面试：
  • 重点复习 Models：线性回归、逻辑回归、决策树、SVM、聚类算法的推导与假设。
  • 深入 Training methods：梯度下降变体 (Adam, RMSProp)、反向传播推导、正则化技巧。
  • 熟悉 Deep Learning：CNN/RNN/LSTM 结构、Dropout、Batch Normalization。
• 若准备量化 (Quant) 面试：
  • 高强度训练 Probability：条件概率、贝叶斯定理、期望与方差技巧、中心极限定理、马尔可夫链。
  • 补充 Statistics：假设检验 (t-test, Chi2)、采样方法。
  • 掌握 Coding essentials：数据结构、排序、图算法 (BFS/DFS/Dijkstra)、动态规划。

3. 运行代码示例

仓库中包含一些具体的代码演示（例如概率论中的蒙特卡洛模拟或神经网络的手写实现）。

# 进入包含笔记的目录 (示例路径，具体视仓库结构而定)
cd prob 

# 运行 Jupyter Notebook 示例
jupyter notebook central_limit_theorem.ipynb

建议学习路径：

1. 先通读 README.md 中的 List of topics，自我评估知识盲区。
2. 根据盲区，点击对应的资源链接（课程视频/书籍/文章）进行系统学习。
3. 结合 Leetcode 和概率题集进行实战演练。