DoubleML - Python中的双重机器学习

Python包DoubleML提供了Chernozhukov等（2018）提出的双重/去偏机器学习框架的实现。它基于scikit-learn（Pedregosa等，2011）构建。

需要注意的是，该Python包与基于mlr3的R版本共同开发。R包同样可在GitHub上找到，并且有。

文档与维护

文档和网站：https://docs.doubleml.org/

DoubleML目前由@PhilippBach和@SvenKlaassen维护。

如发现任何问题，可提交至GitHub问题追踪器。

主要特性

双重/去偏机器学习(Chernozhukov等，2018)适用于：

• 部分线性回归模型（PLR）
• 部分线性IV回归模型（PLIV）
• 交互式回归模型（IRM）
• 交互式IV回归模型（IIVM）

DoubleML的面向对象实现非常灵活。DoubleMLPLR、DoubleMLPLIV、DoubleMLIRM和DoubleIIVM等模型类实现了通过机器学习方法估计干扰函数以及计算Neyman正交得分函数的功能。其他所有功能则在抽象基类DoubleML中实现，特别是用于估计双重机器学习模型并进行统计推断的方法，包括fit、bootstrap、confint、p_adjust和tune等。这种面向对象的实现方式为模型规范提供了高度灵活性，例如：

• 干扰函数所使用的机器学习算法
• 抽样方案
• 双重机器学习算法
• Neyman正交得分函数
• …

此外，它还可以轻松扩展，以支持：

• 具有线性于目标参数的Neyman正交得分函数的新模型类
• 通过可调用对象实现的替代得分函数
• 替代抽样方案
• …

安装

DoubleML需要以下依赖：

• Python
• sklearn
• numpy
• scipy
• pandas
• statsmodels
• joblib

使用pip安装DoubleML的命令如下：

pip install -U DoubleML

也可以从源码安装：

git clone git@github.com:DoubleML/doubleml-for-py.git
cd doubleml-for-py
pip install --editable .

详细的安装说明可在文档中找到。

贡献

DoubleML是一项社区协作项目，欢迎所有人参与贡献。若想开始首次贡献，建议先阅读我们的贡献指南和行为准则。

引用

如果您使用了DoubleML包，请务必引用：

您可以在GitHub页面顶部点击“引用此仓库”按钮直接引用该包。或者，您也可以引用以下论文：

Bach, P., Chernozhukov, V., Kurz, M. S., and Spindler, M. (2022), DoubleML - An Object-Oriented Implementation of Double Machine Learning in Python, Journal of Machine Learning Research, 23(53): 1-6, https://www.jmlr.org/papers/v23/21-0862.html.

Bibtex条目如下：

@article{DoubleML2022,
      title   = {{DoubleML} -- {A}n Object-Oriented Implementation of Double Machine Learning in {P}ython},
      author  = {Philipp Bach and Victor Chernozhukov and Malte S. Kurz and Martin Spindler},
      journal = {Journal of Machine Learning Research},
      year    = {2022},
      volume  = {23},
      number  = {53},
      pages   = {1--6},
      url     = {http://jmlr.org/papers/v23/21-0862.html}
}

致谢

感谢德国研究联合会（DFG）的资助——项目编号431701914及GRK 2805/1基金。

参考文献

Bach, P., Chernozhukov, V., Kurz, M. S., and Spindler, M. (2022), DoubleML - An Object-Oriented Implementation of Double Machine Learning in Python, Journal of Machine Learning Research, 23(53): 1-6, https://www.jmlr.org/papers/v23/21-0862.html。

Chernozhukov, V., Chetverikov, D., Demirer, M., Duflo, E., Hansen, C., Newey, W. 和 Robins, J. (2018), 双重/去偏机器学习用于处理效应和结构参数。The Econometrics Journal, 21: C1-C68。doi:10.1111/ectj.12097。

Pedregosa, F., Varoquaux, G., Gramfort, A., Michel, V., Thirion, B., Grisel, O., Blondel, M., Prettenhofer, P., Weiss, R., Dubourg, V., Vanderplas, J., Passos, A., Cournapeau, D., Brucher, M., Perrot, M. 和 Duchesnay, E. (2011), Scikit-learn: Machine Learning in Python。Journal of Machine Learning Research, 12: 2825--2830，https://jmlr.csail.mit.edu/papers/v12/pedregosa11a.html。

DoubleML for Python 快速上手指南

DoubleML 是一个基于 Python 的对象化包，实现了 Chernozhukov 等人提出的双重/去偏机器学习（Double/Debiased Machine Learning）框架。它构建在 scikit-learn 之上，适用于部分线性回归模型（PLR）、工具变量模型（PLIV）及交互式模型（IRM/IIVM）等因果推断场景。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：3.10, 3.11, 3.12 或 3.13
• 核心依赖：安装 DoubleML 时会自动安装以下库，也可手动预装：
  • scikit-learn (sklearn)
  • numpy
  • scipy
  • pandas
  • statsmodels
  • joblib

安装步骤

您可以选择通过 PyPI 直接安装稳定版，或从源码安装以获取最新功能。

方式一：使用 pip 安装（推荐）

建议使用国内镜像源加速安装（如清华大学开源软件镜像站）：

pip install -U DoubleML -i https://pypi.tuna.tsinghua.edu.cn/simple

或者使用官方源：

pip install -U DoubleML

方式二：从源码安装

如果您需要开发贡献或使用最新代码：

git clone git@github.com:DoubleML/doubleml-for-py.git
cd doubleml-for-py
pip install --editable .

基本使用

DoubleML 的核心流程包括：定义数据、选择机器学习模型（Nuisance Models）、实例化 DoubleML 模型类、拟合模型以及进行统计推断。

以下是一个最简单的 部分线性回归模型 (PLR) 使用示例：

import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestRegressor
from doubleml import DoubleMLData, DoubleMLPLR

# 1. 生成模拟数据
np.random.seed(42)
n_obs = 500
X = np.random.normal(size=(n_obs, 5))
d = np.random.normal(size=n_obs) + X[:, 0]  # 处理变量
y = 2 * d + np.random.normal(size=n_obs) + X @ np.array([1, 0, 0, 0, 0])  # 结果变量

# 2. 创建 DoubleML 数据对象
# y: 结果变量，d: 处理变量，X: 协变量
obj_dml_data = DoubleMLData.from_arrays(x=X, y=y, d=d)

# 3. 定义用于估计干扰函数 (Nuisance Functions) 的机器学习模型
# lrs_model 用于预测 y，lrd_model 用于预测 d
learner_lrs = RandomForestRegressor(n_estimators=100, max_features=20, max_depth=5)
learner_lrd = RandomForestRegressor(n_estimators=100, max_features=20, max_depth=5)

# 4. 初始化 DoubleMLPLR 模型
# 设置交叉折叠数 (n_folds) 和重复次数 (n_rep)
dml_plr_obj = DoubleMLPLR(obj_dml_data, 
                          ml_l=learner_lrs, 
                          ml_m=learner_lrd,
                          n_folds=5)

# 5. 拟合模型
dml_plr_obj.fit()

# 6. 查看结果摘要
print(dml_plr_obj.summary)

# 7. 获取置信区间
print(dml_plr_obj.confint())

关键说明：

• DoubleMLData：封装输入数据，区分结果变量 (y)、处理变量 (d) 和协变量 (X)。
• ml_l 和 ml_m：分别对应结果方程和处理方程的机器学习模型，支持任何 scikit-learn 兼容的估计器。
• fit()：执行双重机器学习算法，包括交叉拟合和正交得分计算。
• summary：输出包含系数估计值、标准误、t 统计量和 p 值的表格。