TPOT

TPOT 是“基于树的管道优化工具”的缩写。TPOT 是一个 Python 自动化机器学习工具，它使用遗传编程来优化机器学习管道。您可以将 TPOT 视为您数据科学领域的助手。

贡献者

TPOT 最近经历了一次重大重构。该软件包从头开始重写，以提高效率和性能、支持新功能并修复大量 bug。新增功能包括遗传特征选择、显著扩展且更灵活的搜索空间定义方法、多目标优化、更模块化的框架以便于进化算法的定制等。在开发过程中，这个新版本被称为“TPOT2”，但现在我们已将 TPOT2 合并到主 TPOT 包中。您可以在我们的 GPTP 论文《TPOT2：用于自动化机器学习的基于树的管道优化工具的新图结构实现》中了解更多关于 TPOT 新版本的信息。

Ribeiro, P. 等 (2024)。TPOT2：用于自动化机器学习的基于树的管道优化工具的新图结构实现。载于：Winkler, S., Trujillo, L., Ofria, C., Hu, T.（编）遗传编程理论与实践 XX。遗传与进化计算。新加坡 Springer 出版社。https://doi.org/10.1007/978-981-99-8413-8_1

当前版本的 TPOT 由 Cedars-Sinai 的以下人员开发： - Pedro Henrique Ribeiro（主要开发者 - https://github.com/perib, https://www.linkedin.com/in/pedro-ribeiro/） - Anil Saini (anil.saini@cshs.org) - Jose Hernandez (jgh9094@gmail.com) - Jay Moran (jay.moran@cshs.org) - Nicholas Matsumoto (nicholas.matsumoto@cshs.org) - Hyunjun Choi (hyunjun.choi@cshs.org) - Gabriel Ketron (gabriel.ketron@cshs.org) - Miguel E. Hernandez (miguel.e.hernandez@cshs.org) - Jason Moore (moorejh28@gmail.com)

原始版本的 TPOT 主要由宾夕法尼亚大学的以下人员开发： - Randal S. Olson (rso@randalolson.com) - Weixuan Fu (weixuanf@upenn.edu) - Daniel Angell (dpa34@drexel.edu) - Jason Moore (moorejh28@gmail.com) - 以及众多慷慨的开源贡献者

许可证

请参阅 仓库许可证，了解 TPOT 的许可和使用信息。总体而言，我们对 TPOT 进行了许可，使其尽可能广泛地被使用。

TPOT 是自由软件：您可以根据自由软件基金会发布的 GNU 较宽松通用公共许可证条款重新分发和修改它，无论是该许可证的第 3 版，还是（经您选择）任何后续版本。

TPOT 以“希望它有用”的态度进行分发，但不提供任何担保；甚至不包括对适销性或特定用途适用性的默示担保。有关详细信息，请参阅 GNU 较宽松通用公共许可证。

您应随 TPOT 一起收到一份 GNU 较宽松通用公共许可证副本。如果没有，请访问 http://www.gnu.org/licenses/。

文档

文档网页在此。

我们还建议查看教程文件夹中的 Jupyter 笔记本，其中包含示例和指南。

安装

TPOT 需要一个可用的 Python 安装。

创建 conda 环境（可选）

我们建议使用 conda 环境来安装 TPOT，尽管不使用 conda 环境手动安装也同样可行。

有关创建 Anaconda 环境的更多信息请见此处。

conda create --name tpotenv python=3.10
conda activate tpotenv

所需包

python 版本 >=3.10, <3.14 numpy scipy scikit-learn update_checker tqdm stopit pandas joblib xgboost matplotlib traitlets lightgbm optuna jupyter networkx dask distributed dask-ml dask-jobqueue func_timeout configspace

我们配置空间中使用的许多超参数范围均改编自原始 TPOT 包或 AutoSklearn 包。

M1 Mac 或其他基于 Arm 架构 CPU 用户注意事项

在安装 TPOT 之前，您需要使用以下命令直接从 conda 安装 lightgbm 包。

这是为了确保您获得与您的系统兼容的版本。

conda install --yes -c conda-forge 'lightgbm>=3.3.3'

使用 pip 安装附加功能

如果您想利用 TPOT 提供的附加功能以及 scikit-learn 扩展，可以使用 pip 进行安装。安装带有这些附加功能的 TPOT 的命令如下：

pip install tpot[sklearnex]

请注意，虽然这些扩展可以加速 scikit-learn 包，但仍有一些重要考虑事项：

这些扩展可能尚未在基于 Arm 架构的 CPU 上完全开发和测试，例如 M1 Mac。您可能会在这些系统上遇到兼容性问题或性能下降。

我们建议在安装这些附加功能时使用 Python 3.9，因为它提供了更好的兼容性和稳定性。

开发者/最新分支安装

pip install -e /path/to/tpotrepo

如果您通过 git pull 下载，则仓库文件夹将命名为 TPOT。（注意：此文件夹是包含 setup.py 的文件夹，而不是其内部同名文件夹）。 如果您以 zip 文件形式下载，则文件夹可能名为 tpot-main。

使用

更多说明和示例请参阅教程文件夹。

最佳实践

1

TPOT 使用 Dask 进行并行处理。当 Python 被并行化时，每个模块都会在各个进程中被导入。因此，在从脚本运行 TPOT 时，务必将所有代码保护在 if __name__ == "__main__": 块内。而在笔记本中运行 TPOT 时，则不需要这样做。

例如：

#my_analysis.py

import tpot
if __name__ == "__main__":
    X, y = load_my_data()
    est = tpot.TPOTClassifier()
    est.fit(X,y)
    #其余分析代码

2

在设计自定义目标函数时，应避免使用全局变量。

不要这样做：

global_X = [[1,2],[4,5]]
global_y = [0,1]
def foo(est):
    return my_scorer(est, X=global_X, y=global_y)

而应使用 functools.partial：

from functools import partial

def foo_scorer(est, X, y):
    return my_scorer(est, X, y)

if __name__=='__main__':
    X = [[1,2],[4,5]]
    y = [0,1]
    final_scorer = partial(foo_scorer, X=X, y=y)

同样地，在使用 lambda 函数时也应如此。

不要这样做：

def new_objective(est, a, b)
    #定义

a = 100
b = 20
bad_function = lambda est :  new_objective(est=est, a=a, b=b)

而应这样做：

def new_objective(est, a, b)
    #定义

a = 100
b = 20
good_function = lambda est, a=a, b=b : new_objective(est=est, a=a, b=b)

小贴士

TPOT 不会检查您的数据是否格式正确。它会假定您已传递能够处理所输入数据类型的算子。例如，如果您传入包含分类特征和缺失值的 Pandas 数据框，那么您的配置中也应包含能够处理这些特征的算子。或者，如果您设置 preprocessing = True，TPOT 将会填充缺失值、对分类特征进行独热编码，并对数据进行标准化。（请注意，目前这一步骤是在拆分用于交叉验证之前，针对整个训练集进行拟合和转换的。未来将提供按折应用的功能，并使参数可学习。）

将 verbose 设置为 5 在调试过程中会很有帮助，因为它会打印出因管道失败而产生的错误信息。

参与 TPOT 的贡献

我们欢迎您查看现有的问题，寻找可以修复的 bug 或需要改进的功能。如果您对 TPOT 的扩展有想法，请提交一个新的问题，以便我们讨论。

引用 TPOT

如果您在科学出版物中使用了 TPOT，请考虑引用以下论文中的至少一篇：

Hernandez, J. G., Saini, A. K., Ghosh, A., & Moore, J. H. (2025). 基于树的管道优化工具：利用遗传编程和自动化机器学习解决生物医学研究问题. Patterns, 6(7).

BibTeX 条目：

@article{hernandez2025tree,
  title={The tree-based pipeline optimization tool: Tackling biomedical research problems with genetic programming and automated machine learning},
  author={Hernandez, Jose Guadalupe and Saini, Anil Kumar and Ghosh, Attri and Moore, Jason H},
  journal={Patterns},
  volume={6},
  number={7},
  year={2025},
  publisher={Elsevier}
}

Ribeiro, P., Saini, A., Moran, J., Matsumoto, N., Choi, H., Hernandez, M., & Moore, J. H. (2024). TPOT2：一种新的基于图的实现，用于自动化机器学习的树形管道优化工具. In Genetic programming theory and practice XX (pp. 1-17). Singapore: Springer Nature Singapore。

BitTex 条目：

@incollection{ribeiro2024tpot2,
  title={TPOT2: A New Graph-Based Implementation of the Tree-Based Pipeline Optimization Tool for Automated Machine Learning},
  author={Ribeiro, Pedro and Saini, Anil and Moran, Jay and Matsumoto, Nicholas and Choi, Hyunjun and Hernandez, Miguel and Moore, Jason H},
  booktitle={Genetic programming theory and practice XX},
  pages={1--17},
  year={2024},
  publisher={Springer}
}

Randal S. Olson, Ryan J. Urbanowicz, Peter C. Andrews, Nicole A. Lavender, La Creis Kidd, 和 Jason H. Moore (2016). 通过基于树的管道优化自动化的生物医学数据科学. 进化计算的应用, 第 123–137 页。

BibTeX 条目：

@inbook{Olson2016EvoBio,
    author={Olson, Randal S. and Urbanowicz, Ryan J. and Andrews, Peter C. and Lavender, Nicole A. and Kidd, La Creis and Moore, Jason H.},
    editor={Squillero, Giovanni and Burelli, Paolo},
    chapter={Automating Biomedical Data Science Through Tree-Based Pipeline Optimization},
    title={Applications of Evolutionary Computation: 19th European Conference, EvoApplications 2016, Porto, Portugal, March 30 -- April 1, 2016, Proceedings, Part I},
    year={2016},
    publisher={Springer International Publishing},
    pages={123--137},
    isbn={978-3-319-31204-0},
    doi={10.1007/978-3-319-31204-0_9},
    url={http://dx.doi.org/10.1007/978-3-319-31204-0_9}
}

Randal S. Olson, Nathan Bartley, Ryan J. Urbanowicz, 和 Jason H. Moore (2016). 评估用于自动化数据科学的基于树的管道优化工具. GECCO 2016 年会议论文集, 第 485–492 页。

BibTeX 条目：

@inproceedings{OlsonGECCO2016,
    author = {Olson, Randal S. and Bartley, Nathan and Urbanowicz, Ryan J. and Moore, Jason H.},
    title = {Evaluation of a Tree-based Pipeline Optimization Tool for Automating Data Science},
    booktitle = {Proceedings of the Genetic and Evolutionary Computation Conference 2016},
    series = {GECCO '16},
    year = {2016},
    isbn = {978-1-4503-4206-3},
    location = {Denver, Colorado, USA},
    pages = {485--492},
    numpages = {8},
    url = {http://doi.acm.org/10.1145/2908812.2908918},
    doi = {10.1145/2908812.2908918},
    acmid = {2908918},
    publisher = {ACM},
    address = {New York, NY, USA},
}

相关论文

Trang T. Le, Weixuan Fu 和 Jason H. Moore (2020). 利用特征选择器将基于树的自动化机器学习扩展到生物医学大数据. Bioinformatics.36(1): 250-256。

BibTeX 条目：

@article{le2020scaling,
  title={Scaling tree-based automated machine learning to biomedical big data with a feature set selector},
  author={Le, Trang T and Fu, Weixuan and Moore, Jason H},
  journal={Bioinformatics},
  volume={36},
  number={1},
  pages={250--256},
  year={2020},
  publisher={Oxford University Press}
}

TPOT 的支持

TPOT 是在 Cedars-Sinai 的 人工智能创新实验室 (A2I) 中开发的，并得到了 美国国立卫生研究院 (NIH) 的资助，项目编号为 U01 AG066833 和 R01 LM010098。我们对 NIH 和 Cedars-Sinai 在该项目开发过程中的大力支持表示由衷的感谢。

TPOT 的标志由 Todd Newmuis 设计，他慷慨地为该项目贡献了自己的时间。

TPOT 快速上手指南

TPOT (Tree-based Pipeline Optimization Tool) 是一款基于遗传编程的 Python 自动化机器学习工具，旨在自动优化机器学习管道，充当你的数据科学助手。

1. 环境准备

在开始之前，请确保满足以下系统要求：

• 操作系统：Linux, macOS, Windows
  • 注意：M1 Mac 或其他 ARM 架构 CPU 用户需特别注意 lightgbm 的安装（见安装步骤）。
• Python 版本：>= 3.10 且 < 3.14
• 核心依赖：TPOT 会自动处理大部分依赖，主要包括 numpy, scipy, scikit-learn, pandas, xgboost, lightgbm, dask 等。

2. 安装步骤

推荐使用 conda 进行环境管理，以获得最佳的依赖兼容性。

方案 A：使用 Conda 安装（推荐）

1. 创建并激活虚拟环境：

   conda create --name tpotenv python=3.10
   conda activate tpotenv
   

2. 特殊硬件适配（仅限 M1 Mac/ARM 用户）： 如果你使用的是 M1 Mac 或其他 ARM 架构 CPU，必须先通过 conda 安装兼容版的 lightgbm：

   conda install --yes -c conda-forge 'lightgbm>=3.3.3'
   

3. 安装 TPOT：

   pip install tpot
   

   可选：若需使用 scikit-learn 加速扩展（不建议在 ARM 架构上使用）：

   pip install tpot[sklearnex]
   

方案 B：直接使用 Pip 安装

如果你不使用 conda 环境，可直接使用 pip 安装（需确保已安装符合版本的 Python）：

pip install tpot

3. 基本使用

TPOT 利用 dask 进行并行处理。重要提示：如果在脚本（.py 文件）中运行 TPOT，必须将代码包裹在 if __name__ == "__main__": 块中，否则会导致多进程导入错误。在 Jupyter Notebook 中则无需此操作。

最简单示例

以下是一个使用 TPOTClassifier 进行分类任务的最小化示例：

# my_analysis.py

from sklearn.datasets import load_digits
from sklearn.model_selection import train_test_split
import tpot

if __name__ == "__main__":
    # 1. 准备数据
    digits = load_digits()
    X_train, X_test, y_train, y_test = train_test_split(
        digits.data, digits.target, train_size=0.75, test_size=0.25, random_state=42
    )

    # 2. 初始化 TPOT 分类器
    # generations: 进化代数，population_size: 种群大小
    # verbosity: 详细程度 (2 显示进度条，5 显示错误详情用于调试)
    tpot_clf = tpot.TPOTClassifier(
        generations=5,
        population_size=50,
        verbosity=2,
        random_state=42,
        n_jobs=-1  # 使用所有可用 CPU 核心
    )

    # 3. 拟合数据 (开始自动搜索最佳管道)
    tpot_clf.fit(X_train, y_train)

    # 4. 评估模型
    print(f"测试集准确率：{tpot_clf.score(X_test, y_test)}")

    # 5. 导出最佳管道代码
    tpot_clf.export("tpot_best_pipeline.py")

关键参数说明

• generations: 遗传算法运行的代数，越多搜索越充分但耗时越长。
• population_size: 每一代保留的管道数量。
• preprocessing: 默认为 False。若设为 True，TPOT 会自动处理缺失值填充、类别特征独热编码及数据标准化。
• verbosity: 设置为 5 可在调试时打印失败管道的具体错误信息。