PyTorch Tabular 为表格型数据的深度学习架构提供了一个统一的接口。它提供了高层次的 API，并使用 PyTorch Lightning 在 GPU 或 CPU 上进行训练扩展，同时支持自动日志记录。

	文档 · 教程 · 发布说明
开源
教程
社区
CI/CD
代码
下载量	)
引用

PyTorch Tabular 的目标是让基于表格数据的深度学习既简单又易于应用于实际场景和研究领域。该库的设计核心原则包括：

• 低门槛的易用性
• 易于自定义
• 可扩展且更易部署

它建立在诸如 PyTorch（显而易见）和 PyTorch Lightning 等优秀框架的基础之上。

目录

• 安装
• 文档
• 可用模型
• 使用方法
• 博客
• 引用

安装

尽管安装过程中会包含 PyTorch，但最佳且推荐的方式是先从 这里 安装 PyTorch，并根据你的机器选择合适的 CUDA 版本。

一旦你已经安装了 PyTorch，只需运行以下命令即可安装包含额外依赖项（Weights & Biases 和 Plotly）的完整库：

pip install -U “pytorch_tabular[extra]”

如果你只需要最基本的组件，则可以运行：

pip install -U “pytorch_tabular”

PyTorch Tabular 的源代码可以从 Github 仓库 下载。

你可以直接克隆公共仓库：

git clone git://github.com/manujosephv/pytorch_tabular

获取源代码后，可以通过以下命令进行安装：

cd pytorch_tabular && pip install .[extra]

文档

如需完整的文档及教程，请访问 ReadTheDocs。

可用模型

• 带类别嵌入的前馈网络是一个简单的前馈网络，但为分类列添加了嵌入层。
• 用于表格数据深度学习的神经无意识决策集成 是一种在 ICLR 2020 上提出的模型，据作者称，在许多数据集上击败了经过良好调优的梯度提升模型。
• TabNet：可解释的表格数据注意力学习 是谷歌研究院推出的另一种模型，它在决策过程的多个步骤中使用稀疏注意力机制来建模输出。
• 混合密度网络 是一种回归模型，它使用高斯成分来近似目标函数，并直接提供概率预测。
• AutoInt：通过自注意力神经网络自动学习特征交互 是一种尝试以自动化方式学习特征之间的交互作用，从而创建更好的表示，并在下游任务中使用该表示的模型。
• TabTransformer 是 Transformer 模型在表格数据上的改编版本，能够为分类特征生成上下文表示。
• 来自 重新审视表格数据的深度学习模型 的 FT Transformer。
• 门控加法树集成 是一种新颖、高性能、参数和计算效率高的深度学习架构，专为表格数据设计。GATE 使用受 GRU 启发的门控机制作为特征表示学习单元，并内置特征选择机制。我们将其与一组可微分的非线性决策树结合，并通过简单的自注意力机制对它们进行重新加权，以预测所需的输出。
• 用于深度自动化特征学习的门控自适应网络（GANDALF） 是 GATE 的精简版，比 GATE 更高效且性能更佳。GANDALF 将 GFLU 作为主要的学习单元，并在此过程中引入了一些加速措施。由于需要调整的超参数非常少，因此它成为一款易于使用和调优的模型。
• DANETs：用于表格数据分类和回归的深度抽象网络 是一种新颖且灵活的神经组件，称为抽象层（AbstLay），它能够显式地将相关输入特征分组，并生成更高层次的语义抽象特征。利用这些抽象层构建了一个特殊的基块，并通过堆叠此类基块，构建了一类用于表格数据分类和回归的深度抽象网络（DANets）。

半监督学习

• 去噪自编码器 是一种自编码器，能够学习鲁棒的特征表示，以补偿数据集中存在的任何噪声。

实现自定义模型

要实现新模型，请参阅如何实现新模型教程。该教程涵盖了基础及高级架构。

使用方法

from pytorch_tabular import TabularModel
from pytorch_tabular.models import CategoryEmbeddingModelConfig
from pytorch_tabular.config import (
    DataConfig,
    OptimizerConfig,
    TrainerConfig,
    ExperimentConfig,
)

data_config = DataConfig(
    target=[
        "target"
    ],  # 目标变量应始终为列表。
    continuous_cols=num_col_names,
    categorical_cols=cat_col_names,
)
trainer_config = TrainerConfig(
    auto_lr_find=True,  # 运行 LRFinder 自动推导学习率
    batch_size=1024,
    max_epochs=100，
)
optimizer_config = OptimizerConfig()

model_config = CategoryEmbeddingModelConfig(
    task="classification",
    layers="1024-512-512",  # 每层的节点数
    activation="LeakyReLU",  # 层间激活函数
    learning_rate=1e-3，
)

tabular_model = TabularModel(
    data_config=data_config，
    model_config=model_config，
    optimizer_config=optimizer_config，
    trainer_config=trainer_config，
)
tabular_model.fit(train=train, validation=val)
result = tabular_model.evaluate(test)
pred_df = tabular_model.predict(test)
tabular_model.save_model("examples/basic")
loaded_model = TabularModel.load_model("examples/basic")

博客文章

• PyTorch Tabular——面向表格数据的深度学习框架
• 神经无意识决策集成（NODE）——面向表格数据的最先进深度学习算法
• 混合密度网络：用于不确定性估计的概率回归

未来路线图（欢迎贡献）

1. 集成 Optuna 超参数调优
2. 将数据模块迁移到 Polars 或 NVTabular，以加快数据加载速度并处理超出内存容量的数据集。
3. 添加 GaussRank 作为特征转换方法
4. 提供与 scikit-learn 兼容的 API
5. 支持多标签分类
6. 继续增加更多架构

贡献者

马努·约瑟夫	吉尔卡·博罗韦茨	吉努·苏尼尔	人工智能程序员	索伦·麦克白	阿罗杰·哈达
克里斯·福内斯贝克	斯内希尔·查特吉	Null	阿比沙尔·辛哈	安德烈亚斯	查里塔斯·丘格
厄利	Null	库沙什瓦·拉维·施里马利	卢卡·阿克蒂斯·格罗索	斯特林·G·贝尔德	德克·孟
阴云妮	约尼·布雷斯勒	刘振	enifeder	泰莫

引用

如果您在科学出版物中使用 PyTorch Tabular，我们非常感谢您引用已发布的软件以及以下论文：

• arXiv 论文

@misc{joseph2021pytorch,
      title={PyTorch Tabular：用于表格数据深度学习的框架},
      author={Manu Joseph},
      year={2021},
      eprint={2104.13638},
      archivePrefix={arXiv},
      primaryClass={cs.LG}
}

• Zenodo 软件引用

@software{manu_joseph_2023_7554473,
  author       = {Manu Joseph、Jinu Sunil、Jiri Borovec、Chris Fonnesbeck、jxtrbtk、Andreas、JulianRein、Kushashwa Ravi Shrimali、Luca Actis Grosso、Sterling G. Baird、Yinyu Nie},
  title        = {manujosephv/pytorch_tabular：v1.0.1},
  month        = 一月,
  year         = 2023,
  publisher    = {Zenodo},
  version      = {v1.0.1},
  doi          = {10.5281/zenodo.7554473},
  url          = {https://doi.org/10.5281/zenodo.7554473}
}

PyTorch Tabular 快速上手指南

PyTorch Tabular 是一个用于表格数据深度学习的统一接口库。它基于 PyTorch Lightning 构建，提供了高层 API，支持在 GPU 或 CPU 上扩展训练，并具备自动日志记录功能，旨在让表格数据的深度学习变得简单、易用且易于部署。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS, 或 Windows
• Python 版本：3.8 及以上
• 前置依赖：
  • PyTorch：强烈建议先单独安装适合您机器 CUDA 版本的 PyTorch。
  • PyTorch Lightning：将随库自动安装或需预先安装。

提示：国内用户访问 PyTorch 官网可能较慢，建议使用清华或中科大镜像源安装 PyTorch。 例如使用 pip 安装（CPU 版本示例）： pip install torch torchvision torchaudio --index-url https://pypi.tuna.tsinghua.edu.cn/simple 请访问 PyTorch 官网 获取适合您显卡驱动的具体安装命令。

安装步骤

安装 PyTorch Tabular 有两种方式，根据您的需求选择：

1. 安装基础版（仅核心功能）

如果您只需要最核心的深度学习功能：

pip install -U "pytorch_tabular"

2. 安装完整版（推荐）

包含额外依赖（如 Weights & Biases 用于实验追踪，Plotly 用于可视化），适合大多数开发场景：

pip install -U "pytorch_tabular[extra]"

国内加速提示：如果 pip 下载速度慢，可添加清华镜像源参数： pip install -U "pytorch_tabular[extra]" -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 从源码安装（可选）

如果您需要最新开发版或贡献代码：

git clone git://github.com/manujosephv/pytorch_tabular
cd pytorch_tabular && pip install .[extra]

基本使用

以下是使用 PyTorch Tabular 进行分类任务的最简示例。该流程涵盖了配置定义、模型初始化、训练、评估及预测。

from pytorch_tabular import TabularModel
from pytorch_tabular.models import CategoryEmbeddingModelConfig
from pytorch_tabular.config import (
    DataConfig,
    OptimizerConfig,
    TrainerConfig,
    ExperimentConfig,
)

# 1. 配置数据
# target 必须是列表格式
data_config = DataConfig(
    target=["target"],  
    continuous_cols=num_col_names,  # 替换为您的数值列名列表
    categorical_cols=cat_col_names, # 替换为您的类别列名列表
)

# 2. 配置训练器
trainer_config = TrainerConfig(
    auto_lr_find=True,  # 自动寻找最佳学习率
    batch_size=1024,
    max_epochs=100,
)

# 3. 配置优化器
optimizer_config = OptimizerConfig()

# 4. 配置模型
# 这里使用的是带类别嵌入的前馈神经网络
model_config = CategoryEmbeddingModelConfig(
    task="classification",
    layers="1024-512-512",  # 每层的节点数
    activation="LeakyReLU", # 激活函数
    learning_rate=1e-3,
)

# 5. 初始化模型
tabular_model = TabularModel(
    data_config=data_config,
    model_config=model_config,
    optimizer_config=optimizer_config,
    trainer_config=trainer_config,
)

# 6. 训练模型
# train 和 val 应为 Pandas DataFrame
tabular_model.fit(train=train, validation=val)

# 7. 评估模型
result = tabular_model.evaluate(test)

# 8. 进行预测
pred_df = tabular_model.predict(test)

# 9. 保存与加载模型
tabular_model.save_model("examples/basic")
loaded_model = TabularModel.load_model("examples/basic")

核心步骤说明：

1. 配置化设计：通过 DataConfig, TrainerConfig, OptimizerConfig, ModelConfig 分别管理数据、训练、优化器和模型结构，逻辑清晰。
2. 自动化特性：设置 auto_lr_find=True 可自动推导最佳学习率，减少调参工作量。
3. 统一接口：无论底层更换何种架构（如 TabNet, NODE, Transformer 等），调用 fit, evaluate, predict 的方式保持一致。