ResNeXt.pytorch

使用 PyTorch 复现了 ResNet-V3（用于深度神经网络的聚合残差变换）。

• 已在 PyTorch 1.6 上测试
• 可在 Cifar10 和 Cifar100 数据集上训练
• 上传了 Cifar 训练曲线
• 上传了 Cifar 训练好的模型
• 支持 PyTorch 0.4.0
• 尚未在 ImageNet 上训练

下载

git clone https://github.com/prlz77/resnext.pytorch
cd resnext.pytorch
# 若要保持向后兼容性，可检出 R4.0 或 R3.0 版本（不推荐）。

使用方法

使用 2 张 GPU 在 Cifar-10 上训练：

python train.py ~/DATASETS/cifar.python cifar10 -s ./snapshots --log ./logs --ngpu 2 --learning_rate 0.05 -b 128

在 Cifar-10 上应能达到 ~3.65% 的错误率，在 Cifar-100 上则约为 ~17.77%。

训练完成后，可以检查保存的模型。

感谢 @AppleHolic，我们现在提供了一个测试脚本：

使用 2 张 GPU 在 Cifar-10 上进行测试：

python test.py ~/DATASETS/cifar.python cifar10 --ngpu 2 --load ./snapshots/model.pytorch --test_bs 128 

配置

摘自原始论文：

卡迪纳尔数	基础宽度	参数量	Cifar10 错误率	Cifar100 错误率	默认
8	64	34.4M	3.65	17.77	x
16	64	68.1M	3.58	17.31

更新： widen_factor 已从 base_width 中分离出来，因为原设计容易混淆。现在 widen_factor 固定为 4，而 base_width 与原始论文中的设置一致。

训练好的模型和曲线

链接 提供了与以下曲线对应的训练好的模型：

更新： 在 Mega 上训练模型之后，又推送了若干提交，因此建议回退到 e10c37d8cf7a958048bc0f58cd86c3e8ac4e707d 版本。

其他框架

• PyTorch (@facebookresearch)。（原始实现）支持 Cifar 和 ImageNet
• Caffe (@terrychenism)。仅支持 ImageNet
• MXNet (@dmlc)。仅支持 ImageNet

引用

@article{xie2016aggregated,
  title={Aggregated residual transformations for deep neural networks},
  author={Xie, Saining and Girshick, Ross and Doll{\'a}r, Piotr and Tu, Zhuowen and He, Kaiming},
  journal={arXiv preprint arXiv:1611.05431},
  year={2016}
}

ResNeXt.pytorch 快速上手指南

环境准备

• 系统要求：Linux 或 macOS（Windows 需自行配置 PyTorch 环境）。
• 核心依赖：
  • Python 3.x
  • PyTorch >= 1.6 (已在 1.6 版本测试通过，也兼容 0.4.0)
  • torchvision
• 数据集：需预先准备好 CIFAR-10 或 CIFAR-100 数据集（Python 格式）。

提示：国内用户建议使用清华源或阿里源加速安装依赖：

pip install torch torchvision -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

克隆项目仓库并进入目录：

git clone https://github.com/prlz77/resnext.pytorch
cd resnext.pytorch
# 如需向后兼容旧版本可切换分支，但推荐使用默认主分支
# git checkout R4.0 

基本使用

1. 训练模型 (Training)

以下命令演示如何在 CIFAR-10 数据集上使用 2 块 GPU 进行训练。请替换 ~/DATASETS/cifar.python 为你本地的数据集路径。

python train.py ~/DATASETS/cifar.python cifar10 -s ./snapshots --log ./logs --ngpu 2 --learning_rate 0.05 -b 128

• 预期效果：在 CIFAR-10 上误差率约为 3.65%，在 CIFAR-100 上约为 17.77%。
• 参数说明：
  • -s ./snapshots：模型保存路径。
  • --ngpu 2：使用的 GPU 数量。
  • -b 128：Batch Size。

2. 测试模型 (Testing)

训练完成后，使用以下命令加载保存的模型进行测试：

python test.py ~/DATASETS/cifar.python cifar10 --ngpu 2 --load ./snapshots/model.pytorch --test_bs 128 

• --load ./snapshots/model.pytorch：指定加载的训练好的模型文件路径。

3. 模型配置参考

根据原论文，默认配置（Cardinality=8, Base Width=64）参数量约为 34.4M。若需更高精度，可调整配置（如 Cardinality=16），但参数量将增加至约 68.1M。具体参数需在代码中相应修改。