通道剪枝用于加速超深神经网络

GitHub - yihui-he/channel-pruning: 通道剪枝用于加速超深神经网络 (ICCV'17)

通道剪枝用于加速超深神经网络

ICCV 2017，由 Yihui He、Xiangyu Zhang 和 Jian Sun 共同完成。

请查看我们在深度模型压缩方面的最新工作：

• AMC：面向移动设备的模型压缩与加速自动化机器学习 ECCV’18，该方法结合了通道剪枝和强化学习，进一步加速卷积神经网络。代码和模型均已公开！
• AddressNet：基于移位操作的高效卷积神经网络原语 WACV’19。我们提出了一类基于移位操作的高效网络。
• MoBiNet：用于图像分类的移动端二值化网络 WACV’20，一种二值化的MobileNet。

在本仓库中，我们发布了以下模型的代码：

模型	加速倍数	准确率
https://github.com/yihui-he/channel-pruning/releases/tag/channel_pruning_5x	5倍	Top-5 88.1%，Top-1 67.8%
https://github.com/yihui-he/channel-pruning/releases/tag/VGG-16_3C4x	4倍	Top-5 89.9%，Top-1 70.6%
https://github.com/yihui-he/channel-pruning/releases/tag/ResNet-50-2X	2倍	Top-5 90.8%，Top-1 72.3%
https://github.com/yihui-he/channel-pruning/releases/tag/faster-RCNN-2X4X	2倍	AP@.50:.05:.95 36.7
https://github.com/yihui-he/channel-pruning/releases/tag/faster-RCNN-2X4X	4倍	AP@.50:.05:.95 35.1

3C 方法结合了空间分解（参见《利用低秩展开加速卷积神经网络》）和通道分解（参见《加速用于分类和检测的超深卷积神经网络》）（详见 4.1.2 节）。

引用

如果您在研究中使用了这些代码，请考虑引用以下文献：

@InProceedings{He_2017_ICCV,
author = {He, Yihui and Zhang, Xiangyu and Sun, Jian},
title = {Channel Pruning for Accelerating Very Deep Neural Networks},
booktitle = {The IEEE International Conference on Computer Vision (ICCV)},
month = {Oct},
year = {2017}
}

环境要求

1. 您可能尚未安装的 Python3 包：scipy、sklearn、easydict，可使用 sudo pip3 install 进行安装。
2. 使用 128 的批量大小进行微调时，需要 4 块 GPU（每块约 11GB 显存）。

安装说明（适用于演示）

1. 克隆仓库

   # 请务必使用 --recursive 选项克隆
    git clone --recursive https://github.com/yihui-he/channel-pruning.git
   

2. 构建我的 Caffe 分支（支持双三次插值，并将图像短边调整为 256 后裁剪为 224×224）

   cd caffe
   
    # 如果您熟悉 Caffe 并已安装所有依赖项，则只需执行：
    make all -j8 && make pycaffe
    # 或者按照此处的 Caffe 安装说明进行操作：
    # http://caffe.berkeleyvision.org/installation.html
   
    # 如果您之前已经安装过 Caffe，可能需要将 pycaffe 添加到 PYTHONPATH 中
   

3. 下载 ImageNet 分类数据集 http://www.image-net.org/download-images

4. 在 temp/vgg.prototxt 文件中指定 ImageNet 数据源路径（第 12 行和第 36 行）。

通道剪枝

为了快速测试，您可以直接下载剪枝后的模型。请参阅【下一节】关于可下载的剪枝模型 1. 下载原始的 VGG-16 模型 http://www.robots.ox.ac.uk/~vgg/software/very_deep/caffe/VGG_ILSVRC_16_layers.caffemodel 将其移动至 temp/vgg.caffemodel（或创建一个软链接代替）。

1. 开始通道剪枝

   python3 train.py -action c3 -caffe [GPU0]
    # 或通过 ./run.sh 记录日志：python3 train.py -action c3 -caffe [GPU0]
    # 将 [GPU0] 替换为实际的 GPU 设备编号，如 0、1 或 2
   

2. 将部分因子化层合并以进一步压缩模型，并计算加速比。将 temp/cb_3c_3C4x_mem_bn_vgg.prototxt 中的 ImageData 层替换为 [temp/vgg.prototxt 中的](https://github.com/yihui-he/channel-pruning/blob/master/temp/vgg.prototxt#L1-L49) Shell ./combine.sh | xargs ./calflop.sh

3. 微调

   caffe train -solver temp/solver.prototxt -weights temp/cb_3c_vgg.caffemodel -gpu [GPU0,GPU1,GPU2,GPU3]
    # 将 [GPU0,GPU1,GPU2,GPU3] 替换为实际的 GPU 设备编号，如 0、1、2、3
   

4. 测试

   虽然测试通常在微调过程中进行，但您也可以随时使用以下命令进行测试：

   caffe test -model path/to/prototxt -weights path/to/caffemodel -iterations 5000 -gpu [GPU0]
    # 将 [GPU0] 替换为实际的 GPU 设备编号，如 0、1 或 2
   

   剪枝后的模型（可供下载）

   为了快速测试，您可以直接从 发布页面 下载剪枝后的模型：VGG-16 3C 4X、VGG-16 5X、ResNet-50 2X。或者通过百度网盘提供的下载链接：Download link

测试示例：

caffe test -model channel_pruning_VGG-16_3C4x.prototxt -weights channel_pruning_VGG-16_3C4x.caffemodel -iterations 5000 -gpu [GPU0]
# 将 [GPU0] 替换为实际的 GPU 设备编号，如 0、1 或 2

Faster R-CNN 的剪枝

为了快速测试，您可以直接从 发布页面 下载剪枝后的模型。 或者您也可以：1. 克隆我的 py-faster-rcnn 仓库：https://github.com/yihui-he/py-faster-rcnn；2. 使用本仓库中的 剪枝模型 来训练 2 倍和 4 倍加速的 Faster R-CNN，其求解器 prototxt 文件位于 https://github.com/yihui-he/py-faster-rcnn/tree/master/models/pascal_voc。

常见问题解答

您可以在我们的 Github wiki 中找到一些常见问题的答案，或者直接创建一个新的 issue。

Channel Pruning 快速上手指南

Channel Pruning 是一种用于加速深度神经网络（如 VGG、ResNet）的通道剪枝技术，源自 ICCV 2017 论文。本指南帮助你快速搭建环境并运行剪枝流程。

环境准备

系统要求：

• 操作系统：Linux (推荐 Ubuntu)
• Python 版本：Python 3
• GPU：建议配备 4 张 GPU（每张显存约 11GB），以支持 batch size 128 的微调训练。

前置依赖： 安装必要的 Python 包：

sudo pip3 install scipy sklearn easydict

数据集：

• 下载 ImageNet 分类数据集：http://www.image-net.org/download-images
• 注：国内用户可使用镜像源或自行寻找公开镜像加速下载。

安装步骤

1. 克隆仓库 务必使用 --recursive 参数以获取子模块：

git clone --recursive https://github.com/yihui-he/channel-pruning.git
cd channel-pruning

2. 编译 Caffe 框架 本项目依赖作者修改版的 Caffe（支持双三次插值及特定图像预处理）。

cd caffe

# 若已具备 Caffe 所有依赖，直接编译：
make all -j8 && make pycaffe

# 若未安装 Caffe 依赖，请参考官方文档：
# http://caffe.berkeleyvision.org/installation.html

提示：编译完成后，可能需要将 pycaffe 路径添加到 PYTHONPATH 环境变量中。

3. 配置数据集路径 打开 temp/vgg.prototxt 文件，修改第 12 行和第 36 行，将 source 路径指向你本地的 ImageNet 数据目录。

基本使用

以下以 VGG-16 模型为例，演示从加载预训练模型到完成剪枝微调的流程。

1. 准备预训练模型 下载原始 VGG-16 模型并放置到指定位置：

# 下载地址：http://www.robots.ox.ac.uk/~vgg/software/very_deep/caffe/VGG_ILSVRC_16_layers.caffemodel
# 将下载的文件移动或软链接到 temp/vgg.caffemodel
mv VGG_ILSVRC_16_layers.caffemodel temp/vgg.caffemodel

2. 执行通道剪枝 开始剪枝过程（请将 [GPU0] 替换为实际可用的 GPU 编号，如 0）：

python3 train.py -action c3 -caffe [GPU0]
# 或者使用脚本记录日志：
# ./run.sh python3 train.py -action c3 -caffe [GPU0]

3. 层融合与加速比计算 合并部分分解层以进一步压缩，并计算加速比例：

# 替换 temp/cb_3c_3C4x_mem_bn_vgg.prototxt 中的 ImageData 层为 temp/vgg.prototxt 的配置
# 然后执行：
./combine.sh | xargs ./calflop.sh

4. 微调模型 (Finetuning) 使用剪枝后的权重进行微调（支持多 GPU，如 0,1,2,3）：

caffe train -solver temp/solver.prototxt -weights temp/cb_3c_vgg.caffemodel -gpu [GPU0,GPU1,GPU2,GPU3]

5. 测试模型 微调过程中会自动测试，也可手动运行测试命令：

caffe test -model path/to/prototxt -weights path/to/caffemodel -iterations 5000 -gpu [GPU0]

快捷方式：若仅需测试效果，可直接从 Release 页面 下载已剪枝好的模型（如 VGG-16 4x, ResNet-50 2x 等），直接使用上述测试命令即可。