超越卷积

OctaveConv_pytorch

最新算子的 PyTorch 实现

这是以下论文的第三方（非官方）实现。

1. 放弃八度：通过八度卷积减少卷积神经网络中的空间冗余（ICCV 2019）。 论文
2. 自适应连接神经网络（CVPR 2019）。 论文
3. Res2net：一种新的多尺度骨干网络架构（PAMI 2019）。 论文
4. ScaleNet：面向尺度聚合网络的数据驱动神经元分配（CVPR 2019）。 论文
5. SRM：一种基于风格的卷积神经网络重新校准模块 论文
6. SEnet：挤压-激励网络（CVPR 2018）论文
7. GEnet：在卷积神经网络中利用特征上下文（NIPS 2018）论文
8. ECA-Net：用于深度卷积神经网络的高效通道注意力机制 论文
9. SK-Net：选择性卷积网络（CVPR 2019）论文
10. 更多网络将陆续加入。

计划

1. 添加带有 SE 层的 Res2Net 模块（已完成）
2. 添加自适应卷积：包括像素感知和数据集感知两种类型（已完成）
3. 在 ImageNet 数据集上训练代码。（已完成）
4. 添加类似 SE 的模型。（已完成）
5. 持续关注新提出的算子。（待完成）

使用方法

请查看 fig/nn 文件夹下的模型文件。

from lib.nn.OCtaveResnet import resnet50
from lib.nn.res2net import se_resnet50
from lib.nn.AdaptiveConvResnet import PixelAwareResnet50, DataSetAwareResnet50

model = resnet50().cuda()
model = se_resnet50().cuda()
model = PixelAwareResnet50().cuda()
model = DataSetAwareResnet50().cuda()

训练

详细信息请参阅 exp 文件夹。

检查点

参考与引用：

1. OctaveConv：MXNet 实现 这里
2. AdaptiveCov：官方 TensorFlow 实现 这里
3. ScaleNet：这里
4. SGENet：这里

请在您的研究中使用此代码时，考虑引用作者的论文。

许可证

MIT 许可证

OctaveConv_pytorch 快速上手指南

OctaveConv_pytorch 是一个非官方的第三方 PyTorch 实现库，集成了多种先进的卷积神经网络算子，包括 Octave Convolution、Adaptive Connected Neural Networks、Res2Net、ScaleNet 以及多种注意力机制（如 SE-Net, ECA-Net, SK-Net 等）。本指南将帮助你快速配置环境并调用这些模型。

环境准备

在开始之前，请确保你的开发环境满足以下要求：

• 操作系统: Linux (推荐 Ubuntu 18.04+) 或 macOS
• Python 版本: Python 3.6 或更高版本
• 深度学习框架: PyTorch 1.0+ (需包含 CUDA 支持以使用 .cuda())
• 前置依赖:
  • torch
  • torchvision
  • numpy

国内加速建议： 推荐使用清华源或阿里源安装 PyTorch 及相关依赖，以提升下载速度。

pip install torch torchvision -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

由于该项目主要为代码实现库，通常无需复杂的编译安装过程，只需克隆仓库并确保目录结构正确即可。

1. 克隆项目代码

   git clone https://github.com/lxtGH/OctaveConv_pytorch.git
   cd OctaveConv_pytorch
   

2. 验证目录结构 确保项目根目录下存在 lib 文件夹，且模型定义位于 lib/nn/ 路径下。如果缺少依赖包，请在项目根目录下运行：

   pip install -r requirements.txt
   

   (注：若项目中无 requirements.txt 文件，请确保已手动安装上述“环境准备”中列出的核心依赖)

基本使用

该库提供了封装好的模型类，可以直接导入并实例化。以下是加载不同架构模型的最简示例。

注意：使用前请确保当前工作目录包含 lib 文件夹，或将 lib 添加到 Python 路径中。

import torch
from lib.nn.OCTaveResnet import resnet50
from lib.nn.res2net import se_resnet50
from lib.nn.AdaptiveConvResnet import PixelAwareResnet50, DataSetAwareResnet50

# 检查是否有可用的 GPU
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

# 1. 加载基础 Octave ResNet-50
model_octave = resnet50().to(device)

# 2. 加载带有 SE 层的 Res2Net-50
model_res2net = se_resnet50().to(device)

# 3. 加载自适应卷积模型 (像素感知)
model_pixel_aware = PixelAwareResnet50().to(device)

# 4. 加载自适应卷积模型 (数据集感知)
model_dataset_aware = DataSetAwareResnet50().to(device)

# 简单测试前向传播 (假设输入为 batch_size=1, 3 通道, 224x224 的图片)
dummy_input = torch.randn(1, 3, 224, 224).to(device)

with torch.no_grad():
    output = model_octave(dummy_input)
    print(f"Output shape: {output.shape}")

更多详细的训练脚本和实验配置，请参考项目中的 exp 文件夹。