动态卷积：卷积核上的注意力机制（CVPR-2020）

论文：动态卷积：卷积核上的注意力机制

动态卷积论文合集
非官方实现代码
Pytorch!!!Pytorch!!!Pytorch!!! 动态3D/2D卷积及部分模型的准确率。
2020年8月30日 基础的动态2D和3D卷积已完成。接下来：一些基础模型及其准确率。
代码实现原理：https://zhuanlan.zhihu.com/p/208519425
如果遇到问题，可先查看Issue中的相关修改。 dy_vgg11:0.9033 raw_vgg11:0.8929

Dynamic-convolution-Pytorch 快速上手指南

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux / macOS / Windows
• Python 版本：建议 Python 3.6+
• 核心依赖：
  • PyTorch (推荐最新稳定版)
  • torchvision
• 硬件建议：如需训练模型或运行 3D 卷积，建议使用支持 CUDA 的 NVIDIA GPU。

国内加速建议：推荐使用清华源或阿里源安装依赖，以提升下载速度。

pip install torch torchvision -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

本项目为非官方实现代码，直接克隆仓库即可使用，无需额外的 setup.py 安装流程。

1. 克隆仓库

   git clone https://github.com/kaijieshi7/Dynamic-convolution-Pytorch.git
   cd Dynamic-convolution-Pytorch
   

2. 验证环境 确保已安装 PyTorch 并能正常导入：

   import torch
   print(torch.__version__)
   

基本使用

本库主要提供了动态 2D 和 3D 卷积的实现。您可以直接在自定义模型中替换标准的 nn.Conv2d 或 nn.Conv3d。

1. 导入模块

假设项目结构中包含动态卷积的核心定义文件（通常位于根目录或 models 文件夹下），请在代码中引入：

import torch
import torch.nn as nn
# 根据实际文件路径调整导入方式，例如：
# from dynamic_conv import DynamicConv2d 

2. 构建模型示例

以下是一个简单的替换示例，展示如何将普通卷积层替换为动态卷积层（具体类名请以仓库内实际代码为准，参考 README 中的 dy_vgg11 实现）：

class SimpleDynamicModel(nn.Module):
    def __init__(self):
        super(SimpleDynamicModel, self).__init__()
        # 标准卷积
        # self.conv1 = nn.Conv2d(3, 64, kernel_size=3, padding=1)
        
        # 替换为动态卷积 (参数需根据实际实现调整)
        # 注意：此处仅为示意，具体初始化参数请参考仓库内的 dy_vgg11 实现
        self.dyn_conv1 = DynamicConv2d(in_channels=3, out_channels=64, kernel_size=3, padding=1)
        
        self.relu = nn.ReLU()
        self.pool = nn.AdaptiveAvgPool2d((1, 1))
        self.fc = nn.Linear(64, 10)

    def forward(self, x):
        x = self.dyn_conv1(x)
        x = self.relu(x)
        x = self.pool(x)
        x = x.view(x.size(0), -1)
        x = self.fc(x)
        return x

3. 运行测试

创建一个输入张量并前向传播以验证功能：

model = SimpleDynamicModel()
input_tensor = torch.randn(1, 3, 32, 32) # Batch=1, Channel=3, H=32, W=32

output = model(input_tensor)
print(f"Output shape: {output.shape}")

提示：关于具体的模型架构（如 VGG11 的动态版本）及精度复现，请参考仓库内的具体模型文件及知乎原理详解：代码实现原理。如遇报错，请先查看仓库 Issues 中已有的修复方案。