fft-conv-pytorch

在 PyTorch 中实现一维、二维和三维的 FFT 卷积。

• 对于大卷积核，比直接卷积更快。
• 对于小卷积核，则慢得多。
• 根据我的本地测试，当卷积核包含 100 多个元素时，FFT 卷积通常会更快。
  • 具体速度还取决于机器配置和 PyTorch 版本。
  • 更多信息请参阅下方的基准测试结果。

安装

使用 pip：

pip install fft-conv-pytorch

从源码安装：

git clone https://github.com/fkodom/fft-conv-pytorch.git
cd fft-conv-pytorch
pip install .

使用示例

import torch
from fft_conv_pytorch import fft_conv, FFTConv1d

# 创建虚拟数据。  
#     数据形状：(batch, channels, length)
#     卷积核形状：(out_channels, in_channels, kernel_size)
#     偏置形状：(out channels, )
# 对于普通的 1D 卷积，只需将 batch 设置为 1。
signal = torch.randn(3, 3, 1024 * 1024)
kernel = torch.randn(2, 3, 128)
bias = torch.randn(2)

# 函数式调用。（适用于通用场景，最简单。）
out = fft_conv(signal, kernel, bias=bias)

# 面向对象调用。（需要额外一些工作，因为这些类是为神经网络设计的。）
fft_conv = FFTConv1d(3, 2, 128, bias=True)
fft_conv.weight = torch.nn.Parameter(kernel)
fft_conv.bias = torch.nn.Parameter(bias)
out = fft_conv(signal)

基准测试

对一维、二维和三维的 FFT 卷积与 PyTorch 的直接卷积进行了基准测试。具体时间会因本地硬件而异，但卷积核大小对性能的影响趋势始终一致。

维度	输入尺寸	输入通道数	输出通道数	偏置	填充	步幅	膨胀率
1	(4096)	4	4	True	0	1	1
2	(512, 512)	4	4	True	0	1	1
3	(64, 64, 64)	4	4	True	0	1	1

fft-conv-pytorch 快速上手指南

fft-conv-pytorch 是一个基于 PyTorch 实现的 1D、2D 和 3D 快速傅里叶变换（FFT）卷积库。它专为大尺寸卷积核设计，当卷积核元素数量超过约 100 个时，其速度显著优于 PyTorch 原生直接卷积；但对于小卷积核，其性能会明显较慢。

环境准备

在使用本工具前，请确保满足以下系统要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：建议 Python 3.7+
• 核心依赖：
  • torch (PyTorch)
  • numpy (通常随 PyTorch 自动安装)

注意：实际加速效果取决于您的硬件配置及 PyTorch 版本。建议在正式使用前参考官方基准测试，确认您的场景（大卷积核）能从中获益。

安装步骤

您可以通过 pip 直接安装，或从源码安装。国内开发者推荐使用清华源或阿里源以加速下载。

方式一：使用 pip 安装（推荐）

pip install fft-conv-pytorch -i https://pypi.tuna.tsinghua.edu.cn/simple

方式二：从源码安装

git clone https://github.com/fkodom/fft-conv-pytorch.git
cd fft-conv-pytorch
pip install . -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

本库提供两种使用方式：函数式调用（通用场景最简单）和面向对象调用（适用于构建神经网络模块）。

以下是最简单的 1D 卷积使用示例：

import torch
from fft_conv_pytorch import fft_conv, FFTConv1d

# 创建模拟数据
# 数据形状: (batch, channels, length)
# 卷积核形状: (out_channels, in_channels, kernel_size)
# 偏置形状: (out_channels, )
signal = torch.randn(3, 3, 1024 * 1024)
kernel = torch.randn(2, 3, 128)
bias = torch.randn(2)

# 方法 1: 函数式执行 (推荐用于通用场景)
out = fft_conv(signal, kernel, bias=bias)

# 方法 2: 面向对象执行 (适用于神经网络层)
# 初始化层：输入通道=3, 输出通道=2, 卷积核大小=128
fft_layer = FFTConv1d(3, 2, 128, bias=True)

# 将权重和偏置载入模型参数
fft_layer.weight = torch.nn.Parameter(kernel)
fft_layer.bias = torch.nn.Parameter(bias)

# 执行前向传播
out = fft_layer(signal)

提示：对于普通的 1D 卷积需求，只需将 batch 维度设为 1 即可。请确保您的卷积核足够大（例如本例中的 128），以发挥 FFT 卷积的性能优势。