MobileNetV3 的 PyTorch 实现

我使用一些新颖的技巧以及 timm 对 MobileNetV3 进行了重新训练。 在这个项目中，我还提供了训练代码、预训练权重和训练日志。

请使用 torch.load 来加载模型。

from mobilenetv3 import MobileNetV3_Small, MobileNetV3_Large

# MobileNetV3_Small
net = MobileNetV3_Small()
net.load_state_dict(torch.load("450_act3_mobilenetv3_small.pth", map_location='cpu'))

# MobileNetV3_Large
net = MobileNetV3_Large()
net.load_state_dict(torch.load("450_act3_mobilenetv3_large.pth", map_location='cpu'))

你可以通过以下代码复现该模型。

nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_small --epochs 300 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_small --epochs 450 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_large --epochs 300 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_large --epochs 450 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

这是根据论文 Searching for MobileNetV3 中描述的 MobileNetV3 架构实现的 PyTorch 版本。

部分细节可能与原始论文有所不同，欢迎讨论并帮助我进一步完善。

MobileNetV3

	Madds	参数量	Top1 准确率
Small（论文）	66 M	2.9 M	67.4%
Small（torchvision）	62 M	2.5 M	67.7%
Small（我们 300 轮）	69 M	3.0 M	68.9%
Small（我们 450 轮）	69 M	3.0 M	69.2%
Large（论文）	219 M	5.4 M	75.2%
Large（torchvision）	235 M	5.5 M	74.0%
Large（我们 300 轮）	241 M	5.2 M	75.6%
Large（我们 450 轮）	241 M	5.2 M	75.9%

MobileNetV3 快速上手指南

本指南基于 PyTorch 实现的 MobileNetV3 模型，包含经过优化训练的小型（Small）和大型（Large）版本预训练权重及复现代码。

环境准备

• 系统要求：Linux / macOS / Windows
• Python 版本：建议 Python 3.8+
• 核心依赖：
  • PyTorch (建议 1.8+)
  • torchvision
  • timm (Hugging Face PyTorch Image Models)
  • CUDA (可选，用于 GPU 加速)

安装依赖命令：

pip install torch torchvision timm
# 国内用户推荐使用清华源加速安装
pip install torch torchvision timm -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

1. 克隆或下载本项目代码到本地。
2. 确保项目目录中包含 mobilenetv3.py 模型定义文件以及预训练权重文件（如 450_act3_mobilenetv3_small.pth）。
3. 无需额外编译，直接通过 Python 导入即可使用。

基本使用

以下是加载预训练模型进行推理的最简示例。请确保权重文件路径正确。

1. 导入模型与加载权重

import torch
from mobilenetv3 import MobileNetV3_Small, MobileNetV3_Large

# --- 加载 MobileNetV3_Small ---
net_small = MobileNetV3_Small()
# 请替换为实际的权重文件路径
net_small.load_state_dict(torch.load("450_act3_mobilenetv3_small.pth", map_location='cpu'))
net_small.eval()  # 切换到评估模式

# --- 加载 MobileNetV3_Large ---
net_large = MobileNetV3_Large()
# 请替换为实际的权重文件路径
net_large.load_state_dict(torch.load("450_act3_mobilenetv3_large.pth", map_location='cpu'))
net_large.eval()  # 切换到评估模式

2. 模型复现与训练（可选）

若需从头复现模型或使用分布式训练，可参考以下命令。以下示例展示了在 8 卡环境下训练 Small 和 Large 模型的不同配置（300 epoch 与 450 epoch）。

注意：请修改 --data_path 为你的 ImageNet 数据集路径。

# 训练 MobileNetV3 Small (300 epochs)
nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_small --epochs 300 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

# 训练 MobileNetV3 Small (450 epochs)
nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_small --epochs 450 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

# 训练 MobileNetV3 Large (300 epochs)
nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_large --epochs 300 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

# 训练 MobileNetV3 Large (450 epochs)
nohup python -u -m torch.distributed.run --nproc_per_node=8 main.py --model mobilenet_v3_large --epochs 450 --batch_size 256 --lr 4e-3 --update_freq 2 --model_ema false --model_ema_eval false --use_amp true --data_path /data/benchmarks/ILSVRC2012 --output_dir ./checkpoint &

性能参考

本项目提供的模型在 ImageNet 上的 Top-1 准确率表现如下：

• Small (450 epoch): 69.2%
• Large (450 epoch): 75.9%