弃用通知：我们衷心感谢社区对 ONNX Model Zoo 项目的参与和支持。随着机器学习生态系统的不断发展，许多新颖的模型共享已成功迁移至 Hugging Face 平台，该平台目前保持着活跃且健康的态势。我们仅将 ONNX Model Zoo 仓库保留用于历史记录目的。请注意，自 2025 年 7 月 1 日起，模型将不再可通过 LFS 下载。您仍可访问原本在此仓库中提供的模型，请前往 https://huggingface.co/onnxmodelzoo。

ONNX 模型库

简介

欢迎来到 ONNX 模型库！开放神经网络交换格式（ONNX）是一种开放标准格式，旨在表示机器学习模型。在强大的合作伙伴社区支持下，ONNX 定义了一组通用算子和一种通用文件格式，使 AI 开发人员能够在多种框架、工具、运行时和编译器之间使用模型。

本仓库是一个精选的预训练、最先进的 ONNX 格式模型集合。这些模型来自知名的开源项目，并由多元化的社区成员贡献。我们的目标是促进机器学习模型在更广泛的开发者、研究人员和爱好者群体中的传播与应用。

由于 ONNX 模型文件可能较大，我们使用 Git LFS（大文件存储）来管理这些文件。

模型

目前，我们正在通过纳入以下类别中的更多模型来扩展 ONNX 模型库。鉴于我们正在严格验证新模型的准确性，请参阅下方已成功通过准确性验证的[已验证模型]：

• 计算机视觉
• 自然语言处理（NLP）
• 生成式 AI
• 图机器学习

这些模型来源于诸如 timm、torchvision、torch_hub 和 transformers 等知名开源项目，并使用开源的 TurnkeyML 工具链 导出为 ONNX 格式。

已验证模型

视觉

• 图像分类
• 目标检测与图像分割
• 人体、人脸与手势分析
• 图像处理

语言

• 机器阅读理解
• 机器翻译
• 语言建模

其他

• 视觉问答与对话
• 语音与音频处理
• 其他有趣模型

请阅读下方的使用说明部分，了解更多关于 ONNX 模型库中文件格式（.onnx、.pb、.npz）、通过Git LFS 命令行下载多个 ONNX 模型，以及使用测试数据验证 ONNX 模型的入门 Python 代码的信息。

INT8 模型由 Intel® Neural Compressor 生成。Intel® Neural Compressor 是一个开源的 Python 库，支持自动的精度驱动调优策略，帮助用户快速找到最佳量化模型。它为 ONNX 模型实现了动态和静态量化，并能以算子导向和张量导向（QDQ）两种方式表示量化后的 ONNX 模型。用户可以通过基于 Web 的 UI 服务或 Python 代码进行量化操作。更多详情请参阅简介。

图像分类

这一系列模型以图像作为输入，然后将图像中的主要物体分类到1000个类别中，例如键盘、鼠标、铅笔以及许多动物。

模型类别	参考文献	描述	Huggingface Spaces
MobileNet	Sandler等	轻量级深度神经网络，最适合移动和嵌入式视觉应用。 论文中的Top-5错误率约为10%
ResNet	He等	一种CNN模型（最多152层）。使用捷径连接在图像分类时达到更高的准确率。 论文中的Top-5错误率约为3.6%
SqueezeNet	Iandola等	一种轻量级CNN模型，在参数数量减少50倍的情况下仍能提供AlexNet级别的准确率。 论文中的Top-5错误率约为20%
VGG	Simonyan等	深度CNN模型（最多19层）。与AlexNet类似，但使用多个较小的卷积核，从而在图像分类时提供更高的准确率。 论文中的Top-5错误率约为8%
AlexNet	Krizhevsky等	一种深度CNN模型（最多8层），输入为图像，输出为一个包含1000个数字的向量。 论文中的Top-5错误率约为15%
GoogleNet	Szegedy等	深度CNN模型（最多22层）。相比VGG更小、更快，而在细节刻画上又比AlexNet更准确。 论文中的Top-5错误率约为6.7%
CaffeNet	Krizhevsky等	AlexNet的深度CNN变体，用于Caffe中的图像分类，其中最大池化先于局部响应归一化（LRN），从而使LRN占用更少的计算资源和内存。
RCNN_ILSVRC13	Girshick等	R-CNN的纯Caffe实现，用于图像分类。该模型利用区域定位来对图像进行分类并提取特征。
DenseNet-121	Huang等	一种每层都与其他所有层相连的模型，能够传递自身的特征，从而提供更强的梯度流动和更丰富的特征。 Top-5错误率约为6.7%
Inception_V1	Szegedy等	该模型与GoogLeNet相同，通过Caffe2实现，改进了网络内部计算资源的利用率，并有助于缓解梯度消失问题。 论文中的Top-5错误率约为6.7%
Inception_V2	Szegedy等	一种针对图像分类的深度CNN模型，是Inception v1的改进版本，加入了批量归一化。与Inception v1相比，该模型降低了计算成本并提高了图像分辨率。 论文中的Top-5错误率约为4.82%
ShuffleNet_V1	Zhang等	一种极其高效的CNN模型，专为移动设备设计。该模型大大减少了计算成本，在基于ARM的移动设备上比AlexNet快约13倍。与MobileNet相比，ShuffleNet凭借其高效的结构取得了显著的优势。 论文中的Top-1错误率约为32.6%
ShuffleNet_V2	Zhang等	一种极其高效的CNN模型，专为移动设备设计。该网络架构设计考虑的是直接指标，如速度，而不是间接指标，如FLOP。 论文中的Top-1错误率约为30.6%
ZFNet-512	Zeiler等	一种深度CNN模型（最多8层），增加了网络能够检测的特征数量，从而帮助在网络分辨率更高的情况下提取图像特征。 论文中的Top-5错误率约为14.3%
EfficientNet-Lite4	Tan等	一种计算和参数数量都大幅减少的CNN模型，同时仍能达到最先进的准确率，并且比之前的ConvNet效率更高。 论文中的Top-5错误率约为2.9%

---

领域特定图像分类

目标检测与图像分割

目标检测模型用于检测图像中是否存在多个对象，并分割出检测到对象的区域。语义分割模型则通过为每个像素分配预定义的类别标签，将输入图像划分为不同的区域。

模型类别	参考文献	描述	Hugging Face Spaces
Tiny YOLOv2	Redmon等	一种实时目标检测CNN，可检测20个不同类别。它是更复杂的完整YOLOv2网络的一个较小版本。
SSD	Liu等	单阶段检测器：一种实时目标检测CNN，可检测80个不同类别。
SSD-MobileNetV1	Howard等	MobileNet的一种变体，使用单次检测器（SSD）模型框架。该模型可检测80个不同物体类别，并在一张图像中定位最多10个物体。
Faster-RCNN	Ren等	通过将RPN与CNN连接，形成一个统一的目标检测网络，从而提高了R-CNN的效率，可检测80个不同类别。
Mask-RCNN	He等	一种实时目标实例分割神经网络，可检测80个不同类别。它扩展了Faster R-CNN，对选出的300个ROI分别进行三个并行分支的处理：类别预测、边界框预测和掩码预测。
RetinaNet	Lin等	一种实时密集型目标检测网络，通过焦点损失解决类别不平衡问题。RetinaNet能够达到之前单阶段检测器的速度，并在双阶段检测器中树立了新的标杆（超越R-CNN）。
YOLO v2-coco	Redmon等	一种用于实时目标检测系统的CNN模型，可检测超过9000个物体类别。它采用单次网络评估，速度比R-CNN快1000多倍，比Faster R-CNN快100倍。该模型使用COCO数据集训练，包含80个类别。
YOLO v3	Redmon等	一种深度CNN模型，用于实时目标检测，可检测80个不同类别。比YOLOv2稍大，但仍非常快速。准确度与SSD相当，但速度快3倍。
Tiny YOLOv3	Redmon等	YOLOv3模型的一个较小版本。
YOLOv4	Bochkovskiy等	优化了目标检测的速度和精度。速度是EfficientDet的两倍。它将YOLOv3的AP和FPS分别提高了10%和12%，在COCO 2017数据集上的mAP50为52.32，Tesla V100上的FPS为41.7。
DUC	Wang等	基于深度CNN的逐像素语义分割模型，mIOU（平均交并比）超过80%。该模型在cityscapes数据集上训练，可有效应用于自动驾驶车辆系统。
FCN	Long等	一种端到端、逐像素训练的深度CNN分割模型，具有高效的推理和学习能力。基于AlexNet、VGG网络和GoogLeNet分类方法构建。 贡献

---

身体、面部及手势分析

面部检测模型用于识别和/或在给定图像中识别人脸及其情感。身体和手势分析模型则用于识别图像中的性别和年龄。

模型类别	参考文献	描述	Hugging Face Spaces
ArcFace	Deng等	一种基于CNN的面部识别模型，能够学习人脸的判别特征，并为输入的面部图像生成嵌入向量。
UltraFace	超轻量级面部检测模型	该模型是一种专为边缘计算设备设计的轻量级面部检测模型。
Emotion FerPlus	Barsoum等	一种基于深度CNN的情感识别模型，基于人脸图像进行训练。
基于卷积神经网络的年龄与性别分类	Rothe等	该模型即使在训练数据有限的情况下，也能准确地对性别和年龄进行分类。

---

图像处理

图像处理模型利用神经网络将输入图像转换为经过修改的输出图像。这一类别中一些流行的模型涉及风格迁移或通过提高分辨率来增强图像。

模型类别	参考文献	描述	Hugging Face Spaces
基于循环一致对抗网络的无配对图像到图像翻译	Zhu 等	该模型在缺乏成对示例的情况下，学习将源域 X 中的图像转换为目标域 Y 中的图像。 贡献
基于亚像素卷积神经网络的超分辨率	Shi 等	一种使用亚像素卷积层来放大输入图像的深度卷积神经网络。
快速神经风格迁移	Johnson 等	该方法使用一个用于图像分类的预训练损失网络来定义感知损失函数，以衡量图像内容和风格之间的感知差异。在训练过程中，该损失网络保持固定不变。

---

语音与音频处理

机器阅读理解

这是自然语言处理模型的一个子集，能够根据给定的上下文段落回答问题。

模型类别	参考文献	描述	Hugging Face Spaces
双向注意力流	Seo 等	一种根据给定的上下文段落回答问题的模型。
BERT-SQuAD	Devlin 等	该模型根据给定输入段落的上下文回答问题。
RoBERTa	Liu 等	一种基于 Transformer 的大型模型，可根据给定的文本预测情感倾向。
GPT-2	Radford 等	一种基于 Transformer 的大型语言模型，给定一段文本中的词序列，可预测下一个词。
T5	Raffel 等	一种基于 Transformer 的大型语言模型，同时在多个任务上进行训练，以更好地理解提示的语义，能够进行情感分析、问答、相似度检测、翻译、摘要等任务。

---

机器翻译

语言建模

视觉问答与对话

其他有趣的模型

有许多有趣的深度学习模型并不符合上述分类。ONNX 团队非常鼓励用户和研究人员将他们的模型 贡献 到不断增长的模型库中。

使用

import numpy as np
import onnx
import os
import glob
import onnx_backend as backend

from onnx import numpy_helper

model = onnx.load('model.onnx')
test_data_dir = 'test_data_set_0'

# 加载输入
inputs = []
inputs_num = len(glob.glob(os.path.join(test_data_dir, 'input_*.pb')))
for i in range(inputs_num):
    input_file = os.path.join(test_data_dir, 'input_{}.pb'.format(i))
    tensor = onnx.TensorProto()
    with open(input_file, 'rb') as f:
        tensor.ParseFromString(f.read())
    inputs.append(numpy_helper.to_array(tensor))

# 加载参考输出
ref_outputs = []
ref_outputs_num = len(glob.glob(os.path.join(test_data_dir, 'output_*.pb')))
for i in range(ref_outputs_num):
    output_file = os.path.join(test_data_dir, 'output_{}.pb'.format(i))
    tensor = onnx.TensorProto()
    with open(output_file, 'rb') as f:
        tensor.ParseFromString(f.read())
    ref_outputs.append(numpy_helper.to_array(tensor))

# 在后端运行模型
outputs = list(backend.run_model(model, inputs))

# 将结果与参考输出进行比较。
for ref_o, o in zip(ref_outputs, outputs):
    np.testing.assert_almost_equal(ref_o, o)

import numpy as np
import onnx
import onnx_backend as backend

# 加载模型以及样本输入和输出
model = onnx.load(model_pb_path)
sample = np.load(npz_path, encoding='bytes')
inputs = list(sample['inputs'])
outputs = list(sample['outputs'])

# 使用 ONNX 后端运行模型并验证结果
np.testing.assert_almost_equal(outputs, backend.run_model(model, inputs))

您可以使用 Intel® Neural Compressor 获取量化后的 ONNX 模型。它提供基于 Web 的 UI 服务，使量化更加简便，并支持基于代码的使用方式以实现更丰富的量化设置。有关如何使用基于 Web 的 UI 服务，请参阅 bench 文档，有关简单的基于代码的演示，请参阅 示例文档。

使用

访问 ONNX 模型库有多种方式：

Git 克隆（不推荐）

使用 git 克隆仓库时，由于 ONNX 模型文件体积较大，不会自动下载这些模型。要管理这些文件，首先需要安装 Git LFS，运行以下命令：

pip install git-lfs

要下载特定模型：

git lfs pull --include="[模型路径].onnx" --exclude=""

要下载所有模型：

git lfs pull --include="*" --exclude=""

GitHub 网页界面

此外，您也可以直接从 GitHub 下载模型。导航到相应模型的页面，然后点击右上角的“Download”按钮。

模型可视化

为了以图形化方式展示每个模型的架构，我们推荐使用 Netron。

贡献

欢迎为 ONNX 模型库做出贡献！请查看我们的贡献指南，了解如何参与本资源的建设与改进。

感谢您对 ONNX 模型库的关注，我们期待您的加入！

许可证

Apache License v2.0

ONNX Model Zoo 快速上手指南

重要提示：ONNX Model Zoo 仓库目前已进入归档维护状态，不再新增模型。自 2025 年 7 月 1 日起，将停止通过 Git LFS 提供模型下载。

• 推荐方案：请访问 Hugging Face ONNX Model Zoo 获取所有历史及最新模型。
• 国内加速：中国开发者建议使用 Hugging Face 镜像站 或配置 HF_ENDPOINT 环境变量以加速下载。

本指南旨在帮助开发者快速获取并使用仓库中经过验证的预训练 ONNX 模型（如 ResNet, YOLO, BERT 等）。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python：版本 3.8 及以上
• Git & Git LFS：必须安装 Git Large File Storage (LFS) 以拉取大型模型文件
• 核心依赖：
  • onnx: 用于加载和验证模型结构
  • onnxruntime: 用于推理执行
  • numpy: 用于数据处理

安装前置依赖

# 安装 Git LFS (以 Ubuntu/Debian 为例，其他系统请参考官方文档)
sudo apt-get install git-lfs
git lfs install

# 创建虚拟环境并安装 Python 依赖
python -m venv onnx-env
source onnx-env/bin/activate  # Windows 用户请使用: onnx-env\Scripts\activate

# 安装核心库 (推荐使用国内镜像源加速)
pip install onnx onnxruntime numpy -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤 (获取模型)

由于原仓库已停止 LFS 服务，强烈建议直接从 Hugging Face 下载模型。

方法一：使用 Hugging Face CLI (推荐)

# 安装 huggingface hub 工具
pip install huggingface_hub -i https://pypi.tuna.tsinghua.edu.cn/simple

# 设置国内镜像加速 (可选但推荐)
export HF_ENDPOINT=https://hf-mirror.com

# 下载特定模型 (例如 ResNet-50)
# 注意：将 <model_path> 替换为 Hugging Face 上的具体模型路径
huggingface-cli download --repo-type model onnxmodelzoo/resnet-50 --local-dir ./models/resnet-50

方法二：直接下载 .onnx 文件

如果您只需单个模型文件，可直接在 Hugging Face ONNX Model Zoo 页面找到对应的 .onnx 文件并下载，或使用 wget/curl：

# 示例：下载 ResNet-50 模型 (链接仅为示例，请以官网最新链接为准)
wget https://huggingface.co/onnxmodelzoo/resnet-50/resolve/main/resnet-50.onnx

基本使用

以下是一个最简单的 Python 示例，展示如何加载一个图像分类模型（如 ResNet）并进行推理。

1. 准备测试数据

确保你有一张测试图片（例如 test.jpg），或者使用随机生成的符合模型输入形状的数据。

2. 运行推理代码

创建一个名为 infer.py 的文件，写入以下代码：

import onnx
import onnxruntime as ort
import numpy as np
from PIL import Image

# 1. 加载模型
model_path = "resnet-50.onnx"  # 替换为你下载的模型路径
session = ort.InferenceSession(model_path)

# 2. 获取模型输入信息
input_name = session.get_inputs()[0].name
input_shape = session.get_inputs()[0].shape
# 假设形状为 [batch, channel, height, width]，去除 batch 维度处理单张图片
height, width = input_shape[2], input_shape[3]

# 3. 预处理图片 (以 ResNet 为例，需调整大小并归一化)
# 实际使用时请根据具体模型的预处理要求调整
image = Image.open("test.jpg").convert("RGB")
image = image.resize((width, height))
image_data = np.array(image).astype(np.float32)
image_data = np.transpose(image_data, (2, 0, 1)) / 255.0  # HWC -> CHW & Normalize
image_data = np.expand_dims(image_data, axis=0)  # Add batch dimension

# 4. 执行推理
outputs = session.run(None, {input_name: image_data})

# 5. 处理结果
result = outputs[0]
print(f"输出形状：{result.shape}")
print(f"预测分数前 5 类索引：{np.argsort(result[0])[-5:][::-1]}")

3. 运行脚本

python infer.py

如果一切正常，终端将输出模型的预测结果索引。您可以结合 ImageNet 标签表将这些索引转换为具体的类别名称（如 "cat", "dog" 等）。