Hailo 模型库

.. |python| image:: https://img.shields.io/badge/python-3.10%20%7C%203.11%20%7C%203.12-blue.svg :target: https://www.python.org/downloads/release/python-3123/ :alt: Python 3.12 :width: 150 :height: 20

.. |tensorflow| image:: https://img.shields.io/badge/Tensorflow-2.19.1-blue.svg :target: https://github.com/tensorflow/tensorflow/releases/tag/v2.19.1 :alt: Tensorflow :width: 110 :height: 20

.. |cuda| image:: https://img.shields.io/badge/CUDA-12.5.1-blue.svg :target: https://developer.nvidia.com/cuda-toolkit :alt: Cuda :width: 80 :height: 20

.. |compiler| image:: https://img.shields.io/badge/Hailo%20Dataflow%20Compiler-5.3.0-brightgreen.svg :target: https://hailo.ai/company-overview/contact-us/ :alt: Hailo 数据流编译器 :width: 180 :height: 20

.. |runtime| image:: https://img.shields.io/badge/HailoRT%20(optional)-5.3.0-brightgreen.svg :target: https://hailo.ai/company-overview/contact-us/ :alt: HailoRT :width: 170 :height: 20

.. |license| image:: https://img.shields.io/badge/License-MIT-yellow.svg :target: https://github.com/hailo-ai/hailo_model_zoo/blob/master/LICENSE :alt: 许可证：MIT :width: 80 :height: 20

.. image:: docs/images/logo.png

|python| |tensorflow| |cuda| |compiler| |runtime| |license|

Hailo 模型库提供了用于高性能深度学习应用的预训练模型。通过使用 Hailo 模型库，您可以测量每个模型的全精度准确率、使用 Hailo 模拟器进行量化后的准确率，以及在 Hailo 设备上的准确率。最后，您还可以生成 Hailo 可执行格式（HEF）二进制文件，以加速开发并构建基于 Hailo 技术的高质量应用。此外，Hailo 模型库还提供重新训练指南，帮助用户在自定义数据集上训练模型，或将针对特定用例在内部数据集上训练的模型进行微调。

模型 Hailo 提供多种 ONNX 和 TF 格式的预训练模型，以及可在 Hailo 设备上直接运行的预编译 HEF（Hailo 可执行格式）二进制文件。

这些模型分为：

• 公开模型 - 这些模型是在公开可用的数据集上训练的。

  • 对于 Hailo-15H：分类 <docs/public_models/HAILO15H/HAILO15H_classification.rst>、目标检测 <docs/public_models/HAILO15H/HAILO15H_object_detection.rst>、语义分割 <docs/public_models/HAILO15H/HAILO15H_semantic_segmentation.rst>、其他任务 <docs/PUBLIC_MODELS.rst>

  • 对于 Hailo-10H：分类 <docs/public_models/HAILO10H/HAILO10H_classification.rst>、目标检测 <docs/public_models/HAILO10H/HAILO10H_object_detection.rst>、语义分割 <docs/public_models/HAILO10H/HAILO10H_semantic_segmentation.rst>、其他任务 <docs/PUBLIC_MODELS.rst>

  • 对于 Hailo-15L：分类 <docs/public_models/HAILO15L/HAILO15L_classification.rst>、目标检测 <docs/public_models/HAILO15L/HAILO15L_object_detection.rst>、语义分割 <docs/public_models/HAILO15L/HAILO15L_semantic_segmentation.rst>、其他任务 <docs/PUBLIC_MODELS.rst>

  ⚙️ 兼容性说明： Hailo-8 和 Hailo-8L 设备支持 Hailo 模型库 v2.x 分支，并需配合 Hailo 数据流编译器 v3.x 分支使用。而 master 分支则仅适用于 Hailo-10 和 Hailo-15 设备。

  • 对于 Hailo-8：分类 <docs/public_models/HAILO8/HAILO8_classification.rst>、目标检测 <docs/public_models/HAILO8/HAILO8_object_detection.rst>、语义分割 <docs/public_models/HAILO8/HAILO8_semantic_segmentation.rst>、其他任务 <docs/PUBLIC_MODELS.rst>

  • 对于 Hailo-8L：分类 <docs/public_models/HAILO8L/HAILO8L_classification.rst>、目标检测 <docs/public_models/HAILO8L/HAILO8L_object_detection.rst>、语义分割 <docs/public_models/HAILO8L/HAILO8L_semantic_segmentation.rst>、其他任务 <docs/PUBLIC_MODELS.rst>

• | HAILO 模型 <docs/HAILO_MODELS.rst>_ 是在内部数据集上为特定用例训练的。 | 每个 Hailo 模型都附有重新训练指导。

最新内容

核心栈更新 本版本与最新的 Hailo 软件栈版本保持一致，确保兼容性和性能提升。

• 升级到数据流编译器 v5.3.0

• 升级到 HailoRT v5.3.0

新增模型支持 我们扩展了模型库，加入了用于目标检测和实例分割的最先进架构：

• YOLOv11-obb <https://arxiv.org/pdf/2410.17725v1>_ - 新增支持带方向边界框的目标检测模型——YOLOv11-obb 系列
• YOLO26 <https://arxiv.org/abs/2509.25164>_ - 一个新的目标检测和实例分割模型家族。该新架构无需 NMS。
• PaddleOCR-v5 <https://arxiv.org/abs/2507.05595>_ - 新增对 paddle_ocr_v5_mobile_detection 和 paddle_ocr_v5_mobile_recognition 的支持，适用于 Hailo-15L 硬件架构，并提升了 Hailo-10H/Hailo-15H 的 FPS。
• YOLOv5-seg-hpp - 新增支持使用 HailoRT 后处理的实例分割模型——yolov5n_seg_hpp、yolov5s_seg_hpp、yolov5m_seg_hpp。

重新训练

Hailo 还提供 重新训练指南 <docs/RETRAIN_ON_CUSTOM_DATASET.rst>_，帮助用户使用自定义数据集对 Hailo 模型库中的网络进行训练。

基准测试

| Hailo 的基准测试列表可在 hailo.ai <https://hailo.ai/developer-zone/benchmarks/>_ 上找到。 | 若要复现相关测量结果，请参阅以下 页面 <docs/BENCHMARKS.rst>_。

快速入门指南

• 安装 Hailo 数据流编译器并进入虚拟环境。如果您不是 Hailo 客户，请联系 hailo.ai <https://hailo.ai/company-overview/contact-us/>_

• 安装 HailoRT（可选）。仅当您希望在 Hailo 设备上运行时才需要安装。如果您不是 Hailo 客户，请联系 hailo.ai <https://hailo.ai/company-overview/contact-us/>_

• 克隆 Hailo 模型库

  .. code-block::

  git clone https://github.com/hailo-ai/hailo_model_zoo.git
  

• 运行安装脚本

  .. code-block::

  cd hailo_model_zoo; pip install -e .

• 运行 Hailo 模型库。例如，打印 MobileNet-v1 模型的信息：

  .. code-block::

  hailomz info mobilenet_v1

开始使用 ^^^^^^^^^^^^^^^

如需完整功能，请参阅 安装指南 <docs/GETTING_STARTED.rst>_ 页面（包含完整的安装说明和使用示例）。Hailo 模型库使用 Hailo 数据流编译器来解析、优化、模拟和编译深度学习模型。完整功能包括：

• | 解析：将输入模型转换为 Hailo 的内部表示。
• | 性能分析器：生成模型的性能分析报告。该报告包含关于您的模型以及在 Hailo 硬件上预期性能的信息。
• | 优化：针对推理优化深度学习模型，并将输入模型转换为压缩的整数表示形式。 | 欲了解更多信息，请参阅我们的 优化 <docs/OPTIMIZATION.rst>_ 页面。
• | 编译：运行 Hailo 编译器，生成可在 Hailo 硬件上执行的 Hailo 可执行格式文件 (HEF)。
• | 评估：使用 Hailo 模拟器或 Hailo 硬件对模型进行推理，并得出模型的准确率。

如需了解更多关于 Hailo 数据流编译器的信息，请联系 hailo.ai <https://hailo.ai/company-overview/contact-us/>_。

.. figure:: docs/images/usage_flow.svg

许可证

Hailo 模型库采用 MIT 许可证发布。更多信息请参阅 LICENSE <https://github.com/hailo-ai/hailo_model_zoo/blob/master/LICENSE>_ 文件。

支持与问题

⚠️ 此仓库已禁用问题报告功能。

如需提交 bug 报告、功能请求或参与讨论，请访问我们的 Hailo 社区论坛 <https://community.hailo.ai/>_。

变更日志

欲了解更多信息，请参阅我们的 CHANGELOG <docs/CHANGELOG.rst>_ 页面。

---

Hailo Model Zoo 快速上手指南

Hailo Model Zoo 提供了针对 Hailo 高性能深度学习加速器优化的预训练模型。本指南将帮助您快速搭建环境、安装工具并运行第一个模型示例。

1. 环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Linux (推荐 Ubuntu)
• Python 版本: 3.10, 3.11 或 3.12
• 核心依赖:
  • TensorFlow 2.19.1
  • CUDA 12.5.1 (如需 GPU 加速)
  • Hailo Dataflow Compiler v5.3.0 (必需，用于模型解析、优化和编译)
  • HailoRT v5.3.0 (可选，仅当需要在真实 Hailo 硬件上运行时需要)

注意：

• 如果您不是 Hailo 的客户，请访问 Hailo 官网 联系获取编译器及运行时环境的访问权限。
• 设备兼容性提示：当前 master 分支主要支持 Hailo-10 和 Hailo-15 系列设备。如果您使用的是 Hailo-8 或 Hailo-8L 设备，请使用 Hailo Model Zoo v2.x 分支配合 Hailo Dataflow Compiler v3.x。

2. 安装步骤

请按照以下步骤克隆仓库并安装依赖：

1. 克隆仓库

   git clone https://github.com/hailo-ai/hailo_model_zoo.git
   

2. 进入目录并安装 建议使用 Python 虚拟环境进行隔离安装。

   cd hailo_model_zoo
   pip install -e .
   

   (注：如果国内网络下载依赖较慢，可临时指定清华源：pip install -e . -i https://pypi.tuna.tsinghua.edu.cn/simple)

3. 验证安装 安装完成后，确保已激活包含 Hailo Dataflow Compiler 的环境。

3. 基本使用

安装成功后，您可以使用 hailomz 命令行工具来管理模型。以下是最简单的使用示例，用于查看 MobileNet-v1 模型的详细信息：

hailomz info mobilenet_v1

核心工作流程

对于更高级的使用，Hailo Model Zoo 基于 Hailo Dataflow Compiler 提供以下完整流程：

• Parse (解析): 将输入模型转换为 Hailo 内部表示。
• Profiler (性能分析): 生成模型在 Hailo 硬件上的预期性能报告。
• Optimize (优化): 对模型进行量化优化，生成压缩的整数表示。
• Compile (编译): 生成可在 Hailo 硬件上执行的二进制文件 (HEF)。
• Evaluate (评估): 使用模拟器或真实硬件推理模型并计算精度。

如需完整的安装说明、自定义数据集重训练教程及更多使用示例，请参阅项目文档中的 docs/GETTING_STARTED.rst。