中文说明

:rocket: 如果对你有帮助，请点个赞！ :star:

Ncnn在移动端的部署，支持：YOLOv5s、YOLOv4-tiny、MobileNetV2-YOLOv3-nano、Simple-Pose、Yolact、ChineseOCR-lite、ENet、Landmark106、DBFace、MBNv2-FCN以及MBNv3-Seg-small等模型的摄像头端运行。

iOS:

• Xcode 12.4
• macOS 11.2.3
• iPhone 6sp 13.5.1

Android:

• Android Studio 4.1
• Win10 20H2
• CPU:Qualcomm 710 GPU:Adreno 616

iOS

直接在界面上选择要测试的模型。

Android

直接在界面上选择要测试的模型。

模型列表

模型	安卓	iOS	来源	其他
YOLOv5s	是	是	Github	TNN
YOLOv4-tiny	是	是	Github
YOLOv3-nano	是	是	Github
YOLOv5s_custom_op	是	是	zhihu
NanoDet	是	是	Github	TNN MNN
YOLO-Fastest-xl	是	是	Github
Simple-Pose	是	是	Github
Yolact	是	是	Github zhihu
ChineseOCR_lite	是	是	Github zhihu
ENet	问题	取消	Github
Landmark106	是	是	Github
DBFace	是	是	Github
MBNv2-FCN	是	是	Github
MBNv3-Seg-small	是	是	Github
Light_OpenPose	是	是	Github

iOS:

• 将“android_YOLOV5_NCNN\app\src\main\assets”中的.param和.bin文件复制到“iOS_YOLOv5NCNN\YOLOv5NCNN\res”目录下。
• 如果提示无法找到net.h文件，则需要从ncnn官方网站下载，或自行编译20201208版本的.framework并替换项目中的文件。若opencv2.framework(4.3.0)有用，也需要重新下载并替换到项目中。
• iOS默认使用的库不包含Vulkan和bitcode。
• 通常情况下，需要重新下载ncnn.framework/glslang.framework/openmp.framework/opencv2.framework，并替换到项目中。
• 关于Vulkan的配置，请参考Issues中提到的一般配置。

安卓：

• 由于手机性能和图片大小等因素，不同手机上的帧率差异较大。本项目主要测试NCNN框架的使用。对于具体模型的转换，可以前往NCNN官方查看转换教程。
• 由于OpenCV库体积过大，仅保留了arm64-v8a/armeabi-v7a版本。如果需要其他版本，请前往官方下载。
• NCNN暂时使用Vulkan版本，加载前需要开启加速功能，但本项目中未开启。若想使用NCNN版本，需修改CMakeLists.txt配置。
• 不同版本的Android Studio在编译时可能会出现各种问题。若无法解决编译错误，建议使用Android Studio 4.0或更高版本尝试。
• NCNN已更新至新版本，其中包含了官方提供的CMake导入方式。

本项目更侧重于实践各类模型的使用与部署，在速度方面并未做过多优化。若对速度有要求，可以直接获取YUV等数据进行直接输入，或采用纹理、OpenGL等方式实现数据输入，从而减少中间数据的传输与转换。

本地转换（不会上传模型）：xxxx -> ncnn

极简版OpenCV：opencv-mobile

:art: 截图

安卓	iOS

安卓

mbnv2-yolov3-nano	yolov4-tiny	yolov5s

simple_pose	yolact	chineseocr_lite_01

chineseocr_lite_02	ENet	yoloface500k-landmark106

dbface	mbnv2_fcn	mbnv3_seg_small

yolov5s_custom_op	nanodet	yolo-fastest-xl

light_openpose

iOS

mbnv2-yolov3-nano	yolov4-tiny	yolov5s

yolov5s_custom_op	nanodet	yolo-fastest-xl

mbnv2_fcn	mbnv3_seg_small	simple_pose

chineseocr_lite_01	chineseocr_lite_02	light_openpose

yolact	yoloface500k-landmark106	dbface

感谢：

• sunnyden, dog-qiuqiu, ..., nihui
• https://github.com/Tencent/ncnn

YOLOv5_NCNN 快速上手指南

YOLOv5_NCNN 是一个基于 NCNN 框架的移动端 AI 部署项目，支持在 Android 和 iOS 设备上运行多种轻量级模型（如 YOLOv5s, YOLOv4-tiny, NanoDet, 中文 OCR 等）。

1. 环境准备

系统要求

• iOS 开发:
  • macOS 11.2.3 或更高版本
  • Xcode 12.4 或更高版本
  • 测试设备：iPhone 6sp (iOS 13.5.1) 及以上
• Android 开发:
  • Windows 10 (20H2) 或 Linux/macOS
  • Android Studio 4.0 或更高版本（推荐 4.1+）
  • 测试设备：ARM64-v8a 架构手机（如搭载 Qualcomm 710 CPU / Adreno 616 GPU 的设备）

前置依赖

本项目主要依赖以下框架，若编译报错缺失框架，需从 NCNN 或 OpenCV 官方下载并替换到项目中：

• NCNN Framework: 推荐版本 20201208 或更新（含 Vulkan 支持需自行编译配置）。
• OpenCV Mobile: 仅保留 arm64-v8a 和 armeabi-v7a 库以减小体积。
• 其他框架 (iOS 可能需要): glslang.framework, openmp.framework.

注意: iOS 默认库不包含 Vulkan 和 Bitcode，如需启用 GPU 加速或特定架构，请重新下载对应版本的 .framework 文件替换项目中的旧文件。

2. 安装与构建步骤

Android 端

1. 克隆项目:

   git clone https://github.com/cmdbug/YOLOv5_NCNN.git
   

2. 导入项目: 打开 Android Studio，选择 File -> Open，选中项目根目录。
3. 配置构建:
   • 确保 CMakeLists.txt 配置正确（新版 NCNN 已包含官方 CMake 导入方式）。
   • 如需启用 Vulkan 加速，需修改 CMakeLists.txt 开启相关选项（默认未开启）。
4. 编译运行: 连接安卓设备，点击 Run 按钮进行编译安装。
   • 注: 不同 AS 版本可能存在兼容性问题，若编译失败，建议尝试 Android Studio 4.0 或 4.1。

iOS 端

1. 准备模型文件: 将 Android 项目中的模型文件复制到 iOS 资源目录：

   # 假设已在本地克隆项目
   cp android_YOLOV5_NCNN/app/src/main/assets/*.param iOS_YOLOv5NCNN/YOLOv5NCNN/res/
   cp android_YOLOV5_NCNN/app/src/main/assets/*.bin iOS_YOLOv5NCNN/YOLOv5NCNN/res/
   

2. 检查依赖框架: 打开 iOS_YOLOv5NCNN.xcodeproj。若提示找不到 net.h 或缺少 .framework：
   • 前往 NCNN 官网 或 OpenCV Mobile 下载对应版本。
   • 替换项目中的 ncnn.framework, opencv2.framework 等文件。
3. 编译运行: 在 Xcode 中选择目标设备，点击 Run (⌘R) 进行编译安装。

3. 基本使用

本项目旨在演示模型的部署与调用，无需编写复杂代码即可通过界面交互测试。

运行流程

1. 启动应用: 在真机上安装并打开 App。
2. 选择模型:
   • 直接在应用主界面的下拉菜单或列表中，选择需要测试的模型（例如 YOLOv5s, NanoDet, ChineseOCR_lite 等）。
   • 支持的模型列表参考项目 README 中的 Models 表格。
3. 开始检测:
   • 授权摄像头权限。
   • 应用将自动调用摄像头画面进行实时推理，并在屏幕上渲染检测结果（边界框、关键点、分割掩码或文字识别结果）。

模型转换（自定义模型）

如果需要部署自己的模型，请使用在线工具或本地工具转换为 NCNN 格式：

• 在线转换: https://convertmodel.com/
• 操作流程: 上传 PyTorch/Caffe 等源模型 -> 转换为 .param 和 .bin -> 放入项目的 assets (Android) 或 res (iOS) 目录 -> 重新编译或在支持动态加载的界面中选择。

性能优化提示

• 当前项目主要用于功能验证，未对数据预处理做极致优化。
• 若对 FPS 有极高要求，建议直接获取 YUV 数据输入，或利用 Texture/OpenGL 减少中间数据拷贝。