MobileNet

GitHub
1.7k 470 较难 1 次阅读 3天前Apache-2.0图像开发框架
AI 解读 由 AI 自动生成,仅供参考

MobileNet 是一款基于 TensorFlow 构建的高效卷积神经网络,专为移动设备和嵌入式视觉应用设计。它核心解决了传统深度学习模型在算力有限、存储空间小的移动端难以部署的难题,通过独特的“深度可分离卷积”架构,在大幅降低计算量和参数规模的同时,依然保持了出色的图像识别准确率。

该项目不仅复现了谷歌官方的 MobileNet 算法,还提供了完整的训练脚本、预训练权重以及针对物体检测任务的扩展实现。其技术亮点在于极致的轻量化与速度优化:支持 8 位量化压缩,并针对 CPU(如 AVX2 指令集)和 GPU 进行了深度加速,使得在普通硬件上也能实现毫秒级的推理速度。此外,项目还集成了 YellowFin 优化器以辅助训练调优。

MobileNet 非常适合需要在手机端、IoT 设备或边缘计算节点上部署视觉功能的开发者与研究人员使用。无论是进行图像分类、物体检测的实验验证,还是开发实际的移动端 AI 应用,它都能提供高效、灵活且易于上手的技术底座。

使用场景

某初创团队正在开发一款面向物流仓库的实时货物识别 App,需要在低端安卓手机上运行图像分类模型以快速盘点库存。

没有 MobileNet 时

  • 推理延迟极高:传统卷积神经网络在移动端 CPU 上单次前向传播耗时超过 300ms,导致摄像头画面严重卡顿,无法实现流畅的实时检测。
  • 设备兼容性差:模型参数量大且计算密集,老旧仓库手持终端因内存不足频繁崩溃,迫使团队不得不淘汰大量现有设备。
  • 功耗与发热严重:高算力需求导致手机电池在半小时内耗尽,且设备严重发烫,一线工作人员难以长时间连续作业。
  • 部署成本高昂:为了维持基本性能,团队被迫将计算任务全部卸载到云端服务器,不仅增加了网络带宽成本,还引入了不稳定的网络延迟。

使用 MobileNet 后

  • 毫秒级实时响应:利用深度可分离卷积技术,在同等 CPU 环境下将单次推理时间压缩至 20-50ms,实现了丝滑的 30fps 实时识别体验。
  • 广泛设备支持:模型参数量仅约 330 万,极低的内存占用使得五年前的低端安卓设备也能稳定运行,保护了客户的硬件投资。
  • 低功耗长续航:高效的计算架构大幅降低了能耗,设备连续工作 4 小时仅消耗少量电量,且机身保持温凉,满足全天候作业需求。
  • 纯端侧高效部署:凭借轻量级特性,模型可直接嵌入本地应用,彻底摆脱了对云端算力和稳定网络的依赖,数据隐私性也得到提升。

MobileNet 通过极致的轻量化设计,成功将高精度的视觉能力从服务器下沉至资源受限的移动终端,让实时 AI 应用真正落地普及。

运行环境要求

操作系统
  • Linux
GPU
  • 非必需(支持 CPU 运行)
  • 如需 GPU 加速,需 NVIDIA GTX1060 或更高,搭配 CUDA 8.0 和 cuDNN 5.1
内存

未说明

依赖
notes该工具基于 TensorFlow 1.x 版本(测试环境为 TF 1.0.1 和 1.1.0),若在较新环境中运行可能面临兼容性问题。CPU 运行时建议开启 AVX2 指令集优化或使用量化(8-bits)以提升速度。训练 ImageNet 数据集需要大量计算资源,作者曾呼吁提供 GPU 资源。模型参数量约为 330 万,使用 RMSprop 优化器时检查点文件大小约为模型大小的 3 倍。
python未说明
tensorflow>=1.0.1
tensorflow-slim
MobileNet hero image

快速开始

MobileNet

这是 Google 的 MobileNets:用于移动视觉应用的高效卷积神经网络 的 TensorFlow 实现。

官方实现可在 tensorflow/models 中找到。

目标检测的官方实现现已发布,详情请参见 tensorflow/models/object_detection

新闻

YellowFin 优化器已被集成,但我目前没有 GPU 资源来使用它在 ImageNet 上进行训练。诚邀合作训练 ~_~

官方实现 点击此处

基础模块



在 ImageNet-2012 验证集上的准确率

模型 宽度乘数 预处理 Top-1 准确率 Top-5 准确率
MobileNet 1.0 与 Inception 相同 66.51% 87.09%

下载预训练权重:OneDrive, BaiduYun

损失



时间基准测试

环境:Ubuntu 16.04 LTS,Xeon E3-1231 v3,4 核 @ 3.40GHz,GTX1060。

TF 1.0.1(原生 pip 安装),TF 1.1.0(从源码编译,优化标志为 '-mavx2')

设备 前向传播 前向-反向传播 指令集 量化 BN 融合 备注
CPU 52ms 503ms - - - TF 1.0.1
CPU 44ms 177ms - - 开启 TF 1.0.1
CPU 31ms - - 8位 - TF 1.0.1
CPU 26ms 75ms AVX2 - - TF 1.1.0
CPU 128ms - AVX2 8位 - TF 1.1.0
CPU 19ms 89ms AVX2 - 开启 TF 1.1.0
GPU 3ms 16ms - - - TF 1.0.1,CUDA8.0,CUDNN5.1
GPU 3ms 15ms - - 开启 TF 1.0.1,CUDA8.0,CUDNN5.1

图像尺寸:(224, 224, 3),批量大小:1

使用方法

在 ImageNet 上训练

  1. 准备 ImageNet 数据。请参考 Google 的 Inception 训练教程

  2. 根据您的环境修改 './script/train_mobilenet_on_imagenet.sh'。

bash ./script/train_mobilenet_on_imagenet.sh

基准测试速度

python ./scripts/time_benchmark.py

训练 MobileNet 目标检测器(调试中)

  1. 准备 KITTI 数据。

下载 KITTI 数据后,需要将其划分为训练集和验证集。

cd /path/to/kitti_root
mkdir ImageSets
cd ./ImageSets
ls ../training/image_2/ | grep ".png" | sed s/.png// > trainval.txt
python ./tools/kitti_random_split_train_val.py

此时 kitti_root 文件夹应如下所示:

kitti_root/
                  |->training/
                  |     |-> image_2/00****.png
                  |     L-> label_2/00****.txt
                  |->testing/
                  |     L-> image_2/00****.png
                  L->ImageSets/
                        |-> trainval.txt
                        |-> train.txt
                        L-> val.txt

然后将其转换为 tfrecord 格式。

python ./tools/tf_convert_data.py
  1. 根据您的环境修改 './script/train_mobilenet_on_kitti.sh'。
bash ./script/train_mobilenetdet_on_kitti.sh

本项目的代码主要基于 SqueezeDet 和 SSD-Tensorflow。 如果您发现任何问题,欢迎反馈。

故障排除

  1. 关于 MobileNet 模型大小

根据论文,MobileNet 有 330 万个参数,这一数量不随输入分辨率变化。这意味着由于全连接层的存在,最终模型的参数数量应超过 330 万。使用 RMSprop 训练策略时,检查点文件的大小几乎是模型大小的三倍,因为 RMSprop 使用了一些辅助参数。您可以使用 inspect_checkpoint.py 来确认这一点。

  1. Slim 多 GPU 性能问题

#1390 #1428

待办事项

  • 在 ImageNet 上训练
  • 添加宽度乘数超参数
  • 报告训练结果
  • 集成到目标检测任务中(正在进行中)

参考文献

MobileNets:用于移动视觉应用的高效卷积神经网络

SSD-Tensorflow

SqueezeDet

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|1周前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|2周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

160.4k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

109.2k|★★☆☆☆|昨天
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|1周前
插件Agent图像

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|1周前
插件开发框架