flutter_tflite

GitHub
641 443 中等 2 次阅读 1周前MIT开发框架
AI 解读 由 AI 自动生成,仅供参考

flutter_tflite 是一个 Flutter 插件,专门用于在移动应用中运行 TensorFlow Lite 机器学习模型。它为开发者提供了简洁的 Dart API,无需编写复杂的原生代码,就能轻松在 iOS 和 Android 应用中集成各种 AI 能力。

这个插件支持多种常见的计算机视觉任务,包括图像分类、目标检测(如 SSD MobileNet 和 Tiny-YOLOv2)、图像分割(Deeplab)、图像风格迁移(Pix2Pix)以及人体姿态估计(PoseNet)。开发者只需几行代码就能加载模型并获取预测结果,大大降低了移动端机器学习的应用门槛。

flutter_tflite 特别适合需要在 Flutter 项目中快速添加 AI 功能的移动开发者使用。无论是想做一个简单的图片识别应用,还是需要实时目标检测的复杂场景,这个插件都能提供便捷的解决方案。它支持 GPU 加速以提升推理性能,同时也兼容纯 CPU 模式,可以根据实际需求灵活选择。

简单来说,如果你使用 Flutter 开发移动应用,又想加入图像识别、目标检测等智能功能,flutter_tflite 是一个值得尝试的选择。

使用场景

一位社区居民在扔垃圾时不确定手中的塑料瓶属于可回收还是其他垃圾,希望用手机拍照快速识别垃圾类别并获得正确的投放指导。

没有 flutter_tflite 时

  • 居民只能手动翻阅垃圾分类手册或上网搜索,耗时且容易出错,投放错误还要被罚款
  • 开发团队需要分别编写 iOS 和 Android 原生代码来调用 TensorFlow Lite,跨平台开发成本高
  • 团队缺乏移动端机器学习模型部署经验,模型加载和推理性能优化困难,导致 APP 响应缓慢
  • 模型文件较大,用户每次识别都需要联网下载模型,流量消耗大且识别速度慢
  • 复杂的原生集成导致 APP 包体积增大,安装包超过 100MB,用户下载意愿低

使用 flutter_tflite 后

  • 居民拍照即可在 1 秒内获得垃圾类别识别结果和投放指导,整个过程不到 3 秒
  • 团队使用 Flutter 统一代码库,一次开发同时支持 iOS 和 Android,开发效率提升近一倍
  • flutter_tflite 封装了 TensorFlow Lite 的复杂接口,模型加载、GPU 加速、线程配置等操作一行代码搞定
  • 模型直接打包在 APP 中,支持离线识别,无需网络连接,识别速度快、用户体验好
  • 通过 GPU 加速和模型优化,APP 包体积控制在 30MB 以内,用户下载率显著提升

居民从"翻手册找不到、查手机太麻烦"变成了"拍照即识别、投放更精准",垃圾分类 APP 的开发也变得更简单高效。

运行环境要求

操作系统
  • Android
  • iOS
GPU

支持 GPU 加速(可选),具体型号和显存要求未说明

内存

未说明

依赖
notes这是一个 Flutter 插件,用于在移动端(iOS/Android)运行 TensorFlow Lite 模型。Android 需在 build.gradle 中配置 aaptOptions;iOS 需将 Compile Sources As 改为 Objective-C++;使用 GPU 加速需参考 TensorFlow 官方文档配置 release mode
python非 Python 库(Flutter/Dart 插件)
TensorFlow Lite
camera plugin 4.0.0
flutter_tflite hero image

快速开始

tflite

一个用于访问 TensorFlow Lite API 的 Flutter 插件。支持图像分类、目标检测(SSDYOLO)、Pix2PixDeeplabPoseNet,适用于 iOS 和 Android 平台。

目录

重大变更

自 1.1.0 版本起:

  1. iOS TensorFlow Lite 库已从 TensorFlowLite 1.x 升级到 TensorFlowLiteObjC 2.x。本地代码的变更用 TFLITE2 标记。

自 1.0.0 版本起:

  1. 更新至 TensorFlow Lite API v1.12.0。
  2. 不再接受 inputSizenumChannels 参数。这些参数将从输入张量中自动获取。
  3. numThreads 已移至 Tflite.loadModel

安装

在 pubspec.yaml 文件中添加 tflite 作为依赖项

Android

android/app/build.gradleandroid 块中添加以下配置。

    aaptOptions {
        noCompress 'tflite'
        noCompress 'lite'
    }

iOS

iOS 构建错误的解决方案:

  • "vector" 文件未找到

    在 Xcode 中打开 ios/Runner.xcworkspace,点击 Runner > Targets > Runner > Build Settings,搜索 Compile Sources As,将值改为 Objective-C++

  • "tensorflow/lite/kernels/register.h" 文件未找到

    插件假设 tensorflow 头文件位于路径 "tensorflow/lite/kernels"。

    然而,早期版本的 tensorflow 头文件路径是 "tensorflow/contrib/lite/kernels"。

    使用 CONTRIB_PATH 来切换路径。从此处取消注释 //#define CONTRIB_PATHhttps://github.com/shaqian/flutter_tflite/blob/master/ios/Classes/TflitePlugin.mm#L1

使用

  1. 创建 assets 文件夹,将标签文件和模型文件放入其中。在 pubspec.yaml 中添加:
  assets:
   - assets/labels.txt
   - assets/mobilenet_v1_1.0_224.tflite
  1. 导入库:
import 'package:tflite/tflite.dart';
  1. 加载模型和标签:
String res = await Tflite.loadModel(
  model: "assets/mobilenet_v1_1.0_224.tflite",
  labels: "assets/labels.txt",
  numThreads: 1, // defaults to 1
  isAsset: true, // defaults to true, set to false to load resources outside assets
  useGpuDelegate: false // defaults to false, set to true to use GPU delegate
);
  1. 请参阅下文相应模型的章节。

  2. 释放资源:

await Tflite.close();

GPU 委托

使用 GPU 委托时,请参考此步骤进行发布模式设置,以获得更好的性能。

图像分类

  • 输出格式:
{
  index: 0,
  label: "person",
  confidence: 0.629
}
  • 在图像上运行:
var recognitions = await Tflite.runModelOnImage(
  path: filepath,   // required
  imageMean: 0.0,   // defaults to 117.0
  imageStd: 255.0,  // defaults to 1.0
  numResults: 2,    // defaults to 5
  threshold: 0.2,   // defaults to 0.1
  asynch: true      // defaults to true
);
  • 在二进制数据上运行:
var recognitions = await Tflite.runModelOnBinary(
  binary: imageToByteListFloat32(image, 224, 127.5, 127.5),// required
  numResults: 6,    // defaults to 5
  threshold: 0.05,  // defaults to 0.1
  asynch: true      // defaults to true
);

Uint8List imageToByteListFloat32(
    img.Image image, int inputSize, double mean, double std) {
  var convertedBytes = Float32List(1 * inputSize * inputSize * 3);
  var buffer = Float32List.view(convertedBytes.buffer);
  int pixelIndex = 0;
  for (var i = 0; i < inputSize; i++) {
    for (var j = 0; j < inputSize; j++) {
      var pixel = image.getPixel(j, i);
      buffer[pixelIndex++] = (img.getRed(pixel) - mean) / std;
      buffer[pixelIndex++] = (img.getGreen(pixel) - mean) / std;
      buffer[pixelIndex++] = (img.getBlue(pixel) - mean) / std;
    }
  }
  return convertedBytes.buffer.asUint8List();
}

Uint8List imageToByteListUint8(img.Image image, int inputSize) {
  var convertedBytes = Uint8List(1 * inputSize * inputSize * 3);
  var buffer = Uint8List.view(convertedBytes.buffer);
  int pixelIndex = 0;
  for (var i = 0; i < inputSize; i++) {
    for (var j = 0; j < inputSize; j++) {
      var pixel = image.getPixel(j, i);
      buffer[pixelIndex++] = img.getRed(pixel);
      buffer[pixelIndex++] = img.getGreen(pixel);
      buffer[pixelIndex++] = img.getBlue(pixel);
    }
  }
  return convertedBytes.buffer.asUint8List();
}
  • 在图像流(视频帧)上运行:

适用于 camera 插件 4.0.0。视频格式:(iOS) kCVPixelFormatType_32BGRA,(Android) YUV_420_888。

var recognitions = await Tflite.runModelOnFrame(
  bytesList: img.planes.map((plane) {return plane.bytes;}).toList(),// required
  imageHeight: img.height,
  imageWidth: img.width,
  imageMean: 127.5,   // defaults to 127.5
  imageStd: 127.5,    // defaults to 127.5
  rotation: 90,       // defaults to 90, Android only
  numResults: 2,      // defaults to 5
  threshold: 0.1,     // defaults to 0.1
  asynch: true        // defaults to true
);

目标检测

  • 输出格式:

x, y, w, h 的取值范围为 [0, 1]。你可以将 xw 乘以图像宽度,将 yh 乘以图像高度来获取实际坐标。

{
  detectedClass: "hot dog",
  confidenceInClass: 0.123,
  rect: {
    x: 0.15,
    y: 0.33,
    w: 0.80,
    h: 0.27
  }
}

SSD MobileNet:

  • 在图像上运行:
var recognitions = await Tflite.detectObjectOnImage(
  path: filepath,       // required
  model: "SSDMobileNet",
  imageMean: 127.5,     
  imageStd: 127.5,      
  threshold: 0.4,       // defaults to 0.1
  numResultsPerClass: 2,// defaults to 5
  asynch: true          // defaults to true
);
  • 在二进制数据上运行:
var recognitions = await Tflite.detectObjectOnBinary(
  binary: imageToByteListUint8(resizedImage, 300), // required
  model: "SSDMobileNet",  
  threshold: 0.4,                                  // defaults to 0.1
  numResultsPerClass: 2,                           // defaults to 5
  asynch: true                                     // defaults to true
);
  • 在图像流(视频帧)上运行:

适用于 camera plugin 4.0.0。视频格式:(iOS) kCVPixelFormatType_32BGRA,(Android) YUV_420_888。

var recognitions = await Tflite.detectObjectOnFrame(
  bytesList: img.planes.map((plane) {return plane.bytes;}).toList(),// required
  model: "SSDMobileNet",  
  imageHeight: img.height,
  imageWidth: img.width,
  imageMean: 127.5,   // defaults to 127.5
  imageStd: 127.5,    // defaults to 127.5
  rotation: 90,       // defaults to 90, Android only
  numResults: 2,      // defaults to 5
  threshold: 0.1,     // defaults to 0.1
  asynch: true        // defaults to true
);

Tiny YOLOv2:

  • 在图像上运行:
var recognitions = await Tflite.detectObjectOnImage(
  path: filepath,       // required
  model: "YOLO",      
  imageMean: 0.0,       
  imageStd: 255.0,      
  threshold: 0.3,       // defaults to 0.1
  numResultsPerClass: 2,// defaults to 5
  anchors: anchors,     // defaults to [0.57273,0.677385,1.87446,2.06253,3.33843,5.47434,7.88282,3.52778,9.77052,9.16828]
  blockSize: 32,        // defaults to 32
  numBoxesPerBlock: 5,  // defaults to 5
  asynch: true          // defaults to true
);
  • 在二进制数据上运行:
var recognitions = await Tflite.detectObjectOnBinary(
  binary: imageToByteListFloat32(resizedImage, 416, 0.0, 255.0), // required
  model: "YOLO",  
  threshold: 0.3,       // defaults to 0.1
  numResultsPerClass: 2,// defaults to 5
  anchors: anchors,     // defaults to [0.57273,0.677385,1.87446,2.06253,3.33843,5.47434,7.88282,3.52778,9.77052,9.16828]
  blockSize: 32,        // defaults to 32
  numBoxesPerBlock: 5,  // defaults to 5
  asynch: true          // defaults to true
);
  • 在图像流(视频帧)上运行:

适用于 camera plugin 4.0.0。视频格式:(iOS) kCVPixelFormatType_32BGRA,(Android) YUV_420_888。

var recognitions = await Tflite.detectObjectOnFrame(
  bytesList: img.planes.map((plane) {return plane.bytes;}).toList(),// required
  model: "YOLO",  
  imageHeight: img.height,
  imageWidth: img.width,
  imageMean: 0,         // defaults to 127.5
  imageStd: 255.0,      // defaults to 127.5
  numResults: 2,        // defaults to 5
  threshold: 0.1,       // defaults to 0.1
  numResultsPerClass: 2,// defaults to 5
  anchors: anchors,     // defaults to [0.57273,0.677385,1.87446,2.06253,3.33843,5.47434,7.88282,3.52778,9.77052,9.16828]
  blockSize: 32,        // defaults to 32
  numBoxesPerBlock: 5,  // defaults to 5
  asynch: true          // defaults to true
);

Pix2Pix

感谢来自 Green AppersRP

  • 输出格式:

    Pix2Pix 推理的输出是 Uint8List 类型。根据使用的 outputType 不同,输出为:

    -(如果 outputType 为 png)png 图像的字节数组

    -(否则)原始输出的字节数组

  • 在图像上运行:

var result = await runPix2PixOnImage(
  path: filepath,       // required
  imageMean: 0.0,       // defaults to 0.0
  imageStd: 255.0,      // defaults to 255.0
  asynch: true      // defaults to true
);
  • 在二进制数据上运行:
var result = await runPix2PixOnBinary(
  binary: binary,       // required
  asynch: true      // defaults to true
);
  • 在图像流(视频帧)上运行:
var result = await runPix2PixOnFrame(
  bytesList: img.planes.map((plane) {return plane.bytes;}).toList(),// required
  imageHeight: img.height, // defaults to 1280
  imageWidth: img.width,   // defaults to 720
  imageMean: 127.5,   // defaults to 0.0
  imageStd: 127.5,    // defaults to 255.0
  rotation: 90,       // defaults to 90, Android only
  asynch: true        // defaults to true
);

Deeplab

感谢来自 see--RP 提供的 Android 实现。

  • 输出格式:

    Deeplab 推理的输出是 Uint8List 类型。根据使用的 outputType 不同,输出为:

    -(如果 outputType 为 png)png 图像的字节数组

    -(否则)像素的 r、g、b、a 值的字节数组

  • 在图像上运行:

var result = await runSegmentationOnImage(
  path: filepath,     // required
  imageMean: 0.0,     // defaults to 0.0
  imageStd: 255.0,    // defaults to 255.0
  labelColors: [...], // defaults to https://github.com/shaqian/flutter_tflite/blob/master/lib/tflite.dart#L219
  outputType: "png",  // defaults to "png"
  asynch: true        // defaults to true
);
  • 在二进制数据上运行:
var result = await runSegmentationOnBinary(
  binary: binary,     // required
  labelColors: [...], // defaults to https://github.com/shaqian/flutter_tflite/blob/master/lib/tflite.dart#L219
  outputType: "png",  // defaults to "png"
  asynch: true        // defaults to true
);
  • 在图像流(视频帧)上运行:
var result = await runSegmentationOnFrame(
  bytesList: img.planes.map((plane) {return plane.bytes;}).toList(),// required
  imageHeight: img.height, // defaults to 1280
  imageWidth: img.width,   // defaults to 720
  imageMean: 127.5,        // defaults to 0.0
  imageStd: 127.5,         // defaults to 255.0
  rotation: 90,            // defaults to 90, Android only
  labelColors: [...],      // defaults to https://github.com/shaqian/flutter_tflite/blob/master/lib/tflite.dart#L219
  outputType: "png",       // defaults to "png"
  asynch: true             // defaults to true
);

PoseNet

模型来源于 StackOverflow 帖子

  • 输出格式:

x, y 的取值范围为 [0, 1]。您可以将 x 乘以图像宽度、y 乘以图像高度来进行缩放。

[ // 姿态/人物的数组
  { // 姿态 #1
    score: 0.6324902,
    keypoints: {
      0: {
        x: 0.250,
        y: 0.125,
        part: nose,
        score: 0.9971070
      },
      1: {
        x: 0.230,
        y: 0.105,
        part: leftEye,
        score: 0.9978438
      }
      ......
    }
  },
  { // 姿态 #2
    score: 0.32534285,
    keypoints: {
      0: {
        x: 0.402,
        y: 0.538,
        part: nose,
        score: 0.8798978
      },
      1: {
        x: 0.380,
        y: 0.513,
        part: leftEye,
        score: 0.7090239
      }
      ......
    }
  },
  ......
]
  • 在图像上运行:
var result = await runPoseNetOnImage(
  path: filepath,     // required
  imageMean: 125.0,   // defaults to 125.0
  imageStd: 125.0,    // defaults to 125.0
  numResults: 2,      // defaults to 5
  threshold: 0.7,     // defaults to 0.5
  nmsRadius: 10,      // defaults to 20
  asynch: true        // defaults to true
);
  • 在二进制数据上运行:
var result = await runPoseNetOnBinary(
  binary: binary,     // required
  numResults: 2,      // defaults to 5
  threshold: 0.7,     // defaults to 0.5
  nmsRadius: 10,      // defaults to 20
  asynch: true        // defaults to true
);
  • 在图像流(视频帧)上运行:
var result = await runPoseNetOnFrame(
  bytesList: img.planes.map((plane) {return plane.bytes;}).toList(),// required
  imageHeight: img.height, // defaults to 1280
  imageWidth: img.width,   // defaults to 720
  imageMean: 125.0,        // defaults to 125.0
  imageStd: 125.0,         // defaults to 125.0
  rotation: 90,            // defaults to 90, Android only
  numResults: 2,           // defaults to 5
  threshold: 0.7,          // defaults to 0.5
  nmsRadius: 10,           // defaults to 20
  asynch: true             // defaults to true
);

示例

静态图像预测

请参考 示例

实时检测

请参考 flutter_realtime_Detection

运行测试用例

flutter test test/tflite_test.dart

常见问题

相似工具推荐

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|今天
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

139k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

107.7k|★★☆☆☆|2天前
开发框架图像Agent

NextChat

NextChat 是一款轻量且极速的 AI 助手,旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性,以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发,NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言,它也提供了便捷的自托管方案,支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性,原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型,让用户在一个界面即可自由切换不同 AI 能力。此外,它还率先支持 MCP(Model Context Protocol)协议,增强了上下文处理能力。针对企业用户,NextChat 提供专业版解决方案,具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能,满足公司对数据隐私和个性化管理的高标准要求。

87.6k|★★☆☆☆|今天
开发框架语言模型

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85k|★★☆☆☆|今天
图像数据工具视频

ragflow

RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。

77.1k|★★★☆☆|昨天
Agent图像开发框架