• 适用于微控制器的 TensorFlow Lite
• 构建状态
  • CI 状态
  • 社区支持的 TFLM 示例
• 贡献
• 获取帮助
• 附加文档
• RFC

适用于微控制器的 TensorFlow Lite

适用于微控制器的 TensorFlow Lite 是 TensorFlow Lite 的一个移植版本，旨在让机器学习模型在 DSP、微控制器及其他内存受限的设备上运行。

附加链接：

• TensorFlow GitHub 仓库
• TensorFlow 官网上的 TFLM 页面

构建状态

CI 状态

组别	状态
核心
目标平台
其他

社区支持的 TFLM 示例

此表格列出了 TFLM 已被移植到的平台。更多文档请参阅 新平台支持。

平台	状态
Arduino
Coral Dev Board Micro	适用于 Coral Dev Board Micro 的 TFLM + EdgeTPU 示例
Espressif Systems 开发板
Ingenic MIPS 板
瑞萨开发板	适用于瑞萨开发板的 TFLM 示例
Silicon Labs 开发套件	适用于 Silicon Labs 开发套件的 TFLM 示例
Sparkfun Edge
德州仪器开发板

贡献

请参阅我们的 贡献文档。

获取帮助

与 TensorFlow Lite Micro (TFLM) 团队联系的主要方式应为提交 GitHub 问题。

以下资源也可能有所帮助：

1. SIG Micro 邮件组 和 每月会议。

2. SIG Micro Gitter 聊天室。

3. 对于非 TFLM 特定的问题，请咨询更广泛的 TensorFlow 项目，例如：

   • 在 TensorFlow Discourse 论坛 创建主题
   • 向 TensorFlow Lite 邮件列表 发送邮件
   • 创建 TensorFlow 问题
   • 创建 模型优化工具包 问题

附加文档

• 持续集成
• 基准测试
• 性能分析
• 内存管理
• 日志记录
• 将 TfLite 中的参考内核移植到 TFLM
• 优化的内核实现
• 新平台支持
• 平台/IP 支持
  • Arm IP 支持
• 使用 Renode 进行软件仿真
• 使用 QEMU 进行软件仿真
• 压缩
  • MNIST 压缩教程
• Python 开发指南
• 自动生成的文件
• Python 解释器指南

RFC

1. 预分配张量
2. 适用于微控制器的 TensorFlow Lite 16x8 量化算子移植

TensorFlow Lite for Microcontrollers (TFLM) 快速上手指南

TensorFlow Lite for Microcontrollers 是 TensorFlow Lite 的移植版本，专为在 DSP、微控制器及其他内存受限的设备上运行机器学习模型而设计。

环境准备

系统要求

• 操作系统：Linux (推荐 Ubuntu 18.04+)、macOS 或 Windows (需配合 WSL 或特定构建工具)。
• 硬件架构支持：Cortex-M, RISC-V, Hexagon, Xtensa, ESP32, Arduino 等。
• 内存限制：目标设备通常仅需几十 KB 的 RAM 和 Flash。

前置依赖

在开始之前，请确保主机已安装以下工具：

• Python 3: 版本 3.7 或更高。
• Git: 用于克隆代码库。
• 构建工具:
  • Linux: gcc, g++, make, curl
  • macOS: Xcode Command Line Tools
  • Windows: 建议使用 WSL2 安装上述 Linux 工具链。
• 可选依赖 (针对特定开发板):
  • Arduino IDE (用于 Arduino 示例)
  • Espressif IDF (用于 ESP32)
  • Renode 或 QEMU (用于软件仿真测试)

提示：国内开发者若遇到 pip 或 git 下载缓慢，可配置国内镜像源（如清华源、阿里源）加速依赖安装。

安装步骤

TFLM 主要作为一个源码库使用，通常通过克隆仓库并构建示例项目来集成。

1. 克隆代码库

git clone https://github.com/tensorflow/tflite-micro.git
cd tflite-micro

2. 设置 Python 虚拟环境 (推荐)

python3 -m venv env
source env/bin/activate  # Windows 用户请使用: env\Scripts\activate
pip install --upgrade pip

3. 安装构建依赖

根据官方文档，核心构建脚本会自动处理大部分依赖，但建议先安装基础 Python 包：

pip install -r tensorflow/lite/micro/tools/pip_package/requirements.txt

4. 验证构建 (以 Hello World 示例为例)

TFLM 使用 make 系统进行跨平台构建。以下命令将在主机上编译并运行一个简单的 "Hello World" 测试：

make -f tensorflow/lite/micro/tools/make/Makefile test_hello_world_test

如果看到 hello_world_test 输出成功信息，则说明环境配置正确。

基本使用

以下是在 C++ 项目中集成 TFLM 运行推理的最简流程。假设你已經拥有一个量化后的 .tflite 模型文件。

1. 包含头文件

在你的 C++ 源代码中引入必要的 TFLM 头文件：

#include "tensorflow/lite/micro/micro_interpreter.h"
#include "tensorflow/lite/micro/micro_mutable_op_resolver.h"
#include "tensorflow/lite/schema/schema_generated.h"

2. 初始化模型与解释器

你需要将模型数据加载到内存中，并设置算子解析器和内存分配器。

// 假设 model_data 是指向 .tflite 模型二进制数据的指针
const tflite::Model* model = tflite::GetModel(model_data);

// 创建算子解析器 (仅注册模型中需要的算子以节省空间)
tflite::MicroMutableOpResolver<2> resolver;
resolver.AddAdd();
resolver.AddMul();

// 定义张量 arena 大小 (根据模型需求调整，单位：字节)
constexpr int kTensorArenaSize = 2 * 1024;
uint8_t tensor_arena[kTensorArenaSize];

// 初始化解释器
tflite::MicroInterpreter interpreter(model, resolver, tensor_arena, kTensorArenaSize);
interpreter.AllocateTensors();

3. 执行推理

填充输入张量数据，调用 Invoke()，然后读取输出。

// 获取输入和输出张量
TfLiteTensor* input = interpreter.input(0);
TfLiteTensor* output = interpreter.output(0);

// 填充输入数据 (示例：浮点型)
input->data.f[0] = 1.0;
input->data.f[1] = 2.0;

// 执行推理
TfLiteStatus invoke_status = interpreter.Invoke();
if (invoke_status != kTfLiteOk) {
  // 处理错误
  return -1;
}

// 读取结果
float result = output->data.f[0];

4. 部署到目标硬件

对于具体的开发板（如 Arduino, ESP32, Cortex-M），请参考 tensorflow/lite/micro/examples 目录下对应的子文件夹，其中包含了针对特定平台的 Makefile 或 IDE 工程配置。

例如，针对 Arduino 用户，可直接在 Arduino Library Manager 中搜索 "TensorFlowLite" 安装库，或使用社区维护的示例仓库：

git clone https://github.com/tensorflow/tflite-micro-arduino-examples.git