keras2cpp

这是一组用于将 Keras 神经网络模型移植到纯 C++ 的代码。神经网络的权重和架构存储在纯文本文件中，对于图像输入，则以 vector<vector<vector<float> > > 的形式提供。该代码目前支持简单的卷积神经网络（基于 MNIST 示例），但可以轻松扩展。当前仅实现了 ReLU 和 Softmax 激活函数。

它与 Theano 后端配合使用。

使用方法

1. 保存您的网络权重和架构。
2. 使用 dump_to_simple_cpp.py 脚本将网络结构转储到纯文本文件中。
3. 使用 keras_model.h 和 keras_model.cc 文件中的代码来运行网络——请参阅下方示例。

示例

1. 运行 example/mnist_cnn_one_iteration.py 脚本，在 MNIST 数据上执行一次简单的 CNN 迭代。这将生成包含架构的文件 example/my_nn_arch.json 和以 HDF5 格式存储的权重文件 example/my_nn_weights.h5。
2. 将网络转储为纯文本文件：python dump_to_simple_cpp.py -a example/my_nn_arch.json -w example/my_nn_weights.h5 -o example/dumped.nnet。
3. 编译示例程序：g++ -std=c++11 keras_model.cc example_main.cc——代码见 example_main.cc。
4. 运行生成的二进制文件 ./a.out——您应该会得到与第 1 步中 Keras 输出相同的结果。

测试

如果您想测试针对您自己的网络的转储功能，请使用 test_run.sh 脚本。请在脚本中提供您的网络架构和权重。该脚本将执行以下操作：

1. 将网络转储为文本文件。
2. 生成随机样本。
3. 对生成的样本分别使用 Keras 和 keras2cpp 进行预测计算。
4. 比较两种预测结果。

类似仓库

• 使用 TensorFlow C API 将 Keras 转换为 C++：https://github.com/aljabr0/from-keras-to-c

keras2cpp 快速上手指南

keras2cpp 是一个将 Keras 神经网络模型（基于 Theano 后端）转换为纯 C++ 代码的工具。它会将网络权重和架构存储为纯文本文件，便于在嵌入式系统或无 Python 依赖的环境中部署。目前主要支持简单的卷积网络（如 MNIST 示例），激活函数仅支持 ReLU 和 Softmax。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux 或 macOS（Windows 需通过 WSL 或 MinGW 配置）。
• Python 环境：已安装 Python 2.7 或 3.x，并配置好 Keras (后端必须为 Theano)。
  • 注意：由于该项目较老且依赖 Theano，建议在一个独立的虚拟环境中运行，避免与现代 TensorFlow/Keras 环境冲突。
• C++ 编译器：支持 C++11 标准的编译器（如 g++）。
• 依赖库：

  pip install keras theano h5py numpy
  

  (注：国内用户可使用清华源加速安装：pip install -i https://pypi.tuna.tsinghua.edu.cn/simple keras theano h5py numpy)

安装步骤

keras2cpp 无需复杂的安装过程，只需克隆仓库即可使用。

1. 克隆项目代码：

   git clone https://github.com/philipperemy/keras2cpp.git
   cd keras2cpp
   

2. 验证文件完整性： 确保目录中包含核心脚本 dump_to_simple_cpp.py 以及 C++ 源文件 keras_model.h 和 keras_model.cc。

基本使用

以下是基于 MNIST 数据集的最简使用流程，涵盖从模型导出到 C++ 编译运行的全过程。

第一步：生成 Keras 模型文件

运行示例脚本，训练一次迭代并生成架构文件 (json) 和权重文件 (h5)。

python example/mnist_cnn_one_iteration.py

执行后将产生：

• example/my_nn_arch.json (网络架构)
• example/my_nn_weights.h5 (网络权重)

第二步：导出为 C++ 可读格式

使用提供的脚本将上述文件转换为纯文本格式的 .nnet 文件。

python dump_to_simple_cpp.py -a example/my_nn_arch.json -w example/my_nn_weights.h5 -o example/dumped.nnet

第三步：编译 C++ 代码

将生成的模型数据与 C++ 推理引擎代码一起编译。确保使用 C++11 标准。

g++ -std=c++11 keras_model.cc example_main.cc -o a.out

第四步：运行推理

执行编译后的二进制文件。输出结果应与第一步中 Keras 的预测结果一致。

./a.out

---

提示：如果您想测试自己训练的模型，可以修改 test_run.sh 脚本，填入您的架构和权重路径，该脚本会自动生成随机样本并对比 Keras 与 C++ 端的预测结果以验证一致性。