Tensorflow-cl

在 OpenCL™ 1.2 设备上运行 TensorFlow

• 已测试设备：
  • Mac Sierra，配备 Radeon Pro 450 GPU（感谢 ASAPP :-)）
  • Ubuntu 16.04，配备 NVIDIA K520
• 理论上应在任何支持 OpenCL 1.2 的 GPU 上运行

图片

在 Mac 上：

执行速度

• 执行速度

当前已实现的功能

• 当前已实现的功能

安装

• 安装

测试

• 测试

设计/架构

• TensorFlow 代码保持 100% 兼容 NVIDIA® CUDA™
• Coriander 将 NVIDIA® CUDA™ 代码编译为 OpenCL
• Cedric Nugteren 的 CLBlast 提供 BLAS（矩阵乘法）功能

今年的 IWOCL 2017 上关于 Coriander 的演讲

相关项目

• OpenCL Torch
• DeepCL

最新消息

• 2017年6月11日：
  • 搭建了 Jenkins 构建系统，针对特定提交生成构建日志和 Ubuntu 16.04 轮子包，详见：https://github.com/hughperkins/tf-coriander/commits/example-jenkins-builds（点击绿色勾号之一）
• 2017年6月7日：
  • 发布了 v0.18.3 版本：
    • 启用了 tf.split
    • 现可运行 Aymeric Damien 的 TensorFlow-Examples 中的以下示例：
      • recurrent_network.py
      • bidirectional_rnn.py
      • dynamic_rnn.py

tf-coriander 快速上手指南

tf-coriander 是一个允许在支持 OpenCL 1.2 的设备（如 AMD GPU、Intel 集成显卡或部分 NVIDIA GPU）上运行 TensorFlow 的开源项目。它通过 Coriander 工具将原本为 CUDA 编写的代码实时转换为 OpenCL 代码，从而摆脱对 NVIDIA CUDA 生态的强依赖。

环境准备

系统要求

• 操作系统：
  • macOS (测试版本：Sierra)
  • Linux (测试版本：Ubuntu 16.04)
• 硬件设备：任何支持 OpenCL 1.2 的 GPU。
  • 已测试设备：Mac Radeon Pro 450, NVIDIA K520 (Linux)。
• 驱动要求：确保已安装对应 GPU 厂商最新的 OpenCL 驱动程序。

前置依赖

在开始之前，请确保系统已安装以下基础开发工具：

• Python (建议 2.7 或 3.x，视具体 TensorFlow 版本而定)
• CMake
• Git
• OpenCL SDK / Headers
• BLAS 库 (项目依赖 CLBlast)

注意：本项目主要面向开发者进行底层编译和测试，官方文档未提供预编译的 PyPI wheel 直接安装命令（除特定 Jenkins 构建外），通常需要从源码构建。

安装步骤

由于该项目涉及将 CUDA 代码动态转换为 OpenCL，安装过程主要是构建核心引擎 Coriander 及 tf-coriander 本身。

1. 克隆项目源码

git clone https://github.com/hughperkins/tf-coriander.git
cd tf-coriander

2. 获取子模块

项目依赖 Coriander 编译器和其他组件，需初始化子模块：

git submodule update --init --recursive

3. 构建与安装

根据官方架构设计，你需要先构建 Coriander，然后构建 TensorFlow 的 OpenCL 版本。以下是通用的构建流程（基于 CMake）：

# 创建构建目录
mkdir build
cd build

# 配置 CMake (可根据需要指定 OpenCL 路径)
cmake ..

# 编译
make -j$(nproc)

# 安装 (可能需要 sudo)
sudo make install

提示：对于 Ubuntu 用户，可以查看项目 Jenkins 构建记录获取特定 commit 的预编译 wheel 包（.whl 文件），通过 pip install <filename>.whl 进行安装，以节省编译时间。 访问地址：https://github.com/hughperkins/tf-coriander/commits/example-jenkins-builds (点击绿色对勾图标下载 artifacts)。

4. 验证安装

安装完成后，可以通过 Python 检查 TensorFlow 是否能识别到 OpenCL 设备：

import tensorflow as tf

# 列出本地设备
from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())

如果配置成功，你应该能看到类型为 GPU 且包含 OpenCL 相关信息的设备条目。

基本使用

一旦安装完成，使用方式与原生的 TensorFlow 几乎完全一致。你无需修改现有的 TensorFlow 模型代码，只需确保操作被调度到 GPU 上即可。

最简单示例：矩阵乘法

以下代码演示了如何在 OpenCL 设备上执行基本的矩阵运算：

import tensorflow as tf

# 定义常量矩阵
a = tf.constant([[1.0, 2.0], [3.0, 4.0]])
b = tf.constant([[1.0, 1.0], [0.0, 1.0]])

# 定义矩阵乘法操作
c = tf.matmul(a, b)

# 创建会话并运行
with tf.Session() as sess:
    result = sess.run(c)
    print(result)
    
    # 确认操作是否在 GPU 上运行
    # 可以在运行时添加日志级别查看设备放置情况
    print("Calculation completed on OpenCL device.")

运行现有示例

根据项目更新日志，以下经典的 TensorFlow 示例已在该环境下验证通过：

• 循环神经网络 (recurrent_network.py)
• 双向 RNN (bidirectional_rnn.py)
• 动态 RNN (dynamic_rnn.py)

你只需将上述示例脚本中的 import tensorflow as tf 指向你安装的 tf-coriander 环境即可直接运行。

性能调优提示

• 首次运行时，Coriander 需要将 CUDA 内核编译为 OpenCL 内核，因此启动速度可能会稍慢。
• 确保你的 OpenCL 驱动是最新版本，以获得最佳的 CLBlast (BLAS 库) 加速效果。