---

简介

DeepRec 是一个高性能的推荐深度学习框架，基于 TensorFlow 1.15、Intel-TensorFlow 和 NVIDIA-TensorFlow 构建。该框架目前在 LF AI & Data Foundation 中处于孵化阶段。

背景

推荐模型在零售、媒体、广告、社交网络和搜索引擎等领域具有巨大的商业价值。与其他类型的模型不同，推荐模型包含大量非数值特征，如 ID、标签、文本等，这导致参数量非常庞大。

DeepRec 自 2016 年开始开发，已支持淘宝搜索、推荐和广告等核心业务。它在基础框架上沉淀了一系列功能，在推荐模型的训练和推理方面表现出色。截至目前，除了阿里巴巴集团外，已有数十家公司将其应用于各自的业务场景中。

关键特性

DeepRec 具备超大规模分布式训练能力，支持万亿级样本和超过十万亿参数的推荐模型训练。针对推荐模型，DeepRec 在 CPU 和 GPU 平台均进行了深入的性能优化，并提供了一系列功能来提升超大规模场景下的易用性和性能。

Embedding & 优化器

• Embedding Variable。
• 动态维度 Embedding Variable。
• 自适应 Embedding Variable。
• 多重哈希 Embedding Variable。
• 多层混合 Embedding 存储。
• Group Embedding。
• AdamAsync 优化器。
• AdagradDecay 优化器。

训练

• 异步分布式训练框架（参数服务器），如 grpc+seastar、FuseRecv、StarServer 等。
• 同步分布式训练框架（Collective），如 HybridBackend、Sparse Operation Kits (SOK) 等。
• 运行时优化，如 Graph Aware Memory Allocator (GAMMA)、基于关键路径的执行器等。
• GPU 运行时优化，包括支持多 CUDA 计算流和 CUDA 图的 GPU 多流引擎。
• 算子级别优化，如 BF16 混合精度优化、Embedding 算子优化以及 PMEM 和 GPU 上的 EmbeddingVariable、新硬件特性支持等。
• 图级别优化，如 AutoGraphFusion、SmartStage、AutoPipeline、图模板引擎、样本感知图压缩、MicroBatch 等。
• 编译优化，支持 BladeDISC、XLA 等。

部署与推理

• Delta checkpoint 加载与导出。
• 超大规模推荐模型分布式推理。
• 支持多层混合存储和多种后端。
• 低延迟在线深度学习。
• 高性能推理框架 SessionGroup（无共享架构），支持多线程池和多 CUDA 流。
• 模型量化。

---

安装

安装准备

CPU 平台

alideeprec/deeprec-build:deeprec-dev-cpu-py38-ubuntu20.04

GPU 平台

alideeprec/deeprec-build:deeprec-dev-gpu-py38-cu116-ubuntu20.04

构建方法

配置

$ ./configure

默认编译 CPU 和 GPU

$ bazel build -c opt --config=opt //tensorflow/tools/pip_package:build_pip_package

仅编译 CPU 和 GPU：ABI=0

$ bazel build --cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" --host_cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" -c opt --config=opt //tensorflow/tools/pip_package:build_pip_package

仅编译 CPU 优化：oneDNN + 统一 Eigen 线程池

$ bazel build -c opt --config=opt --config=mkl_threadpool //tensorflow/tools/pip_package:build_pip_package

仅编译 CPU 优化且 ABI=0

$ bazel build --cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" --host_cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" -c opt --config=opt --config=mkl_threadpool //tensorflow/tools/pip_package:build_pip_package

创建 whl 包

$ ./bazel-bin/tensorflow/tools/pip_package/build_pip_package /tmp/tensorflow_pkg

安装 whl 包

$ pip3 install /tmp/tensorflow_pkg/tensorflow-1.15.5+${version}-cp38-cp38m-linux_x86_64.whl

最新发布镜像

CPU 版本镜像

alideeprec/deeprec-release:deeprec2402-cpu-py38-ubuntu20.04

GPU CUDA11.6 版本镜像

alideeprec/deeprec-release:deeprec2402-gpu-py38-cu116-ubuntu20.04

---

持续集成状态

官方构建

构建类型	状态
Linux CPU
Linux GPU
Linux CPU 推理
Linux GPU 推理

官方单元测试

单元测试类型	状态
Linux CPU C
Linux CPU CC
Linux CPU Contrib
Linux CPU Core
Linux CPU Examples
Linux CPU Java
Linux CPU JS
Linux CPU Python
Linux CPU Stream Executor
Linux GPU C
Linux GPU CC
Linux GPU Contrib
Linux GPU Core
Linux GPU Examples
Linux GPU Java
Linux GPU JS
Linux GPU Python
Linux GPU Stream Executor
Linux CPU Serving UT
Linux GPU Serving UT

用户文档

中文：https://deeprec.readthedocs.io/zh/latest/

英文：https://deeprec.readthedocs.io/en/latest/

联系我们

加入钉钉官方讨论群

加入微信官方讨论群

许可证

Apache License 2.0

DeepRec 快速上手指南

DeepRec 是阿里巴巴开源的高性能推荐深度学习框架，基于 TensorFlow 1.15 深度优化，支持超大规模稀疏参数训练与推理，已应用于淘宝搜索、推荐及广告等核心业务。

环境准备

系统要求

• 操作系统: Ubuntu 20.04 (推荐)
• Python 版本: Python 3.8
• 构建工具: Bazel, GCC

前置依赖 (Docker 镜像推荐)

为了简化环境配置，官方提供了预装好所有依赖的 Docker 镜像，建议优先使用：

• CPU 平台:

  alideeprec/deeprec-build:deeprec-dev-cpu-py38-ubuntu20.04
  

• GPU 平台 (CUDA 11.6):

  alideeprec/deeprec-build:deeprec-dev-gpu-py38-cu116-ubuntu20.04
  

提示: 若需直接运行而非编译，可使用发布版镜像：

• CPU: alideeprec/deeprec-release:deeprec2402-cpu-py38-ubuntu20.04
• GPU: alideeprec/deeprec-release:deeprec2402-gpu-py38-cu116-ubuntu20.04

安装步骤

如果您需要在本地源码编译安装，请遵循以下步骤：

1. 获取源码并配置

进入 DeepRec 源码目录，运行配置脚本：

$ ./configure

2. 编译构建

根据您的需求选择以下一种编译方式：

• 默认编译 (支持 CPU 和 GPU):

  $ bazel build -c opt --config=opt //tensorflow/tools/pip_package:build_pip_package
  

• 兼容旧 ABI 编译 (ABI=0):

  $ bazel build --cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" --host_cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" -c opt --config=opt //tensorflow/tools/pip_package:build_pip_package
  

• CPU 性能优化编译 (启用 oneDNN + Unified Eigen Thread pool):

  $ bazel build -c opt --config=opt --config=mkl_threadpool //tensorflow/tools/pip_package:build_pip_package
  

• CPU 性能优化且兼容旧 ABI:

  $ bazel build --cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" --host_cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" -c opt --config=opt --config=mkl_threadpool //tensorflow/tools/pip_package:build_pip_package
  

3. 生成 Wheel 包

编译完成后，生成 Python 安装包：

$ ./bazel-bin/tensorflow/tools/pip_package/build_pip_package /tmp/tensorflow_pkg

4. 安装 DeepRec

使用 pip 安装生成的 whl 包（文件名中的 ${version} 会根据实际编译版本变化）：

$ pip3 install /tmp/tensorflow_pkg/tensorflow-1.15.5+${version}-cp38-cp38m-linux_x86_64.whl

基本使用

DeepRec 完全兼容 TensorFlow 1.x 的编程习惯，同时引入了针对推荐场景优化的算子和变量类型（如 EmbeddingVariable）。

以下是一个最简单的使用示例，展示如何导入框架并使用特有的嵌入变量功能：

import tensorflow as tf
from deeprec import embedding_variable

# 启用 DeepRec 特有的图优化功能
tf.compat.v1.enable_resource_variables()

# 定义一个简单的模型输入
feature_ids = tf.constant([1, 2, 3, 4], dtype=tf.int64)

# 创建 DeepRec 优化的 EmbeddingVariable (支持动态维度和大规模稀疏参数)
# 这里演示创建一个简单的嵌入表
embedding_table = embedding_variable.EmbeddingVariable(
    name="user_embedding",
    shape=[1000000, 128],  # 百万级词汇表，128 维向量
    dtype=tf.float32,
    initializer=tf.random_normal_initializer()
)

# 查找嵌入向量
embeddings = tf.nn.embedding_lookup(embedding_table, feature_ids)

# 启动会话运行
with tf.compat.v1.Session() as sess:
    sess.run(tf.compat.v1.global_variables_initializer())
    result = sess.run(embeddings)
    print("Embedding shape:", result.shape)

更多文档:

• 中文文档：https://deeprec.readthedocs.io/zh/latest/
• 英文文档：https://deeprec.readthedocs.io/en/latest/