DLPack：开放的内存中张量结构

文档：https://dmlc.github.io/dlpack/latest

DLPack 是一种开放的内存中张量结构，用于在不同深度学习框架之间共享张量。DLPack 能够实现以下功能：

• 更轻松地在深度学习框架之间共享算子。
• 更容易封装厂商级别的算子实现，从而在引入新设备或新算子时促进协作。
• 快速切换后端实现，例如不同版本的 BLAS。
• 对于最终用户而言，这将带来更多算子，并有可能在不同框架之间混合使用。

我们并不打算直接实现张量和算子，而是将其用作一个通用桥梁，以便跨框架复用张量和算子。

提案流程

RFC 提案以 Issue 的形式发起。主要版本的发布将以投票 Issue 的形式进行，以确保参与者对变更达成一致。

项目结构

目前项目包含两个主要部分：

• include：已稳定化的头文件
• contrib：正在开发中的不稳定库

参与者

以下是参与 DLPack RFC 设计提案的相关人员名单：

@soumith @piiswrong @Yangqing @naibaf7 @bhack @edgarriba @tqchen @prigoyal @zdevito

DLPack 快速上手指南

DLPack 是一个开放的内存张量结构标准，旨在实现不同深度学习框架之间的张量共享。它不直接实现张量或算子，而是作为通用桥梁，让 PyTorch、TensorFlow、MXNet 等框架能够零拷贝地交换数据。

环境准备

• 系统要求：支持 Linux、macOS 或 Windows。
• 前置依赖：
  • C++ 编译器（支持 C++11 及以上标准）
  • CMake（可选，用于构建测试或示例）
  • 任意支持 DLPack 的深度学习框架（如 PyTorch ≥1.2, TensorFlow ≥2.0, MXNet 等）

注意：DLPack 本身只是一个头文件规范，通常无需独立安装，而是由各个框架内置支持。

安装步骤

DLPack 主要以头文件形式存在，推荐直接通过包管理器安装或使用框架内置版本。

方式一：通过 conda 安装（推荐国内用户）

conda install -c conda-forge dlpack

国内用户可使用清华镜像加速：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge
conda install dlpack

方式二：手动获取头文件

克隆仓库并复制头文件到项目包含路径：

git clone https://github.com/dmlc/dlpack.git
cp -r dlpack/include/dlpack /your/project/include/

基本使用

以下示例展示如何在 PyTorch 和 NumPy 之间通过 DLPack 共享张量（零拷贝）：

import torch
from torch.utils.dlpack import to_dlpack, from_dlpack
import numpy as np

# 创建 PyTorch 张量
x = torch.tensor([1, 2, 3], device="cuda")

# 转换为 DLPack 胶囊对象
dlpack_tensor = to_dlpack(x)

# 假设另一个框架（如自定义 C++ 程序或 TensorFlow）接收该胶囊
# 此处模拟从 DLPack 恢复为 PyTorch 张量
y = from_dlpack(dlpack_tensor)

print(y)  # 输出: tensor([1, 2, 3], device='cuda:0')

在 C++ 中，只需包含 dlpack.h 即可解析张量元数据并访问原始数据指针：

#include <dlpack/dlpack.h>

void process_tensor(DLManagedTensor* managed_tensor) {
    DLTensor* tensor = managed_tensor->dl_tensor;
    // 访问 tensor->data, tensor->shape, tensor->ndim 等
}

提示：大多数现代框架已内置 DLPack 支持，开发者通常只需调用框架提供的 to_dlpack / from_dlpack 接口即可完成跨框架数据传递。