GraphVite - 高速、大规模的图嵌入

文档 | [教程] | [基准测试] | [预训练模型]

GraphVite 是一款通用的图嵌入引擎，致力于在各类应用中实现高速、大规模的嵌入学习。

GraphVite 为三种应用场景提供了完整的训练与评估流程：节点嵌入、知识图谱嵌入以及图与高维数据可视化。此外，它还包含9种流行的模型，并在多个标准数据集上提供了相应的基准测试结果。

节点嵌入	知识图谱嵌入	图与高维数据可视化

以下是 GraphVite 在三种应用场景下与最佳开源实现的训练时间对比。所有时间均基于配备24个CPU线程和4块V100 GPU的服务器得出。

在 Youtube 数据集上进行节点嵌入的训练时间。

模型	现有实现	GraphVite	加速倍数
DeepWalk	1.64 小时 (CPU 并行)	1.19 分钟	82.9x
LINE	1.39 小时 (CPU 并行)	1.17 分钟	71.4x
node2vec	24.4 小时 (CPU 并行)	4.39 分钟	334x

在 FB15k 数据集上进行知识图谱嵌入的训练/评估时间。

模型	现有实现	GraphVite	加速倍数
TransE	1.31 小时 / 1.75 分钟 (1 GPU)	13.5 分钟 / 54.3 秒	5.82x / 1.93x
RotatE	3.69 小时 / 4.19 分钟 (1 GPU)	28.1 分钟 / 55.8 秒	7.88x / 4.50x

在 MNIST 数据集上进行高维数据可视化的训练时间。

模型	现有实现	GraphVite	加速倍数
LargeVis	15.3 分钟 (CPU 并行)	13.9 秒	66.8x

要求

通常情况下，GraphVite 可以在任何支持 CUDA >= 9.2 的 Linux 发行版上运行。

该库兼容 Python 2.7 和 3.6/3.7。

安装

通过 Conda

conda install -c milagraph -c conda-forge graphvite cudatoolkit=$(nvcc -V | grep -Po "(?<=V)\d+.\d+")

如果您只需要嵌入训练而无需评估，可以使用以下依赖较少的替代方案。

conda install -c milagraph -c conda-forge graphvite-mini cudatoolkit=$(nvcc -V | grep -Po "(?<=V)\d+.\d+")

从源码安装

在安装之前，请确保已安装 conda。

git clone https://github.com/DeepGraphLearning/graphvite
cd graphvite
conda install -y --file conda/requirements.txt
mkdir build
cd build && cmake .. && make && cd -
cd python && python setup.py install && cd -

在 Colab 上

!wget -c https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
!chmod +x Miniconda3-latest-Linux-x86_64.sh
!./Miniconda3-latest-Linux-x86_64.sh -b -p /usr/local -f

!conda install -y -c milagraph -c conda-forge graphvite \
    python=3.6 cudatoolkit=$(nvcc -V | grep -Po "(?<=V)\d+\.\d+")
!conda install -y wurlitzer ipykernel

import site
site.addsitedir("/usr/local/lib/python3.6/site-packages")
%reload_ext wurlitzer

快速入门

以下是节点嵌入应用的快速入门示例。

graphvite baseline quick start

通常，这个示例不会超过1分钟。您将得到类似如下的输出：

批次编号：6000
损失 = 0.371041

------------- 链接预测 --------------
AUC：0.899933

----------- 节点分类 ------------
宏F1@20%：0.242114
微F1@20%：0.391342

基准测试

要复现一个基准测试，您只需指定实验的关键字，例如模型和数据集。

graphvite baseline [关键字 ...] [--no-eval] [--gpu n] [--cpu m] [--epoch e]

您还可以设置 GPU 的数量以及每个 GPU 使用的 CPU 数量。

使用 graphvite list 可以获取可用的基准列表。

自定义实验

为图、知识图谱、可视化或词图创建 YAML 配置模板。

graphvite new [应用 ...] [--file f]

按照说明填写配置中的必要条目。然后可以通过以下命令运行配置：

graphvite run [配置] [--no-eval] [--gpu n] [--cpu m] [--epoch e]

高维数据可视化

您可以在 GraphVite 中使用简单的命令行来可视化您的高维向量。

graphvite visualize [文件] [--label 标签文件] [--save 保存文件] [--perplexity n] [--3d]

文件可以是 NumPy 格式的 *.npy 文件，也可以是文本矩阵格式的 *.txt 文件。对于保存文件，我们建议使用 png 格式，同时 pdf 也支持。

贡献

我们欢迎所有贡献，从修复 bug 到新增功能。如果您对我们的库有任何建议，请随时告知我们。

开发团队

GraphVite 由 MilaGraph 开发，由 Jian Tang 教授领导。

本项目的作者包括 Zhaocheng Zhu、Shizhen Xu、Meng Qu 和 Jian Tang。贡献者还包括 Kunpeng Wang 和 Zhijian Duan。

引用

如果您发现 GraphVite 对您的研究或开发有所帮助，请引用以下论文。

@inproceedings{zhu2019graphvite,
    title={GraphVite: 一种用于节点嵌入的高性能 CPU-GPU 混合系统},
     author={Zhu, Zhaocheng and Xu, Shizhen and Qu, Meng and Tang, Jian},
     booktitle={The World Wide Web Conference},
     pages={2494--2504},
     year={2019},
     organization={ACM}
 }

致谢

我们感谢 Compute Canada 对 GPU 服务器的支持。特别感谢 Wenbin Hou 在 C++ 和 GPU 编程技术方面的有益讨论。

GraphVite 快速上手指南

GraphVite 是一个通用图嵌入引擎，专为高速、大规模的场景设计，支持节点嵌入、知识图谱嵌入以及高维数据可视化三大核心应用。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：任意 Linux 发行版。
• GPU 驱动：必须安装 CUDA，版本需 >= 9.2。
• Python 版本：兼容 Python 2.7 或 3.6/3.7。
• 包管理器：推荐使用 conda 进行安装和管理。

注意：本工具依赖 GPU 加速，请确保服务器已正确配置 NVIDIA 显卡及驱动。

安装步骤

方式一：通过 Conda 安装（推荐）

这是最简便的安装方式。运行以下命令即可自动检测当前 CUDA 版本并安装对应依赖：

conda install -c milagraph -c conda-forge graphvite cudatoolkit=$(nvcc -V | grep -Po "(?<=V)\d+.\d+")

如果您仅需进行嵌入训练而无需评估功能，可以选择安装精简版以减少依赖：

conda install -c milagraph -c conda-forge graphvite-mini cudatoolkit=$(nvcc -V | grep -Po "(?<=V)\d+.\d+")

方式二：从源码编译安装

如果您需要修改源码或使用特定配置，请按以下步骤操作：

git clone https://github.com/DeepGraphLearning/graphvite
cd graphvite
conda install -y --file conda/requirements.txt
mkdir build
cd build && cmake .. && make && cd -
cd python && python setup.py install && cd -

方式三：在 Google Colab 中使用

若需在云端环境快速体验，可执行以下脚本：

!wget -c https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
!chmod +x Miniconda3-latest-Linux-x86_64.sh
!./Miniconda3-latest-Linux-x86_64.sh -b -p /usr/local -f

!conda install -y -c milagraph -c conda-forge graphvite \
    python=3.6 cudatoolkit=$(nvcc -V | grep -Po "(?<=V)\d+\.\d+")
!conda install -y wurlitzer ipykernel

并在 Notebook 单元格中运行：

import site
site.addsitedir("/usr/local/lib/python3.6/site-packages")
%reload_ext wurlitzer

基本使用

1. 快速开始示例（节点嵌入）

运行以下命令即可启动一个完整的节点嵌入训练与评估流程（基于默认数据集），通常耗时不超过 1 分钟：

graphvite baseline quick start

运行成功后，您将看到类似以下的输出结果：

Batch id: 6000
loss = 0.371041

------------- link prediction --------------
AUC: 0.899933

----------- node classification ------------
macro-F1@20%: 0.242114
micro-F1@20%: 0.391342

2. 复现基准测试

您可以指定模型和数据集关键词来复现官方基准测试。例如：

graphvite baseline [keyword ...] [--no-eval] [--gpu n] [--cpu m] [--epoch e]

• --gpu n: 指定使用的 GPU 数量。
• --cpu m: 指定每个 GPU 搭配的 CPU 线程数。
• 使用 graphvite list 可查看支持的基线实验列表。

3. 自定义实验

若要运行自定义配置，首先生成配置文件模板：

graphvite new [application ...] [--file f]

支持的 application 包括：graph (节点嵌入), knowledge_graph (知识图谱), visualization (可视化), word_graph (词图)。

编辑生成的 YAML 文件填入必要参数后，运行：

graphvite run [config] [--no-eval] [--gpu n] [--cpu m] [--epoch e]

4. 高维数据可视化

GraphVite 支持将高维向量直接可视化为 2D 或 3D 图像。支持输入 .npy (NumPy) 或 .txt (文本矩阵) 格式文件：

graphvite visualize [file] [--label label_file] [--save save_file] [--perplexity n] [--3d]

• --save: 推荐保存为 png 格式，也支持 pdf。
• --3d: 添加此参数可生成 3D 可视化结果。