用于自然语言处理的图神经网络

该仓库包含在 EMNLP 2019 和 CODS-COMAD 2020 上举行的 GNN-for-NLP 教程中的代码示例。

幻灯片可从 这里 下载。

依赖项

• 兼容 PyTorch 1.x、TensorFlow 1.x 和 Python 3.x。
• 可使用 requirements.txt 安装依赖项。

TensorFlow 示例：

• tf_gcn.py 包含对 Kipf 等人 (2016) 提出的 GCN 模型一阶近似的简化实现。
• 同一实现针对不同问题的扩展：
  • 关系抽取：RESIDE
  • 用于词嵌入的 GCN：WordGCN
  • 文档时间标注：NeuralDater

PyTorch 示例：

• pytorch_gcn.py 是使用 pytorch-geometric 实现的 tf_gcn.py 的 PyTorch 等效版本。
• 更多示例可在 这里 找到。

其他资源：

• 关于图卷积网络理论的简短综述 [Pdf]（参见第 2 章）。
• GNN 最新论文。

引用：

@inproceedings{vashishth-etal-2019-graph,
    title = "基于图的深度学习在自然语言处理中的应用",
    author = "Vashishth, Shikhar  and
      Yadati, Naganand  and
      Talukdar, Partha",
    booktitle = "2019 年自然语言处理经验方法会议暨第九届国际自然语言处理联合会议（EMNLP-IJCNLP）教程摘要集",
    month = nov,
    year = "2019",
    address = "中国香港",
    publisher = "计算语言学协会",
    abstract = "本教程旨在介绍基于图的深度学习技术（如图卷积网络，GCNs）在自然语言处理（NLP）领域的最新进展。它简要介绍了在非欧几里得域（如图）上使用的深度学习方法，并论证了其在 NLP 中的相关性。随后，教程将涵盖将基于图的深度学习方法应用于各种 NLP 任务的最新进展，例如语义角色标注、机器翻译、关系抽取等。",
}

GNNs-for-NLP 快速上手指南

本指南基于 GNNs-for-NLP 开源项目，帮助开发者快速搭建环境并运行图神经网络（GCN）在自然语言处理中的基础示例。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：Python 3.x
• 深度学习框架（任选其一）：
  • PyTorch 1.x
  • TensorFlow 1.x
• 硬件建议：如需训练大型模型，建议使用支持 CUDA 的 GPU；基础示例可在 CPU 上运行。

安装步骤

1. 克隆项目代码

git clone https://github.com/malllabiisc/GNNs-for-NLP.git
cd GNNs-for-NLP

2. 安装依赖

项目提供了 requirements.txt 文件以管理依赖。推荐使用国内镜像源（如清华源）加速安装：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

注意：

• 若使用 PyTorch 示例，需额外安装 pytorch-geometric。建议访问 PyTorch Geometric 官方安装指南 选择对应版本安装，或使用以下通用命令（可能需要根据具体 CUDA 版本调整）：

  pip install torch-scatter torch-sparse torch-cluster torch-spline-conv torch-geometric -f https://data.pyg.org/whl/torch-1.x.0+cu111.html -i https://pypi.tuna.tsinghua.edu.cn/simple
  

• 若使用 TensorFlow 示例，请确保已单独安装兼容的 tensorflow==1.x 版本。

基本使用

本项目提供了 TensorFlow 和 PyTorch 两个版本的简化版图卷积网络（GCN）实现。

方案 A：使用 PyTorch (推荐)

运行 pytorch_gcn.py 脚本，该脚本基于 pytorch-geometric 实现了 GCN 的一阶近似模型：

python pytorch_gcn.py

方案 B：使用 TensorFlow

运行 tf_gcn.py 脚本，该脚本实现了 Kipf et al. (2016) 提出的 GCN 模型的简化版：

python tf_gcn.py

进阶应用示例

代码库中还包含了针对特定 NLP 任务的扩展实现参考（需跳转至对应子项目仓库）：

• 关系抽取 (Relation Extraction): 参考 RESIDE
• 词嵌入增强 (Word Embeddings): 参考 WordGCN
• 文档时间戳预测 (Document Time-stamping): 参考 NeuralDater

更多 PyTorch 示例可查阅 pytorch-geometric examples。