DeepIE: 基于深度学习的信息抽取

DeepIE： 基于深度学习的信息抽取技术（预计2020年8月31日前全部更新完毕）

热门

• 知乎专栏文章：nlp中的实体关系抽取方法总结
• 知乎专栏文章：如何有效提升中文NER性能？词汇增强方法总结
• 知乎专栏文章：如何解决Transformer在NER任务中效果不佳的问题？

论文

• ACL2020信息抽取相关论文汇总
• IJCAI2020信息抽取相关论文汇总
• 2019各顶会中的关系抽取论文汇总
• 事件抽取论文汇总
• 历年来NER论文汇总

代码

1. 实体抽取

• 各主流方法在主要中文NER数据集上的表现情况 具体说明

	lexicon	Ontonotes	MSRA	Resume	Weibo
biLSTM	----	71.81	91.87	94.41	56.75
Lattice LSTM	词表1	73.88	93.18	94.46	58.79
WC-LSTM	词表1	74.43	93.36	94.96	49.86
LR-CNN	词表1	74.45	93.71	95.11	59.92
CGN	词表2	74.79	93.47	94.12	63.09
LGN	词表1	74.85	93.63	95.41	60.15
Simple-Lexicon	词表1	75.54	93.50	95.59	61.24
FLAT	词表1	76.45	94.12	95.45	60.32
FLAT	词表2	75.70	94.35	94.93	63.42
BERT	----	80.14	94.95	95.53	68.20
BERT+FLAT	词表1	81.82	96.09	95.86	68.55

• MSRA-NER

方法	f	p	r
char+ lstm-crf	86.18%	88.43%	83.10%
char-bigram + lstm-crf	91.80%	92.60%	90.34%
char-bigram + adTransformer-crf	92.98%	93.25%	92.72%
char-bigram + lexion-augment + lstm-crf	93.33%	94.26%	92.43%
char-bigram-BERT + lstm-crf	94.71%	95.14%	94.27%
char-bigram-BERT + lexion-augment + lstm-crf	95.26%	95.90%	94.63%

• CCKS2019-医疗实体抽取

方法	f	p	r
char-bigram + lstm-crf	81.76%	82.91%	80.6
+ domain transfer（from ccks2018 to 2019）	82.54%	83.43%	81.81%
char-bigram + adTransformer-crf	82.83%	82.19%	83.49%
char-bigram + lexion-augment + lstm-crf	82.76%	82.79%	82.72%
BERT-finetune+crf	83.49%	84.11%	82.89%
roBERTa-finetune+crf	83.66%	83.67%	83.66%
char-bigram-BERT + lstm-crf	83.37%	83.51%	83.22%
char-bigram-BERT + lexion-augment + lstm-crf	84.15%	84.29%	84.01%

• CCKS2020-医疗实体抽取：

(注：测试集与ccks2019一致，去除ccks2020训练集中已经在2019测试集中的样本，下列指标未做规则处理和模型融合)

方法	f	p	r
char-bigram + lstm-crf	82.68%	83.14%	82.22%
char-bigram + lexion-augment + lstm-crf	83.12%	83.10%	83.14%
char-bigram-BERT + lstm-crf	83.12%	83.04%	83.21%
char-bigram-BERT-RoBerta_wwm + lstm-crf	83.66%	83.76%	83.56%
char-bigram-BERT-XLNet + lstm-crf	84.12%	83.88%	84.36%
char-bigram-BERT + lexion-augment + lstm-crf	84.50%	84.32%	84.67%

• CCKS2020-面向试验鉴定的命名实体识别任务：待完成

2. 实体关系联合抽取

具体使用说明

• 2019语言与智能技术竞赛：关系抽取任务

方法	f(dev)	p(dev)	r(dev)
multi head selection	76.36	79.24	73.69
ETL-BIES	77.07%	77.13%	77.06%
ETL-Span	78.94%	80.11%	77.8%
ETL-Span + word2vec	79.99%	80.62%	79.38%
ETL-Span + word2vec + adversarial training	80.38%	79.95%	80.82%
ETL-Span + BERT	81.88%	82.35%	81.42%

• 2020语言与智能技术竞赛：关系抽取任务

方法	f(dev)	p(dev)	r(dev)
ETL-Span + BERT	74.58	74.44	74.71

3. 属性抽取

• 领域数据集：瑞金医院糖尿病信息抽取数据

# 药物-属性
['药品-用药频率','药品-持续时间','药品-用药剂量','药品-用药方法','药品-不良反应']
# 疾病-属性
['疾病-检查方法','疾病-临床表现','疾病-非药治疗','疾病-药品名称','疾病-部位']

主体	方法	f	p	r
疾病	lstm+ multi-label pointer network	76.55	74.36	78.86
疾病	bert + multi-label pointer network	77.59	77.45	77.74
药物	lstm+ multi-label pointer network	81.12	79.15	83.19

4. 实体链接/标准化

5.事件抽取

• CCKS2020-医疗事件抽取

• CCKS2020：面向金融领域的篇章级事件主体抽取

• CCKS2020：面向金融领域的篇章级事件要素抽取

6.信息抽取中的低资源解决方案

待办事项

• 信息抽取领域的数据资源汇总：

  • 医疗
  • 金融
  • 电商
  • 法律

• 信息抽取相关竞赛汇总：

  • 百度-2020语言与智能技术竞赛：关系抽取任务
  • 百度-2020语言与智能技术竞赛：事件抽取任务
  • 百度-2019语言与智能技术竞赛：信息抽取
  • CCKS 2019 医疗命名实体识别
  • CHIP 2019 临床术语标准化任务
  • CCKS 2019 人物关系抽取
  • CCKS 2019 公众公司公告信息抽取
  • CCKS 2019 面向金融领域的事件主体抽取

• 摘要抽取

• 前沿技术在信息抽取中的应用

参考

DeepIE 快速上手指南

DeepIE 是一个基于深度学习的信息抽取开源项目，涵盖实体抽取（NER）、关系抽取、属性抽取及事件抽取等任务。本项目提供了多种主流模型在中文数据集上的实现与性能对比。

1. 环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux (推荐 Ubuntu 18.04+) 或 macOS
• Python 版本：Python 3.6 - 3.8
• 深度学习框架：PyTorch (建议版本 1.4.0+)
• 硬件要求：建议使用 NVIDIA GPU 以加速训练和推理（需安装对应的 CUDA 驱动）

前置依赖库： 主要依赖包括 torch, transformers, numpy, scikit-learn 等。

2. 安装步骤

步骤一：克隆项目

使用 Git 克隆 DeepIE 仓库到本地：

git clone https://github.com/loujie0822/DeepIE.git
cd DeepIE

步骤二：创建虚拟环境（推荐）

为避免依赖冲突，建议创建独立的 Python 虚拟环境：

python -m venv deepie_env
source deepie_env/bin/activate  # Windows 用户使用: deepie_env\Scripts\activate

步骤三：安装依赖

项目根目录下通常包含 requirements.txt。为确保下载速度，推荐使用国内镜像源（如清华源）进行安装：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

注：若项目中未提供 requirements.txt，请根据具体任务子目录下的说明手动安装核心库，例如：

pip install torch torchvision torchaudio transformers numpy scikit-learn -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 基本使用

DeepIE 针对不同任务（实体抽取、关系抽取等）提供了独立的代码目录和运行脚本。以下以实体抽取 (NER) 和 关系抽取 为例展示基本用法。

场景一：运行中文实体抽取 (NER)

项目支持多种主流 NER 模型（如 BERT+FLAT, Lattice LSTM 等）。进入实体抽取相关目录，参考以下命令格式运行：

# 进入实体抽取代码目录 (具体路径请参考项目 docs 或 codes 文件夹结构)
cd codes/ner

# 示例：运行基于 BERT 的 MSRA 数据集训练
# 注意：具体脚本名称和数据集路径需根据实际文件结构调整
python train.py --model bert --dataset msra --data_dir ../data/msra

性能参考： 根据项目文档，char-bigram-BERT + lexion-augment + lstm-crf 方法在 MSRA 数据集上可达 95.26% 的 F1 值。

场景二：运行实体关系联合抽取

针对关系抽取任务，项目提供了 ETL-Span 等先进算法的实现。

# 进入关系抽取代码目录
cd codes/relation_extraction

# 示例：运行 ETL-Span + BERT 模型
# 详细参数说明请参阅：docs/关系抽取 run 说明.md
python run_etl_span.py --model bert --task duie_2019

性能参考： 在 2019 语言与智能技术竞赛中，ETL-Span + BERT 方案取得了 81.88% 的 F1 值。

场景三：医疗领域属性抽取

针对特定领域（如瑞金医院糖尿病数据），可运行属性抽取模型：

cd codes/attribute_extraction

# 运行多标签指针网络模型
python train_attr.py --domain diabetes --model bert

提示：由于项目包含多个子任务，具体的输入数据格式、超参数配置及预训练模型路径，请务必查阅各子目录下的 README 或项目根目录 docs 文件夹中的详细文档（如 各主流方法在中文 NER 上的表现情况.md）。