使用Tensorflow实现的文本分类模型

Tensorflow实现的文本分类模型。

实现的模型：

1. 词级卷积神经网络（CNN）[论文]
2. 字级卷积神经网络（CNN）[论文]
3. 极深卷积神经网络（VDCNN）[论文]
4. 词级双向循环神经网络（RNN）
5. 基于注意力机制的双向循环神经网络（RNN）[论文]
6. RCNN [论文]

半监督文本分类（迁移学习）模型实现于 [dongjun-Lee/transfer-learning-text-tf]。

依赖项

• Python3
• Tensorflow
• pip install -r requirements.txt

使用方法

训练

训练dbpedia数据集的分类模型，执行：

$ python train.py --model="<MODEL>"

(<Model>: word_cnn | char_cnn | vd_cnn | word_rnn | att_rnn | rcnn)

测试

训练完成后测试测试数据的分类准确率，执行：

$ python test.py --model="<TRAINED_MODEL>"

示例测试结果

使用dbpedia数据集训练和测试。（dbpedia_csv/train.csv，dbpedia_csv/test.csv）

模型	WordCNN	CharCNN	VDCNN	WordRNN	AttentionRNN	RCNN	*SA-LSTM	*LM-LSTM
准确率	98.42%	98.05%	97.60%	98.57%	98.61%	98.68%	98.88%	98.86%

(SA-LSTM和LM-LSTM实现于 [dongjun-Lee/transfer-learning-text-tf]。)

模型

1. 词级CNN

实现 Convolutional Neural Networks for Sentence Classification。

2. 字级CNN

实现 Character-level Convolutional Networks for Text Classification。

3. 极深CNN（VDCNN）

实现 Very Deep Convolutional Networks for Text Classification。

4. 词级双向RNN

文本分类的双向RNN。

1. 嵌入层
2. 双向RNN层
3. 拼接所有RNN层的输出
4. 全连接层

5. 基于注意力机制的双向RNN

实现 Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classification。

6. RCNN

实现 Recurrent Convolutional Neural Networks for Text Classification。

参考文献

• dennybritz/cnn-text-classification-tf
• zonetrooper32/VDCNN

text-classification-models-tf 快速上手指南

环境准备

• Python 3.x
• TensorFlow 2.x
• 依赖包：pip install -r requirements.txt（建议使用国内镜像源加速）

安装步骤

1. 克隆仓库

git clone https://github.com/dennybritz/text-classification-models-tf

2. 安装依赖

pip install -r requirements.txt --trusted-host pypi.tuna.tsinghua.edu.cn

基本使用

训练模型

python train.py --model="word_cnn"

(支持模型：word_cnn | char_cnn | vd_cnn | word_rnn | att_rnn | rcnn)

测试模型

python test.py --model="word_cnn"

(需先完成训练，测试数据为dbpedia_csv/test.csv)

示例结果

模型	准确率
WordCNN	98.42%
CharCNN	98.05%
VDCNN	97.60%
WordRNN	98.57%
AttentionRNN	98.61%
RCNN	98.68%