文本摘要模型

如果您能在Arxiv上为我背书，我将不胜感激：https://arxiv.org/auth/endorse?x=FRBB89 谢谢！
这个仓库旨在收集多种抽象式文本摘要方法的实现，支持不同语言（印地语、阿姆哈拉语、英语，以及即将加入的阿拉伯语）。

如果您觉得这个项目有帮助，请考虑引用我们的工作，这对我来说意义重大。

@INPROCEEDINGS{9068171,
  author={A. M. {Zaki} and M. I. {Khalil} and H. M. {Abbas}},
  booktitle={2019年第14届计算机工程与系统国际会议(ICCES)}, 
  title={多语言抽象式文本摘要的深度架构}, 
  year={2019},
  volume={},
  number={},
  pages={22-27},}

@misc{zaki2020amharic,
    title={阿姆哈拉语抽象式文本摘要},
    author={Amr M. Zaki 和 Mahmoud I. Khalil 和 Hazem M. Abbas},
    year={2020},
    eprint={2003.13721},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}

该仓库的设计目标是能够在Google Colab中以单个Notebook的形式轻松运行，因此您只需具备网络连接即可运行这些示例，而无需强大的计算设备。所有代码示例都采用Jupyter格式，并且我们通过连接Google Drive来加载数据，无需将数据下载到本地设备。

• 阿拉伯语摘要 模型基于核心实现（使用双向LSTM编码器和解码器中的注意力机制的seq2seq），用于总结阿拉伯语新闻。
• 实现A 核心seq2seq模型，带有注意力机制（使用双向LSTM），针对此实现提供了三种不同的模型。
• 实现B 基于指针生成器的seq2seq模型。
• 实现C 基于强化学习的seq2seq模型。

博客

这个仓库的内容已在一系列博客中进行了详细说明：

• 为了帮助理解如何使用Google Colab生态系统以及如何将其与您的Google Drive集成，这篇博客可能会很有用：DeepLearning免费生态系统。
• 教程1 关于抽象式文本摘要的不同方法概述。
• 教程2 如何为文本摘要任务表示文本。
• 教程3 什么是seq2seq以及为什么在文本摘要中使用它。
• 教程4 用于文本摘要的多层双向LSTM/GRU。
• 教程5 用于文本摘要的束搜索与注意力机制。
• 教程6 用94行TensorFlow构建一个抽象式文本摘要器。
• 教程7 指针生成器：结合抽象式与抽取式方法的文本摘要。
• 教程8 利用深度课程学习法教会seq2seq模型从错误中学习。
• 教程9 深度强化学习(DeepRL)用于抽象式文本摘要的简易方法。
• 教程10 印地语文本摘要。

---

您可以通过这个网站(eazymind)尝试文本摘要功能， 来总结您的文本，支持以下方式：

• 使用curl命令：

curl -X POST 
http://eazymind.herokuapp.com/arabic_sum/eazysum
-H 'cache-control: no-cache' 
-H 'content-type: application/x-www-form-urlencoded' 
-d "eazykey={eazymind API密钥}&sentence={您要摘要的句子}"

• 使用Python包（pip安装eazymind）： pip install eazymind

from eazymind.nlp.eazysum import Summarizer

#---来自eazymind网站的密钥---
key = "xxxxxxxxxxxxxxxxxxxxx"

#---待摘要的句子---
sentence = """(CNN)白宫已指示前白宫法律顾问唐·麦加恩不要遵守众议院司法委员会主席杰里·纳德勒发出的文件传票，这标志着特朗普政府与国会民主党人之间一系列不断升级的监督对抗的最新一幕。"""
    
summarizer = Summarizer(key)
print(summarizer.run(sentence))

---

实现A（带注意力机制和特征丰富的文本表示的seq2seq）

包含3种不同的模型，实现了带有注意力机制的seq2seq网络的概念，并加入了特征丰富的词表示等技术。这项工作延续了以下优秀开源项目的思路：

模型1

是对David Currie的https://github.com/Currie32/Text-Summarization-with-Amazon-Reviews seq2seq模型的改进。

模型2

1- Model_2/Model_2.ipynb

是对https://github.com/dongjun-Lee/text-summarization-tensorflow项目的修改。

2- Model_2/Model 2 features(tf-idf , pos tags).ipynb

是在Model_2.ipynb的基础上，结合了http://www.aclweb.org/anthology/K16-1028中的相关概念进行的进一步改进。

结果

一个文件夹包含了这两个模型在验证文本样本上的结果，以zaksum格式呈现，该格式综合了：

• BLEU
• ROUGE-1
• ROUGE-2
• ROUGE-L
• ROUGE-BE 每个句子的得分以及它们的平均值。

模型3

是对https://github.com/thomasschmied/Text_Summarization_with_Tensorflow/blob/master/summarizer_amazon_reviews.ipynb的修改。

---

实现B（指针生成器seq2seq网络）

这是对以下优秀工作的延续： https://github.com/abisee/pointer-generator https://arxiv.org/abs/1704.04368 该实现采用了指针生成器网络的概念，以解决普通seq2seq网络中出现的一些问题。

Model_4_generator_.ipynb

使用了带有注意力机制的seq2seq指针生成器模型。该模型基于Python 2.7开发。

zaksum_eval.ipynb

由 Python 3 构建，用于评估

结果/指针生成器

• 生成器的输出（文章/参考文本/摘要）用作 zaksum_eval.ipynb 的输入
• zaksum_eval 的结果

我仍将继续研究他们关于覆盖率机制的实现，还有很多工作要做，如果真主愿意的话。isA

---

实现 C（序列到序列的强化学习）

该实现是基于以下链接所完成的出色工作的延续： https://github.com/yaserkl/RLSeq2Seq https://arxiv.org/abs/1805.09461

@article{keneshloo2018deep,
 title={深度强化学习在序列到序列模型中的应用},
 author={Keneshloo, Yaser 和 Shi, Tian 以及 Ramakrishnan, Naren 和 Reddy, Chandan K.},
 journal={arXiv 预印本 arXiv:1805.09461},
 year={2018}
}

Model 5 RL

这是一个用于构建多种基于强化学习的序列到序列方法的库。我已将他们的代码整理好，以便在 Jupyter Notebook 中运行，并能够访问 Google Drive。该库基于 Python 2.7 构建。

zaksum_eval.ipynb

由 Python 3 构建，用于评估

结果/强化学习

• Model 5 RL 的输出用作 zaksum_eval.ipynb 的输入

text_summurization_abstractive_methods 快速上手指南

本项目汇集了多种用于多语言（英语、印地语、阿姆哈拉语及阿拉伯语）抽象式文本摘要的深度学习实现方案。项目专为 Google Colab 设计，无需本地高性能显卡，通过云端 Notebook 即可直接运行所有示例。

环境准备

本项目主要依赖 Google Colab 云端环境，本地无需复杂配置。

• 系统要求：任意支持浏览器的操作系统（Windows/macOS/Linux）。
• 核心依赖：
  • Google 账号（用于访问 Colab 和 Google Drive）。
  • 网络连接（用于加载模型和数据）。
  • Python 版本：部分模型基于 Python 2.7（如 Pointer Generator 和 RL 模型），评估脚本基于 Python 3。Colab 运行时可切换版本。
• 前置知识：了解基本的 Seq2Seq、Attention 机制及 TensorFlow 基础（参考项目提供的系列博客教程）。

安装步骤

由于项目设计为直接在云端运行，无需在本地执行 pip install 或下载代码库。请按以下步骤操作：

1. 访问 Google Colab 打开浏览器访问 colab.research.google.com。

2. 加载项目 Notebook 在 Colab 中选择 "GitHub" 标签页，搜索仓库名 text_summurization_abstractive_methods，或直接打开项目提供的具体 .ipynb 文件（如 Model_2/Model_2.ipynb 或 Model_4_generator_.ipynb）。

3. 挂载 Google Drive 在 Notebook 的第一个代码单元格中，运行以下命令以连接云存储（用于读取数据和保存结果）：

   from google.colab import drive
   drive.mount('/content/drive')
   

   注：按照屏幕提示授权即可。

4. 切换运行时类型（如需） 对于需要 Python 2.7 的模型（Implementation B 和 C）：

   • 点击菜单栏 运行时 (Runtime) > 更改运行时类型 (Change runtime type)。
   • 将 运行时版本 (Runtime version) 设置为 Python 2.7。
   • 硬件加速器建议选择 GPU。

基本使用

项目提供了三种主要的实现路径，以下以最基础的 Implementation A (Seq2Seq + Attention) 为例演示流程。

1. 运行模型训练/推理

在加载好的 Notebook 中，依次执行单元格。通常流程如下：

• 数据预处理：自动从连接的 Google Drive 读取数据集。
• 模型构建：加载预定义的 Seq2Seq 架构（如 Bidirectional LSTM + Attention）。
• 训练/预测：运行训练循环或直接加载权重进行摘要生成。

示例代码片段（源自 Notebook 逻辑）：

# 此处为 Notebook 内部逻辑示意，具体变量名请参考对应 .ipynb 文件
# 初始化模型
model = create_seq2seq_model(vocab_size, embedding_dim, hidden_units)

# 加载数据
train_dataset, val_dataset = load_data_from_drive('path/to/data')

# 开始训练
train(model, train_dataset, epochs=10)

2. 使用在线 API 快速测试（无需运行代码）

如果你只想快速测试阿拉伯语摘要功能，可以使用项目提供的 eazymind 服务，无需部署模型。

方式一：使用 cURL 命令

curl -X POST \
http://eazymind.herokuapp.com/arabic_sum/eazysum \
-H 'cache-control: no-cache' \
-H 'content-type: application/x-www-form-urlencoded' \
-d "eazykey={eazymind api key}&sentence={your sentence to be summarized}"

注意：需先在 eazymind 网站 获取 API Key。

方式二：使用 Python 包

pip install eazymind

from eazymind.nlp.eazysum import Summarizer

#---key from eazymind website---
key = "xxxxxxxxxxxxxxxxxxxxx"

#---sentence to be summarized---
sentence = """(CNN)The White House has instructed former
    White House Counsel Don McGahn not to comply with a subpoena
    for documents from House Judiciary Chairman Jerry Nadler, 
    teeing up the latest in a series of escalating oversight 
    showdowns between the Trump administration and congressional Democrats."""
    
summarizer = Summarizer(key)
print(summarizer.run(sentence))

3. 结果评估

所有实现方案均包含评估脚本 zaksum_eval.ipynb（基于 Python 3）。运行该 Notebook 可计算 BLEU、ROUGE-1/2/L 等指标，结果将保存在 Results 文件夹中。