自动为短篇文章生成标题

该项目尝试复现论文中的实验结果：
Generating News Headlines with Recurrent Neural Networks（使用循环神经网络生成新闻标题）

如何运行

软件需求

• 代码使用 jupyter notebook（交互式编程环境）运行
• 安装 Keras（深度学习框架）
• pip install python-Levenshtein

数据准备

假设您已经准备好训练和测试数据。
数据由多个示例组成（我使用了684K个示例），每个示例包含文章开头的文本（称为描述，desc），以及原始标题文本（head）。
文本应已完成分词处理（tokenized），词元之间用空格分隔。

准备好数据后，将其保存为Python的pickle文件，格式为元组：
(heads, descs, keywords)，其中heads是所有标题字符串的列表，descs是与heads顺序和长度一致的所有文章字符串列表。keywords信息会被忽略，可以设为None。

构建词典

vocabulary-embedding 笔记本展示了如何构建词元词典，以及如何从 GloVe（全球向量词表示）生成初始嵌入矩阵。

训练模型

train 笔记本描述了如何使用 Keras 在数据上训练模型。

使用模型生成新标题

predict 笔记本通过训练好的模型生成标题，并显示从描述中选择词元时使用的注意力权重。
文本生成包含一个原论文未提及的功能：允许将训练词典外的词元从描述复制到生成的标题中。

生成标题的示例

精选的优质生成标题示例

注意力权重示例

headlines 快速上手指南

环境准备

• 系统要求：Python 3.6+
• 前置依赖：
  • Jupyter Notebook
  • Keras (推荐使用 TensorFlow 后端)
  • python-Levenshtein

安装步骤

1. 安装依赖（推荐使用国内镜像）：

pip install jupyter keras python-Levenshtein -i https://pypi.tuna.tsinghua.edu.cn/simple

2. 启动 Jupyter Notebook：

jupyter notebook

基本使用

1. 准备数据

   • 需要包含 (heads, descs, keywords) 的 pickle 文件
   • heads 和 descs 需为分词后的字符串列表（空格分隔）
   • 示例格式：

     (["头条内容", "另一头条"], ["文章开头描述...", "另一描述..."], None)
     

2. 构建词汇表与嵌入矩阵
   运行 Jupyter Notebook：

   jupyter notebook vocabulary-embedding.ipynb
   

   • 使用 GloVe 预训练词向量（需提前下载）

3. 训练模型
   执行训练脚本：

   jupyter notebook train.ipynb
   

4. 生成标题
   使用训练好的模型生成：

   jupyter notebook predict.ipynb
   

   • 支持从描述中复制未登录词到标题

⚠️ 注意事项：

• 数据文件需与 notebook 文件位于同一目录
• 首次运行可能需要下载 GloVe 词向量（约2GB）
• 生成结果可通过 cherry_picking.png 查看示例