------ 2023年9月更新 ------

在线演示已不可用，因为我们无法续期证书。此仓库中的代码仍然有效，但可能需要进行一些修改才能在 Python 3 中运行（请参阅已打开的 PR）。你也可以查看由 HuggingFace 开发的该算法的 PyTorch 版本 torchMoji。

DeepMoji

（点击图片观看视频演示）

DeepMoji 是一个基于 12 亿条带表情符号的推文训练的模型，用于理解语言如何表达情感。通过迁移学习，该模型在许多与情感相关的文本建模任务上都能达到最先进的性能。

更多详情请参阅 论文 或 博客文章。

概述

• deepmoji/ 包含将数据集转换为我们的词汇表并使用我们模型所需的所有底层代码。
• examples/ 包含简短的代码片段，展示如何将数据集转换为我们的词汇表、加载模型并在该数据集上运行。
• scripts/ 包含用于处理和分析数据集以复现论文中结果的代码。
• model/ 包含预训练模型和词汇表。
• data/ 包含我们在此仓库中包含的用于测试的原始及处理后的数据集。
• tests/ 包含代码库的单元测试。

首先，请查看 examples/ 目录。请参阅 score_texts_emojis.py 了解如何使用 DeepMoji 提取表情符号预测，encode_texts.py 介绍如何将文本转换为 2304 维的情感特征向量，或 finetune_youtube_last.py 说明如何在新数据集上使用该模型进行迁移学习。

如果你使用我们的模型或代码，请考虑引用我们的 论文（引用信息见下文）。

框架

此代码基于 Keras，后者需要 Theano 或 Tensorflow 作为后端。如果你更倾向于使用 PyTorch，HuggingFace 的 Thomas Wolf 已经提供了一个实现版本，可在 这里 找到。

安装

我们假设你正在使用 Python 2.7 并已安装 pip。作为后端，你需要安装 Theano（版本 0.9+） 或 Tensorflow（版本 1.3+）。完成这些步骤后，在根目录下运行以下命令以安装其余依赖项：

pip install -e .

这将安装以下依赖项：

• Keras（该库已在 2.0.5 版本上测试过，但 2.0.0 以上版本应该都可以工作）
• scikit-learn
• h5py
• text-unidecode
• emoji

请确保 Keras 使用你选择的后端。相关说明可在 这里 的“从一个后端切换到另一个后端”部分找到。

运行附带的脚本，它会从 这里 下载预训练的 DeepMoji 权重（约 85MB），并将其放置在 model/ 目录中：

python scripts/download_weights.py

测试

要运行测试，需先安装 nose。安装完成后，导航至 tests/ 目录并运行：

nosetests -v

默认情况下，这也会运行微调测试。这些测试会训练模型一个 epoch，然后检查最终的准确率，整个过程可能需要几分钟。如果你想排除这些测试，可以运行以下命令：

nosetests -v -a '!slow'

免责声明

此代码已在 Ubuntu 16.04 机器上的 Python 2.7 环境中测试通过。它并未针对效率进行优化，但对于大多数用途来说速度应该足够快。我们不保证代码中不存在任何 bug——请自行承担使用风险！

贡献

我们欢迎任何希望改进代码的拉取请求。你也可以通过告诉我们撰写最近几条推文时的感受来帮助我们。只需点击 这里 即可贡献。

许可证

此代码及预训练模型采用 MIT 许可证授权。

基准数据集

基准数据集仅出于方便目的上传至此仓库。它们并非由我们发布，我们也并不声称对其拥有任何权利。请自行承担使用这些数据集的风险，并确保遵守其发布的许可协议。如果你使用了任何基准数据集，请考虑引用其原始作者。

Twitter 数据集

遗憾的是，由于许可限制，我们无法公开包含表情符号的大规模 Twitter 数据集。

引用

@inproceedings{felbo2017,
  title={Using millions of emoji occurrences to learn any-domain representations for detecting sentiment, emotion and sarcasm},
  author={Felbo, Bjarke and Mislove, Alan and S{\o}gaard, Anders and Rahwan, Iyad and Lehmann, Sune},
  booktitle={Conference on Empirical Methods in Natural Language Processing (EMNLP)},
  year={2017}
}

DeepMoji 快速上手指南

DeepMoji 是一个基于 12 亿条带表情符号的推文训练而成的模型，擅长理解语言中的情感表达。通过迁移学习，该模型在多种情感相关的文本建模任务中可达到业界领先（SOTA）的性能。

注意：官方在线演示已停止服务。原始代码基于 Python 2.7 和 Keras (Theano/TensorFlow 后端)。如果您希望使用 Python 3 或 PyTorch 版本，推荐使用 HuggingFace 提供的 torchMoji。以下指南基于原始仓库内容。

环境准备

本工具已在 Ubuntu 16.04 + Python 2.7 环境下测试通过。请确保满足以下前置条件：

• 操作系统: Linux (推荐 Ubuntu 16.04)
• Python 版本: Python 2.7
• 包管理工具: pip
• 深度学习后端 (二选一):
  • Theano (版本 0.9+)
  • TensorFlow (版本 1.3+)
• Keras: 需配置为使用上述选定的后端。

安装步骤

1. 安装基础依赖与后端 请先根据官方文档安装 Theano 或 TensorFlow，并配置 Keras 使用对应的后端。

2. 安装项目依赖 在项目根目录下运行以下命令，将自动安装 Keras, scikit-learn, h5py 等所需库：

   pip install -e .
   

3. 下载预训练模型权重 运行以下脚本下载预训练权重文件 (~85MB) 并放置到 model/ 目录：

   python scripts/download_weights.py
   

   (注：如果下载速度慢，可手动从 Dropbox 链接 下载 deepmoji_weights.hdf5 文件并放入 model/ 文件夹)

基本使用

安装完成后，您可以参考 examples/ 目录中的脚本进行使用。以下是三种最常用的场景：

• 预测文本对应的表情符号概率

  python examples/score_texts_emojis.py
  

• 将文本转换为 2304 维的情感特征向量

  python examples/encode_texts.py
  

• 在新数据集上进行迁移学习（微调）

  python examples/finetune_youtube_last.py
  

建议直接查看上述脚本源码以了解具体的输入数据格式和 API 调用方式。