------ 2018年9月更新 ------

自TorchMoji和DeepMoji发布以来，已经过去了一年。我们正努力了解这些工具的使用情况，以便在未来进行改进并设计出更好的模型。

您可以通过填写这份4题谷歌表单来帮助我们实现这一目标。感谢您的支持！

😇 TorchMoji

请阅读我们的博客文章，了解实现过程 这里。

TorchMoji是Bjarke Felbo、Alan Mislove、Anders Søgaard、Iyad Rahwan和Sune Lehmann开发的DeepMoji模型的pyTorch实现。

该模型基于12亿条带有表情符号的推文进行训练，旨在理解语言如何用于表达情感。通过迁移学习，该模型在许多与情感相关的文本建模任务中都能达到最先进的性能水平。

您可以在🤗 Space上试用DeepMoji的在线演示！更多详情请参阅论文、博客文章或常见问题解答。

概述

• torchmoji/ 包含将数据集转换为词汇表以及使用模型所需的所有底层代码。
• examples/ 包含简短的代码片段，展示如何将数据集转换为词汇表、加载模型并在该数据集上运行。
• scripts/ 包含用于处理和分析数据集的代码，以复现论文中的结果。
• model/ 包含预训练模型和词汇表。
• data/ 包含我们在此仓库中包含的用于测试的原始及处理后的数据集。
• tests/ 包含代码库的单元测试。

首先，请查看examples/目录。您可以参考score_texts_emojis.py了解如何使用DeepMoji提取表情符号预测结果；参考encode_texts.py了解如何将文本转换为2304维的情感特征向量；或者参考finetune_youtube_last.py了解如何在新数据集上使用该模型进行迁移学习。

如果您使用了该模型或代码，请考虑引用DeepMoji的论文（引用格式见下文）。

安装

我们假设您正在使用已安装pip的Python 2.7–3.5。

首先需要安装pyTorch（版本0.2及以上），目前可通过以下命令安装：

conda install pytorch -c pytorch

现阶段该模型尚无法高效利用CUDA。详情请参阅Hugging Face博客文章。

安装完pyTorch后，在根目录下运行以下命令以安装其余依赖项：

pip install -e .

这将安装以下依赖项：

• scikit-learn
• text-unidecode
• emoji

然后，运行下载脚本从这里下载预训练的TorchMoji权重（约85MB），并将其放入model/目录中：

python scripts/download_weights.py

测试

要运行测试，需先安装nose。安装完成后，进入tests/目录并运行：

cd tests
nosetests -v

默认情况下，此命令还会运行微调测试。这些测试会训练模型一个周期，然后检查最终的准确率，可能需要几分钟才能完成。如果您希望排除这些测试，可以改用以下命令：

cd tests
nosetests -v -a '!slow'

免责声明

此代码已在Ubuntu 16.04和macOS Sierra机器上的Python 2.7和3.5环境中测试过。它尚未针对效率进行优化，但对大多数用途来说应该足够快。我们不保证代码中不存在任何错误——请自行承担使用风险！

贡献

如果您认为某些方面可以改进，欢迎提交Pull Request。此外，您也可以通过告诉我们撰写最近推文时的感受来帮助我们。只需点击这里即可参与贡献。

许可证

本代码及预训练模型采用MIT许可证授权。

基准数据集

基准数据集仅出于方便目的上传至本仓库。它们并非由我们发布，我们也未对其主张任何权利。请自行承担使用这些数据集的风险，并确保遵守其发布的许可协议。如果您使用了任何基准数据集，请考虑引用其原始作者。

引用

@inproceedings{felbo2017,
  title={Using millions of emoji occurrences to learn any-domain representations for detecting sentiment, emotion and sarcasm},
  author={Felbo, Bjarke and Mislove, Alan and S{\o}gaard, Anders and Rahwan, Iyad and Lehmann, Sune},
  booktitle={Conference on Empirical Methods in Natural Language Processing (EMNLP)},
  year={2017}
}

TorchMoji 快速上手指南

TorchMoji 是一个基于 PyTorch 实现的深度学习模型，通过在 12 亿条带表情符号的推文上进行训练，能够精准理解语言中的情感表达。它支持情感分析、情绪检测及迁移学习等任务。

环境准备

• 操作系统：推荐 Ubuntu 16.04 或 macOS Sierra（其他 Linux 发行版通常也可用）。
• Python 版本：Python 2.7 至 3.5。
• 核心依赖：
  • PyTorch (版本 0.2+)
  • pip (包管理工具)
  • conda (推荐用于安装 PyTorch)

注意：当前版本对 CUDA 加速的支持尚未优化，主要在 CPU 上运行，但对于大多数测试和中等规模任务速度足够。

安装步骤

1. 安装 PyTorch

使用 conda 安装指定版本的 PyTorch：

conda install pytorch -c pytorch

(注：若国内下载缓慢，可尝试配置清华或中科大 conda 镜像源)

2. 安装项目依赖

进入项目根目录，通过 pip 安装剩余依赖（包括 scikit-learn, text-unidecode, emoji）：

pip install -e .

3. 下载预训练模型权重

运行脚本下载约 85MB 的预训练权重文件至 model/ 目录：

python scripts/download_weights.py

(注：该脚本默认从 Dropbox 下载，若网络受阻，需手动下载 pytorch_model.bin 并放入 model/ 文件夹)

基本使用

安装完成后，可参考 examples/ 目录下的脚本进行快速体验。以下是三种最常用的场景：

场景一：预测文本对应的表情符号

提取文本最可能对应的情感表情：

python examples/score_texts_emojis.py

场景二：生成情感特征向量

将文本转换为 2304 维的情感特征向量，用于后续机器学习任务：

python examples/encode_texts.py

场景三：迁移学习（微调模型）

在新数据集上对模型进行微调，以适应特定领域的情感分析任务：

python examples/finetune_youtube_last.py

建议直接查看上述脚本源码以了解具体的输入数据格式和 API 调用方式。