Mallet

官网：https://mimno.github.io/Mallet/

MALLET 是一个基于 Java 的工具包，用于统计自然语言处理、文档分类、聚类、主题建模、信息抽取以及其他文本相关的机器学习应用。

MALLET 包含了用于文档分类的高级工具：高效的文本到“特征”的转换流程、多种算法（包括朴素贝叶斯、最大熵模型和决策树）以及使用常见指标评估分类器性能的代码。

除了分类之外，MALLET 还提供了用于序列标注的工具，适用于从文本中提取命名实体等任务。其算法包括隐马尔可夫模型、最大熵马尔可夫模型和条件随机场。这些方法被实现为一个可扩展的有限状态转换器系统。

主题模型对于分析大量未标注文本非常有用。MALLET 的主题建模工具包包含高效且基于采样的潜在狄利克雷分配、弹珠分配和层次化 LDA 的实现。

MALLET 中许多算法依赖于数值优化。MALLET 包括高效的有限内存 BFGS 算法，以及许多其他优化方法。

除了复杂的机器学习应用外，MALLET 还提供将文本文档转换为可高效处理的数值表示的工具。这一过程通过一个灵活的“管道”系统实现，该系统负责执行诸如字符串分词、去除停用词以及将序列转换为计数向量等不同任务。

MALLET 的一个附加包 GRMM 提供了对一般图模型进行推理的支持，以及训练具有任意图结构的条件随机场的功能。

安装

先决条件

• Java 17 或更高版本
• Maven 3.6 或更高版本

macOS 用户

macOS 上默认安装的 Java 版本通常较旧。我们建议通过 Homebrew 安装 OpenJDK：

brew install openjdk maven

安装完成后，请按照 Homebrew 打印的说明将 OpenJDK 添加到您的 PATH 中，或者将以下内容添加到您的 shell 配置文件中（例如 ~/.zshrc）：

export PATH="/opt/homebrew/opt/openjdk/bin:$PATH"

请使用 java --version 验证您的 Java 版本。

从源码构建

要从源码构建 MALLET，请使用 Maven：

mvn package

这将编译代码、运行测试，并在 target/ 目录下生成一个 JAR 文件。

构建命令

命令	描述
mvn compile	编译源代码
mvn test	运行所有测试
mvn package	构建 JAR 文件（包含测试）
mvn package -DskipTests	构建 JAR 文件（跳过测试）
mvn install	安装到本地 Maven 仓库
mvn javadoc:javadoc	生成 API 文档

作为 Maven 依赖使用

将 MALLET 添加到您项目的 pom.xml 中：

<dependency>
  <groupId>cc.mallet</groupId>
  <artifactId>mallet</artifactId>
  <version>2.1.0</version>
</dependency>

使用

使用 mvn package 构建后，您可以使用命令行界面：

bin/mallet [命令] --选项 值 --选项 值 ...

输入 bin/mallet 可以获取命令列表，对任何命令使用 --help 选项可以查看有效选项的描述。

有关命令的详细信息，请访问 API 文档和官网：https://mimno.github.io/Mallet/

算法列表：

• 主题建模
  • LDA
  • 并行 LDA
  • DMR LDA
  • 层次化 LDA
  • 标签 LDA
  • 多语种主题模型
  • 层次化弹珠分配模型 (PAM)
  • 加权主题模型
  • 集成短语发现的 LDA
  • 使用负采样跳字模型的词嵌入 (word2vec)
• 分类
  • AdaBoost
  • 装袋法
  • Winnow
  • C45 决策树
  • 集成训练器
  • 最大熵分类器（多项式逻辑回归）
  • 朴素贝叶斯
  • 排序最大熵分类器
  • 后验正则化辅助模型
• 聚类
  • 贪心凝聚法
  • 爬山法
  • K-均值
  • K-最佳
• 序列预测模型
  • 条件随机场
  • 最大熵马尔可夫模型
  • 隐马尔可夫模型
  • 半监督序列预测模型
• 线性回归

Mallet 快速上手指南

Mallet 是一个基于 Java 的开源工具包，专注于统计自然语言处理、文档分类、聚类、主题建模（如 LDA）、信息提取及其他文本机器学习应用。它提供了高效的特征提取流程和多种经典算法实现。

环境准备

在开始之前，请确保您的系统满足以下要求：

• 操作系统：Linux, macOS, Windows
• Java 版本：JDK 17 或更高版本
• 构建工具：Maven 3.6 或更高版本

macOS 用户特别提示：macOS 默认自带的 Java 版本通常较旧。强烈建议通过 Homebrew 安装 OpenJDK：

brew install openjdk maven

安装完成后，根据终端提示将 OpenJDK 添加到环境变量，或在 shell 配置文件（如 ~/.zshrc）中添加：

export PATH="/opt/homebrew/opt/openjdk/bin:$PATH"

验证安装：运行 java --version 确认版本符合要求。

安装步骤

方式一：源码编译（推荐）

克隆仓库后，在项目根目录执行以下命令进行构建：

mvn package

该命令将编译代码、运行测试并在 target/ 目录下生成可执行的 JAR 文件。

若需跳过测试以加快构建速度，可使用：

mvn package -DskipTests

方式二：作为 Maven 依赖集成

如果您正在开发 Java 项目，可直接在 pom.xml 中添加依赖：

<dependency>
  <groupId>cc.mallet</groupId>
  <artifactId>mallet</artifactId>
  <version>2.1.0</version>
</dependency>

基本使用

构建完成后，您可以通过命令行接口（CLI）直接使用 Mallet 的各种功能。

1. 查看可用命令

输入以下命令查看支持的所有操作（如训练主题模型、分类器等）：

bin/mallet

2. 查看具体命令帮助

对任意命令添加 --help 参数，可查看其详细用法和可选参数。例如，查看主题建模命令的帮助：

bin/mallet train-topics --help

3. 运行示例：训练一个简单的主题模型

假设您有一个包含文本文件的目录 data/documents，以下是训练 LDA 主题模型的最简示例：

bin/mallet train-topics \
  --input data/documents \
  --num-topics 20 \
  --output-model model.gz \
  --output-topic-keys topics.txt \
  --num-iterations 1000

• --input: 输入数据目录或文件列表。
• --num-topics: 设定生成的主题数量。
• --output-model: 保存训练好的模型文件。
• --output-topic-keys: 输出每个主题的关键字。
• --num-iterations: 迭代次数。

更多高级用法（如文档分类、序列标注等）请参考官方文档：https://mimno.github.io/Mallet/