利用深度神经网络恢复与归属古代文本

亚尼斯·阿萨埃尔^1,*、西娅·索默斯希尔德^2,3,*、布兰登·希灵福德¹、马亚尔·博尔德巴尔¹、约翰·帕夫洛普洛斯⁴、 玛丽塔·哈齐帕纳吉奥图⁴、伊昂·安德鲁托普洛斯⁴、乔纳森·普拉格³、南多·德弗雷塔斯¹

¹ DeepMind，英国
² 威尼斯卡福斯卡里大学，意大利
³ 牛津大学，英国
⁴ 雅典经济商业大学，希腊
^* 作者对本工作贡献相等

---

古代史依赖于诸如铭文学之类的学科——即研究被称为“铭文”的刻写文本——来获取过去文明的思想、语言、社会和历史的证据。然而，几个世纪以来，许多铭文已损坏到难以辨认的程度，被运送到远离其原始位置的地方，其书写年代也充满不确定性。我们提出了伊萨卡，这是首个用于古希腊铭文文本修复、地理与年代归属的深度神经网络。伊萨卡旨在协助并扩展历史学家的工作流程：其架构专注于协作、决策支持和可解释性。

受损铭文的修复：此铭文（IG I³ 4B）记录了一项关于雅典卫城的法令，年代为公元前485/4年。（CC BY-SA 3.0，维基媒体）

尽管伊萨卡单独进行受损文本修复时准确率可达62%，但一旦历史学家使用伊萨卡，其表现便从25%跃升至72%，这证实了这一协同研究辅助工具的显著效果。伊萨卡能够以71%的准确率将铭文归于其原始地点，并能在真实范围误差小于30年的精度内确定其年代，从而重新校准古典雅典的关键文献，并推动古代史领域的热点讨论。这项工作表明，像伊萨卡这样的模型如何释放人工智能与历史学家之间的合作潜力，进而变革我们研究和书写人类历史上最重要时期之一的方式。

伊萨卡架构处理短语“δήμο το αθηναίων”（“雅典人民”）。该短语的前三个字符被隐藏，系统提出对其修复方案。同时，伊萨卡还预测铭文所属地区及年代。

参考文献

• 《自然》杂志文章
• DeepMind 博客

在使用本项目任何源代码时，请引用以下文献：

@article{asssome2022restoring,
  title = {Restoring and attributing ancient texts using deep neural networks},
  author = {Assael*, Yannis and Sommerschield*, Thea and Shillingford, Brendan and Bordbar, Mahyar and Pavlopoulos, John and Chatzipanagiotou, Marita and Androutsopoulos, Ion and Prag, Jonathan and de Freitas, Nando},
  doi = {10.1038/s41586-022-04448-z},
  journal = {Nature},
  year = {2022}
}

伊萨卡在线推理

为进一步促进该领域的研究，我们创建了一个在线交互式 Python 笔记本，研究人员可在其中查询我们训练好的模型，获取文本修复结果、可视化注意力权重等。

• 伊萨卡交互界面
• Google Colab：用于您的研究的伊萨卡

伊萨卡离线推理

希望直接使用训练好的模型进行推理的高级用户，可以手动通过 ithaca 库完成操作。

首先，安装 ithaca 库及其依赖项：

pip install .

然后下载模型：

curl --output checkpoint.pkl https://storage.googleapis.com/ithaca-resources/models/checkpoint_v1.pkl

使用该库的一个示例可通过以下命令运行：

python inference_example.py --input_file=example_input.txt

这将对 example_input.txt 中的文本进行修复与归属分析。

若要使用不同输入文本，可执行：

python inference_example.py --input="..."
# 或者使用 UTF-8 编码的文本文件：
python inference_example.py --input_file=some_other_input_file.txt

修复或归属结果的 JSON 文件可保存至指定路径：

python inference_example.py \
  --input_file=example_input.txt \
  --attribute_json=attribute.json \
  --restore_json=restore.json

如需完整帮助，请运行：

python inference_example.py --help

数据集生成

伊萨卡基于帕克人文研究院的公开数据集“可搜索的希腊铭文”（Searchable Greek Inscriptions）进行训练。用于生成机器可读文本与元数据的处理流程，以及训练、验证和测试集划分的详细信息，均可在 I.PHI 数据集 中找到。

伊萨卡的训练

请参阅 train/README.md 获取说明。

许可证

Apache 许可证，版本 2.0

Ithaca 快速上手指南

Ithaca 是由 DeepMind 开发的深度神经网络模型，旨在协助历史学家修复受损的古希腊铭文，并预测其原始地理位置和书写年代。本指南将帮助开发者快速在本地部署并使用该工具进行推理。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux 或 macOS（Windows 用户建议使用 WSL2 或 Docker）。
• Python 版本：Python 3.8 或更高版本。
• 依赖管理：已安装 pip 和 git。
• 硬件建议：虽然 CPU 可运行推理，但若有 NVIDIA GPU 并配置好 CUDA 环境，处理速度将显著提升。

注意：本项目主要依赖 Python 生态库，安装脚本会自动处理大部分依赖。国内用户若遇到 pip 下载缓慢问题，可临时使用清华或阿里镜像源（例如：pip install -i https://pypi.tuna.tsinghua.edu.cn/simple .）。

安装步骤

1. 克隆项目代码

首先，从 GitHub 克隆 Ithaca 仓库到本地：

git clone https://github.com/deepmind/ithaca.git
cd ithaca

2. 安装 Python 依赖库

在项目根目录下运行以下命令安装 ithaca 库及其依赖：

pip install .

3. 下载预训练模型

安装完成后，需要手动下载训练好的模型权重文件（checkpoint_v1.pkl）：

curl --output checkpoint.pkl https://storage.googleapis.com/ithaca-resources/models/checkpoint_v1.pkl

提示：如果 curl 下载速度慢或失败，您可以直接在浏览器中访问上述链接下载文件，并将其重命名为 checkpoint.pkl 放置在当前目录下。

基本使用

安装并下载模型后，您可以使用提供的示例脚本对古希腊文本进行修复、地域归属预测和年代判定。

最简单的使用示例

假设您有一个包含受损铭文的文本文件 example_input.txt，运行以下命令即可生成修复结果和属性预测：

python inference_example.py --input_file=example_input.txt

直接输入文本进行测试

如果您不想创建文件，也可以直接在命令行中输入文本字符串进行测试：

python inference_example.py --input="..."

保存结果为 JSON 文件

若需要将修复结果（restore）和属性预测结果（attribute）保存为 JSON 格式以便后续分析，可使用以下命令：

python inference_example.py \
  --input_file=example_input.txt \
  --attribute_json=attribute.json \
  --restore_json=restore.json

查看完整帮助信息

如需查看所有可用的参数选项，请运行：

python inference_example.py --help

---

注：Ithaca 专为古希腊铭文设计，输入文本应为古希腊语字符。更多详细训练说明请参阅项目中的 train/README.md。