DNC TensorFlow

这是 DeepMind 在其近期发表于《自然》杂志的论文中提出的可微神经计算机（DNC）架构的 TensorFlow 实现：

Graves, Alex, 等. “使用具有动态外部记忆的神经网络的混合计算.” 《自然》538.7626 (2016): 471-476.

该实现并未涵盖论文中描述的所有任务，而是专注于探索和复现该架构的一般性、与具体任务无关的关键特性。不过，该实现从设计之初就考虑到了可扩展性，因此很容易将其适配到更多任务中。

本地环境配置

复制任务的实验与测试是在一台配备以下硬件的机器上运行的：

• Intel Core i5 2410M CPU @ 2.30GHz（2 个物理核心，启用超线程）
• 4GB SO-DIMM DDR3 内存 @ 1333MHz
• 无 GPU
• Ubuntu 14.04 LTS
• TensorFlow r0.11
• Python 2.7

bAbI 任务的实验与测试则是在 AWS P2 实例上的 1 块 Tesla K80 GPU 上进行的。

实验

动态记忆机制

本实验旨在展示外部记忆访问机制的各种功能，例如按顺序检索以及分配/释放内存等。

我们沿用了与论文类似的方法：训练一个仅包含 10 个记忆位置的两层前馈模型，完成一项复制任务——输入是一系列 4 组随机二进制序列，每组长度为 6（共 24 个信息单元）。训练细节请参见 这里。

该模型成功学会了复制输入，并且确实掌握了上述记忆机制。下图（与论文中的“扩展数据图 1”相似）对此进行了说明。

您可以在 可视化笔记本 中重新生成类似的图表

• 在图中的“记忆位置”部分，可以看出模型能够按照写入的顺序读取记忆位置。
• 在“空闲门”和“分配门”部分，显示当某个记忆位置被读取并变为无效时，空闲门会完全激活；而在写入阶段，空闲门的激活程度较低，分配门则相反。此外，“记忆位置使用情况”也展示了记忆位置如何被反复使用、释放并再次利用。

该图在门的激活程度上与论文中的图略有不同，这可能是由于模型规模较小及训练时间较短所致。然而，这并不影响模型的运作。

泛化能力与记忆可扩展性

本实验旨在验证：

• 训练好的模型是否学习到了一种可以泛化到更大输入长度的隐式复制算法；
• 学习到的模型是否独立于训练时使用的记忆大小，能否通过增加记忆容量来进一步扩展。

为此，我们训练了一个拥有 15 个记忆位置的两层前馈模型，用于解决一项复制问题：输入是一条由长度介于 1 到 10 的随机二进制向量组成的序列。训练过程详情请参见 这里。

随后，我们在不断增加的序列长度和记忆容量组合上对模型进行了测试，并在每次调整参数后重新训练一次，记录每批 100 条序列中正确复制的比例。结果表明，该模型确实能够在无需重新训练的情况下有效地泛化并利用现有记忆位置。下图与论文中的“扩展数据图 2”相似，展示了这一现象。

您可以在 可视化笔记本 中重新生成类似的图表

bAbI 任务

本实验旨在复现论文中关于 bAbI 20QA 任务的结果。我们使用与论文中描述的 DNC1 相同的参数（扩展数据表 2），在 en-10k 数据集上训练模型，最终得到的错误率 大部分 落在论文报告的平均值加减 1 个标准差范围内（扩展数据表 1）。以下是实验结果及其与论文平均结果的对比。训练和复现实验的详细信息请参见 这里。

任务名称	结果	论文平均值
单一支持事实	0.00%	9.0±12.6%
两个支持事实	11.88%	39.2±20.5%
三个支持事实	27.80%	39.6±16.4%
两个论元关系	1.40%	0.4±0.7%
三个论元关系	1.70%	1.5±1.0%
是非疑问	0.50%	6.9±7.5%
计数	4.90%	9.8±7.0%
列表与集合	2.10%	5.5±5.9%
简单否定	0.80%	7.7±8.3%
不确定知识	1.70%	9.6±11.4%
基本指代	0.10%	3.3±5.7%
连词	0.00%	5.0±6.3%
复合指代	0.40%	3.1±3.6%
时间推理	11.80%	11.0±7.5%
基本演绎	45.44%	27.2±20.1%
基本归纳	56.43%	53.6±1.9%
位置推理	39.02%	32.4±8.0%
大小推理	8.68%	4.2±1.8%
寻路	98.21%	64.6±37.4%
行动者动机	2.71%	0.0±0.1%
平均错误率	15.78%	16.7±7.6%
失败（错误率 > 5%）	8	11.2±5.4

如何参与

如果您有兴趣将此实现用于新任务，建议首先阅读 结构与基本使用指南，以便熟悉项目的组织结构以及如何将其扩展到新任务。

如果您打算直接研究实现的源代码，可以先查看 数据流图，以获得数据从输入到输出在整个实现模块中流动的高层次概览。这将有助于您更轻松地理解经过良好注释的源代码。

此外，您可能还会发现 实现说明 对于理解某些数学运算的具体实现方式有所帮助。

待办事项

• 核心功能：
  • 稀疏链接矩阵。
  • 同一批次中支持可变序列长度。
• 任务：
  • bAbI 任务。
  • 图推理任务。
  • Mini-SHRDLU 任务。
• 工具：
  • 构建一个任务生成器，将迭代次数、学习率等所有细节抽象为可配置的命令行参数，使用户只需关注计算图的定义即可。

作者

穆斯塔法·萨米尔

mostafa.3210@gmail.com

许可证

MIT

DNC-tensorflow 快速上手指南

DNC-tensorflow 是 DeepMind 可微分神经计算机（DNC）架构的 TensorFlow 实现，专注于复现其核心的动态外部记忆机制。本指南将帮助你快速搭建环境并运行基础实验。

环境准备

在开始之前，请确保你的开发环境满足以下要求。原项目基于较旧的 TensorFlow 版本开发，建议优先使用虚拟环境以避免依赖冲突。

• 操作系统: Linux (推荐 Ubuntu 14.04 LTS 或更高版本)，Windows/macOS 需自行适配。
• 编程语言: Python 2.7 (原文指定版本，若使用 Python 3 可能需要修改代码)。
• 深度学习框架: TensorFlow r0.11。
• 硬件要求:
  • CPU: 支持超线程的多核处理器（如 Intel Core i5）。
  • 内存: 至少 4GB RAM。
  • GPU: 可选。基础实验可在 CPU 运行；复现 bAbI 任务建议使用 NVIDIA GPU (如 Tesla K80) 以加速训练。

安装步骤

1. 克隆项目代码

   git clone https://github.com/mostafasamir/DNC-tensorflow.git
   cd DNC-tensorflow
   

2. 创建虚拟环境并安装依赖 由于项目依赖较旧版本的 TensorFlow，强烈建议使用 virtualenv 隔离环境。

   # 创建虚拟环境
   virtualenv venv
   source venv/bin/activate
   
   # 安装 TensorFlow r0.11 (CPU 版本)
   # 注意：国内用户若下载缓慢，可尝试替换为清华源或手动下载 whl 包安装
   pip install tensorflow==0.11.0
   
   # 安装其他可能的依赖 (如有 requirements.txt 则优先使用)
   pip install numpy matplotlib jupyter
   

   提示: 如果你的环境必须使用 Python 3 或新版 TensorFlow，需要手动修改源码中关于 tf 的调用方式，本项目原生仅支持 TF r0.11。

基本使用

本项目主要通过运行特定的实验脚本来验证 DNC 的记忆机制。以下是最简单的“复制任务”实验，用于演示动态记忆功能。

1. 运行动态记忆机制实验 (Copy Task)

该实验训练一个模型去复制随机二进制序列，展示记忆单元的写入、读取和释放过程。

# 进入任务目录
cd tasks/copy

# 运行训练脚本 (具体脚本名请参考目录结构，通常为 train.py 或类似)
# 假设主入口在项目根目录，参考命令如下：
python -m tasks.copy.train

训练完成后，模型将展示其按顺序读写记忆的能力。

2. 可视化结果

项目提供了 Jupyter Notebook 用于生成类似论文中的图表（如记忆位置使用情况、门控激活图等）。

# 启动 Jupyter Notebook
jupyter notebook visualization.ipynb

在浏览器打开的界面中，运行单元格即可生成 Memory Locations、Free Gate 和 Allocation Gate 的可视化图表，直观观察 DNC 如何管理外部记忆。

3. 进阶：运行 bAbI 任务 (需 GPU 推荐)

若要复现论文中的问答任务结果，请进入 tasks/babi 目录。由于该任务计算量较大，建议在配置了 GPU 的环境中运行。

cd tasks/babi
# 执行相应的训练与测试脚本
python run_babi_experiment.py

---

下一步建议： 若需开发新任务，请先阅读 docs/basic-usage.md 了解项目结构；若需深入源码，请参考 docs/data-flow.md 数据流图。