可微神经计算机 (DNC)

本软件包提供了可微神经计算机的实现，如 Nature 杂志所发表。

任何使用本源代码得出的研究成果的公开发表，都必须引用“利用具有动态外部记忆的神经网络进行混合计算”，Nature 538, 471–476 (2016年10月) doi:10.1038/nature20101。

简介

可微神经计算机是一种循环神经网络。在每个时间步，它拥有由当前内存内容（以及诸如内存使用情况等辅助信息）组成的状态，并将时间 t 的输入映射为时间 t 的输出。它由一系列 RNNCore 模块组成，这些模块允许将不同的子模块组合起来，以尝试不同的架构变体。

• 访问模块 是 DNC 主要逻辑发生的地方；因为内存的写入和读取都在这里进行。在每个时间步，访问模块的输入是由控制器传递过来的向量，其输出则是从内存中读取的内容。它使用另外两个 RNNCore：TemporalLinkage 用于跟踪内存写入的顺序，以及 Freeness 用于跟踪哪些内存位置已被写入但尚未被“释放”。这两个模块均在 addressing.py 中定义。

• 控制器模块 负责“控制”对内存的访问。通常，它只是一个前馈网络或（可能是深层的）LSTM 网络，其输入是该时刻整个循环网络的输入，与上一时间步访问模块的读取结果拼接在一起。

• dnc 模块简单地封装了访问模块和控制器模块，构成了整个架构的基本 RNNCore 单元。这一部分在 dnc.py 中定义。

训练

DNC 需要安装 TensorFlow 和 Sonnet。我们提供了一个针对重复复制给定输入字符串这一算法任务的示例训练脚本。该脚本可以在 Python 解释器中执行：

$ ipython train.py

您可以通过命令行参数指定训练选项，包括模型和优化器的参数：

$ python train.py --memory_size=64 --num_bits=8 --max_length=3

# 或者使用 ipython：
$ ipython train.py -- --memory_size=64 --num_bits=8 --max_length=3

默认情况下，模型的定期保存（即“检查点”功能）是关闭的。若需启用，可以使用 checkpoint_interval 参数。例如，--checkpoint_interval=10000 将确保每 10,000 步创建一个检查点。模型的检查点文件默认会保存到 /tmp/tf/dnc/ 目录下。之后可以从该目录继续训练。若需指定其他检查点目录，可以使用 checkpoint_dir 参数。请注意，在使用不同模型参数继续训练之前，务必删除 /tmp/tf/dnc/ 目录下的旧文件，以避免形状不一致的错误。

更一般地，dnc.py 中的 DNC 类可以用作标准的 TensorFlow 循环神经网络核心，并可通过 TensorFlow 的循环神经网络操作（如 tf.nn.dynamic_rnn）在任何序列任务上展开使用。

免责声明：本项目并非 Google 官方产品。

DNC (Differentiable Neural Computer) 快速上手指南

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux 或 macOS（Windows 需配置相应 Python 环境）
• Python 版本：建议 Python 3.6+
• 核心依赖：
  • TensorFlow：Google 开源的机器学习框架。
  • Sonnet：DeepMind 基于 TensorFlow 构建的神经网络库。

注意：由于 Sonnet 主要适配 TensorFlow 1.x 版本，建议在虚拟环境中安装兼容版本的 TensorFlow（如 tensorflow==1.15）以避免兼容性错误。国内用户可使用清华源或阿里源加速安装。

安装步骤

1. 克隆项目代码 首先从仓库获取源代码（假设您已下载或克隆了包含 dnc 包的目录）：

   git clone https://github.com/deepmind/dnc.git
   cd dnc
   

2. 安装依赖库 使用 pip 安装必要的依赖。推荐国内开发者使用清华镜像源以提升下载速度：

   pip install tensorflow==1.15 sonnet -i https://pypi.tuna.tsinghua.edu.cn/simple
   

   注：具体 TensorFlow 版本需根据您的实际运行环境调整，若遇到报错请尝试匹配 Sonnet 要求的 TF 版本。

基本使用

本项目提供了一个用于算法任务（重复复制输入字符串）的训练脚本作为示例。

1. 运行默认训练

在项目根目录下，直接使用 Python 或 IPython 运行训练脚本：

python train.py

或者使用交互式环境：

ipython train.py

2. 自定义训练参数

您可以通过命令行标志（flags）指定模型参数和优化器选项。例如，设置记忆大小为 64，位数为 8，最大长度为 3：

python train.py --memory_size=64 --num_bits=8 --max_length=3

若使用 ipython 运行，需在脚本名前加 -- 以传递参数：

ipython train.py -- --memory_size=64 --num_bits=8 --max_length=3

3. 模型保存与断点续训

默认情况下不启用模型保存。如需每隔一定步数保存检查点（checkpoint），请使用 checkpoint_interval 参数：

python train.py --checkpoint_interval=10000

• 模型默认保存至 /tmp/tf/dnc/。
• 如需更改保存路径，使用 --checkpoint_dir 指定目录。
• 重要提示：若在更改模型参数后恢复训练，请务必先删除旧的检查点目录（如 /tmp/tf/dnc/），否则会导致形状不一致错误。

4. 作为模块集成

除了运行脚本，您也可以直接在代码中将 DNC 类作为标准的 TensorFlow RNN 核心使用，配合 tf.nn.dynamic_rnn 处理任意序列任务：

from dnc import dnc

# 实例化 DNC 核心
dnc_core = dnc.DNC(memory_size=64, num_bits=8, ...)

# 结合 TensorFlow RNN 操作进行展开和使用
# outputs, state = tf.nn.dynamic_rnn(dnc_core, inputs, ...)