脉冲神经网络

这是硬件高效的脉冲神经网络的 Python 实现。它包含了经过修改的学习和预测规则，这些规则可以在硬件上实现，并且具有较高的能源效率。目标是开发一个既可用于片上学习，又可用于预测的网络。

将使用时间依赖性突触可塑性（STDP）算法来训练该网络。

网络元素

• 神经元
• 突触
• 感受野
• 脉冲序列

用于分类的 SNN 模拟器

假设我们已经使用 STDP 算法学习到了网络的最佳权重（将在后续实现），那么这个模拟器会利用这些权重将输入模式分类到不同的类别中。该模拟器采用“胜者全得”策略来抑制未发放脉冲的神经元，从而产生可区分的结果。在对模式进行分类时，所涉及的步骤如下：

• 对于每个输入神经元，在其感受野（5×5 窗口）内计算膜电位。
• 根据膜电位与脉冲频率成正比的关系，为每个输入神经元生成脉冲序列。
• 对于每幅图像，在每个时间步长，根据输入脉冲及其关联的权重更新神经元的电位。
• 首先发放脉冲的输出神经元会对其余输出神经元产生侧向抑制。
• 模拟器检查是否有输出脉冲。

结果

该模拟器已针对二分类问题进行了测试。它可以扩展到任意数量的类别。两类图像如下所示：

每类图像分别向网络呈现了 1000 个时间单位。记录了神经元的活动情况。以下是输出神经元的电位随时间单位变化的图表。

前 1000 个时间单位对应类别 1，接下来的 1000 个时间单位对应类别 2。红色线表示阈值电位。

第一个输出神经元对类别 1 有反应，第二个对类别 2 有反应，而第三个和第四个对两类均无反应。因此，通过记录输出神经元的总脉冲数，我们可以确定该模式所属的类别。

此外，为了演示多分类结果，该模拟器还对以下 6 幅图像（MNIST 数据集）进行了测试。

每幅图像代表一个类别，并为每个类别分配了一个神经元。另外两个神经元被赋予随机权重。以下是每个神经元对所有呈现类别的响应。X 轴表示类别编号，Y 轴表示每次模拟中的脉冲数量。红色条表示该神经元脉冲最多的类别。

训练 SNN

在上一节中，我们假设网络已经训练完毕，即通过 STDP 学习到了权重，可以用来对模式进行分类。在这里，我们将探讨 STDP 的工作原理，以及在实现这一训练算法时需要注意的各项事项。

时间依赖性突触可塑性

STDP 实际上是一种生物过程，大脑利用它来调整自身的神经连接（突触）。由于大脑无与伦比的学习效率已被人们认可数十年之久，这一规则被引入人工神经网络以训练神经网络。权重的调整基于以下两条规则：

• 任何有助于突触后神经元发放脉冲的突触都应加强，即其权重应增加。
• 不有助于突触后神经元发放脉冲的突触则应减弱，即其权重应减少。

下面解释一下该算法的工作方式：

考虑下图所示的情景

四个人工神经元通过突触连接到一个神经元。每个突触前神经元以各自的频率发放脉冲，并通过相应的突触将脉冲传递出去。突触后神经元接收到的脉冲强度取决于连接突触的强度。当突触后神经元因输入脉冲而使膜电位升高并超过阈值时，就会发放一个脉冲。在突触后神经元发放脉冲的时刻，我们会监测哪些突触前神经元帮助其发放了脉冲。这可以通过观察哪些突触前神经元在突触后神经元发放脉冲之前就已经发送了脉冲来实现。这样，它们就通过提高膜电位促进了突触后神经元的发放，因此相应的突触会被加强。突触权重增加的幅度与突触后脉冲和突触前脉冲之间的时间差成反比，具体关系如图所示。

SNN 的生成特性

脉冲神经网络的这一特性对于分析训练过程非常有用。如果将连接到某个输出层神经元的所有突触按适当的比例缩放，并重新排列成一幅图像，就能显示出该神经元学到了什么样的模式，以及它能够多么清晰地对该模式进行分类。例如，在用 MNIST 数据集训练网络之后，如果我们把连接到某个特定输出神经元的所有突触权重（共 784 个）按比例放大，并用这些加权后的数值构成一幅 28×28 的灰度图像，就能得到该神经元所学习到的模式。这一特性将在后续展示结果时被使用。此文件包含了一个从权重重建图像的函数。

变量阈值

在无监督学习中，训练一个模式激活程度（以MNIST为例即白色像素）差异较大的网络是非常困难的。激活程度较高的模式往往会在竞争性学习中占据优势，从而掩盖其他模式（这一问题将在后续演示）。因此，引入了这种归一化方法，将所有模式的激活水平拉低到同一水平。每个模式的阈值是根据其包含的激活数量来计算的：激活数量越多，阈值也就越高。此文件包含了用于计算每张图像阈值的函数。

侧向抑制

在神经生物学中，侧向抑制是指被激活的神经元能够降低其邻近神经元活动的能力。侧向抑制会阻止动作电位从兴奋的神经元向其侧向邻近神经元传播，从而产生刺激上的对比效应，增强感官感知能力。这一特性也被称为“胜者通吃”（WTA）。最先被激活的神经元会抑制（降低膜电位）同一层中的其他神经元。

3类数据集的训练

以下是使用MNIST数据集中的3个类别（0-2），并配备5个输出神经元的SNN训练结果。我们将利用SNN的生成特性，通过连接到每个输出神经元的已训练权重重构图像，以观察网络对各个模式的学习效果。此外，我们还将查看每个输出神经元的膜电位随时间的变化曲线，以了解训练过程如何进行，并使该神经元仅对特定模式敏感。

神经元1

神经元2

神经元3

神经元4

从这些结果中可以清楚地看到：神经元1学会了模式“1”，神经元2学会了“0”，神经元3表现为噪声，而神经元4则学会了模式“2”。以神经元1为例，在训练初期，由于权重随机分配，它会对所有模式都有反应。随着训练的进行，它逐渐只对模式“1”产生响应，而对于其他模式则处于抑制状态。观察神经元3时，我们可以得出结论，它对所有模式都有反应，因此可被视为噪声。因此，建议输出神经元的数量比类别数多出约20%。

此外，“2”和“0”之间存在一定的重叠现象，这是竞争性学习中常见的问题。通过适当调整参数，可以有效消除这一问题。

不当的训练

如果不使用变量阈值进行归一化，就会出现某些模式掩盖其他模式的情况。以下是一个示例：

在此示例中，两种模式使用了相同的阈值电压，导致它们相互重叠。这种情况可以通过选择每张图像激活数量大致相同的数据集，或者对激活数量进行归一化来避免。

参数设置

从头构建脉冲神经网络并非易事。有许多参数需要调整和注意，而这些参数的组合更是复杂。其中对网络动态起关键作用的主要参数包括：

• 学习率
• 阈值电位
• 权重初始化
• 每个样本的脉冲数量
• 权重范围

我在此处的“参数分析”部分，展示了部分参数如何影响网络，以及应如何处理这些参数。

贡献

在本项目中，我得到了印度理工学院古瓦哈蒂分校同事Arpan Vyas的帮助。他进一步设计了一种针对简化SNN的硬件加速器架构，并将其部署在FPGA上，从而大幅缩短了训练时间。他的GitHub主页请见这里。

Spiking-Neural-Network 快速上手指南

本指南旨在帮助开发者快速理解并运行基于 Python 的硬件高效脉冲神经网络（SNN）实现。该项目实现了适用于片上学习和预测的改进型学习规则，核心采用脉冲时间依赖可塑性（STDP）算法进行训练。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：推荐 Python 3.6 及以上版本
• 前置依赖：
  • numpy：用于数值计算
  • matplotlib：用于绘制神经元电位和分类结果图表
  • Pillow (PIL)：用于图像处理（如需处理 MNIST 等图像数据）

提示：国内用户建议使用清华或阿里镜像源加速依赖安装。

安装步骤

1. 克隆项目仓库 首先将代码库克隆到本地：

   git clone https://github.com/Shikhargupta/Spiking-Neural-Network.git
   cd Spiking-Neural-Network
   

2. 安装依赖包 如果项目中包含 requirements.txt，请直接运行：

   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

   若无该文件，请手动安装核心依赖：

   pip install numpy matplotlib pillow -i https://pypi.tuna.tsinghua.edu.cn/simple
   

基本使用

本项目主要包含两个核心功能模块：分类模拟（假设权重已训练好）和网络训练（使用 STDP 算法）。

1. 运行分类模拟器 (Classification)

该模块使用“赢家通吃”（Winner-Takes-All）策略，利用预训练的权重对输入模式进行分类。

• 进入目录：

  cd classification
  

• 运行模拟： 执行主脚本（通常为 main.py 或 simulator.py，具体文件名请查看目录下文件）：

  python main.py
  

  流程说明：程序将计算输入神经元的膜电位，生成脉冲序列，更新神经元状态，并通过侧向抑制机制确定最终输出的类别。结果将展示不同类别的神经元放电情况图表。

2. 训练 SNN 网络 (Training)

该模块演示如何使用 STDP 算法从头训练网络，使其能够识别特定模式（如 MNIST 数字）。

• 进入目录：

  cd training
  

• 关键组件说明：

  • stdp 逻辑：根据突触前和突触后神经元的放电时间差调整权重。
  • var_th.py：实现可变阈值，用于归一化不同激活程度的输入图案，防止高激活图案主导训练。
  • reconstruct.py：利用 SNN 的生成特性，将训练后的权重重构为图像，以可视化神经元学到的特征。

• 运行训练示例：

  python train_snn.py
  

  (注：具体入口脚本名称请以 training 目录下的实际文件为准)

  预期结果：训练完成后，您将看到输出神经元的膜电位随时间变化的曲线，以及重构出的图像（例如：某个神经元专门学会了识别数字"1"，而另一个识别"0"）。建议设置的输出神经元数量比类别数多约 20%，以容纳噪声神经元并获得更好的分类效果。

3. 参数调优建议

构建 SNN 需要精细调整以下参数，它们直接影响网络动力学：

• Learning Rate (学习率)
• Threshold Potential (阈值电位)
• Weight Initialization (权重初始化范围)
• Number of Spikes Per Sample (每个样本的脉冲数)

如需深入分析参数影响，可参考项目关联仓库中的 Parameter Analysis 部分。