ConvNetJS

ConvNetJS 是一个用 JavaScript 实现的神经网络库，并附带精美的浏览器端演示。目前支持：

• 常见的神经网络模块（全连接层、非线性激活函数）
• 分类（SVM/Softmax）和回归（L2）损失函数
• 可以定义并训练处理图像的卷积神经网络
• 一个基于深度 Q 学习的实验性强化学习模块

更多详细信息请参见主页面：convnetjs.com

注意：由于时间有限，我已不再 actively 维护 ConvNetJS。我认为目前 npm 仓库可能也无法正常工作。

在线演示

• MNIST 数字上的卷积神经网络
• CIFAR-10 上的卷积神经网络
• 玩具二维数据
• 玩具一维回归
• 在 MNIST 数字上训练自编码器
• 深度 Q 学习强化学习演示
• 图像回归（“绘画”）
• SGD/Adagrad/Adadelta 在 MNIST 上的比较

示例代码

以下是一个定义两层神经网络并对其单个数据点进行训练的最小示例：

// 定义一个包含一层隐藏层、共 20 个神经元的两层神经网络
var layer_defs = [];
// 输入层声明输入的大小。这里为 2 维数据
// ConvNetJS 处理的是 3 维张量（sx, sy, depth），但如果你处理的不是图像，
// 那么前两个维度（sx, sy）将始终保持为 1
layer_defs.push({type:'input', out_sx:1, out_sy:1, out_depth:2});
// 声明 20 个神经元，随后是 ReLU（修正线性单元非线性激活函数）
layer_defs.push({type:'fc', num_neurons:20, activation:'relu'}); 
// 在上一层隐藏层之上声明线性分类器
layer_defs.push({type:'softmax', num_classes:10});

var net = new convnetjs.Net();
net.makeLayers(layer_defs);

// 将一个随机数据点通过网络前向传播
var x = new convnetjs.Vol([0.3, -0.5]);
var prob = net.forward(x); 

// prob 是一个 Vol。Vol 对象有一个 .w 字段存储原始数据，.dw 存储梯度
console.log('x 属于第 0 类的概率：' + prob.w[0]); // 输出 0.50101

var trainer = new convnetjs.SGDTrainer(net, {learning_rate:0.01, l2_decay:0.001});
trainer.train(x, 0); // 训练网络，指定 x 属于第 0 类

var prob2 = net.forward(x);
console.log('x 属于第 0 类的概率：' + prob2.w[0]);
// 现在输出 0.50374，略高于之前的 0.50101：网络的权重已被 Trainer 调整，
// 使其对训练过的类别（第 0 类）的概率更高。

而如果你想对图像进行预测，这里是一个小型的卷积神经网络示例：

var layer_defs = [];
layer_defs.push({type:'input', out_sx:32, out_sy:32, out_depth:3}); // 声明输入的大小
// 此处输出 Vol 的尺寸为 32x32x3
layer_defs.push({type:'conv', sx:5, filters:16, stride:1, pad:2, activation:'relu'});
// 该层将使用 16 个 5x5 的卷积核进行卷积操作。
// 输入将在四边各填充 2 个像素，以使输出 Vol 的尺寸保持不变。
// 因此，此时输出 Vol 的尺寸为 32x32x16
layer_defs.push({type:'pool', sx:2, stride:2});
// 此处输出 Vol 的尺寸为 16x16x16
layer_defs.push({type:'conv', sx:5, filters:20, stride:1, pad:2, activation:'relu'});
// 此处输出 Vol 的尺寸为 16x16x20
layer_defs.push({type:'pool', sx:2, stride:2});
// 此处输出 Vol 的尺寸为 8x8x20
layer_defs.push({type:'conv', sx:5, filters:20, stride:1, pad:2, activation:'relu'});
// 此处输出 Vol 的尺寸为 8x8x20
layer_defs.push({type:'pool', sx:2, stride:2});
// 此处输出 Vol 的尺寸为 4x4x20
layer_defs.push({type:'softmax', num_classes:10});
// 此处输出 Vol 的尺寸为 1x1x10

net = new convnetjs.Net();
net.makeLayers(layer_defs);

// 提供了一个将图像转换为 Vol 的实用工具
var x = convnetjs.img_to_vol(document.getElementById('some_image'))
var output_probabilities_vol = net.forward(x)

入门指南

主页面上提供了入门指南。

完整的文档也可在那里找到。

请查看本项目的发布页面，以获取压缩后的编译库；此外，为了方便起见，下方也提供了直接链接：

• convnet.js
• convnet-min.js

从 src/ 编译库到 build/

如果你想为库添加新功能，需要修改 src/ 中的代码，然后将其编译到 build/ 目录。编译脚本会简单地将 src/ 中的文件串联起来，再对结果进行压缩。

编译使用 Ant 构建工具完成：它会先将 src/ 中的源文件串联起来生成 build/convnet.js，然后再将其压缩为 build/convnet-min.js。确保你已安装 Ant（在 Ubuntu 上只需运行 sudo apt-get install 即可），然后进入 compile/ 目录并执行：

$ ant -lib yuicompressor-2.4.8.jar -f build.xml

编译后的文件将位于 build/ 目录中。

在 Node 中使用

该库也可在 node.js 中使用：

1. 安装：$ npm install convnetjs
2. 使用：var convnetjs = require("convnetjs");

许可证

MIT

ConvNetJS 快速上手指南

环境准备

• 系统要求：任意支持现代浏览器的操作系统（Windows / macOS / Linux）
• 前置依赖：无（纯 JavaScript 实现，浏览器或 Node.js 均可运行）

安装步骤

1. 浏览器端

直接下载并引入：

# 任选其一
curl -O http://cs.stanford.edu/people/karpathy/convnetjs/build/convnet.js
curl -O http://cs.stanford.edu/people/karpathy/convnetjs/build/convnet-min.js

HTML 中引用：

<script src="convnet-min.js"></script>

2. Node.js 端

npm install convnetjs

const convnetjs = require("convnetjs");

基本使用

示例 1：2 层全连接网络

// 1. 定义网络结构
const layer_defs = [];
layer_defs.push({type:'input', out_sx:1, out_sy:1, out_depth:2}); // 2维输入
layer_defs.push({type:'fc', num_neurons:20, activation:'relu'});   // 隐藏层
layer_defs.push({type:'softmax', num_classes:10});                 // 输出层

// 2. 创建网络
const net = new convnetjs.Net();
net.makeLayers(layer_defs);

// 3. 前向传播
const x = new convnetjs.Vol([0.3, -0.5]);
const prob = net.forward(x);
console.log('类别 0 的概率:', prob.w[0]);

// 4. 训练一步
const trainer = new convnetjs.SGDTrainer(net, {learning_rate:0.01, l2_decay:0.001});
trainer.train(x, 0); // 告诉网络 x 属于类别 0

示例 2：小型 CNN 处理 32×32 图像

const layer_defs = [];
layer_defs.push({type:'input', out_sx:32, out_sy:32, out_depth:3}); // RGB 图像
layer_defs.push({type:'conv', sx:5, filters:16, stride:1, pad:2, activation:'relu'});
layer_defs.push({type:'pool', sx:2, stride:2});
layer_defs.push({type:'conv', sx:5, filters:20, stride:1, pad:2, activation:'relu'});
layer_defs.push({type:'pool', sx:2, stride:2});
layer_defs.push({type:'softmax', num_classes:10});

const net = new convnetjs.Net();
net.makeLayers(layer_defs);

// 将 <img id="some_image"> 转为网络输入
const x = convnetjs.img_to_vol(document.getElementById('some_image'));
const output = net.forward(x);

在线体验

• MNIST 手写数字 CNN 演示
• CIFAR-10 图像分类
• 2D 数据分类

更多教程与完整文档：convnetjs.com