更新2018年12月：Mocha.jl现已弃用。最新版本兼容Julia v0.6。如果您有使用Mocha.jl的旧代码库需要升级到Julia v1.0，拉取请求255包含针对CPU后端的修复，所有单元测试在Julia v1.0下均通过。

Mocha.jl的开发发生在Julia早期阶段。如今，Julia及其生态系统已显著进化，出现了诸如直接在Julia中编写GPU内核和通用自动微分支持等令人兴奋的新技术。因此，Mocha代码库变得过于陈旧且原始。使用新技术重写Mocha需要非微不足道的努力，而如今已有新的激动人心的解决方案，因此是Mocha.jl退休的好时机。

如果您对使用Julia进行深度学习感兴趣，请查看一些更新且积极维护的替代包。特别是，Knet.jl和Flux.jl提供纯Julia解决方案，MXNet.jl和Tensorflow.jl则提供对现有深度学习系统的封装。

Mocha

Tutorials | Documentation | Release Notes | Roadmap | Issues

Mocha是一个用于Julia语言的深度学习框架，灵感来源于C++框架Caffe。Mocha中通用随机梯度求解器和常见层的高效实现可用于训练深度/浅层（卷积）神经网络，可选地通过（堆叠）自编码器进行无监督预训练。一些亮点：

• 模块化架构：Mocha具有清晰的架构，包含隔离的组件如网络层、激活函数、求解器、正则化器、初始化器等。内置组件足以满足典型的深度（卷积）神经网络应用，每版发布都新增更多组件。所有组件均可通过添加自定义子类型轻松扩展。
• 高级接口：Mocha是用Julia语言编写的，一种面向科学计算设计的高级动态编程语言。结合Julia的表达力和其包生态系统，使用Mocha玩深度神经网络既容易又直观。例如，我们的IJulia Notebook示例展示了如何使用预训练的ImageNet模型进行图像分类使用预训练的ImageNet模型进行图像分类。
• 可移植性和速度：Mocha包含多个后端，可透明切换。
  • 纯Julia后端 是可移植的——它在任何支持Julia的平台上运行。由于Julia的LLVM基础即时编译器和性能注释，在小型模型上运行速度合理，对于原型开发非常有用。
  • 原生扩展后端 在可用C++编译器时可启用。其运行速度比纯Julia后端快2~3倍。
  • GPU后端 使用NVIDIA® cuDNN、cuBLAS和定制的CUDA内核提供高效计算。在现代GPU设备上，尤其是大型模型上，速度提升可达20~30倍甚至更多。
• 兼容性：Mocha使用广泛采用的HDF5格式存储数据集和模型快照，使其容易与Matlab、Python（numpy）和其他现有计算工具互操作。Mocha还提供从Caffe导入训练好的模型快照的工具。
• 正确性：Mocha所有后端的计算组件均经过大量单元测试覆盖。
• 开源：Mocha采用MIT "Expat"许可证。

安装

要安装发布版本，只需在Julia控制台中运行

Pkg.add("Mocha")

要安装最新开发版本，请运行以下命令：

Pkg.clone("https://github.com/pluskid/Mocha.jl.git")

然后可以运行内置的单元测试：

Pkg.test("Mocha")

以验证您的机器上所有功能是否正常运行。

你好，世界

请参考MNIST教程了解如何为以下示例准备MNIST数据集。此示例的完整代码位于examples/mnist/mnist.jl。见下文了解其他教程的详细文档和其他用户指南。

using Mocha

data  = HDF5DataLayer(name="train-data",source="train-data-list.txt",batch_size=64)
conv  = ConvolutionLayer(name="conv1",n_filter=20,kernel=(5,5),bottoms=[:data],tops=[:conv])
pool  = PoolingLayer(name="pool1",kernel=(2,2),stride=(2,2),bottoms=[:conv],tops=[:pool])
conv2 = ConvolutionLayer(name="conv2",n_filter=50,kernel=(5,5),bottoms=[:pool],tops=[:conv2])
pool2 = PoolingLayer(name="pool2",kernel=(2,2),stride=(2,2),bottoms=[:conv2],tops=[:pool2])
fc1   = InnerProductLayer(name="ip1",output_dim=500,neuron=Neurons.ReLU(),bottoms=[:pool2],
                          tops=[:ip1])
fc2   = InnerProductLayer(name="ip2",output_dim=10,bottoms=[:ip1],tops=[:ip2])
loss  = SoftmaxLossLayer(name="loss",bottoms=[:ip2,:label])

backend = DefaultBackend()
init(backend)

common_layers = [conv, pool, conv2, pool2, fc1, fc2]
net = Net("MNIST-train", backend, [data, common_layers..., loss])

exp_dir = "snapshots"
solver_method = SGD()
params = make_solver_parameters(solver_method, max_iter=10000, regu_coef=0.0005,
    mom_policy=MomPolicy.Fixed(0.9),
    lr_policy=LRPolicy.Inv(0.01, 0.0001, 0.75),
    load_from=exp_dir)
solver = Solver(solver_method, params)

setup_coffee_lounge(solver, save_into="$exp_dir/statistics.jld", every_n_iter=1000)

# 每100次迭代报告训练进度  
add_coffee_break(solver, TrainingSummary(), every_n_iter=100)  

# 每5000次迭代保存快照  
add_coffee_break(solver, Snapshot(exp_dir), every_n_iter=5000)  

# 每1000次迭代显示测试数据性能  
data_test = HDF5DataLayer(name="test-data",source="test-data-list.txt",batch_size=100)  
accuracy = AccuracyLayer(name="test-accuracy",bottoms=[:ip2, :label])  
test_net = Net("MNIST-test", backend, [data_test, common_layers..., accuracy])  
add_coffee_break(solver, ValidationPerformance(test_net), every_n_iter=1000)  

solve(solver, net)  

destroy(net)  
destroy(test_net)  
shutdown(backend)  

## 文档  

Mocha 文档托管在 [readthedocs.org](http://mochajl.readthedocs.org/)。

Mocha.jl 快速上手指南

环境准备

• 系统要求：Julia 0.6 及以上版本（推荐使用 Julia 1.0 及以上，但 Mocha.jl 已弃用）
• 前置依赖：
  • Julia 语言环境（建议通过 Julia官方镜像 安装）
  • HDF5 库（可通过 Pkg.add("HDF5") 安装 Julia 包）
  • GPU 支持需安装 CUDA 工具链（如使用 GPU 后端）

安装步骤

1. 安装 Julia 语言环境（推荐使用国内镜像源）
2. 安装 Mocha.jl：

   Pkg.add("Mocha")
   

   或安装开发版：

   Pkg.clone("https://github.com/pluskid/Mocha.jl.git")
   

3. 验证安装：

   Pkg.test("Mocha")
   

基本使用

using Mocha

# 定义网络层
data = HDF5DataLayer(name="train-data", source="train-data-list.txt", batch_size=64)
conv = ConvolutionLayer(name="conv1", n_filter=20, kernel=(5,5), bottoms=[:data], tops=[:conv])
pool = PoolingLayer(name="pool1", kernel=(2,2), stride=(2,2), bottoms=[:conv], tops=[:pool])
fc = InnerProductLayer(name="ip1", output_dim=500, neuron=Neurons.ReLU(), bottoms=[:pool], tops=[:ip1])
loss = SoftmaxLossLayer(name="loss", bottoms=[:ip1, :label])

# 设置后端
backend = DefaultBackend()
init(backend)

# 构建网络
net = Net("MNIST", backend, [data, conv, pool, fc, loss])

# 配置训练参数
solver_method = SGD()
params = make_solver_parameters(solver_method, max_iter=10000, regu_coef=0.0005)
solver = Solver(solver_method, params)

# 开始训练
solve(solver, net)

注：完整示例请参考 MNIST教程