] add Zygote

Zygote 在 Julia 中提供源到源（source-to-source）自动微分（Automatic Differentiation, AD），是 Flux 可微分编程框架的下一代自动微分系统。有关 Zygote 技术的更多细节和基准测试，请参阅我们的论文。你可能还想查看 Flux，以获取更多有趣的 Zygote 使用示例；本文档主要关注内部机制和高级自动微分用法。

Zygote 支持 Julia 1.6 及更高版本，但我们强烈推荐使用 Julia 1.8 或更新版本。

julia> using Zygote

julia> f(x) = 5x + 3

julia> f(10), f'(10)
(53, 5.0)

julia> @code_llvm f'(10)
define i64 @"julia_#625_38792"(i64) {
top:
  ret i64 5
}

“源到源”意味着 Zygote 会接入 Julia 的编译器，并为你生成反向传播过程——就像你自己手动编写的一样。

Zygote 支持 Julia 语言的灵活性和动态性，包括控制流、递归、闭包、结构体（structs）、字典（dictionaries）等。 目前尚不支持可变状态（mutation）和异常处理（exception handling）。

julia> fs = Dict("sin" => sin, "cos" => cos, "tan" => tan);

julia> gradient(x -> fs[readline()](x), 1)
sin
0.5403023058681398

Zygote 受益于使用 ChainRules.jl 的规则集。 自定义梯度可以通过扩展 ChainRulesCore.jl 的 rrule 来定义：

julia> using ChainRulesCore

julia> add(a, b) = a + b

julia> function ChainRulesCore.rrule(::typeof(add), a, b)
           add_pb(dy) = (NoTangent(), dy, dy)
           return add(a, b), add_pb
       end

为了支持具有大量参数的大规模机器学习模型，Zygote 能够对隐式使用的参数进行微分，而不仅限于函数参数。

julia> W, b = rand(2, 3), rand(2);

julia> predict(x) = W*x .+ b;

julia> g = gradient(Params([W, b])) do
         sum(predict([1,2,3]))
       end
Grads(...)

julia> g[W], g[b]
([1.0 2.0 3.0; 1.0 2.0 3.0], [1.0, 1.0])

Zygote.jl 快速上手指南

环境准备

• Julia 版本：支持 Julia 1.6 及以上，强烈推荐使用 Julia 1.8 或更高版本
• 操作系统：Windows / macOS / Linux 均可
• 前置依赖：无需额外安装其他包（Zygote 会自动处理依赖）

💡 提示：国内用户建议配置 清华镜像源 或 中科大镜像源 加速包下载。

安装步骤

在 Julia REPL 中执行以下命令：

] add Zygote

或在脚本中使用：

using Pkg
Pkg.add("Zygote")

基本使用

1. 自动求导（函数参数）

using Zygote

f(x) = 5x + 3

# 计算函数值和导数值
f(10), f'(10)
# 输出: (53, 5.0)

2. 使用 gradient 计算梯度

using Zygote

# 对多变量函数求梯度
gradient((x, y) -> x^2 + y^2, 2, 3)
# 输出: (4.0, 6.0)

3. 支持动态控制流（如字典、条件等）

fs = Dict("sin" => sin, "cos" => cos, "tan" => tan)

# 运行时读取函数名并求导（需手动输入如 "sin"）
gradient(x -> fs[readline()](x), 1)

⚠️ 注意：Zygote 目前不支持数组原地修改（mutation）和异常处理（exception handling）。