laplace 包旨在为整个神经网络、神经网络的子网络或仅其最后一层提供拉普拉斯近似的便捷实现。该包支持后验分布近似、边际似然估计以及多种后验预测计算。

此外，还有一篇配套论文——Laplace Redux — 轻松实现贝叶斯深度学习，其中介绍了该库，概述了拉普拉斯近似的基本原理及其在深度学习中的应用，并通过实证研究展示了其灵活性和竞争力。使用本库时，请参考以下引用：

@inproceedings{laplace2021,
  title={Laplace Redux--Effortless {B}ayesian Deep Learning},
  author={Erik Daxberger and Agustinus Kristiadi and Alexander Immer
          and Runa Eschenhagen and Matthias Bauer and Philipp Hennig},
  booktitle={{N}eur{IPS}},
  year={2021}
}

论文中实验的复现代码也已公开：https://github.com/runame/laplace-redux，其中提供了如何利用本库进行预测不确定性量化、模型选择及持续学习等任务的示例。

[!IMPORTANT] 作为用户，不应期望拉普拉斯方法能够自动奏效。也就是说，您需要尝试不同的配置选项（如 Hessian 矩阵分解方式、先验精度调优方法、预测方法、后端等）。建议参考相关文献，根据具体应用场景或问题合理设置这些参数。

安装

[!IMPORTANT] 我们假设 Python 版本不低于 3.9，因为更低版本即将被弃用（详见 Python 开发指南）。同时，为了获得完全兼容性，PyTorch 版本需为 2.0 或更高。

使用 pip 安装 laplace 的命令如下：

pip install laplace-torch

此外，如果您希望使用 asdfghjkl 后端，请通过以下命令安装：

pip install git+https://git@github.com/wiseodd/asdl@asdfghjkl

简单用法

[!TIP] 更多使用示例和 API 参考，请访问 https://aleximmer.github.io/Laplace。

以下示例展示了如何加载一个预训练模型，然后基于训练数据拟合拉普拉斯近似（采用对角 Hessian 近似），并通过交叉验证“gridsearch”优化先验精度。最后，使用得到的 LA 对分类任务进行预测，预测方法为“probit”。

from laplace import Laplace

# 预训练模型
model = load_map_model()

# 用户指定的 LA 配置
la = Laplace(model, "classification",
             subset_of_weights="all",
             hessian_structure="diag")
la.fit(train_loader)
la.optimize_prior_precision(
    method="gridsearch",
    pred_type="glm",
    link_approx="probit",
    val_loader=val_loader
)

# 用户指定的预测方法
pred = la(x, pred_type="glm", link_approx="probit")

贡献

我们非常欢迎 Pull Request。请遵循 https://aleximmer.github.io/Laplace/devs_guide 中的贡献指南。

Laplace 快速上手指南

Laplace 是一个用于在神经网络（整体、子网或仅最后一层）上应用拉普拉斯近似（Laplace Approximation）的 Python 库。它支持后验近似、边缘似然估计以及各种后验预测计算，旨在让贝叶斯深度学习变得简单高效。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• Python 版本：>= 3.9（低版本已不再支持）
• PyTorch 版本：>= 2.0（为确保完全兼容）
• 操作系统：Linux, macOS, Windows (需配置好 PyTorch 环境)

安装步骤

1. 安装核心库

使用 pip 直接安装 laplace-torch：

pip install laplace-torch

国内加速建议：如果下载速度较慢，推荐使用国内镜像源（如清华源）：

pip install laplace-torch -i https://pypi.tuna.tsinghua.edu.cn/simple

2. (可选) 安装额外后端

如果您需要使用 asdfghjkl 后端进行更高效的计算，请额外运行以下命令：

pip install git+https://git@github.com/wiseodd/asdl@asdfghjkl

基本使用

以下示例展示了如何加载预训练模型，拟合拉普拉斯近似，优化先验精度，并进行预测。

流程说明：

1. 加载预训练模型。
2. 初始化 Laplace 对象（指定任务类型、权重子集和黑塞矩阵结构）。
3. 使用训练数据拟合近似。
4. 通过交叉验证（网格搜索）优化先验精度。
5. 执行预测。

from laplace import Laplace

# 1. 加载预训练模型 (用户需自行实现 load_map_model)
model = load_map_model()

# 2. 初始化拉普拉斯近似
# 任务类型：classification
# 权重子集：all (所有参数)
# 黑塞矩阵结构：diag (对角近似)
la = Laplace(model, "classification",
             subset_of_weights="all",
             hessian_structure="diag")

# 3. 拟合训练数据
la.fit(train_loader)

# 4. 优化先验精度 (使用网格搜索)
la.optimize_prior_precision(
    method="gridsearch",
    pred_type="glm",
    link_approx="probit",
    val_loader=val_loader
)

# 5. 进行预测
pred = la(x, pred_type="glm", link_approx="probit")

重要提示：Laplace 并非“开箱即用”的黑盒工具。为了获得最佳效果，建议您根据具体应用场景，尝试调整不同的配置选项（如 hessian_factorization、先验精度调优方法、预测方法、后端等），并参考相关学术论文进行参数设置。

更多详细用法和 API 文档请访问：https://aleximmer.github.io/Laplace