证据深度学习

“所有的模型都是错误的，但有些——那些知道自己何时可信——却是有用的！”

- 乔治·博克斯（改编）

本仓库包含用于复现深度证据回归的代码，该工作发表于 NeurIPS 2020。此外，还提供了更通用的代码，利用证据学习直接从数据中训练神经网络，使其能够自主学习不确定性度量！

环境搭建

要使用本包，您需要先安装以下依赖：

• python (>=3.7)
• tensorflow (>=2.0)
• pytorch（支持即将推出）

安装完成后，即可开始将证据层和损失函数添加到您的模型中！

pip install evidential-deep-learning

现在，您可以直接在现有的 tf.keras 模型流程中（无论是 Sequential、Functional 还是 model-subclassing）使用本包：

>>> import evidential_deep_learning as edl

示例

要使用证据深度学习，您必须将模型的最后一层修改为证据层，并使用支持的损失函数对系统进行端到端训练。本仓库同时支持全连接层和卷积（2D）层的证据层。论文中提出的证据先验分布遵循正态逆伽马分布，可以轻松添加到您的模型中：

import evidential_deep_learning as edl
import tensorflow as tf

model = tf.keras.Sequential(
    [
        tf.keras.layers.Dense(64, activation="relu"),
        tf.keras.layers.Dense(64, activation="relu"),
        edl.layers.DenseNormalGamma(1), # 证据分布！
    ]
)
model.compile(
    optimizer=tf.keras.optimizers.Adam(1e-3), 
    loss=edl.losses.EvidentialRegression # 证据损失！
)

请查看 hello_world.py 文件，其中提供了一个端到端的小型示例，逐步演示上述步骤。对于更复杂的例子，例如扩展到计算机视觉任务（我们可以在同一时间预测成千上万份证据分布），请参考 NeurIPS 2020 论文以及本仓库的可复现性部分以运行这些示例。

可复现性

我们 NeurIPS 论文中发表的所有结果均可通过本仓库复现。请参阅 可复现性章节，获取详细说明和每项结果的获取方法。

引用

如果您在项目或论文中使用了本代码进行证据学习，请引用以下文献：

@article{amini2020deep,
  title={Deep evidential regression},
  author={Amini, Alexander and Schwarting, Wilko and Soleimany, Ava and Rus, Daniela},
  journal={Advances in Neural Information Processing Systems},
  volume={33},
  year={2020}
}

Evidential Deep Learning 快速上手指南

本指南帮助中国开发者快速集成 Evidential Deep Learning，让神经网络能够直接从数据中学习并输出不确定性度量（Uncertainty），适用于回归任务。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux / macOS / Windows
• Python 版本：>= 3.7
• 核心依赖：
  • TensorFlow >= 2.0
  • PyTorch（支持即将推出，当前主要支持 TF）

提示：国内用户建议使用清华源或阿里源加速依赖安装。

安装步骤

通过 pip 直接安装官方包：

pip install evidential-deep-learning

国内加速安装推荐（使用清华源）：

pip install evidential-deep-learning -i https://pypi.tuna.tsinghua.edu.cn/simple

安装完成后，即可在项目中导入使用：

import evidential_deep_learning as edl

基本使用

使用该库的核心步骤是：将模型的最后一层替换为证据层（Evidential Layer），并使用对应的**证据损失函数（Evidential Loss）**进行编译。

以下是一个基于 tf.keras 的最简回归模型示例：

import evidential_deep_learning as edl
import tensorflow as tf

# 构建模型
model = tf.keras.Sequential(
    [
        tf.keras.layers.Dense(64, activation="relu"),
        tf.keras.layers.Dense(64, activation="relu"),
        edl.layers.DenseNormalGamma(1), # 替换为证据分布层
    ]
)

# 编译模型
model.compile(
    optimizer=tf.keras.optimizers.Adam(1e-3), 
    loss=edl.losses.EvidentialRegression # 使用证据回归损失
)

# 后续即可像普通 Keras 模型一样进行 model.fit() 训练

说明：

• DenseNormalGamma：对应论文中的正态逆伽马（Normal Inverse-Gamma）先验分布，适用于全连接层。
• 该库同样支持卷积层（2D Convolutional layers）的证据层扩展。
• 更多完整示例（包括端到端玩具案例 hello_world.py 及计算机视觉复杂场景）请参考仓库内的源码及 NeurIPS 2020 论文复现部分。