可信人工智能

本仓库汇集了华为诺亚方舟实验室在可信人工智能领域的相关研究成果。

---

gCastle

• 一套因果结构学习工具链，包含多种与因果学习及评估相关的功能。有关该工具箱的技术报告可在此查阅：arXiv:2111.15155。
• 该软件包提供多款因果发现算法，其中大多数基于梯度优化，因此得名：gradient-based Causal structure learning pipeline（基于梯度的因果结构学习流水线）。

竞赛

• 诺亚方舟实验室主办的因果关系相关竞赛的信息及基线代码。
• 历届竞赛分别于 PCIC 2021、PCIC 2022 和 NeurIPS 2023 举办。

数据集

• 华为诺亚方舟实验室发布的真实世界数据集。
• 用于生成各类合成数据集的代码。

研究

• 与因果推断相关的研究工作。我们将持续在此添加新的方法。
• 目前包含 CausalVAE、GAE 以及基于强化学习的因果发现等实现。

Trustworthy AI 快速上手指南

本指南基于华为诺亚方舟实验室开源的 Trustworthy AI 项目，重点介绍其核心因果学习工具链 gCastle 的快速部署与使用。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux (推荐 Ubuntu 18.04+), macOS 或 Windows (WSL)
• Python 版本：Python 3.7 - 3.9
• 前置依赖：
  • pip (包管理工具)
  • git (代码版本控制)
  • 基础科学计算库（安装过程中会自动处理）：numpy, scipy, pandas, torch, networkx 等

提示：建议创建独立的虚拟环境以避免依赖冲突。

python -m venv trustworthy_env
source trustworthy_env/bin/activate  # Linux/macOS
# 或
trustworthy_env\Scripts\activate     # Windows

安装步骤

您可以通过 PyPI 直接安装稳定版，或通过 GitHub 安装最新开发版。国内开发者推荐使用清华镜像源加速下载。

方式一：通过 PyPI 安装（推荐）

pip install gcastle -i https://pypi.tuna.tsinghua.edu.cn/simple

方式二：从源码安装（获取最新功能）

git clone https://github.com/huawei-noah/trustworthyAI.git
cd trustworthyAI/gcastle
pip install . -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

gCastle 提供了多种基于梯度的因果发现算法。以下是一个使用 NOTEARS 算法进行因果结构学习的极简示例。

示例：使用 NOTEARS 进行因果发现

此示例将生成一个合成数据集，并学习其潜在的因果图结构。

import numpy as np
from gcastle.causal_discovery import PC, NOTEARS
from gcastle.datasets import load_dataset

# 1. 加载合成数据 (这里使用默认的线性高斯模型生成数据)
# X: 观测数据矩阵 (样本数 x 变量数)
# true_W: 真实的因果邻接矩阵
X, true_W = load_dataset(name='sachs') 

# 2. 初始化 NOTEARS 模型
# method='notears' 表示使用原始的 NOTEARS 算法
model = NOTEARS()

# 3. 拟合模型并学习因果结构
model.fit(X)

# 4. 获取学习到的因果邻接矩阵
predicted_W = model.causal_matrix_

print("真实因果结构 (前 5x5):")
print(true_W[:5, :5])
print("\n学习到的因果结构 (前 5x5):")
print(predicted_W[:5, :5])

# 5. (可选) 评估结果
from gcastle.metrics import evaluate
shd = evaluate(predicted_W, true_W, metric_type='shd')
print(f"\n结构汉明距离 (SHD): {shd}")

进阶提示

• 算法切换：除了 NOTEARS，gcastle 还支持 DAG-GNN, GraN-DAG, RL-BIC 等算法，只需更改初始化类即可（例如 model = DAG_GNN()）。
• 数据输入：支持传入自定义的 numpy.ndarray 或 pandas.DataFrame 格式数据。
• 可视化：结合 networkx 和 matplotlib 可将 predicted_W 绘制为有向无环图 (DAG)。