开源 Vizier：可靠且灵活的黑盒优化工具。

Google AI 博客 | 快速入门 | 文档 | 安装 | 引用与亮点

什么是开源 (OSS) Vizier？

OSS Vizier 是一个基于 Python 的黑盒优化与研究服务，其原型为 Google Vizier，这是最早设计用于大规模运行的超参数调优服务之一。

OSS Vizier 的分布式客户端-服务器系统。动画由 Tom Small 制作。

快速入门

作为用户的简单示例，下面展示了如何使用所有平坦搜索空间类型来优化一个简单的目标函数：

from vizier.service import clients
from vizier.service import pyvizier as vz

# 需要最大化的目标函数。
def evaluate(w: float, x: int, y: float, z: str) -> float:
  return w**2 - y**2 + x * ord(z)

# 算法、搜索空间和指标。
study_config = vz.StudyConfig(algorithm='DEFAULT')
study_config.search_space.root.add_float_param('w', 0.0, 5.0)
study_config.search_space.root.add_int_param('x', -2, 2)
study_config.search_space.root.add_discrete_param('y', [0.3, 7.2])
study_config.search_space.root.add_categorical_param('z', ['a', 'g', 'k'])
study_config.metric_information.append(vz.MetricInformation('metric_name', goal=vz.ObjectiveMetricGoal.MAXIMIZE))

# 设置客户端并开始优化。Vizier 服务将被隐式创建。
study = clients.Study.from_study_config(study_config, owner='my_name', study_id='example')
for i in range(10):
  suggestions = study.suggest(count=2)
  for suggestion in suggestions:
    params = suggestion.parameters
    objective = evaluate(params['w'], params['x'], params['y'], params['z'])
    suggestion.complete(vz.Measurement({'metric_name': objective}))

文档

OSS Vizier 的接口由 三个主要 API 组成：

• 用户 API： 允许用户优化其黑盒目标函数，并可选择设置服务器以支持分布式多客户端环境。
• 开发者 API： 定义用于实现新优化算法的抽象和工具，以便在服务中托管这些算法进行研究。
• 基准测试 API： 包含大量目标函数和方法，用于对算法进行基准测试和比较。

此外，它还包含 高级 API 用于：

• TensorFlow Probability： 使用 TensorFlow Probability 和 Flax 编写贝叶斯优化算法。
• PyGlove： 利用 OSS Vizier 作为分布式后端，进行大规模进化实验和程序搜索。

有关详细信息，请参阅 OSS Vizier 的 ReadTheDocs 文档。

安装

快速入门： 若要使用我们最先进的基于 JAX 的贝叶斯优化器来优化目标函数，请运行：

pip install google-vizier[jax]

高级安装

最小安装： 若要仅从 requirements.txt 中安装核心服务和客户端 API，请运行：

pip install google-vizier

完整安装： 若要支持所有算法和基准测试，请运行：

pip install google-vizier[all]

特定安装： 如果您只需要 OSS Vizier 的某个特定部分“X”，请运行：

pip install google-vizier[X]

这将安装来自 requirements-X.txt 的附加组件。可能的选项包括：

• requirements-jax.txt：算法和基准测试共用的 JAX 库。
• requirements-tf.txt：基准测试使用的 TensorFlow 库。
• requirements-algorithms.txt：用于算法的额外仓库（例如 EvoJAX）。
• requirements-benchmarks.txt：用于基准测试的额外仓库（例如 NASBENCH-201）。
• requirements-test.txt：测试代码所需的库。

开发者安装： 若要安装到最新提交版本，请运行：

pip install google-vizier-dev[X]

完整安装后，请通过运行 run_tests.sh 来检查所有单元测试是否正常工作。OSS Vizier 需要 Python 3.10 或更高版本，而仅包含客户端的软件包则需要 Python 3.8 或更高版本。

引用与亮点

引用 Vizier： 如果您觉得其中任何一篇论文对您的工作有所帮助，请考虑引用相应的文献：算法论文、开源软件包论文以及Google 系统论文。

亮点： 我们会记录 知名用户 和 媒体关注，如果您在工作中使用了 OSS Vizier 并从中受益，请告知我们。

谢谢！

@article{gaussian_process_bandit,
  author       = {Xingyou Song and
                  Qiuyi Zhang and
                  Chansoo Lee and
                  Emily Fertig and
                  Tzu-Kuo Huang and
                  Lior Belenki and
                  Greg Kochanski and
                  Setareh Ariafar and
                  Srinivas Vasudevan and
                  Sagi Perel and
                  Daniel Golovin},
  title        = {The Vizier Gaussian Process Bandit Algorithm},
  journal      = {Google DeepMind Technical Report},
  year         = {2024},
  eprinttype    = {arXiv},
  eprint       = {2408.11527},
}

@inproceedings{oss_vizier,
  author    = {Xingyou Song and
               Sagi Perel and
               Chansoo Lee and
               Greg Kochanski and
               Daniel Golovin},
  title     = {Open Source Vizier: Distributed Infrastructure and API for Reliable and Flexible Black-box Optimization},
  booktitle = {Automated Machine Learning Conference, Systems Track (AutoML-Conf Systems)},
  year      = {2022},
}

@inproceedings{google_vizier,
  author    = {Daniel Golovin and
               Benjamin Solnik and
               Subhodeep Moitra and
               Greg Kochanski and
               John Karro and
               D. Sculley},
  title     = {Google Vizier: {A} Service for Black-Box Optimization},
  booktitle = {Proceedings of the 23rd {ACM} {SIGKDD} International Conference on
               Knowledge Discovery and Data Mining, Halifax, NS, Canada, August 13
               - 17, 2017},
  pages     = {1487--1495},
  publisher = {{ACM}},
  year      = {2017},
  url       = {https://doi.org/10.1145/3097983.3098043},
  doi       = {10.1145/3097983.3098043},
}

Open Source Vizier 快速上手指南

Open Source Vizier (OSS Vizier) 是一个基于 Python 的黑盒优化服务，源自 Google 内部大规模使用的超参数调优系统。它支持分布式客户端 - 服务器架构，适用于科研探索和生产环境中的自动化机器学习任务。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：
  • 完整服务（含服务端）：需 Python 3.10+
  • 仅客户端使用：需 Python 3.8+
• 包管理工具：推荐使用 pip

安装步骤

根据您的具体需求，选择以下一种安装方式。国内用户若遇到下载缓慢问题，可添加 -i https://pypi.tuna.tsinghua.edu.cn/simple 参数使用清华镜像源。

1. 快速开始（推荐）

如果您希望使用基于 JAX 的最先进贝叶斯优化算法进行目标调优：

pip install google-vizier[jax]

2. 最小化安装

如果您只需要核心服务和客户端 API：

pip install google-vizier

3. 完整安装

如果您需要支持所有算法、基准测试及相关依赖（如 TensorFlow, EvoJAX 等）：

pip install google-vizier[all]

4. 开发者安装

如果您需要安装最新提交版本的代码：

pip install google-vizier-dev[X]

(注：将 [X] 替换为您需要的特定组件，如 [jax] 或 [all])

基本使用

以下示例展示了如何定义一个简单的优化目标，配置搜索空间（包含浮点、整数、离散和分类参数），并启动优化循环。

from vizier.service import clients
from vizier.service import pyvizier as vz

# 定义需要最大化的目标函数
def evaluate(w: float, x: int, y: float, z: str) -> float:
  return w**2 - y**2 + x * ord(z)

# 配置算法、搜索空间和评估指标
study_config = vz.StudyConfig(algorithm='DEFAULT')
study_config.search_space.root.add_float_param('w', 0.0, 5.0)
study_config.search_space.root.add_int_param('x', -2, 2)
study_config.search_space.root.add_discrete_param('y', [0.3, 7.2])
study_config.search_space.root.add_categorical_param('z', ['a', 'g', 'k'])
study_config.metric_information.append(vz.MetricInformation('metric_name', goal=vz.ObjectiveMetricGoal.MAXIMIZE))

# 创建客户端并开始优化 (Vizier 服务将隐式创建)
study = clients.Study.from_study_config(study_config, owner='my_name', study_id='example')

# 执行优化循环
for i in range(10):
  # 获取建议的参数组合
  suggestions = study.suggest(count=2)
  for suggestion in suggestions:
    params = suggestion.parameters
    # 计算目标值
    objective = evaluate(params['w'], params['x'], params['y'], params['z'])
    # 反馈结果
    suggestion.complete(vz.Measurement({'metric_name': objective}))