alphatensor

GitHub
2.8k 254 简单 1 次阅读 2天前Apache-2.0其他
AI 解读 由 AI 自动生成,仅供参考

AlphaTensor 是 DeepMind 开源的一项突破性研究代码,旨在利用强化学习自动发现更高效的矩阵乘法算法。矩阵乘法是深度学习、科学计算等领域的核心运算,传统算法往往依赖人类数学家的直觉与推导,难以穷尽所有可能性。AlphaTensor 将寻找最优算法的过程建模为单人策略游戏,通过智能体在巨大的搜索空间中探索,成功找到了比现有经典算法步骤更少、速度更快的新方案,甚至在特定硬件上实现了实际加速。

该项目不仅发表了相关论文,还公开了数千种由 AI 发现的、互不等价的 4x4 矩阵乘法算法实例,并提供了验证其独特性及在 NVIDIA GPU 上进行基准测试的工具链。此外,它还展示了如何通过重组小规模算法的分解形式来构建更大规模的矩阵乘法方案。

AlphaTensor 主要面向人工智能研究人员、算法工程师以及对高性能计算感兴趣的开发者。对于希望深入理解 AI 如何辅助基础数学发现,或试图优化底层计算内核的专业人士而言,这套代码和数据集提供了宝贵的实验素材与参考范式。其核心技术亮点在于证明了强化学习不仅能解决具体应用问题,还能在基础算法理论层面推动人类知识的边界。

使用场景

某高性能计算团队正在为新一代气象预测模型优化核心的大规模矩阵运算内核,试图在有限的 GPU 资源下进一步压低延迟。

没有 alphatensor 时

  • 工程师只能依赖 Strassen 等几十年前发现的传统算法,难以突破理论上的乘法次数瓶颈。
  • 针对特定硬件(如 NVIDIA V100)手动调整算法参数耗时数周,且往往陷入局部最优解。
  • 缺乏系统性的方法来验证是否存在更优的分解方案,只能凭经验猜测或放弃优化。
  • 面对 4x4 等中等规模矩阵,无法穷举成千上万种非等价算法组合以寻找速度最快的特例。

使用 alphatensor 后

  • 利用强化学习自动发现了比传统方法乘法次数更少的新算法,直接降低了计算复杂度。
  • 通过内置的基准测试脚本,快速在目标 GPU 上验证了新算法的实际加速效果,将调优周期从数周缩短至数小时。
  • 借助提供的 14,236 种非等价算法库,团队能直接筛选出最适合当前硬件架构的特化版本。
  • 利用重组代码将小矩阵的高效分解方案扩展到大矩阵任务,实现了整体推理速度的显著提升。

alphatensor 将矩阵乘法算法的发现过程从“人工经验驱动”转变为"AI 自动探索”,为底层算力挖掘带来了颠覆性的效率飞跃。

运行环境要求

操作系统
  • 未说明
GPU
  • benchmarking 模块需要 NVIDIA V100 GPU 进行速度测试
  • 其他模块未明确要求 GPU
内存

未说明

依赖
notes该项目包含四个独立目录,其中 algorithms 和 nonequivalence 无需安装即可在 Colab 中运行;recombination 模块需安装 numpy 和 absl-py;benchmarking 模块需在子目录查看具体说明。部分功能需上传特定的 .npz 数据文件方可运行。
python3.x (recombination 模块明确要求)
numpy
absl-py
alphatensor hero image

快速开始

AlphaTensor

这是与发表论文配套的代码。

Fawzi, A. 等人。利用强化学习发现更快的矩阵乘法算法。《自然》杂志 610 (2022)

共有四个独立的目录:

  • algorithms 包含由 AlphaTensor 发现的算法,以矩阵乘法张量的分解形式表示,并提供一个 Colab 笔记本用于加载这些算法。

  • benchmarking 包含一个脚本,可用于在 NVIDIA V100 GPU 上测量矩阵乘法算法的实际运行速度。

  • nonequivalence 包含 AlphaTensor 为同一矩阵乘法问题(4×4 矩阵相乘)发现的 14,236 个非等价算法,以及一个验证这些算法非等价性的 Colab 笔记本。

  • recombination 包含我们用于通过重新组合较小矩阵乘法张量的分解来分解较大矩阵乘法张量的代码。

安装

  • algorithms: 无需安装。

  • benchmarking: 请参阅子目录中的 README 文件。

  • nonequivalence: 无需安装。

  • recombination: 需要一台已安装 Python 3 的机器。所需的依赖包 (numpyabsl-py) 可通过执行 pip3 install -r alphatensor/recombination/requirements.txt 来安装。

使用

  • algorithms: 可通过 Open In Colab 打开笔记本 explore_factorizations.ipynb。运行代码时,系统会提示您上传包含分解结果的文件。请选择以下两个压缩的 NumPy 文件之一:factorizations_r.npz(包含标准算术中的算法)或 factorizations_f2.npz(包含模 2 算术中的算法)。

  • benchmarking: 请参阅子目录中的 README 文件以及论文的补充材料 D。

  • nonequivalence: 可通过 Open In Colab 打开笔记本 inspect_factorizations_notebook.ipynb。运行代码时,系统会提示您上传文件。请选择压缩的 NumPy 文件 alphatensor_14236_factorizations.npz。这将上传 AlphaTensor 发现的分解结果,并计算不变量以证明它们彼此非等价。更多详情请参阅论文的补充材料 B。

  • recombination: 在命令行中执行 python3 -m alphatensor.recombination.example需从包含 alphatensor 仓库作为子目录的父目录下运行。更多详情请参阅论文的补充材料 H。

引用本工作

如果您使用本软件包中的代码或数据,请引用以下文献:

@Article{AlphaTensor2022,
  author  = {Fawzi, Alhussein and Balog, Matej and Huang, Aja and Hubert, Thomas and Romera-Paredes, Bernardino and Barekatain, Mohammadamin and Novikov, Alexander and Ruiz, Francisco J. R. and Schrittwieser, Julian and Swirszcz, Grzegorz and Silver, David and Hassabis, Demis and Kohli, Pushmeet},
  journal = {Nature},
  title   = {Discovering faster matrix multiplication algorithms with reinforcement learning},
  year    = {2022},
  volume  = {610},
  number  = {7930},
  pages   = {47--53},
  doi     = {10.1038/s41586-022-05172-4}
}

许可与免责声明

版权所有 © 2022 DeepMind Technologies Limited

所有软件均采用 Apache License, Version 2.0(Apache 2.0)许可;除非符合 Apache 2.0 许可协议的规定,否则不得使用本文件。您可以在以下网址获取 Apache 2.0 许可协议的副本: https://www.apache.org/licenses/LICENSE-2.0

所有其他材料均采用 Creative Commons Attribution 4.0 国际许可(CC-BY)。您可以在以下网址获取 CC-BY 许可协议的副本: https://creativecommons.org/licenses/by/4.0/legalcode

除非适用法律另有规定或双方另有约定,否则在此依据 Apache 2.0 或 CC-BY 许可协议分发的所有软件和材料均按“现状”提供,不提供任何形式的明示或默示保证或条件。具体的权利和限制请参阅相关许可协议。

本项目并非 Google 官方产品。

常见问题

相似工具推荐

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85.1k|★★☆☆☆|2天前
图像数据工具视频

funNLP

funNLP 是一个专为中文自然语言处理(NLP)打造的超级资源库,被誉为"NLP 民工的乐园”。它并非单一的软件工具,而是一个汇集了海量开源项目、数据集、预训练模型和实用代码的综合性平台。 面对中文 NLP 领域资源分散、入门门槛高以及特定场景数据匮乏的痛点,funNLP 提供了“一站式”解决方案。这里不仅涵盖了分词、命名实体识别、情感分析、文本摘要等基础任务的标准工具,还独特地收录了丰富的垂直领域资源,如法律、医疗、金融行业的专用词库与数据集,甚至包含古诗词生成、歌词创作等趣味应用。其核心亮点在于极高的全面性与实用性,从基础的字典词典到前沿的 BERT、GPT-2 模型代码,再到高质量的标注数据和竞赛方案,应有尽有。 无论是刚刚踏入 NLP 领域的学生、需要快速验证想法的算法工程师,还是从事人工智能研究的学者,都能在这里找到急需的“武器弹药”。对于开发者而言,它能大幅减少寻找数据和复现模型的时间;对于研究者,它提供了丰富的基准测试资源和前沿技术参考。funNLP 以开放共享的精神,极大地降低了中文自然语言处理的开发与研究成本,是中文 AI 社区不可或缺的宝藏仓库。

79.9k|★☆☆☆☆|昨天
语言模型数据工具其他

cs-video-courses

cs-video-courses 是一个精心整理的计算机科学视频课程清单,旨在为自学者提供系统化的学习路径。它汇集了全球知名高校(如加州大学伯克利分校、新南威尔士大学等)的完整课程录像,涵盖从编程基础、数据结构与算法,到操作系统、分布式系统、数据库等核心领域,并深入延伸至人工智能、机器学习、量子计算及区块链等前沿方向。 面对网络上零散且质量参差不齐的教学资源,cs-video-courses 解决了学习者难以找到成体系、高难度大学级别课程的痛点。该项目严格筛选内容,仅收录真正的大学层级课程,排除了碎片化的简短教程或商业广告,确保用户能接触到严谨的学术内容。 这份清单特别适合希望夯实计算机基础的开发者、需要补充特定领域知识的研究人员,以及渴望像在校生一样系统学习计算机科学的自学者。其独特的技术亮点在于分类极其详尽,不仅包含传统的软件工程与网络安全,还细分了生成式 AI、大语言模型、计算生物学等新兴学科,并直接链接至官方视频播放列表,让用户能一站式获取高质量的教育资源,免费享受世界顶尖大学的课堂体验。

79.8k|★☆☆☆☆|昨天
其他图像数据工具

ragflow

RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。

77.1k|★★★☆☆|6天前
Agent图像开发框架

PaddleOCR

PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来,转换成计算机可读取的结构化数据,让机器真正“看懂”图文内容。 面对海量纸质或电子文档,PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域,它扮演着连接图像与大型语言模型(LLM)的桥梁角色,能将视觉信息直接转化为文本输入,助力智能问答、文档分析等应用场景落地。 PaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显:不仅支持全球 100 多种语言的识别,还能在 Windows、Linux、macOS 等多个系统上运行,并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目,PaddleOCR 既能满足快速集成的需求,也能支撑前沿的视觉语言研究,是处理文字识别任务的理想选择。

75.3k|★★★☆☆|今天
语言模型图像开发框架

awesome-machine-learning

awesome-machine-learning 是一份精心整理的机器学习资源清单,汇集了全球优秀的机器学习框架、库和软件工具。面对机器学习领域技术迭代快、资源分散且难以甄选的痛点,这份清单按编程语言(如 Python、C++、Go 等)和应用场景(如计算机视觉、自然语言处理、深度学习等)进行了系统化分类,帮助使用者快速定位高质量项目。 它特别适合开发者、数据科学家及研究人员使用。无论是初学者寻找入门库,还是资深工程师对比不同语言的技术选型,都能从中获得极具价值的参考。此外,清单还延伸提供了免费书籍、在线课程、行业会议、技术博客及线下聚会等丰富资源,构建了从学习到实践的全链路支持体系。 其独特亮点在于严格的维护标准:明确标记已停止维护或长期未更新的项目,确保推荐内容的时效性与可靠性。作为机器学习领域的“导航图”,awesome-machine-learning 以开源协作的方式持续更新,旨在降低技术探索门槛,让每一位从业者都能高效地站在巨人的肩膀上创新。

72.1k|★☆☆☆☆|6天前
开发框架其他