awesome-machine-learning-in-compilers

GitHub
1.7k 177 非常简单 1 次阅读 5天前CC0-1.0开发框架
AI 解读 由 AI 自动生成，仅供参考

awesome-machine-learning-in-compilers 是一个精心整理的开源资源库，专注于汇聚机器学习在编译器与系统优化领域的前沿成果。它解决了该交叉学科研究资料分散、入门门槛高的问题，将海量的学术论文、数据集、软件工具及行业会议信息进行了系统化分类与整合。

这份清单涵盖了从基础的综述文章到具体的迭代编译、指令级优化、并行任务调度，再到如今热门的大语言模型（LLM）与编译器协同等细分方向。无论是希望快速了解领域全貌的初学者，还是正在寻找特定算法实现或基准测试数据的研究人员与编译器开发者，都能在这里高效定位所需资源。

其独特亮点在于不仅收录了经典的传统机器学习应用案例，还持续更新包括“深度学习编译器”及"LLM 与新编译器栈”在内的最新技术趋势，确保了内容的前瞻性与实用性。对于致力于提升代码执行效率、探索自动调优技术或从事相关学术研究的专业人士而言，awesome-machine-learning-in-compilers 是一份不可或缺的权威导航指南，帮助大家站在巨人的肩膀上推动系统性能优化的边界。

使用场景

某高性能计算团队正在为新一代 AI 芯片开发定制化编译器，急需通过自动调优技术挖掘硬件极致性能。

没有 awesome-machine-learning-in-compilers 时

  • 文献检索如大海捞针：团队成员需手动在各大会议（如 CGO、ASPLOS）和期刊中筛选“机器学习用于编译优化”的论文，耗时数周仍难以覆盖关键成果。
  • 技术路线盲目试错：缺乏对迭代编译、指令级优化等细分领域的系统认知，导致在“搜索空间构建”等核心问题上重复造轮子，甚至选错算法方向。
  • 数据与工具链断裂：找不到权威的基准测试集（Benchmarks）和开源数据集，无法复现前沿论文效果，模型训练因缺乏高质量数据而停滞。
  • 领域知识更新滞后：错过关于大语言模型（LLM）与编译器协同的最新综述，未能及时将生成式 AI 引入代码表示学习，错失架构升级窗口。

使用 awesome-machine-learning-in-compilers 后

  • 核心资源一键直达：直接获取按“自动调优”、“并行映射”等场景分类的精选论文列表，半天内即可锁定如 SRTuner 等最适合当前芯片特性的顶会方案。
  • 研发路径清晰明确：借助分类清晰的综述文章，快速理解不同优化策略的适用边界，避免了在无效搜索空间上的算力浪费，决策效率提升显著。
  • 实验环境快速搭建：利用列表中提供的专用数据集和工具链接，迅速复现基准测试，将模型从理论验证到实际部署的周期从数月缩短至数周。
  • 前沿技术无缝衔接：通过追踪列表中持续更新的"LLM 与编译器协同”等最新研究，成功引入基于程序表示学习的新型优化器，大幅提升了代码生成质量。

awesome-machine-learning-in-compilers 将原本分散孤立的学术资源转化为结构化的工程导航图，让编译器研发团队能站在巨人肩膀上加速创新。

运行环境要求

GPU

未说明

内存

未说明

依赖
notes该仓库是一个 curated list（精选列表），主要收集了关于将机器学习应用于编译器和程序优化的研究论文、数据集和工具的资源链接。它本身不是一个可执行的软件工具或框架，因此没有具体的运行环境、依赖库或硬件需求。用户需根据列表中引用的具体论文或工具去查询其各自的环境要求。
python未说明
awesome-machine-learning-in-compilers hero image

快速开始

用于编译器和程序优化的优秀机器学习资源

Awesome 维护中

这是一份精心整理的列表，汇集了将机器学习技术应用于编译器和程序优化领域的优秀研究论文、数据集和工具。

目录

论文

综述

迭代编译与编译器选项调优

指令级优化

自动调优与设计空间探索

  • 27-pages [推理编译器：LLM引导的高效模型推理优化]（NeurIPS 2025） - Annabelle Sujun Tang、Christopher Priebe、Rohan Mahapatra、Lianhui Qin、Hadi Esmaeilzadeh。
  • 23-pages [Compiler-R1：基于强化学习的智能编译器自动调优]（NeurIPS 2025） - Haolin Pan、Hongyu Lin、Haoran Luo、Yang Liu、Kaichun Yao、Libo Zhang、Mingjie Xing、Yanjun Wu。
  • 13-pages [pyATF：基于约束的Python自动调优工具]（CC 2025） - Richard Schulze、Sergei Gorlatch、Ari Rasch。
  • 13-pages [IntelliGen：面向张量程序的指令级自动调优，结合单调性内存优化]（CGO 2025） - Zixuan Ma、Haojie Wang、Jingze Xing、Shuhong Huang、Liyan Zheng、Chen Zhang、Huanqi Cao、Kezhao Huang、Mingshu Zhai、Shizhi Tang、Penghan Wang、Jidong Zhai。
  • 13-pages [面向张量计算的GPU内核加速自动调优]（ICS 2024） - Chendi Li、Yufan Xu、Sina Mahdipour Saravani、P. Sadayappan。
  • 12-pages [通过自动化发现与优化揭示编译器启发式规则]（CGO 2024） - Volker Seeker、Chris Cummins、Murray Cole、Björn Franke、Kim Hazelwood、Hugh Leather。
  • 29-pages [用于内核调度的液滴搜索算法]（ACM TACO 2024） - Michael Canesche、Vanderson M. Rosario、Edson Borin、Fernando Magno Quintão Pereira。
  • 24-pages [BaCO：一种快速且可移植的贝叶斯编译器优化框架]（ASPLOS 2024） - Erik Hellsten、Artur Souza、Johannes Lenfers、Rubens Lacouture、Olivia Hsu、Adel Ejjeh、Fredrik Kjolstad、Michel Steuwer、Kunle Olukotun、Luigi Nardi。
  • 12-pages [(反/再)组合的系统化表达：基于MDH的调度方法]（CC 2023） - Ari Rasch、Richard Schulze、Denys Shabalin、Anne Elster、Sergei Gorlatch、Mary Hall。
  • 23-pages [卷积的自动调优比你想象的更简单]（ACM TACO 2022） - Nicolas Tollenaere、Guillaume Iooss、Stéphane Pouget、Hugo Brunie、Christophe Guillon、Albert Cohen、P. Sadayappan、Fabrice Rastello。
  • 12-pages [迁移调优：复用自动调度以高效生成张量程序代码]（PACT 2022） - Perry Gibson、Jose Cano。
  • 6-pages [Glimpse：面向神经网络编译的硬件规范数学嵌入]（DAC 2022） - Byung Hoon Ahn、Sean Kinzer、Hadi Esmaeilzadeh。
  • 14-pages [深度学习编译器的一次性调优器]（CC 2022） - Jaehun Ryu、Eunhyeok Park、Hyojin Sung。
  • 16-pages [多遍机器学习编译器的灵活自动调优方法]（PACT 2021） - Phitchaya Mangpo Phothilimthana、Amit Sabne、Nikhil Sarda、Karthik Srinivasa Murthy、Yanqi Zhou、Christof Angermueller、Mike Burrows、Sudip Roy、Ketan Mandke、Rezsa Farahani、Yu Emma Wang、Berkin Ilbeyi、Blake Hechtman、Bjarke Roune、Shen Wang、Yuanzhong Xu、Samuel J. Kaufman。
  • 16-pages [TASO：通过图替换的自动生成优化深度学习计算]（PACT 2021） - Zhihao Jia、Oded Padon、James Thomas、Todd Warszawski、Matei Zaharia、Alex Aiken。
  • 12-pages [用于深度神经网络工作负载吞吐量优化的价值学习]（MLSys 2021） - Benoit Steiner、Chris Cummins、Horace He、Hugh Leather。
  • 14-pages [DynaTune：深度神经网络编译中的动态张量程序优化]（ICLR 2021） - Minjia Zhang、Menghao Li、Chi Wang、Mingqin Li。
  • 17-pages [利用进化图强化学习优化内存布局]（ICLR 2021） - Shauharda Khadka、Estelle Aflalo、Mattias Mardar、Avrech Ben-David、Santiago Miret、Shie Mannor、Tamir Hazan、Hanlin Tang、Somdeb Majumdar。
  • 13-pages [GPTune：面向百亿亿级应用的多任务学习自动调优]（PPoPP 2021） - Yang Liu、Wissam M. Sid-Lakhdar、Osni Marques、Xinran Zhu、Chang Meng、James W. Demmel、Xiaoye S. Li。
  • 16-pages [ApproxTuner：用于自适应近似的编译器与运行时系统]（PPoPP 2021） - Hashim Sharif、Yifan Zhao、Maria Kotsifakou、Akash Kothari、Ben Schreiber、Elizabeth Wang、Yasmin Sarita、Nathan Zhao、Keyur Joshi、Vikram S. Adve、Sasa Misailovic、Sarita Adve。
  • 26-pages [通过自动调优框架（ATF）高效调优具有相互依赖调优参数的并行程序]（ACM TACO 2021） - Ari Rasch、Richard Schulze、Michel Steuwer、Sergei Gorlatch。
  • 17-pages [变色龙：用于加速深度神经网络编译的自适应代码优化]（ICLR 2020） - Byung Hoon Ahn、Prannoy Pilligundla、Amir Yazdanbakhsh、Hadi Esmaeilzadeh。
  • 18-pages [Ansor：为深度学习生成高性能张量程序]（OSDI 2020） - Lianmin Zheng、Chengfan Jia、Minmin Sun、Zhao Wu、Cody Hao Yu、Ameer Haj-Ali、Yida Wang、Jun Yang、Danyang Zhuo、Koushik Sen、Joseph E. Gonzalez、Ion Stoica。
  • 13-pages [基于模式的GPU图处理算法自动调优器]（PPoPP 2019） - Ke Meng、Jiajia Li、Guangming Tan、Ninghui Sun。
  • 10-pages [FBNet：通过可微架构搜索实现硬件感知的高效卷积网络设计]（CVPR 2019） - Bichen Wu、Xiaoliang Dai、Peizhao Zhang、Yanghan Wang、Fei Sun、Yiming Wu、Yuandong Tian、Peter Vajda、Yangqing Jia、Kurt Keutzer。
  • 17-pages [TVM：面向深度学习的自动化端到端优化编译器]（OSDI 2018） - Tianqi Chen、Thierry Moreau、Ziheng Jiang、Lianmin Zheng、Eddie Yan、Haichen Shen、Meghan Cowan等。
  • 10-pages [BOAT：使用结构化贝叶斯优化构建自动调优器]（WWW 2017） - Valentin Dalibard、Michael Schaarschmidt、Eiko Yoneki。
  • 25-pages [Cobayn：基于贝叶斯网络的编译器自动调优框架]（TACO 2016） - Amir H. Ashouri、Giovanni Mariani、Gianluca Palermo、Eunjung Park、John Cavazos、Cristina Silvano。
  • 12-pages [针对输入敏感性的自动调优算法选择]（PLDI 2015） - Yufei Ding、Jason Ansel、Kalyan Veeramachaneni、Xipeng Shen、Una-May O'Reilly、Saman Amarasinghe。
  • 26-pages [Fast：基于最优解空间模型的快速模板自动调优框架]（TACO 2015） - Yulong Luo、Guangming Tan、Zeyao Mo、Ninghui Sun。
  • 10-pages [使用回归树优化GPU性能与功耗]（SC 2015） - Wenhao Jia、Elba Garza、Kelly A. Shaw、Margaret Martonosi。
  • 6-pages [基于强化学习的多核系统应用间及应用内热优化，以提升寿命]（DAC 2014） - Anup K Das、Rishad Ahmed Shafik、Geoff V Merrett、Bashir M Al-Hashimi、Akash Kumar、Bharadwaj Veeravalli。
  • 13-pages [Opentuner：可扩展的程序自动调优框架]（PACT 2014） - Jason Ansel、Shoaib Kamil、Kalyan Veeramachaneni、Jonathan Ragan-Kelley、Jeffrey Bosboom、Una-May O'Reilly、Saman Amarasinghe。
  • 12-pages [用自动调优驯服并行I/O复杂度]（SC 2013） - Babak Behzad、Huong Vu Thanh Luu、Joseph Huchette、Surendra Byna、Ruth Aydt、Quincey Koziol、Marc Snir。
  • 12-pages [面向并行代码的多目标自动调优框架]（SC 2012） - Herbert Jordan、Peter Thoman、Juan J. Durillo、Simone Pellegrini、Philipp Gschwandtner、Thomas Fahringer、Hans Moritsch。
  • 8-pages [基于赌徒问题的图优化，应用于库性能调优]（ICML 2009） - Frédéric De Mesmay、Arpad Rimmel、Yevgen Voronenko、Markus Püschel。
  • 12-pages [结合模型与指导性经验搜索，优化多层次内存层次结构]（CGO 2005） - Chun Chen、Jacqueline Chame、Mary Hall。
  • 11-pages [主动协调：迈向自动化性能调优]（SC 2002） - Cristian Tapus、I-Hsin Chung、Jeffrey K. Hollingsworth。

并行性映射与任务调度

领域特定优化

语言与编译

代码大小缩减

成本与性能模型

学习型程序表示

用于编译器和系统优化的机器学习

内存/缓存建模/分析

  • 25-pages 利用深度强化学习优化内存映射 - 王鹏明、米基塔·萨扎诺维奇、贝尔金·伊尔贝伊、皮查亚·芒坡·波提林塔纳、马尼什·普罗希特、韩杨泰、银武、王妙森、科斯敏·帕杜拉鲁、爱德华·勒昂、安东·热尔诺夫、朱利安·施里特维瑟、托马斯·于贝尔、罗伯特·通、保拉·库里洛维茨、基兰·米兰、奥里奥尔·维尼亚尔斯、丹尼尔·J·曼科维茨。arXiv 2023。
  • 10-pages 学习内存访问模式 - 米拉德·哈舍米、凯文·斯韦斯基、杰米·A·史密斯、格兰特·艾尔斯、海纳·利茨、张继川、克里斯托斯·科齐拉基斯、帕尔塔萨拉蒂·兰加纳坦。ICML 2018
  • 26-pages 静态度量隐式存储操作 - 费尔南多·马格诺·昆塔奥·佩雷拉、吉尔赫梅·维埃拉·莱奥巴斯和阿卜杜拉耶·加马蒂。TACO 2019。代码与数据

书籍

报告与教程

软件

  • PROM - 一个Python工具包，用于帮助识别部署后机器学习模型的误预测（论文)。
  • ML-Compiler-Bridge - 用于连接编译器与机器学习模型的库，以实现基于机器学习的编译器优化（论文)。
  • Supersonic - 自动化强化学习架构设计（论文)。
  • CompilerGym - 用于编译器优化的强化学习环境（论文)。
  • CodeBert - 面向编程语言的预训练深度神经网络模型（论文)。
  • IR2Vec - 基于LLVM IR的程序嵌入，用于机器学习（论文)。
  • programl - LLVM和XLA IR的程序表示，用于机器学习（论文)。
  • NeuroVectorizer - 使用深度强化学习（RL）预测最佳向量化编译器指令（论文)。
  • TVM - 开源深度学习编译器栈，适用于CPU、GPU及专用加速器（论文；幻灯片)。
  • MLC-LLM - 一个面向大型语言模型的机器学习编译器及高性能部署引擎（参考技术：论文、论文以及TVM)。
  • clgen - 使用LSTM生成基准测试用例（论文；幻灯片)。
  • COBAYN - 利用贝叶斯网络进行编译器自动调优（论文)。
  • OpenTuner - 用于构建领域特定多目标程序自动调优框架（论文；幻灯片)。
  • ONNX-MLIR - ONNX模型在MLIR编译器基础设施中的表示与参考降级（论文)。
  • IREE - 一个可重定向的基于MLIR的机器学习编译器及运行时工具包。

基准测试与数据集

会议

期刊

如何贡献

请参阅 贡献指南。简而言之：向 维护者 发送一个 拉取请求。

相似工具推荐

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。

★ 162.1k|★★★☆☆|今天
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上

★ 139k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。

★ 107.7k|★★☆☆☆|2天前
开发框架图像Agent

NextChat

NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。

★ 87.6k|★★☆☆☆|今天
开发框架语言模型

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。

★ 85k|★★☆☆☆|今天
图像数据工具视频

ragflow

RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。

★ 77.1k|★★★☆☆|昨天
Agent图像开发框架