📖 简介

LLM4AD是一个基于Python的开源平台，利用大语言模型（LLMs）实现自动算法设计（AD）。有关概述、方法论和基准测试结果等详细信息，请参阅论文 [LLM4AD]。

LLM4AD配备了文档和示例材料，旨在帮助用户和开发者轻松测试、构建和部署自己的LLM4AD应用，并开展相关研究。

LLM4AD最初是为优化任务而开发的。该框架具有足够的通用性，也可应用于其他领域，包括机器学习、科学发现、博弈论以及工程设计等。

更多信息请参阅联系列表。

🔥 最新消息

• 2026年02月 🎉🎉 新冠军！ 我们的LLM4AD系统赢得了CVRPLib BKS竞赛，并在大规模CVRP基准测试中建立了51个新的最佳已知解。

• 2026年01月 🎉🎉 我们的综述论文《关于用于算法设计的大语言模型的系统性综述》已被ACM计算综述 接受！该综述的相关资料可在此处找到这里。

• 2025年06月 🎉🎉 我们很高兴地宣布，EoH最近在圆填充问题上创造了新的世界纪录，为26个圆实现了2.63594的得分！结果见此处。

• 2025年06月 🎉🎉 LLM4AD 参与了CEC 2025教程！

• 2025年03月 🎉🎉 LLM4AD 参与了EMO 2025教程！

• 2024年12月 🎉🎉 LLM4AD论文发布 “LLM4AD：一个基于大语言模型的算法设计平台”！

• 2024年11月 🎉🎉 LLM4AD v1.0发布！

• 2024年10月 🎉🎉 综述论文 “关于用于算法设计的大语言模型的系统性综述” 已上线！

💡 我们的软件包特点

特性	支持 / 即将支持
统一接口，适用于方法、任务和大语言模型	🔥支持
评估加速： 多进程评估	🔥支持
安全评估： 主进程保护，超时中断	🔥支持
日志： 本地日志、Wandb和Tensorboard支持	🔥支持
GUI： 方法选择、任务选择、收敛情况、最佳算法等	🔥支持
恢复运行	🔥支持
支持其他编程语言	🚀即将推出
更多搜索方法	🚀即将推出
更多任务示例	🚀即将推出

🎁 系统要求与安装

[!重要] Python版本必须大于等于3.9且小于3.13。

[!重要] 如果您正在测试机器学习任务或使用GUI，请通过pip install gym安装gym。 请注意，gym的版本可能与您现有的Python环境冲突，请参考gym的文档以获取合适的版本。

• 请参阅requirements.txt

• 如果您希望使用Numba加速，请安装numba

• 如果您想使用TensorBoard日志记录器，请安装tensorboard

• 如果您想使用wandb日志记录器，请安装wandb

• 如果您想尝试GUI和机器学习任务，请安装gym

• 如果您想尝试科学发现任务，请安装pandas

• 如果您想使用GUI，请安装requirements.txt中列出的所有必要包

在本地安装LLM4AD

我们建议在conda环境（Python>=3.9,<3.13）中安装并运行LLM4AD。

$ cd LLM4AD
$ pip install .

使用PyPI安装LLM4AD

我们建议在conda环境（Python>=3.9,<3.13）中安装并运行LLM4AD。

$ pip install llm4ad

💻 示例用法

快速入门：

[!注] 在运行脚本之前，请先配置您的大语言模型 API。例如：

1. 设置 host: 'api.deepseek.com'
2. 设置 key: '您的 API 密钥'
3. 设置 model: 'deepseek-chat'

from llm4ad.task.optimization.online_bin_packing import OBPEvaluation
from llm4ad.tools.llm.llm_api_https import HttpsApi
from llm4ad.method.eoh import EoH, EoHProfiler

if __name__ == '__main__':
    llm = HttpsApi(
        host='xxx',   # 您的主机端点，例如 api.openai.com、api.deepseek.com
        key='sk-xxx', # 您的密钥，例如 sk-xxxxxxxxxx
        model='xxx',  # 您的大语言模型，例如 gpt-3.5-turbo、deepseek-chat
        timeout=20
    )
    task = OBPEvaluation()
    method = EoH(
        llm=llm,
        profiler=EoHProfiler(log_dir='logs/eoh', log_style='simple'),
        evaluation=task,
        max_sample_nums=20,
        max_generations=10,
        pop_size=4,
        num_samplers=1,
        num_evaluators=1,
        debug_mode=False
    )
    method.run()

更多示例：

• TSP 的构造性启发式算法
• VRPTW 的构造性启发式算法
• ...

更多任务和示例请参阅 文档

GUI 使用说明：

[!重要] 请安装 requirements.txt 中列出的所有依赖包，以便使用 GUI。

$ cd GUI
$ python run_gui.py

更多信息请参阅 GUI 简介

📦 LLM4AD 搜索方法

方法	论文标题
EoH	启发式算法的演化：利用大型语言模型实现高效的自动算法设计 (ICML 2024) 基于大型语言模型的算法演化 (Arxiv 2023, AEL，EoH 的早期版本)
MEoH	利用大型语言模型的多目标启发式算法演化 (AAAI 25)
FunSearch	通过大型语言模型的程序搜索发现数学成果 (Nature 2024)
(1+1)-EPS (爬山法)	理解进化搜索在大型语言模型辅助自动启发式设计中的重要性 (PPSN 2024)
ReEvo	Reevo：大型语言模型作为具有反思性演化的超启发式算法 (NeurIPS 2024)
MCTS-AHD	蒙特卡洛树搜索用于基于大语言模型的自动启发式设计中的全面探索 (ICML 2025)
LHNS	由大语言模型驱动的邻域搜索用于高效启发式设计 (CEC 2025)
PartEvo	分区演化：利用 LLM 进行分层增强的自动化算法发现 (NeurIPS 2025)
LLaMEA	LLaMEA：一种用于自动生成元启发式算法的大型语言模型进化算法(IEEE TEVC 2025)
EoH-S	EoH-S：利用 LLM 进行启发式集合演化以实现自动启发式设计 (AAAI 2026)
MLES	多模态 LLM 辅助的进化搜索用于程序化控制策略 (ICLR 2026)
其他	即将推出

⚙️ LLM4AD 算法设计任务

领域	算法任务	论文
优化	[在线装箱问题，构造性启发式]	论文
	旅行商问题（TSP），构造性启发式	论文
	旅行商问题（TSP），引导式局部搜索	论文
	一维装箱问题（BP1D），构造性启发式	论文
	二维装箱问题（BP2D），构造性启发式	论文
	容量限制设施选址问题（CFLP），构造性启发式	论文
	背包问题（KP），构造性启发式	论文
	二次指派问题（QAP），构造性启发式	论文
	集合覆盖问题（SCP），构造性启发式	论文
	流水车间调度问题（FSSP），构造性启发式	论文
	流水车间调度问题（FSSP），引导式局部搜索	论文
	贝叶斯优化，成本感知型采集函数设计	论文
	Co-Bench：在组合优化算法搜索中对语言模型代理进行基准测试	论文
	Pymoo MOEA/D	论文
机器学习	对抗攻击，攻击策略	论文
	Acrobot，启发式（智能体）
	Cart Pole，启发式（智能体）
	Mountain Car，启发式（智能体）
科学发现	计算流体动力学，湍流模型设计	论文
	细菌生长，函数
	振子，方程
	应力与应变，方程
数学	允许集	论文
即将推出 ...

🤖 LLM 接口

LLM 接口的实现有三种方式，更多信息请参阅LLM 接口实现教程。

• 远程 LLM API（例如：GPT4o、GPT3.5、Gemini Pro、Deepseek 等）(<推荐！！！>)
• 本地 HuggingFace LLM 部署（例如：Llamacode、Llama、Gemma、Deepseek 等）
• 自定义实现 如果您想使用自己的 GPT API 或本地 LLM 部署，请在 LLM 中创建并添加您的接口。

🏫 教程：如何使用 LLM4AD 解决您的算法设计任务

关于如何使用 LLM4AD 解决算法设计任务的分步教程请见此处。

:question:问答

在我们的讨论区中可以找到一些常见问题的解答。

常见问题答疑

🪪 许可证

本项目采用 BSD-2-Clause 许可证——详情请参阅 LICENSE 文件。本项目的部分内容使用了 Apache License 2.0 许可的代码。

✨ 参考文献

如果您觉得 LLM4AD 有所帮助，请引用以下内容：

@article{liu2024llm4ad,
    title = {LLM4AD：基于大型语言模型的算法设计平台},
    author = {刘飞、张睿、谢卓亮、孙锐、李凯、林曦、王振坤、陆志超、张庆富},
    year = {2024},
    eprint = {2412.17287},
    archivePrefix = {arXiv},
    primaryClass = {cs.AI},
    url = {https://arxiv.org/abs/2412.17287},
}

📒 关于 LLM4AD

本平台由香港城市大学（CityUHK）和南方科技大学（SUSTech）的 LLM4AD 开发团队开发并维护。我们出于研究目的开发了 LLM4AD 平台，希望为基于大语言模型的算法设计方法提供工具，从而推动相关领域的研究发展。

• 贡献： 我们非常欢迎任何形式的贡献（请参阅我们的 📖 贡献指南），包括代码开发和改进建议，以不断完善我们的平台。
• 合作： 如果您喜欢我们的平台，并希望将其用于商业用途？我们始终寻求与产业界的合作伙伴关系，因为这有助于将科研方向与行业需求紧密结合。
• 问题反馈： 如果您发现任何 bug 或对平台的正确性有任何疑虑，请通过 issue 向我们报告。
• 商业用途： 如果您计划将 LLM4AD 用于任何盈利目的，请联系 我们。

:star: 星标趋势

☎️ 联系方式

如果您对 LLM4AD 感兴趣，或在使用平台时遇到任何困难，您可以：

1. 访问我们的官网 LLM4AD Web

2. 查看我们的资源合集 LLM4AD 相关资源及研究论文合集

3. 前往 Discussions 与其他社区成员交流互动

4. 加入我们的 QQ 群

   

5. 通过电子邮件 fliu36-c@my.cityu.edu.hk 与我们联系

6. 提交一个 issue

贡献者

我们欢迎任何新的想法、功能和改进！

您可以按照我们的 📖 贡献指南 为 LLM4AD 做出贡献。

感谢您对 LLM4AD 的支持，欢迎加入 LLM4AD 社区！ :sparkles:

刘飞

李凯

孙睿

谢朱利安

姚顺宇

张锐

孙伟伟

郑志

胡青龙

LLM4AD 快速上手指南

LLM4AD 是一个基于 Python 的开源平台，利用大语言模型（LLM）进行自动算法设计（Automatic Algorithm Design）。它支持优化、机器学习、科学发现等多个领域的算法自动生成与研究。

1. 环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：必须为 3.9 至 3.12 之间（不支持 Python 3.13 及以上）。
• 包管理工具：推荐使用 conda 创建独立环境，以避免依赖冲突。
• API Key：您需要拥有一个可用的大模型 API Key（如 DeepSeek, OpenAI 等）。

可选依赖

根据您计划使用的功能，可能需要安装额外的库：

• GUI 界面或机器学习任务：需安装 gym (pip install gym)
• 科学发现任务：需安装 pandas
• 日志记录：如需使用 Tensorboard 或 Wandb，请分别安装 tensorboard 或 wandb
• 加速执行：如需使用 Numba 加速，请安装 numba

2. 安装步骤

建议使用 conda 创建虚拟环境并进行安装。

方法一：本地源码安装（推荐开发者）

# 1. 克隆仓库
git clone https://github.com/Optima-CityU/LLM4AD.git
cd LLM4AD

# 2. (可选但推荐) 创建 conda 环境
conda create -n llm4ad python=3.9
conda activate llm4ad

# 3. 安装核心依赖
pip install -r requirements.txt

# 4. 安装 LLM4AD 包
pip install .

提示：国内用户若下载依赖较慢，可添加清华源加速： pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple pip install . -i https://pypi.tuna.tsinghua.edu.cn/simple

方法二：通过 PyPI 安装

# 1. 创建并激活 conda 环境 (确保 python >= 3.9, < 3.13)
conda create -n llm4ad python=3.9
conda activate llm4ad

# 2. 直接安装
pip install llm4ad

3. 基本使用

以下是一个最简单的示例，展示如何使用 EoH (Evolution of Heuristics) 方法解决在线装箱问题 (Online Bin Packing)。

前置配置

在运行代码前，请准备好您的 LLM API 信息：

1. Host: API 端点 (例如: api.deepseek.com, api.openai.com)
2. Key: 您的 API Key
3. Model: 模型名称 (例如: deepseek-chat, gpt-3.5-turbo)

代码示例

创建一个名为 run_example.py 的文件，填入以下内容：

from llm4ad.task.optimization.online_bin_packing import OBPEvaluation
from llm4ad.tools.llm.llm_api_https import HttpsApi
from llm4ad.method.eoh import EoH, EoHProfiler

if __name__ == '__main__':
    # 初始化 LLM 连接
    llm = HttpsApi(
        host='api.deepseek.com',   # 替换为您的 API 端点
        key='sk-xxxxxxxxxx',       # 替换为您的 API Key
        model='deepseek-chat',     # 替换为您使用的模型名称
        timeout=20
    )
    
    # 定义任务 (此处为在线装箱问题)
    task = OBPEvaluation()
    
    # 初始化方法 (EoH)
    method = EoH(
        llm=llm,
        profiler=EoHProfiler(log_dir='logs/eoh', log_style='simple'),
        evaluation=task,
        max_sample_nums=20,      # 最大采样数
        max_generations=10,      # 最大进化代数
        pop_size=4,              # 种群大小
        num_samplers=1,          # 采样器数量
        num_evaluators=1,        # 评估器数量
        debug_mode=False         # 是否开启调试模式
    )
    
    # 开始运行
    method.run()

运行程序

在终端中执行：

python run_example.py

程序运行后，日志将保存在 logs/eoh 目录下。您可以在控制台实时查看算法进化和评估的过程。

进阶：使用 GUI 界面

如果您希望使用图形化界面选择任务和算法：

# 确保已安装 requirements.txt 中的所有依赖
cd GUI
python run_gui.py