scikit-opt

Python 中的群体智能
（遗传算法、粒子群优化、模拟退火、蚁群算法、免疫算法、人工鱼群算法）

• 文档： https://scikit-opt.github.io/scikit-opt/#/en/
• 文档： https://scikit-opt.github.io/scikit-opt/#/zh/
• 源代码： https://github.com/guofei9987/scikit-opt
• 帮助我们改进 scikit-opt https://www.wjx.cn/jq/50964691.aspx

安装

pip install scikit-opt

对于当前的开发版本：

git clone git@github.com:guofei9987/scikit-opt.git
cd scikit-opt
pip install .

功能特性

功能一：UDF（用户自定义函数）

UDF（用户自定义函数，User Defined Function）现已可用！

例如，你刚刚设计了一种新的 selection（选择）函数。
现在，你的 selection 函数如下所示：
-> 演示代码：examples/demo_ga_udf.py#s1

# step1: define your own operator:
def selection_tournament(algorithm, tourn_size):
    FitV = algorithm.FitV
    sel_index = []
    for i in range(algorithm.size_pop):
        aspirants_index = np.random.choice(range(algorithm.size_pop), size=tourn_size)
        sel_index.append(max(aspirants_index, key=lambda i: FitV[i]))
    algorithm.Chrom = algorithm.Chrom[sel_index, :]  # next generation
    return algorithm.Chrom

导入并构建 GA（遗传算法）
-> 演示代码：examples/demo_ga_udf.py#s2

import numpy as np
from sko.GA import GA, GA_TSP

demo_func = lambda x: x[0] ** 2 + (x[1] - 0.05) ** 2 + (x[2] - 0.5) ** 2
ga = GA(func=demo_func, n_dim=3, size_pop=100, max_iter=500, prob_mut=0.001,
        lb=[-1, -10, -5], ub=[2, 10, 2], precision=[1e-7, 1e-7, 1])

将你的 UDF 注册到 GA
-> 演示代码：examples/demo_ga_udf.py#s3

ga.register(operator_name='selection', operator=selection_tournament, tourn_size=3)

scikit-opt 还提供了一些算子
-> 演示代码：examples/demo_ga_udf.py#s4

from sko.operators import ranking, selection, crossover, mutation

ga.register(operator_name='ranking', operator=ranking.ranking). \
    register(operator_name='crossover', operator=crossover.crossover_2point). \
    register(operator_name='mutation', operator=mutation.mutation)

现在像往常一样运行 GA
-> 演示代码：examples/demo_ga_udf.py#s5

best_x, best_y = ga.run()
print('best_x:', best_x, '\n', 'best_y:', best_y)

截至目前，udf 支持 GA 的 crossover（交叉）、mutation（变异）、selection（选择）、ranking（排序） scikit-opt 提供了一打以上的算子，详见 此处

针对高级用户：

-> 演示代码：examples/demo_ga_udf.py#s6

class MyGA(GA):
    def selection(self, tourn_size=3):
        FitV = self.FitV
        sel_index = []
        for i in range(self.size_pop):
            aspirants_index = np.random.choice(range(self.size_pop), size=tourn_size)
            sel_index.append(max(aspirants_index, key=lambda i: FitV[i]))
        self.Chrom = self.Chrom[sel_index, :]  # next generation
        return self.Chrom

    ranking = ranking.ranking


demo_func = lambda x: x[0] ** 2 + (x[1] - 0.05) ** 2 + (x[2] - 0.5) ** 2
my_ga = MyGA(func=demo_func, n_dim=3, size_pop=100, max_iter=500, lb=[-1, -10, -5], ub=[2, 10, 2],
             precision=[1e-7, 1e-7, 1])
best_x, best_y = my_ga.run()
print('best_x:', best_x, '\n', 'best_y:', best_y)

功能二：继续运行

（v0.3.6 新增）
先运行算法 10 次迭代，然后基于之前的 10 次迭代再运行另外 20 次迭代：

from sko.GA import GA

func = lambda x: x[0] ** 2
ga = GA(func=func, n_dim=1)
ga.run(10)
ga.run(20)

功能三：4 种加速方式

• vectorization（向量化）
• multithreading（多线程）
• multiprocessing（多进程）
• cached（缓存）

参见 https://github.com/guofei9987/scikit-opt/blob/master/examples/example_function_modes.py

功能四：GPU 计算

我们正在开发 GPU 计算功能，该功能将在 1.0.0 版本中稳定。
示例已可用：https://github.com/guofei9987/scikit-opt/blob/master/examples/demo_ga_gpu.py

快速开始

1. 差分进化算法 (Differential Evolution)

步骤 1：定义你的问题
-> 示例代码：examples/demo_de.py#s1

'''
min f(x1, x2, x3) = x1^2 + x2^2 + x3^2
s.t.
    x1*x2 >= 1
    x1*x2 <= 5
    x2 + x3 = 1
    0 <= x1, x2, x3 <= 5
'''


def obj_func(p):
    x1, x2, x3 = p
    return x1 ** 2 + x2 ** 2 + x3 ** 2


constraint_eq = [
    lambda x: 1 - x[1] - x[2]
]

constraint_ueq = [
    lambda x: 1 - x[0] * x[1],
    lambda x: x[0] * x[1] - 5
]

步骤 2：执行差分进化算法
-> 示例代码：examples/demo_de.py#s2

from sko.DE import DE

de = DE(func=obj_func, n_dim=3, size_pop=50, max_iter=800, lb=[0, 0, 0], ub=[5, 5, 5],
        constraint_eq=constraint_eq, constraint_ueq=constraint_ueq)

best_x, best_y = de.run()
print('best_x:', best_x, '\n', 'best_y:', best_y)

2. 遗传算法 (Genetic Algorithm)

步骤 1：定义你的问题
-> 示例代码：examples/demo_ga.py#s1

import numpy as np


def schaffer(p):
    '''
    This function has plenty of local minimum, with strong shocks
    global minimum at (0,0) with value 0
    https://en.wikipedia.org/wiki/Test_functions_for_optimization
    '''
    x1, x2 = p
    part1 = np.square(x1) - np.square(x2)
    part2 = np.square(x1) + np.square(x2)
    return 0.5 + (np.square(np.sin(part1)) - 0.5) / np.square(1 + 0.001 * part2)

步骤 2：执行遗传算法
-> 示例代码：examples/demo_ga.py#s2

from sko.GA import GA

ga = GA(func=schaffer, n_dim=2, size_pop=50, max_iter=800, prob_mut=0.001, lb=[-1, -1], ub=[1, 1], precision=1e-7)
best_x, best_y = ga.run()
print('best_x:', best_x, '\n', 'best_y:', best_y)

-> 示例代码：examples/demo_ga.py#s3

import pandas as pd
import matplotlib.pyplot as plt

Y_history = pd.DataFrame(ga.all_history_Y)
fig, ax = plt.subplots(2, 1)
ax[0].plot(Y_history.index, Y_history.values, '.', color='red')
Y_history.min(axis=1).cummin().plot(kind='line')
plt.show()

2.2 用于旅行商问题 (Travelling Salesman Problem) 的遗传算法

只需导入 GA_TSP，它重载了 crossover（交叉）、mutation（变异）以解决 TSP 问题。

步骤 1：定义你的问题。准备点的坐标和距离矩阵。
这里我随机生成数据作为演示：
-> 示例代码：examples/demo_ga_tsp.py#s1

import numpy as np
from scipy import spatial
import matplotlib.pyplot as plt

num_points = 50

points_coordinate = np.random.rand(num_points, 2)  # generate coordinate of points
distance_matrix = spatial.distance.cdist(points_coordinate, points_coordinate, metric='euclidean')


def cal_total_distance(routine):
    '''The objective function. input routine, return total distance.
    cal_total_distance(np.arange(num_points))
    '''
    num_points, = routine.shape
    return sum([distance_matrix[routine[i % num_points], routine[(i + 1) % num_points]] for i in range(num_points)])

步骤 2：执行遗传算法
-> 示例代码：examples/demo_ga_tsp.py#s2

from sko.GA import GA_TSP

ga_tsp = GA_TSP(func=cal_total_distance, n_dim=num_points, size_pop=50, max_iter=500, prob_mut=1)
best_points, best_distance = ga_tsp.run()

步骤 3：绘制结果：
-> 示例代码：examples/demo_ga_tsp.py#s3

fig, ax = plt.subplots(1, 2)
best_points_ = np.concatenate([best_points, [best_points[0]]])
best_points_coordinate = points_coordinate[best_points_, :]
ax[0].plot(best_points_coordinate[:, 0], best_points_coordinate[:, 1], 'o-r')
ax[1].plot(ga_tsp.generation_best_Y)
plt.show()

3. PSO(粒子群优化算法)

3.1 PSO

步骤 1：定义你的问题：
-> 示例代码：examples/demo_pso.py#s1

def demo_func(x):
    x1, x2, x3 = x
    return x1 ** 2 + (x2 - 0.05) ** 2 + x3 ** 2

步骤 2：执行 PSO
-> 示例代码：examples/demo_pso.py#s2

from sko.PSO import PSO

pso = PSO(func=demo_func, n_dim=3, pop=40, max_iter=150, lb=[0, -1, 0.5], ub=[1, 1, 1], w=0.8, c1=0.5, c2=0.5)
pso.run()
print('best_x is ', pso.gbest_x, 'best_y is', pso.gbest_y)

步骤 3：绘制结果
-> 示例代码：examples/demo_pso.py#s3

import matplotlib.pyplot as plt

plt.plot(pso.gbest_y_hist)
plt.show()

3.2 带非线性约束的 PSO

如果你需要非线性约束，例如 (x[0] - 1) ** 2 + (x[1] - 0) ** 2 - 0.5 ** 2<=0
代码如下：

constraint_ueq = (
    lambda x: (x[0] - 1) ** 2 + (x[1] - 0) ** 2 - 0.5 ** 2
    ,
)
pso = PSO(func=demo_func, n_dim=2, pop=40, max_iter=max_iter, lb=[-2, -2], ub=[2, 2]
          , constraint_ueq=constraint_ueq)

注意，你可以添加多个非线性约束。只需将它们添加到 constraint_ueq 中。

此外，我们还提供了一个动画：

↑查看 examples/demo_pso_ani.py

4. SA(模拟退火算法)

4.1 多变量函数模拟退火 (SA)

步骤 1：定义你的问题
-> Demo code: examples/demo_sa.py#s1

demo_func = lambda x: x[0] ** 2 + (x[1] - 0.05) ** 2 + x[2] ** 2

步骤 2：执行模拟退火 (SA)
-> Demo code: examples/demo_sa.py#s2

from sko.SA import SA

sa = SA(func=demo_func, x0=[1, 1, 1], T_max=1, T_min=1e-9, L=300, max_stay_counter=150)
best_x, best_y = sa.run()
print('best_x:', best_x, 'best_y', best_y)

步骤 3：绘制结果
-> Demo code: examples/demo_sa.py#s3

import matplotlib.pyplot as plt
import pandas as pd

plt.plot(pd.DataFrame(sa.best_y_history).cummin(axis=0))
plt.show()

此外，scikit-opt 提供三种类型的模拟退火算法：Fast、Boltzmann、Cauchy。详见 更多 SA

4.2 旅行商问题 (TSP) 的模拟退火 (SA)

步骤 1：哦，是的，定义你的问题。这一步太无聊了，就不复制了。

步骤 2：为 TSP 执行 SA
-> Demo code: examples/demo_sa_tsp.py#s2

from sko.SA import SA_TSP

sa_tsp = SA_TSP(func=cal_total_distance, x0=range(num_points), T_max=100, T_min=1, L=10 * num_points)

best_points, best_distance = sa_tsp.run()
print(best_points, best_distance, cal_total_distance(best_points))

步骤 3：绘制结果
-> Demo code: examples/demo_sa_tsp.py#s3

from matplotlib.ticker import FormatStrFormatter

fig, ax = plt.subplots(1, 2)

best_points_ = np.concatenate([best_points, [best_points[0]]])
best_points_coordinate = points_coordinate[best_points_, :]
ax[0].plot(sa_tsp.best_y_history)
ax[0].set_xlabel("Iteration")
ax[0].set_ylabel("Distance")
ax[1].plot(best_points_coordinate[:, 0], best_points_coordinate[:, 1],
           marker='o', markerfacecolor='b', color='c', linestyle='-')
ax[1].xaxis.set_major_formatter(FormatStrFormatter('%.3f'))
ax[1].yaxis.set_major_formatter(FormatStrFormatter('%.3f'))
ax[1].set_xlabel("Longitude")
ax[1].set_ylabel("Latitude")
plt.show()

更多：绘制动画：

↑查看 examples/demo_sa_tsp.py

5. 旅行商问题 (TSP) 的蚁群算法 (ACA)

-> Demo code: examples/demo_aca_tsp.py#s2

from sko.ACA import ACA_TSP

aca = ACA_TSP(func=cal_total_distance, n_dim=num_points,
              size_pop=50, max_iter=200,
              distance_matrix=distance_matrix)

best_x, best_y = aca.run()

6. 免疫算法 (IA)

-> Demo code: examples/demo_ia.py#s2

from sko.IA import IA_TSP

ia_tsp = IA_TSP(func=cal_total_distance, n_dim=num_points, size_pop=500, max_iter=800, prob_mut=0.2,
                T=0.7, alpha=0.95)
best_points, best_distance = ia_tsp.run()
print('best routine:', best_points, 'best_distance:', best_distance)

7. 人工鱼群算法 (AFSA)

-> Demo code: examples/demo_afsa.py#s1

def func(x):
    x1, x2 = x
    return 1 / x1 ** 2 + x1 ** 2 + 1 / x2 ** 2 + x2 ** 2


from sko.AFSA import AFSA

afsa = AFSA(func, n_dim=2, size_pop=50, max_iter=300,
            max_try_num=100, step=0.5, visual=0.3,
            q=0.98, delta=0.5)
best_x, best_y = afsa.run()
print(best_x, best_y)

使用 scikit-opt 的项目

• Yu, J., He, Y., Yan, Q., & Kang, X. (2021). SpecView: 基于奇异谱变换的恶意软件频谱可视化框架。IEEE Transactions on Information Forensics and Security, 16, 5093-5107.
• Zhen, H., Zhai, H., Ma, W., Zhao, L., Weng, Y., Xu, Y., ... & He, X. (2021). 基于强化学习 (Reinforcement-learning) 的潮流最优解生成器的设计与测试。Energy Reports.
• Heinrich, K., Zschech, P., Janiesch, C., & Bonin, M. (2021). 过程数据属性至关重要：引入门控卷积神经网络 (GCNN) 和键值预测注意力网络 (KVP) 以进行深度学习的下一个事件预测。Decision Support Systems, 143, 113494.
• Tang, H. K., & Goh, S. K. (2021). 一种受易经哲学启发的新型非种群元启发式优化器 (Meta-heuristic Optimizer)。arXiv preprint arXiv:2104.08564.
• Wu, G., Li, L., Li, X., Chen, Y., Chen, Z., Qiao, B., ... & Xia, L. (2021). 基于图嵌入 (Graph embedding) 的实时社交事件匹配用于 EBSNs 推荐。World Wide Web, 1-22.
• Pan, X., Zhang, Z., Zhang, H., Wen, Z., Ye, W., Yang, Y., ... & Zhao, X. (2021). 一种基于配备双损失函数的注意力机制 (Attention mechanism) 循环神经网络 (RNN) 的快速鲁棒混合气体识别与浓度检测算法。Sensors and Actuators B: Chemical, 342, 129982.
• Castella Balcell, M. (2021). WindCrete 浮动式海上风力涡轮机的系泊系统 (Station keeping system) 优化。
• Zhai, B., Wang, Y., Wang, W., & Wu, B. (2021). 雾况下高速公路路段的最优可变限速控制 (Variable Speed Limit Control) 策略。arXiv preprint arXiv:2107.14406.
• Yap, X. H. (2021). 局部线性数据上的多标签分类 (Multi-label classification)：应用于化学毒性预测。
• Gebhard, L. (2021). 利用蚁群优化 (Ant Colony Optimization) 进行低压电网 (Low-Voltage Grids) 扩展规划 Ausbauplanung von Niederspannungsnetzen mithilfe eines Ameisenalgorithmus。
• Ma, X., Zhou, H., & Li, Z. (2021). 氢能与电力系统 (Power Systems) 之间相互依赖关系的优化设计。IEEE Transactions on Industry Applications.
• de Curso, T. D. C. (2021). Johansen-Ledoit-Sornette 金融泡沫 (Financial Bubbles) 模型研究。
• Wu, T., Liu, J., Liu, J., Huang, Z., Wu, H., Zhang, C., ... & Zhang, G. (2021). 一种基于人工智能 (AI) 的无人机 (UAV) 辅助无线传感器网络中年龄信息最优 (AoI) 轨迹规划新框架。IEEE Transactions on Wireless Communications.
• Liu, H., Wen, Z., & Cai, W. (2021, August). FastPSO：面向 GPU 上高效群体智能 (Swarm Intelligence) 算法。In 50th International Conference on Parallel Processing (pp. 1-10).
• Mahbub, R. (2020). 解决旅行商问题 (TSP) 的算法与优化技术。
• Li, J., Chen, T., Lim, K., Chen, L., Khan, S. A., Xie, J., & Wang, X. (2019). 深度学习 (Deep learning) 加速金纳米团簇合成。Advanced Intelligent Systems, 1(3), 1900029.

scikit-opt 快速上手指南

scikit-opt 是一个基于 Python 的群智能优化算法库，支持遗传算法、粒子群优化、模拟退火、蚁群算法等多种启发式算法。

1. 环境准备

• 操作系统: Windows / Linux / macOS
• Python 版本: >= 3.5
• 核心依赖: numpy (用于数值计算)
• 可选依赖: matplotlib, pandas (用于结果可视化)

2. 安装步骤

推荐使用国内镜像源以加快下载速度：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple scikit-opt

如需开发最新版本，可克隆源码安装：

git clone git@github.com:guofei9987/scikit-opt.git
cd scikit-opt
pip install .

3. 基本使用示例

以下以 遗传算法 (Genetic Algorithm) 为例，演示如何求解目标函数最小值问题。

第一步：定义目标函数

import numpy as np


def schaffer(p):
    '''
    This function has plenty of local minimum, with strong shocks
    global minimum at (0,0) with value 0
    https://en.wikipedia.org/wiki/Test_functions_for_optimization
    '''
    x1, x2 = p
    part1 = np.square(x1) - np.square(x2)
    part2 = np.square(x1) + np.square(x2)
    return 0.5 + (np.square(np.sin(part1)) - 0.5) / np.square(1 + 0.001 * part2)

第二步：初始化并运行算法

from sko.GA import GA

ga = GA(func=schaffer, n_dim=2, size_pop=50, max_iter=800, prob_mut=0.001, lb=[-1, -1], ub=[1, 1], precision=1e-7)
best_x, best_y = ga.run()
print('best_x:', best_x, '\n', 'best_y:', best_y)

第三步：查看历史收敛曲线（可选）

import pandas as pd
import matplotlib.pyplot as plt

Y_history = pd.DataFrame(ga.all_history_Y)
fig, ax = plt.subplots(2, 1)
ax[0].plot(Y_history.index, Y_history.values, '.', color='red')
Y_history.min(axis=1).cummin().plot(kind='line')
plt.show()

更多算法（如 PSO、DE、TSP 等）及高级用法请查阅 官方文档。