Question

背景

汽车应用程序的自动调谐器：应用程序可能会根据汽车的型号而变化，因此目标功能自然也会发生变化。问题在于将参数调整为针对特定汽车模型的最佳参数。输入：汽车模型，输出：针对特定汽车模型的应用的最佳参数。我想通过优化来解决这个问题

我正在尝试最小化一个受两个非线性约束，一个不等式和一个等式约束约束的复杂非线性函数。这个问题本身并没有限制，但是我还是对参数设置了限制，以帮助加快优化速度，因为我或多或少地知道正确的参数在哪里。参数为：[x0,x1,x2,x3]

我已将scipy.optimize.minimize（）函数与SLSQP方法一起使用，当问题得到正确解决时，发现了很好的结果。虽然scipy.optimize.minimize（）函数是一个本地优化器，可以解决QP问题，但我认为这不是我的问题。因此，我开始对mystic，（mystic.differential_evolution）使用全局优化方法。由于我不是全局优化专家，所以我自然会遇到一些问题。

问题

如果选择的边界太宽，优化器（mystic.differential_evolution）将在一段时间后停止迭代并打印：

STOP("ChangeOverGeneration with {'tolerance': 0.005, 'generations': 1500}")

当我运行优化程序找到的解决方案时，我看到结果不如降低（缩小）边界那样好。显然，全局优化器尚未找到全局最优值，但它停止了迭代。我知道有多个参数集可以产生相同的全局最小值。

由于目标函数可能会随汽车模型而变化，因此我希望边界保持相对宽泛，以防全局最佳变化会改变正确的参数。

问题

如何调整优化器的设置，使其不断搜索并找到全局最优值？
npop = 10 * dim规则是解决此问题的好方法吗？
我可以拓宽优化器搜索算法的范围，使其找到丢失的最佳参数吗？

代码

def optimize_mystic_wd(T, param_wp, w_max, safe_f):
# mystic
import mystic
from mystic.monitors import VerboseLoggingMonitor
from mystic.penalty import quadratic_inequality
from mystic.penalty import quadratic_equality
from mystic.solvers import diffev2
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D


# tools
from mystic.tools import getch
import pylab
import numpy as np



def objective(x):
    from model_func import model
    [val, _] = model(param_wp, x)
    return -val


def penalty1(x):  # <= 0.0
    t = np.linspace(0, T, 100)
    wd = (x[0] * np.sin(x[1] * t + x[3]) + x[2])
    index = np.argmax(wd)
    t_max = t[index]
    return ((x[0] * np.sin(x[1] * t_max + x[3]) + x[2])) -2*np.pi

def penalty2(x):  # == 0.0
    return x[0] * (np.cos(x[3]) - np.cos(x[1] * T + x[3])) / x[1] + x[2] * T - 2 * np.pi

@quadratic_inequality(penalty1, k=1e12)
@quadratic_equality(penalty2, k=1e12)
def penalty(x):
    return 0.0

b1 = (0, 2*np.pi)
b2 = (0, 2 * np.pi/(2*T))
b3 = (0, 2*np.pi)
b4 = (0, 2*np.pi/T)
bounds = [b1, b2, b3, b4]

stepmon = VerboseLoggingMonitor(1,1)
result = diffev2(objective, x0=bounds, bounds=bounds, penalty=penalty, npop=40, gtol=1500, disp=True, full_output=True, itermon=stepmon, handler=True, retall=True, maxiter=4000)

Answer 1

我是mystic的作者。

关于您的问题：

差异演化可能很棘手。它会随机变异您的候选解向量，并接受可提高成本的更改。默认的停止条件是当发生ngen步数而没有改善时退出。这意味着，如果求解器提前停止，则可能甚至没有达到局部最小值。但是，有几种方法可以帮助确保求解器有更大的机会找到全局最小值。
- 增加ngen，无需改善的步骤数。
- 增加npop，即每次迭代的候选解的数量。
- 增加可能的最大迭代次数和函数求值。
- 选择一个不使用ngen的终止条件。就个人而言，我通常使用非常大的ngen作为第一种方法。结果是，求解器将趋向运行很长时间，直到它随机找到全局最小值为止。这有望实现差异进化。
是。
我不确定您对最后一个问题的意思。使用mystic，您当然可以在优化器启动时或过程中的任何时候扩展参数范围。如果您使用类接口（DifferentialEvolutionSolver而不是“单线” diffev），则可以选择：
- 在过程中的任何时候保存求解器的状态
- 使用不同的求解器参数（包括范围）重新启动求解器。
- Step通过优化程序进行优化，有可能在任何步骤更改范围（或约束或惩罚）。
- 通过添加（或删除）约束或惩罚来限制（或取消对）求解器范围的限制。

最后，您可能想看看mystic的ensemble求解器，使您能够从分布中抽样N个优化器，每个优化器具有不同的初始条件。在这种情况下，您会选择快速的局部求解器...目的是快速搜索局部空间，但是对分布进行采样有助于确保您进行了全局搜索。就像传统的网格搜索一样，但是让优化器从“网格”的每个点开始（并使用分布，不一定是网格）。

我还建议您看一下this example，它演示了如何使用mystic.search.Searcher，其目的是（例如）有效地使生成求解器继续寻找局部最小值，直到找到所有局部最小值，因此是全局最小值。

受限全局优化调整[神秘]

背景

问题

问题

代码

1 个答案: