LBFGS用于非凸目标函数

Question

我正在使用Scipy的LBFGS实现来最小化非凸目标函数。结果也不错。但收敛的状态是＆＃34; ABNORMAL_TERMINATION_IN_LNSRCH＆＃34;。

这可能是因为我的目标函数是非凸的吗？或者这是否意味着我的渐变（手动分析计算并作为参数传递给Scipy的LBFGS）是错误的？

Answer 1

一切都很好。通常，L-BGFS，梯度下降是凸优化方法。这意味着您的优化函数应该具有全局最小值，并且应该平滑。当函数是非凸的时，它具有不同的地形，我们称为局部最小值。因此，在这种情况下，当我们对非凸函数使用凸优化方法时，发生的情况是您的优化过程会找到一个局部最小值，而不是完美的答案。