Question

通常我一直使用GNU Octave来解决二次编程问题。

我解决了类似的问题

x = 1/2x'Qx + c'x

受制于

A*x <= b
lb <= x <= ub

lb和ub是下界和上限，例如x的上限

解决时，我的Octave代码看起来像这样。只需一条简单的线

U = quadprog(Q, c, A, b, [], [], lb, ub);

方括号[]为空，因为我不需要等式约束

Aeq*x = beq,

所以我的问题是： Python中是否有易于使用的二次求解器来解决问题

x = 1/2x'Qx + c'x

受制于

A*x <= b
lb <= x <= ub

或受制于

b_lb <= A*x <= b_ub
lb <= x <= ub

Answer 1

您可以编写自己的基于scipy.optimize的求解器，这是一个有关如何编写自定义python quadprog()的小例子：

# python3
import numpy as np
from scipy import optimize

class quadprog(object):

    def __init__(self, H, f, A, b, x0, lb, ub):
        self.H    = H
        self.f    = f
        self.A    = A
        self.b    = b
        self.x0   = x0
        self.bnds = tuple([(lb, ub) for x in x0])
        # call solver
        self.result = self.solver()

    def objective_function(self, x):
        return 0.5*np.dot(np.dot(x.T, self.H), x) + np.dot(self.f.T, x)

    def solver(self):
        cons = ({'type': 'ineq', 'fun': lambda x: self.b - np.dot(self.A, x)})
        optimum = optimize.minimize(self.objective_function, 
                                    x0          = self.x0.T,
                                    bounds      = self.bnds,
                                    constraints = cons, 
                                    tol         = 10**-3)
        return optimum

使用与matlab-quadprog中提供的第一个示例相同的变量，这里是如何使用它的方法：

# init vars
H  = np.array([[ 1, -1],
               [-1,  2]])

f  = np.array([-2, -6]).T

A  = np.array([[ 1, 1],
               [-1, 2],
               [ 2, 1]])

b  = np.array([2, 2, 3]).T
x0 = np.array([1, 2])
lb = 0
ub = 2

# call custom quadprog
quadprog  = quadprog(H, f, A, b, x0, lb, ub)
print(quadprog.result)

此简短代码段的输出为：

     fun: -8.222222222222083
     jac: array([-2.66666675, -4.        ])
 message: 'Optimization terminated successfully.'
    nfev: 8
     nit: 2
    njev: 2
  status: 0
 success: True
       x: array([0.66666667, 1.33333333])

有关如何使用scipy.optimize.minimize的更多信息，请参阅docs。

Answer 2

如果您需要像quadprog这样的通用二次编程求解器，我建议使用其中一个注释中提到的开源软件cvxopt。这是强大的，而且确实是最先进的。主要贡献者是该领域的主要专家，也是classic book凸优化的合著者。

您要使用的功能是cvxopt.solvers.qp。下面是一个像Numpy这样在quadprog中使用的简单包装器。请注意，边界可以作为不等式约束的特例。

import numpy as np
from cvxopt import matrix, solvers

def quadprog(P, q, G=None, h=None, A=None, b=None, options=None):
     """
    Least-squares problem with both linear equalities and inequalities

        Minimize      0.5 * x @ P @ x + q @ x
        Subject to    G @ x <= h
        and           A @ x = b
    """
    P, q = matrix(P), matrix(q)

    if G is not None:
        G, h = matrix(G), matrix(h)

    if A is not None:
        A, b = matrix(A), matrix(b)

    sol = solvers.qp(A, b, G, h, A, b, options=options)

    return np.array(sol['x']).ravel()

cvxopt过去很难安装，但如今也包含在Anaconda distribution中，可以与conda install cvxopt一起安装（甚至在Windows上）。

如果相反，您对带边界的线性最小二乘优化的更具体情况感兴趣，这是常规二次规划的子集，即

Minimize || A @ x - b ||
subject to lb <= x <= ub

然后Scipy具有特定的功能scipy.optimize.lsq_linear(A, b, bounds)。

请注意，可接受的答案是一种非常低效的方法，因此不建议使用。它没有利用至关重要的事实，即您要优化的函数是二次函数，而是使用通用的非线性优化程序，甚至没有指定解析梯度。

是否有可以同时具有上下限的二次编程函数-Python

2 个答案: