scipy.optimize.minimize中的元素限制

时间:2016-02-25 15:13:29

标签: python numpy machine-learning scipy mathematical-optimization

我使用scipy.optimize.minimize的COBYLA方法查找分类分布的参数矩阵。我需要强加每个参数大于零的约束,并且参数矩阵的行总和是一列。

我不清楚如何在scipy.minimize中实现这一点,因为检查约束是否为非负性而非真理。如果我只是将数组作为约束传递,则最小化会引发异常。

有谁知道如何实施这些约束?

2 个答案:

答案 0 :(得分:7)

第一个约束x > 0可以非常简单地表达出来:

{'type':'ineq', 'fun': lambda x: x}

第二个约束是一个等式约束,COBYLA本身不支持。但是,您可以将其表示为两个单独的不等式约束:

{'type':'ineq', 'fun': lambda x: np.sum(x, 0) - 1}  # row sum >= 1
{'type':'ineq', 'fun': lambda x: 1 - np.sum(x, 0)}  # row sum <= 1

否则你可以尝试使用SLSQP,它确实支持相等约束。

答案 1 :(得分:7)

您需要对np.sum(x, 1) == 1执行x >= 0和不等式约束的等式约束。

但是,COBYLA方法只能处理不等式约束,如minimize的文档中所述(请参阅解释constraints参数的部分)。相反,您可以使用Sequential Least SQuares Programming(SLSQP),它支持两种类型的约束。 minimize函数应根据您指定的约束自动为您选择正确的求解器。

您需要的约束可以像这样实现:

def ineq_constraint(x):
    """constrain all elements of x to be >= 0"""
    return x

def eq_constraint(x):
    """constrain the sum of all rows to be equal to 1"""
    return np.sum(x, 1) - 1


constraints = [{'type': 'ineq', 'fun': ineq_constraint},
               {'type': 'eq', 'fun': eq_constraint}]

result = minimize(objective_function, x0, constraints=constraints)