在优化变量中使用“添加到 1”约束进行优化

Question

我正在尝试使用scipy minimize 函数来制定优化问题。但是，我遇到了以下无法解决的问题：

我想要X = [x1, x2, x3, x4, x5] 最小化成本函数 F(X)。然而，这个 X 向量是必须加到 1 的百分比值，即np.sum(X) = 1。

问题是：例如，如果我使用带有一些初始值的“SLSQP”方法（例如X0 = [0.2, 0.2, 0.2, 0.2, 0.2]），它会尝试增加每个值以找到一些收敛方向。例如，算法将生成X0 -> [0.21, 0.2, 0.2, 0.2, 0.2]。但这不可能发生，因为np.sum(X) = 1 是我计算目标函数的要求。

使用约束也无济于事！我可以用np.sum(X) = 1 做一个约束。而最小化算法只会在计算出目标函数后才检查约束。

有人知道如何处理这样的问题吗？

非常感谢！

Answer 1

当 X 超出其界限时，我通常使用的 NLP 求解器不会要求函数和梯度评估。这意味着我们可以通过添加适当的下限来保护sqrt(x) 和log(x) 之类的内容。

当我们评估函数和梯度时，不能假设约束是成立的。

如果你的函数假定sum(X)=1，你可以调用F(X/sum(X))。唯一的并发症是X=0。在这种情况下，为 F 返回一个较大的值，以便求解器远离它。

Answer 2

must sum to 1 约束有效地减少了需要优化的变量数量。如果您知道除一个变量之外的所有变量的值，则剩余值由约束隐含。一定是1 - sum(other_vars)

您可以优化四个变量并计算第五个变量，而不是优化五个变量X = [x1, x2, x3, x4, x5]：X = [x1, x2, x3, x4, 1 - (x1 + x2 + x3 + x4)]。

优化问题的这种表述避免了如果所有 X 都非常低时可能出现的不精确性。

如果变量是百分比，您需要分别指定 0 和 1 的下限和上限。 此外，您将需要约束 x1+x2+x3+x4 <= 1 以避免负面的 x5。 （对于优化器来说，这个 inequality 约束比原来的 equality 约束要容易得多。）

def cost_function(X):
    x1, x2, x3, x4 = X
    x5 = 1.0 - (x1, x2, x3, x4)    
    return F((x1, x2, x3, x4, x5))

x0 = [0.2, 0.2, 0.2, 0.2]  # initial guess: all values equal
minimize(cost_function, x0, 
         bounds=[(0.0, 1.0)]*4, 
         constraints=dict(type='ineq', fun=lambda X: 1.0 - X.sum()))