Scipy.minimize多线性约束的高效实现与常见陷阱解析-Python教程-PHP中文网

Scipy.minimize多线性约束的高效实现与常见陷阱解析

本文旨在深入探讨使用`scipy.optimize.minimize`处理多线性约束时可能遇到的问题及其优化方案。我们将首先解析python循环中`lambda`函数导致的延迟绑定（late binding）陷阱，并提供两种有效的修复方法。随后，重点介绍如何利用`scipy.optimize.linearconstraint`显著提升线性约束的处理效率和准确性，通过构建矩阵形式的约束来替代函数式约束，从而实现更专业的数值优化。

一、Scipy.minimize中约束函数定义的常见陷阱：延迟绑定

在使用scipy.optimize.minimize进行优化时，我们经常需要定义一系列约束。当这些约束通过循环动态生成，并且使用了lambda表达式时，一个常见的Python特性——延迟绑定（Late Binding）——可能会导致约束行为与预期不符。

问题现象

考虑以下场景：我们需要对一个向量x施加多个分组和为定值的线性约束，以及一个总和为定值的约束。如果我们将分组约束通过循环中的lambda函数定义，例如：

import numpy as np
from scipy.optimize import minimize

utility_vector = np.array([0.10, 0.08, 0.05, 0.075, 0.32,
                           0.21, 0.18, 0.05, 0.03, 0.12])
x0 = np.zeros((10,))
groups = [[0, 1, 2, 3], [4, 5], [6, 7, 8, 9]]
z_group = [0.25, 0.55, 0.2]

def opt_func(x, u, target):
    utility = (x * u).sum()
    return (utility - target)**2

cons = []
# 总和线性约束
cons.append({'type': 'eq', 'fun': lambda x: 1 - x.sum()})

# 分组线性约束 (存在延迟绑定问题)
for idx, select in enumerate(groups):
    cons.append({'type': 'eq', 'fun': lambda x: z_group[idx] - x[select].sum()})

bnds = tuple((0, None) for i in range(10))

res = minimize(fun=opt_func,
               x0=x0,
               method='trust-constr',
               bounds=bnds,
               constraints=tuple(cons),
               args=(utility_vector,
                     0.16),
               tol=1e-4)

print(f'\n优化结果：\n{res}')
print(f'\n总和分配 {res.x.sum()}')
for idx, select in enumerate(groups):
    print(f'分组 {select} 差异: {z_group[idx] - res.x[select].sum()}')

登录后复制

运行上述代码，你会发现除了总和约束外，只有最后一个分组约束z_group[2] - x[groups[2]].sum()得到了正确满足，而之前的分组约束并未生效。这是因为lambda函数中的idx和select变量在函数被调用时才进行查找，而非定义时。

深入理解延迟绑定（Late Binding）

在Python中，当一个lambda表达式或内部函数引用了其外部作用域的变量时，它并不会立即捕获这些变量的当前值。相反，它会捕获对这些变量的引用。当lambda函数最终被执行时，它会去查找这些变量的当前值。

例如：

numbers = [1, 2, 3]
funcs = []
for n in numbers:
    funcs.append(lambda: n) # n 的引用被捕获
for func in funcs:
    print(func()) # 此时 n 的值为循环结束后的最终值：3

登录后复制

这段代码会输出：

3
3
3

登录后复制

这表明所有函数都引用了循环结束后n的最终值。在我们的约束问题中，这意味着所有动态生成的lambda约束函数都引用了循环结束时idx和select的最终值，即最后一个分组的索引和选择。

解决方案

为了解决延迟绑定问题，我们需要确保lambda函数在定义时就捕获到idx和select的正确值。以下是两种常用的方法：

1. 使用闭包（嵌套函数）

通过定义一个外部函数，使其返回一个内部函数。外部函数的参数会在其被调用时立即绑定到局部变量，而内部函数则可以访问这些已绑定的局部变量，形成闭包。

def create_group_constraint(idx, select_indices, target_sum):
    """
    创建一个分组和约束函数，通过闭包避免延迟绑定。
    """
    def inner_constraint(x):
        return target_sum - x[select_indices].sum()
    return inner_constraint

cons_fixed = []
cons_fixed.append({'type': 'eq', 'fun': lambda x: 1 - x.sum()})

for idx, select in enumerate(groups):
    cons_fixed.append({'type': 'eq', 'fun': create_group_constraint(idx, select, z_group[idx])})

# 使用修正后的约束进行优化
res_fixed = minimize(fun=opt_func,
                     x0=x0,
                     method='trust-constr',
                     bounds=bnds,
                     constraints=tuple(cons_fixed),
                     args=(utility_vector, 0.16),
                     tol=1e-4)

print(f'\n修正后的优化结果：\n{res_fixed}')
print(f'\n修正后总和分配 {res_fixed.x.sum()}')
for idx, select in enumerate(groups):
    print(f'修正后分组 {select} 差异: {z_group[idx] - res_fixed.x[select].sum()}')

登录后复制

2. 利用lambda默认参数进行即时绑定

lambda表达式的默认参数在函数定义时就会被评估和绑定。我们可以利用这一特性，将循环变量作为lambda函数的默认参数传入。

cons_fixed_lambda = []
cons_fixed_lambda.append({'type': 'eq', 'fun': lambda x: 1 - x.sum()})

for idx, select in enumerate(groups):
    # idx=idx, select=select 确保在lambda定义时捕获当前值
    cons_fixed_lambda.append({'type': 'eq', 'fun': lambda x, idx=idx, select=select: z_group[idx] - x[select].sum()})

# 使用修正后的约束进行优化
res_fixed_lambda = minimize(fun=opt_func,
                            x0=x0,
                            method='trust-constr',
                            bounds=bnds,
                            constraints=tuple(cons_fixed_lambda),
                            args=(utility_vector, 0.16),
                            tol=1e-4)

print(f'\nLambda默认参数修正后的优化结果：\n{res_fixed_lambda}')
print(f'\nLambda默认参数修正后总和分配 {res_fixed_lambda.x.sum()}')
for idx, select in enumerate(groups):
    print(f'Lambda默认参数修正后分组 {select} 差异: {z_group[idx] - res_fixed_lambda.x[select].sum()}')

登录后复制

两种方法都能有效解决延迟绑定问题，其中闭包方式通常被认为更具可读性和Pythonic。

先见AI

数据为基，先见未见

查看详情

二、优化线性约束：利用scipy.optimize.LinearConstraint

尽管上述方法解决了延迟绑定问题，但通过{'type': 'eq', 'fun': lambda x: ...}方式定义的约束，无论其数学形式是否为线性，对于scipy.optimize.minimize来说都被视为广义的非线性约束。对于线性约束，SciPy提供了更高效、更专业的处理方式：scipy.optimize.LinearConstraint。

为什么线性约束更高效？

信息量更丰富：当约束是线性时，优化器不仅知道当前点是否满足约束，还能知道在哪个方向上移动不会违反约束（即可行方向）。这使得优化器能够更智能地规划搜索路径。
计算速度快：线性代数运算通常比评估任意函数及其雅可比矩阵（或有限差分近似）更快。优化器可以利用线性约束的结构来避免不必要的计算，从而显著减少迭代次数和总计算时间。
数值稳定性：直接处理线性约束可以减少数值误差，提高解的准确性。

构建LinearConstraint

LinearConstraint通过矩阵形式定义线性约束：$lb \le A \cdot x \le ub$。其中：

A是一个矩阵，其行数等于约束的数量，列数等于变量的数量。
lb是下界向量。
ub是上界向量。

对于等式约束 $A \cdot x = b$，我们可以设置 $lb = b$ 且 $ub = b$。

1. 构建总和约束

对于 x.sum() = 1.0 的总和约束，A矩阵将是一个1xN的行向量，其中所有元素都为1。lb和ub都为1。

n_variables = len(x0) # 变量数量
sum_constraint_A = np.ones((1, n_variables)) # A矩阵
sum_constraint_lb = np.array([1.0]) # 下界
sum_constraint_ub = np.array([1.0]) # 上界
sum_linear_constraint = scipy.optimize.LinearConstraint(A=sum_constraint_A,
                                                      lb=sum_constraint_lb,
                                                      ub=sum_constraint_ub)

登录后复制

2. 构建分组子和约束

对于 x[selection].sum() = Z 形式的多个分组约束，我们需要构建一个更大的A矩阵。矩阵的每一行对应一个分组约束。如果x_i属于某个分组，则该行对应位置的元素为1，否则为0。

group_sum_matrix = np.zeros((len(groups), n_variables)) # A矩阵，行数=分组数，列数=变量数
group_sum_target = np.array(z_group) # lb和ub向量

for idx, select in enumerate(groups):
    group_sum_matrix[idx, select] = 1 # 在对应分组的变量位置设为1

group_linear_constraint = scipy.optimize.LinearConstraint(A=group_sum_matrix,
                                                        lb=group_sum_target,
                                                        ub=group_sum_target)

登录后复制

3. 整合到minimize函数

将构建好的LinearConstraint对象作为列表传入constraints参数。

import scipy.optimize

# ... (opt_func, utility_vector, x0, bnds 等定义同上) ...

# 构建总和线性约束
n_variables = len(x0)
sum_constraint_A = np.ones((1, n_variables))
sum_linear_constraint = scipy.optimize.LinearConstraint(A=sum_constraint_A, lb=1, ub=1)

# 构建分组线性约束
group_sum_matrix = np.zeros((len(groups), n_variables))
group_sum_target = np.array(z_group)
for idx, select in enumerate(groups):
    group_sum_matrix[idx, select] = 1
group_linear_constraint = scipy.optimize.LinearConstraint(A=group_sum_matrix,
                                                        lb=group_sum_target,
                                                        ub=group_sum_target)

# 使用LinearConstraint进行优化
res_linear = scipy.optimize.minimize(fun=opt_func,
                                     x0=x0,
                                     method='trust-constr',
                                     bounds=bnds,
                                     constraints=[sum_linear_constraint, group_linear_constraint],
                                     args=(utility_vector, 0.16),
                                     tol=1e-4)

print(f'\nLinearConstraint优化结果：\n{res_linear}')
print(f'\nLinearConstraint总和分配 {res_linear.x.sum()}')
for idx, select in enumerate(groups):
    print(f'LinearConstraint分组 {select} 差异: {z_group[idx] - res_linear.x[select].sum()}')

登录后复制

使用LinearConstraint通常能以更少的迭代次数找到更优的解，显著提升优化效率和结果的精确性。例如，它可能在10次迭代内找到一个比非线性函数约束版本在1000次迭代后更好的解决方案。

三、总结与最佳实践

在scipy.optimize.minimize中处理多线性约束时，理解并正确应用约束定义至关重要：

避免延迟绑定陷阱：当在循环中动态创建lambda函数作为约束时，务必注意Python的延迟绑定特性。通过使用闭包（嵌套函数）或lambda默认参数来确保变量在函数定义时即时绑定其值。
优先使用LinearConstraint处理线性约束：对于任何形式的线性等式或不等式约束，强烈推荐使用scipy.optimize.LinearConstraint。它能提供：
- 更高的性能：优化器可以利用线性结构，减少计算量和迭代次数。
- 更强的数值稳定性：直接的矩阵运算减少了潜在的数值误差。
- 更清晰的表达：通过A矩阵、lb和ub向量，约束的数学形式一目了然。