MPCC问题的M稳定性的序列最优性条件研究
The Sequential Optimality Condition for M-Stationarity for MPCC
摘要: 带有互补约束的数学规划(MPCC)问题是一类难于求解的优化问题,其在许多领域都有着重要的应用。针对互补约束的特殊结构,人们提出了多种方法求解MPCC问题。近年来,非线性优化问题的序列最优性条件受到了广泛的关注。基于序列最优性条件,算法的收敛性结果得到了显著改进。但是,非线性优化问题的序列最优性条件不能直接用于研究MPCC问题。因此,本文基于非线性优化问题(NLP)的CAKKT条件,提出了MPCC问题关于M稳定性的序列最优性条件,即MPCC-CAKKT条件。MPCC-CAKKT条件是比现有的MPCC-AKKT条件更强的序列最优性条件。此外,还给出了与之相关的保证M稳定性的较弱的约束规范,即MPCC-CAKKT正则性。
Abstract: Mathematical program with complementarity constraints (MPCC) is a difficult class of optimization problems, which plays an important role in many fields. Due to the special structure of the complementarity constraints, several methods have been suggested in order to deal with the MPCC. Recently, the sequential optimality conditions for nonlinear optimization problems (NLP) have been drawn concerns widely. Convergence analysis of these methods for NLP has been dramatically improved by using the sequential optimality conditions. However, the established sequential optimality conditions for NLP are not suitable for MPCC. In this paper, based on the CAKKT condition for NLP, we present a sequential optimality condition for MPCC, namely MPCC-CAKKT condition, which is stronger than the MPCC-AKKT condition. Furthermore, we present a weaker constraint qualification for M stationarity which is closely related to MPCC-CAKKT.
文章引用:王子平, 宁晶, 纪宏佳. MPCC问题的M稳定性的序列最优性条件研究[J]. 应用数学进展, 2024, 13(9): 4289-4296. https://doi.org/10.12677/aam.2024.139409

1. 引言

本文主要研究带有互补约束的数学规划(Mathematical program with complementarity constraints,简称MPCC)问题,其优化模型如下

min  f( x ) s.t.    g( x )0,          h( x )=0,         0H( x )G( x )0. (1.1)

其中, f: R n R,g: R n R p ,h: R n R q ,H,G: R n R m 是连续可微的, 0uv0 表示 u0,v0 u T v=0

MPCC问题在工程设计、机器学习和交通科学等许多领域都有着广泛的应用,因此研究MPCC问题具有重要的理论价值和实际意义。由于互补约束的特殊结构,NLP问题的许多约束规范并不适用于MPCC问题,因此KKT条件在局部最优解处往往不成立。近年来,为了更好的研究MPCC问题,提出了MPCC的几种稳定性概念,如S稳定性,M稳定性,C稳定性和W稳定性。

由于序列最优性条件与算法的停止准则密切相关,并且可以改进算法的收敛性结果。因此,非线性优化问题的序列最优性条件受到了人们的广泛关注,如AKKT条件,AGP条件,DCAKKT条件和WCAKKT条件等。DCAKKT条件是一个比AGP条件更强的序列最优性条件,WCAKKT条件强于AKKT条件,这些序列最优性条件被广泛应用于改进算法的收敛性结果[1] [2]。但是,非线性优化问题的序列最优性条件不能直接用于研究MPCC问题[3]。因此,Andreani [4]等人基于MPCC的W-,C,M-稳定性,提出了MPCC问题的AW-,AC,AM-稳定性,并提出了与之相关的约束规范,讨论了与现有约束规范之间的强弱关系。2021年,Ramos [5]基于NLP问题中的AKKT条件,提出了MPCC-AKKT及其相关的约束规范MPCC-CCP,并讨论了其与MPCC常用的约束规范之间的关系,如MPCC-RCPLD,MPCC-quasinormality和MPCC-pseudonormality等。

本文在MPCC-AKKT条件的基础上,建立了比MPCC-AKKT条件更强的序列最优性条件,即MPCC-CAKKT条件。然后,提出了与之相关的约束规范,即MPCC-CAKKT正则性条件。证明了MPCC问题的局部最优解在MPCC-CAKKT条件下是M稳定点,这说明了MPCC-CAKKT正则性是一个能够保证M稳定性的约束规范。

本文结构如下:第二节介绍了需要的基本知识。第三节提出了MPCC问题新的序列最优性条件,即MPCC-CAKKT条件,并证明MPCC-CAKKT条件是一个合理的序列最优性条件。第四节提出了MPCC问题的一个新的约束规范,即MPCC-CAKKT正则性,并证明了MPCC-CAKKT正则性是能够保证M稳定性的约束规范。第五节给出总结。

2. 基础知识

本节给出文章中需要用到的一些基本概念。

定义2.1 [6] (外极限)设 S: R n R m 是一集值映射,S x 处的外极限为

limsup x x S( x )={ u| x k x , u k S( x k ), u k u }.

定义2.2 [6] (外半连续)称集值映射 S: R n R m 在点 x 点处是外半连续的,如果

limsup x x S( x )S( x ).

定义2.3 [6] (极锥)对于任意一个锥 K R s ,它的极锥为 K :={ v R s | v,k 0,kK }

定义2.4 [6] (法锥与正则法锥)设 SX X为有限维Hilbert空间, xS,vX 称为S在点x处的正则法向量,如果 v, x x ο( x x ), x S 。所有正则法向量的集合记为 N ^ s ( x ) 称为正则法锥,即

N ^ s ( x )={ vX| v, x x ( x x ), x S }.

向量 vX 称为S在点x处的法向量,如果存在序列 x k x ,存在 v k N ^ s ( x k ) 满足 v k v ,所有法向量的集合称为法锥,记为 N s ( x ) ,即

N s ( x )={ vX| x k x, v k N ^ s ( x k )s.t. v k v }.

C:={ ( c 1 , c 2 ) R 2 :0 c 1 c 2 0 }.

显然, ( ( H 1 ( x ), G 1 ( x ) ),,( H m ( x ), G m ( x ) ) ) C m 等价于互补约束 0H( x )G( x )0

命题2.1 [4] (1) 令 ( c 1 , c 2 )C ,则在 ( c 1 , c 2 ) 处的切锥为

T C ( ( c 1 , c 2 ) )={ d=( d 1 , d 2 ): d 1 =0, d 2 R  if c 1 =0, c 2 <0 d 1 R, d 2 =0  if c 1 <0, c 2 =0 ( d 1 , d 2 )C     if c 1 =0, c 2 =0 } ;

(2) 令 ( c 1 , c 2 )C ,则在 ( c 1 , c 2 ) 处的正则法锥为

N ^ C ( ( c 1 , c 2 ) )={ d=( d 1 , d 2 ): d 1 R, d 2 =0  if c 1 =0, c 2 <0 d 1 =0, d 2 R  if c 1 <0, c 2 =0 d 1 0, d 2 0   if c 1 =0, c 2 =0 } ;

(3) 令 ( c 1 , c 2 )C ,则在 ( c 1 , c 2 ) 处的极限法锥为

N C ( ( c 1 , c 2 ) )={ d=( d 1 , d 2 ): d 1 R, d 2 =0            if c 1 =0, c 2 <0 d 1 =0, d 2 R            if c 1 <0, c 2 =0 either  d 1 0, d 2 0   if c 1 =0, c 2 =0 or  d 1 >0, d 2 >0 } .

MPCC问题等价于以下带有几何约束形式的问题:

minf( x ) s.t.  F( x )Λ (2.1)

其中,

F( x )=( g( x ),h( x ),Ψ( x ) ),   Λ:= R p × { 0 } q × C m , Ψ( x ):=( ( H 1 ( x ), G 1 ( x ) ),,( H m ( x ), G m ( x ) ) ).

定义 Ω={ x R n |F( x )Λ } 是MPCC问题(2.1)的可行域。为了简便表述,对于某些 p,q,mN 考虑集合 Λ= R p × { 0 } q × C m 。对于集合 Λ= R p × { 0 } q × C m 中任意一点 z:=( a,b,( c 11 , c 21 ),,( c 1m , c 2m ) ) ,做如下定义:

I( z,Λ ):={ i{ 1,,m }: c 1i =0, c 2i >0 }, J( z,Λ ):={ i{ 1,,m }: c 1i =0, c 2i =0 }, K( z,Λ ):={ i{ 1,,m }: c 1i >0, c 2i =0 }.

由于 Λ 在文章中并不容易混淆,因此我们用 I( z ),J( z ),K( z ) 来代替 I( z,Λ ),J( z,Λ ),K( z,Λ )

对于 x Ω 定义如下指标集:

A( x ,Ω ):={ j{ 1,,p }: g j ( x )=0 }, I( x ,Ω ):=I( F( x ),Λ )={ i{ 1,,m }: H i ( x )=0, G i ( x )>0 }, J( x ,Ω ):=J( F( x ),Λ )={ i{ 1,,m }: H i ( x )=0, G i ( x )=0 }, K( x ,Ω ):=K( F( x ),Λ )={ i{ 1,,m }: H i ( x )>0, G i ( x )=0 }.

由于 Ω 在上下文中有明确的定义,故我们用 A( x ),I( x ),J( x ),K( x ) 来代替 A( x ,Ω ),I( x ,Ω ),J( x ,Ω ),K( x ,Ω )

定义2.5 [5] (M稳定点)称可行点 x 是MPCC问题的M稳定点,若存在 λ ,其中, λ=( λ g , λ h , λ G , λ H ) R + p × R q+2m ,使得 x 满足

x L( x,λ )=0, λ { 1,,p }\A( x ) g =0, λ I( x ) G =0, λ K( x ) H =0, λ i G λ i H =0or λ i G >0, λ i H >0,iJ( x ).

命题2.2 [5] x 是MPEC问题的可行点,则有 x 为M稳定点当且仅当

0f( x )+F ( x ) T N Λ ( F( x ) ).

引理2.1 [5] Λ:= R p × { 0 } q × C m ,任意一点 z:=( a,b,( c 1 1 , c 2 1 ),,( c 1 m , c 2 m ) )Λ 。那么有

N Λ ( z )= j=1 p N R ( a j ) × j=1 q N { 0 } ( b j ) × i=1 m N C ( ( c 1 i , c 2 i ) ).

3. 关于M稳定性的新序列最优性条件

本节给出了关于MPCC问题M稳定性的CAKKT条件的定义,并证明了MPCC-CAKKT条件是一个合理的序列最优性条件。显然,由于MPCC-CAKKT条件与MPCC算法的停止准则相关,故有利于算法的数值实现。

定义3.1 (MPCC-CAKKT条件) MPCC问题的可行点 x 是MPCC-CAKKT点,如果存在序列 { x k } { z k } { λ k } 使得

x k x , z k F( x ) , z k Λ .

f( x k )+F ( x k ) T λ k 0.

其中 λ k N Λ ( z k ) ,且满足 lim k λ i h,k h i ( x k )=0 , i=1,,q

λ k =( λ g,k , λ h,k , λ G,k , λ H,k ) R + p × R q × R m × R m ,对于足够大的k,有

{ f( x k )+ i=1 p λ i g,k g i ( x k ) + i=1 q λ i h,k h i ( x k ) i=1 m λ i G,k G i ( x k ) i=1 m λ i H,k H i ( x k ) }0.

{ i=1 p | λ i g,k g i ( x k ) | + i=1 q | λ i h,k h i ( x k ) | + i=1 m | λ i G,k G i ( x k ) | + i=1 m | λ i H,k H i ( x k ) | }0.

其中, λ i G,k λ i H,k =0 λ i G,k >0 λ i H,k >0 ,对于每个 iJ( z k )

定理3.2 假设 x 是MPCC问题的局部最优解,则 x 满足MPCC-CAKKT条件。

证明:假设 x 是MPCC问题的局部最优解,取 δ>0 ,使得 f( x )f( x ) 。对于每个 xB( x ,δ )Ω 和任意序列 { ρ k } R + ,使得 ρ k 。则对于每个 kN ,考虑问题

minf( x )+ 1 2 ( x x ,zF( x ) ) 2 + 1 2 ρ k F( x )z 2 s.t.  ( x,z )U, (3.1)

其中, U:={ ( x,z ) R n ×Λ: ( x,z )( x ,F( x ) ) δ }.

由于U的紧致性和函数的连续性可知,问题(3.1)的全局最优解存在。令 ( x k , z k ) 为问题(3.1)的全局最优解。下证 { ( x k , z k ) } 收敛于 ( x ,F( x ) ) 。由于 ( x ,F( x ) ) 的定义,我们可以得到

f( x k )+ 1 2 ( x k x , z k F( x ) ) 2 + 1 2 ρ k F( x k ) z k 2 f( x ). (3.2)

再根据外部罚函数的收敛性理论,不失一般性,假设 ( x ^ , z ^ ) { ( x k , z k ) } 的极限。下证 ( x ^ , z ^ )=( x ,F( x ) ) 。由(3.2)可知, F( x k ) z k 0 。因此,对于足够大的k,取极限得: F( x ^ )= z ^ 。另外,根据式(3.2),不等号两边同时取极限,我们还可以得到

( x ^ x , z ^ F( x ) ) 2 2( f( x )f( x ^ ) ) .

由于 f( x )f( x ^ ) ,因此

0 ( x ^ x , z ^ F( x ) ) 2 0 .

故可得 x ^ = x F( x ^ )=F( x ) 。因此,对于足够大的k,有

( x k , z k )( x ,F( x ) ) <δ .

由于 ( x k , z k ) 的定义,由(3.2)可得

0= y k +f( x k )+F ( x k ) T λ k ,  λ k N Λ ( z k ). (3.3)

其中, y k :=F ( x k ) T ( F( x ) z k )+( x k x ) λ k := ρ k ( F( x k ) z k )+( F( x ) z k )

由于 y k 0 。故从(3.3)式可得出结论, x 满足

f( x k )+F ( x k ) T λ k 0,  λ k N Λ ( z k ). (3.4)

下证, lim k λ i h,k h i ( x k )=0,i=1,,q 。由(3.2)式可知

1 2 ρ k F( x k ) z k 2 0. (3.5)

对(3.5)式展开有

1 2 ρ k ( i=1 p ( g i ( x k ) z i g,k ) 2 + i=1 q ( h i ( x k ) z i h,k ) 2 + i=1 m ( G i ( x k ) z i G,k ) 2 + i=1 m ( H i ( x k ) z i H,k ) 2 )0. (3.6)

由(3.4)式可知

1 2 ρ k ( g i ( x k ) z i g,k ) 2 0,  i=1,,p , 1 2 ρ k ( G i ( x k ) z i G,k ) 2 0,  i=1,,m ,

1 2 ρ k ( H i ( x k ) z i H,k ) 2 0,  i=1,,m.

故有

1 2 ρ k ( h i ( x k ) z i h,k ) 2 0,  i=1,,q. (3.7)

(3.7)式两端对x求梯度得: ρ k ( h i ( x k ) z i h,k ) h i ( x k )0,  i=1,,q.

定义,

λ i h,k = ρ k ( h i ( x k ) z i h,k ),  i=1,,q. (3.8)

则有

λ i h,k h i ( x k )= ρ k ( h i ( x k ) z i h,k ) h i ( x k ) = ρ k ( h i ( x k ) z i h,k )( h i ( x k ) z i h,k + z i h,k ) = ρ k ( h i ( x k ) z i h,k ) 2 + ρ k ( h i ( x k ) z i h,k ) z i h,k = ρ k ( h i ( x k ) z i h,k ) 2 + λ i h,k z i h,k (3.9)

由于 z i h,k Λ ,故 z i h,k =0 。又由(3.8)式知 ρ k ( h i ( x k ) z i h,k ) 2 0,i=1,,q ,故当k足够大时,式(3.9)趋于0,即 lim k λ i h,k h i ( x k )=0,i=1,,q 得证。综上可得结论,即 x 为MPEC-CAKKT点。

4. 保证M稳定性的新的约束规范

本节中首先提出了与MPCC-CAKKT相关的约束规范,即MPCC-CAKKT正则性,然后证明了MPCC-CAKKT正则性是能保证M稳定性的约束规范。

定义4.1 对于所有 x R n zΛ r R + ,我们定义 K( ( x,z ),r )

K( ( x,z ),r ):={ λ=( λ g , λ h , λ G , λ H ): i=1 q | λ i h h i ( x ) | r,λ N Λ ( z ) }.

定义4.2 (MPCC-CAKKT正则性)称MPCC问题在可行点 x 处满足MPCC-CAKKT正则性,如果集值映射在点 ( ( x ,F( x ) ),0 ) 处外半连续,即

limsup ( ( x k , z k ), r k )( ( x ,F( x ) ),0 ) F ( x k ) T K( ( x k , z k ), r k )F ( x ) T K( ( x ,F( x ) ),0 ).

定理4.3 假设 x 是MPCC问题的一个MPCC-CAKKT点,若MPCC-CAKKT正则性在 x 处成立,那么 x 是M稳定点。

证明:对于任意连续可微的目标函数f,若 x 满足MPCC-CAKKT条件,则存在序列 { x k } x z k F( x ) r k { λ k }K( ( x k , z k ), r k ) ,使得

y k =f( x k )+F ( x k ) T λ k 0.

ω k =F ( x k ) T λ k ,则有 ω k F ( x k ) T K( ( x k , z k ), r k ) ω k = y k f( x k ) 。由定义2.1和 ω k ω ,可得

ω limsup ( ( x k , z k ), r k )( ( x ,F( x ) ),0 ) F ( x k ) T K( ( x k , z k ), r k ) .

由于 f( x ) 连续性,MPCC-CAKKT正则性和 y k 0 可以得到

f( x )= lim k ω k = ω limsup ( ( x k , z k ), r k )( ( x ,F( x ) ),0 ) F ( x k ) T K( ( x k , z k ), r k ) F ( x ) T K( ( x ,F( x ) ),0 )F ( x ) T N Λ ( F( x ) ).

x 为M稳定点。

推论4.4 假设 x 是MPCC问题的一个局部最优解,若MPCC-CAKKT正则性在 x 处成立,则 x 是M稳定点。

由定理3.2和定理4.3可知:若 x 是MPCC问题的一个局部最优解,且 x 满足MPCC-CAKKT正则性条件,那么 x 是M稳定点。该结果意味着MPCC-CAKKT正则性是关于M稳定性的约束规范。

5. 总结

本文主要研究了MPCC问题的序列最优性条件,介绍了与MPCC问题M稳定性相关的序列最优性条件(MPCC-CAKKT条件),证明了MPCC-CAKKT条件是MPCC问题的一个合理的序列最优性条件。同时,提出了MPCC-CAKKT正则性,并证明了在MPCC-CAKKT正则性的条件下,MPCC问题的局部最优解是M稳定点。因此,MPCC-CAKKT正则性是MPCC问题的约束规范。

基金项目

辽宁师范大学教师指导本科生科研训练项目(项目编号:CX202302012)。

参考文献

[1] Prado, R.W., Santos, S.A. and Simões, L.E.A. (2023) On the Fulfillment of the Complementary Approximate Karush-Kuhn-Tucker Conditions and Algorithmic Applications. Journal of Optimization Theory and Applications, 197, 705-736.
https://doi.org/10.1007/s10957-023-02189-1
[2] Prado, R.W., Santos, S.A. and Simões, L.E.A. (2023) A Novel Sequential Optimality Condition for Smooth Constrained Optimization and Algorithmic Consequences. Optimization, 73, 1447-1476.
https://doi.org/10.1080/02331934.2023.2168481
[3] Andreani, R. and Martínez, J.M. (2001) On the Solution of Mathematical Programming Problems with Equilibrium Constraints. Mathematical Methods of Operations Research, 54, 345-358.
https://doi.org/10.1007/s001860100158
[4] Andreani, R., Haeser, G., Secchin, L.D. and Silva, P.J.S. (2019) New Sequential Optimality Conditions for Mathematical Programs with Complementarity Constraints and Algorithmic Consequences. SIAM Journal on Optimization, 29, 3201-3230.
https://doi.org/10.1137/18m121040x
[5] Ramos, A. (2019) Mathematical Programs with Equilibrium Constraints: A Sequential Optimality Condition, New Constraint Qualifications and Algorithmic Consequences. Optimization Methods and Software, 36, 45-81.
https://doi.org/10.1080/10556788.2019.1702661
[6] Rockafellar, R.T. and Wets, J.B. (2009) Variational Analysis. Springer-Verlag.