基于值函数内点罚方法的双层规划问题研究
Research on Bi-Level Programming Problem Based on Value-Function-Based Interior-Point Penalty Method
DOI: 10.12677/AAM.2023.124183, PDF, HTML, XML, 下载: 195  浏览: 283  国家自然科学基金支持
作者: 杜梦琪:河北工业大学理学院,天津
关键词: 双层规划内点罚方法值函数Bi-Level Programming Interior Point Penalty Method Value Function
摘要: 本文考虑了一个在实际中有很多应用的双层规划问题,其下层问题带有多个不等式约束。为了开发有效的数值算法,通常需要将双层规划转化为单层优化问题。本文首先提出了罚函数,然后利用罚函数将下层问题的约束函数罚到目标函数得到逼近下层问题的无约束优化问题,并证明该无约束优化问题的最优值函数逼近于原下层问题的最优值函数,从而利用该逼近最优值函数将双层规划问题近似为一系列单层优化问题,并证明该一系列单层优化问题的解收敛于原双层规划的最优解。
Abstract: In this paper, we consider a bi-level programming with many applications in practice, where the lower-level problem comes with multiple inequality constraints. In order to develop efficient nu-merical algorithms, it is often necessary to transform the bi-level programming into a single-level optimization problem. In this paper, we first propose a penalty function, and then use the penalty function to penalize the constraint function of the lower-level problem to the objective function to obtain an unconstrained optimization problem that approximates the lower-level problem. And we prove that the optimal value function of this unconstrained optimization problem approximates the optimal value function of the original lower-level problem. The bi-level programming problem is approximated to a series of single-level optimization problems by using the approximate optimal value function, and the solutions of the series of single-level optimization problems are proved to converge to the optimal solutions of the original bi-level programming.
文章引用:杜梦琪. 基于值函数内点罚方法的双层规划问题研究[J]. 应用数学进展, 2023, 12(4): 1762-1771. https://doi.org/10.12677/AAM.2023.124183

1. 引言

双层规划问题是一类具有上下两层结构的数学优化问题,它在工程设计、经济均衡、交通运输等方面有着广泛的应用。双层规划问题最初由德国经济学家Stackelberg [1] 于1952年提出,经济学中的委托代理模型(Principal Agent Model)是该问题的一个典型应用。1973年,Bracken和McGill [2] 提出了双层规划问题的数学模型。随后,Candler和Norton [3] 给出了多层规划问题和双层规划问题的正式定义。双层规划是一种具有二层递阶结构的系统优化问题,上层问题和下层问题都有各自的决策变量。双层系统优化研究的是具有两个层次系统的规划与管理问题。上层决策者只是通过自己的决策去指导下层决策者,并不直接干涉下层的决策;而下层决策者只需要把上层的决策作为参数,它可以在自己的可能范围内自由决策。这种决策机制使得每层决策者制定的决策都会互相影响。最终使得每层决策者都得到自己的最优目标值。

上世纪80年代之后,国内外学者开始研究双层规划问题,使双层规划问题在理论、求解算法方面都取得了较大的发展,并且得到了广泛的应用,特别是城市道路交通 [4] [5] [6] [7] 、工程问题 [8] [9] [10] 、经济管理 [11] [12] 以及其他应用领域 [13] [14] 。目前,双层规划问题已成为管理学、数学、经济学等众多领域所关注的一项热门课题。关于双层规划的理论、求解算法和应用等方面的研究工作可以参见一些专著 [15] [16] [17] 和综述性文章 [18] [19] [20] 。

本文考虑如下形式的积极双层规划问题(BP):

( BP ) min F ( x , y ) s .t . y S ( x ) , x X ,

其中 S ( x ) 表示下层问题:

( P x ) min f ( x , y ) s .t . y Y ( x )

的最优解集, Y ( x ) = { y : g i ( x , y ) 0 , i = 1 , 2 , , m , y Y } ,X和Y分别是 n 1 n 2 中的紧子集。 F , f , g i ( i = 1 , 2 , , m ) : n 1 × n 2 是连续可微的函数。令x和y分别表示上层决策者和下层决策者的决策变量。双层规划问题(BP)代表的是两个决策者之间博弈的一种积极形式,其中下层决策者被假定是合作的并且愿意选取 S ( x ) 中任意的解作为其决策值。另一种消极方式假定下层决策者不是一定会合作,因此上层决策者要考虑最坏的情况,则产生消极双层规划模型。参见 [21] [22] [23] [24] [25] 了解更多关于积极和消极双层规划模型的细节。

由于分层结构,双层规划问题很难求解,即使是线性情况,双层规划问题也被证明是强NP难的。从连续优化的角度来看,要发展有效的数值算法,通常需要将双层规划转化为单层优化问题。沿着这个方向,学者们提出了几种双层规划的转换方法,其中包括:基于下层解函数的转换、基于下层最优性条件的转换、基于下层最优值函数的转换、基于下层拉格朗日对偶的转换。

基于下层解函数的转换方法要求下层问题的解函数是已知的,在这种情况下,即使上层问题和下层问题都是可微的和凸的,双层规划问题通常即不是可微的,也不是凸的。基于下层最优性条件转换得到的是带有互补约束的数学规划(Mathematical Program with Equilibrium Constraint, MPEC),然而问题MPEC具有非凸的组合结构,理论上MPEC在任何可行点都不满足MFCQ (Mangasarian-Fromovitz Constraint Qualification),因此一般的非线性规划理论不能直接应用于MPEC问题。基于下层最优值函数的转换利用下层最优值函数将双层规划问题转换为单层优化问题,但最优值函数没有解析表达式,一般很难评估,并且最优值函数是非光滑的,该转换模型在其所有可行点都不满足非光滑的MFCQ,因此求解相对困难。基于下层拉格朗日对偶的转换方法使用了正则约束拉格朗日对偶函数,但它存在一些缺点,基于对偶的转换中使用的正则约束拉格朗日对偶函数是通过极小化某个强凸函数来定义的,因此一般没有解析表达式。

本文所考虑的是下层问题带有多个不等式约束的双层规划问题,所以针对下层问题采用了内点罚方法来逼近下层问题。首先提出了罚函数 ϕ ( x , y ) : = i = 1 m g i ( x , y ) ln { g i ( x , y ) } 。然后利用罚函数 ϕ ( x , y ) 将下

层问题的约束函数罚到目标函数得到逼近下层问题的无约束优化问题,并证明该无约束优化问题的最优值函数逼近于原下层问题的最优值函数,从而利用该逼近最优值函数将双层规划问题近似为一系列单层规划问题,并证明该一系列单层规划问题的解收敛于原双层规划问题的最优解。

本文组织如下,在第2节中,将介绍一些双层规划转换为单层规划的方法。在第3节中,探讨了用基于值函数内点罚方法得到的逼近双层规划问题的单层优化问题,并证明了该单层优化问题的解收敛于原双层规划问题的解。最后是结论和展望。

2. 双层规划的转换方法

本节将详细介绍一些现有的双层规划转换为单层规划的方法。

2.1. 基于下层解函数的转换

如果对任意给定的 x X ,下层规划问题( P x )有唯一的最优解 y ( x ) ,那么双层规划问题(BP)可以被等价地转化为单层优化问题(SP):

( SP ) min F ( x , y ( x ) ) s .t . x X .

这种转换需要严格的条件,以确保下层最优解的存在性。在下层问题解函数 y ( x ) 已知的情况下,即使下层问题和上层问题都是可微和凸的,上述问题中的目标函数一般即不可微也不凸。因此这种方法通常难以应用于求解双层规划。

2.2. 基于下层最优性条件的转换

当下层问题关于变量y是凸问题时,常用的方法是用下层问题的Karush-Kuhn-Tucker (KKT)条件替换下层问题的最优解集,得到带有互补约束的数学规划问题(Mathematical Program with Equilibrium Constraints,简称MPEC):

( KP ) min F ( x , y ) s .t . x X , 0 u g ( x , y ) 0 , y f ( x , y ) + y g ( x , y ) u = 0.

由于问题(KP)的约束中带有互补约束,因此它属于MPEC问题。

一方面,尽管原双层规划问题(BP)的全局最优解与其对应的问题(KP)的全局最优解重合,但在下层规划存在多个乘子的情况下,它们的局部最优解可能不相同 [26] 。此外,Ye [27] 给出了一个实例,揭示了原双层规划的最优解甚至可能不是其对应问题(KP)的一个稳定点。

另一方面,MPEC不是一个普通的约束优化问题,因为它的可行域具有组合结构,而且它在任何可行点上都不能满足MFCQ,这意味着非线性规划中成熟的优化算法在求解MPEC时可能并不稳定。在过去的几十年里,人们提出了许多求解MPEC的逼近算法,包括松弛和光滑算法、罚函数算法、内点算法、隐式规划算法、非光滑算法等。读者可参考 [28] - [33] 和其中的参考文献,以获得关于MPEC理论和数值算法的最新发展的更多细节。

2.3. 基于下层最优值函数的转换

另一种方法是利用下层最优值函数 v ( x ) : = min y Y ( x ) f ( x , y ) ,将双层规划问题(BP)转换为单层优化问题(VP):

( VP ) min F ( x , y ) s .t . f ( x , y ) v ( x ) 0 , x X , y Y ( x ) .

该转换首次被Outrata [34] 提出,在通常情况下,该转换利用的值函数 v ( x ) 是非光滑函数,Mordukhovich等人 [35] 研究了值函数 v ( x ) 的局部利普希茨连续性,并建立了最优性条件。Ye等人 [36] 以及Dempe等人 [21] [37] 利用下层最优值函数对双层规划问题研究了各种最优性条件和约束规范。尽管问题(VP)是一个单层优化问题,但由于下层最优值函数 v ( x ) 没有解析表达式,一般不可微,显然问题(VP)不是一个正常的约束优化问题。此外,问题(VP)中的不等式约束实际上是一个等式约束,因此非光滑MFCQ在每个可行点上都不满足( [36] ,命题3.2)。因此,不能用现有的优化算法直接求解问题(VP)。受半无限规划研究的激励,Xu等人 [38] [39] 考虑了一个具有紧下层可行域的简单双层规划,并提出了一些利用积分熵函数逼近下层最优值函数的逼近方法。

值函数模型的最优性理论相对完备,然而由于其所有可行点都不满足非光滑的MFCQ,因此求解相对困难,算法大多集中在特殊问题的求解上,例如线性问题、凸问题等。Ye和Zhu [40] 结合MPEC模型和值函数模型,将最优解集 S ( x ) 替换为:

S ( x ) = { y Y : f ( x , y ) v ( x ) 0 g ( x , y ) 0 , u 0 , s .t . g ( x , y ) , u = 0 } ,

得到了更容易满足部分平稳性条件的联合模型(CP):

( CP ) min F ( x , y ) s .t . f ( x , y ) v ( x ) 0 , y f ( x , y ) + u y g ( x , y ) = 0 , g ( x , y ) 0 , u 0 , g ( x , y ) , u = 0 , x X , y Y .

求解问题(CP)的好处有两个。一方面,由于约束条件 f ( x , y ) v ( x ) 0 的出现,问题(BP)的局部最优解一定是问题(CP)的KKT点,但不一定是问题(KP)的KKT点。另一方面,由于一阶条件 y f ( x , y ) + u y g ( x , y ) = 0 的出现,问题(CP)的最优性必要条件要比问题(VP)更容易成立,这是因为其乘子有更多的选择。

2.4. 基于下层对偶问题的转换

该方法是利用下层问题的对偶问题将双层规划问题转换为单层问题,最近Ouattara和Aswani [41] 针对下层问题为凸规划的双层规划问题,构造了可微的对偶函数 ν ( x , u )

ν ( x , u ) : = min y { f ( x , y ) + u Τ g ( x , y ) : y Y ¯ } ,

并展示了下面的基于对偶的转换:

( LDP ) min F ( x , y ) s .t . f ( x , y ) ν ( x , u ) , g ( x , y ) 0 , u 0 , x X .

然后证明了(LDP)与原双层规划的等价性,并引入了正则项 ν δ ( x , u ) : = min y { δ y 2 + f ( x , y ) + u Τ g ( x , y ) : y Y ¯ } ,来确保约束规范成立。

2021年Li等人 [42] 利用下层问题( P x )的Wolfe对偶问题:

( WD x ) max z , u L ( x , z , u ) s .t . z L ( x , z , u ) = 0 , u 0.

将双层规划问题转化为单层问题(WDP):

( WDP ) min F ( x , y ) s .t . f ( x , y ) L ( x , z , u ) 0 , z L ( x , z , u ) = 0 , u 0 , x X , y Y ( x ) .

其中 L ( x , z , u ) : = f ( x , z ) + u Τ g ( x , z ) 。并且证明了(WDP)与原双层规划的全局解等价,在满足某种约束规范的条件下局部解也是等价的。

3. 双层规划的近似问题

在本节中,假设值函数 v ( x ) 是利普希茨连续的。有很多文献已经研究了值函数的利普希茨连续性,下面的命题3.1是Clarke ( [43] , Theorem 6.5.2)的一个特例,在文献 [44] 中可以找到值函数利普希茨连续性的其他较弱的充分条件以及其次微分的估计。

命题3.1:假设集值映射 Y ( x ) x * 附近一致有界,即存在 x * 的邻域U使得集合 x U Y ( x ) 是有界的。如果MFCQ成立在y对任意 y S ( x * ) ,那么最优值函数 v ( x ) x * 附近利普希茨连续。

为了证明结论,给出下面的假设。

假设3.1:对于 x X ,至少存在一个 y ( x ) S ( x ) 使得 g i ( x , y ( x ) ) < 0 , i = 1 , 2 , , m

为了处理包含约束函数的下层规划,我们定义了下面的内点罚函数:

ϕ ( x , y ) = i = 1 m g i ( x , y ) ln { g i ( x , y ) } ,

考虑下层问题的罚问题:

( LPP x ) min θ ε ( x , y ) s .t . y Y ,

其中 θ ε ( x , y ) : = f ( x , y ) ε i = 1 m g i ( x , y ) ln ( g i ( x , y ) ) 。注意我们假设 t ln t = t 0 。令 v ε ( x ) θ ε ( x , y ) y Y 上的最优值,即

v ε ( x ) : = inf y Y θ ε ( x , y ) ,

S ε ( x ) θ ε ( x , y ) y Y 上的最优解集,即 v ε ( x ) = θ ε ( x , y ε ( x ) ) , y ε ( x ) S ε ( x ) 。注意到下层问题的罚问题( LPP x )的可行域是 Y ο ( x ) = { y Y : g i ( x , y ) < 0 , i = 1 , 2 , , m } Y ( x ) 。于是有 v ε ( x ) = inf y Y ο ( x ) θ ε ( x , y )

定理3.1:在假设3.1成立的条件下,对任意的 x X 以及任意的 ε > 0 ,存在正的常数N使得

v ( x ) m N ε v ε ( x ) v ( x ) + m N ε (1)

成立。此外,如果下层规划( P x )对任意的 y S ( x ) 都满足MFCQ,有

lim ε 0 , z x v ε ( z ) = v ( x ) (2)

成立。

证:对任意 x X y Y ,根据函数 g i ( x , y ) 在紧集 X × Y 上的连续性,存在正的常数N使得对任意 i { 1 , 2 , , m } 满足 g i ( x , y ) < 0 ( x , y ) X × Y ,有

| g i ( x , y ) ln ( g i ( x , y ) ) | N (3)

成立。根据条件(3),得到对于满足 g i ( x , y ) < 0 的任意 ( x , y ) X × Y ,有

f ( x , y ) m N ε θ ε ( x , y ) = f ( x , y ) + ε i = 1 m ( g i ( x , y ) ) ln ( g i ( x , y ) ) f ( x , y ) + m N ε (4)

成立。一方面,我们得到条件(1)的左边,因为

v ε ( x ) : = inf y Y ( x ) θ ε ( x , y ) inf y Y ( x ) { f ( x , y ) m N ε } = v ( x ) m N ε .

另一方面,根据条件(4)和假设3.1,得到

v ε ( x ) inf y Y ( x ) { f ( x , y ) + m N ε } = v ( x ) + m N ε .

于是条件(1)得证。

根据命题3.1知,最优值函数 v ( x ) 是利普希茨连续的,因此对任意的 x X lim z x v ( z ) = v ( x ) 成立。那么根据夹逼原则,有条件(2)成立。证毕。

定理3.2:在假设3.1成立的条件下,如果下层规划( P x )对任意的 y S ( x ) 都满足MFCQ,则对任意的 x X ,有

lim sup ε 0 , z x S ε ( z ) S ( x )

成立。

证:对任意的 y ε ( z ) S ε ( z ) ,根据Y的紧性,不失一般性,假设 lim ε 0 , z x y ε ( z ) = y ¯ Y 。因为 y ε ( z ) S ε ( z ) ,那么对任意的 i { 1 , 2 , , m } ,有 g i ( z , y ε ( z ) ) < 0 。根据函数 g i ( i { 1 , 2 , , m } ) 的连续性,得到

lim ε 0 , z x g i ( z , y ε ( z ) ) = g i ( x , y ¯ ) 0 , i { 1 , 2 , , m } .

根据条件(3),对于满足 g i ( x , y ) < 0 的任意 ( x , y ) X × Y i = 1 m g i ( x , y ) ln ( g i ( x , y ) ) 是有界的。于是 lim ε 0 , z x ε i = 1 m g i ( z , y ε ( z ) ) ln ( g i ( z , y ε ( z ) ) ) = 0

根据定理3.1,得到

v ( x ) = lim ε 0 , z x θ ε ( z , y ε ( z ) ) = lim ε 0 , z x f ( z , y ε ( z ) ) + ε i = 1 m g i ( z , y ε ( z ) ) ln ( g i ( z , y ε ( z ) ) ) = lim ε 0 , z x f ( z , y ε ( z ) ) + lim ε 0 , z x ε i = 1 m g i ( z , y ε ( z ) ) ln ( g i ( z , y ε ( z ) ) ) = f ( x , y ¯ ) .

因此由 v ( x ) = f ( x , y ¯ ) , g i ( x , y ¯ ) 0 , i { 1 , 2 , , m } 以及 y ¯ Y ,得到 y ¯ S ( x ) 。证毕。

逼近问题(VP)用问题( VP ε ):

( VP ε ) min F ( x , y ) s .t . f ( x , y ) v ε ( x ) ε , g i ( x , y ) 0 , i = 1 , 2 , , m , ( x , y ) X × Y .

ε > m N ε ,并且 ε 0 时, ε 0

定理3.3:在假设3.1成立的条件下,对每个 ε > 0 δ > 0 ,如果 ( x δ ε , y δ ε ) 是问题( VP ε )的一个 δ -解,即对于问题( VP ε )的任意可行点 ( x , y ) F ( x , y ) 不小于 F ( x δ ε , y δ ε ) δ 。则当 ε δ 趋于0时,序列 { ( x δ ε , y δ ε ) } 的任意聚点是双层规划(BP)的最优解。

证:不失一般性,假设 lim ε 0 , δ 0 ( x δ ε , y δ ε ) = ( x * , y * ) 。因为 ( x δ ε , y δ ε ) 对于问题( VP ε )是可行的,于是有

f ( x δ ε , y δ ε ) v ε ( x δ ε ) ε , ( x δ ε , y δ ε ) ( X × Y ) , g i ( x δ ε , y δ ε ) < 0 , i { 1 , 2 , , m } .

对上述条件取极限 ε 0 , δ 0 ,得到 f ( x * , y * ) v ( x * ) 0 , ( x * , y * ) ( X × Y ) 。根据函数 g i ( i { 1 , 2 , , m } ) 的连续性,对任意的 i { 1 , 2 , , m } ,有 g i ( x * , y * ) 0 成立。于是 ( x * , y * ) 是问题(VP)的可行点。

假设 ( x * , y * ) 不是问题(VP)的一个最优解,则一定存在一个可行点 ( x ¯ , y ¯ ) ( x * , y * ) 使得

F ( x ¯ , y ¯ ) < F ( x * , y * ) (5)

成立。因为 ( x ¯ , y ¯ ) 是问题(VP)的可行点,因此有 f ( x ¯ , y ¯ ) = v ( x ¯ ) 。根据(1),得到

f ( x ¯ , y ¯ ) v ε ( x ¯ ) f ( x ¯ , y ¯ ) v ( x ¯ ) + m N ε = m N ε ε .

于是 ( x ¯ , y ¯ ) 是问题( VP ε )的可行点。

因为 ( x δ ε , y δ ε ) 是问题( VP ε )的一个 δ -解, ( x ¯ , y ¯ ) 是问题( VP ε )的可行点,于是有

F ( x ¯ , y ¯ ) F ( x δ ε , y δ ε ) δ

成立。令 ε δ 趋于0,得到

F ( x ¯ , y ¯ ) F ( x * , y * ) .

这与(5)式矛盾,因此 ( x * , y * ) 是问题(VP)的一个最优解。证毕。

4. 结论与展望

本文考虑了一类下层问题带有多个不等式约束的双层规划问题。本文首先利用罚函数将下层问题的约束函数罚到目标函数得到逼近下层问题的无约束优化问题,并证明该无约束优化问题的最优值函数逼近于原下层问题的最优值函数,从而利用该逼近最优值函数将双层规划问题近似为一系列单层规划问题,最后得到该一系列单层规划问题的解收敛于原双层规划的最优解。从而可以通过求解该逼近双层规划的单层优化问题进而求解双层规划问题,因此之后对该问题的求解方法方面可以进入深入研究。

基金项目

国家自然科学基金:(11901556, 12071342);河北省自然科学基金:(A2020202030)。

参考文献

[1] Stackelberg, H.V. (1952) The Theory of the Market Economy. Oxford University Press, Oxford.
[2] Bracken, J. and McGill, J.T. (1973) Mathematical Programs with Optimization Problems in the Constraints. Operations Research, 21, 37-44.
https://doi.org/10.1287/opre.21.1.37
[3] Candler, W. and Norton, R. (1977) Multi-Level Programming. Technical Report 20, World Bank Development Research Center, Washington DC.
[4] Migdalas, A. (1995) Bilevel Programming in Traffic Planning: Models, Methods and Challenge. Journal of Global Optimization, 7, 381-405.
https://doi.org/10.1007/BF01099649
[5] Zhang, J. and Zhu, D. (1996) A Bilevel Programming Method for Pipe Network Optimization. SIAM Journal on Optimization, 6, 838-857.
https://doi.org/10.1137/S1052623493260696
[6] Marcotte, P. (1986) Network Design Problem with Congestion Effects: A Case of Bilevel Programming. Mathematical Programming, 34, 142-162.
https://doi.org/10.1007/BF01580580
[7] Cecchini, M., Ecker, J., Kupferschmid, M. and Leitch, R. (2013) Solving Nonlinear Principal-Agent Problems Using Bilevel Programming. European Journal of Operational Research, 230, 364-373.
https://doi.org/10.1016/j.ejor.2013.04.014
[8] Pang, J.S. and Trinkle, J.C. (1996) Complementarity Formulations and Existence of Solutions of Dynamic Multi-Rigid-Body Contact Problems with Coulomb Friction. Mathematical Pro-gramming, 73, 199-226.
https://doi.org/10.1007/BF02592103
[9] Kočvara, M. and Outrata, J.V. (2006) Effective Reformulations of the Truss Topology Design Problem. Optimization and Engineering, 7, 201-219.
https://doi.org/10.1007/s11081-006-6839-z
[10] Du, G. and Wang, J. (2009) Product Family Hierarchical Associ-ated Design and Its Hierarchical Optimization. 2009 IEEE International Conference on Industrial Engineering and Engi-neering Management, Beijing, 21-23 October 2009, 1642-1645.
https://doi.org/10.1109/IEEM.2009.5373123
[11] Miller, T., Friesz, T.L. and Tobin, R.L. (1992) Heuristic Algo-rithms for Delivered Price Spatially Competitive Network Facility Location Problems. Annals of Operations Research, 34, 177-202.
https://doi.org/10.1007/BF02098179
[12] Bjørndal, M. and Jørnsten, K. (2005) The Deregulated Electric-ity Market Viewed as a Bilevel Programming Problem. Journal of Global Optimization, 33, 465-475.
https://doi.org/10.1007/s10898-004-1939-9
[13] Hobbs, B.F. and Nelson, S.K. (1992) A Nonlinear Bilevel Model for Analysis of Electric Utility Demand-Side Planning Issues. Annals of Operations Research, 34, 255-274.
https://doi.org/10.1007/BF02098182
[14] 纪晓颖, 李云岗, 钟磊钢. 双层规划模型在供应链中的应用[J]. 冶金经济与管理, 2006(1): 44-45.
[15] Bard, J.F. (2013) Practical Bilevel Optimization: Algorithms and Applications. Springer Science & Business Media, Berlin.
[16] Dempe, S. (2002) Foundations of Bilevel Programming. Springer Science & Business Media, Berlin.
[17] Chen, Y. (1995) Bilevel Programming Problems: Analysis, Algorithms and Applications. Université de Montréal, Montréal.
[18] Colson, B., Marcotte, P. and Savard, G. (2005) Bilevel Program-ming: A Survey. A Quarterly Journal of Operations Research (4OR), 3, 87-107.
https://doi.org/10.1007/s10288-005-0071-0
[19] Dempe, S. (2003) Annotated Bibliography on Bilevel Program-ming and Mathematical Programs with Equilibrium Constraints. Optimization, 52, 333-359.
https://doi.org/10.1080/0233193031000149894
[20] 王广民, 万仲平, 王先甲. 二(双)层规划综述[J]. 数学进展, 2007, 36(5): 513-529.
[21] Dempe, S. and Zemkoho, A.B. (2013) The Bilevel Programming Problem: Reformula-tions, Constraint Qualifications and Optimality Conditions. Mathematical Programming, 138, 447-473.
https://doi.org/10.1007/s10107-011-0508-5
[22] Hansen, P., Jaumard, B. and Savard, G. (1992) New Branch-and-Bound Rules for Linear Bilevel Programming. SIAM Journal on Scientific and Statistical Computing, 13, 1194-1217.
https://doi.org/10.1137/0913069
[23] Kunapuli, G., Bennett, K.P., Hu, J. and Pang, J.S. (2008) Classi-fication Model Selection via Bilevel Programming. Optimization Methods & Software, 23, 475-489.
https://doi.org/10.1080/10556780802102586
[24] Lampariello, L. and Sagratella, S. (2020) Numerically Tractable Optimistic Bilevel Problems. Computational Optimization and Applications, 76, 277-303.
https://doi.org/10.1007/s10589-020-00178-y
[25] Loridan, P. and Morgan, J. (1996) Weak via Strong Stackelberg Problem: New Results. Journal of Global Optimization, 8, 263-287.
https://doi.org/10.1007/BF00121269
[26] Dempe, S. and Dutta, J. (2012) Is Bilevel Programming a Special Case of a Mathematical Program with Complementarity Constraints? Mathematical Programming, 131, 37-48.
https://doi.org/10.1007/s10107-010-0342-1
[27] Ye, J.J. (2011) Necessary Optimality Conditions for Multiobjec-tive Bilevel Programs. Mathematics of Operations Research, 36, 165-184.
https://doi.org/10.1287/moor.1100.0480
[28] Dempe, S. and Franke, S. (2019) Solution of Bilevel Optimization Problems Using the KKT Approach. Optimization, 68, 1471-1489.
https://doi.org/10.1080/02331934.2019.1581192
[29] Izmailov, A.F., Pogosyan, A.L. and Solodov, M.V. (2012) Semismooth Newton Method for the Lifted Reformulation of Mathematical Programs with Complementarity Constraints. Computational Optimization and Applications, 51, 199-221.
https://doi.org/10.1007/s10589-010-9341-7
[30] Guo, L., Lin, G.H. and Ye, J.J. (2015) Solving Mathematical Programs with Equilibrium Constraints. Journal of Optimization Theory and Applications, 166, 234-256.
https://doi.org/10.1007/s10957-014-0699-z
[31] Hoheisel, T., Kanzow, C. and Schwartz, A. (2013) Theoretical and Numerical Comparison of Relaxation Methods for Mathematical Programs with Complementarity Constraints. Mathematical Programming, 137, 257-288.
https://doi.org/10.1007/s10107-011-0488-5
[32] Pang, J.S. and Fukushima, M. (1999) Complementarity Constraint Qualifications and Simplified B-Stationarity Conditions for Mathematical Programs with Equilibrium Constraints. Com-putational Optimization and Applications, 13, 111-136.
https://doi.org/10.1023/A:1008656806889
[33] Scheel, H. and Scholtes, S. (2000) Mathematical Programs with Complementarity Constraints: Stationarity, Optimality, and Sensi-tivity. Mathematics of Operations Research, 25, 1-22.
https://doi.org/10.1287/moor.25.1.1.15213
[34] Outrata, J.V. (1990) On the Numerical Solution of a Class of Stackelberg Problems. Zeitschriftfür Operations Research, 34, 255-277.
https://doi.org/10.1007/BF01416737
[35] Mordukhovich, B.S. (2018) Variational Analysis and Applications. Springer International Publishing, Berlin.
https://doi.org/10.1007/978-3-319-92775-6
[36] Ye, J.J. and Zhu, D. (1995) Optimality Conditions for Bilevel Programming Problems. Optimization, 33, 9-27.
https://doi.org/10.1080/02331939508844060
[37] Dempe, S. and Zemkoho, A.B. (2011) The Generalized Manga-sarian-Fromowitz Constraint Qualification and Optimality Conditions for Bilevel Programs. Journal of Optimization Theory and Applications, 148, 46-68.
https://doi.org/10.1007/s10957-010-9744-8
[38] Lin, G.H., Xu, M. and Ye, J.J. (2014) On Solving Simple Bilevel Programs with a Nonconvex Lower Level Program. Mathematical Programming, 144, 277-305.
https://doi.org/10.1007/s10107-013-0633-4
[39] Xu, M.W. and Ye, J.J. (2014) A Smoothing Augmented Lagran-gian Method for Solving Simple Bilevel Programs. Computational Optimization and Applications, 59, 353-377.
https://doi.org/10.1007/s10589-013-9627-7
[40] Ye, J.J. and Zhu, D. (2010) New Necessary Optimality Condi-tions for Bilevel Programs by Combining the MPEC and Value Function Approaches. SIAM Journal on Optimization, 20, 1885-1905.
https://doi.org/10.1137/080725088
[41] Ouattara, A. and Aswani, A. (2018) Duality Approach to Bilevel Programs with a Convex Lower Level. Proceedings of the Annual American Control Conference IEEE, Milwau-kee, 27-29 June 2018, 1388-1395.
https://doi.org/10.23919/ACC.2018.8431802
[42] Li, Y.W., lin, G.H., Zhang, J. and Zhu, X.D. (2021) A Novel Approach for Bilevel Programs Based on Wolfe Duality. Optimization Online.
[43] Clarke, F.H. (1990) Optimization and Nonsmooth Analysis. Society for Industrial and Applied Mathematics, University City.
https://doi.org/10.1137/1.9781611971309
[44] Guo, L., Lin, G.H., Ye, J.J. and Zhang, J. (2014) Sensitivity Anal-ysis of the Value Function for Parametric Mathematical Programs with Equilibrium Constraints. SIAM Journal on Opti-mization, 24, 1206-1237.
https://doi.org/10.1137/130929783