带扰动项的阻尼惯性梯度系统求解二阶锥约束变分不等式

Damped Inertial Gradient System with a Perturbation Term for Solving Second-Order Cone Constrained Variational Inequalities

摘要: 本文运用光滑化的自然残差函数建立了二阶锥约束变分不等式问题的光滑化KKT方程组，并建立了与其等价的无约束优化问题。建立了具有阻尼惯性参数和时间尺度参数的带扰动项的阻尼惯性梯度系统求解该无约束优化问题，并证明了该系统的稳定性，从而得到了二阶锥约束变分不等式问题的KKT点的收敛性。并将带扰动项的阻尼惯性梯度系统与已有的一阶微分方程系统方法进行了理论条件和数值结果的对比。在理论条件的要求上，带扰动项的阻尼惯性梯度系统的条件要更容易实现，而在数值结果上，一阶微分方程方法的收敛速度要快一些，但是差距不大。

Abstract: In this paper, a smoothed KKT system of equations for the second-order cone constrained variational inequality problem is established by using the smoothed natural residual function, and an equivalent unconstrained optimization problem is constructed. A damped inertial gradient system with a perturbation term, which includes damped inertial parameters and time scale parameters, is developed to solve this unconstrained optimization problem. The stability of this system is proved, thus obtaining the convergence of KKT points for the second-order cone constrained variational inequality problem. Furthermore, the damped inertial gradient system with a perturbation term is compared with the existing first-order differential equation system methods in terms of theoretical conditions and numerical results. In terms of theoretical condition requirements, the conditions of the damped inertial gradient system with a perturbation term are easier to implement; in terms of numerical results, the first-order differential equation method has a slightly faster convergence speed, but the gap is not significant.

1. 引言

近些年来，优化领域中有一个重要的研究热点就是锥约束优化，该问题在线性代数、统计应用、信息与图像处理、压缩感知、计算机视觉等诸多领域有着重要的应用[1]-[4]。锥约束优化问题引起了国内外科学和工程领域专家学者的关注和广泛研究。其中，二阶锥约束变分不等式是锥约束优化问题的一个重要分支，在统计学、经济学、机器学习、信息处理等科学和工程领域有着重要的应用，受到众多学者的关注[5]-[8]。

本文将研究的二阶锥约束变分不等式问题：求解$x^{\ast }\in \Omega$ 满足

$\langle F\left(x^{\ast }\right),y-x^{\ast }\rangle \ge 0,\forall y\in \Omega ,$ (1.1)

其中，约束集合$\Omega$ 表示为

$\Omega =\left\{x\in {\Re }^n|-g\left(x\right)\in \mathcal{K}\right\},$ (1.2)

$\langle \cdot ,\cdot \rangle$ 表示欧式空间的内积，$g:{\Re }^n\to {\Re }^m$ 都是连续可微的，且二阶锥$\mathcal{K}$ 如下定义

$\mathcal{K}={\mathcal{K}}^{m_1}\times {\mathcal{K}}^{m_2}\times \cdots \times {\mathcal{K}}^{m_p},$ (1.3)

$l\ge 0$ ，$m_1,m_2,\cdots ,m_p\ge 1$ ，$m_1+m_2+\cdots +m_p=m$ ，每个${\mathcal{K}}^{m_i}\left(i=1,\cdots ,p\right)$ 是$m_i$ 维的二阶锥。

2017年以来，Attouch等[9]-[12]构造了阻尼惯性梯度系统来解决Hilbert空间上的无约束优化问题$\min \Phi \left(x\right)$ 。Attouch等[9]中的阻尼惯性梯度系统包含时间尺度系数$\beta \left(t\right)$ 和阻尼系数$\gamma \left(t\right)$ 如下

$\ddot{x}\left(t\right)+\gamma \left(t\right)\dot{x}\left(t\right)+\beta \left(t\right)\nabla \Phi \left(x\left(t\right)\right)=0,$

其中，$\nabla \Phi$ 表示为Hilbert空间上$\Phi$ 的梯度，$\gamma \left(t\right)$ 和$\beta \left(t\right)$ 在$\left[t_0,+\infty \right)$ 上是非负连续函数。Attouch等[9]在仅涉及$\beta \left(t\right)$ 和$\gamma \left(t\right)$ 的条件下，得到了$\Phi \left(x\left(t\right)\right)-\min \Phi$ 的值的收敛率。在这一通用框架中，快速收敛性质与$\gamma \left(t\right)\to 0$ 的渐近消失性质以及$\beta \left(t\right)\to +\infty$ 的时间尺度特性密切相关。证明了由此得到的收敛率的最优性，并研究了系统受到外部扰动时的稳定性。

本文将运用带扰动项的阻尼惯性梯度系统来求解约束集合为(1.2)的二阶锥约束变分不等式问题(1.1)。为此，需要对二阶锥约束变分不等式问题进行优化问题$\min \Phi \left(x\right)$ 的转化，然后建立带扰动项的阻尼惯性梯度系统。受到Attouch等[9]-[12]的研究方法的启示，将运用该系统研究得到转化后的优化问题的$\Phi \left(x\left(t\right)\right)-\min \Phi$ 的值的收敛率。从而得到原始的二阶锥约束变分不等式问题(1.1)的解的收敛性。

2. 预备知识

2.1. 投影算子与投影定理

设集合C是一个凸闭集合，对于任意$x\in R^n$ ，都存在唯一的$\overline{x}\in C$ ，使得

$\Vert x-\overline{x}\Vert =\min \left\{\Vert x-y\Vert ,y\in C\right\}$ ,

则称$\overline{x}$ 为点$x$ 在集合C上的投影点，记作$\overline{x}={\Pi }_C\left(x\right)$ ，${\Pi }_C:R^n\to C$ 是定义好的映射，称之为投影算子。对任意$x,y\in R^n$ ，有$\Vert {\Pi }_C\left(y\right)-{\Pi }_C\left(x\right)\Vert <\Vert y-x\Vert$ 成立。

引理2.1 [13]：设$H$ 为Hilbert空间，集合$C\subset H$ 为一闭凸集，对任意的$z\in H$ ，则存在$u\in C$ 满足

$\langle u-z,v-u\rangle \ge 0,\forall v\in C,$

当且仅当$u-{\Pi }_C\left(z\right)=0$ 。

2.2. 二阶锥的定义及相关性质

定义2.1 [14]：若${\mathcal{K}}^n\subset {\Re }^n\left(n\ge 1\right)$ 满足

${\mathcal{K}}^n=\left\{\left(x_1,x_2\right)|x_1\in \Re ,x_2\in {\Re }^{n-1}且x_1\ge \Vert x_2\Vert \right\}$ ，

则称${\mathcal{K}}^n$ 为$n$ 维的二阶锥，又称冰激凌锥。$\Vert \cdot \Vert$ 表示为$l_2$ 范数。当$n=1$ 时，${\mathcal{K}}^n$ 退化为非负实数集${\Re }_{+}$ 。

定义2.2 [14]：对任意$x=\left(x_1;x_2\right),y=\left(y_1;y_2\right)\in \Re \times {\Re }^{n-1}$ ，定义Jordan积运算为

$x\circ y=\left(x^{\text{T}}y;y_1{x}_2+x_1{y}_2\right),$

表示为$x^2=x\circ x$ ，$\left|x\right|=\sqrt{x^2}$ 。且对任意$x\in {\mathcal{K}}^n$ ，$\sqrt{x}$ 是${\mathcal{K}}^n$ 中唯一满足$x=\sqrt{x}\circ \sqrt{x}$ 的向量。

定义2.3 [14]：相似于矩阵的谱分解，对任意向量$x=\left(x_1,x_2\right)\in \Re \times {\Re }^{m-1}$ ，其谱分解为

$x={\rho }_1\left(x\right)u_1\left(x\right)+{\rho }_2\left(x\right)u_2\left(x\right)$ (2.1)

其中${\rho }_1\left(x\right)$ ，${\rho }_2\left(x\right)$ 表示为向量$x$ 的特征值，且

${\rho }_i\left(x\right)=x_1+{\left(-1\right)}^i\Vert x_2\Vert ,$

$u_1\left(x\right)$ ，$u_2\left(x\right)$ 表示为向量$x$ 的特征向量，表示为

$u_i\left(x\right)=\{\begin{array}{l}\frac{1}{2}\left(1,{\left(-1\right)}^i\frac{x_2}{\Vert x_2\Vert }\right),当x_2\ne 0时,\\ \frac{1}{2}\left(1,{\left(-1\right)}^i\omega \right),当x_2=0时,\end{array}$

其中$\omega$ 是${\Re }^{m-1}$ 上的单位向量。显然，若$x_2\ne 0$ 时，向量$x$ 的谱分解是唯一的。

引理2.2 [14]：对于任意向量$x=\left(x_1,x_2\right)\in \Re \times {\Re }^{m-1}$ ，${\Pi }_{{\mathcal{K}}^{m_i}}\left(x\right)$ 表示为$x$ 到二阶锥${\mathcal{K}}^{m_i}$ 上的投影

${\Pi }_{{\mathcal{K}}^{m_i}}\left(x\right)={\Pi }_{{\mathcal{K}}^{m_i}}\left({\rho }_1\left(x\right)\right)u_1\left(x\right)+{\Pi }_{{\mathcal{K}}^{m_i}}\left({\rho }_2\left(x\right)\right)u_2\left(x\right)$ ，其中

$\begin{array}{l}{\Pi }_{{\mathcal{K}}^{m_i}}\left({\rho }_1\left(x\right)\right)=\max \left\{0,{\rho }_1\left(x\right)\right\},\\ {\Pi }_{{\mathcal{K}}^{m_i}}\left({\rho }_2\left(x\right)\right)=\max \left\{0,{\rho }_2\left(x\right)\right\}.\end{array}$

2.3. 光滑化二阶锥互补函数

定义2.4 [14]：假设映射$\phi :{\Re }^n\times {\Re }^n\to {\Re }^n$ 满足

$\phi \left(x,y\right)=0\iff x\in \mathcal{K},y\in \mathcal{K},x^{\text{T}}y=0,$ (2.2)

则称映射$\phi$ 为二阶锥上的互补函数。

定义2.5 [14]：二阶锥互补函数中的自然残差函数(NR函数)如下

${\phi }_{NR}\left(x,y\right)=x-{\Pi }_{{\mathcal{K}}^m}\left(x-y\right)$ ，$\forall x,y\in {\Re }^m$ (2.3)

其中${\Pi }_{{\mathcal{K}}^m}\left(x-y\right)$ 是$x-y$ 在${\mathcal{K}}^m$ 上的投影算子。由定义2.4，对任意$x,y\in {\mathcal{K}}^m$ ，有${\phi }_{NR}\left(x,y\right)=0$ 当且仅当$\langle x,y\rangle =0$ 。由定义2.3和引理2.2，对式(2.5)中的${\Pi }_{{\mathcal{K}}^m}\left(x-y\right)$ 可表示为

${\Pi }_{{\mathcal{K}}^m}\left(x-y\right)=\max \left\{0,{\rho }_1\left(x-y\right)\right\}{u}_1\left(x-y\right)+\max \left\{0,{\rho }_2\left(x-y\right)\right\}{u}_2\left(x-y\right),$

函数${\phi }_{NR}\left(x,y\right)$ 同样为半光滑函数。

对此，通过光滑化投影算子${\Pi }_{{\mathcal{K}}^m}\left(x-y\right)$ ，引入光滑化映射$\varphi :{\Re }_{+}\times {\Re }^m\to {\Re }^m$ ，对NR函数进行光滑化，

即对任意$\left(\epsilon ,c\right)\in {\Re }_{+}\times {\Re }^m$ ，定义光滑化映射$\varphi$ 为

$\varphi \left(\epsilon ,c\right)=\frac{1}{2}\left(c+\sqrt{{\epsilon }^{2}e+c^2}\right),$ (2.4)

则由投影算子${\Pi }_{{\mathcal{K}}^m}\left(x\right)$ 的定义可见，$\varphi \left(0,c\right)={\Pi }_{{\mathcal{K}}^m}\left(c\right)$ 。此外，当满足${\left({\epsilon }^{2}e+c^2\right)}_0\ne \Vert {\epsilon }^{2}e+c^2\Vert$ 时，$\varphi$ 在

$\left(\epsilon ,c\right)\in {\Re }_{+}\times {\Re }^m$ 上是连续可微的。则光滑化后的NR函数表示为

${\phi }_{NR}^{\epsilon }\left(x,y\right)=x-\varphi \left(\epsilon ,x-y\right).$ (2.5)

具体表示为

${\phi }_{NR}^{\epsilon }(x,y)=x-\frac{1}{2}\left(x-y+\sqrt{{\epsilon }^{2}e+{\left(x-y\right)}^2}\right),$

其中$e=\left(1,0,\cdots ,0\right)\in {\Re }^m$ 。

2.4. 二阶锥约束变分不等式的无约束优化问题的转化

二阶锥约束变分不等式问题(1.1)的KKT条件如下

$\{\begin{array}{l}L\left(x,\mu ,\lambda \right)=0,\\ 0\preccurlyeq \lambda \perp g\left(x\right)\preccurlyeq 0,\end{array}$ (2.6)

其中

$L\left(x,\lambda \right)=F\left(x\right)+Jg{\left(x\right)}^{\text{T}}\lambda ,$

$L\left(x,\lambda \right)$ 为变分不等式的拉格朗日函数。对于$g\left(x\right)\perp \lambda$ ，其等价于

$-g_i\left(x\right)\perp {\lambda }_i,-g_i\left(x\right)\in {\mathcal{K}}^{m_i},{\lambda }_i\in {\mathcal{K}}^{m_i},i=1,\cdots ,p.$

对此，运用光滑化的$NR$ 函数(2.5)，将$g\left(x\right)\perp \lambda$ 表示为

${\phi }_{NR}^{\epsilon }\left(-g_i\left(x\right),{\lambda }_i\right)=0.$

对于$z=\left(\epsilon ,x,\lambda \right)\in R^{1+n+m}$ ，定义如下的光滑化函数

$S\left(z\right)=S\left(\epsilon ,x,\lambda \right)=\left\{\begin{array}{c}\epsilon \\ L\left(x,\lambda \right)\\ {\phi }_{NR}^{\epsilon }\left(-g\left(x\right),\lambda \right)\end{array}\right\},$ (2.7)

其中

${\phi }_{NR}^{\epsilon }\left(-g\left(x\right),\lambda \right)=\left\{\begin{array}{c}{\phi }_{NR}^{\epsilon }\left(-g_1\left(x\right),{\lambda }_1\right)\\ {\phi }_{NR}^{\epsilon }\left(-g_2\left(x\right),{\lambda }_2\right)\\ ⋮\\ {\phi }_{NR}^{\epsilon }\left(-g_m\left(x\right),{\lambda }_m\right)\end{array}\right\}.$ (2.8)

则求解变分不等式问题(1.1)的KKT条件的解转化为求解光滑化方程组

$S\left(z\right)=S\left(\epsilon ,x,\lambda \right)=\left\{\begin{array}{c}\epsilon \\ L\left(x,\lambda \right)\\ {\phi }_{NR}^{\epsilon }\left(-g\left(x\right),\lambda \right)\end{array}\right\}=0.$ (2.9)

接下来，引入效益函数$\Phi \left(z\right)=\frac{1}{2}{\Vert S\left(z\right)\Vert }^2$ ，则解决光滑化方程组(2.9)等价于求解下面的无约束优化问题

$\min \Phi \left(z\right)=\min \frac{1}{2}{\Vert S\left(z\right)\Vert }^2.$ (2.10)

而且容易知道，若效益函数$z_0=\left({\epsilon }_0,x_0,{\lambda }_0\right)$ 是(2.10)的解，则$\left(x_0,{\lambda }_0\right)$ 就是具有不等式约束条件的变分不等式问题(1.1)的KKT点。

3. 带扰动项的阻尼惯性梯度系统的稳定性分析

本章将建立带扰动项的阻尼惯性梯度系统来求解无约束优化问题(2.10)，从而实现对二阶锥约束变分不等式问题(1.1)的KKT点的求解。

3.1. 带扰动项的阻尼惯性梯度系统的建立

问题(2.10)的带扰动项的阻尼惯性梯度系统如下

$\left(\begin{array}{c}\ddot{\epsilon }\left(t\right)\\ \ddot{x}\left(t\right)\\ \ddot{\lambda }\left(t\right)\end{array}\right)+\gamma \left(t\right)\left(\begin{array}{c}\ddot{\epsilon }\left(t\right)\\ \ddot{x}\left(t\right)\\ \ddot{\lambda }\left(t\right)\end{array}\right)+\beta \left(t\right)\left(\begin{array}{c}{\nabla }_{\epsilon }S{\left(z\right)}^{\text{T}}S\left(z\right)\\ {\nabla }_{x}S{\left(z\right)}^{\text{T}}S\left(z\right)\\ {\nabla }_{\lambda }S{\left(z\right)}^{\text{T}}S\left(z\right)\end{array}\right)=g\left(t\right),$ (3.1)

其中，$\gamma \left(t\right)$ 表示为阻尼惯性参数，$\beta \left(t\right)$ 为时间尺度参数，且$\gamma ,\beta$ 在$\left[t_0,+\infty \right)$ 上是非负连续函数。$g\left(t\right)$ 可

以是对系统的外部作用、扰动或控制项，统称为系统的扰动项。$\left(\begin{array}{c}{\nabla }_{\epsilon }S{\left(z\right)}^{\text{T}}S\left(z\right)\\ {\nabla }_{x}S{\left(z\right)}^{\text{T}}S\left(z\right)\\ {\nabla }_{\lambda }S{\left(z\right)}^{\text{T}}S\left(z\right)\end{array}\right)$ 是无约束优化问题(2.10)

中$\Phi \left(z\right)$ 有关$z=\left(\epsilon ,x,\lambda \right)$ 计算所得到的梯度$\nabla \Phi \left(z\right)$ 。假设该系统的解是一定存在的，显然系统对应的平衡点$z^{*}=\left({\epsilon }^{*},x^{*},{\lambda }^{*}\right)$ 是无约束优化问题(2.10)的解。

当扰动项$g\left(t\right)=0$ 时，带扰动项的阻尼惯性梯度系统(3.1)变化如下

$\left(\begin{array}{c}\ddot{\epsilon }\left(t\right)\\ \ddot{x}\left(t\right)\\ \ddot{\lambda }\left(t\right)\end{array}\right)+\gamma \left(t\right)\left(\begin{array}{c}\ddot{\epsilon }\left(t\right)\\ \ddot{x}\left(t\right)\\ \ddot{\lambda }\left(t\right)\end{array}\right)+\beta \left(t\right)\left(\begin{array}{c}{\nabla }_{\epsilon }S{\left(z\right)}^{\text{T}}S\left(z\right)\\ {\nabla }_{x}S{\left(z\right)}^{\text{T}}S\left(z\right)\\ {\nabla }_{\lambda }S{\left(z\right)}^{\text{T}}S\left(z\right)\end{array}\right)=0,$ (3.2)

称之为阻尼惯性梯度系统。

3.2. 带扰动项的阻尼惯性梯度系统的稳定性分析

在初始情形$\Phi \left(\epsilon ,x,\mu ,\lambda \right)=0$ 的情况下，对阻尼惯性梯度系统(3.2)直接积分，可以得到

$p\left(t\right)={\text{e}}^{{\displaystyle {\int }_{t_0}^t\gamma \left(u\right)\text{d}u}}.$

假设其满足$H_0$ 条件

${\displaystyle {\int }_{t_0}^{+\infty }\frac{\text{d}u}{p\left(u\right)}}<+\infty .$

在$H_0$ 条件下，定义函数$\Gamma :\left[t_0,+\infty \right)\to R$ 如下

$\Gamma \left(t\right)=p\left(t\right){\displaystyle {\int }_t^{+\infty }\frac{\text{d}u}{p\left(u\right)}}.$ (3.3)

通过对式(3.3)进行求导，可以得到

$\dot{\Gamma }\left(t\right)=\gamma \left(t\right)\Gamma \left(t\right)-1.$ (3.4)

定义全局能量函数

$W\left(t\right)=\frac{1}{2}{\Vert \begin{array}{c}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\Vert }^2+\beta \left(t\right)\left(\Phi \left(\epsilon \left(t\right),x\left(t\right),\lambda \left(t\right)\right)-\min \Phi \right).$ (3.5)

以及锚函数$h\left(t\right)$

$h\left(t\right)=\frac{1}{2}{\Vert \left(\begin{array}{c}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{c}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)\Vert }^2,$ (3.6)

其中，$\left(\begin{array}{c}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)\in \arg \min \Phi$ ，解集$\arg \min \Phi$ 非空。

定义能量函数$\xi :\left[t_0,+\infty \right)\to R^{+}$

$\xi \left(t\right)=\Gamma {\left(t\right)}^{2}W\left(t\right)+h\left(t\right)+\Gamma \left(t\right)h\left(t\right).$ (3.7)

结合(3.5)和(3.6)，可以得到

$\xi \left(t\right)=\Gamma {\left(t\right)}^2\beta \left(t\right)\left(\Phi \left(\epsilon \left(t\right),x\left(t\right),\lambda \left(t\right)\right)-\min \Phi \right)+\frac{1}{2}{\Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)+\Gamma \left(t\right)\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\Vert }^2.$ (3.8)

定理3.1：时间尺度参数$\beta \left(t\right)$ 是一个连续非负函数，阻尼惯性参数$\gamma \left(t\right)$ 是一个满足假设条件$H_0$ 的连续函数且二者满足$H_{\gamma ,\beta }$ 增长条件如下

$\Gamma \left(t\right)\beta \left(t\right)\le \beta \left(t\right)\left(3-2y\left(t\right)\Gamma \left(t\right)\right).$

此外，扰动项$g:\left[t_0,+\infty \right)$ 是局部可积的并满足$H_g$ 条件

${\displaystyle {\int }_{t_0}^{+\infty }\Gamma \left(t\right)\Vert g\left(t\right)\Vert \text{d}t}<+\infty .$

则当$t\to +\infty$ 时，带扰动项的阻尼惯性梯度系统(3.1)的解的轨迹$z=\left(\epsilon ,x,\lambda \right)\in R\times R^n\times R^m$ 在$\left[t_0,+\infty \right)$ 上对应的函数值的收敛速度满足

$\Phi \left(\epsilon \left(t\right),x\left(t\right),\lambda \left(t\right)\right)-\min \Phi =\text{O}\left(\frac{1}{\beta \left(t\right)\Gamma {\left(t\right)}^2}\right),$

而且解的轨迹$z=\left(\epsilon ,x,\lambda \right)$ 在$\left[t_0,+\infty \right)$ 上是有界的。

证明：为方便计算，本定理证明过程中仍记$m=\min \Phi$ 。首先，根据公式(3.7)，对能量函数$\xi \left(t\right)$ 进行求导，由带扰动项的阻尼惯性梯度系统(3.1)及(3.4)式可以得到

由Cauchy-Schwarz不等式以及函数$\Phi$ 的凸性，上式可得

$\begin{array}{l}\dot{\xi }\left(t\right)\le \left(2\Gamma \left(t\right)\dot{\Gamma }\left(t\right)\beta \left(t\right)+\Gamma {\left(t\right)}^2\dot{\beta }\left(t\right)-\beta \left(t\right)\Gamma \left(t\right)\right)\left(\Phi \left(\epsilon \left(t\right),x\left(t\right),\lambda \left(t\right)\right)-m\right)\\ +\Gamma \left(t\right)\Vert g\left(t\right)\Vert \cdot \Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)+\Gamma \left(t\right)\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\Vert ,\end{array}$ (3.9)

根据$H_{\gamma ,\beta }$ 增长条件、(3.4)式和能量函数$\xi \left(t\right)$ 的定义(3.7)式对(3.8)继续计算得

$\dot{\xi }\left(t\right)\le \Gamma \left(t\right)\Vert g\left(t\right)\Vert \cdot \Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)+\Gamma \left(t\right)\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\Vert \le \sqrt{2}\Gamma \left(t\right)\Vert g\left(t\right)\Vert \sqrt{\xi \left(t\right)}.$

通过对上述不等式进行积分，并应用条件$H_g$ ，可以得到下述不等式关系

$\sqrt{\xi \left(t\right)}\le \sqrt{\xi \left(t_0\right)}+\frac{1}{\sqrt{2}}{\displaystyle {\int }_{t_0}^{+\infty }\Gamma \left(s\right)\Vert g\left(s\right)\Vert \text{d}s}=Cte<+\infty .$ (3.10)

显然，从上述不等式(3.10)可以得到能量函数$\xi \left(t\right)$ 是有界的，即设$\xi \left(t\right)\le B$ 。根据$\xi \left(t\right)$ 的定义(3.8)，对于任意的$t\ge t_0$ ，都有

$\Phi \left(\epsilon \left(t\right),x\left(t\right),\lambda \left(t\right)\right)-\min \Phi \le \frac{B}{\beta \left(t\right)\Gamma {\left(t\right)}^2},$

即$\Phi \left(\epsilon \left(t\right),x\left(t\right),\lambda \left(t\right)\right)-\min \Phi ={\rm O}\left(\frac{1}{\beta \left(t\right)\Gamma {\left(t\right)}^2}\right)$ 。

由$\xi \left(t\right)$ 的定义(3.8)，又因为$\xi \left(t\right)$ 是有界的，可以得到$\xi \left(t\right)$ 表达式中的${\Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)+\Gamma \left(t\right)\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\Vert }^2$ 也是有界的，设${\Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)+\Gamma \left(t\right)\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\Vert }^2\le C$ 。对其展开计算有

${\Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)\Vert }^2+2\Gamma \left(t\right)\langle \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right),\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\rangle +\Gamma {\left(t\right)}^2{\Vert \left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\Vert }^2\le C,$

则显然下式必成立

${\Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)\Vert }^2+2\Gamma \left(t\right)\langle \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right),\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\rangle \le C,$ (3.11)

同时，结合锚函数$h\left(t\right)$ 的定义(3.6)及其一阶导数结果

$\dot{h}\left(t\right)=\langle \left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right),\left(\begin{array}{l}\epsilon \left(t\right)-{\epsilon }^{*}\\ x\left(t\right)-x^{*}\\ \lambda \left(t\right)-{\lambda }^{*}\end{array}\right)\rangle ,$

不等式(3.11)可表示为

$h\left(t\right)+\Gamma \left(t\right)\dot{h}\left(t\right)\le \frac{1}{2}C.$

由于锚函数$h\left(t\right)$ 的定义(3.6)、函数$H_g$ 的定义(3.3)式及$H_0$ 条件，对上述不等式进行积分可以得到带

扰动项的阻尼惯性梯度系统(3.1)的解轨迹是有界的。结合${\Vert \left(\begin{array}{l}\epsilon \left(t\right)\\ x\left(t\right)\\ \lambda \left(t\right)\end{array}\right)-\left(\begin{array}{l}{\epsilon }^{*}\\ x^{*}\\ {\lambda }^{*}\end{array}\right)+\Gamma \left(t\right)\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)\Vert }^2$ 的有界性，则可以推断出$\Gamma \left(t\right)\left(\begin{array}{l}\dot{\epsilon }\left(t\right)\\ \dot{x}\left(t\right)\\ \dot{\lambda }\left(t\right)\end{array}\right)$ 在$\left[t_0,+\infty \right)$ 也是有界的，从而定理4.1得证。

4. 数值实验

Sun等[4]中建立了如下的一阶微分方程系统求解一类互补问题

$\{\begin{array}{l}\frac{\text{d}z\left(t\right)}{\text{d}t}=-\rho \nabla \Phi \left(z\left(t\right)\right),\hfill \\ z\left(t_0\right)=z_0,\hfill \end{array}$ (4.1)

其中，$\rho >0$ 是该模型中的缩放因子。现将该一阶微分方程系统与本文的带有扰动项的阻尼惯性梯度系统进行理论条件的对比。具体如表1。

下面将用带扰动项的阻尼惯性梯度系统(3.1)来求解二阶锥约束变分不等式。通过数值算例，对比带扰动项的二阶微分方程系统(3.1)和一阶微分方程系统(4.1)的数值计算结果。

例 4.1：考虑下面的二阶锥约束变分不等式问题

$\langle F\left(x^{*}\right),y-x^{*}\rangle \ge 0,\forall y\in C$

其中

Table 1. Comparison of theoretical conditions

表1. 理论条件对比

理论条件	一阶微分方程系统(4.1)	带扰动项的阻尼惯性梯度系统(3.1)
解集$\arg \min \Phi$ 非空	√	√
$\gamma \left(t\right)$ ，$\beta \left(t\right)$ 满足假设条件$H_{\gamma ,\beta }$		√
$\nabla S\left(z\right)$ 的非奇异性	√
$JF\left(x^{*}\right)$ 为半正定的	√
$\arg \min \Phi$ 是紧集	√
$g\left(t\right)$ 满足假设条件$H_g$		√

$C=\left\{x\in {\Re }^8|-g\left(x\right)=x\in {\mathcal{K}}^3\times {\mathcal{K}}^3\times {\mathcal{K}}^2\right\}$ ,

且

$F\left(x\right)=\left(\begin{array}{c}2x_1+x_2+1\\ x_1+6x_2-x_3-2\\ -x_2+3x_3-\frac{6}{5}{x}_4+3\\ -\frac{6}{5}{x}_3+2x_4+\frac{1}{2}\sin x_4\cos x_5\sin x_6+6\\ \frac{1}{2}\cos x_4\sin x_5\sin x_6+2x_5-\frac{5}{2}\\ -\frac{1}{2}\cos x_4\cos x_5\cos x_6+2x_6+\frac{1}{4}\cos x_6\sin x_7\cos x_8+1\\ \frac{1}{4}\sin x_6\cos x_7\cos x_8+4x_7-2\\ -\frac{1}{4}\sin x_6\sin x_7\sin x_8+2x_8+\frac{1}{2}\end{array}\right).$

该问题的最优解为$x^{*}=\left(0,0.3333,0,0,1.2500,0,0.5000,0\right)$ 。

表2给出了解决例4.1的一阶微分方程系统(4.1)和带扰动项的阻尼惯性梯度系统(3.1)的到达平衡点所需的CPU时间(s)和数值计算对比结果。

Table 2. Comparison of numerical results for example 4.1

表2. 例4.1的数值结果比较

	一阶微分方程系统(4.1)	带扰动项的阻尼惯性梯度系统(3.1)
CPU时间(s)	0.0546689	3.1426901
$x^{*}$ 的数值计算结果	$\left(\begin{array}{l}1.8632\text{e}-06,\hfill \\ 0.3333,\hfill \\ -2.0523\text{e}-05,\hfill \\ -1.4978\text{e}-05,\hfill \\ 1.2500,\hfill \\ 4.2413\text{e}-11,\hfill \\ 0.5000,\hfill \\ -3.7412\text{e}-13\hfill \end{array}\right)$	$\left(\begin{array}{l}1.8920\text{e}-04,\hfill \\ 0.3333,\hfill \\ 5.0834\text{e}-04,\hfill \\ 3.8901\text{e}-04,\hfill \\ 1.2500,\hfill \\ 5.2908\text{e}-04,\hfill \\ 0.5000,\hfill \\ 7.9087\text{e}-04\hfill \end{array}\right)$

5. 小结

运用Attouch等学者的阻尼惯性梯度系统求解优化问题的思想，本文研究了二阶锥约束的变分不等式(1.1)的KKT解的收敛性问题。首先运用光滑化的自然残差函数建立了二阶锥约束的变分不等式问题(1.1)的KKT条件的光滑化方程，并建立了无约束优化问题。建立了带扰动项的阻尼惯性梯度系统，并研究了该系统的稳定性定理，从而得到了二阶锥约束变分不等式问题(1.1)的KKT点的收敛性。并与已有的一阶微分方程系统进行了理论条件和数值结果的对比，在理论条件上，带有扰动项的阻尼惯性系统更容易实现。但是在数值计算上，一阶微分方程系统要更快一些，但是其差值不是特别大，可忽略不计。

项目支持

沈阳航空航天大学2025年大学生创新创业项目，编号D202410291440128891。