一类用于一般线性椭圆最优控制问题的共轭梯度算法

A Conjugate Gradient Algorithm for General Linear Elliptic Optimal Control Problems

摘要: 本文针对一类一般线性椭圆最优控制问题，应用了一种带有强Wolfe-Powell准则的共轭梯度算法对其进行求解，并从理论上分析了带有强Wolfe-Powell准则的共轭梯度算法的可行性以及全局收敛性。最后，我们做了相应的数值实验去验证算法的有效性。

Abstract: In this paper, we investigate a class of general linear elliptic optimal control problems. The conjugate gradient method with strong Wolfe-Powell criterion is used to solve this research problem. The feasibility and global convergence of conjugate gradient method with strong Wolfe-Powell criterion is theoretically proved. Finally, we do the corresponding numerical experiments to verify the feasibility of algorithm.

1. 引言

近年来，偏微分方程约束的最优控制问题在实际问题中得到了广泛的应用。例如：在生物医学领域，文献[1]研究了一个带有交叉扩散算子的耦合非线性抛物型最优控制问题，该问题描述了肿瘤细胞的密度、效应免疫细胞、循环淋巴细胞群和化疗药物浓度，以求达到控制药物的注射量并避免药物的副作用。在公共交通领域，文献[2]描述了多个高速列车运行的分布式控制，该模型克服了通信约束，实现了有效的速度控制。在生物研究领域，文献[3]用分布式最优控制问题描述生物模式中新的机械化学模型。在化学研究领域，文献[4]探究邻苯二甲酸酐的最大合成产率，建立了一个带有终端约束和控制变量约束的最优控制问题，并提出了一种基于罚函数方法和遗传算法的数值方法用于求解，最后得到了“最优反应温度”及“最佳反应物浓度”。

在本文中，我们主要关注以下的一般线性椭圆最优控制问题：

$\underset{u}{\min }J\left(u\right)=\frac{1}{2}{\Vert y-y_d\Vert }_{L^2\left(\Omega \right)}^2+\frac{1}{2}{\Vert u\Vert }_{L^2\left(\Omega \right)}^2$ (1)

$\text{s}\text{.t}\text{.}\{\begin{array}{ll}Ly+c_{0}y=u+f\hfill & \text{in}\Omega ,\hfill \\ y=0\hfill & \text{on}\partial \Omega ,\hfill \end{array}$

其中$y\in Y:=H_0^1\left(\Omega \right)$ ，$u\in U:=L^2\left(\Omega \right)$ ，$\Omega \subseteq R^n \left(n=2,3\right)$ 是一个带有光滑边界$\partial \Omega$ 的开、凸区域，函数$y_d,f$ 均为已知项，$\alpha >0$ 为正则化参数，L为一致性椭圆微分算子并定义为：

$Ly:=-{\displaystyle \sum }_{i,j=1}^n{\left(a_{ij}{y}_{x_i}\right)}_{x_j},$

其中$a_{ij},c_0\in L^{\infty }\left(\Omega \right)$ ，$c_0\ge 0$ ，$a_{ij}=a_{ji}$ 以及存在常数$\theta >0$ ，使得

${\displaystyle \sum }_{i,j=1}^n{a}_{ij}\left(x\right){\epsilon }_i{\epsilon }_j\ge \theta {\Vert \epsilon \Vert }^2,\text{a}\text{.e}x\in \Omega ,\forall \epsilon \in R^n.$

参考文献[5] [6]可知，对于任意的$1\le p<+\infty$ ，状态方程具有唯一解$y_u\in H_0^1\left(\Omega \right)\cap W^{2,p}\left(\Omega \right)$ 。由于$J\left(y,u\right)$ 是一致凸的，所以问题$\left(1\right)$ 具有唯一解。

针对线性椭圆最优控制问题的研究，目前已出现许多成果。如文献[7]，陈和宋等人针对一个带有关于控制变量的“盒子约束”的一般线性椭圆最优控制问题，陈和宋等人先是使用了标准线性有限元方法对问题进行离散，再利用一种改进的多层次交替方向乘子法(mADMM)对离散化后的问题进行数值求解。陈和宋等人证明了提出的多层次交替方向乘子法(mADMM)具有良好的收敛性质以及算法复杂度$o\left(1/k\right)$ 。在文献[8]中，林同样利用有限元离散和一种修改的交替方向乘子法(mADMM)对一类具有混合控制–状态约束的线性椭圆最优控制问题进行研究，林从理论上证明了提出的修改的交替方向乘子法(mADMM)的全局收敛性和收敛速率。文献[9]则是针对一类带有$L^1$ -“控制项”以及关于控制变量的逐点控制约束的线性椭圆最优控制问题，宋和陈等人讨论了多种类型的有限元先验误差估计，同时提出了一种新方案去离散$L^1$ 范数并获得了相应的先验误差估计，误差分析证明了提出的离散方案并不影响误差估计的精度阶。文献[10]则探讨了一种虚单元法并将其应用于一类带有逐点控制约束的线性椭圆最优控制问题，王和周分别推导了关于控制变量、状态变量以及协态变量的先验误差估计和后验误差估计。

针对定义在规则区域上的椭圆偏微分方程，五点中心有限差分方法的误差估计精度阶为$o\left(h^2\right)$ ，具有较高的收敛速度，以及强Wolfe-Powell准则在收敛速度以及稳定性方面都做了相应的改进，具有较快的收敛速度以及较强的数值稳定性。

在本文中，我们主要参考文献[11]以及文献[6]的共轭梯度算法，并将其应用于求解问题(1)，并分析算法的可行性以及全局收敛性。

接下来我将简要介绍在本文中用到的两个算法，即五点中心有限差分方法以及带强Wolfe-Powell准则的共轭梯度算法。

2. 预备知识

首先，我们定义问题(1)的梯度如下：

$\nabla J\left(y,u\right)=\alpha u-p=g\left(u\right),$

其中$\nabla :L^2\left(\Omega \right)\to L^2\left(\Omega \right)$ 是梯度算子，p为

$\{\begin{array}{ll}Lp+c_{0}p+y=y_d\hfill & \text{in}\Omega ,\hfill \\ p=0\hfill & \text{on}\partial \Omega ,\hfill \end{array}$ (2)

的解。y为

$\{\begin{array}{ll}Ly+c_{0}y=u+f\hfill & \text{in}\Omega ,\hfill \\ y=0\hfill & \text{on}\partial \Omega ,\hfill \end{array}$ (3)

的解。为了保证共轭梯度法的顺利运行，我们归纳需数值求解的方程如下：

$\{\begin{array}{ll}L{y}^i+c_0{y}^i=u^i+f\hfill & \text{in}\Omega ,\hfill \\ y^i=0\hfill & \text{on}\partial \Omega ,\hfill \\ L{p}^i+c_0{p}^i+y^i=y_d\hfill & \text{in}\Omega ,\hfill \\ p^i=0\hfill & \text{on}\partial \Omega ,\hfill \end{array}$ (4)

接下来，我们便利用五点中心有限差分方法对问题(4)进行离散，我们只给出有限差分离散的过程和结果，关于有限差分方法的误差估计研究部分，详细可查阅文献[12]。

首先，我们将问题定义在二维情况，即$\Omega =\left(a,b\right)\times \left(c,d\right)\in R^2$ 。其次，我们使用均匀笛卡尔网格对区间Ω进行均匀划分，假设“x轴方向”的划分区间为$N_1$ ，“y轴方向”的划分区间为$N_2$ ，进一步我们可以得到“x轴方向”的步长为$h_1=\left(b-a\right)/N_1$ 以及“y轴方向”的步长为$h_2=\left(d-c\right)/N_2$ 。因此，我们可以得到Ω的网格点集：

${\Omega }_h=\left\{\left(x_1^k,x_2^j\right)=\left(a+k{h}_1,c+j{h}_2\right)|k=0,\cdots ,N_1;j=0,\cdots ,N_2\right\}$

以及${\Omega }_h$ 的边界点集$\partial {\Omega }_h$ ：

$\partial {\Omega }_h=\left\{\left(a,c+j{h}_2\right),\left(b,c+j{h}_2\right),\left(a+k{h}_1,c\right),\left(a+k{h}_1,d\right)|k=0,\cdots ,N_1;j=0,\cdots ,N_2\right\}.$

为了表述的方便，我们定义$u_{k,j}^i$ 、$y_{k,j}^i$ 、$p_{k,j}^i$ 、$f_{k,j}$ 、$y_{dk,j}$ 分别为$u^i\left(x_1^k,x_2^j\right)$ 、$y^i\left(x_1^k,x_2^j\right)$ 、$p^i\left(x_1^k,x_2^j\right)$ 、$f\left(x_1^k,x_2^j\right)$ 、$y_d\left(x_1^k,x_2^j\right)$ 的近似，$u_h$ 、$y_h$ 、$p_h$ 、$f_h$ 、$y_{dh}$ 分别为${\left[u_{k,j}\right]}_{n-1\times n-1}$ 、${\left[y_{k,j}\right]}_{n-1\times n-1}$ 、${\left[p_{k,j}\right]}_{n-1\times n-1}$ 、${\left[f_{k,j}\right]}_{n-1\times n-1}$ 、${\left[y_{dk,j}\right]}_{n-1\times n-1}$ 的近似。进而我们可以得到(4)的五点中心有限差分格式如下：

$\{\begin{array}{ll}{L}_h{y}_h^i+c_0{y}_h^i=u_h^i+f_h\hfill & \text{in}{\Omega }_h,\hfill \\ y_h^i=0\hfill & \text{on}\partial {\Omega }_h\hfill \end{array}$ (5)

$\{\begin{array}{ll}{L}_h{p}_h^i+c_0{p}_h^i+y_h^i=y_{dh}\hfill & \text{in}{\Omega }_h,\hfill \\ p_h^i=0\hfill & \text{on}\partial {\Omega }_h\hfill \end{array}$ (6)

其中$L_h$ 为一致性椭圆微分算子L的离散化形式，$L_h{y}_h=y_h{A}_{h_1}+A_{h_2}{y}_h$ 以及$A_{h_m}=\text{tridiag}\left(a_{mm},-2a_{mm},a_{mm}\right)/h_m^2$ ，$m=1,2$ 。同时，问题(1)的目标泛函的离散化格式也表述如下：

$J_h\left(u_h\right)=\frac{1}{2}{\Vert y_h^i-y_{dh}\Vert }_{L_h^2\left({\Omega }_h\right)}^2+\frac{\alpha }{2}{\Vert u_h^i\Vert }_{L_h^2\left({\Omega }_h\right)}^2,$

其中${\Vert \cdot \Vert }_{L_h^2\left({\Omega }_h\right)}$ 为定义在${\Omega }_h$ 上的离散$L^2$ 范数，并满足：对任意$N+1$ 阶矩阵$w_h$ ，都有

${\Vert w_h\Vert }_{L_h^2\left({\Omega }_h\right)}^2={\left(w_h,w_h\right)}_{L_h^2\left({\Omega }_h\right)}=\frac{h_1{h}_2}{4}l{l}^{\text{T}}\left(w_h\cdot w_h\right),$

其中$l={\left[1,2,2,\cdots ,2,1\right]}^{\text{T}}$ 是$N+1$ 维向量，$\left(w_h\cdot w_h\right)=\left[w_h\left(i,j\right)\times w_h\left(i,j\right)\right]$ 。

接下来，我们进一步阐述用于求解问题(5)~(6)的共轭梯度算法。

首先，我们定义在数值迭代求解过程中，对于所有正整数$i\ge 0$ ，共轭梯度更新公式如下：

$d_h^i=-g_h^i+{\beta }^i{d}_h^{i-1},$ (7)

其中$g_h^i$ 是梯度$g\left(u_h^i\right)$ 的缩写，调整系数${\beta }^i$ 满足

$\{\begin{array}{l}{\beta }^0=0,\\ {\beta }^i=\frac{\Vert g_h^i\Vert }{\Vert g_h^{i-1}\Vert },i=1,2,\cdots \end{array}$ (8)

进而我们定义控制变量更新公式如下：

$u_h^i=u_h^{i-1}+{\tau }^i{d}_h^{i-1}.$

其中参数${\tau }^i$ 满足强Wolfe-Powell准则：

$\{\begin{array}{l}{J}_h\left(u_h^i+{\tau }^i{d}_h^i\right)\le J_h\left(u_h^i\right)+\rho {\tau }^i\left(g_h^i,d_h^i\right),\\ \left|\left(g_h^{i+1},d_h^i\right)\right|\le -\sigma \left(g_h^i,d_h^i\right)\end{array}$ (9)

以及$0<\rho <\sigma <0.5$ 。梯度更新公式定义如下：

$g_h^{i+1}=g_h^i+{\tau }^i{\tilde{g}}_h^i,$ (10)

其中

${\tilde{g}}_h^i=\alpha d_h^i-p_{1h}^i.$

$p_{1h}^i$ 是

$\{\begin{array}{ll}{L}_h{p}_{1h}^i+c_0{p}_{1h}^i=-y_{1h}^i\hfill & \text{in}{\Omega }_h,\hfill \\ p_{1h}^i=0\hfill & \text{on}\partial {\Omega }_h\hfill \end{array}$ (11)

的解。$y_{1h}^i$ 为

$\{\begin{array}{ll}{L}_h{y}_{1h}^i+c_0{y}_{1h}^i=d_h^i\hfill & \text{in}{\Omega }_h,\hfill \\ y_{1h}^i=0\hfill & \text{on}\partial {\Omega }_h\hfill \end{array}$

的解。我们进一步构造状态变量和协态变量的更新公式：

$\{\begin{array}{c}{y}_h^i=y_h^{i-1}+{\tau }^{i-1}{y}_{1h}^{i-1},\\ p_h^i=p_h^{i-1}+{\tau }^{i-1}{p}_{1h}^{i-1}.\end{array}$

综合以上信息，我们给出结合了强Wolfe-Powell准则的共轭梯度算法的流程：

输入：剖分区间数$N_1,N_2$ ，控制变量初始估计$u_h^0$ ，误差精度$\epsilon$ 。

输出：控制变量数值解$u_h^i$ ，状态变量数值解$y_h^i$ 。

步骤一：令$i=0$ ，对

$\{\begin{array}{l}{L}_h{y}_h^i+c_0{y}_h^i=u_h^i+f_h,\\ y_h^i=0,\\ L_h{p}_h^i+c_0{p}_h^i+y_h^i=y_{dh},\\ p_h^i=0,\end{array}$

进行数值求解，进而得到数值解$y_h^i$ 和$p_h^i$ 。

步骤二：计算梯度

$g_h^i=\alpha u_h^i-p_h^i$

以及共轭梯度

$\{\begin{array}{ll}{d}_h^0=-g_h^0\hfill & i=0,\hfill \\ d_h^i=-g_h^i+{\beta }^i{d}_h^{i-1}\hfill & i\ge 1.\hfill \end{array}$

步骤三：如果${\Vert g_h^i\Vert }_{L_h^2\left({\Omega }_h\right)}\le \epsilon$ ，算法停止迭代，输出数值解。

否则，对

$\{\begin{array}{ll}{L}_h{p}_{1h}^i+c_0{p}_{1h}^i=-y_{1h}^i\hfill & \text{in}{\Omega }_h,\hfill \\ p_{1h}^i=0\hfill & \text{on}\partial {\Omega }_h,\hfill \\ L_h{y}_{1h}^i+c_0{y}_{1h}^i=d^i\hfill & \text{in}{\Omega }_h,\hfill \\ y_{1h}^i=0\hfill & \text{on}\partial {\Omega }_h\hfill \end{array}$

进行数值求解，以得到$p_{1h}^i$ 和$y_{1h}^i$ ，从而我们可以计算${\tilde{g}}_h^i=\alpha d_h^i-p_{1h}^i$ 。同时，根据强Wolfe-Powell准则确定最优迭代步长${\tau }^i$ 。从而进一步更新控制变量和状态变量

$\{\begin{array}{l}{u}_h^{i+1}=u_h^i+{\tau }^i{d}^i,\\ y_h^{i+1}=y_h^i+{\tau }^i{y}_{1h}^i.\end{array}$

令$i=i+1$ ，返回步骤二。

3. 性质分析

接下来我们将讨论带强Wolfe-Powell准则的共轭梯度算法的可行性以及全局收敛性。为了方便，我

们把${\Vert \cdot \Vert }_{L_h^2\left({\text{Ω}}_h\right)}$ 简写为$\Vert \cdot \Vert$ 。首先，我们先讨论带强Wolfe-Powell准则的共轭梯度算法的可行性，即在每一

步迭代中，均存在${\tau }^i$ 满足强Wolfe-Powell准则。在证明强Wolfe-Powell准则在每一步迭代中均成立之前，我们先给出以下引理：

引理3.1：假定共轭梯度$d_h^i$ 由(6)~(7)定义以及${\tau }^i$ 满足强Wolfe-Powell准则(8)，则对于所有$i\ge 0$ ，有

$\frac{1}{\sigma -1}{\Vert g_h^i\Vert }^2\le \left(d_h^i,g_h^i\right)\le \frac{2\sigma -1}{1-\sigma }{\Vert g_h^i\Vert }^2.$

证明：当$i=0$ 时，$d_h^0=-g_h^0$ ，此时$\left(g_h^0,d_h^0\right)=-{\Vert g_h^0\Vert }^2$ 成立，显然

$\frac{1}{\sigma -1}{\Vert g_h^0\Vert }^2\le \left(d_h^0,g_h^0\right)\le \frac{2\sigma -1}{1-\sigma }{\Vert g_h^0\Vert }^2$

成立。

当$i\ge 1$ 时，我们使用归纳法进行证明。

假设当$1\le i\le n$ 时，

$\frac{1}{\sigma -1}{\Vert g_h^i\Vert }^2\le \left(d_h^i,g_h^i\right)\le \frac{2\sigma -1}{1-\sigma }{\Vert g_h^i\Vert }^2$

成立。

当$i=n+1$ 时，根据强Wolfe-Powell准则(8)第二个不等式，我们可以得到

$\begin{array}{c}\left(g_h^{n+1},d_h^{n+1}\right)=\left(g_h^{n+1},-g_h^{n+1}+{\beta }^{n+1}{d}_h^n\right)\\ =-{\Vert g_h^{n+1}\Vert }^2+\frac{{\Vert g_h^{n+1}\Vert }^2}{{\Vert g_h^n\Vert }^2}\left(g_h^{n+1},d_h^n\right)\\ \le -{\Vert g_h^{n+1}\Vert }^2+\frac{{\Vert g_h^{n+1}\Vert }^2}{{\Vert g_h^n\Vert }^2}\cdot \left(-\sigma \right)\left(g_h^n,d_h^n\right).\end{array}$

由于当$1\le i\le n$ 时，$\left(g_h^i,d_h^i\right)\ge \frac{1}{\sigma -1}{\Vert g_h^i\Vert }^2$ 。

因此，

$-{\Vert g_h^{n+1}\Vert }^2+\frac{{\Vert g_h^{n+1}\Vert }^2}{{\Vert g_h^n\Vert }^2}\cdot \left(-\sigma \right)\left(g_h^n,d_h^n\right)\le -{\Vert g_h^{n+1}\Vert }^2+\frac{\sigma }{1-\sigma }{\Vert g_h^{n+1}\Vert }^2=\frac{2\sigma -1}{1-\sigma }{\Vert g_h^{n+1}\Vert }^2.$

综合以上结果，我们可以得到

$\left(g_h^{n+1},d_h^{n+1}\right)\le \frac{2\sigma -1}{1-\sigma }{\Vert g_h^{n+1}\Vert }^2.$

同理可得

$\begin{array}{c}\left(g_h^{n+1},d_h^{n+1}\right)=-{\Vert g_h^{n+1}\Vert }^2+\frac{{\Vert g_h^{n+1}\Vert }^2}{{\Vert g_h^n\Vert }^2}\left(g_h^{n+1},d_h^n\right)\\ \ge -{\Vert g_h^{n+1}\Vert }^2+\frac{{\Vert g_h^{n+1}\Vert }^2}{{\Vert g_h^n\Vert }^2}\cdot \sigma \cdot \left(g_h^n,d_h^n\right)\\ \ge -{\Vert g_h^{n+1}\Vert }^2+\frac{{\Vert g_h^{n+1}\Vert }^2}{{\Vert g_h^n\Vert }^2}\cdot \sigma \cdot \frac{1}{\sigma -1}{\Vert g_h^n\Vert }^2\\ =\frac{1}{\sigma -1}{\Vert g_h^{n+1}\Vert }^2.\end{array}$

故引理得证。 □

定理3.1：对任意$i\ge 0$ ，都存在${\tau }^i$ 满足强Wolfe-Powell准则(8)。

证明：先分析(8)中第二个不等式，将(9)代入(8)中第二个不等式，可以得到

$\left(\sigma -1\right)\left(g_h^i,d_h^i\right)\le {\tau }^i\left({\tilde{g}}_h^i,d_h^i\right)\le -\left(1+\sigma \right)\left(g_h^i,d_h^i\right).$

显然，当

$\left(\sigma -1\right)\frac{\left(g_h^i,d_h^i\right)}{\left({\tilde{g}}_h^i,d_h^i\right)}\le {\tau }^i\le -\left(1+\sigma \right)\frac{\left(g_h^i,d_h^i\right)}{\left({\tilde{g}}_h^i,d_h^i\right)}$

时，$\left|\left(g_h^{i+1},d_h^i\right)\right|\le -\sigma \left(g_h^i,d_h^i\right)$ 成立。

接下来分析(8)中第一个不等式，易知

$\begin{array}{c}{J}_h\left(u_h^{i+1}\right)-J_h\left(u_h^i\right)=\frac{1}{2}{\Vert y_h^{i+1}-y_{dh}\Vert }^2-\frac{\alpha }{2}{\Vert u_h^{i+1}\Vert }^2-\left(\frac{1}{2}{\Vert y_h^i-y_{dh}\Vert }^2-\frac{\alpha }{2}{\Vert u_h^i\Vert }^2\right)\\ =\left(y_h^i-y_{dh},{\tau }^i{y}_{1h}^i\right)+\frac{{\left({\tau }^i\right)}^2}{2}{\Vert y_{1h}^i\Vert }^2+\alpha {\tau }^i\left(u_h^i,d_h^i\right)+\frac{\alpha {\left({\tau }^i\right)}^2}{2}{\Vert d_h^i\Vert }^2.\end{array}$ (12)

根据$\left(\cdot ,\cdot \right)$ 的定义，可以得到

$\left(y_h^i-y_{dh},y_{1h}^i\right)=-\left(L_h{p}_h^i+c_0{p}_h^i,y_{1h}^i\right)=-\left(L_h{y}_{1h}^i+c_0{y}_{1h}^i,p_h^i\right)=-\left(d_h^i,p_h^i\right).$ (13)

同理可以得到

${\Vert y_{1h}^i\Vert }^2=\left(y_{1h}^i,y_{1h}^i\right)=-\left(L_h{p}_{1h}^i+c_0{p}_{1h}^i,y_{1h}^i\right)=-\left(L_h{y}_{1h}^i+c_0{y}_{1h}^i,p_{1h}^i\right)=-\left(d_h^i,p_{1h}^i\right).$ (14)

把(13)、(14)代入到(12)中，以及利用(9)中第一个不等式，得到

$J_h\left(u_h^{i+1}\right)-J_h\left(u_h^i\right)=\frac{{\left({\tau }^i\right)}^2}{2}\left(d_h^i,{\tilde{g}}_h^i\right)+{\tau }^i\left(d_h^i,g_h^i\right)\le \rho {\tau }^i\left(d_h^i,g_h^i\right).$

显然，当

$0\le {\tau }^i\le 2\left(\rho -1\right)\frac{\left(d_h^i,g_h^i\right)}{\left(d_h^i,{\tilde{g}}_h^i\right)}$

时，不等式

$J_h\left(u_h^i+{\tau }^i{d}_h^i\right)\le J_h\left(u_h^i\right)+\rho {\tau }^i\left(g_h^i,d_h^i\right)$

成立。

由于$\sigma -1>2\left(\rho -1\right)$ ，因此，存在

${\tau }^i\in \left[\left(\sigma -1\right)\frac{\left(d_h^i,g_h^i\right)}{\left(d_h^i,{\tilde{g}}_h^i\right)},\min \left\{2\left(\rho -1\right)\frac{\left(d_h^i,g_h^i\right)}{\left(d_h^i,{\tilde{g}}_h^i\right)},-\left(1+\sigma \right)\frac{\left(d_h^i,g_h^i\right)}{\left(d_h^i,{\tilde{g}}_h^i\right)}\right\}\right],$

使得强Wolfe-Powell准则(8)成立。 □

以上我们证明了带强Wolfe-Powell准则的共轭梯度算法的可行性。除了算法的可行性之外，算法的收敛性也是讨论的重点。共轭梯度算法的全局收敛性是其得到广泛应用的一个原因之一，接下来，我们便讨论带强Wolfe-Powell准则的共轭梯度算法的全局收敛性。首先，我们先引入一个引理。

引理3.2：[6]假定$g_h^i$ 、$d_h^i$ 分别由(10)、(7)定义，则$g_h^i$ 、$d_h^i$ 满足：

$\underset{n\to \infty }{\lim }{\displaystyle \sum }_{i=0}^n{\left(w^i\right)}^2{\Vert g_h^i\Vert }^2=0,$

其中

$w^i=-\frac{\left(g_h^i,d_h^i\right)}{{\Vert g_h^i\Vert }^2{\Vert d_h^i\Vert }^2},i=0,1,\cdots .$

定理3.2：带强Wolfe-Powell准则的共轭梯度算法满足：

$\underset{n\to \infty }{\lim }{\inf }_{i\le n}{\Vert g_h^i\Vert }^2=0.$

证明：我们将利用反证法证明以上定理。

不妨设当$i\ge 0$ 时，存在常数${\epsilon }_2>{\epsilon }_1$ ，使得

${\epsilon }_2>{\Vert g_h^i\Vert }^2>{\epsilon }_1.$ (15)

根据$d_h^i$ 、${\beta }^i$ 的定义，可以得到

$\begin{array}{c}{\Vert d_h^{i+1}\Vert }^2=\left(d_h^{i+1},d_h^{i+1}\right)\\ =\left(-g_h^{i+1}+{\beta }^{i+1}{d}_h^i,-g_h^{i+1}+{\beta }^{i+1}{d}_h^i\right)\\ =\left(g_h^{i+1},g_h^{i+1}\right)-2\left({\beta }^{i+1}{d}_h^i,g_h^i\right)+\left({\beta }^{i+1}{d}_h^i,{\beta }^{i+1}{d}_h^i\right)\\ ={\Vert g_h^{i+1}\Vert }^2-2\frac{{\Vert g_h^{i+1}\Vert }^2}{{\Vert g_h^i\Vert }^2}\left(d_h^i,g_h^{i+1}\right)+\frac{{\Vert g_h^{i+1}\Vert }^4}{{\Vert g_h^i\Vert }^4}{\Vert d_h^i\Vert }^2.\end{array}$ (16)

根据强Wolfe-Powell准则(8)中第二个不等式以及引理3.1，(16)满足

${\Vert d_h^{i+1}\Vert }^2\le \left(\frac{1+\sigma }{1-\sigma }\right){\Vert g_h^{i+1}\Vert }^2+\frac{{\Vert g_h^{i+1}\Vert }^4}{{\Vert g_h^i\Vert }^4}{\Vert d_h^i\Vert }^2.$

令

$t^i=\frac{{\Vert d_h^{i+1}\Vert }^2}{{\Vert g_h^{i+1}\Vert }^4}$

以及

$\alpha =\frac{1+\sigma }{\left(1-\sigma \right){\epsilon }_1}.$

进一步根据(15)以及强Wolfe-Powell准则(8)中第二个不等式，可得

$t^i\le \alpha +t^{i-1}\le i\alpha +t^0,$

并满足

${\displaystyle \sum }_{i=0}^n{\left(w^i\right)}^2{\Vert g_h^i\Vert }^2\ge \frac{1}{{\epsilon }_2^3}\cdot \frac{{\left(2\sigma -1\right)}^2}{{\left(1-\sigma \right)}^2}{\displaystyle \sum }_{i=1}^n{\left(t^{i-1}\right)}^2\ge \frac{1}{{\epsilon }_2^3}\frac{{\left(2\sigma -1\right)}^2}{{\left(1-\sigma \right)}^2}{\displaystyle \sum }_{i=1}^n{\left(\frac{1}{i\alpha +t^0}\right)}^2.$

由于

$\underset{n\to \infty }{\lim }\frac{1}{{\epsilon }_2^3}\frac{{\left(2\sigma -1\right)}^2}{{\left(1-\sigma \right)}^2}{\displaystyle \sum }_{i=1}^n{\left(\frac{1}{i\alpha +t^0}\right)}^2>0,$

且

$\underset{n\to \infty }{\lim }{\displaystyle \sum }_{i=0}^n{\left(w^i\right)}^2{\Vert g_h^i\Vert }^2\ge \underset{n\to \infty }{\lim }\frac{1}{{\epsilon }_2^3}\frac{{\left(2\sigma -1\right)}^2}{{\left(1-\sigma \right)}^2}{\displaystyle \sum }_{i=1}^n{\left(\frac{1}{i\alpha +t^0}\right)}^2.$

故

$\underset{n\to \infty }{\lim }{\displaystyle \sum }_{i=0}^n{\left(w^i\right)}^2{\Vert g_h^i\Vert }^2>0.$

这与引理3.2的结果相矛盾，故

$\underset{n\to \infty }{\lim }{\inf }_{i\le n}{\Vert g_h^i\Vert }^2=0.$ □

4. 数值实验

为了验证带强Wolfe-Powell准则的共轭梯度算法的有效性，我们利用以下问题对算法进行验证。

令$\text{Ω}={\left(0,1\right)}^2$ ，$L=\Delta$ 为拉普拉斯算子，$c_0=1$ ，$\alpha =1$ 以及

$f\left(x_1,x_2\right)=\left(1-2{\pi }^2\right)\sin \pi x_1\sin \pi x_2-\sin 2\pi x_1\sin 2\pi x_2,$

$y_d\left(x_1,x_2\right)=\left(1-8{\pi }^2\right)\sin 2\pi x_1\sin 2\pi x_2+\sin \pi x_1\sin \pi x_2.$

以上问题存在精确解$u^{*}\left(x_1,x_2\right)=\sin 2\pi x_1\sin 2\pi x_2$ 。

当剖分区间长度为$N_1=N_2=10$ ，以及“停机精度”$\epsilon ={10}^{-5}$ ，我们得到如下的数值结果。在图1，我们给出了精确解$u^{*}\left(x_1,x_2\right)$ 的图像。在图2，我们给出了带强Wolfe-Powell准则的共轭梯度算法计算的结果。图3则是描述了数值解与精确解之间的误差，从图3可以看出数值解与精确解之间是比较接近的。当剖分区间长度为$N_1=N_2=10$ ，以及“停机精度”$\epsilon ={10}^{-4}$ ，我们将实验结果与文献[11]的实验结果相比较。结果显示：我们的误差精度阶为10⁻⁴，文献[11]的误差精度阶为10⁻¹，显然，我们的算法精度更高。

Figure 1. Exact control

图1. 精确控制

Figure 2. Numerical control

图2. 数值控制

Figure 3. Error

图3. 误差

5. 结语

本文利用有限差分法对一般线性椭圆最优控制问题进行离散化，并提出了带有强Wolfe-Powell准则的共轭梯度算法来求解有限维空间上的优化问题。此外，本文还验证了带有强Wolfe-Powell准则的共轭梯度算法在求解过程中的可行性，以及从理论上分析了带有强Wolfe-Powell准则的共轭梯度算法具有全局收敛性。接下来，我们会进一步研究带有强Wolfe-Powell准则的共轭梯度算法的收敛速度，以及如何提高带有强Wolfe-Powell准则的共轭梯度算法的计算速度。