三阶上三角关系矩阵的本质谱性质

Essential Spectral Properties of Third-Order Upper Triangular Relation Matrices

摘要: 设$H_1,H_2,H_3$ 为无穷维复可分Hilbert空间，对给定关系$A\in ℬℛ\left(H_1\right),B\in ℬℛ\left(H_2\right),C\in ℬℛ\left(H_3\right)$ ，记$M_{D,E,F}=\left(\begin{array}{ccc}A& D& E\\ 0& B& F\\ 0& 0& C\end{array}\right)\in ℬℛ\left(H_1\oplus H_2\oplus H_3\right)$ ，本文讨论了$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 时$M_{D,E,F}$ 的本质谱、Weyl谱和本质近似点谱包含关系成立的条件。

Abstract: Let $H_1,H_2,H_3$ be infinite-dimensional complex separable Hilbert spaces, given the relation $A\in ℬℛ\left(H_1\right),B\in ℬℛ\left(H_2\right),C\in ℬℛ\left(H_3\right)$ , and write $M_{D,E,F}=\left(\begin{array}{ccc}A& D& E\\ 0& B& F\\ 0& 0& C\end{array}\right)\in ℬℛ\left(H_1\oplus H_2\oplus H_3\right)$ . In this paper, a necessary and sufficient condition is given for the essential spectrum, Weyl spectrum, essential approximation point spectrum for $M_{D,E,F}$ with $D\in ℬℛ\left(H_2,H_1\right)$ , $E\in ℬℛ\left(H_3,H_1\right)$ , $F\in ℬℛ\left(H_3,H_2\right)$ .

1. 引言

多值线性算子和单值线性算子统称为线性关系或者乘积空间中的线性子空间，故线性关系可看作线性算子在多值情形下的推广，它是von Neumann J.在研究非稠定微分算子的共轭时首次引入的(见文[1])。线性关系矩阵是指以线性关系为元素的矩阵，简称关系矩阵。设$T$ 是Banach空间$H$ 上的有界线性关系，如果存在$H$ 的两个闭子空间$H_1$ 和$H_2$ 使得$H=H_1\oplus H_2$ ，则$H$ 上的任意有界线性关系$T$ 可写为如下形式的$2\times 2$ 关系矩阵

$T=\left[\begin{array}{cc}{T}_{11}& T_{12}\\ T_{21}& T_{22}\end{array}\right],$

其中$T_{ij}$ 是从$H_j$ 到$H_i$ 的有界线性关系，$i,j=1,2$ 。若$H_1$ 是$T$ 的非平凡不变子空间，则有$T_{21}=0$ ，显然，此时$T$ 可分解为上三角形式。在关系矩阵中，若一些元素已知，而其他元素未知，则称其为缺项关系矩阵。

近年来，关系矩阵的谱补问题一直是比较活跃的研究课题。2014年，文[2]在Banach空间中利用因式分解法刻画了二阶关系矩阵的本质谱。2015年，文[3]在Banach空间研究了三阶上三角关系矩阵的六类本质谱与其对角元之间的联系，其中除过对角线元素都是单值的。2016年，文[4]在一定条件下讨论了三阶关系矩阵的闭性及其Fredholm性。同年，文[5]在Banach刻画了二阶关系矩阵的闭性及可闭性，并研究了其本质谱的稳定性。2017年，Ammar A.、Jeribi A.和Saadaoui B.在文[6]中研究了Banach空间关系矩阵的Frobenius-Schur因式分解，刻画了二阶关系矩阵的本质谱。2018年，文[7]在Banach空间给出了关系理论中本质伪谱的定义并利用因式分解法刻画了二阶关系矩阵的本质伪谱。

在算子理论中，对算子矩阵谱的研究相对较成熟。显然，对Hilbert空间中上三角算子矩阵有

$\sigma \left(M_C\right)\subseteq \sigma \left(A\right)\cup \sigma \left(B\right),\forall C\in ℬ\left(K,H\right).$

2003年，Eibjaoui H.和Zerouali E.H.利用局部谱理论在文[8]中讨论了$\sigma \left(A\right)\cup \sigma \left(B\right)$ 与$\sigma \left(M_C\right)$ 的差集问题，得到

$\sigma \left(M_C\right)\cup \left(S_{A*}\cap S_B\right)=\sigma \left(A\right)\cup \sigma \left(B\right),\forall C\in ℬ\left(K,H\right)$ .

此外，还有学者得到了上三角算子矩阵的本质谱、Weyl谱、本质近似点谱和近似点谱等谱由其对角元的相应谱的并集刻画的结论。文[9]-[11]在Hilbert空间上用二阶上三角关系矩阵中内部元的性质刻画了关系矩阵的谱、点谱、本质谱、Weyl谱、本质近似点谱等。另外，发现在算子理论中有${\sigma }_{\ast }\left(M_C\right)\subseteq \sigma \ast \left(A\right)\cup \sigma \ast \left(B\right)$ 成立，其中${\sigma }_{\ast }\in \left\{{\sigma }_e,{\sigma }_w,{\sigma }_{ea},{\sigma }_b,{\sigma }_{ab}\right\}$ ，然而在线性关系理论中上述包含关系不成立，进而研究了在线性关系理论中上述包含关系成立的充分必要条件。本文在算子矩阵谱的研究基础上，继续研究Hilbert空间上三阶上三角缺项关系矩阵的本质谱包含关系。

2. 预备知识

下面给出本文涉及的定义引理。

定义2.1 [12]设$H$ 和$K$ 是可分的Hilbert空间，关系$T:H\to K$ 是一个映射，它将非空子集$\text{dom}T\subseteq H$ 中的元素映为$K$ 的某个非空子集。若关系$T$ 满足对任意的$x_1,x_2\in \text{dom}T$ 及不全为零的标量$\alpha ,\beta$ 都有$T\left(\alpha x_1+\beta x_2\right)=\alpha T\left(x_1\right)+\beta T\left(x_2\right)$ ，则称$T$ 为线性关系。显然，线性关系$T$ 的定义域$\text{dom}T$ 是$H$ 的线性子空间。

注 若线性关系$T$ 将其定义域中的每一点都映成单点集，则称$T$ 是单值线性关系或算子，显然，$T$ 为单值线性关系当且仅当$T\left(0\right)=\left\{0\right\}$ 。

定义2.2 [12]记$ℒℛ\left(H,K\right)$ 为所有从$H$ 到$K$ 且定义域为全空间$H$ 的线性关系，并记$ℒℛ\left(H\right)=ℒℛ\left(H,H\right)$ 。分别将所有从$H$ 到$K$ 的有界算子和闭算子组成的集合记为$ℬ\left(H,K\right)$ ，$\mathcal{C}\left(H,K\right)$ 。设$T\in ℒℛ\left(H,K\right)$ ，$\text{ran}T$ 和$\text{ker}T$ 分别为$T$ 的值域和零空间另外，记$n\left(T\right)=\text{dimker}T,d\left(T\right)=\text{dimran}{T}^{\perp }$ ，$\beta \left(T\right)=\text{dim}\left(K/\text{ran}T\right)$ 。若$n\left(T\right)$ 和$\beta \left(T\right)$ 之一有限，则定义$T$ 的指标为$i\left(T\right)=n\left(T\right)-\beta \left(T\right)$ 。

定义2.3 [12]设$T\in ℒℛ\left(H,K\right),Q_T$ 为从$K$ 到$K/\overline{T\left(0\right)}$ 的商映射，则$Q_{T}T$ 是单值的。对任意的$x\in H$ ，定义$\Vert Tx\Vert =\Vert Q_{T}Tx\Vert$ ，且定义$T$ 的范数为$\Vert T\Vert =\Vert Q_{T}T\Vert$ 。

定义2.4 [12]若$T\in ℒℛ\left(H,K\right)$ 且$\Vert T\Vert <+\infty$ ，则称$T$ 是有界线性关系。

定义2.5 [12]设$T\in ℬ\mathcal{C}ℛ\left(H,K\right)$ 且ran$T$ 是闭的。

i) 若$n\left(T\right)<\infty$ ，则称$T$ 是左Fredholm关系；

ii) 若$d\left(T\right)<\infty$ ，则称$T$ 是右Fredholm关系；

iii) 若$n\left(T\right)<\infty$ 且$d\left(T\right)<\infty$ ，则称$T$ 是Fredholm关系。

定义2.6 [12]设$T\in ℬ\mathcal{C}ℛ\left(H,K\right)$ 是左Fredholm关系，即左或右Fredholm关系。

i) 若$i\left(T\right)\le 0$ ，则称$T$ 是左Weyl关系；

ii) 若$i\left(T\right)\ge 0$ ，则称$T$ 是右Weyl关系；

iii) 若$i\left(T\right)=0$ ，则称$T$ 是Weyl关系。

线性关系$T$ 的左本质谱${\sigma }_{le}\left(T\right)$ 、右本质谱${\sigma }_{re}\left(T\right)$ 、本质谱${\sigma }_e\left(T\right)$ 、本质近似点谱(左Weyl谱) ${\sigma }_{ea}\left(T\right)$ 、右Weyl谱${\sigma }_{rw}\left(T\right)$ 、Weyl谱${\sigma }_w\left(T\right)$ 分别被定义为

${\sigma }_{le}\left(T\right)=\left\{\lambda \in ℂ:T-\lambda I不是左\text{Fredholm}关系\right\},$

${\sigma }_{re}\left(T\right)=\left\{\lambda \in ℂ:T-\lambda I不是右\text{Fredholm}关系\right\},$

${\sigma }_e\left(T\right)=\left\{\lambda \in ℂ:T-\lambda I不是\text{Fredholm}关系\right\},$

${\sigma }_{ea}\left(T\right)=\left\{\lambda \in ℂ:T-\lambda I不是左\text{Weyl}关系\right\},$

${\sigma }_{rw}\left(T\right)=\left\{\lambda \in ℂ:T-\lambda I不是右\text{Weyl}关系\right\},$

${\sigma }_w\left(T\right)=\left\{\lambda \in ℂ:T-\lambda I不是\text{Weyl}关系\right\}.$

引理2.1 [10]设$T\in ℒℛ\left(H\right)$ ，则

i) 若$T$ 连续，并且$\text{dom}T$ 和$T\left(0\right)$ 都是闭的，则$T$ 是闭的；

ii) $T$ 闭当且仅当$Q_{T}T$ 闭且$T\left(0\right)$ 是闭的。

引理2.2 [13]设$T\in ℬℛ\left(H_1,H_2\right)$ 。若$T\left(0\right)$ 是闭的，则$\text{ker}T$ 是闭的。

引理2.3 [2]设$T\in ℬ\mathcal{C}ℛ\left(H\right)$ ，则

i) $T$ 是左Fredholm关系当且仅当$Q_{T}T$ 是左Fredholm关系，且$i\left(T\right)=i\left(Q_{T}T\right)$ ；

ii) $T$ 是右Fredholm关系当且仅当$Q_{T}T$ 是右Fredholm关系，且$i\left(T\right)=i\left(Q_{T}T\right)$ 。

引理2.4 [3]设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，则

$Q_{M_{D,E,F}}{M}_{D,E,F}=\left(\begin{array}{ccc}{Q}_{\left(A D E\right)}A& Q_{\left(A D E\right)}D& Q_{\left(A D E\right)}E\\ 0& Q_{\left(B F\right)}B& Q_{\left(B F\right)}F\\ 0& 0& Q_{C}C\end{array}\right).$

引理2.5 [3]设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，则$M_{D,E,F}$ 是闭的当且仅当$A\left(0\right)+D\left(0\right)+E\left(0\right),B(0)+F(0)$ 和$C\left(0\right)$ 都是闭的。

引理2.6 [9]设$M_{D,E,F}\in ℬ\left(H_1\oplus H_2\oplus H_3\right)$ ，则${\sigma }_{*}\left(M_X\right)\subseteq {\sigma }_{*}\left(A\right)\cup {\sigma }_{*}\left(B\right)\cup {\sigma }_{*}\left(C\right)$ ，其中${\sigma }_{*}\in \left\{{\sigma }_e,{\sigma }_w,{\sigma }_{ea}\right\}$ 。

引理2.7 [12]设$X$ 是一个线性空间，$M,N\subseteq X$ 是闭子空间且$M\subseteq N$ ，则$X/N\cong \left(X/M\right)\left(N/M\right)$ 。

3. 主要结果及证明

定理3.1 设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，则

i) ${\sigma }_e\left(M_{D,E,F}\right)\subseteq {\sigma }_e\left(A_{D(0)+E(0)}\right)\cup {\sigma }_e\left(B_{F(0)}\right)\cup {\sigma }_e\left(C\right)$ ；

ii) ${\sigma }_w\left(M_{D,E,F}\right)\subseteq {\sigma }_w\left(A_{D(0)+E(0)}\right)\cup {\sigma }_w\left(B_{F(0)}\right)\cup {\sigma }_e\left(C\right)$ ；

iii) ${\sigma }_{ea}\left(M_{D,E,F}\right)\subseteq {\sigma }_{ea}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{ea}\left(B_{F(0)}\right)\cup {\sigma }_e\left(C\right)$ 。

证明 先证(i)成立。设$\lambda \notin {\sigma }_e\left(A_{D(0)+E(0)}\right)\cup {\sigma }_e\left(B_{F(0)}\right)\cup {\sigma }_e\left(C\right)$ ，只需证$\lambda \notin {\sigma }_e\left(M_{D,E,F}\right)$ ，即$M_{D,E,F}-\lambda I$ 是Fredholm关系。显然，$A_{D(0)+E(0)}-\lambda I$ ，$B_{F(0)}-\lambda I$ 和$C-\lambda I$ 都是Fredholm关系，则$A\left(0\right)+D\left(0\right)+E\left(0\right),$ $B\left(0\right)+F\left(0\right)$ 和$C\left(0\right)$ 都是闭的，这意味着

$M_{D,E,F}\left(0\right)=\left(\begin{array}{c}A\left(0\right)+D\left(0\right)+E\left(0\right)\\ B\left(0\right)+F\left(0\right)\\ C\left(0\right)\end{array}\right)$

是闭的。由引理2.3和引理2.5，只需证明$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)$ 是Fredholm关系。根据引理2.4，

$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)=\left(\begin{array}{ccc}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)& Q_{\left(A D E\right)}D& Q_{\left(A D E\right)}E\\ 0& Q_{\left(B F\right)}\left(B-\lambda I\right)& Q_{\left(B F\right)}F\\ 0& 0& Q_C\left(C-\lambda I\right)\end{array}\right).$

并且$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)$ 是单值关系。显然，

$\Vert Q_{\left(A D E\right)}\left(A-\lambda I\right)x\Vert \le \Vert Q_A\left(A-\lambda I\right)x\Vert =\Vert \left(A-\lambda I\right)x\Vert ,x\in H_1,$

因此$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 是有界的单值关系。类似地，$Q_{\left(A D E\right)}D$ ，$Q_{\left(A D E\right)}E$ 也是有界的单值关系。同理，

$\Vert Q_{\left(B F\right)}\left(B-\lambda I\right)y\Vert \le \Vert Q_B\left(B-\lambda I\right)y\Vert =\Vert \left(B-\lambda I\right)y\Vert ,y\in H_2,$

因此$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 是有界的单值关系。类似地，$Q_{\left(B F\right)}F,Q_{C}C$ 也是有界的单值关系。注意到$Q_C\left(C-\lambda I\right)$ 是有界的，则由引理2.6，只需分别证明$Q_{\left(A D E\right)}\left(A-\lambda I\right),Q_{\left(B F\right)}\left(B-\lambda I\right),Q_C\left(C-\lambda I\right)$ 均是Fredholm关系。显然$C-\lambda I$ 的Fredholm性蕴含$Q_C\left(C-\lambda I\right)$ 是Fredholm关系。

下证$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 是Fredholm关系。易知dom$Q_{\left(A D E\right)}\left(A-\lambda I\right)=\text{dom}\left(A-\lambda I\right)=H_1$ ，结合$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 的有界性可知$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 是闭的。因为$A_{D(0)+E(0)}-\lambda I$ 是Fredholm关系且

$n\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)=\text{dim}\left\{x\in H_1:\left(A-\lambda I\right)x\subseteq A\left(0\right)+D\left(0\right)+E\left(0\right)\right\}=n\left(A_{D(0)+E(0)}-\lambda I\right),$

所以

$n\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)<\infty .$

因为

$\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda ID-DE-E\right)$

$=\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)+\text{ran}{Q}_{\left(A D E\right)}\left(D-D\right)+\text{ran}{Q}_{\left(A D E\right)}\left(E-E\right)$

$=\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right),$

所以

$\beta \left(Q_{\left(A D E\right)}\left(A-\lambda ID-DE-E\right)\right)=\beta \left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right).$

观察到$A_{D(0)+E(0)}-\lambda I$ 是Fredholm关系，则$A\left(0\right)+D\left(0\right)+E\left(0\right)$ 和$\text{ran}\left(A-\lambda ID-DE-E\right)$ 均闭，结合引理2.7可知

$\beta \left(Q_{\left(A D E\right)}\left(A-\lambda ID-DE-E\right)\right)=\beta \left(A-\lambda ID-DE-E\right)=\beta \left(A_{D(0)+E(0)}-\lambda I\right)<\infty ,$

因此$\beta \left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)<\infty$ ，进而$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 是Fredholm关系。

同理，下证$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 是Fredholm关系。易知$\text{dom}{Q}_{\left(B F\right)}\left(B-\lambda I\right)$ ，dom$\text{dom}\left(B-\lambda I\right)=H_2$ ，结合$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 的有界性可知$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 是闭的。因为$B_{F(0)}-\lambda I$ 是Fredholm关系且

$n\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)=\text{dim}\left\{x\in H_1:\left(B-\lambda I\right)x\subseteq B\left(0\right)+F\left(0\right)\right\}=n\left(B_{F(0)}-\lambda I\right),$

所以

$n\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)<\infty .$

因为

$\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda IF-F\right)=\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda I\right)+\text{ran}{Q}_{\left(B F\right)}\left(F-F\right)=\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda I\right),$

所以

$\beta \left(Q_{\left(B F\right)}\left(A-\lambda IF-F\right)\right)=\beta \left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right).$

观察到$B_{F(0)}-\lambda I$ 是Fredholm关系，则$B\left(0\right)+F\left(0\right)$ 和$\text{ran}\left(B-\lambda IF-F\right)$ 均闭，结合引理2.7可知

$\beta \left(Q_{\left(B F\right)}\left(B-\lambda IF-F\right)\right)=\beta \left(B-\lambda IF-F\right)=\beta \left(B_{F(0)}-\lambda I\right)<\infty ,$

因此$\beta \left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)<\infty$ ，进而$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 是Fredholm关系。

由(i)的证明易知(ii)是成立的。对(iii)，设$\lambda \notin {\sigma }_{ea}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{ea}\left(B_{F(0)}\right)\cup {\sigma }_e\left(C\right)$ ，只需证$\lambda \notin {\sigma }_{ea}\left(M_{D,E,F}\right)$ ，即$M_{D,E,F}-\lambda I$ 是左Weyl关系。由(i)的证明，只需分别证明$\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)$ 和$\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda I\right)$ 是闭的。下证$\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)$ 是闭的。由上述证明可知

$\begin{array}{c}\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)=\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)+\text{ran}{Q}_{\left(A D E\right)}\left(D-D\right)+\text{ran}{Q}_{\left(A D E\right)}\left(E-E\right)\\ =\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda ID-DE-E\right).\end{array}$

因为$A\left(0\right)+D\left(0\right)+E\left(0\right)$ 闭，所以$\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)$ 与$\text{ran}\left(A-\lambda I\right)+D\left(0\right)+E\left(0\right)$ 的闭性等价。注意到$\lambda \notin {\sigma }_{ea}\left(A_{D(0)+E(0)}\right)$ ，则$\text{ran}\left(A_{D(0)+E(0)}-\lambda I\right)$ 是闭的，结合$\text{ran}\left(A-\lambda I\right)+D\left(0\right)+E\left(0\right)=\text{ran}\left(A_{D(0)+E(0)}-\lambda I\right)$ ，可得$\text{ran}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)$ 是闭的。同理，下证$\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda I\right)$ 是闭的。由上述证明可知

$\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda I\right)=\text{ran}{Q}_{\left(B F\right)}(B-\lambda IF-F).$

因为$B\left(0\right)+F\left(0\right)$ 闭，所以$\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda I\right)$ 与$\text{ran}\left(B-\lambda I\right)+F\left(0\right)$ 的闭性等价。注意到$\lambda \notin {\sigma }_{ea}\left(B_{F(0)}\right)$ ，则$\text{ran}\left(B_{F(0)}-\lambda I\right)$ 是闭的，结合$\text{ran}\left(B-\lambda I\right)+F\left(0\right)=\text{ran}\left(B_{F(0)}-\lambda I\right)$ 可得$\text{ran}{Q}_{\left(B F\right)}\left(B-\lambda I\right)$ 是闭的。

推论3.1 设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，则

i) 若$A_{D(0)+E(0)}$ ，$B_{F(0)}$ 和$C$ 都是Fredholm关系，则$M_{D,E,F}$ 是Fredholm关系；

ii) 若$A_{D(0)+E(0)}$ ，$B_{F(0)}$ 和$C$ 都是Weyl关系，则$M_{D,E,F}$ 是Weyl关系；

iii) 若$A_{D(0)+E(0)}$ ，$B_{F(0)}$ 和$C$ 都是左Weyl关系，则$M_{D,E,F}$ 是左Weyl关系。

定理3.2 设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，且$A\left(0\right)+D\left(0\right)+E\left(0\right)$ 和$B\left(0\right)+F\left(0\right)$ 均闭，则

i) ${\sigma }_e\left(M_{D,E,F}\right)\subseteq {\sigma }_e\left(A\right)\cup {\sigma }_e\left(B\right)\cup {\sigma }_e\left(C\right)\cup {\Delta }_1$ ；

ii) ${\sigma }_w\left(M_{D,E,F}\right)\subseteq {\sigma }_w\left(A\right)\cup {\sigma }_w\left(B\right)\cup {\sigma }_e\left(C\right)\cup {\Delta }_2$ ；

iii) ${\sigma }_{ea}\left(M_{D,E,F}\right)\subseteq {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right)\cup {\sigma }_{cr}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{cr}\left(B_{F(0)}\right)\cup {\Delta }_2\cup {\Delta }_3$ 。

其中${\Delta }_1=\left\{\lambda \in ℂ:n\left(A_{D(0)+E(0)}-\lambda I\right)=\infty \right\}\cup \left\{\lambda \in ℂ:n\left(B_{F(0)}-\lambda I\right)=\infty \right\},$

${\Delta }_2=\left\{\lambda \in ℂ:\beta \left(A_{D(0)+E(0)}-\lambda I\right)<n\left(A_{D(0)+E(0)}-\lambda I\right)\right\}\cup \left\{\lambda \in ℂ:\beta \left(B_{F(0)}-\lambda I\right)<n\left(B_{F(0)}-\lambda I\right)\right\},$

${\Delta }_3=\left\{\lambda \in ℂ:\text{dim}\left(\text{ker}\left(A_{D(0)+E(0)}-\lambda I\right)/\text{ker}\left(A-\lambda I\right)\right)=\infty \right\}\cup \left\{\lambda \in ℂ:\text{dim}\left(\text{ker}\left(B_{F(0)}-\lambda I\right)/\text{ker}\left(B-\lambda I\right)\right)=\infty \right\}.$

证明 先证(i)成立。设$\lambda \notin {\sigma }_e\left(A\right)\cup {\sigma }_e\left(B\right)\cup {\sigma }_e\left(C\right)\cup {\Delta }_1$ ，只需证$\lambda \notin {\sigma }_e\left(M_{D,E,F}\right)$ ，即$M_{D,E,F}-\lambda I$ 是Fredholm关系。显然，$A-\lambda I$ ，$B-\lambda I$ 和$C-\lambda I$ 都是Fredholm关系且$n\left(A_{D(0)+E(0)}-\lambda I\right)<\infty ,n\left(B_{F(0)}-\lambda I\right)<\infty$ ，易知$A\left(0\right)+D\left(0\right)+E\left(0\right),B\left(0\right)+F\left(0\right)$ 和$C\left(0\right)$ 都是闭的，这意味着$M_{D,E,F}\left(0\right)$ 是闭的，由引理2.3和引理2.5，只需证明$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)$ 是Fredholm关系。根据引理2.4，

$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)=\left(\begin{array}{ccc}{Q}_{\left(A D E\right)}\left(A-\lambda I\right)& Q_{\left(A D E\right)}D& Q_{\left(A D E\right)}E\\ 0& Q_{\left(B F\right)}\left(B-\lambda I\right)& Q_{\left(B F\right)}F\\ 0& 0& Q_C\left(C-\lambda I\right)\end{array}\right).$

由定理3.1可知，只需证$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 和$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 均是Fredholm关系。

下证 $Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 是Fredholm关系。一方面

$\begin{array}{l}n\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)=\text{dim}\left\{x\in H_1:\left(A-\lambda I\right)x\subseteq A\left(0\right)+D\left(0\right)+E\left(0\right)\right\}\\ =n\left(A_{D(0)+E(0)}-\lambda I\right)\ge n\left(A-\lambda I\right),\end{array}$

$n\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)=\text{dim}\left\{x\in H_2:\left(B-\lambda I\right)x\subseteq B\left(0\right)+F\left(0\right)\right\}=n\left(B_{F(0)}-\lambda I\right)\ge n\left(B-\lambda I\right),$

所以

$n\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)<\infty ,n\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)<\infty .$

另一方面，

$\beta \left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)=\beta \left(Q_{\left(A D E\right)}\left(A-\lambda ID-DE-E\right)\right)$ $=\beta \left(A-\lambda ID-DE-E\right)\le \beta \left(A-\lambda I\right),$

$\beta \left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)=\beta \left(Q_{\left(B F\right)}\left(B-\lambda IF-F\right)\right)=\beta \left(B-\lambda IF-F\right)\le \beta \left(B-\lambda I\right).$

所以

$\beta \left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)<\infty ,\beta \left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)<\infty .$

进而$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ 和$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 均是Fredholm关系。

定理3.3 设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，且$A\left(0\right)+D\left(0\right)+E\left(0\right)$ 和$B\left(0\right)+F\left(0\right)$ 均闭，则

i) ${\sigma }_e\left(M_{D,E,F}\right)\subseteq {\sigma }_e\left(A\right)\cup {\sigma }_e\left(B\right)\cup {\sigma }_e\left(C\right)$ 当且仅当

${\Delta }_1\subseteq {\sigma }_e\left(A\right)\cup {\sigma }_e\left(B\right)\cup {\sigma }_e\left(C\right);$

ii) ${\sigma }_w\left(M_{D,E,F}\right)\subseteq {\sigma }_w\left(A\right)\cup {\sigma }_w\left(B\right)\cup {\sigma }_w\left(C\right)$ 当且仅当

${\Delta }_2\subseteq {\sigma }_w\left(A\right)\cup {\sigma }_w\left(B\right)\cup {\sigma }_w\left(C\right);$

iii) ${\sigma }_{ea}\left(M_{D,E,F}\right)\subseteq {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right)$ 当且仅当

${\sigma }_{cr}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{cr}\left(B_{F(0)}\right)\cup {{\Delta }^{\prime }}_1\cup {\Delta }_3\subseteq {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right).$

其中${\Delta }_1,{\Delta }_2$ 是定理2.2中定义的集合且

${{\Delta }^{\prime }}_1=\left\{\lambda \in ℂ:\beta \left(A_{D(0)+E(0)}-\lambda I\right)+\beta \left(B_{F(0)}-\lambda I\right)+\beta \left(C\right)<n\left(A_{D(0)+E(0)}-\lambda I\right)+n\left(B_{F(0)}-\lambda I\right)+n\left(B\right)\right\}.$

证明 由定理2.2可得(i)，(ii)的充分性成立，下面分别证明它们的必要性。对(i)，设$\lambda \notin {\sigma }_e\left(A\right)\cup {\sigma }_e\left(B\right)\cup {\sigma }_e\left(C\right)$ ，只需证明$\lambda \notin {\Delta }_1$ ，即$n\left(A_{D(0)+E(0)}-\lambda I\right)<\infty ,n\left(B_{F(0)}-\lambda I\right)<\infty .$ 因为${\sigma }_e\left(M_{D,E,F}\right)\subseteq {\sigma }_e\left(A\right)\cup {\sigma }_e\left(B\right)\cup {\sigma }_e\left(C\right)$ ，所以$\lambda \notin {\sigma }_e\left(M_{D,E,F}\right)$ 。应用引理2.3，$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)$ 是Fredholm关系，则由引理2.4可得$Q_{\left(A D E\right)}\left(A-\lambda I\right)$ ，$Q_{\left(B F\right)}\left(B-\lambda I\right)$ 都是左Fredholm关系，所以$n\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)<\infty ,n\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)<\infty$ ，进而$n\left(A_{D(0)+E(0)}-\lambda I\right)<\infty$ ，$n\left(B_{F(0)}-\lambda I\right)<\infty$ 。

对(ii)，设$\lambda \notin {\sigma }_w\left(A\right)\cup {\sigma }_w\left(B\right)\cup {\sigma }_w\left(C\right)$ ，只需证明$\lambda \notin {\Delta }_2$ ，即$\beta \left(A_{D(0)+E(0)}-\lambda I\right)=n\left(A_{D(0)+E(0)}-\lambda I\right)$ ，$\beta \left(B_{F(0)}-\lambda I\right)=n\left(B_{F(0)}-\lambda I\right)$ 。显然，$\lambda \notin {\sigma }_w\left(M_{D,E,F}\right)$ 。应用引理2.4，$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)$ ，$Q_C\left(C-\lambda I\right)$ 是Weyl关系。根据定理3.1有$i\left(Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)\right)=i\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)+i\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)$ $+i\left(Q_C\left(C-\lambda I\right)\right),$ 进而$i\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)+i\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)=0,$ 故根据定理2.1的证明，

$\beta \left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)=n\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right),\beta \left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)=n\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right),$

因此。$\lambda \notin {\Delta }_2$ 。

对(iii)，先证其充分性。设$\lambda \notin {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right)$ ，则$A-\lambda I,B-\lambda I,C-\lambda I$ 都是左Weyl关系且$\lambda \notin {\sigma }_{cr}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{cr}\left(B_{F(0)}\right)\cup {{\Delta }^{\prime }}_1\cup {\Delta }_3,$ 由引理2.2，$Q_C\left(C-\lambda I\right)$ 是左Fredholm关系。因为$A-\lambda I,B-\lambda I$ 都是左Weyl关系且$\lambda \notin {\Delta }_3，$ 所以$n\left(A_{D(0)+E(0)}-\lambda I\right)<\infty ,n\left(B_{F(0)}-\lambda I\right)<\infty$ 。由定理3.1的证明，

$n\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)<\infty ,n\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)<\infty ,$

进而$\lambda \notin {\sigma }_{cr}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{cr}\left(B_{F(0)}\right)$ 蕴含着$Q_{\left(A D E\right)}\left(A-\lambda I\right),$ $Q_{\left(B F\right)}\left(B-\lambda I\right)$ 都是左Fredholm关系。注意到$Q_C\left(C-\lambda I\right)$ 是左Fredholm关系且$\lambda \notin {{\Delta }^{\prime }}_1$ ，应用定理3.1，$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)$ 是左Fredholm关系，且

$i\left(Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)\right)=i\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)+i\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)+i\left(Q_C\left(C-\lambda I\right)\right)\le 0.$

显然，$Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)$ 是左Fredholm关系，因此$\lambda \notin {\sigma }_{ea}\left(M_{D,E,F}\right)$ ，

这意味着${\sigma }_{ea}\left(M_{D,E,F}\right)\subseteq {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right)$ 。反过来,设${\sigma }_{ea}\left(M_{D,E,F}\right)\subseteq {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right)$ 。如果$\lambda \notin {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right)$ ，则$\lambda \notin {\sigma }_{ea}\left(M_{D,E,F}\right)$ 。易知$Q_{\left(A D E\right)}\left(A-\lambda I\right),Q_{\left(B F\right)}\left(B-\lambda I\right)$ 都是左Fredholm关系，因此$\lambda \notin {\sigma }_{cr}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{cr}\left(B_{F(0)}\right)\cup {\Delta }_3.$ 另外，易知$Q_C\left(C-\lambda I\right)$ 是左Fredholm关系，结合$\lambda \notin {\sigma }_{ea}\left(M_{D,E,F}\right)$ ，可得

$i\left(Q_{\left(A D E\right)}\left(A-\lambda I\right)\right)+i\left(Q_{\left(B F\right)}\left(B-\lambda I\right)\right)+i\left(Q_C\left(C-\lambda I\right)\right)\le 0=i\left(Q_{M_{D,E,F}}\left(M_{D,E,F}-\lambda I\right)\right)\le 0.$

根据定理3.1的证明可得$\lambda \notin {{\Delta }^{\prime }}_1$ ，因此，

$\lambda \notin {\sigma }_{cr}\left(A_{D(0)+E(0)}\right)\cup {\sigma }_{cr}\left(B_{F(0)}\right)\cup {{\Delta }^{\prime }}_1\cup {\Delta }_3\subseteq {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_{ea}\left(C\right).$

推论3.2 设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，且$D\left(0\right)\subseteq A\left(0\right),E\left(0\right)\subseteq A\left(0\right),F\left(0\right)\subseteq B\left(0\right)$ ，则

i) ${\sigma }_e\left(M_{D,E,F}\right)\subseteq {\sigma }_e\left(A\right)\cup {\sigma }_e\left(B\right)\cup {\sigma }_e\left(C\right)$ ；

ii) ${\sigma }_w\left(M_{D,E,F}\right)\subseteq {\sigma }_w\left(A\right)\cup {\sigma }_w\left(B\right)\cup {\sigma }_e\left(C\right)$ ；

iii) ${\sigma }_{ea}\left(M_{D,E,F}\right)\subseteq {\sigma }_{ea}\left(A\right)\cup {\sigma }_{ea}\left(B\right)\cup {\sigma }_e\left(C\right)$ 。

推论3.3 设$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 为给定关系，且$D\left(0\right)\subseteq A\left(0\right),E\left(0\right)\subseteq A\left(0\right),F\left(0\right)\subseteq B\left(0\right)$ ，则

i) 若$A,B$ 和$C$ 都是Fredholm关系，则$M_{D,E,F}$ 是Fredholm关系；

ii) 若$A,B$ 和$C$ 都是Weyl关系，则$M_{D,E,F}$ 是Weyl关系；

iii) 若$A,B$ 和$C$ 都是左Weyl关系，则$M_{D,E,F}$ 是左Weyl关系。

例子3.1 设$A\in ℬℛ\left(H_1\right),B\in ℬℛ\left(H_2\right),C\in ℬℛ\left(H_3\right)$ 均为Fredholm关系，对任意$x_1\in H_2,x_2\in H_3$ ，令$D{x}_1=H_1,$ $E{x}_2=H_1$ 且$F{x}_2=H_2$ 。显然，$n\left(M_{D,E,F}\right)=\infty$ ，故$M_{D,E,F}$ 不是Fredholm关系。

这意味着即使$A\in ℬℛ\left(H_1\right)$ ，$B\in ℬℛ\left(H_2\right)$ ，$C\in ℬℛ\left(H_3\right)$ ，$D\in ℬℛ\left(H_2,H_1\right)$ ，$E\in ℬℛ\left(H_3,H_1\right)$ ，$F\in ℬℛ\left(H_3,H_2\right)$ 均为Fredholm关系，$M_{D,E,F}$ 也不一定是Fredholm关系，因此上三角关系矩阵$M_{D,E,F}$ 的Fredholm性与关系$D\in ℬℛ\left(H_2,H_1\right),E\in ℬℛ\left(H_3,H_1\right),F\in ℬℛ\left(H_3,H_2\right)$ 的多值部分$D\left(0\right),E\left(0\right),F\left(0\right)$ 有关。