Hilbert空间中一类可数维线性回归模型的参数估计

A Parameter Estimation for an Infinite Dimensional Linear Regression Model in Hilbert Space

摘要: 现有回归模型中的解释变量往往是有限多个，然而被解释变量实际上常常受到无穷多种因素的影响，这使得有限维线性回归模型很有可能遗漏某些重要的解释变量，从而导致模型模拟现实的效用大为减弱。鉴于此，本文提出了一类可数维线性回归模型的参数估计问题，并利用实Hilbert空间中的正交分解定理，以及泛函分析中的压缩映射原理和相关定理，在一定的条件下，通过Picard迭代程序，寻求可数维线性回归模型参数估计的唯一逼近解。

Abstract: The existing linear regression models usually include finite explanatory variables, but in fact, the dependent variables are affected by infinite factors so that some important explanatory variables are probably omitted, which would lead to weaker efficacy of the models. In this article, we pro-posed a parameter estimation for a countable dimensional linear regression model under certain conditions by using the orthogonal decomposition theorem in real Hilbert space. In other words, the Picard iteration program is used to find the unique approximate solution for parameter estimation for a countable dimensional linear regression model under certain conditions by using the orthogonal decomposition theorem in real Hilbert space and the compression mapping theorem in functional analysis and some related lemmas.

1. 引言

在统计学中，线性回归是指利用线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量称为一元回归，有多个自变量称为多元回归。回归分析是根据实验数据去估计回归函数，进行点估计、区间估计、假设检验等问题研究。回归分析是研究相关关系的一种数学工具，使我们能够从一个变量的取值，去估计另一变量的取值 [1]。

线性回归分析中的参数估计是指，当随机变量分布类型已知，但有未知参数的情况，利用随机变量的一组样本值来估计已知分布类型中的参数。通常先建立它们的一般线性回归模型，然后通过最小二乘法或极大似然估计法得到未知参数的估计。最小二乘法是一种数学优化方法，通过最小化误差的平方和寻找数据的最佳函数匹配，使模型能较好地拟合样本数据的参数估计量。极大似然估计法的思想基于：从总体中随机抽取n组样本，最合理的参数估计量应该是使得这组样本出现的概率最大 [1]。两者在求解参数估计时，都有它们的优缺点。最小二乘法的优点是：容易通过计算机的简单程序实现；其缺点是：不能得到无理数根的这种确定解并且计算十分麻烦。而极大似然估计的优点是具有良好的收敛性，即使样本量增加也比任何其他替代技术都更简单，因此计算复杂度更低；缺点是极大似然估计的参数只拟合观测到的样本，如果观测到的样本并不能很好的代表总体样本的分布，那么极大似然估计是不准确的。

作者在原有求解参数估计方法的基础上，运用实Hilbert中的正交分解定理，在一定条件下，寻求可数维线性回归模型回归系数估计的近似解。

首先，运用实Hilbert空间中的正交分解定理，导出一个关于模型参数估计的可数维线性方程组，并将其转化为求解某个非线性映射的不动点问题。

然后，在一定条件下，通过泛函分析中的压缩映射原理，证明了该映射为压缩映射且存在唯一的不动点，从而判定该线性方程组有唯一解。

最后，通过Picard迭代算法，得到可数维线性回归模型中的回归系数估计的逼近解。

2. 预备知识

2.1. 多元线性回归分析

一般情况下，一个变量会受多个因素的影响，所以线性回归模型中的解释变量就会有多个，而这样f的模型被称为多元线性回归模型。

1) 多元线性回归模型的一般形式为：

$Y_i={\beta }_0+{\beta }_1{x}_{1i}+{\beta }_2{x}_{2i}+\cdots +{\beta }_k{x}_{ki}+{\epsilon }_i\left(i=1,2,\cdots ,n\right)$

其中 ${\epsilon }_i~N\left(0,{\sigma }^2\right)$，各 ${\epsilon }_i$ 相互独立， ${\beta }_0,{\beta }_1,\cdots ,{\beta }_k$ 代表回归系数，即模型估计的目标。我们可将模型用矩阵的形式进行表示，如下所示：

$Y=XB+N$

其中

$Y={\left[\begin{array}{c}{Y}_1\\ Y_2\\ ⋮\\ Y_n\end{array}\right]}_{n\times 1},X={\left[\begin{array}{ccccc}1& x_{11}& x_{21}& \cdots & x_{n1}\\ 1& x_{12}& x_{22}& \cdots & x_{2n}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 1& x_{1n}& x_{1n}& \cdots & x_{kn}\end{array}\right]}_{n\times \left(k+1\right)}$

$B={\left[\begin{array}{c}{\beta }_0\\ {\beta }_1\\ ⋮\\ {\beta }_k\end{array}\right]}_{\left(k+1\right)\times 1},N={\left[\begin{array}{l}{u}_1\\ u_2\\ ⋮\\ u_n\end{array}\right]}_{n\times 1}.$

2) 利用最小二乘法估计参数

多元线性回归模型在满足下列基本假设的情况下，可以采用普通最小二乘法估计参数。

a) 解释变量是非随机或固定的，而且各X之间互不相关。

b) $n\times \left(k+1\right)$ 矩阵X非随机，且X的秩 $p\left(X\right)=k+1$ 时， $X^{\text{T}}X$ 满秩。

满足以上条件时，根据最小二乘法原理，参数估计值是方程组

$\frac{\partial }{\partial \hat{B}}{\left(Y-X\hat{B}\right)}^{\prime }\left(Y-X\hat{B}\right)=0$

的解，求解方程组得到参数的最小二乘法估计值为：

$\hat{B}={\left(X^{\prime }X\right)}^{-1}{X}^{\prime }Y.$

2.2. Hilbert空间中的相关知识

希尔伯特空间又叫完备的内积空间，是有限维欧几里得空间的一个推广，它不局限于实数的情形和有限的维数，但又不失完备性(而不像一般的非欧几里得空间那样破坏了完备性)。与欧几里得空间相似，希尔伯特空间也是一个内积空间，其上有距离和角的概念，由此引伸出正交性概念。此外，希尔伯特空间还是一个完备的空间，根据其定义可知其上所有的柯西列等价于收敛列。希尔伯特空间为基于任意正交系上的多项式表示的傅里叶级数和傅立叶变换提供了一种有效的表达方式，这也是泛函分析的核心概念之一 [2]。本文主要围绕实希尔伯特空间中的正交性进行问题的讨论。

定义2.2.1 [2] 设 $\left(X,\Vert \cdot \Vert \right)$ 是一个赋范空间，若对于X的任意Cauchy列 $\left\{x_n\right\}$，存在 $x_0\in X$ 使得

$x_n\to x_0$

则称X是完备的。

定理2.2.2 [2] 设M是内积空间H中的完备凸集，则对任意存在 $x_0\in M$，使得

$\Vert x-x_0\Vert =d\left(x,M\right)=\underset{y\in M}{\inf }\Vert x-y\Vert .$

定理2.2.3 [2] (正交分解)设M是Hilbert空间H的闭子空间，则对任意 $x\in H$，存在唯一的 $x_0\in M$ 及 $y\in M^{\perp }$ 使得 $x=x_0+y$。

定理2.2.4 [2] 设H是内积空间，则对任意 $x,y\in H$ 有

${\left|\langle x,y\rangle \right|}^2\le \langle x,x\rangle \langle y,y\rangle .$

定理2.2.5 [2] (压缩映射原理)设 $\left(X,d\right)$ 是完备距离空间， $T:X\to X$，并且对任意 $x,y\in X$，不等式

$d\left(Tx,Ty\right)\le \theta d\left(x,y\right)$

成立，其中 $0<\theta <1$，则存在唯一的 $\bar{x}\in X$，使得 $T\bar{x}=\bar{x}$。

2.3. 问题推理过程中需要的引理

定义2.3.1 [2] 空间 $l^2$ 是满足 ${\displaystyle \underset{n=1}{\overset{\infty }{\sum }}{\left|{\xi }_k\right|}^2<\infty }$ 的实数列 $x={\left\{{\xi }_k\right\}}_{k=1}^{\infty }$ 的全体。

根据坐标定义线性运算，则空间 $l^2$ 是一个线性空间。对于 $\forall x\in l^2$， $x={\left\{{\xi }_k\right\}}_{n=1}^{\infty }$ 定义

$\Vert x\Vert ={\left({\displaystyle \underset{k=1}{\overset{\infty }{\sum }}{\left|{\xi }_k\right|}^2}\right)}^{\frac{1}{2}}.$

可据离散情形的Minkowski不等式，即 $\forall x,y\in l^2$， $x=\left\{{\xi }_k\right\}$， $y=\left\{{\eta }_k\right\}$，有不等式

${\left({\displaystyle \underset{k=1}{\overset{\infty }{\sum }}{\left|{\xi }_k+{\eta }_k\right|}^2}\right)}^{\frac{1}{2}}\le {\left({\displaystyle \underset{k=1}{\overset{\infty }{\sum }}{\left|{\xi }_k\right|}^2}\right)}^{\frac{1}{2}}+{\left({\displaystyle \underset{k=1}{\overset{\infty }{\sum }}{\left|{\eta }_k\right|}^2}\right)}^{\frac{1}{2}}.$

可证空间 $l^2$ 是一个完备的线性赋范空间，即Banach空间。

引理2.3.2 [2] 赋范空间 $l^2$ 是Hilbert空间。

引理2.3.3 [2] (柯西不等式) $\forall a={\left\{a_k\right\}}_{k=1}^{\infty }$， $\forall b={\left\{b_k\right\}}_{k=1}^{\infty }\in l^2$，

${\left({\displaystyle \underset{k=1}{\overset{\infty }{\sum }}{a}_k{b}_k}\right)}^2\le \left({\displaystyle \underset{k=1}{\overset{\infty }{\sum }}{a}_k^2}\right)\left({\displaystyle \underset{k=1}{\overset{\infty }{\sum }}{b}_k^2}\right).$

3. 寻求可数维线性回归模型参数估计

3.1. 利用实Hilbert空间中的正交分解，寻求关于参数估计的线性方程组

由引理2.3.2，可知赋范空间 $l^2$ 是Hilbert空间。

设可数维线性回归模型为：

$y={\alpha }_1{x}_1+{\alpha }_2{x}_2+\cdots +{\alpha }_n{x}_n+\cdots +\epsilon ,n=1,2,\cdots$ (1)

其中 $y,x_1,x_2,\cdots ,x_n,\cdots \in l^2$，且 $x_1,\cdots ,x_n,\cdots$ 线性相关。

为求解(1)式中的回归系数最优参数估计，可将问题转化为求解最小误差项“长度”，将(1)式转化为：

$\underset{\alpha }{\min }\Vert y-\left({\alpha }_1{x}_1+{\alpha }_2{x}_2+\cdots +{\alpha }_n{x}_n+\cdots \right)\Vert ,$

其中 $\alpha =\left({\alpha }_1,\cdots ,{\alpha }_n,\cdots \right)\in l^2$

设M是由空间 $l^2$ 中线性无关的元 $x_1,\cdots ,x_n,\cdots$，张成的线性空间的闭包，即可表示为：

$M=\overline{\text{Span}\left\{x_1,\cdots ,x_n,\cdots \right\}},$

其中

$\text{Span}\left\{x_1,\cdots ,x_n,\cdots \right\}=\left\{{\displaystyle \underset{k=1}{\overset{m}{\sum }}{\lambda }_k{x}_{n_k}:x_{m_k}\in {\left\{x_n\right\}}_{n=1}^{\infty }}\right\},$

及由

$\left\{{\displaystyle \underset{k=1}{\overset{m}{\sum }}{\lambda }_k{x}_{n_k}:x_{m_k}\in {\left\{x_n\right\}}_{n=1}^{\infty }}\right\}$

张成的完备的线性赋范空间M为Hilbert空间 $l^2$ 的闭子空间。

因为M为Hilbert空间 $l^2$ 的闭子空间，根据定理2.2.3可得，对于任意的 $y\in l^2$，存在唯一的 $y_0\in M$，以及 $z\in M^{\perp }$，使得

$y=y_0+z.$

$\forall y\in l^2$，令

$P_{M}y=y_0.$

则 $P_M$ 是由 $l^2$ 到M上的投影映射。于是 $\forall y\in l^2$，可作如下分解：

$y=\left(y-P_{M}y\right)+P_{M}y.$

根据第一节的推理结果，由定理2.2.2可得，存在 $P_{M}y={\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{a}_i{x}_i}$，使得

$\Vert y-P_{M}y\Vert =d\left(x,M\right).$

再由正交分解定理2.2.3，

$y-P_{M}y\in M^{\perp },$

它等价于

$\langle y-P_{M}y,x_j\rangle =0,\left(j=1,2,\cdots \right)$

或

$\langle {\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{\alpha }_i{x}_i,x_j}\rangle =\langle y,x_j\rangle ,\left(j=1,2,\cdots \right)$

${\displaystyle \underset{i=1}{\overset{\infty }{\sum }}\langle x_i,x_j\rangle {\alpha }_i}=\langle y,x_j\rangle ,\left(j=1,2,\cdots \right)$

显然上式为一个可数维线性方程组，矩阵表示为：

$A\alpha =b$ (2)

其中

$A=\left(\langle x_i,x_j\rangle \right)\left(i,j=1,2,\cdots \right),$

$\alpha$ 和b是可数维的数列，

$\alpha ={\left\{{\alpha }_i\right\}}_{i=1}^{\infty },b={\left\{\langle y,x_j\rangle \right\}}_{j=1}^{\infty }.$

由(2)式可转化为，

$\left(I-A\right)\alpha +b=\alpha ,$

其中

$I=\left(e_{ij}\right),e_{ij}=\{\begin{array}{l}1,i=j\\ 0,i\ne j\end{array}\left(i,j=1,2\cdots \right),$

$\left(I-A\right)={\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-\langle x_i,x_j\rangle \right)}.$

令

$Tx=\left(I-A\right)x+b,\forall x\in l^2$ (3)

可见T是由 $l^2$ 到 $l^2$ 的一个自映射。

3.2. 判定可数维线性方程组是否有解

假设

${\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\left(e_{ij}-\langle x_i,x_j\rangle \right)}^2}}<1,$

证T是由 $l^2$ 到 $l^2$ 的一个压缩映射。

证明：由(3)式可得,

$\begin{array}{c}\Vert Tx-Ty\Vert =\Vert \left(I-A\right)x+b-\left(I-A\right)y-b\Vert \\ =\Vert \left(I-A\right)x-\left(I-A\right)y\Vert \\ =\Vert \left(I-A\right)\left(x-y\right)\Vert \end{array}$

取 $x,y\in l^2$， $x={\left\{{\xi }_j\right\}}_{j=1}^{\infty }$， $y={\left\{{\eta }_j\right\}}_{j=1}^{\infty }$,

则有

$\begin{array}{c}\Vert Tx-Ty\Vert =\Vert {\left\{{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-\langle x_i,x_j\rangle \right){\xi }_j}\right\}}_{i=1}^{\infty }-{\left\{{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-\langle x_i,x_j\rangle \right){\eta }_j}\right\}}_{j=1}^{\infty }\Vert \\ =\Vert {\left\{{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-\langle x_i,x_j\rangle \right)\left({\xi }_j-{\eta }_j\right)}\right\}}_{i=1}^{\infty }\Vert \end{array}$

令

${\zeta }_i={\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-\langle x_i,x_j\rangle \right)}\left({\xi }_j-{\eta }_j\right),\left(i=1,2\cdots \right)$

我们有

$\Vert Tx-Ty\Vert =\Vert {\left\{{\zeta }_i\right\}}_{i=1}^{\infty }\Vert ={\left({\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{\zeta }_i^2}\right)}^{\frac{1}{2}}=\sqrt{{\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{\left\{{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-\langle x_i,x_j\rangle \right)\left({\xi }_j-{\eta }_j\right)}\right\}}^2}}$

根据柯西不等式，即引理2.3.3，由上式可得

$\begin{array}{c}\Vert Tx-Ty\Vert \le \sqrt{{\displaystyle \underset{i=1}{\overset{\infty }{\sum }}\left\{{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\left(e_{ij}-\langle x_i,x_j\rangle \right)}^2\cdot {\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\left({\xi }_j-{\eta }_j\right)}^2}}\right\}}}\\ \le \sqrt{{\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-{\langle x_i,x_j\rangle }^2\right)}}}\cdot \sqrt{{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\left({\xi }_j-{\eta }_j\right)}^2}}\\ \le \sqrt{{\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}\left(e_{ij}-{\langle x_i,x_j\rangle }^2\right)}}}\cdot \Vert x-y\Vert \end{array}$

由此可得

$\Vert Tx-Ty\Vert \le \theta \cdot \Vert x-y\Vert .$

其中

$\theta =\sqrt{{\displaystyle \underset{i=1}{\overset{\infty }{\sum }}{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\left(e_{ij}-\langle x_i,x_j\rangle \right)}^2}}}<1.$

由压缩映射原理，即定理2.2.5，可知T是 $l^2\to l^2$ 的一个压缩映射，则T存在唯一的不动点。即存在唯一的 $\alpha \in l^2$ 使得

$T\alpha =\alpha$

即 $\alpha$ 是线性方程组 $A\alpha =b$ 的唯一解。

3.3. 寻求线性方程组的唯一逼近解

(1)为得到线性方程组(2)的唯一逼近解，我们使用Picard迭代程序，即对任意的已知 ${\beta }_1\in l^2$，我们得到 $l^2$ 中的点列 $\left\{{\beta }_n\right\}$，从关系式

${\beta }_{n+1}=T{\beta }_n,n=1,2,\cdots$ (4)

其中

${\beta }_n=\left({\beta }_n^{\left(1\right)},{\beta }_n^{\left(2\right)},\cdots ,{\beta }_n^{\left(k\right)},\cdots \right)\in l^2$

可以看出，如果 $\left\{{\beta }_n\right\}$ 收敛，又因为T的连续性，这个序列的极限就是T的一个不动点。

事实上，由

$\begin{array}{l}\Vert {\beta }_2-{\beta }_3\Vert =\Vert T{\beta }_1-T{\beta }_2\Vert \le \theta \Vert {\beta }_1-T{\beta }_1\Vert ,\\ \Vert {\beta }_3-{\beta }_4\Vert =\Vert T{\beta }_2-T{\beta }_3\Vert \le \theta \Vert {\beta }_2-{\beta }_3\Vert \le {\theta }^2\Vert {\beta }_1-T{\beta }_1\Vert ,\\ ⋮\end{array}$

一般地，

$\Vert {\beta }_n-{\beta }_{n+1}\Vert \le {\theta }^n\Vert {\beta }_1-T{\beta }_1\Vert \left(n=1,2,\cdots \right).$

于是，对任意自然数p，

$\begin{array}{c}\Vert {\beta }_n-{\beta }_{n+p}\Vert \le \Vert {\beta }_n-{\beta }_{n+1}\Vert +\Vert {\beta }_{n+1}-{\beta }_{n+2}\Vert +\cdots +\Vert {\beta }_{n+p-1}-{\beta }_{n+p}\Vert \\ \le \left({\theta }^n+{\theta }^{n+1}+\cdots +{\theta }^{n+p-1}\right)\Vert {\beta }_1-T{\beta }_1\Vert \\ \le \frac{{\theta }^2\left(1-{\theta }^p\right)}{1-\theta }\Vert {\beta }_1-T{\beta }_1\Vert \\ \le \frac{{\theta }^n}{1-\theta }\Vert {\beta }_1-T{\beta }_1\Vert .\end{array}$

由 $0<\theta <1$，可知 $\left\{{\beta }_n\right\}$ 是一个Cauchy列，因为 $l^2$ 是完备的，所以存在已知 $\beta \in l^2$，使得

${\beta }_n\to \beta \left(n\to \infty \right),$

令式(4)的两边 $n\to \infty$，即得 $T\beta =\beta$。则 $\beta$ 是线性方程组 $A\alpha =b$ 的唯一逼近解。

4. 注记

针对实际问题进行回归分析时，由于样本容量有限，可考虑将可数维线性回归模型式(1)转换为有限维线性回归模型，使之具有广泛的应用性 [3] - [8]。

设 $y,x_1,x_2,\cdots \in {ℝ}^n$，显然有 ${ℝ}^n\subset l^2$，对于可数多维解释变量 $\left\{x_1,x_2,\cdots ,x_n,\cdots \right\}$，存在一组基 $B\subset \left\{x_1,x_2,\cdots ,x_n,\cdots \right\}$，为方便起见，不妨设 $B=\left\{x_1,x_2,\cdots ,x_n\right\}$，使得任意一个解释变量均可以由B唯一地线性表出，即有

$x_{n+j}={\displaystyle \underset{i=1}{\overset{n}{\sum }}{c}_j^{\left(i\right)}{x}_i},\left(j=1,2,\cdots \right),$

于是可数维线性回归模型式(1)可写为，

$\begin{array}{c}y={\alpha }_1{x}_1+{\alpha }_2{x}_2+\cdots +{\alpha }_n{x}_n+{\alpha }_{n+1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{c}_1^{\left(i\right)}{x}_i}+{\alpha }_{n+2}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{c}_2^{\left(i\right)}{x}_i}+\cdots +\epsilon \\ =\left({\alpha }_1+{\alpha }_{n+1}{c}_1^{\left(1\right)}+{\alpha }_{n+2}{c}_2^{\left(1\right)}+\cdots \right)x_1+\left({\alpha }_2+{\alpha }_{n+1}{c}_1^{\left(2\right)}+{\alpha }_{n+2}{c}_2^{\left(2\right)}+\cdots \right)x_2\\ +\cdots +\left({\alpha }_n+{\alpha }_{n+1}{c}_1^{\left(n\right)}+{\alpha }_{n+2}{c}_2^{\left(n\right)}+\cdots \right)x_n+\epsilon \\ =\left({\alpha }_i+{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\alpha }_{n+j}{c}_j^{\left(i\right)}}\right)x_i+\epsilon \left(i=1,2,\cdots ,n\right)\end{array}$

注意到基中的元素可根据具体问题背景，选取对被解释变量y有显著影响的主要变量，这意味着其余解释变量对y影响微弱，因此我们可以假设级数 ${\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\alpha }_{n+j}{c}_j^{\left(i\right)}}$ 收敛，并令 ${\alpha }_i+{\displaystyle \underset{j=1}{\overset{\infty }{\sum }}{\alpha }_{n+j}{c}_j^{\left(i\right)}}={\beta }_i,\left(i=1,2,\cdots ,n\right)$，则可数维线性回归模型式(1)可进一步写为，

$y={\beta }_1{x}_1+{\beta }_2{x}_2+\cdots +{\beta }_n{x}_n+\epsilon .$

由于本文是初次探索可数维线性回归模型参数估计的问题，且偏重于理论研究，所以尚未找到适当的仿真例子来说明文中方法的有效性，我们期望在后续的研究工作中能就此有所突破 [9] [10] [11]。

5. 结论

本文所讨论的是在一定条件下，建立可数维线性回归模型，假设其试验样本值是已知的情况下，寻求可数维线性模型中的回归系数的参数估计。在已知随机变量的试验样本值后，将正交分解定理与线性回归模型参数估计相结合，通过实Hilbert空间中的正交分解定理，导出一个关于模型参数估计的可数维线性方程组，并推导得出该线性方程组的唯一解，即利用实Hilbert空间中的正交分解寻求可数维线性回归模型参数估计 [12] [13]。

基金项目

云南省教育厅科学研究基金项目(2018JS314)。

NOTES

^*通讯作者。