部分线性可加模型的随机约束岭估计

A Stochastic Restricted Ridge Estimator in Partially Linear Additive Models

摘要: 本文研究了部分线性可加模型这类半参数模型在线性部分自变量存在多重共线性，同时还附加有随机约束条件时的估计问题。基于针对半参数模型的Profile最小二乘技术，处理多重共线性问题的岭估计方法以及针对随机约束的混合估计技术，构造了参数分量的随机约束岭估计，给出了估计量的偏与协方差，并给出了所提估计量的渐近性质。最后通过数值模拟验证了所提估计方法的表现。

Abstract: This paper studies the estimation of a partially linear additive model when there are stochastic linear restrictions on the parameter components and multicollinearity problem exists, simultaneously. Based on the profile least square method of semiparametric model, ridge estimation approach for multicollinearity problem and mixed estimation technique for stochastic restrictions, a stochastic ridge estimator for the parametric components was proposed and its bias and covariance were provided. Meanwhile, the asymptotic distribution of this proposed estimator has also been proved. Finally, some simulations are carried out to study the finite properties of the proposed estimator.

1. 引言

作为可加模型的推广，部分线性变系数模型近年来受到了广泛的关注，在理论和应用上都得到了深入的研究。该模型一般记为如下形式

$Y_i=X_i^{\text{T}}\beta +m_1\left(Z_{1i}\right)+\cdots +m_q\left(Z_{qi}\right)+{\epsilon }_i,i=1,2,\cdots ,n,$ (1)

其中 $Y_i$ 是因变量观测值， $X_i$ 是 $p\times 1$ 的自变量观测值， $\beta ={\left({\beta }_1,{\beta }_2,\cdots ,{\beta }_p\right)}^{\text{T}}$ 是对应的未知回归系数， $Z_{ki}$ 是一元连续性变量观测值， $m_1(\cdot ),\cdots ,m_q(\cdot )$ 是未知的非参数光滑参数，模型误差 ${\epsilon }_i$ 相互独立且均值为零和方差为 ${\sigma }^2$。

对于半参数模型(1)，模型中回归系数和非参数函数的估计是一个重要的任务，基于不同的估计思想，已经有多种方法提出，包括Ospomer和Ruppert (1999) [1] 提出的backfitting方法、Li (2000) [2] 所使用的级数估计方法，Manzan和Zerom (2005) [3] 提出的边际积分方法以及Wei和Liu (2012) [4] 使用的Profile最小二乘方法。

使用回归模型分析实际数据的过程中，经常会遇到多重共线性问题，原因是变量之间存在较强的线性关系。多重共线性的存在对回归模型的统计推断结果有直接的影响，能将问题分析带入歧途，比如在理论上最小二乘估计依然是最小方差线性无偏估计，但此时估计量的方差很大，即估计量的均方误差很大。在回归分析结果中的直接体现就是未知系数的估计值绝对值偏大或者其正负号与实际意义相反。为了解决上面存在的问题，目前有多种处理思路，比如包括对自变量的剔除，构造系数的有偏估计，以牺牲估计量的无偏性换取估计量均方误差的降低。使用较多的有偏估计方法包括常见的岭估计和主成分估计，以及Liu (1993) [5] 提出的Liu估计。此外，分析实际研究中有时还能从问题本身以及已有研究中得到一些额外的信息，如果能将这些额外信息纳入到模型推断中，则有助于提高模型的推断结果。附加额外信息，常常可以转化为对回归系数的约束问题，从而有了回归模型的精确线性约束估计，随机约束估计，以及不等式约束估计。如何在多重共线性和附加额外信息同时存在的情况下对模型进行估计得到了关注。

对于模型(1)，其线性部分存在多重共线性时的估计问题得到了重视。Wei和Wang (2016) [6] 给出了参数分量的Liu估计及其约束Liu估计的渐近性质，Wei (2016) [7] 研究了参数分量的随机约束估计及其性质，在此基础上，王肖南和魏传华(2016) [8] 构造了模型中参数分量的随机约束Liu估计。

相比于Liu估计，模型(1.1)的岭估计研究相对较少，蓝文英(2013) [9] 基于backfitting方法给出了参数分量的岭估计和约束岭估计。为了更进一步研究模型(1)的岭估计，本文在上述研究基础上将给出模型(1.1)在线性部分存在多重共线性且存在随机约束下的估计问题，提出参数分量的随机约束岭估计，并给出估计量的渐近性质。研究将Özkale (2009) [10] 的结果从线性回归模型推广到了部分线性可加模型。与此类似的是魏传华等(2014) [11] 和刘超等(2017) [12] 分别研究了部分线性模型和部分线性变系数模型的随机约束岭估计。

同Özkale (2009)等文献一样，随机约束条件表述为如下形式

$b=A\beta +\eta$ (2)

其中 $b$ 是 $k\times 1$ 的已知向量， $A$ 是一个已知的 $k\times p$ 行满秩矩阵。 $\eta$ 为均值为 $0$ 协方差矩阵为 ${\sigma }^2\Omega$ 的随机向量，其中 $\Omega$ 为一已知正定矩阵。针对模型(1)~(2)，我们将重点研究参数分量 $\beta$ 的估计问题。因此本文是Wei (2016) [7] 和蓝文英(2013) [9] 的推广。

第2节提出部分线性可加模型中参数部分的随机约束岭估计，并研究其渐近性质。第3节利用数值模拟考察所提估计方法的有效性，第4节给出结论。

2. 随机约束岭估计及其性质

为了构造模型的随机约束岭估计，首先介绍Profile最小二乘技术。为了方便叙述，假定模型(1.1)中 $q=2$，设 ${\left\{Y_i,X_i,Z_{1i},Z_{2i}\right\}}_{i=1}^n$ 来自于模型(1.1)，则有

$Y_i=X_i^{\text{T}}\beta +m_1\left(Z_{1i}\right)+m_2\left(Z_{2i}\right)+{\epsilon }_i,i=1,2,\cdots ,n.$ (3)

假定模型(3)中的参数分量 $\beta ={\left({\beta }_1,{\beta }_2,\cdots ,{\beta }_p\right)}^{\text{T}}$ 已知，则模型(3)可以写成如下一个标准的可加模型：

$Y_i-X_i^{\text{T}}\beta =m_1\left(Z_{1i}\right)+m_2\left(Z_{2i}\right)+{\epsilon }_i,i=1,2,\cdots ,n.$ (4)

对 $k=1,2$，记

$Y=\left[\begin{array}{c}{Y}_1\\ Y_2\\ ⋮\\ Y_n\end{array}\right],X=\left[\begin{array}{c}{X}_1^{\text{T}}\\ X_2^{\text{T}}\\ ⋮\\ X_n^{\text{T}}\end{array}\right],m_k=\left[\begin{array}{c}{m}_k\left(Z_{k1}\right)\\ m_k\left(Z_{k2}\right)\\ ⋮\\ m_k\left(Z_{kn}\right)\end{array}\right],D_{Z_k}^k=\left[\begin{array}{cc}1& \left(Z_{k1}-Z_k\right)/h_k\\ 1& \left(Z_{k2}-Z_k\right)/h_k\\ ⋮& ⋮\\ 1& \left(Z_{kn}-Z_k\right)/h_k\end{array}\right].$

由局部线性估计方法的原理，关于第k个非参数函数的局部线性光滑矩阵可记为：

$S_k=\left[\begin{array}{c}{e}_1^{\text{T}}{\left\{D_{Z_{k1}}^{k\text{T}}{K}_{Z_{k1}}{D}_{Z_{k1}}^k\right\}}^{-1}{D}_{Z_{k1}}^{\text{T}}{K}_{Z_{k1}}\\ e_1^{\text{T}}{\left\{D_{Z_{k2}}^{k\text{T}}{K}_{Z_{k2}}{D}_{Z_{k2}}^k\right\}}^{-1}{D}_{Z_{k2}}^{\text{T}}{K}_{Z_{k2}}\\ ⋮\\ e_1^{\text{T}}{\left\{D_{Z_{kn}}^{k\text{T}}{K}_{Z_{kn}}{D}_{Z_{kn}}^k\right\}}^{-1}{D}_{Z_{kn}}^{\text{T}}{K}_{Z_{kn}}\end{array}\right],$

其中 $e_1={\left(1,0\right)}^{\text{T}}$， $K_{Z_k}=\text{diag}\left\{K_{h_k}\left(Z_{k1}-Z_k\right),K_{h_k}\left(Z_{k2}-Z_k\right),\cdots ,K_{h_k}\left(Z_{kn}-Z_k\right)\right\}$，这里

$K_{h_k}(\cdot )=K\left(\cdot /h_k\right)/h_k$， $K(\cdot )$ 是核函数， $h_k$ 是窗宽。由Opsomer和Ruppert (1997) [13] 可知，未知的非参数函数 $m_k$ 可通过求解如下方程得到：

$\left[\begin{array}{cc}{I}_n& S_1^{*}\\ S_2^{*}& I_n\end{array}\right]\left[\begin{array}{c}{m}_1\\ m_2\end{array}\right]=\left[\begin{array}{c}{S}_1^{*}\\ S_2^{*}\end{array}\right]\left(Y-X\beta \right),$ (5)

其中 $S_k^{*}=\left(I_n-11^{\text{T}}\right)S_k$， $k=1,2$。进一步我们可以得到 $m_1$ 和 $m_2$ 的backfitting估计为：

${\hat{m}}_1=W_1\left(Y-X\beta \right),{\hat{m}}_2=W_2\left(Y-X\beta \right)$ (6)

$W_1=I_n-{\left(I_n-S_1^{*}{S}_2^{*}\right)}^{-1}\left(I_n-S_1^{*}\right),W_2=I_n-{\left(I_n-S_2^{*}{S}_1^{*}\right)}^{-1}\left(I_n-S_2^{*}\right).$

将 ${\hat{m}}_1$ 和 ${\hat{m}}_2$ 代入模型(3)，可得如下线性回归模型

${\bar{Y}}_i={\bar{X}}_i^{\text{T}}\beta +{\epsilon }_i,i=1,2,\cdots ,n,$ (7)

其中 $\bar{Y}={\left({\bar{Y}}_1,\cdots ,{\bar{Y}}_n\right)}^{\text{T}}=\left(I_n-S\right)Y,\bar{X}={\left({\bar{X}}_1,\cdots ,{\bar{X}}_n\right)}^{\text{T}}=\left(I_n-S\right)X$ 和 $S=W_1+W_2$。

使用最小二乘法估计线性模型(7)，从而得到线性部分回归系数 $\beta$ 的profile最小二乘估计

$\hat{\beta }=\underset{\beta \in R^p}{\text{arg}\min }\left[{\left(\bar{Y}-\bar{X}\beta \right)}^{\text{T}}\left(\bar{Y}-\bar{X}\beta \right)\right]={\left({\bar{X}}^{\text{T}}\bar{X}\right)}^{-1}{\bar{X}}^{\text{T}}\bar{Y}.$ (8)

下面我们在模型(7)上考虑随机约束条件(2)，构造随机约束岭估计，类似于Özkale (2009) [10]、魏传华等(2014) [11] 和刘超等(2017) [12]，构造如下的目标函数

$L\left(\beta \right)=\underset{\beta \in R^p}{\text{arg}\min }\left\{{\left(\bar{Y}-\bar{X}\beta \right)}^{\text{T}}\left(\bar{Y}-\bar{X}\beta \right)+k{\beta }^{\text{T}}\beta +{\left(b-A\beta \right)}^{\text{T}}{\Omega }^{-1}\left(b-A\beta \right)\right\}$

求取函数 $L\left(\beta \right)$ 关于 $\beta$ 的偏导数，并令其等于零，有

$\frac{\partial L\left(\beta \right)}{\partial \beta }=-2{\bar{X}}^{\text{T}}\bar{Y}+2{\bar{X}}^{\text{T}}\bar{X}\beta +2k\beta -2A^{\text{T}}{\Omega }^{-1}\left(b-A\beta \right)=0$ (9)

求解(9)，整理可得 $\beta$ 的随机约束岭估计为

${\hat{\beta }}_R^S\left(k\right)={\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p+A^{\text{T}}{\Omega }^{-1}A\right)}^{-1}\left({\bar{X}}^{\text{T}}\bar{Y}+A^{\text{T}}{\Omega }^{-1}b\right)$ (10)

记 $E={\bar{X}}^{\text{T}}\bar{X}+k{I}_p$，由Rao等(2008) [14] 中的定理A.18(iii)，可得

${\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p+A^{\text{T}}{\Omega }^{-1}A\right)}^{-1}=E^{-1}-E^{-1}{A}^{\text{T}}{\left(\Omega +A{E}^{-1}{A}^{\text{T}}\right)}^{-1}A{E}^{-1}$ (11)

将(11)式代入(10)式整理可得 ${\hat{\beta }}_R^S\left(k\right)$ 的另外一种等价形式为：

${\hat{\beta }}_R^S\left(k\right)={\hat{\beta }}_R\left(k\right)-{\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p\right)}^{-1}{A}^{\text{T}}{\left[\Omega +A{\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p\right)}^{-1}{A}^{\text{T}}\right]}^{-1}\left[A\left(k\right)-{\hat{\beta }}_R\left(k\right)b\right]$ (12)

其中 ${\hat{\beta }}_R\left(k\right)={\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p\right)}^{-1}{\bar{X}}^{\text{T}}\bar{Y}$ 是 $\beta$ 的岭估计。

下面给出 ${\hat{\beta }}_R^S\left(k\right)$ 的一些理论性质。

定理1. 参数分量 $\beta$ 的Profile混合岭估计 ${\hat{\beta }}_R^S\left(k\right)$ 有如下性质

$\text{Bias}\left({\hat{\beta }}_R^S\left(k\right)\right)=\beta -k{S}_{sr}^{-1}\beta +S_{sr}^{-1}{\bar{X}}^{\text{T}}\left(I_n-S\right)M,$

$\text{Cov}\left[{\hat{\beta }}_R^S\left(k\right)\right]=S_{sr}^{-1}\Psi S_{sr}^{-1}$

其中： $S_{sr}={\bar{X}}^{\text{T}}\bar{X}+k{I}_p+A^{\text{T}}{\Omega }^{-1}A,M=m_1+m_2$，

$\Psi ={\sigma }^2\left[{\bar{X}}^{\text{T}}\left(I_n-S\right){\left(I_n-S\right)}^{\text{T}}\bar{X}+A^{\text{T}}{\Omega }^{-1}A\right]$

证明：根据 ${\hat{\beta }}_R^S\left(k\right)$ 估计的表达式(12)可知

$\begin{array}{c}{\hat{\beta }}_R^S\left(k\right)={\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p+A^{\text{T}}{\Omega }^{-1}A\right)}^{-1}\left({\bar{X}}^{\text{T}}\bar{Y}+A^{\text{T}}{\Omega }^{-1}b\right)\\ =S_{sr}^{-1}\left({\bar{X}}^{\text{T}}\bar{Y}+A^{\text{T}}{\Omega }^{-1}b\right)\\ =S_{sr}^{-1}\left[{\bar{X}}^{\text{T}}\left(I_n-S\right)X\beta +{\bar{X}}^{\text{T}}\left(I_n-S\right)M+{\bar{X}}^{\text{T}}\left(I_n-S\right)\epsilon +A^{\text{T}}{\Omega }^{-1}\left(A\beta +\eta \right)\right]\\ =\beta +S_{sr}^{-1}\left[-k\beta +{\bar{X}}^{\text{T}}\left(I_n-S\right)M+{\bar{X}}^{\text{T}}\left(I_n-S\right)\epsilon +A^{\text{T}}{\Omega }^{-1}\eta \right]\end{array}$

由 $\text{E}\epsilon =0,\text{E}\eta =0,\text{Cov}\left(\epsilon \right)={\sigma }^2{I}_n$ 和 $\text{Cov}\left(\eta \right)={\sigma }^2\Omega$，我们有

$\text{Bias}\left[{\hat{\beta }}_R^S\left(k\right)\right]=E\left[{\hat{\beta }}_R^S\left(k\right)\right]-\beta =S_{sr}^{-1}\left[-k\beta +{\bar{X}}^{\text{T}}\left(I_n-S\right)M\right],$

$\text{Cov}\left[{\hat{\beta }}_R^S\left(k\right)\right]=E\left[\left({\hat{\beta }}_R^S\left(k\right)-E{\hat{\beta }}_R^S\left(k\right)\right){\left({\hat{\beta }}_R^S\left(k\right)-E{\hat{\beta }}_R^S\left(k\right)\right)}^{\text{T}}\right]=S_{sr}^{-1}\Psi S_{sr}^{-1}.$

在给出定理2之前先给出一些假设条件：

条件1. 核函数 $K(\cdot )$ 为对称密度函数，具有紧支撑。

条件2. $Z_k$ 的密度函数 $f_k\left(Z_k\right)$ 是Lipschitz连续且有有界支撑 ${\Omega }_k,k=1,2$。

条件3. $m_k(\cdot ),k=1,2$ 具有二阶连续导数。

条件4. $n\to \infty$ 时， $h_k\to 0$ 时， $n{h}_k/\log n\to \infty$ 和 $n{h}_k^8\to 0,k=1,2$。

定理2. 在满足以上条件1~4假设下，随机约束岭估计 ${\hat{\beta }}_R^S\left(k\right)$ 是渐近正态的， $\sqrt{n}\left({\hat{\beta }}_R^S\left(k\right)-\beta \right)\stackrel{D}{\to }N\left(0,{\sigma }^2{\Sigma }^{-1}\right)$。

其中 $\Sigma =E\left[X_i-{\displaystyle \underset{k=1}{\overset{2}{\sum }}E}\left(X_i|Z_{ki}\right)\right]{\left[X_i-{\displaystyle \underset{k=1}{\overset{2}{\sum }}E}\left(X_i|Z_{ki}\right)\right]}^{\text{T}}$。

证明：由定理1中的结论可知，

$\sqrt{n}\left({\hat{\beta }}_R^S\left(k\right)-\beta \right)={\left(\frac{S_{sr}}{n}\right)}^{-1}\frac{1}{\sqrt{n}}\left[-k\beta +{\bar{X}}^{\text{T}}\left(I_n-S\right)M+{\bar{X}}^{\text{T}}\left(I_n-S\right)\epsilon +A^{\text{T}}{\Omega }^{-1}\eta \right]$

根据Wei和Liu (2012) [4] 中引理6.2知，

$\frac{1}{n}\left({\bar{X}}^{\text{T}}\bar{X}\right)\stackrel{p}{\to }\Sigma ,$

此外有 $\frac{1}{n}{A}^{\text{T}}{\Omega }^{-1}A=o_p\left(1\right)$，结合以上式子易知：

$\frac{1}{n}\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p+A^{\text{T}}{\Omega }^{-1}A\right)\stackrel{p}{\to }\Sigma .$ (13)

由Wei和Liu (2012) [4] 中的引理6.3，我们有

$\frac{1}{\sqrt{n}}{\bar{X}}^{\text{T}}\left(I_n-S\right)M=o_p\left(1\right),\frac{1}{\sqrt{n}}{\bar{X}}^{\text{T}}\left(I_n-S\right)\epsilon \stackrel{D}{\to }N\left(0,{\sigma }^2\Sigma \right)$ (14)

事实上， $\text{E}{A}^{\text{T}}{\Omega }^{-1}\eta =0,\text{Cov}\left(A^{\text{T}}{\Omega }^{-1}\eta \right)=A^{\text{T}}{\Omega }^{-1}A$，则有

$\frac{1}{\sqrt{n}}{A}^{\text{T}}{\Omega }^{-1}\eta =o_p\left(1\right)$ (15)

因此结合(13)，(14)和(15)，根据Slutsky定理可得

$\sqrt{n}\left({\hat{\beta }}_R^{\text{PM}}\left(k\right)-\beta \right)\stackrel{D}{\to }N\left(0,{\sigma }^2{\Sigma }^{-1}\right).$

注2.1. 当 $\Omega =0$ 时，随机约束条件(1.2)转化为精确的线性约束条件 $A\beta =b$，此时由(11)式变为

${\hat{\beta }}_R^S\left(k\right)={\hat{\beta }}_R\left(k\right)-{\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p\right)}^{-1}{A}^{\text{T}}{\left[A{\left({\bar{X}}^{\text{T}}\bar{X}+k{I}_p\right)}^{-1}{A}^{\text{T}}\right]}^{-1}\left(A{\hat{\beta }}_R\left(k\right)-b\right).$

该估计就是Wei和Wang (2016) [6] 针对部分线性可加模型在精确约束条件下构造的profile最小二乘约束岭估计。

3. 数值模拟

本节将通过Monte Carlo数值模拟的方法对所提出的估计进行有效性检验。考虑如下的部分线性可加模型产生数据：

$y_i=x_{1i}{\beta }_1+x_{2i}{\beta }_2+x_{3i}{\beta }_3+x_{4i}{\beta }_4+x_{5i}{\beta }_5+m_1\left(z_{1i}\right)+m_2\left(z_{2i}\right)+{\epsilon }_i,i=1,2,\cdots ,n,$

同Wei (2016) [7] 中的设置一样，模型中自变量和非参数函数进行如下设定 $z_{1i}\sim U\left(0,1\right),z_{1i}\sim U\left(-1,1\right),m_1\left(z_{1i}\right)=\sin \left(2\pi z_{1i}\right),m_2\left(z_{2i}\right)=z_{2i}^3+3z_{2i}^2-5z_{2i}-1$ $\beta ={\left(2,1,1,3\right)}^{\text{T}}$ 为了构造多重共线性，运用McDonald和Galerneau (1975) [15] 中生成具有多重共线性自变量的方法生成解释变量 $x_1,x_2,\cdots ,x_4$，具体为：

$x_{ij}={\left(1-{\rho }^2\right)}^{1/2}{\omega }_{ij}+\rho {\omega }_{i\left(p+1\right)},i=1,2,\cdots ,n;j=1,\cdots ,p$

其中， ${\omega }_{ij}$ 是独立的标准正态随机数， $\rho$ 是一个具体的数值以确保任何四个解释变量在理论上是相关的，分别取 $\rho =0.90,0.99,0.999$ 刻画不同程度的复共线性问题。样本量n = 50，80和120三种情形。为了考察模型误差的分布对估计结果的影响，选取模型误差 ${\epsilon }_i$ 服从如下的正态分布和均匀分布1) ${\epsilon }_i\sim N\left(0,{0.5}^2\right)$，

2) ${\epsilon }_i\sim U\left(-\frac{\sqrt{3}}{2},\frac{\sqrt{3}}{2}\right)$。模拟中核函数选用Epanechnikov核： $K\left(x\right)=0.75\left(1-x^2\right)I_{\left|x\right|\le 1}$，为了计算方便，窗

宽设定为 $h_1=h_2=n^{-1/5}$。随机约束的设定同刘超等(2017) [12] 一样，参数分量 $\left({\beta }_1,{\beta }_2,{\beta }_3,{\beta }_4\right)=\left(2,1,3,3\right)$，随机约束设定为

$E{\eta }_1=E{\eta }_2=0,Var\left({\eta }_1\right)=0.04,Var\left({\eta }_2\right)=0.16,Cov\left({\eta }_1,{\eta }_2\right)=0.2,$

$A=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& -1& 0\end{array}\right],\Omega =\left[\begin{array}{cc}0.04& 0.016\\ 0.016& 0.16\end{array}\right]$

针对上面的具体设定，每种情况都重复进行500次模拟，每次求取参数分量

$\left({\beta }_1,{\beta }_2,{\beta }_3,{\beta }_4\right)$ 的profile最小二乘估计(PLS)、随机约束估计(S)、岭估计(R)和提出的随机约束岭估计(SR)，对于 $\beta =\left\{{\beta }_1,{\beta }_2,{\beta }_3,{\beta }_4\right\}$ 的估计 ${\beta }^{*}=\left\{{\beta }_1^{*},{\beta }_2^{*},{\beta }_3^{*},{\beta }_4^{*}\right\}$，以其估计均方误差(EMSE)来衡量其表现，

$\text{EMSE}\left({\beta }^{*}\right)=\frac{1}{500}{\displaystyle \underset{k=1}{\overset{500}{\sum }}{\displaystyle \underset{j=1}{\overset{4}{\sum }}{\left({\beta }_{kj}^{*}-{\beta }_j\right)}^2}}$

其中 ${\beta }_{kj}^{*}$ 是参数 ${\beta }_j$ 的第k次重复时的估计值，模拟结果见表1。

Table 1. EMSEs of the estimators

表1. 不同估计量的EMSEs

从模拟结果不难看出，随着样本量的增加，四类估计的EMSE都在变小，同时模型误差的分布对结果影响很小。四类估计之间对比，随着共线性程度变高，随机约束岭估计的EMSE比其他三类估计显著的小，从而反映了所提方法的有效性。

4. 总结

作为非参数回归和线性回归模型的推广，部分线性模型、可加模型、变系数和单指标模型等半参数模型近年来得到了广泛的关注。对于这些半参数模型的研究，较少讨论变量的多重共线性问题。本文针对部分线性可加模型这一半参数模型，研究了附加随机约束条件时的有偏估计问题，构造了线性部分回归系数的随机约束岭估计，并研究了估计量的性质。

半参数模型的模型结构对比线性回归模型更为复杂，在自变量存在多重共线性的情况下，如何构造有效的有偏估计量是实际分析中不可回避的问题。

基金项目

中国劳动关系学院教育教学改革立项项目(JG1406)；2020年度安徽高等学校自然科学项目 (KJ2020A1200)。