右删失数据条件密度函数的非参数估计

Nonparametric Conditional Density Estimation for Right-Censored Data

摘要: 本文考虑响应变量受到随机右删失的回归模型，在右删失数据与未受删失影响数据条件独立的情况下，构造了一种右删失数据条件密度函数的非参数估计量，进而得到该估计量的一致强相合性及其收敛速度，最后通过模拟探究了估计量的估计效果。

Abstract: In this paper, we consider a regression model in which the response is subject to random right censored. Under the assumption that survival time and censored time are conditional independent, we construct a nonparametric conditional density estimator. The uniform strong consistency of the conditional density estimator and its convergence rate are derived. Finally, we study the accuracy of the estimator.

1. 引言

研究响应变量和解释变量之间的关系是统计分析中重要的一部分，在研究中通常建立回归函数来解释这种关系。在生存分析或可靠性研究中经常会遇到右删失数据，因此有大量的文献研究右删失数据的非参数模型。本文中记解释变量为X，响应变量为Y，T为未受到删失的变量，C为删失变量，观测样本记 $Y_i$， $Y_i=\min \left\{T_i,C_i\right\}$，此处 $Y_i=\min \left\{T_i,C_i\right\}$ 以及 ${\delta }_i={\mathbb{I}}_{\left\{T_i\le C_i\right\}}$， ${\mathbb{I}}_A$ 为集合A的示性函数。在一般情况下，删失变量C与解释变量和响应变量 $\left(X,T\right)$ 并不是独立的，但在给定的情况下，C与T条件独立，即与独立。

在非参数统计推断领域中，条件密度函数的估计不仅在给定解释变量时对响应变量的预测发挥着重要作用，并且它是探索解释与响应变量之间所有关系的基本工具。Tjøstheim (1994) [1] 和Polonik and Yao (2000) [2] 对条件密度函数进行直接估计。Hyndman et al. (1996) [3] 中提出了条件密度的核估计方法。Hyndman和Yao (2002) [4] 提出了对于条件密度估计中选择平滑系数简单且有效的方法。Gooijer和Zerom (2003) [5] 的Nadaraya-Watson估计量。但这些文章中所研究的都是完整的观测值，删失变量的非参数估计可以回溯到Kaplan和Meier (1958) [6] 提出T的生存函数，之后多位学者证明了此估计量的弱收敛性、一致收敛速度等性质。在Beran (1981) [7] 了在右删失数据下条件密度函数的非参数回归估计估计量。Gonzalez (1994) [8] 此估计量的一些渐近性质及应用。Khardani和Semmar (2014) [9] 在C与 $\left(X,T\right)$ 独立情况下非参数条件密度函数核估计，但其对 ${\left(C_i\right)}_i$ 和 ${\left(X_i,T_i\right)}_i$ 的独立性假设太强。因此，本文将其独立性假设放松为 ${\left(C_i\right)}_i$ 和给定 ${\left(X_i\right)}_i$ 的 ${\left(T_i\right)}_i$ 之间的独立性假设。

本文研究的主要目的是当响应变量Y为右删失数据时，构造条件密度函数的非参数估计量，证明估计量的一致强相合性并得出收敛速度。在第二节中，给出本文构造的条件密度函数估计量；第三节中给出本文用到的假设及主要结论，并给出证明；最后对构造的估计量进行模拟，计算其估计误差来验证估计效果。

2. 估计量的构造

考虑n对定义在 ${ℝ}^{\text{d}}\times ℝ$ 上的独立随机变量 $\left(X_i,T_i\right)\left(i=1,2,\cdots ,n\right)$， ${\left(C_i\right)}_{i=1,\cdots ,n}$ 为独立同分布的删失随机变量，且服从未知连续分布函数G。当假设 $\left(X_i,T_i\right)$ 与 $C_i$ 独立时，删失变量的生存函数估计量在Kaplan和Meier (1958) [6] 中被定义为

${\bar{G}}_n\left(t\right)=\{\begin{array}{ll}{\displaystyle \underset{i=1}{\overset{n}{\prod }}{\left(1-\frac{1-{\delta }_{\left(i\right)}}{n-i+1}\right)}^{{\mathbb{I}}_{\left\{Y_{\left(i\right)}\le t\right\}}},}\hfill & t<Y_{\left(n\right)}\hfill \\ 0,\hfill & t\ge Y_{(\; n\; )}\hfill \end{array}$

本文考虑在响应变量 $Y_i$ 是右删失时，研究给定 $X=x$ 时T的非参数条件密度估计。删失变量的条件生存函数在Gonzalez (1994) [8] 中构造的一致收敛到的估计量被定义为

(1)

此处 ${\beta }_i\left(t\right)={\mathbb{I}}_{\left\{Y_i\le t,{\delta }_i=1\right\}}$， $w_i^{NW}\left(x\right)=\frac{h_n^{-1}K\left(\frac{x-X_i}{h_n}\right)}{{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-1}}K\left(\frac{x-X_i}{h_n}\right)}$。

对于 $\left(X,Y,\delta \right)$ 的观测值 $\left(X_i,Y_i,{\delta }_i\right),\cdots ,\left(X_n,Y_n,{\delta }_i\right)$，本文定义条件密度函数的非参数估计为

(2)

此处 ${\tilde{g}}_n\left(x,t\right):=\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)L\left(\frac{t-Y_i}{h_n}\right)K\left(\frac{x-X_i}{h_n}\right)$， ${\mathcal{l}}_n\left(x\right):=\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-d}}K\left(\frac{x-X_i}{h_n}\right)$。

3. 假设与主要结论

3.1. 假设

本文定义 $F(\cdot )$ 和 $G(\cdot )$ 分别为T和C的分布函数且， ${\tau }_F$ 和 ${\tau }_G$ 为生存函数 $\bar{F}$ 和 $\bar{G}$ 的上端点，假设 ${\tau }_F<\infty ,\bar{G}\left({\tau }_F\right)>0$ 并且C与T条件独立，即与独立。我们假设存在一个紧集 $\mathcal{C}\subset {\mathcal{C}}_0=\left\{x\in {ℝ}^{\text{d}},\mathcal{l}\left(x\right)>0\right\}$，此处的 $\mathcal{l}\left(X\right)$ 是解释变量X的边缘密度函数， $\Omega$ 也是一个紧集使得 $\Omega \subset \left(-\infty ,\tau \right],\tau <{\tau }_F\wedge {\tau }_G$。对于平滑系数h，我们设定 $h_n\to 0\left(n\to \infty \right)$。在推导中为了方便表示，将M定义为任意的正常数。

假设A. 核函数K和L是Lipschitz连续函数并且满足紧支撑，且对所有的 $l=1,\cdots ,d$， $u={\left(u_1,\cdots ,u_d\right)}^{\text{T}}$，有

${\displaystyle {\int }_{{ℝ}^{\text{d}}}{u}_l}K\left(u\right)\text{d}u=0,{\displaystyle {\int }_{ℝ}v}L\left(v\right)\text{d}v=0.$ (3)

假设B.

1) X的边缘密度函数 $\mathcal{l}(\cdot )$ 二阶可微且满足Lipschitz条件，对所有的 $x\in \mathcal{C}$ 且 $\Gamma >0$，有 $\mathcal{l}\left(x\right)>0$。

2) $\left(X,T\right)$ 的联合密度函数为 $g\left(\cdot ,\cdot \right)$ 有界函数且二阶可导。

假设C.

1) 数列 $h_n$ 满足 $\underset{n\to \infty }{\lim }{h}_n+\log n/n{h}_n^d=0$。

2) 对一些 $\beta >0$，有 $\underset{n\to \infty }{\lim }{n}^{\beta }{h}_n=\infty$。

3.2. 一致强相合性及收敛速度

定理3.1. 在假设A，B和C下，得到

证明：令

${\tilde{g}}_n\left(x,t\right):=\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\frac{1}{h_n^{\left(d+1\right)}}{\delta }_i{\bar{G}}^{-1}}\left(Y_i|X_i\right)L\left(\frac{t-Y_i}{h_n}\right)K\left(\frac{x-X_i}{h_n}\right)$

定理3.1的证明在以下分解的基础上进行

(4)

引理3.2. 在假设A，B (2)和C下，可以得到

$\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-g\left(x,t\right)\right|=O\left\{\max \left(\sqrt{\frac{\log n}{n{h}_n^{d+1}}},h_n^2\right)\right\}\text{a}\text{.s}\text{.}\left(n\to \infty \right).$

引理3.3. 在假设A，B (1)和C下，可以得到

$\underset{x\in C}{\sup }\left|\mathcal{l}\left(x\right)-{\mathcal{l}}_n\left(x\right)\right|=O\left\{\max \left(\sqrt{\frac{\log n}{n{h}_n^d}},h_n^2\right)\right\}\text{a}\text{.s}\text{.}\left(n\to \infty \right).$

引理3.4. 在假设A，B (2)和C下，可以得到

$\underset{x\in C}{\sup }\underset{t\in \Omega }{\sup }\left|{\hat{g}}_n\left(x,t\right)-{\tilde{g}}_n\left(x,t\right)\right|=O\left(\sqrt{\frac{\log n}{n{h}_n}}+h_n^2\right)\text{a}\text{.s}.\left(n\to \infty \right).$

4. 模拟

在这一部分中通过计算均方误差来观察估计量 $\hat{\varphi }\left(t|x\right)$ 的估计效果。本文利用R语言生成 $\left(X_i,T_i,Y_i,{\delta }_i\right)$ 的n组随机数，其中解释变量 $X_i~N\left(1,{0.5}^2\right)$， $\log T_i=X_i+e_i$，其中 $e_i~N\left(0,1\right)$， $\log C_i=X_i+{ϵ}_i$，其中 ${ϵ}_i~N\left(\mu ,{0.11}^2\right)$，则我们可以获得n组观测值 $\left(X_i,Y_i,{\delta }_i\right)$，此处 $Y_i=\min \left\{T_i,C_i\right\}$ 以及 ${\delta }_i={\mathbb{I}}_{\left\{T_i\le C_i\right\}}$。

Spierdijk (2008) [10] 中利用期望删失数据比例来计算 $\mu$，使得可以借助 $\mu$ 来控制删失数据率。在本节模拟中设定删失数据率分别为10%，30%，50%，计算后 $\mu =1.551,0.63,0$。这与Kim (2010) [11] 中的设定相似。

在计算中 $K\left(x\right)$ 和 $L\left(t\right)$ 均使用Gaussian核函数，估计量的均方误差计算公式为

$\text{MSE}=\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{\left({\hat{\varphi }}_n\left(Y_i|X_i\right)-\varphi \left(Y_i|X_i\right)\right)}^2}.$

删失比例分别为10%、30%和50%的情况下估计量的最小均方误差如表1所示。在计算过程中，我们生成取值在 $\left(0.05,2.00\right)$ 上，间隔为0.01的平滑系数，计算出使得估计量均方误差最小的平滑系数。从表1可以看出，随着删失比例的下降或样本容量的增加，估计量的最小均方误差减小，这与我们的预期相符，因为删失比例的下降或样本容量的增加意味着数据信息的增加。

Table 1. Minimum MSEs of estimator in the different censored rate

表1. 不同删失比例下估计量的最小均方误差

5. 中间结果的证明

5.1. 引理3.2的证明

证明：此处将其分解为两个部分

$\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-g\left(x,t\right)\right|\le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-\mathbb{E}{\tilde{g}}_n\left(x,t\right)\right|+\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|\mathbb{E}{\tilde{g}}_n\left(x,t\right)-g\left(x,t\right)\right|$ (5)

首先来证明

$\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|\mathbb{E}{\tilde{g}}_n\left(x,t\right)-g\left(x,t\right)\right|=O\left(h_n^2\right).$

由于 $Y_i=\min \left\{T_i,C_i\right\}$，对于所有的可测函数 $\varphi$ 以及所有的 $i=1,\cdots ,n$，有

${\mathbb{I}}_{\left\{T_1\le C_1\right\}}\phi \left(Y_1\right)={\mathbb{I}}_{\left\{T_1\le C_1\right\}}\phi \left(T_1\right).$

因此可以得到

$\begin{array}{c}\mathbb{E}{\tilde{g}}_n\left(x,t\right)=n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\frac{1}{h_n^{d+1}}}\mathbb{E}\left\{{\delta }_i{\bar{G}}^{-1}\left(T_i|X_i\right)L\left(\frac{t-T_i}{h_n}\right)K\left(\frac{x-X_i}{h_n}\right)\right\}\\ =n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\frac{1}{h_n^{d+1}}}\mathbb{E}\left\{\mathbb{E}\left[{\mathbb{I}}_{\left\{T_i\le C_i\right\}}|X_i,T_i\right]{\bar{G}}^{-1}\left(T_i|X_i\right)L\left(\frac{t-T_i}{h_n}\right)K\left(\frac{x-X_i}{h_n}\right)\right\}.\end{array}$

由 $\bar{G}\left(T_i|X_i\right)=1-P\left(C_i\le T_i\right)$ 以及 $\mathbb{E}\left[{\mathbb{I}}_{\left\{T_i\le C_i\right\}}|X_i,T_i\right]=P\left(T_i\le C_i\right)$，有

$\begin{array}{c}\mathbb{E}{\tilde{g}}_n\left(x,t\right)=n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\frac{1}{h_n^{d+1}}\mathbb{E}}\left\{L\left(\frac{t-T_i}{h_n}\right)K\left(\frac{x-X_i}{h_n}\right)\right\}\\ =n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{\displaystyle {\int }_{{ℝ}^{\text{d}}}{\displaystyle {\int }_{ℝ}L}}}\left(\frac{t-T_i}{h_n}\right)K\left(\frac{x-X_i}{h_n}\right)g\left(X_i,T_i\right)\text{d}{X}_i\text{d}{T}_i.\end{array}$

通过换元 $u=\left(x-X_i\right)/h_n,v=\left(t-T_i\right)/h_n$，并将g在 $\left(x,t\right)$ 处泰勒展开

$\begin{array}{c}\mathbb{E}{\tilde{g}}_n\left(x,t\right)=n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{\displaystyle {\int }_{{ℝ}^{\text{d}}}{\displaystyle {\int }_{ℝ}K}}}\left(u\right)L\left(v\right)g\left(x-h_{n}u,t-h_{n}v\right)\text{d}u\text{d}v\\ =n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{\displaystyle {\int }_{{ℝ}^{\text{d}}}{\displaystyle {\int }_{ℝ}K}}}\left(u\right)L\left(v\right)[g\left(x,t\right)-u{h}_n{g^{\prime }}_1-h_{n}v{g^{\prime }}_2+\frac{1}{2}{h}_n^2{u}^2{g^{″}}_{11}\\ +\frac{1}{2}{h}_n^{2}uv{g^{″}}_{12}+\frac{1}{2}{h}_n^{2}uv{g^{″}}_{21}+\frac{1}{2}{h}_n^2{v}^2{g^{″}}_{22}]\text{d}u\text{d}v.\end{array}$

由假设可知

${\displaystyle \int K}\left(u\right)\text{d}u=1,{\displaystyle \int L}\left(v\right)\text{d}v=1,$

${\displaystyle \int u}K\left(u\right)\text{d}u=0,{\displaystyle \int v}L\left(v\right)\text{d}v=0.$

于是有

$\begin{array}{c}\left|\mathbb{E}{\tilde{g}}_n\left(x,t\right)-g\left(x,t\right)\right|\le n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\left|{\displaystyle {\int }_{{ℝ}^d}{\displaystyle {\int }_{ℝ}K}}\left(u\right)L\left(v\right)\left[g\left(x-h_{n}u,t-h_{n}v\right)-g\left(x,t\right)\right]\text{d}u\text{d}v\right|}\\ \le M{n}^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^2}\\ \le M{h}_n^2.\end{array}$

因此，

$\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|\mathbb{E}{\tilde{g}}_n\left(x,t\right)-g\left(x,t\right)\right|=O\left(h_n^2\right).$

现在，证明另一部分

$\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-\mathbb{E}{\tilde{g}}_n\left(x,t\right)\right|=O\left(\sqrt{\frac{\log n}{n{h}_n^{\left(d+1\right)}}}\right)$

对任意的 $x\in \mathcal{C}$ 和 $t\in \Omega$，根据 $\tilde{k}\left(x\right)=\arg {\min }_k\Vert x_k-x\Vert$ 和 $\tilde{j}\left(t\right)=\arg {\min }_j\left|t-t_j\right|$ 选取k和j，由于集合 $\mathcal{C}$ 和 $\Omega$ 的紧集性质，对于 ${\left(x_k\right)}_{1\le k\le {\lambda }_n}$ 和 ${\left(t_j\right)}_{1\le j\le {\kappa }_n}$，有

$\mathcal{C}\subset {\displaystyle \underset{k=1}{\overset{{\lambda }_n}{\cup }}\mathcal{B}}\left(x_k,a_n\right)$ 和 $\Omega \subset {\displaystyle \underset{j=1}{\overset{{\kappa }_n}{\cup }}B}\left(t_j,b_n\right)$

其中 ${\lambda }_n~a_n^{-d}$ 和 ${\kappa }_n~b_n^{-1}$ 并且 $a_n=b_n=h_n^{\left(d+3\right)/2}{n}^{-1/2}$。

在这个部分中，将其依照如下分解来分别证明

$\begin{array}{l}\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-\mathbb{E}{\tilde{g}}_n\left(x,t\right)\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-{\tilde{g}}_n\left(x,t_{\tilde{j}}\right)\right|+\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|\mathbb{E}{\tilde{g}}_n\left(x,t_{\tilde{j}}\right)-\mathbb{E}{\tilde{g}}_n\left(x,t\right)\right|\\ +\underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }\left|{\tilde{g}}_n\left(x,t_j\right)-{\tilde{g}}_n\left(x_{\tilde{k}},t_j\right)\right|+\underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }\left|\mathbb{E}{\tilde{g}}_n\left(x_{\tilde{k}},t_j\right)-\mathbb{E}{\tilde{g}}_n\left(x,t_j\right)\right|\\ +\underset{k}{\max }\underset{j}{\max }\left|{\tilde{g}}_n\left(x_k,t_j\right)-\mathbb{E}{\tilde{g}}_n\left(x_k,t_j\right)\right|\\ =:{\mathcal{T}}_{1,n}+{\mathcal{T}}_{2,n}+{\mathcal{T}}_{3,n}+{\mathcal{T}}_{4,n}+{\mathcal{T}}_{5,n}.\end{array}$ (6)

首先对于 $\left({\mathcal{T}}_{1,n}\right)$ ：运用核函数L的Lipschitzian条件可以得到

$\begin{array}{l}\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-{\tilde{g}}_n\left(x,t_{\tilde{j}}\right)\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x\right)\left|L_i\left(t\right)-L_i\left(t_{\tilde{j}}\right)\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }C\left|t-t_{\tilde{j}}\right|\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\frac{1}{h_n}}{h}_n^{-\left(d+1\right)}{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x\right).\end{array}$

由假设可知 $K\left(u\right)$ 是紧支撑的，并且是删失变量的生存函数，则 $K\left(u\right)$ 与均为有界，因此

$\begin{array}{c}\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|{\tilde{g}}_n\left(x,t\right)-{\tilde{g}}_n\left(x,t_{\tilde{j}}\right)\right|\le M{b}_n\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+2\right)}}\\ \le M\frac{b_n}{h_n^{\left(d+2\right)}}\\ =M\frac{h_n^{\left(d+3\right)/2}{n}^{-1/2}}{h_n^{\left(d+2\right)}}\\ =M\sqrt{\frac{1}{n{h}_n^{d+1}}}.\end{array}$

由假设有

$\left({\mathcal{T}}_{1,n}\right)=O\left(\sqrt{\frac{1}{n{h}_n^{d+1}}}\right).$

下面对于 $\left({\mathcal{T}}_{2,n}\right)$

$\begin{array}{l}\underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\left|\mathbb{E}{\tilde{g}}_n\left(x,t_{\tilde{j}}\right)-\mathbb{E}{\tilde{g}}_n\left(x,t\right)\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}\left|\mathbb{E}\left\{{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x\right)L_i\left(t_{\tilde{j}}\right)\right\}-\mathbb{E}\left\{{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x\right)L_i\left(t\right)\right\}\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}\left|{\displaystyle {\int }_{{ℝ}^{\text{d}}}{\displaystyle {\int }_{ℝ}{K}_i}}\left(x\right)g\left(X_i,T_i\right)\left\{L_i\left(t_{\tilde{j}}\right)-L_i\left(t\right)\right\}\text{d}{X}_i\text{d}{T}_i\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}\left|{\displaystyle {\int }_{{ℝ}^{\text{d}}}{\displaystyle {\int }_{ℝ}{K}_i}}\left(x\right)g\left(X_i,T_i\right)\left|t_{\tilde{j}}-t\right|\text{d}{X}_i\text{d}{T}_i\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\underset{t\in \Omega }{\sup }C\left|t_{\tilde{j}}-t\right|\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+2\right)}}\mathbb{E}\left\{K_i\left(x\right)\right\}\\ \le M\frac{b_n}{h_n^{d+1}}.\end{array}$

之后同理可得

$\left({\mathcal{T}}_{2,n}\right)=O\left(\sqrt{\frac{1}{n{h}_n^{d+1}}}\right).$

下面对于 $\left({\mathcal{T}}_{3,n}\right)$

$\begin{array}{l}\underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }\left|{\tilde{g}}_n\left(x,t_j\right)-{\tilde{g}}_n\left(x_{\tilde{k}},t_j\right)\right|\\ \le \underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)L_i\left(t_j\right)\left|K_i\left(x\right)-K_i\left(x_{\tilde{k}}\right)\right|\\ \le \underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }C\left|x-x_{\tilde{k}}\right|\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)L_i\left(t_j\right)\\ \le M{a}_n\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+2\right)}}\\ \le M\frac{a_n}{{\left(h_n^{-}\right)}^{d+2}}.\end{array}$

之后同理可得

$\left({\mathcal{T}}_{3,n}\right)=O\left(\sqrt{\frac{1}{n{h}_n^{d+1}}}\right).$

之后对于 $\left({\mathcal{T}}_{4,n}\right)$

$\begin{array}{l}\underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }\left|\mathbb{E}{\tilde{g}}_n\left(x_{\tilde{k}},t_j\right)-\mathbb{E}{\tilde{g}}_n\left(x,t_j\right)\right|\\ \le \underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}\left|\mathbb{E}\left\{{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x_{\tilde{k}}\right)L_i\left(t_j\right)\right\}-\mathbb{E}\left\{{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x\right)L_i\left(t_j\right)\right\}\right|\\ \le \underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}\mathbb{E}\left\{L_i\left(t_j\right)\left|K_i\left(x_{\tilde{k}}\right)-K_i\left(x\right)\right|\right\}\\ \le \underset{j}{\max }\underset{x\in \mathcal{C}}{\sup }C\left|x_{\tilde{k}}-x\right|\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+1\right)}}\mathbb{E}\left\{L_i\left(t_j\right)\right\}\\ \le M{a}_n\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{h}_n^{-\left(d+2\right)}}.\end{array}$

同理可得

$\left({\mathcal{T}}_{4,n}\right)=O\left(\sqrt{\frac{1}{n{h}_n^2}}\right).$

最后对 $\left({\mathcal{T}}_{5,n}\right)$ 进行证明，对所有的 $1\le i\le n,1\le k\le {\lambda }_n,1\le j\le {\kappa }_n$，令

$U_i=U_i\left(x_k,t_j\right):=\left\{h_n^{-\left(d+1\right)}{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x\right)L_i\left(t\right)-\mathbb{E}\left[h_n^{-\left(d+1\right)}{\delta }_i{\bar{G}}^{-1}\left(Y_i|X_i\right)K_i\left(x\right)L_i\left(t\right)\right]\right\}.$

由于核函数K和L以及 $g\left(\cdot ,\cdot \right)$ 均为有界函数，则有

$\left|U_i\right|\le \frac{C}{h_n^{\left(d+1\right)}}=M.$

以及

$\begin{array}{c}\mathrm{Var}\left(U_i\right)=\mathbb{E}\left(U_i^2\right)-{\mathbb{E}}^2\left(U_i\right)\\ \le \frac{C}{h_n^{d+1}}\left\{\mathbb{E}\left[K_i^2\left(x\right)L_i^2\left(t\right)\right]-{\mathbb{E}}^2\left[K_i\left(x\right)L_i\left(t\right)\right]\right\}\\ \le C{h}_n^{d+1}{\displaystyle {\int }_{{ℝ}^{\text{d}}}{\displaystyle {\int }_{ℝ}{K}^2}}\left(u\right)L^2\left(v\right)g\left(x_k-u{h}_n,t_j-v{h}_n\right)\text{d}u\text{d}v\\ \le \frac{C}{h_n^{\left(d+1\right)}}:={\sigma }^2.\end{array}$

在此简要介绍Berstein不等式Hoeffding (1994) [12] (式2.13)： $X_i,\cdots ,X_n$ 为X的独立样本， $\mathbb{E}X=0$， $\mathbb{E}{X}^2={\sigma }^2$， $\left|X\right|<M$，M为常数，且 $t\ge 0$，则

$\mathbb{P}\left(n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{X}_i}\ge t\right)\le \exp \left(-\left(\frac{nt}{M}\right)h\left(\frac{Mt}{{\sigma }^2}\right)\right)$ (7)

其中对于所有的 $u>0$，有 $h\left(u\right)=3u/\left(6+2u\right)$。

因此，使用Berstein不等式，对于所有的 $ϵ>0$ 有

$\mathbb{P}\left\{\left|n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{U}_i}\right|>ϵ\right\}\le 2\exp \left\{-\left(\frac{nϵ}{M}\right)h\left(\frac{Mϵ}{{\sigma }^2}\right)\right\}.$

现在，令 $ϵ={ϵ}_0{\left(\log n/n{h}_n^{-\left(d+1\right)}\right)}^{1/2}$，则对于任意的 $\left(k,j\right)$ 可以得到

$\begin{array}{c}\mathbb{P}\left\{\left|n^{-1}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{U}_i}\right|>ϵ\right\}\le 2\exp \left\{\frac{2n{ϵ}^2}{6{\sigma }^2+2Mϵ}\right\}\\ \le 2\exp \left\{-\frac{3{ϵ}_0^2\log n}{3c+c_0}\right\}\\ \le 2n^{-C{ϵ}_0^2}.\end{array}$

接下来利用 $\mathbb{P}\left({\cup }_i{A}_i\right)\le {\displaystyle {\sum }_i\mathbb{P}}\left(A_i\right)$，可以得到

$\begin{array}{l}\mathbb{P}\left\{\underset{k=1,\cdots ,{\lambda }_n}{\max }\underset{j=1,\cdots ,{\kappa }_n}{\max }\left|\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{U}_i}\left(x_k,t_j\right)\right|>ϵ\right\}\\ \le {\displaystyle \underset{k=1}{\overset{{\lambda }_n}{\sum }}{\displaystyle \underset{k=1}{\overset{{\kappa }_n}{\sum }}\mathbb{P}}}\left\{\left|\frac{1}{n}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{U}_i}\left(x_k,t_j\right)\right|>ϵ\right\}\\ \le \mathcal{C}{\lambda }_n{\kappa }_n{n}^{-C{ϵ}_0^2}.\end{array}$

因此，选取合适的 ${ϵ}_0$ 使得 ${\lambda }_n{\kappa }_n{n}^{-C{ϵ}_0^2}$ 收敛，并且运用Borel-Cantelli引理可以得到

$\left({\mathcal{T}}_{5,n}\right)=O\left(\sqrt{\frac{\log n}{n{h}_n^{\left(d+1\right)}}}\right)$

引理3.2证得。

5.2. 引理3.3的证明

证明：首先，将其分解为两部分

$\begin{array}{c}\underset{x\in \mathcal{C}}{\sup }\left|{\mathcal{l}}_n\left(x\right)-\mathcal{l}\left(x\right)\right|\le \underset{x\in \mathcal{C}}{\sup }\left|{\mathcal{l}}_n\left(x\right)-\mathbb{E}\left[{\mathcal{l}}_n\left(x\right)\right]\right|+\underset{x\in \mathcal{C}}{\sup }\left|\mathbb{E}\left[{\mathcal{l}}_n\left(x\right)\right]-\mathcal{l}\left(x\right)\right|\\ =:{\mathcal{L}}_{1n}+{\mathcal{L}}_{2n}.\end{array}$ (8)

第一部分 ${\mathcal{L}}_{1n}$ 与引理3.2类似，即

$\begin{array}{c}{\mathcal{L}}_{1n}=\underset{x\in \mathcal{C}}{\sup }\left|{\mathcal{l}}_n\left(x\right)-\mathbb{E}\left[{\mathcal{l}}_n\left(x\right)\right]\right|\\ =\underset{x\in \mathcal{C}}{\sup }\left|{\mathcal{l}}_n\left(x\right)-{\mathcal{l}}_n\left(x_k\right)\right|+\underset{x\in \mathcal{C}}{\sup }\left|\mathbb{E}\left[{\mathcal{l}}_n\left(x_k\right)\right]-\mathbb{E}\left[{\mathcal{l}}_n\left(x\right)\right]\right|+{\max }_k\left|{\mathcal{l}}_n\left(x_k\right)-\mathbb{E}\left[{\mathcal{l}}_n\left(x_k\right)\right]\right|\\ ={\mathcal{S}}_{1,n}+{\mathcal{S}}_{2,n}+{\mathcal{S}}_{3,n}.\end{array}$

对于 $\left(S_{1,n}\right)$ 同样借助核函数K的Lipschitzian条件，可得

$\begin{array}{c}{\mathcal{S}}_{1,n}=\underset{x\in \mathcal{C}}{\sup }\left|{\mathcal{l}}_n\left(x\right)-{\mathcal{l}}_n\left(x_k\right)\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\frac{1}{n{h}_n^d}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\left|K_i\left(x\right)-K_i\left(x_k\right)\right|}\\ \le \underset{x\in \mathcal{C}}{\sup }C\left|x-x_k\right|\frac{1}{h_n^{d+1}}\\ \le M\frac{a_n}{h_n^{d+1}}.\end{array}$

由引理3.2证明中对 $a_n$ 的设定，可以得到

$\left(S_{1,n}\right)=O\left(\sqrt{\frac{1}{n{h}^d}}\right).$

对于 $\left(S_{2,n}\right)$ 同样可以得到

$\begin{array}{c}{\mathcal{S}}_{2,n}=\underset{x\in \mathcal{C}}{\sup }\left|\mathbb{E}\left[{\mathcal{l}}_n\left(x_k\right)\right]-\mathbb{E}\left[{\mathcal{l}}_n\left(x\right)\right]\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\frac{1}{n{h}_n^d}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\left|\mathbb{E}\left[K_i\left(x_k\right)\right]-\mathbb{E}\left[K_i\left(x\right)\right]\right|}\\ \le \underset{x\in \mathcal{C}}{\sup }\frac{1}{n{h}_n^d}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\mathbb{E}}\left[\left|K_i\left(x_k\right)-K_i\left(x\right)\right|\right]\\ \le \underset{x\in \mathcal{C}}{\sup }C\left|x_k-x\right|\frac{1}{h_n^d}\\ \le M\frac{a_n}{h_n^{d+1}}.\end{array}$

因此，

$\left(S_{2,n}\right)=O\left(\sqrt{\frac{1}{n{h}^d}}\right).$

$\left(S_{3,n}\right)$ 部分同引理3.2的最后一部分证明，可以得到

$\left(S_{3,n}\right)=O\left(\sqrt{\frac{\log n}{n{h}_n^{\left(d+1\right)}}}\right)$

对于本引理的第二部分，同样借助泰勒展开，得到

$\begin{array}{c}{\mathcal{L}}_{2n}=\underset{x\in \mathcal{C}}{\sup }\left|\mathbb{E}\left[{\mathcal{l}}_n\left(x\right)\right]-\mathcal{l}\left(x\right)\right|\\ =\underset{x\in \mathcal{C}}{\sup }\left|\frac{1}{n}{\displaystyle \underset{n=1}{\overset{n}{\sum }}{h}_n^{-d}}\mathbb{E}\left[K\left(\frac{x-X_i}{h_n}\right)\right]-\mathcal{l}\left(x\right)\right|\\ \le \underset{x\in \mathcal{C}}{\sup }\frac{1}{n}{\displaystyle \underset{n=1}{\overset{n}{\sum }}\left|{\displaystyle {\int }_{{ℝ}^{\text{d}}}K}\left(u\right)\mathcal{l}\left(x-h_{n}u\right)\text{d}u-\mathcal{l}\left(x\right)\right|}\\ \le \underset{x\in \mathcal{C}}{\sup }\frac{1}{n}{\displaystyle \underset{n=1}{\overset{n}{\sum }}{h}_n^2}\\ \le M{h}_n^2.\end{array}$

则可以得到

${\mathcal{L}}_{2n}=O\left(h_n^2\right).$

引理3.3证得。

5.3. 引理3.4的证明

证明：我们有

(9)

又由于且 ${\tilde{g}}_n\left(x,t\right)$ 有界，可以得到

$\underset{x\in C}{\sup }\underset{t\in \Omega }{\sup }\left|{\hat{g}}_n\left(x,t\right)-{\tilde{g}}_n\left(x,t\right)\right|\le M\underset{x\in C}{\sup }\underset{t\le {\tau }_F}{\sup }\left|{\bar{G}}_n\left(t|x\right)-\bar{G}\left(t|x\right)\right|.$

根据Gonzalez (1994) [8] 中结论有

$\underset{x\in C}{\sup }\underset{t\in \Omega }{\sup }\left|{\hat{g}}_n\left(x,t\right)-{\tilde{g}}_n\left(x,t\right)\right|=O\left(\sqrt{\frac{\log n}{n{h}_n}}+h_n^2\right)\text{a}\text{.s}\text{.}\text{as}n\to \infty .$ (10)

引理3.4得证。

6. 结论

在众多文献中对数据的独立性进行了较强的假设，即假设C与 $\left(X,T\right)$ 独立，但在实际观测到的数据中其只能满足条件独立的假设。因此本文考虑在右删失数据与未受到删失影响的数据条件独立的情况下，构建了具有一致强相合性的条件密度函数的非参数估计量，并计算其收敛速度。本文在构造非参数估计量时用到了经典的Nadaraya-Watson核估计，对于其他核估计，例如能够减少边界效应的局部线性回归核估计，所构成的非参数估计量将在未来的工作中被讨论。