基于依赖度的时序数据的特征选择方法

A Feature Selection Method for Time Series Data Based on Dependence

摘要: 随着大数据时代的不断发展，时序数据广泛存在于生活的各个领域。但现有的信息系统无法存放时序数据或者分类准确率较低。因此，本文构建时序模糊信息表，引入模糊相似关系，提出可以存放时序数据的时序模糊决策粗糙集模型，并研究其性质，给出基于时序依赖度的特征选择方法。

Abstract: With the continuous development of the era of big data, time series data exists in all fields of life. However, the existing information system cannot store time series data or has a low classification accuracy. Therefore, this paper constructs a time series fuzzy information table, introduces fuzzy similarity relations, proposes a rough set model of time series fuzzy decisions that can store time series data, studies its properties, and gives a feature selection method based on time series dependence.

1. 引言

粗糙集理论是Pawlak在1982年提出的用于处理不精确、不完备数据的方法 [1] 。粗糙集理论建立在分类的基础上，用严格的等价关系构造上近似和下近似对未知的知识进行划分 [2] 。为了提高粗糙集处理数据的能力，Dubois等 [3] 针对实际样本中的模糊性和不可分辨性可能造成信息丢失的问题，将模糊集和粗糙集相结合，提出模糊粗糙集的概念，至此一系列模糊粗糙集的拓展模型被提出。如，张夏伟等建立了悲观的多覆盖模糊粗糙集模型，分别讨论了悲观多覆盖模糊粗糙集、基于交的覆盖模糊粗糙集、覆盖模糊粗糙集和乐观多覆盖模糊粗糙集之间的关系 [4] 。李凡等针对模糊粗糙集容易受到噪音数据的影响，提出了变精度模糊粗糙集的概念 [5] 。邵迎超等将软集理论与模糊粗糙集结合起来，提出了软模糊粗糙集和软模糊粗糙群及它们的同态的概念，讨论了它们相关的性质 [6] 。李聪等利用模糊粗糙集和多粒度粗糙集各自优点的结合，提出了两类多粒度模糊粗糙集模型 [7] 。一系列基于模糊粗糙集的特征选择方法也被相继提出：张慧哲等把模糊集合相似度引入模糊粗糙集模型中，提出一种基于变相似度的模糊粗糙集模型，通过定义模糊相似矩阵和不一致程度矩阵，给出属性约简的算法 [8] 。陈毅宁等引入了基于距离比值尺度的样本集，通过对距离比值尺度的控制，避免了样本分布不确定性对近似集的影响，给出了该模型的基本性质，定义了新的依赖度函数，进而设计了属性约简算法 [9] 。陆娟等将粗糙集与二型模糊集结合，得到二型模糊粗糙集，并将模糊粗糙集属性约简的模型推广到二型模糊粗糙集框架中，得到了一个二型模糊粗糙属性约简的模型，并举例说明了用此模型进行属性约简的方法 [10] 。

然而，在人们所保存的数据中还有许多是具有时间特征的数据–时间序列数据。时间序列数据就是按照时间先后顺序记录各个观测样本的数据集 [11] 。其在现实生活中大量存在，如：金融证券市场中每天的股票价格变化，疫情感染日新增病例的数目，气象中某地区的每天气温与气压的读数以及医学中病人在每个时刻的心跳变化指数等。研究如何从数据量巨大、维度高、变量内部关系复杂的高维时间序列数据中挖掘出与时间、空间有关的隐藏信息，对于揭示对象发展变化的内部规律、不同的对象之间的相互作用关系以及为人们正确认识事物和科学决策提供依据等具有重要的理论价值和实际意义。

目前模糊粗糙集领域关于时间序列数据类型的研究较少，现有的信息系统无法用于存放多元时间序列数据。因此，研究可存放多维时间序列数据的信息系统并对其不确定性知识进行数据挖掘是很有价值的。

2. 预备知识

2.1. 时序数据的距离度量

通常计算两个时间序列之间的距离来度量两个时间序列之间的相似度，距离越小，相似性越高。本节将对常用的时间序列距离进行详细的介绍。

定义1 设有两条长度相等的时间序列 $P=\left\{p_1,p_2,\cdots ,p_n\right\}$ 和 $Q=\left\{q_1,q_2,\cdots ,q_n\right\}$ ，它们的闵可夫斯基距离(Minkowski Distance)定义为：

$Dis{t}_m\left(P,Q\right)={\left[{\displaystyle \underset{i=1}{\overset{n}{\sum }}{\left(p_i-q_i\right)}^r}\right]}^{\frac{1}{r}},$

当r取值不同时，距离有不同的含义：

当 $r=1$ 时，为曼哈顿距离；

当 $r=2$ 时，为欧式距离；

当 $r\to \infty$ 时，为切比雪夫距离。

闵可夫斯基距离对于度量的时间序列有严格要求，即序列必须是等长且皆为数值型。因为闵可夫斯基距离所寻找的对应关系是一条时间序列上的点与另一条时间序列上的点一一对应。

如果两条时间序列整体是比较相似的，但时间轴是不对齐匹配的话，那么采用闵可夫斯基距离，将很难有效度量。而动态时间弯曲距离(Dynamic Time Warping, DTW)是目前使用最广泛的时间序列距离度量，与传统的闵可夫斯基距离相比，DTW寻找的是两个时间序列之间的灵活的对应关系，也就是说一条时间序列上的一个点可以对应到另一个时间序列上的多个点，因此克服了时间不同步的问题。

定义2 设有两个时间序列 $P=\left\{p_1,p_2,\cdots ,p_n\right\}$ 和 $Q=\left\{q_1,q_2,\cdots ,q_n\right\}$ ，构造一个 $n\times m$ 的距离矩阵D：

$D=\left[\begin{array}{cccc}d\left(1,1\right)& d\left(1,2\right)& \cdots & d\left(1,m\right)\\ d\left(2,1\right)& d\left(2,2\right)& \cdots & d\left(2,m\right)\\ ⋮& ⋮& \ddots & ⋮\\ d\left(n,1\right)& d\left(n,2\right)& \cdots & d\left(n,m\right)\end{array}\right]$ ,

其中， $d\left(i,j\right)=\left|p_i-q_j\right|$ ，

这里采用欧氏距离 $d\left(i,j\right)$ 作为向量点 $p_i$ 和 $q_j$ 间的距离函数， $i=1,2,\cdots ,n$ ， $j=1,2,\cdots ,m$ 。为了计算时间序列P和Q的DTW距离 $\text{DTW}\left(P,Q\right)$ ，需找到一条最佳弯曲路径W，其中弯曲路径W中的第k个元素可定义为 $W_k{\left(i,j\right)}_k$ ，由此可得：

$W=w_1,w_2,\cdots ,w_k,\cdots ,w_K$

其中， $w_k=\left(p_k,q_k\right)$ 表示两个时间序列P和Q的匹配关系。弯曲路径长度满足 $\max \left(n,m\right)\le K\le n+m-1$ 。

弯曲路径W必须满足以下3个约束条件：

1) 边界性： $w_1=\left(p_1,q_1\right)$ ， $w_k=\left(p_n,q_m\right)$ ；

2) 连续性： $W_k\left(i,j\right)$ 和 $W_{k-1}\left(i^{\prime },j^{\prime }\right)$ 满足 $i-i^{\prime }\le 1$ ， $j-j^{\prime }\le 1$ ；

3) 单调性： $i-i^{\prime }\ge 0$ ， $j-j^{\prime }\ge 0$ 。

可能存在多个W满足上述三个条件，DTW通过动态规划寻找其中累积距离最短的路径：

$\text{DTW}\left(P,Q\right)=\min {\displaystyle \underset{k=1}{\overset{K}{\sum }}D\left(w_k\right)}=\min {\displaystyle \underset{k=1}{\overset{K}{\sum }}d\left(p_k,q_k\right)}$

计算两个时间序列之间的DTW距离的一种常用方法是建立累积距离矩阵 $\phi$ 。为了计算矩阵，我们使用具有以下递推的动态规划：

$\phi \left(i,j\right)=d\left(p_i,q_j\right)+\min \left\{\phi \left(i-1,j-1\right),\phi \left(i-1,j\right),\phi \left(i,j-1\right)\right\}$

$\text{DTW}\left(P,Q\right)=\phi \left(n,m\right)$

其中， $i=1,2,\cdots ,n$ ， $j=1,2,\cdots ,m$ ， $\phi \left(0,0\right)=0$ ， $\phi \left(i,0\right)=\phi \left(0,j\right)=\infty$ 。

2.2. 模糊粗糙集

定义3 称 $FDIS=\left(U,C\cup D,V_D,f,g\right)$ 是模糊决策信息系统，其中U为非空有限对象集，称为论域，C是条件属性集，D是决策属性， $f:U\times C\to \left[0,1\right]$ ， $f\left(x,a\right)$ 表示对象x在条件属性a下的取值。 $g:U\times D\to V_D$ ， $V_D$ 是决策属性的值域。

定义4 设R_B是模糊决策信息系统 $FDIS=\left(U,C\cup D,V_D,f,g\right)$ 上的模糊二元关系，若 $\forall B\subseteq C$ 满足：

1) 自反性： $\forall x\in U$ ， $R\left(x,x\right)=1$ ；

2) 对称性： $\forall x,y\in U$ ， $R\left(x,y\right)=R\left(y,x\right)$ ；

3) 传递性： $\forall x,y,z\in U$ ， $R\left(x,y\right)\wedge R\left(y,z\right)\le R\left(x,z\right)$ 。

称模糊关系R_B为U上的模糊等价关系。若R_B仅满足(1)和(2)，则称模糊关系R_B为U上的模糊相似关系, 也称为模糊相容关系。

若R_B是U上的模糊相似关系， $\forall x,y\in U$ ， $B\subseteq C$ ，令

${\left[x\right]}_{R_B}\left(y\right)=R_B\left(x,y\right)$ ,

称 ${\left[x\right]}_{R_B}$ 为x关于R_B的模糊邻域，则 ${\left[x\right]}_{R_B}$ 是U上一个模糊集。

定义5 设 $FDIS=\left(U,C\cup D,V_D,f,g\right)$ 是模糊决策信息系统，R_B是U上的模糊相似关系， $\forall B\subseteq C$ ， $U/D=\left\{D_1,\cdot \cdot \cdot ,D_r\right\}$ ，决策属性D关于模糊相似关系R_B的下、上近似分别定义为：

$\begin{array}{l}\underset{\_}{R_B}\left(D_i\right)\left(y\right)=\underset{y\in U}{\inf }\max \left\{1-R_B\left(x,y\right),D_i\left(y\right)\right\},\\ \overline{R_B}\left(D_i\right)\left(y\right)=\underset{y\in U}{\sup }\min \left\{R_B\left(x,y\right),D_i\left(y\right)\right\},\end{array}$

正域定义为：

$PO{S}_B\left(D\right)={\displaystyle \underset{i=1}{\overset{r}{\cup }}\underset{\_}{R_B}\left(D_i\right)},$

依赖度定义为：

${\gamma }_B\left(D\right)=\frac{{\displaystyle \underset{x_i\in U}{\sum }PO{S}_B^{\delta }\left(D\right)\left(x_i\right)}}{\left|U\right|}.$

3. 时序模糊粗糙集

定义6 称 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ 是时序模糊决策信息系统，其中 $U=\left\{x_1,x_2,\cdots ,x_n\right\}$ 为非空有限对象构成的论域， $C=\left\{a_1,a_2,\cdots ,a_m\right\}$ 是条件特征集(属性集)， $D=\left\{d\right\}$ 是决策特征， $T=\left\{t_1,t_2,\cdots ,t_k\right\}$ 是有序时间集，且满足 $0\le t_1<t_2<\cdots <t_k$ ， $f:U\times C\times T\to \left[0,1\right]$ ， $f\left(x_i,a_j,t_k\right)$ 表示 $t_k$ 时刻对象 $x_i$ 关于特征 $a_j$ 的取值， $g:U\times D\to V_D$ ， $V_D$ 是属性D的值域。

表1给出了时序模糊决策信息系统 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ ，其中 $U=\left\{x_1,x_2,x_3,x_4,x_5\right\}$ ， $C=\left\{a_1,a_2,a_3,a_4\right\}$ ， $T=\left\{t_1,t_2,t_3\right\}$ ， $D=\left\{d\right\}$ 。

Table 1. Time series fuzzy decision information system

表1. 时序模糊决策信息系统

定义7 [12] 给定两个D维时序数据

$A=\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1m}\\ a_{21}& a_{22}& \cdots & a_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ a_{D1}& a_{D2}& \cdots & a_{Dm}\end{array}\right]$ , $B=\left[\begin{array}{cccc}{b}_{11}& b_{12}& \cdots & b_{1n}\\ b_{21}& b_{22}& \cdots & b_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ b_{D1}& b_{D2}& \cdots & b_{Dn}\end{array}\right]$ ,

其中， $i=1,2,\cdots ,m$ ， $j=1,2,\cdots ,n$ ， $d=1,2,\cdots ,D$ 。 $A\left(:,i\right)={\left(a_{1i},a_{2i},\cdots ,a_{Di}\right)}^T$ 表示 $A$ 在时刻i下各个变量的取值向量； $A\left(d,:\right)={\left(a_{d1},a_{d2},\cdots ,a_{dm}\right)}^T$ 表示 $A$ 在维度d下随时间变化的取值向量； $B\left(:,j\right)={\left(b_{1j},b_{2j},\cdots ,b_{dj}\right)}^T$ 表示 $B$ 在时刻j下各个变量的取值向量； $B\left(d,:\right)={\left(b_{d1},b_{d2},\cdots ,b_{dn}\right)}^T$ 表示 $B$ 在维度d下随时间变化的取值向量。

设多维时间序列 $A$ 和 $$ ，则基于广义马氏距离的子距离可定义为：

$d_M\left(A\left(i\right),B\left(j\right)\right)=\sqrt{{\left(A\left(:,i\right)-B\left(:,j\right)\right)}^{T}M\left(A\left(:,i\right)-B\left(:,j\right)\right)},$

其中， $i=1,2,\cdots ,m$ ； $j=1,2,\cdots ,n$ ， $M$ 是一个对称的半正定矩阵，称为马氏矩阵。当 $M=I$ ，广义马氏距离就转变为欧氏距离。

多维时间序列 $A$ 和 $B$ 的 ${\text{DTW}}_{\text{M}}\left(A,B\right)$ 公式可以表示为：

$\begin{array}{l}{\text{DTW}}_{\text{M}}\left(A,B\right)=CD\left(m,n\right)\\ CD\left(i,j\right)=d_M\left(A\left(i\right),B\left(j\right)\right)+\min \{\begin{array}{l}CD\left(i-1,j\right)\\ CD\left(i,j-1\right)\\ CD\left(i-1,j-1\right)\end{array}\end{array}$

其中， $CD\left(0,0\right)=0$ ， $CD\left(i,0\right)=CD\left(0,j\right)=\infty$ 。

定义8 给定一个时序模糊决策信息系统 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ ，对任意 $x,y\in U$ ， ${\text{x}}_{\text{L}}={\left(f\left(x,a_1,t_l\right),f\left(x,a_2,t_l\right),\cdot \cdot \cdot ,f\left(x,a_m,t_l\right)\right)}^T$ 是对象x在时刻l下的属性值向量， ${\text{y}}_{\text{S}}={\left(f\left(y,a_1,t_s\right),f\left(y,a_2,t_s\right),\cdot \cdot \cdot ,f\left(y,a_m,t_s\right)\right)}^T$ 是对象y在时刻s下的属性值向量。则 ${\text{x}}_{\text{L}}$ 和 ${\text{y}}_{\text{S}}$ 的马氏距离定义为：

$d_M\left({\text{x}}_{\text{L}},{\text{y}}_{\text{S}}\right)=\sqrt{{\left({\text{x}}_{\text{L}}-{\text{y}}_{\text{S}}\right)}^{T}M\left({\text{x}}_{\text{L}}-{\text{y}}_{\text{S}}\right)}$

其中， $M$ 是协方差矩阵。

定义9 给定一个时序模糊决策信息系统 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ ，对任意 $B\subseteq C$ ， $x_i,x_j\in U$ ， $x_i$ 和 $x_j$ 在有序时间集T上关于特征子集B的时序模糊相似关系为：

$R_B^T\left(x_i,x_j\right)=\exp \left(-\frac{DT{W}_M\left(x_i,x_j\right)}{2{\sigma }^2}\right)$

对任意 $\delta \in \left(0,1\right)$ ， $x\in U$ 在有序时间集T上关于特征集B的时序模糊邻域粒 ${\delta }_B^T\left(x\right)$ 定义为： $\forall y\in U$ ，

${\delta }_B^T\left(x\right)\left(y\right)=\{\begin{array}{l}{R}_B^T\left(x,y\right),R_B^T\left(x,y\right)\ge \delta ,\\ 0,R_B^T\left(x,y\right)<\delta .\end{array}$

决策属性划分为 $U/D=\left\{D_1,D_2,\cdots ,D_r\right\}$ ${\delta }_C^T$ 是由特征集C在U上诱导的时序模糊邻域粒，那么 $\forall x\in U$ 的时序模糊决策定义为：

${\tilde{D}}_k^T\left(x\right)=\frac{\left|{\delta }_C^T\left(x\right)\cap D_k\right|}{\left|{\delta }_C^T\left(x\right)\right|}$ , $k=1,2,\cdots ,r$

${\tilde{D}}^T=\left\{{\tilde{D}}_2^T,{\tilde{D}}_2^T,\cdots ,{\tilde{D}}_r^T\right\}$ 是一个模糊集， ${\tilde{D}}_k^T\left(x\right)$ 为x关于 ${\tilde{D}}_k^T$ 的模糊隶属度。

定义10 给定一个时序模糊决策信息系统 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ ，对任意 $B\subseteq C$ ，决策特征划分为 $U/D=\left\{D_1,D_2,\cdots ,D_r\right\}$ ，其对应的模糊决策为 ${\tilde{D}}^T=\left\{{\tilde{D}}_1^T,{\tilde{D}}_2^T,\cdots ,{\tilde{D}}_r^T\right\}$ ， $R_B^T$ 是由B在U上诱导的时序模糊相似关系，则模糊决策 ${\tilde{D}}^T$ 关于特征集B的上、下近似定义为：

${\bar{R}}_B^{\delta }\left({\tilde{D}}^T\right)=\left\{{\bar{R}}_B^{\delta }\left({\tilde{D}}_1^T\right),{\bar{R}}_B^{\delta }\left({\tilde{D}}_2^T\right),\cdots ,{\bar{R}}_B^{\delta }\left({\tilde{D}}_r^T\right)\right\},$

${\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}^T\right)=\left\{{\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_1^T\right),{\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_2^T\right),\cdots ,{\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_r^T\right)\right\},$

其中 ${\tilde{D}}_k^T$ 关于特征集B的上、下近似定义为：

$\begin{array}{l}{\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)=\underset{x_j\in U}{\sup }T\left\{R_B^T\left(x_i,x_j\right),{\tilde{D}}_k^T\left(x_j\right)\right\},\\ {\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)=\underset{x_j\in U}{\inf }S\left\{N\left(R_B^T\left(x_i,x_j\right)\right),{\tilde{D}}_k^T\left(x_j\right)\right\}.\end{array}$

定理1 对任意 ${\tilde{D}}_k^T,{\tilde{D}}_g^T\in {\tilde{D}}^T$ ， $x_i,x_j\in U$ ， $B,B_1,B_2\subseteq C$ ，下列结论成立：

1) ${\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\tilde{D}}^T\subseteq {\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)$ ；

2) 若 $B_1\subseteq B_2$ ，有 ${\underset{\_}{R}}_{B_1}^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\underset{\_}{R}}_{B_2}^{\delta }\left({\tilde{D}}_k^T\right)$ ， ${\bar{R}}_{B_2}^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\bar{R}}_{B_1}^{\delta }\left({\tilde{D}}_k^T\right)$ ；

3) 若 ${\tilde{D}}_k^T\subseteq {\tilde{D}}_g^T$ ，有 ${\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_g^T\right)$ ， ${\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\subseteq \overline{WR}{}_B^{\delta }\left({\tilde{D}}_g^T\right)$ ；

4) $N\left({\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\right)={\bar{R}}_B^{\delta }\left(N\left({\tilde{D}}_k^T\right)\right)$ ， $N\left({\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\right)={\underset{\_}{R}}_B^{\delta }\left(N\left({\tilde{D}}_k^T\right)\right)$ 。

证明：1) 对任意 $x_i,x_j\in U$ ，由定义9知 $R_B^T\left(x_i,x_i\right)=1$ ，从而 $\max \left\{\left\{1-R_B^{\delta }\left(x_i,x_i\right)\right\},{\tilde{D}}_k^T\left(x_i\right)\right\}={\tilde{D}}_k^T\left(x_i\right)$ ，显然 $\underset{x_j\in U}{\inf }S\left\{N\left(R_B^T\left(x_i,x_j\right)\right),{\tilde{D}}_k^T\left(x_j\right)\right\}\le {\tilde{D}}_k^T\left(x_i\right)$ ，所以 ${\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\tilde{D}}^T$ 。同理可得 ${\tilde{D}}^T\subseteq {\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)$ ，即 ${\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\tilde{D}}^T\subseteq {\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)$ 。

2) 由定义9和定义10可知 $\forall x_i,x_j\in U$ ， $B_1\subseteq B_2\subseteq C$ ， ${\underset{\_}{R}}_{B_1}^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)=\underset{x_j\in U}{\inf }S\left\{N\left(R_{B_1}^T\left(x_i,x_j\right)\right),{\tilde{D}}_k^T\left(x_j\right)\right\}$ $=\underset{x_j\in U}{\inf }S\left\{\left\{1-R_{B_1}^T\left(x_i,x_j\right)\right\},{\tilde{D}}_k^T\left(x_j\right)\right\}\le \underset{x_j\in U}{\inf }S\left\{\left\{1-R_{B_2}^T\left(x_i,x_j\right)\right\},{\tilde{D}}_k^T\left(x_j\right)\right\}=\underset{x_j\in U}{\inf }S\left\{N\left(R_{B_2}^T\left(x_i,x_j\right)\right),{\tilde{D}}_k^T\left(x_j\right)\right\}$ $={\underset{\_}{R}}_{B_2}^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)$ 。

由 $x_i$ 的任意性可得 ${\underset{\_}{R}}_{B_1}^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\underset{\_}{R}}_{B_2}^{\delta }\left({\tilde{D}}_k^T\right)$ 。

同理可类似求得： ${\bar{R}}_{B_2}^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)\le {\bar{R}}_{B_1}^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)$ 。由 $x_i$ 的任意性可得 ${\bar{R}}_{B_2}^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\bar{R}}_{B_1}^{\delta }\left({\tilde{D}}_k^T\right)$ 。

3) 由定义9和定义10可知 $\forall x_i,x_j\in U$ ， ${\tilde{D}}_k^T\subseteq {\tilde{D}}_g^T$ ， ${\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)=\underset{x_j\in U}{\inf }S\left\{N\left(R_B^T\left(x_i,x_j\right)\right),{\tilde{D}}_k^T\left(x_j\right)\right\}$ $\le \underset{x_j\in U}{\inf }S\left\{N\left(R_B^T\left(x_i,x_j\right)\right),{\tilde{D}}_g^T\left(x_j\right)\right\}={\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_g^T\right)\left(x_i\right)$ 。由 $x_i$ 的任意性可得 ${\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_g^T\right)$ 。

同理类似求得： ${\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)=\underset{x_j\in U}{\sup }T\left\{R_B^T\left(x_i,x_j\right),{\tilde{D}}_k^T\left(x_j\right)\right\}\le \underset{x_j\in U}{\sup }T\left\{R_B^T\left(x_i,x_j\right),{\tilde{D}}_g^T\left(x_j\right)\right\}={\bar{R}}_B^{\delta }\left({\tilde{D}}_g^T\right)\left(x_i\right)$ 。由 $x_i$ 的任意性可得 ${\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\subseteq {\bar{R}}_B^{\delta }\left({\tilde{D}}_g^T\right)$ 。

4) 由定义10可知 $\forall x_i,x_j\in U$ ， ${\tilde{D}}_k^T\subseteq {\tilde{D}}^T$ ， $N\left({\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)\right)=1-{\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)=1-\underset{x_j\in U}{\inf }S\{N\left(R_B^{\delta }\left(x_i,x_j\right)\right),$ ${\tilde{D}}_k^T\left(x_j\right)\}=\underset{x_j\in U}{\sup }T\left\{R_B^{\delta }\left(x_i,x_j\right),1-{\tilde{D}}_k^T\left(x_j\right)\right\}={\bar{R}}_B^{\delta }\left(N\left({\tilde{D}}_k^T\right)\left(x_i\right)\right)$ 。由 $x_i$ 的任意性可得 $N\left({\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\right)={\bar{R}}_B^{\delta }\left(N\left({\tilde{D}}_k^T\right)\right)$ 。同理类似可求 $N\left({\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)\right)=1-{\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\left(x_i\right)=1-\underset{x_j\in U}{\sup }T\left\{R_B^T\left(x_i,x_j\right),{\tilde{D}}_k^T\left(x_j\right)\right\}=\underset{x_j\in U}{\inf }S\{\left(1-R_B^T\left(x_i,x_j\right)\right),$ $1-{\tilde{D}}_k^T\left(x_j\right)\}={\underset{\_}{R}}_B^{T,\delta }\left(N\left({\tilde{D}}_k^T\right)\left(x_i\right)\right)$ 。由 $x_i$ 的任意性可得 $N\left({\bar{R}}_B^{\delta }\left({\tilde{D}}_k^T\right)\right)={\underset{\_}{R}}_B^{\delta }\left(N\left({\tilde{D}}_k^T\right)\right)$ 。

4. 基于时序依赖度的时序数据的特征选择

本节将定义基于时序模糊邻域粗糙集模型的特征依赖度，并基于此提出一种时序数据的特征选择算法，见表2。

定义11 给定一个时序模糊决策信息系统 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ ，对任意 $B\subseteq C$ ，决策特征划分为 $U/D=\left\{D_1,D_2,\cdots ,D_r\right\}$ ，其对应的模糊决策为 ${\tilde{D}}^T=\left\{{\tilde{D}}_1^T,{\tilde{D}}_2^T,\cdots ,{\tilde{D}}_r^T\right\}$ ， $R_B^T$ 是由B在U上诱导的时序模糊相似关系， ${\tilde{D}}^T$ 关于特征子集B的正域定义为：

$PO{S}_B^{\delta }\left({\tilde{D}}^T\right)=\underset{k=1}{\overset{r}{\cup }}{\underset{\_}{R}}_B^{\delta }\left({\tilde{D}}_k^T\right),$

正域的大小反应了特征子集B的分类能力。根据正域的定义， ${\tilde{D}}^T$ 关于特征子集B的时序依赖度为：

${\gamma }_B^{\delta }\left({\tilde{D}}^T\right)=\frac{{\displaystyle \underset{x\in U}{\sum }PO{S}_B^{\delta }\left({\tilde{D}}^T\right)\left(x\right)}}{\left|U\right|}.$

性质1 给定一个时序模糊决策信息系统 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ ，对任意 $B_1\subseteq B_2\subseteq C$ ，有以下性质成立：

1) $PO{S}_{B_1}^{\delta }\left({\tilde{D}}^T\right)\subseteq PO{S}_{B_2}^{\delta }\left({\tilde{D}}^T\right)$ ；

2) ${\gamma }_{B_1}^{\delta }\left({\tilde{D}}^T\right)\subseteq {\gamma }_{B_2}^{\delta }\left({\tilde{D}}^T\right)$ 。

定义12 给定一个时序模糊决策信息系统 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ ，决策特征划分为 $U/D=\left\{D_1,D_2,\cdots ,D_r\right\}$ ，其对应的模糊决策为 ${\tilde{D}}^T=\left\{{\tilde{D}}_1^T,{\tilde{D}}_2^T,\cdots ,{\tilde{D}}_r^T\right\}$ ，对任意 $a\in B$ ， $B\subseteq C$ ， $\delta \in \left(0,1\right)$ 。若满足 ${\gamma }_{B-\left\{a\right\}}^{\delta }\left({\tilde{D}}^T\right)={\gamma }_B^{\delta }\left({\tilde{D}}^T\right)$ ，称a在B中是不必要的(或冗余的)；否则，称a在B中是必要的。若满足下列条件，则称特征子集B是C的一个特征约简集：

1) ${\gamma }_B^{\delta }\left({\tilde{D}}^T\right)={\gamma }_C^{\delta }\left({\tilde{D}}^T\right)$ ；

2) ${\gamma }_{B-\left\{a\right\}}^{\delta }\left({\tilde{D}}^T\right)<{\gamma }_B^{\delta }\left({\tilde{D}}^T\right)$ 。

Table 2. Feature selection algorithm for time series data based on time series dependence

表2. 基于时序依赖度的时序数据的特征选择算法

定义13 设 $TFDIS=\left(U,C\cup D,T,V_D,f,g\right)$ 为序模糊决策信息系统。对任意 $a\in B$ ， $B\subseteq C$ ， $\delta \in \left(0,1\right)$ ，特征a关于B的时序内重要度定义：

$si{g}_{in}^T\left(a,B,{\tilde{D}}^T\right)={\gamma }_B^{\delta }\left({\tilde{D}}^T\right)-{\gamma }_{B-\left\{a\right\}}^{\delta }\left({\tilde{D}}^T\right).$

对任意 $a\in C-B$ ，特征a关于B的时序外重要度定义为：

$si{g}_{out}^T\left(a,B,D\right)={\gamma }_{B\cup \left\{a\right\}}^{\delta }\left({\tilde{D}}^T\right)-{\gamma }_B^{\delta }\left({\tilde{D}}^T\right).$

由定义13,可得： $0\le si{g}_{int}^T\left(a,B,{\tilde{D}}^T\right)\le 1$ 。若 $si{g}_{int}^T\left(a,B,{\tilde{D}}^T\right)>0$ ，则a为核心属性；若 $$ ，则a为不必要属性，即a可以从属性集B中去除。同理，有 $0\le si{g}_{out}^T\left(a,B,{\tilde{D}}^T\right)\le 1$ 。若 $si{g}_{out}^T\left(a,B,{\tilde{D}}^T\right)=0$ ，则a为不必要属性；若 $si{g}_{out}^T\left(a,B,{\tilde{D}}^T\right)>0$ ，则a是相对必要属性，可通过筛选 $si{g}_{out}^T\left(a,B,{\tilde{D}}^T\right)$ 的最大值作为候选特征约简集。

5. 结论

本章主要研究时序模糊决策信息系统上的时序数据的特征选择方法。首先定义了时序模糊决策信息系统，引入时序马氏距离，提出时序模糊相似关系，进而提出了时序模糊决策粗糙集，并讨论了其的性质。定义了在时序模糊决策粗糙集上的下近似、上近似、正域和依赖度。通过定义特征内外重要度，提出了基于时序依赖度的特征选择方法。