基于传统方法和机器学习对帕金森病语音信号早期预警模型的对比研究

Based on Traditional Methods and Machine Learning for Parkinson’s Disease Speech Signals: A Comparative Study of Early Warning Models

摘要: 近年来，研究发现大约90%以上的帕金森病(PD)患者在疾病的早期阶段表现出某种形式的声音障碍。本文从UCI机器学习存储库中选取经最先进的语音信号处理技术提取252名受试者的语音信号特征数据，运用Logistic回归和决策树、Bagging、随机森林建立PD语音信号早期预警模型。研究发现，基线特征、梅尔频率倒谱系数和小波变换与PD有明显的显著关系。经对比均方误差发现，无论是长期预测还是短期预测决策树预测模型的误判率约为0.10，能高精度分类出受试者是否患有帕金森病。Logistic模型的预测效果都显著不如机器学习预测，主要原因与数据的特殊性和复杂性相关，而非只在于模型本身。利用统计的方法在受试者监测早期进行预警分析，可提前做好预防准备，减轻频繁就医的麻烦。

Abstract: In recent years, studies have found that about 90% of people with Parkinson’s Disease (PD) exhibit some forms of sound disorder in the early stages of the disease. In this paper, the speech signal feature data of 252 subjects were extracted from the most advanced speech signal processing technology from the UCI machine learning repository, and the PD voice signal early warning model was established by using Logistic Regression, Decision Tree, Bagging, and Random Forest. It was found that the Baseline characteristics, FMCC and wavelet transform had obvious significant relationships with PD. After comparing the mean squared error, it is found that the false positive rate of the Decision tree prediction model is about 0.10, whether it is a long-term prediction or a short-term prediction, which can classify whether the subject has Parkinson’s Disease with high accuracy. The prediction effect of Logistic models is significantly inferior to that of machine learning, mainly because of the particularity and complexity of the data, not just the model itself. The use of statistical methods to carry out early warning analysis in the early stage of subject monitoring can prepare for prevention in advance and reduce the trouble of frequent medical treatment.

1. 引言

帕金森病 [1] [2] [3] (Parkinson’s Disease, PD)是一种常见的神经系统变性疾病，老年人多见，平均发病年龄为60岁左右，40岁以下起病的青年帕金森病较少见。据研究统计，我国65岁以上人群PD的患病率大约是1.7%。大部分帕金森病患者为散发病例，仅有不到10%的患者有家族史。PD患者的持续增加引起了国内外相关研究者和医疗机构的高度重视，若是能在早期发现受试者有患帕金森病的趋势，就能及时进行早期干预，减小患病率。

近年来，研究发现大约90%以上的帕金森病(PD)患者在疾病的早期阶段表现出某种形式的声音障碍，最近的PD远程诊断研究集中在检测受试者持续的元音发音或连续语音造成的声音障碍。故本文运用传统统计方法(Logistic回归)和机器学习分类方法(决策树、Bagging、随机森林)分别对语音信号建立早期预警模型，分析各变量之间的关系，利用模型误判率和均方误差对比传统统计方法和机器学习分类方法对语音信号数据的适应性和预测准确性，分析出各模型之间差异性的原因，找出较佳的语音信号早期预警模型。

2. 模型简介

2.1. Logistic回归

Logistic回归 [4] 主要应用于二分类问题，适用于本文研究的语音信号数据。Logistic回归模型如下所示：

$\begin{array}{l}y=X\beta +\epsilon \\ y=N\left(\mu ,{\sigma }^{2}I\right)其中\mu =E(y)=X\beta \\ g\left(\mu \right)=X\beta \end{array}$ (1)

其中 $y={\left(y_1,y_2,\cdots ,y_n\right)}^{\text{T}}$ 表示因变量， $X=\left\{x_{ij}\right\},\left(i=1,2,\cdots ,n;j=1,2,\cdots ,m\right)$ 表示自变量矩阵，模型误差项为 $\epsilon$ 服从独立正态分布， $g(\cdot )$ 称为连接函数。

对于两水平因变量y，若它满足Bernoulli分布Bernoulli(p)，则分布的均值记为 $\mu =p$ 。其中，把值域[0, 1]转换成实轴函数作为连接函数，能满足这种变换的连接函数有以下两种：一种是logit函数，即

$g\left(p\right)=\log \left(\frac{p}{1-p}\right)$ ，该种形式的广义线性模型称为Logistic模型： $\log \left(\frac{p}{1-p}\right)=X\beta$ 。另一种是正态积累

分布函数的逆函数，即 $g\left(p\right)={\Phi }^{-1}\left(p\right)$ ，该种形式的模型称为Probit模型： ${\Phi }^{-1}=X\beta$ 。

由于Logistic模型和Probit模型的预测精度差别极小，一般采用一种进行预测即可。故此处介绍Logistic模型的两种等式形式，其中观测值 $x_i={\left(x_{i1},x_{i2},\cdots ,x_{im}\right)}^{\text{T}},i=1,2,\cdots ,n$ ，可使用最大似然估计来估计未知参数 $\beta ={\left({\beta }_1,{\beta }_2,\cdots ,{\beta }_m\right)}^{\text{T}}$ 。

$\log \left(\frac{p_i}{1-p_i}\right)=x_i^{\text{T}}\beta ,i=1,2,\cdots ,n;$ (2)

$p_i=\frac{{\text{e}}^{x_i^{\text{T}}\beta }}{1+{\text{e}}^{x_i^{\text{T}}\beta }},i=1,2,\cdots ,n.$ (3)

2.2. 决策树

决策树 [4] (Decision Tree) (分类树)是经常被使用的分类方法之一。它是一种监督学习，所谓监督学习就是在给定固定样本，每个样本都有其属性和类别，且这些类别则是事先确定的，那么通过反复学习、训练得到一个成熟的分类器，该分类器可以对新的观测值进行预测并给出正确的分类。决策树是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率。它是一种简单的模型，但它又是一些预测精度很高的机器学习方法的基本模块。

2.3. Bagging

Bagging [5] 是一个基于自助法抽样的组合方法，可用于解决回归问题和分类问题。由于本文所研究的语音信号数据中的因变量为定性数据，此处利用Bagging分类来处理该问题。Bagging分类是一个简单的基于分类树的组合方法。它从训练样本中做多次放回抽样，每次建立一个分类树，假设一共建立A棵树。对于每一个新的观测值，通过A棵树得到A个预测结果，然后，按照简单少数服从多数的原则来投票确定该观测值属于哪一类。

2.4. 随机森林

随机森林分类 [5] (Random Tree)与Bagging分类非常相似，也是从原始数据中抽取一定数量数据的自助法样本。但与Bagging分类的区别在于，每个节点在所有竞争的自变量中，随机是选择几个(而不是所有变量)来竞争拆分变量。而选择个数是由选项mtry决定的。随机森林的这种随机选择少数自变量来竞争节点拆分变量的做法使得一些弱势变量有机会参加建模，可能会揭示仅仅靠一些强势变量无法发现的数据规律，可利用各种方法从不同角度展示自变量的重要性，并且计算出OOB交叉验证误差。

2.5. 均方误差

本文选用均方误差(RMSE)，定义为：

$\text{MSE}=\frac{1}{M}\underset{i=1}{\overset{M}{{\displaystyle \sum }}}{\left(y_i-{\hat{y}}_i\right)}^2$

$\text{RMSE}=\sqrt{\text{MSE}}$ (4)

其中 $y_i$ 表示测试集中原因变量， ${\hat{y}}_i$ 指的是依据训练集训练得到的相应模型对测试集第i个因变量的预测。如果 $\text{RMSE}>1$ ，则说明模型精度极差，不可取。

3. 数据描述

3.1. 数据来源与可靠性

本文数据来自于UCI机器学习存储库 [6] [7] ，选取经最先进的语音信号处理技术提取252名受试者的语音信号特征数据，数据真实可靠，可以用于本文研究并赋予本文数据价值。本研究中使用的数据来自伊斯坦布尔大学医学院神经内科的188名PD患者(107名男性和81名女性)，年龄在33至87岁(65.1 ± 10.9)之间。对照组由64名健康个体(23名男性和41名女性)组成，年龄在41至82岁之间(61.1至8 ± 9)。在数据收集过程中，麦克风设置为44.1 KHz，在医生检查后，从每个受试者中收集元音/a/的持续发声，重复三次。经各种语音信号处理算法得到8个一级指标和754个二级指标变量，该数据变量解释如下表1所示。

Table 1. Table of explanations for secondary indicator data variables

表1. 二级指标数据变量解释表

3.2. 变量重要性

由于本文所选用的数据量庞大，且语音信号数据具有一定的复杂性和特殊性，故本文根据语音信号数据提供者和数据本身的性质，将其分为8个模块，并对这8个模块的数据进行探索，得出变量的重要性以及特征性，为医护人员和医疗机构提供重要的帕金森病相关信息。

此处通过Logistic回归、决策树、Lagging和随机森林模型，分别对8个模块的数据进行变量重要性观测和局部变量重要性作对比。通过对比分析出四种方法的变量重要性相差不大，在总体中重要的变量在局部中也重要。反之，总体不重要的变量，在局部也不重要。针对本文中的语音信号数据分析得出基线特征、梅尔频率倒谱系数和小波变换三种数据特征，在总体上对早期预警帕金森病有着特殊的意义，值得相关研究人员和医疗机构重视。

4. 模型的建立与分析

4.1. Logistic模型的建立与分析

因为本文所使用数据极具复杂性，有754个变量，756个观测值。对于所要建立的Logistic模型来说，当自变量有较多的定性变量或者定性变量的水平比较多时，Logistic回归时基本无法进行。本文语音数据除因变量为定性变量之外，其余自变量都为定量变量，故可建立Logistic模型。在Python建模过程中，由于起初假设值域pt = 0.5得到的预测结果不太理想，训练时的误差为0.16，测试时更是高达高达0.31。故对值域pt在区间[0.01, 0.99]内做了一个训练调整。最终寻找到当值域pt = 0.2744时，使logistic模型预测效果达到最佳，其误差由原来的0.31降为0.28，但Logistic模型预测精度任然较差。

4.2. 决策树分类模型的建立与分析

决策树是机器学习分类里面的基本分类器，能够通过竞争原则去选择拆分变量或结束生长。此处选用Gini不纯度来作为分类树竞争原则，进行拆分变量及判别准则。

${\displaystyle {\sum }_{k=1}^{756}{p}_k\left(1-p_k\right)}={\displaystyle {\sum }_{k=1}^{756}{p}_k}-{\displaystyle {\sum }_{k=1}^{756}{p}_k^2}=1-{\displaystyle {\sum }_{k=1}^{756}{p}_k^2}$ (5)

其中 ${\displaystyle {\sum }_{k=1}^{756}{p}_k}=1$ ， $p_k$ 表示在一个节点的观测值中属于第i类的比例。若所有观测值为同一类，那么Gini不纯度的度量等于0。故我们要做的拆分工作即：所选择的拆分变量要使得父节点的Gini不纯度与子节点Gini不纯度相差最大。二子节点的Gini不纯度应该为各个子节点观测值数目比上各个子节点Gini不纯度的加权平均来计算。拆分过程如下图1所示：

Figure 1. Decision trees for data classification

图1. 数据分类的决策树

运用R建模过程中，通过不断拆分变量，得到较好的分类结果，训练时误差为0，测试时误差为0.10，相比Logistic模型精度高出许多。预测时，我们把因变量class标为缺失值，利用训练好的决策树来进行预测，得到预测值(下面相同)。

4.3. Bagging分类模型的建立与分析

Bagging分类是基于决策树的基础上进行的，按照简单少数服从多数的原则来投票确定待测观测值属于哪一类。基于决策树分类的基础之上，在运用R建模的过程中，能取得较好的分类结果，训练的误差为0，但测试时误差为0.21，相比决策树分类精度稍逊一筹。

4.4. 随机森林分类模型的建立与分析

随机森林与Bagging一样，都是基于决策树的一种组合方法。随机森林的每棵树都不枝剪，让其充分生长。最终的预测结果时根据所有决策树按照各自的分类结果做建档投票，取得最多票的类。以下给出拟合过程中的节点直方图图2。终节点个数又叫树的大小，可以通过函数treesize()得到。图2中左图表示所有节点数，右图表示终节点个数。随机森林能取得较好的分类结果，训练时的误差为0，测试时误差为0.12，相比Bagging分类精度更高一筹。

Figure 2. Histogram of all nodes (left) and number of terminal nodes (right) of a random forest

图2. 随机森林所有节点数(左)和终节点数(右)的直方图

4.5. 对比与分析

为了对Logistic回归、决策树、Bagging和随机森林预测模型进行分析比较，本文对语音信号数据进行分类的交叉验证，使用函数Fold()来平衡各测试集变量之间的水平。

Figure 3. Four ways to cross-validate a bar chart with ten folds

图3. 四种方法十折交叉验证条形图

从上图3分析得出，Logistic回归、决策树、Bagging和随机森林训练集训练过程中训练时的误差分别为：0.16，0，0，0。预测时的误差分别为：0.28，0.10，0.21，0.12。由此可以判断出，基于帕金森病语音信号数据，Logistic回归、决策树、Bagging和随机森林在预测时预测精度最高的是决策树，其次是随机森林，和决策树的预测精度相差了0.02，两个模型在应用与探测早期帕金森病时都有不错的预测效果。而Logistic回归的二分类模型在此处的预测精度却显得格格不入，误差将近是决策树的3倍。

5. 结论

通过对比分析得出，Logistic回归中的二分类在建模过程中需要满足很多条件，且预测的效果远远不如机器学习里面的决策树预测、Bagging预测和随机森林预测，特别是在训练集较小时预测的效果极其不佳，经不断尝试初步得出若训练集越大，则训练出来的模型就会越成熟，预测值就会越接近真实值。而且当Logistic模型自变量有较多的定性变量或者定性变量的水平比较多时，Logistic回归时完全无法再进行接下来的步骤。

相较而言，本文所选取的决策树、Bagging和随机森林在做分类时，对自变量没有过多要求，以决策树为分类基础，Gini不纯度为分类原则进行分类。取得了相对较好的预测效果其中决策树和随机森林的预测效果明显优于其它几种方法。经分析初步探知得出，机器学习方法在大部分数据中具有较佳的效果，能拟合出恰当的数据特征，但并不代表所有的机器学习方法就一定优于传统方法，因为也有一部分原因是数据本身的特殊性和复杂性所导致。在机器学习领域中，虽然决策树是组合模型Bagging和随机森林的基本分类基础，但是此处的预测效果却比Bagging和随机森林都还要好，足以证明，没有什么方法是绝对优于其它方法的，预测的效果不仅和模型相关和数据本身也有很大的关系。