基于智能支持向量机回归模型的金融数据预测

Prediction of Finance Data Based Intelligent Support Vector Regression

摘要: 针对金融数据的非线性、时变性、随机性、模糊性、不确定性等特点，提出一种崭新的智能支持向量回归模型，并且运用一种新型的遗传算法优选模型参数。实验结果表明，所提出的智能支持向量回归模型预测金融数据比BP神经网络模型预测精度高、速度快。

Abstract: Aiming at nonlinear, time variant, random, fuzziness and uncertainty of finance data, we propose a new intelligent support vector regression model and use new genetic algorithm to optimize the model’s parameters. Experiment results show that intelligent support vector regression has higher accuracy and runs faster than BP Neural Networks.

1. 引言

金融数据由于受政策、技术等多种因素的影响，普遍具有非线性、时变性、随机性、模糊性、不确定性等特性。在计算经济学基础上建立的大部分金融线性模型，虽然能够比较直观地解决问题，但是在解决实际问题时也会有很大的不足。其根本原因在于金融数据具有非线性特征，运用线性模型来预测肯定会有较大的误差。所以，人们正在努力寻求高精度的预测工具进行金融数据建模 [1] [2] [3] 。

为了更加精确地进行金融数据预测，本文提出一种崭新的智能支持向量回归模型进行金融数据预测。支持向量机于1995年由Vapnik等人正式提出，已经成功地应用到回归等问题。然而，到目前为止，支持向量回归模型仍然没有好的参数优选方法 [4] 。本文运用一种新型遗传算法 [5] 来进行支持向量回归模型的参数优选。该新型遗传算法可以解决一般的遗传算法所带来的早熟问题和进化缓慢问题，具有较强的搜索能力，能够寻找全局最优解。因此，本文运用新型遗传算法对支持向量回归模型进行最优参数设置，从而得到一种崭新的智能支持向量回归模型。最后，将所建立的智能支持向量回归模型应用于金融数据预测，通过与BP神经网络模型比较，得到本文所提出的模型预测精度比较高，是进行金融数据预测的一种有效方法。

2. 支持向量回归模型

假设数据集 $S=\left\{\left(x_i,y_i\right),i=1,2,\cdots ,n\right\}$ ， $x_i$ 是输入向量， $y_i$ 是一个实数观测值，n是数据的总数。支持向量回归函数的一般形式为

$g\left(x\right)=w\varphi \left(x\right)+b$ (1)

式中 $\varphi \left(x\right)$ 是一个高维的特征函数，b是常数。

为求解w和b，引入正松弛变量 ${\xi }_i,{\xi }_i^{*}$ ，可以得到如下规划问题 [4] :

$\begin{array}{l}\min \frac{1}{2}{\Vert w\Vert }_1{}^2+C{\displaystyle \underset{i=1}{\overset{n}{\sum }}\left({\xi }_i+{\xi }_i^{*}\right)}\\ \text{s}\text{.t}\text{.}{y}_i-w\varphi \left(x_i\right)-b\le \epsilon +{\xi }_i\\ w\varphi \left(x_i\right)+b-y_i\le \epsilon +{\xi }_i^{*},{\xi }^{(*)}\ge 0\end{array}$ (2)

运用拉格郎日乘数法可以得到二次规划(2)的对偶规划为：

$W\left({\alpha }_i,{\alpha }_i^{*}\right)={\displaystyle \underset{i=1}{\overset{n}{\sum }}{y}_i\left({\alpha }_i-{\alpha }_i^{*}\right)}-\epsilon {\displaystyle \underset{i=1}{\overset{n}{\sum }}\left({\alpha }_i+{\alpha }_i^{*}\right)}-\frac{1}{2}{\displaystyle \underset{i=1}{\overset{n}{\sum }}{\displaystyle \underset{i=1}{\overset{n}{\sum }}\left({\alpha }_i-{\alpha }_i^{*}\right)\left({\alpha }_j-{\alpha }_j^{*}\right)\left(\varphi \left(x_i\right)\cdot \varphi \left(x_j\right)\right)}}$ (3)

使得 ${\displaystyle \underset{i=1}{\overset{n}{\sum }}\left({\alpha }_i-{\alpha }_i^{*}\right)}=0$ 和 ${\alpha }_i,{\alpha }_i^{*}\in \left[0,C\right]$ ；

进而可以得到决策函数：

$g\left(x\right)={\displaystyle \underset{i=1}{\overset{n}{\sum }}\left({\alpha }_i-{\alpha }_i^{*}\right)\varphi \left(x_i\right)\cdot \varphi \left(x\right)+b}$ (4)

通过引进核函数，方程(4)可以写成如下形式

$g\left(x\right)={\displaystyle \underset{i=1}{\overset{n}{\sum }}\left({\alpha }_i-{\alpha }_i^{*}\right)K\left(x_i,x\right)+b}$ (5)

在知识发现理论中，高斯核函数已经被证明能够提供好的泛化能力。因此，本文采用高斯核函数 $K\left(x_i,x_j\right)=\exp \left(-\frac{{\Vert x_i-x_j\Vert }_1^2}{2{\sigma }^2}\right)$ 作为支持向量回归模型的核函数。另外，本文采用的损失函数是ε-不敏感损失函数，即

$L\left(g\left(x_i\right),y_i\right)=\{\begin{array}{l}\left|g\left(x_i\right)-y_i\right|-\epsilon ,\left|g\left(x_i\right)-y_i\right|\ge \epsilon \\ 0,\text{others}\end{array}$ (6)

式中ε称为管道大小，它反映函数逼近的精确程度。参数ε属于自定义的参数。

3. 新型遗传算法

3.1. 适应度函数

训练数据上的10-fold交叉验证(CV)后的平均值的负值定义为适应度函数，即

$g=-\overline{MAP{E}_{CV}}$ (7)

$MAP{E}_{CV}=\frac{{\displaystyle \underset{i=1}{\overset{n}{\sum }}\frac{\left|y_i-g_i\right|}{2y_i}}}{n}\times 100\%$ (8)

在这里MAPE是平均绝对百分误差，n是训练数据样本的数目，y_i是确切值的数目，g_i是预测值的数目。

3.2. 编码方式

因为浮点数编码不受维数限制，不需编码、解码操作，可以有效提高计算速度和求解精度，同时，浮点编码比二进制编码在变异操作上能更好地保持种群多样性，所以，采用浮点数编码方式 [6] 。

3.3. 选择操作

本文采用基于排序的适应度分派准则。按照适应度值对种群内的个体排序，然后按下式确定选择第i个个体的概率：

$P_i=c{\left(1-3c\right)}^{i-1}$ (9)

在这里i为个体排序序号；c为排序第一的个体的选择概率。

3.4. 交叉和变异操作

交叉概率 $P_c$ 和变异概率 $P_m$ 根据文献 [7] 所提出的自适应度遗传算法来进行选择：

$P_c=\{\begin{array}{l}{P}_{c_1}-\left(P_{c_1}-P_{c_2}\right)\left(g^{\prime }-g_{avg}\right)/\left(g_{\max }-g_{avg}\right),g^{\prime }\ge g_{avg}\\ P_{c_1},g^{\prime }<g_{avg}\end{array}$ (10)

$P_m=\{\begin{array}{l}{P}_{m_1}-\left(P_{m_1}-P_{m_2}\right)\left(f_{\max }-g\right)/\left(g_{\max }-g_{avg}\right),g^{\prime }\ge g_{avg}\\ P_{m_1},g^{\prime }<g_{avg}\end{array}$ (11)

在这里 $P_{c_1}=0.92,P_{c_2}=0.65,P_{m_1}=0.08,P_{m_2}=0.001$ ， $g_{\max }$ 为群体中最大的适应度值； $g_{avg}$ 为每代群体的平均适应度值； $g^{\prime }$ 为交叉的两个个体中较大的适应度值；g为变异个体的适应度值。

进化代数按下式自适应变化：

$P_c^t=\{\begin{array}{l}{P}_{c_1}\cdot \sqrt{1-{\left(t/t_{\max }\right)}^2},P_c^t<P_{c_2},\\ P_{c_2},P_c^t\ge P_{c_2}\end{array}$ (12)

$P_m^t=\{\begin{array}{l}{P}_{m_1}\cdot \exp \left(-\lambda \cdot t/t_{\max }\right),P_m^t>P_{m_2},\\ P_{m_2},P_m^t\le P_{m_2}\end{array}$ (13)

在这里t为遗传代数， $t_{\max }$ 为最大遗传代数， $\lambda$ 为常数，这里取10。

4. 智能支持向量回归模型模型及应用

4.1. 智能支持向量回归模型流程图

智能支持向量回归模型流程图见图1。

4.2. 数据收集

本例选取的是中小企业的华邦制药从2010年1月4日至2012年3月8日共515个交易日的收盘价作为研究数据，全部数据分为两部分，其中2010年1月4日至2012年3月1日的数据用于建立模型，剩下的5个数据用于预测模型的检验。

4.3. 数据标准化处理

数据标准化处理中采用的常用办法是转换数据的尺度，将全部数据线性映射到区间[0, 1]。

4.4. 实验结果

实验结果表1所示：

Figure 1. Flow chart of intelligent support vector regression model

图1. 智能支持向量回归模型流程图

Table 1. The comparison of intelligent support vector regression model

表1. 模型结果比较

表1是智能支持向量回归模型和BP神经网络模型预测结果的比较，可以看出，我们提出的智能支持向量回归模型明显优于BP神经网络模型。

5. 结论

本文提出的智能支持向量回归模型具有四大优点：1) 该模型精度高，是进行金融数据预测的一种很好方法；2) 智能支持向量回归具备较强的非线性映射能力，可以针对少量有限样本情况；3) 智能支持向量回归模型最终转化成为一个二次型寻优问题，得到的是全局最优解，解决了在神经网络方法中无法避免的局部极值问题；4) 智能支持向量回归模型将实际问题通过非线性变换转换到高维特征空间，在高维空间中构造线性判别函数来实现原空间中的非线性判别函数，使得模型具备较强的泛化能力。

参考文献