1. 引言
近年来,神经网络非线性动力学的研究已经成为了一个前沿性的课题,其研究方向涉及稳定性、同步性、分岔与混沌等。分岔是指一个动力系统的长期行为模式随着系统中参数的连续变化而发生突然的、定性的改变,而连续变化并引起动力学行为突变的参数称为分岔参数[1]。目前的研究中以时滞作为分岔参数的居多,并且讨论了不同的拓扑结构对时滞神经网络动力学行为产生的影响。例如文献[2] [3]研究了环状耦合结构的时滞神经网络的稳定性和分岔现象,文献[4] [5]研究了星状结构的时滞神经网络分岔动力学行为。相较于简单的拓扑结构,文献[6]提出了一种以星状和环状相混合的结构,这种结构既具有环形结构的高拓扑值也具有星状的强信息集成能力,在此基础上,文献[7]进一步探讨了分数阶微积分对该类型的网络分岔阈值造成的影响。然而现实中的神经网络,节点之间存在着合作或对抗关系,这也是影响整个网络状态的因素之一。
符号图神经网络可以很好地描述节点之间的合作或对抗,目前以同步性研究居多。例如文献[8]在网络中加入了线性连续控制项,研究了区间二分同步问题,文献[9]进一步的考虑了耦合过程中时滞的影响。时滞、耦合强度都可作为自由参数研究分岔问题。文献[10]研究了一类信念动力学问题,并且以耦合强度为自由参数,计算出了发生周期振荡的临界值。
基于以上的论述,本文研究在轮式拓扑结构符号图神经网络中,采用非线性反馈控制,以时滞为自由参数的分岔问题,使用MATLAB软件包[11]进行数值仿真,以验证理论结果。
符号说明:
表示矩阵
的谱,
表示耦合时滞,
表示复数的实部,
表示复数的虚部,
表示函数
的一阶导数是连续的。
2. 预备知识与模型描述
2.1. 预备知识
定义1:
为一个有向符号图,其中
,
和
分别为节点集,边集以及连接权重所组成的邻接矩阵。若
,则
,反之
。
,
分别说明两节点之间为合作关系和对抗关系,若
,则节点
到节点
的方向无连接。
定义2:
为Laplace矩阵,其中:
简记为
,
。
引理1 [1]:对于动力系统
,
,
,若存在一个平衡点
,并且满足下列条件:
1)
在虚轴上存在有且仅有一对纯虚根,其余为负实部的根,并且在平衡点邻域内
对
与
是解析的;
2) 当
通过
时,特征根横穿虚轴,且满足
;
则
于平衡点
处出现Hopf分岔。
引理2 [12]:考虑如下的指数型多项式:
其中,
,
且
。当参数
的取值改变时,指数多项式
在虚平面右半边的零点总阶数会变化当且仅当其零点有穿越虚轴的情况。
引理3 [13]:对于参数自治时滞系统族
,其中
为线性部分,若系统在
处发生Hopf分岔,对应的线性算子为
,伴随算子为
,对应于
与
的特征向量分别为
与
,且
,令
,则限制在中心流形上的规范型为:
,
第一李雅普诺夫系数为
,记
,则有:
1) 若
,则系统在平衡点处发生亚临界的Hopf分岔,其周期解是不稳定的;
2) 若
,则系统在平衡点处发生超临界的Hopf分岔,其周期解是稳定的。
2.2. 模型描述
相较于耦合关系仅体现为单一的合作行为,本文研究如图1所示的包含5个节点的轮形符号图的神经网络,并且引入符号权重以刻画合作与竞争共存关系,分析了两节点之间合作或竞争行为过程中时滞所引起的动力学行为变化,其中实线表示合作关系,虚线表示竞争关系。
Figure 1. Wheel topology structure
图1. 轮形拓扑结构
轮形符号图时滞神经网络动力学由如下时滞微分方程描述:
(1)
其中
表示每个结点的状态变量,自衰减系数与权重系数设置为1,
表示每个节点自身的非线性激活函数,需要被设计的控制输入为
,表示节点之间的耦合。
现实中,神经网络普遍存在合作与竞争并存的交互模式,相互作用常呈现出非线性特性,单纯的线性耦合难以刻画此类复杂动力学,因此我们考虑如下的非线性耦合方式:
, (2)
表示耦合强度,
为每个节点在耦合过程中的非线性激活函数,轮形结构的邻接矩阵
为:
。
将(2)代入(1),并展开为时滞微分方程组的形式:
。 (3)
假设1:激活函数满足
。
为聚焦于时滞
导致系统稳定性丧失以及Hopf分岔的发生,保证理论分析的清晰性与可处理性,本文以原点
为平衡点对网络系统(3)进行线性化,得到如下线性化方程组:
, (4)
方程组(4)的Laplace矩阵为:
,
对角线元素为
,令
,网络系统(3)的特征行列式如下:
。
显然,系统的特征方程是一个含有多个指数项的超越方程,其解析解无法直接计算。为了简化特征方程的计算,我们假设
,但它们可以不一样。
可计算出特征方程:
, (5)
各项系数如下:
方程(5)中的超越项仍然太多,直接化简后难以计算特征值,为此我们可以将
视为一个整体元素,通过代换将其化简为一般多项式(6),通过分析整体元素的实部与虚部,可确定特征方程(5)的特征值。
令
,特征方程(5)简化为:
, (6)
若方程(6)有虚数根
,且
,
,同样地对于特征方程(5)式的特征根来说
亦是成立的。
3. 理论分析
在这一节,我们将研究以时滞引起的分岔现象,计算出临界点并搭建分岔现象发生的充分条件,以下内容都基于假设1成立的情况。
定理1:当
时,若
,则
中所有的特征值都是负实部的,即网络系统(3)在
时于平衡点处是局部渐进稳定的。
证明:对(6)式中的整体元素
展开实部与虚部:
,
可得出实部
。当
时,(6)式特征根的最大实部满足
。若
,则特征方程(5)的特征根实部是负的。
综上所述,网络系统(3)在平衡点邻域内是局部渐进稳定的,定理1得证。
接着,我们分析在
时网络系统(3)产生Hopf分岔的充分条件。若特征方程(5)存在纯虚根
,将
代入
,则有:
,
上式的实部与虚部分别为
和
,从而:
。 (7)
由于
,所以我们得到如下等式:
。 (8)
定理2:若
,则方程(8)至少存在一个非零解,即方程(5)存在纯虚根
。
证明:若
,则判别式
,并且
,对称轴不与纵坐标重合。因此,(8)式至少存在一个非零解,对应的方程存在纯虚根
。
定理2证明完毕。
定理2说明特征方程(5)至少存在一个纯虚根
,为了不失一般性,我们假设方程(5)存在
个纯虚根,对应虚部为
(
),由(7)式可知,每一个虚部对应的一簇时滞解:
,
,
在所有纯虚根对应的时滞解
中选取最小值
。由引理2,网络系统(3)在
时,位于虚轴右半边的特征根总阶数不变,由定理1可知当
时,系统的特征根全部位于虚轴左边。因此,系统在
时在平衡点邻域内局部渐近稳定的。反之,如果
不存在,网络系统(3)不满足定理2,即
,使得(8)式无解。根据引理2,特征根在
时会一直全部位于虚轴左边,此时网络系统(3)在
时位于平衡点邻域内是局部渐近稳定的。
在网络系统(3)满足定理1与定理2的条件下,我们接下来推导发生Hopf分岔的横截性条件,即引理2中的
。
定理3:若
,且
,则有如下不等式成立:
。
证明:对(6)式等号左右对
求导,即有:
。
将上式化简得到
,并且等号两边同时除以
可得:
,
取
,
并代入上式:
,
则上式实部:
,
因此实部的符号为:
,
定理3证明完毕。
综上定理1~3所述,
就是网络系统(3)在平衡点处的临界点,可以得出定理4。
定理4:在假设1成立且
的前提下,对于轮形符号图时滞神经网络(3),我们有如下结论:
1)若
,则网络系统在
时于平衡点邻域内是局部渐进稳定的;
2) 若
且
,
,则网络系统(3)在
时于平衡点处是局步渐近稳定的,在
处出现Hopf分岔,当
时,平衡点失去稳定性,产生周期解。
证明:1) 若
,则由定理1可知,当
时,网络系统(3)在平衡点处是局部渐近稳定的;由于
,由判别式
,(8)式无解,特征方程(5)不存在纯虚根,由引理2,特征方程(5)位于虚轴左半边零点总阶数不随着
的增大而改变,因此网络系统(3)在
时于平衡点邻域内是局部渐进稳定的。
2) 若
,由定理2可知,特征方程(5)存在纯虚根;在所有的纯虚根虚部对应的时滞
中选取最小值
,若
且
,由定理3可知
,横截性条件满足。因此由引理1,网络系统(3)在平衡点处出现Hopf分岔。
对于网络系统(3)在临界点
处发生Hopf分岔的方向和稳定性,我们可以使用DDE-BIFTOOL中的“nmfm”模块来计算引理1中第一李雅普诺夫系数来确定。
4. 数值模拟
在这一节中,我们使用DDE-BIFTOOL软件包[11]对理论推导结果进行仿真验证。考虑如下5个节点的网络,选取的激活函数为
,参数取值如下:
在初值条件下,外围节点之间是对抗关系,且为单向连接;中心节点1与外围节点2和5为合作关系,与节点3和4为对抗关系。
首先在初值条件下,计算网络系统(3)的特征根,并且在图2上展示特征根的分布情况,可见在初值条件下网络系统(3)存在位于虚轴右半平面的特征根,此时是不稳定的。
Figure 2. Characteristic root distribution of network system (3) at the initial state
图2. 初值条件下,网络系统(3)的特征根分布。
创建一个以时滞
为自由参数的分支,设置
,最大步长
,在
按照最大步长从0增大至2之前,我们的程序共计算了222个点的特征值,特征值实部随时滞
的变化曲线见图3,每一个点对应特征值的实部取值见图4。从这两个图中我们可以看出当
时,特征根实部全部小于0,随着时滞取值的变化,特征值存在穿越虚轴的情况,即临界点
是存在的,并且穿越虚轴时
,我们的横截性条件成立,Hopf分岔现象是存在的。
Figure 3. Variation of the real parts of the characteristic roots with increasing time delay for network system (3). The cyan curve represents the calibrated values
图3. 网络系统(3)的特征根的实部随时滞增大而变化的曲线。青色线为校正值
Figure 4. Variation curve of the maximum real part of the characteristic roots
图4. 每一个点的特征根实部最大取值及变化曲线
在图4中可见第209到第210个点之间就存在临界点,接着经过持续校正,最终定位到系统的临界值
,对应的虚部取值
,此时特征根分布情况见图5,这就说明随着时滞
的不断增大,网络系统(3)由稳定向着不稳定状态变化,也验证了定理4的正确性。
Figure 5. When the time delay is set to
, a pair of pure imaginary roots
with
emerges in the network system (3)
图5. 当时滞取值
时,网络系统(3)存在一对纯虚根
使用DDE-BIFTOOL计算出临界值后,我们接着使用MATLAB自带的dde23函数插件作出对应的状态图和相位图。当
时,网络系统(3)是局部渐进稳定的,对应的状态图与相位图见图6(a)与图6(b)。当
时,网络系统(3)出现极限环,并且有周期震荡现象,对应的状态图与相位图见图7(a)与图7(b)。
为了展现网络系统(3)发生Hopf分岔时的性质,我们接着使用DDE-BIFTOOL中的“nmfm”模块来计算时滞
时的李雅普诺夫第一系数。初值条件不变,仍然取
,最大步长
,在延拓的过程中,我们的程序一共检测到13个Hopf分岔点,对应的
以及第一李雅普诺夫系数实部
的取值见表1。
(a) (b)
Figure 6. Local asymptotic stability of the network system (3) for
, with other parameters fixed. (a) State diagram of the system (3); (b) Phase diagram of the system (3)
图6. 其他参数不变,当
时,网络系统(3)局部渐近稳定。(a) 系统(3)的状态图;(b) 系统(3)的相位图
(a) (b)
Figure 7. Emergence of periodic oscillations in the network system (3) for
, with other parameters fixed. (a) State diagram of the system (3); (b) Phase diagram of the system (3)
图7. 其他参数不变,当
时,网络系统(3)出现周期振荡现象。(a) 系统(3)的状态图;(b) 系统(3)的相位图
Table 1. The values of
and the normal form coefficient
for each Hopf bifurcation point obtained during continuation with a maximum step
on
表1. 在
上以最大步长
延拓的过程中,每一个Hopf点对应的
与正规型系数
的取值
Hopf分岔点 |
取值 |
正规型系数
|
|
0.125920 |
−0.086930 |
|
0.169263 |
−0.061351 |
|
0.184757 |
−0.100368 |
|
0.448087 |
−0.038938 |
|
0.716285 |
−0.004809 |
|
0.759628 |
−0.004285 |
|
1.016162 |
−0.107250 |
|
1.306651 |
−0.001463 |
|
1.349994 |
−0.001371 |
|
1.450445 |
−0.004457 |
|
1.713776 |
−0.003187 |
|
1.897016 |
−0.000665 |
|
1.940359 |
−0.000695 |
(a) (b)
Figure 8. For
, periodic oscillations emerge and a stable limit cycle is generated in the network system (3). (a) State diagram of system (3); (b) Phase portrait of system (3)
图8. 取
,网络系统(3)出现周期振荡现象并且产生稳定的极限环。(a) 系统(3)的状态图;(b) 系统(3)的相位图
(a) (b)
Figure 9. For
, (a) State diagram of system (3); (b) Phase portrait of system (3)
图9. 取
,(a) 系统(3)的状态图;(b) 系统(3)的相位图
(a) (b)
Figure 10. For
, (a) State diagram of system (3); (b) Phase portrait of system (3)
图10. 取
,(a) 系统(3)的状态图;(b) 系统(3)的相位图
显然,对于
,对应的正规型系数
,网络系统(3)发生超临界Hopf分岔并且周期解是稳定的。接下来分别取
。
,
,代入dde23函数,相应的状态图与相位图分别见图8~10。
5. 结论
本文研究了轮形符号图时滞神经网络的稳定性和Hopf分岔现象。通过引入带符号的耦合权重来刻画节点间的合作与竞争关系,并采用非线性耦合方式,建立了一个更贴近实际交互模式的网络模型。以时滞为分岔参数,得出了局部渐近稳定和Hopf分岔发生的充分条件,并计算了整个网络系统动力学行为发生突变的临界点。然而现实中的网络普遍是高维度的,并且引起分岔的因素还有耦合强度、激活函数等,未来我们将进一步探讨这些问题。
基金项目
国家自然科学基金面上项目(NO: 62473134)和湖北省高等学校优秀中青年科技创新团队计划(NO: T2023020)。