DSC  >> Vol. 8 No. 2 (April 2019)

    规则连接神经网络的同步分析与模拟
    Synchronization Analysis and Simulation on Regular Coupled Neural Networks

  • 全文下载: PDF(2644KB) HTML   XML   PP.71-80   DOI: 10.12677/DSC.2019.82009  
  • 下载量: 326  浏览量: 467   国家自然科学基金支持

作者:  

温 娜,刘深泉:华南理工大学数学学院,广东 广州

关键词:
Hindmarsh-Rose模型李雅普诺夫函数全局渐近稳定Hindmarsh-Rose Model Lyapunov Function Global Asymptotic Stability

摘要:

我们以Hindmarsh-Rose (HR)模型作为例子,研究了规则连接神经网络的同步特性。通过引入适当的偏差变量,将同步流形的稳定性转化为偏差方程零解的稳定性。为偏差方程构造合适的李雅普诺夫函数,得到了HR神经网络实现全局渐近同步的相关准则。理论结果显示了神经元数目和连接方式对神经网络同步的影响。数值模拟验证了文中结果的可靠性。

We take Hindmarsh-Rose (HR) model as an example to study the synchronization property of reg-ular coupled neural networks. Through introducing appropriate error variable, we transform the stability of synchronization manifold into that of null solution of error equations. By constructing a proper Lyapunov function for error equations, the relative criterion is theoretically provided for global asymptotic synchronization of HR neural networks. Further, the theoretical result shows the influence of neuron numbers and connection types in neural network on synchronization. Numerical simulations test the reliability of the results in this paper.

1. 引言

同步作为耦合系统中的一个重要行为,它已经逐渐渗透到许多领域,如电路系统、神经系统、生物系统、复杂网络等。科学家们已经在麻醉的猫的视觉脑皮层里观察到了 γ 频率运动的同步 [1] [2] 。随后,类似的结果也在清醒的猴子脑记录中发现 [3] 。这些发现表明神经系统中广泛存在着同步行为。然而,生物机体的同步行为并非都发挥着积极的作用。有生理实验表明,过多的同步可能造成某些生理疾病,如癫痫 [4] [5] 和帕金森综合症 [6] [7] 等。基于这些发现,同步现象的研究就有了紧迫性和现实意义。想要更深入地了解同步机制,就必须知道生物体内神经元之间的连接模式。神经元主要依靠两种方式的突触连接形成神经网络。由缝隙连接实现的电耦合和由突触释放神经递质形成的化学耦合 [1] ,并具有不同的拓扑结构,如规则连接、非对称连接 [8] 、小世界网络 [9] 等。

在不同类型的同步研究中,完全同步的研究方法和理论是最为成熟和完善的。这些方法主要是基于动力系统的稳定性理论。通过计算同步流形处线性化偏差系统的零解稳定性得到实现同步的条件。Pecora和Carroll [10] 在1998年提出了主稳定判别法,通过计算最大条件Lyapunov指数,可以找到同步的范围。吕 [11] 等人运用Routh-Hurwitz准则研究了3个耦合的Lorenz系统的同步稳定性,并给出了同步稳定性的准则。王 [12] 等人在之前研究的基础上提出了矩阵理论,给出了对称连接的神经网络同步稳定的依据。在文献 [13] 中,赵等人利用李雅普诺夫函数的方法研究了3个HR模型在链式和环状连接方式下的同步性,探究出两种连接方式对神经网络同步的影响。由于模型的高维性和复杂性,理论的方法探究耦合系统的同步性还存在很大的局限性。对此,数值模拟的方法来测量同步被广泛地应用 [14] [15] 。

为了更进一步地研究规则耦合神经网络同步的同步特性。本文借助HR模型,研究了三种连接方式下生物神经网络的同步性。首先,引入偏差变量,把耦合系统的同步性转化为线性化偏差系统零解的稳定性。随后,为偏差系统构造合适的李雅普诺夫函数,给出李雅普诺夫函数的导数为负的条件,进而得出耦合系统在链式、环状、全局三种连接方式下达到全局渐近同步的准则。最后,利用数值模拟检验了同步稳定性准则的可靠性。研究发现,耦合系统的同步性与神经元数目以及连接方式有关,这为同步现象的研究提供了一定的参考作用。

2. 模型描述

2.1. 单个HR模型

HR模型是Hindmarsh和Rose根据电压钳实验获得的关于蜗牛神经细胞数据而提出的,它能模拟软体动物神经元重复的峰放电和不规则的簇放电行为,是一类可兴奋的神经元模型。其简化的神经元模型有利于模拟真实神经网络,单个HR模型描述如下:

{ d x 1 d t = x 2 + f ( x 1 ) x 3 + I , d x 2 d t = g ( x 1 ) x 2 , d x 3 d t = μ [ s ( x 1 χ ) x 3 ] , (1)

其中 f ( x 1 ) = a x 1 3 + b x 1 2 , g ( x 1 ) = c d x 1 2 x 1 是神经元的膜电位; x 2 是与Na+和K+有关的快电流; x 3 为相关的慢电流,例如Ca+ I 为刺激电流;本文采取参数。当 I = 2.95 时,其神经元电位发放图和相平面图如图1(a)和图1(b)所示。图中显示, I = 2.95 对应神经元的混沌状态,其膜电位的范围是 | x 1 | 2

(a) (b)

Figure 1. (a) Time series of membrane potential; (b) Phase-plane diagram of x1 and x3

图1. (a) 膜电位的时间序列图;(b) x1和x3的相平面图

2.2. N个神经元电耦合的动力系统

现考虑电突触耦合的N个HR模型构成的神经网络系统,神经元之间是双向连接的,第 i 个神经元的动力学方程由下列微分系统给出:

{ d x i 1 d t = f 1 ( X i ) + j = 1 N k i j g i j x j 1 , d x i 2 d t = f 2 ( X i ) , d x i 3 d t = f 3 ( X i ) , i = 1 , 2 , 3 , , N, (2)

其中 X i = ( x i 1 , x i 2 , x i 3 ) T R 3 表示第 i 个HR模型的状态变量; f 1 ( X i ) , f 2 ( X i ) , f 3 ( X i ) 为系统(1)中对应变量的表达式; k i j 0 表示耦合强度;如果第 i 个神经元和第 j 个神经元相连,则记 g i j = g j i = 1 ,否则记为0,并且有 g i i = j = 1 , j i N g i j ,则系统的连接矩阵 G = ( g i j ) N × N 。单个HR模型对应变量表达式构成的三维向量函数记作 F ( X i ) = ( f 1 ( X i ) , f 2 ( X i ) , f 3 ( X i ) ) T ,系统(2)可以简记为:

d X i d t = F ( X i ) + k j = 1 N g i j T X j , i = 1 , 2 , 3 , , N , (3)

其中 T = [ 1 0 0 0 0 0 0 0 0 ] 3 × 3 ,表示仅仅依靠第一个状态变量来实现耦合。

定义:如果耦合系统的状态变量满足关系:

X 1 ( t ) = X 2 ( t ) = = X N ( t ) = s ( t ) , t + , (4)

其中 s ( t ) 是单个神经元系统的解,那么我们称耦合系统(3)达到了完全同步状态。

引理 [12] :设 0 = λ 1 > λ 2 λ 3 λ N 是连接矩阵 G 的所有特征值。如果下面的 N 1 个线性化偏差系统:

d γ d t = ( D X F ( s ( t ) ) + k λ m T ) γ , m = 2 , 3 , , N , (5)

在零解处是渐近稳定的,其中 γ = ( γ 1 , γ 2 , γ 3 ) T R 3 是系统(3)的同步偏差变量, D X F ( s ( t ) ) F ( X ) s ( t ) 处的雅可比矩阵,那么耦合系统(3)的同步状态(4)是渐近稳定的。

3. 三种连接方式分析

本节中,我们研究N个规则连接的HR模型在链式、环状、全局耦合方式下的同步性,得到了三种连接方式下全局渐近同步的准则,即定理1~3。并对其进行了严格的证明。

3.1. 链式连接

多个神经元通过电突触耦合,如果第一个神经元仅与其后面的一个神经元有连接,最后一个神经元仅与其前面的一个神经元存在连接,而其他神经元都与其相邻的两个神经元存在连接,则这种连接方式称为链式连接。图2(a)为其网络结构示意图。

(a) (b) (c)

Figure 2. Three different connections: (a) chain connection; (b) ring connection; (c) global connection

图2. 三种不同的连接:(a) 链式连接;(b) 环状连接;(c) 全局连接

此种方式的连接矩阵 G c h a i n = [ 1 1 1 2 1 1 2 1 1 1 ] ,其最大非零特征值 λ 2 = 4 sin 2 π 2 N

定理1:在链式连接方式下,如果 k > H + ( 1 + L ) 2 4 4 sin 2 π 2 N ,那么耦合系统(3)是全局渐近同步的,其中 H = max { H i = f ( x i 1 ) max , i = 1 , 2 , , N } , L = max { L i = g ( x i 1 ) max , i = 1 , 2 , , N }

证明:取矩阵 A = [ 1 2 0 0 0 1 2 0 0 0 1 2 μ s ] ,为系统(5)构造正定李雅普诺夫函数 V = γ T A γ

d V d t = γ T ( [ D F ( s ( t ) ) ] T A + A D F ( s ( t ) ) + 2 k λ m A T ) γ = γ T [ f ( x 1 ) + k λ m g ( x 1 ) + 1 2 0 g ( x 1 ) + 1 2 1 0 0 0 1 s ] γ ( H + k λ m ) | γ 1 | 2 + ( L + 1 ) | γ 1 γ 2 | | γ 2 | 2 1 s | γ 3 | 2 ( | γ 1 | , | γ 2 | , | γ 3 | ) [ H + k λ m L + 1 2 0 L + 1 2 1 0 0 0 1 s ] ( | γ 1 | , | γ 2 | , | γ 3 | ) T

k > H + ( L + 1 ) 2 4 | λ 2 | 时, B m = [ H + k λ m L + 1 2 0 L + 1 2 1 0 0 0 1 s ] < 0 ( m = 2 , 3 , , N )

所以 d V d t ( | γ 1 | , | γ 2 | , | γ 3 | ) B m ( | γ 1 | , | γ 2 | , | γ 3 | ) T < 0 ( m = 2 , 3 , , N )

因此,在链式连接下,当耦合强度 k > H + ( 1 + L ) 2 4 4 sin 2 π 2 N 时,偏差系统(5)是全局渐近稳定的。根据引理,定理1得证。

3.2. 环状连接

环状连接是一种非常普遍的循环网络连接模式,在海马、小脑、大脑等神经组织中大量存在。其主要特点为神经网络中的每一个神经元均和其最近的两个神经元之间存在耦合作用,图2(b)为其网络结构示意图。

此种方式的连接矩阵 G r i n g = [ 2 1 1 1 2 1 1 2 1 1 1 2 ] ,其最大非零特征值 λ 2 = 4 sin 2 π N

定理2:在环状连接方式下,如果 k > H + ( L + 1 ) 2 4 4 sin 2 π N ,那么耦合系统(3)是全局渐近同步的,其中 H = max { H i = f ( x i 1 ) max , i = 1 , 2 , , N } , L = max { L i = g ( x i 1 ) max , i = 1 , 2 , , N }

定理2的证明与定理1类似,此处省略。

3.3. 全局连接

全局连接是指网络中的任意两个神经元之间都存在耦合作用,网络结构示意图如图2(c)。

此种方式下连接矩阵 G g l o b a l = [ N + 1 1 1 1 1 1 N + 1 1 1 1 1 1 1 N + 1 1 1 1 1 1 N + 1 ] ,其最大非零特征值

定理3:在全局连接方式下,如果 k > H + ( 1 + L ) 2 4 N ,那么耦合系统(3)是全局渐近同步的,其中 H = max { H i = f ( x i 1 ) max , i = 1 , 2 , , N } , L = max { L i = g ( x i 1 ) max , i = 1 , 2 , , N }

定理3的证明与定理1类似,此处省略。

从上面的分析,我们得到了链式、环状和全局连接方式下耦合系统达到全局渐近同步的充分条件。不妨把链式、环状和全局连接方式下,达到全局渐近同步时对应的定理1、2和3中不等式右边的耦合强度最小值称为耦合系统的同步阈值,分别记作 k c , k r k g

由于 N 4 时, | 4 sin 2 π 2 N | < | 4 sin π N | < | N | ,故三种对称连接方式下对应的同步阈值大小关系为 k c > k r > k g 。而当N增大的时候,对于链式和环状连接, k c k r 也随之增大。对于全局连接, k g 是随之减小的。

4. 数值模拟

为了验证定理1~3的可靠性,我们将对系统(3)进行数值模拟。在这里,引入系统(3)的同步差:

e ( t ) = | 1 N i = 1 N x i 1 ( t ) 2 ( 1 N i = 1 N x i 1 ( t ) ) 2 | ,

e ( t ) 表示 t 时刻的同步差,它反映了耦合系统的同步状态。规定当耦合强度 k > k 0 时,如果 lim t + e ( t ) = 0 ,那么称系统(3)达到了完全同步,此时我们把满足 k > k 0 条件的 k 0 的最小值称为耦合系统实际的同步阈值。

根据系统(1)的参数值,可知 | x 1 | 2 , H = 3 , L = 20 ,验证 N = 4 时定理1~3的可靠性。图3(a)是4个神经元处于未耦合状态,即时,系统(3)的同步差 e ( t ) 的时间序列图。从图中可以看到, e ( t ) 的波动性较大,此时神经元之间是不同步的。根据定理1~3的计算可得:4个神经元在链式、环状和全局连接方式下,耦合系统的同步阈值分别为193.3、56.62和28.31。在这三个耦合强度下,链式、环状和全局耦合系统 e ( t ) 的时间序列图分别为图3(b)、图4(a)和图4(b)。图中显示, e ( t ) 在经过一段很短的时间后,迅速变成了0,耦合系统达到了完全同步,这说明理论结果的可靠性。

根据 e ( t ) 的最大值计算实际的同步阈值,在这里仍然取 N = 4 图5(a)是链式耦合系统 e ( t ) 的最大值随耦合强度变化图。从图5(a)可以看出,当 k 1.56 时, e ( t ) 的最大值等于0,耦合系统达到了完全同步。对应图5(b),当耦合强度k = 1.56时,链式耦合系统的 e ( t ) 在一段时间后变成了0,这说明耦合系统达到了完全同步。由此,我们得到了4个电耦合的HR模型在链式连接下,完全同步的实际阈值。

图6(a)环状连接的耦合系统 e ( t ) 的最大值随耦合强度变化图。从图6(a)可以看出,当 k 0.47 时, e ( t ) 的最大值等于0,耦合系统达到了完全同步。对应图6(b),当 k = 0.47 时, e ( t ) 在一段时间后变成了0,这说明耦合系统达到了完全同步。由此,我们得到了4个电耦合的HR模型在环状连接下,完全同步的实际阈值。

图7(a)是 N = 4 时,全局连接的耦合系统 e ( t ) 的最大值随耦合强度变化图。从图7(a)可以看出,当 k 0.235 时, e ( t ) 的最大值等于0,耦合系统达到了完全同步。对应图7(b),当 k = 0.235 时, e ( t ) 在一段时间后变成了0,这说明耦合系统达到了完全同步。由此,我们得到了4个电耦合的HR模型在全局连接下,达到完全同步的实际阈值。

(a) (b)

Figure 3. (a) The time series of e(t) when k = 0 in system (3); (b) The time series of e(t) in chain-coupled system when k = 193.3

图3. (a) 当k = 0时,系统(3) e(t)的时间序列图;(b) 当k = 193.3时,链式耦合系统e(t)的时间序列图

(a) (b)

Figure 4. (a) The time series of e(t) in ring-coupled system when k = 56.62; (b) The time series of e(t) in global-coupled system when k = 28.31

图4. (a) 当k = 56.62时,环状耦合系统e(t)的时间序列图;(b) 当k = 28.31时,全局耦合系统e(t)的时间序列图

(a) (b)

Figure 5. (a) Maximum of e(t) vs. k in chain-coupled system; (b) The time series of e(t) in chain-coupled system when k = 1.56

图5. (a) 链式耦合系统的最大值随k的变化图;(b) 当k = 1.56时,链式耦合系统e(t)的时间序列图

(a) (b)

Figure 6. (a) Maximum of e(t) vs. k in ring-coupled system; (b) The time series of e(t) in ring-coupled system when k = 0.47

图6. (a) 环状耦合系统e(t)最大值随k变化图;(b) 当k = 0.47时,环状耦合系统e(t)的时间序列图

(a) (b)

Figure 7. (a) Maximum of e(t) vs. k in global-coupled system; (b) The time series of e(t) in global-coupled system when k = 0.235

图7. (a) e(t)最大值随k的变化图;(b) 当k = 0.235时,全局耦合系统e(t)的时间序列图

N = 5 , 6 , , 12 ,重复上述过程。在链式、环状和全局连接方式下,数值模拟得到实际同步阈值分别记作 k c , k r k g 。数据如表1图8表1中神经元数目和同步阈值关系图,它更直观地展示了同步阈值随神经元数目的变化趋势。从表1图8可以看出理论和数值模拟结果都反映出相同的性质,对于链式和环状连接的系统,同步阈值随N的增大而增大。对于全局连接的系统,同步阈值随N的增大而减小。并且理论计算出的同步阈值大约是数值模拟得到的同步阈值的125倍。另外,当N相同的时候,理论计算的同步阈值和数值模拟的同步阈值的关系为,这说明全局连接的系统比环状连接的系统更容易达到同步,而环状连接的系统又比链式连接的系统更容易达到同步。

Table 1. Data of the number of neuron and synchronization thresholds for three types of regular coupled neural networks

表1. 三种规则连接神经网络的神经元数目与同步阈值数据

(a) (b)

Figure 8. (a) The theoretical synchronization thresholds vs. the number of neurons from top to bottom being chain-coupled, ring-coupled and global-coupled; (b) The true synchronization thresholds vs. the number of neurons from top to bottom being chain-coupled, ring-coupled and global-coupled, respectively

图8. (a) 理论同步阈值与神经元数目的关系图,从上到下依次是链式连接、环状连接、全局连接;(b) 实际同步阈值与神经元数目关系图,从上到下依次是链式连接、环状连接、全局连接

5. 本文结论

本文借助引理,将多个神经元耦合的同步问题转化为偏差系统零解的稳定性问题,通过构建合适的李雅普诺夫函数,发现同步阈值由耦合系统的连接矩阵的最大非零特征值决定,进而给出了达到完全同步的准则。克服了模型维数高且复杂的难题,从理论上解决了多个神经元耦合的系统同步阈值问题。最后,利用计算机数值模拟,验证了结果的可靠性,并计算出了不同耦合神经网络实际的同步阈值。

理论结果和数值模拟结果都反映了相同的性质。一方面,对于链式和环状耦合系统,同步阈值随着神经元数目的增大而增大;对于全局耦合系统,同步阈值随神经元数目的增大而减小。并且理论计算的同步阈值大约是数值模拟计算值的125倍。这说明神经元数目增多,会使链式和环状耦合系统同步能力变弱,而使全局耦合系统变强。另一方面,当神经元数目相同的时候,链式连接的同步阈值大于环状连接大于全局连接。这说明三种连接方式中,全局连接的同步能力最强,其次是环状连接,而链式连接的同步能力最弱。虽然理论结果相对较为保守,但是它刻画了神经元数目及连接方式与同步阈值的关系,进一步地,对于任意一个确实的耦合系统,通过本文结论可以估计该系统的同步范围,这对研究同步现象具有一定的参考作用。

基金项目

国家自然科学基金(11872183, 11572127)。

文章引用:
温娜, 刘深泉. 规则连接神经网络的同步分析与模拟[J]. 动力系统与控制, 2019, 8(2): 71-80. https://doi.org/10.12677/DSC.2019.82009

参考文献

[1] 王青云. 神经元耦合系统的同步动力学[M]. 北京: 科学出版社, 2008: 38-51.
[2] Gray, C.M., k?nig, P., Engel, A.K., et al. (1989) Oscillatory Responses in Cat Visual Cortex Exhibit Inter-Columnar Synchronization Which Reflect Global Stimulus Properties. Nature, 338, 334-337.
https://doi.org/10.1038/338334a0
[3] Fell, J., Fernandez, G., Klaver, P., et al. (2003) Is Synchronized Neural Gamma Activity Relevant for Selective Attentions. Brain Research Reviews, 42, 265-272.
https://doi.org/10.1016/S0165-0173(03)00178-4
[4] Mormann, F., Andrzejak, R.K., Kreuz, T., et al. (2003) Automated De-tection of a Preseizure State Based on a Decrease in Synchronization in Intracranial Electroencephalogram Recordings from Epilepsy Patients. Physical Review E, 67, Article ID: 021912.
https://doi.org/10.1103/PhysRevE.67.021912
[5] Khazipov, R. (2016) GABAergic Synchronization in Epilepsy. Cold Spring Harbor Perspectives in Medicine, 6, Article ID: 022746.
https://doi.org/10.1101/cshperspect.a022764
[6] Pfurtscheller, G., Pichler-Zalaudek, K., Ortmayr, B., et al. (1998) Post Movement Beta Synchronization in Patients with Parkinson’s Disease. Journal of Clinical Neurophysiology, 15, 243-250.
https://doi.org/10.1097/00004691-199805000-00008
[7] Hammond, C., Bergman, H. and Brown, P. (2007) Pathological Synchronization in Parkinson’s Disease: Networks, Models and Treatments. Trends in Neurosciences, 30, 360-364.
https://doi.org/10.1016/j.tins.2007.05.004
[8] Wang, Z. and Zhang, H. (2013) Synchronization Stability in Complex Inter-connected Neural Networks with Nonsymmetric Coupling. Neurocomputing, 108, 84-92.
https://doi.org/10.1016/j.neucom.2012.11.014
[9] Newman, M.E.J. and Watts, D.J. (1999) Renormalization Group Analysis of the Small-World Network Model. Physics Letters A, 263, 341-346.
https://doi.org/10.1016/S0375-9601(99)00757-4
[10] Pecora, L.M. and Carroll, T.L. (1998) Master Stability Functions for Synchronized Coupled Systems. Physical Review Letters, 10, 2109-2112.
https://doi.org/10.1103/PhysRevLett.80.2109
[11] Lu, J.H., Zhou, T.S. and Zhang, S.C. (2002) Chaos Synchronization between Linearly Coupled Chaotic Systems. Chaos Solitons & Fractals, 14, 529-541.
https://doi.org/10.1016/S0960-0779(02)00005-X
[12] Wang, Q.Y., Lu, Q.S., Chen, G.R., et al. (2006) Chaos Synchronization of Coupled Neurons with Gap Junctions. Physics Letters A, 356, 17-25.
https://doi.org/10.1016/j.physleta.2006.03.017
[13] 赵勇, 吴婵媛, 孟盼. 三个电耦合神经元系统同步分析和模拟[J]. 动力学与控制学报, 2016, 14(3): 269-275.
[14] Gu, H.G., Li, Y.Y., Jia, B., et al. (2013) Parameter-Dependent Synchronization Transition of Coupled Neurons with Co-Existing Spiking and Bursting. Physica A: Statistical Mechanics and Its Applications, 392, 3281-3292.
https://doi.org/10.1016/j.physa.2013.03.039
[15] Ren, G., Xu, Y. and Wang, C. (2017) Synchronization Behavior of Coupled Neuron Circuits Composed of Memristors. Nonlinear Dynamics, 88, 893-901.
https://doi.org/10.1007/s11071-016-3283-2