1. 引言
近年来,人工神经网络在联想记忆、组合优化、图像处理等领域得到成功应用(见 [1] [2] [3] )。例如神经网络应用于联想记忆实质是:将要存储的记忆样本用矢量表示;神经网络在输入记忆样本后,经过演化最终稳定在记忆样本上;当神经网络的输入为非线性记忆样本时,网络输出应该要么稳定于记忆样本,要么稳定于稳定的非线性样本;不论外部输入为何,神经网络的输出应该是稳定的。用神经网络解决各种组合优化问题时的实质是把问题映射为一神经网络动力系统,并写出相应的能量函数表达式和动力学方程,他们应满足问题的约束条件;最后研究神经网络的动力学过程,以保证网络的稳态输出与能量函数的极小值和组合优化问题的解相对应。因此稳定性的分析一直是神经网络理论的研究重点。在实际应用中,神经网络的系统状态有时不仅依赖于神经元当前的状态,而且还与过去的状态即过去状态对时间的导数有关,这样的系统称为中立型神经网络。
目前,中立型神经网络在种群生态学、分布式网络、传播和扩散模型中得到了广泛的应用(见 [4] [5] [6] )。中立型神经网络的稳定性也得到充分发展(见 [7] - [13] )。2018年,G.B. Zhang等人在 [12] 中研究了一类具有混合时变时滞的中立型神经网络的鲁棒稳定性问题。通过构造多重Lyapunov-Krasovskii泛函,利用推广的基于多重Wirtinger的积分不等式得到了两个LMI形式的判据。相较于一重Lyapunov-Krasovskii泛函,进一步降低了条件的保守性。2020年,S. Arik在 [13] 中研究了一类具有多时滞的中立型神经网络的全局渐近稳定性问题。文章首先利用同胚映射理论证明了平衡点的存在唯一性。然后通过构造Lyapunov-Krasovskii泛函和利用矩阵不等式得到了与时滞无关的代数判据。
S-型时滞包含了离散时滞和连续时滞,最早由王林山教授和徐道义教授在 [14] 中提出。目前关于具有S-型分布时滞的神经网络稳定性得到广泛关注(见 [15] [16] [17] [18] [19] )。2011年,Y.F. Wang等人在 [18] 中研究了一类S-型分布时滞的高阶Hopfield型神经网络的全局指数稳定性问题。文章利用拓扑度理论和微分不等式技术,证明了平衡点的存在性和全局存在性。通过截距方程得到了全局指数稳定性的一些易于验证的充分条件,这些条件还具有更广泛的适应性。2018年,Q. Yao等人在 [19] 中研究了一类S-型分布式时滞的反应扩散随机Hopfield神经网络的指数稳定性问题。文章首先通过截距法将无限时滞问题转化为有限时滞问题。然后利用广义Halanay不等式研究了有限时滞网络的适定性,并用M函数讨论均方意义上的全局指数稳定性,最后借助逼近方法,得到了原始网络的适定性和稳定性。
但是据作者所知,目前关于S-型分布时滞的中立型神经网络稳定性研究较少,其原因是中立型时滞的引入,给这类神经网络的稳定性分析带来较大的困难。因此本文研究了具有S-型分布时滞的中立型神经网络的全局渐近稳定性问题,并得到了与时滞无关的易于验证的代数判据。
本文的结构安排如下:
第二节预备知识中给出S-型分布时滞中立型神经网络的具体形式,给出本文需要的两个引理;第三节主要结论包含两部分,第一部分通过同胚映射理论证明平衡点的存在唯一性,第二部分通过利用Lyapunov理论得到平衡点的全局渐近稳定性判据;第四节通过两个具体的数值例子并用MATLAB仿真验证了新判据的有效性;第五节结论是对全文的一个总结以及对未来的展望。
2. 预备知识
考虑如下具有S-型分布时滞的中立型神经网络系统:
{˙xi(t)=−cixi(t)+n∑j=1aijfj(xj(t))+n∑j=1bijgj(∫0−∞xj(t+θ)dηj(θ))+n∑j=1eij˙xj(t−ξij(t))+ui,xi(σ+θ)=ϕi(θ), t≥σ≥0, θ≤0, i,j=1,2,⋯,n, (1)
其中:
xi(t) 表示第i个神经元的状态,
ci 是正常数,
ui 是外部输入。
fi(⋅) 和
gi(⋅) 是非线性激活函数。
aij 和
bij 表示神经元之间的连接权重。
ξij(t) 表示中立型时变时滞且
eij 表示延迟状态的时间导数的系数。
ηj(θ) 是
(−∞,0] 上的非减的有界变差函数且满足
∫0−∞dηj(θ)=γj>0 ,
j=1,2,⋯,n。
∫0−∞xj(t+θ)dηj(θ) 是
Lebesgue-Stieltjes可积的。
对于系统(1),假设下列条件成立:
(T1)
fi(⋅) 和
gi(⋅) 满足Lipschitz条件。即存在常数
li>0 ,
si>0 ,对所有
x,y∈R 有
|fi(x)−fi(y)|≤li|x−y| ,
|gi(x)−gi(y)|≤si|x−y| ,
i=1,2,⋯,n。
(T2)中立型时变时滞
ξij(t) 满足
0≤ξij(t)≤ξ ,
ξ 是常数且
˙ξij(t)≤ˉξ ,
0≤ˉξ<1。
引理2.1 [13] 如果映射
H(x)∈C0 ,满足对任意的x和y,当
x≠y 时有
H(x)≠H(y) ,且当
‖x‖→∞ 时有
‖H(x)‖→∞ ,那么
H(x) 是一个同胚映射。
引理2.2 [16] 若
f(t,θ) 和
ft(t,θ)=ddtf(t,θ) 当
t∈[a,b] 且
θ∈(−∞,0] 时连续,
η(θ) 是
(−∞,0] 上的有界不减变差函数,且
∫0−∞dη(θ)=k<∞ ,则
ddt∫0−∞f(t,θ)dη(θ)=∫0−∞ddtf(t,θ)dηj(θ)。
3. 主要结论
3.1. 平衡点的存在唯一性
定理3.1 对于中立型神经网络(1),如果存在正常数
r1,r2,⋯,rn 及
0<α<1 使得下列条件成立
(T3)
μi=rici−1+α1−αlin∑j=1rj|aji|−1+α1−αsiγin∑j=1rj|bji|>0
νij=αnrj(1−ˉξ)−(1+α)ri|eij|>0 ,
i,j=1,2,⋯,n ,
且还满足假设(T1) (T2),则系统(1)存在唯一的平衡点。
证明:若
x*=(x*1,x*2,⋯,x*n)T 是系统(1)的一个平衡点,则
x* 满足下式
−cix*i+n∑j=1aijfj(x*j)+n∑j=1bijgj(γjx*j)+ui=0
定义映射
H(x)=(h1(x),h2(x),⋯,hn(x)) ,其中
hi(x)=−cixi+n∑j=1aijfj(xj)+n∑j=1bijgj(γjxj)+ui ,
i=1,2,⋯,n。
对于
∀x,y∈Rn 且
x≠y ,由条件(T1)可得
n∑i=1risgn(xi−yi)(hi(x)−hi(y))=−n∑i=1ricisgn(xi−yi)(xi−yi)+n∑i=1n∑j=1riaijsgn(xi−yi)(fj(xj)−fj(yj)) +n∑i=1n∑j=1ribijsgn(xi−yi)(gj(γjxj)−gj(γjyj))≤−n∑i=1rici|xi−yi|+n∑i=1n∑j=1ri|aij||fj(xj)−fj(yj)|+n∑i=1n∑j=1ri|bij||gj(γjxj)−gj(γjyj)|≤−n∑i=1rici|xi−yi|+n∑i=1n∑j=1lirj|aji||xi−yi|+n∑i=1n∑j=1siγirj|bji||xi−yi| (2)
此外,显然下面不等式是成立的
αnn∑i=1n∑j=1(rjcj|xj−yj|−(1−ˉξ)rjcj|xj−yj|)+n∑i=1n∑j=1rjcj|eij||xj−yj|≥0 (3)
将(3)式加到(2)式的右端,可得
n∑i=1risgn(xi−yi)(hi(x)−hi(y))≤−(1−α)n∑i=1(rici−1+α1−αlin∑j=1rj|aji|−1+α1−αsiγin∑j=1rj|bji|)|xi−yi| −n∑i=1n∑j=1(αnrj(1−ˉξ)−(1+α)ri|eij|)cj|xj−yj|=−(1−α)n∑i=1μi|xi−yi|−n∑i=1n∑j=1νijcj|xj−yj| (4)
由条件(T3)可得
n∑i=1risgn(xi−yi)(hi(x)−hi(y))≤−(1−α)n∑i=1μi|xi−yi|≤−(1−α)μmn∑i=1|xi−yi|=−(1−α)μm‖x−y‖1 (5)
其中
μm=min{ui},i=1,2,⋯,n。
对(5)式两端同取绝对值可得
|n∑i=1risgn(xi−yi)(hi(x)−hi(y))|≥(1−α)μm‖x−y‖1n∑i=1ri|sgn(xi−yi)||(hi(x)−hi(y))|≥(1−α)μm‖x−y‖1RM‖H(x)−H(y)‖1≥(1−α)μm‖x−y‖1 (6)
其中
RM=max{ri},i=1,2,⋯,n。
若
y=0 ,则由三角不等式可得
‖H(x)‖1≥(1−α)μmRM‖x‖1+‖H(0)‖1 (7)
从(6)式可知若
x≠y 则
H(x)≠H(y)。在这里
‖x‖=‖x‖1 ,因此从(7)式可知当
‖x‖→∞ 时有
‖H(x)‖→∞ ,由引理2.1可知
H(x) 是同胚映射。因此系统(1)存在唯一平衡点。
3.2. 平衡点的全局渐近稳定性
由定理3.1可知系统(1)存在唯一的平衡点
x* ,作变换
yi(t)=xi(t)−x*i ,则系统(1)等价于如下系统
{˙yi(t)=−ciyi(t)+n∑j=1aijpj(yj(t))+n∑j=1bijqj(∫0−∞yj(t+θ)dηj(θ))+n∑j=1eij˙yj(t−ξij(t)),yi(σ+θ)=Φi(θ), t≥σ≥0, θ≤0, i,j=1,2,⋯,n, (8)
其中
Φi(θ)=ϕi(θ)−x*i,pj(yj(t))=fj(yj(t)+x*j)−fj(x*j),qj(∫0−∞yj(t+θ)dηj(θ))=gj(∫0−∞(yj(t+θ)+x*j)dηj(θ))−gj(∫0−∞x*jdηj(θ)).
由条件(T1)可得下面条件是成立的
(T4)
|pj(yj(t))|≤lj|yj(t)| ,
|qj(∫0−∞yj(t+θ)dηj(θ))|≤sj|∫0−∞yj(t+θ)dηj(θ)|。
定理3.2 若系统(8)满足条件(T2),(T3)和(T4),则系统(8)的平衡点是全局渐近稳定的。
证明:对
∀t≥0 ,构造如下Lyapunov-Krasovskii泛函
V(t)=V1(t)+V2(t)V1(t)=n∑i=1βri|yi(t)|+(1−sgn2(yi(t)))n∑i=1n∑j=1|bij|sj∫0−∞(∫tt+θ|yj(s)|ds)dηj(θ)V2(t)=βαnn∑i=1n∑j=1rj∫tt−ξij(t)|˙yj(s)|ds+β(1+α)n∑i=1n∑j=1risj|bij|∫0−∞(∫tt+θ|yj(s)|ds)dηj(θ) +λn∑i=1n∑j=1∫tt+θ|yj(s)|ds
先考虑
V1(t) ,分三种情况考虑
当
yi(t)=0 时,则
sgn(yi(t))=0 ,那么
V1(t)=n∑i=1βri|yi(t)|+n∑i=1n∑j=1|bij|sj∫0−∞(∫tt+θ|yj(s)|ds)dηj( θ )
对
V1(t) 关于时间t求导可得
˙V1(t)=n∑i=1˙yi(t)+n∑i=1n∑j=1|bij|sj(∫0−∞|yj(t)|dηj(θ)−∫0−∞|yj(t+θ)|dηj(θ))≤n∑i=1βrisgn(yi(t))˙yi(t)+n∑j=1n∑j=1|aij|lj|yj(t)| +n∑i=1n∑j=1|bij|sjγj|yj(t)|+n∑i=1n∑j=1|eij||˙yj(t−ξij(t))|
当
yi(t)>0 时,则
sgn(yi(t))=1 ,那么
V1(t)=n∑i=1βrisgn(yi(t))yi(t) ,对
V1(t) 关于时间t求导可得
˙V1(t)=n∑i=1βrisgn(yi(t))˙yi(t)≤n∑i=1βrisgn(yi(t))˙yi(t)+n∑j=1n∑j=1|aij|lj|yj(t)| +n∑i=1n∑j=1|bij|sjγj|yj(t)|+n∑i=1n∑j=1|eij||˙yj(t−ξij(t))|
当
yi(t)<0 时,则
sgn(yi(t))=−1 ,那么
V1(t)=n∑i=1βrisgn(yi(t))yi(t) ,对
V1(t) 关于时间t求导可得
˙V1(t)=n∑i=1βrisgn(yi(t))˙yi(t)≤n∑i=1βrisgn(yi(t))˙yi(t)+n∑j=1n∑j=1|aij|lj|yj(t)| +n∑i=1n∑j=1|bij|sjγj|yj(t)|+n∑i=1n∑j=1|eij||˙yj(t−ξij(t))|
综上可得
˙V1(t)≤n∑i=1βrisgn(yi(t))˙yi(t)+δ1(t)+δ2(t)+δ3(t) (9)
其中
δ1(t)=n∑j=1n∑j=1|aij|lj|yj(t)| ,δ2(t)=n∑i=1n∑j=1|bij|sjγj|yj(t)| ,δ3(t)=n∑i=1n∑j=1|eij||˙yj(t−ξij(t))|。
再对
V2(t) 关于时间t求导可得
˙V2(t)=βαnn∑i=1n∑j=1rj|˙yj(t)|−βαnn∑i=1n∑j=1rj(1−˙ξij(t))|˙yj(t−ξij(t))| +β(1+α)n∑i=1n∑j=1risj|bij|(∫0−∞|yj(t)|dηj(θ)−∫0−∞|yj(t+θ)|dηj(θ)) +λn∑i=1n∑j=1|yj(t)|−λn∑i=1n∑j=1|yj(t+θ)| (10)
由(9)式和(10)式可得
˙V(t)≤βn∑i=1riρi(t)˙yi(t)−βαnn∑i=1n∑j=1rj(1−˙ξij(t))|˙yj(t−ξij(t))| +β(1+α)n∑i=1n∑j=1risj|bij|(∫0−∞|yj(t)|dηj(θ)−∫0−∞|yj(t+θ)|dηj(θ)) +λn∑i=1n∑j=1|yj(t)|−λn∑i=1n∑j=1|yj(t+θ)|+δ1(t)+δ2(t)+δ3(t) (11)
其中
ρi(t)=sgn(yi(t))+αsgn(˙yi(t))。
因为
0<α<1 ,若
yi(t)>0 ,则
ρi(t)=1+αsgn(˙yi(t))>0。若
yi(t)=0 ,则
ρi(t)=0。
若
yi(t)<0 ,则
ρi(t)=−1+αsgn(˙yi(t))<0 ,所以
ρi(t)yi(t)=|ρi(t)||yi(t)|。
很容易得到
min{|ρi(t)|}=1−α 且
max{|ρi(t)|}=1+α ,
i=1,2,⋯,n。
将(8)式代入(11)式化简可得
˙V(t)≤−β(1−α)n∑i=1rici|yi(t)|+β(1+α)n∑i=1n∑j=1ri|aij||pj(yj(t))| +β(1+α)n∑i=1n∑j=1risj|bij|∫0−∞|yj(t)|dηj(θ)+β(1+α)n∑i=1n∑j=1ri|eij||˙yj(t−ξij(t))| −βαnn∑i=1n∑j=1rj(1−ˉξ)|˙yj(t−ξij(t))| +λn∑i=1n∑j=1|yj(t)|−λn∑i=1n∑j=1|yj(t+θ)| +δ1(t)+δ2(t)+δ3(t) (12)
由条件(T3)可得
˙V(t)≤−β(1−α)n∑i=1μi|yi(t)|−βn∑i=1n∑j=1νij|˙yj(t−ξij(t))| +nλn∑i=1yi(t)+δ1(t)+δ2(t)+δ3(t)≤−β(1−α)μm‖y(t)‖1−βνmn∑i=1n∑j=1|˙yj(t−ξij(t))|+nλ‖y(t)‖1 +lM‖A‖1‖y(t)‖1+sMγM‖B‖1‖y(t)‖1+eMn∑i=1n∑j=1|˙yj(t−ξij(t))| (13)
其中
μm=min{μi} ,
νm=min{νij} ,
lM=max{li} ,
sM=max{si} ,
γM=max{γi} ,
eM=max{eij} ,
i,j=1,2,⋯,n。
选取
β=nλ+lM‖A‖1+sMγM‖B‖1μm(1−α)+eMνm ,则由(13)式可得
˙V(t)≤−(1−α)μmeMνm‖y(t)‖1−νm(nλ+lM‖A‖1+sMγM‖B‖1)μm(1−α)n∑i=1n∑j=1|˙yj(t−ξij(t))| (14)
显然对任意的i和j,若
yi(t)≠0 或
˙yj(t−ξij(t))≠0 ,则
˙V(t)<0 恒成立。若
yi(t)=0 且
˙yj(t−ξij(t))=0 ,则由(12)式可知,
˙V(t)≤−λn∑i=1n∑j=1|yj(t+θ)| ,所以当
yj(t+θ)≠0 时
˙V(t)<0 成立。当
yi(t)=0 ,
˙yj(t−ξij(t))=0 且
yj(t+θ)=0 时,
˙V(t)=0。因此除了平衡点之外,
˙V(t)<0 恒成立。
由Lyapunov稳定性理论可知,系统(8)的平衡点是渐近稳定的。可以看出,用于稳定性分析的Lyapunov-Krasovskii泛函是径向无界的,即当
‖y(t)‖→∞ 时
V(t)→∞ ,说明
y(t)=0 是全局渐近稳定的。
4. 数值实验
对于S-型分布时滞中立型神经网络(1),假设满足下列条件
A=15[−22−111−22−12−22−111−21] ,
B=[−221−12−1−211−122−21−12] ,
E=125[11−11−11−1−1−1−1111−11−1] ,
fi(x)=0.6tanh(x) ,
gi(x)=0.4tanh(x) ,
ci=5 ,
ui=0.5 ,
ξij(t)=0.5 ,
i,j=1,2,⋯,n。令
α=0.5 ,取
r1=r2=r3=r4=1。
例4.1 对于非减有界变差函数
ηj(θ) ,当取
ηj(θ)={−1, θ≤−τj0, −τj≤θ≤0 时,
∫0−∞dηj(θ)=1 ,并且
gj(∫0−∞xj(t+θ)dηj(θ))=gj(xj(t−τj)) ,
j=1,2,⋯,n。若取
τj=0.5 ,
j=1,2,⋯,n ,则满足定理3.2的条件,因此平衡点是全局渐近稳定的,其神经元的状态轨迹见图1。
例4.2 当
ηj(θ) 连续可微且
η′j(θ)=γj(−θ) ,
j=1,2,⋯,n 时,则
gj(∫0−∞xj(t+θ)dηj(θ))=gj(∫0−∞γj(s)xj(t−s)ds) ,
j=1,2,⋯,n。
若取
ηj(θ)=eθ ,
j=1,2,⋯,n ,则满足定理3.2的条件,因此平衡点是全局渐近稳定的,其神经元的状态轨迹见图2。

Figure 1. The neurons states trajectory of Example 4.1
图1. 例4.1神经元的状态轨迹

Figure 2. The neurons states trajectory of Example 4.2
图2. 例4.2神经元的状态轨迹
5. 结论
S-型分布时滞包含了离散时滞和连续时滞,因此研究S-型分布时滞神经网络的动力学行为在实际应用和理论上都有重要意义。本文研究了一类具有S-型分布时滞的中立型神经网络的全局渐近稳定性问题。通过利用同胚映射理论、不等式技巧和构建合适的Lyapunov-Krasovskii泛函,得到了与时滞参数无关的稳定性代数判据,相较于LMI形式的判据,该判据更易得到验证。
因为神经递质释放的信号可能在时间上具有随机波动,所以随机扰动在神经元中的电位传播中是不可避免的。因此在未来的研究中,作者想进一步考虑带有随机项的S-型分布时滞中立型神经网络的稳定性问题。
基金项目
山东省自然科学基金项目(编号ZR2019PA00)资助。