1. 引言
本文考虑如下具有Allee效应和恐惧效应的捕食–食饵系统:
  (1)
其中x和y分别表示食饵和捕食者在t时刻的种群密度,a表示食饵种群的出生率,d和e分别表示食饵和捕食者的死亡率,b表示食饵种群的种群竞争强度,m是捕食者的捕获率,n表示捕食者对食饵的转化
率。参数 
  都是正数,并且 
 。定义恐惧效应 
  [1],其中k表示恐惧的水平。另一方面考虑到Allee效应也会影响食饵种群的出生率,定义 
  [2] 表示食饵的出生率受到Allee效应的影响,其中 
  表示食饵的Allee效应,A表示Allee效应的参数。Allee效应的大小取决于参数A,即参数A越大,Allee效应就越强。
在生态系统中,恐惧效应是生态系统中的普遍现象,也就是食饵能感受到被捕食的风险并产生恐惧,同时做出一些相应的改变。所以Wang等学者 [1] 考虑到恐惧效应会影响到食饵种群的出生率,提出如下具有恐惧效应的捕食–食饵模型:
  (2)
其中u和v分别表示食饵和捕食者在t时的种群密度,r0和d分别表示食饵的出生率和死亡率,a表示食饵种群的种群竞争强度,m表示捕食者的死亡率,c表示捕食者对食饵的转化率, 
  表示功能性反应
函数, 
  表示恐惧效应,k表示恐惧的水平。在文 [1] 中,作者对系统的动力学行为进行了
详细的研究,说明了相对较低的恐惧水平可以通过Hopf分支产生极限环,从而导致双稳现象。最近学者们 [3] [4] [5] 对具有恐惧效应的生态学模型进行了详细的研究,分析系统的动力学性质。
当种群数量较少时,种群的自然增长率是一个负函数或者递减函数,这种现象被称为Allee效应 [6]。近年来,越来越多的野生动物濒临灭绝,Allee效应也引起了广大学者的注意,并得到了广泛的研究 [7] [8]。然而,很少有学者在捕食–食饵模型中,同时考虑出生率都受到Allee效应和恐惧效应的影响。因此,本文提出了系统(1),并研究系统的动力学性质。
对于系统(1),为了减少参数的数量,做如下变换
 
并重新用 
  分别表示 
 ,得到下面的系统
  (3)
其中参数 
  都是正数,并且 
 。
为了方便计算,对于系统(3),作时间变换, 
  (仍使用t代替 
  ),得到下述等价系统:
  (4)
由于拓扑等价的原理,本文将具体分析系统(4)的动力学行为。
2. 平衡点的存在性
显而易见,系统(4)中存在边界平衡点 
 。为了研究系统(4)的其它平衡点,考虑如下方程:
  (5)
首先,分析边界平衡点的存在性。将 
  带入方程(5)的第一个方程,可得:
  (6)
当 
  时,即 
  时,方程(6)无正根,下面只需要讨论 
  的情况。记 
 ,解得 
  和 
 。容易得到 
 。记 
 ,所以当 
  时,有 
 。当 
  时,有 
 。当 
  时,有 
 。
综合上述讨论,当 
  时,方程(6)有两个正根,分别记为 
 ,
 。当 
  时,方程(6)只有一个正根,记为 
 。当 
  时,方程(6)没有实根。所以我们有如下边界平衡点存在的定理。
定理2.1系统(4)的边界平衡点为:
1) 当 
  时,除 
  外,系统(4)存在边界平衡点 
  和 
  ;
2) 当 
  时,除 
  外,系统(4)存在边界平衡点 
  ;
3) 当 
  时,除 
  外,系统(4)不存在边界平衡点。
下面考虑正平衡点的存在性。将 
  带入方程(5)的第一个方程中,可得:
  (7)
由于 
 ,故当 
  时,即 
  时,方程(7)只有唯一的正根 
 。记 
 ,则 
 。
定理2.2当 
  时,系统(4)存在唯一的正平衡点 
 。
3. 平衡点的稳定性
系统(4)在边界平衡点 
  处的雅克比矩阵为:
 
并且矩阵 
  的行列式和迹分别为
 
定理3.1系统(4)的边界平衡点 
  是稳定的结点。
证明:系统(4)在边界平衡点 
  处的雅克比矩阵为
 
特征值 
  和 
 ,那么边界平衡点 
  是稳定的结点。
定理3.1证明完毕。
注记3.1.当 
  和 
  时,容易知道平衡点 
  外,不存在正平衡点和边界平衡点,所以系统不存在位于第一象限内部的极限环(因为极限环内部必须要有平衡点),同时由定理3.1可知, 
  是稳定的结点。所以 
  是全局渐近稳定的。
定理3.2当 
  时,系统(4)的边界平衡点 
  有以下结论:
1) 如果 
 ,则 
  是鞍点;
2) 如果 
 ,则 
  是不稳定的。
证明:矩阵 
  在点 
  处的行列式和迹分别为
 
所以当 
  时,有 
 ,即 
  是鞍点。当 
  时,有 
  和 
 ,那么 
  是不稳定的。
定理3.2证明完毕。
定理3.3当 
  时,系统(4)的边界平衡点 
  有以下结论:
1) 如果 
 ,则 
  是稳定的;
2) 如果 
 ,则 
  是鞍点。
证明:矩阵 
  在点 
  在处的行列式和迹分别为
 
所以当 
  时,有 
  和 
 ,那么 
  是稳定的。当 
  时,有 
 ,则 
  是鞍点。
定理3.3证明完毕。
定理3.4当 
  时,系统(4)的边界平衡点 
  有以下结论:
1) 如果 
 ,那么 
  是吸引的鞍结点;
2) 如果 
 ,那么 
  是排斥的鞍结点。
证明:当 
  时,系统(4)在 
  处的雅克比矩阵为
 
并且矩阵 
  的行列式和迹分别为
 
当 
 ,即 
  时,则矩阵 
  有一个零特征值。作变换 
  和 
 ,将边界平衡点 
  平移到原点,并在原点进行泰勒展开,可得:
  (8)
其中
 
为了将系统(8)化为标准型,作变换
 
且作时间变换 
  (仍使用t代替 
  ),那么系统(8)可以写成
  (9)
其中
 
 
由文 [9] 中定理7.1, 
  是鞍结点。注意到 
  的系数为 
 ,当 
  时, 
 ,时间变换为负,那么 
  是吸引的鞍结点;当 
  时, 
 ,时间变换为正,那么 
  是排斥的鞍结点。
定理3.4证明完毕。
下面讨论系统(4)的正平衡点的稳定性。在正平衡点 
  处的雅克比矩阵为:
 
并且矩阵 
  的行列式和迹分别为
 
定义 
 。
定理3.5当 
  时,有以下结论:
1) 如果 
 ,那么系统(4)的唯一正平衡点 
  是不稳定的;
2) 如果 
 ,那么系统(4)的唯一正平衡点 
  是稳定的;
3) 如果 
 ,那么系统(4)的唯一正平衡点 
  是中心或细焦点。
证明:如果 
 ,那么 
 ,则系统(4)的正平衡点 
  是不稳定的。如果 
 ,那么 
 ,则系统(4)的正平衡点 
  是稳定的。如果 
 ,那么 
 ,则系统(4)的正平衡点 
  是中心或细焦点。
定理3.5证明完毕。
4. 分支分析
根据定理2.1,除边界平衡点 
  外,当 
  时,系统(4)存在边界平衡点 
  和 
  ;当 
  时,系统(4)存在边界平衡点 
  ;当 
  时,系统(4)不存在边界平衡点。由上述分析,选取参数A作为分支参数,当参数A在阈值 
  附近改变时,边界平衡点的个数发生改变,所以系统会发生鞍结分支。
定理4.1设 
 ,当系统(4)的参数A满足条件 
  时,系统(4)会在 
  处发生鞍结分支。
证明:系统(4)在点 
  处的雅克比矩阵为
 
通过计算,当 
  时,矩阵 
  有一个零特征值。令V和W是矩阵 
  和 
  零特征值的特征向量,通过计算得到
 
之后令
 
那么
 
通过计算可知
 
 
由 [10] 中的Sotomayor’s定理,可知系统(4)在 
  处发生鞍结分支。
定理4.1证明完毕。
5. 数值模拟
根据定理3.4,当 
  时,系统(4)的边界平衡点 
  是鞍结点。
例1对于系统(4),选取参数 
 ,
 ,
 ,
 ,
 ,边界平衡点 
  是吸引的鞍结点(见图1)。
由图1可知,系统表现出双稳现象,一部分轨线趋向于原点,另一部分轨线趋向于 
 ,也就是初值条件在不同的区域内,食饵和捕食者有可能同时绝灭,或者稳定于边界平衡点 
 ,即食饵不绝灭,捕食者绝灭。

Figure 1. When 
 ,
 ,
 ,
 ,
 ,
  is an attracting saddle-node
图1. 当 
 ,
 ,
 ,
 ,
 ,
  是吸引的鞍结点
根据定理3.5,当 
  时, 
  是不稳定的;当 
  时, 
  是稳定的;当 
  时, 
  是中心或细焦点。当k的数值在 
  处发生改变时, 
  的稳定性也会发生改变,因此在 
  处可能存在Hopf分支。下面通过数值模拟来验证Hopf分支的结果。
例2对于系统(4),选取参数 
 ,
 ,
 ,
 ,
 ,此时 
 ,通过计算可知一阶焦点量 
 。扰动参数k,使 
  减小到 
 ,那么系统(4)产生超临界Hopf分支,并且在 
  附近出现了一个稳定的极限环(见图2)。
由图2可知,系统的吸引域分成两部分,一部分轨线趋向于原点,也就是食饵和捕食者都绝灭,另一部分轨线趋向于稳定的极限环,也就是食饵和捕食者的种群是周期振荡,食饵和捕食者能够共存。

Figure 2. When 
 ,
 ,
 ,
 ,
 , there exists a stable limit cycle around 
 
图2. 当 
 ,
 ,
 ,
 ,
 ,
  附近出现了一个稳定的极限环
下面讨论恐惧效应对系统的动力学性质的影响。当没有恐惧效应时(即 
 ,见图3),这时正平衡点是不稳定的,食饵和捕食者都绝灭。保持其它参数不变,考虑恐惧效应的影响(即 
 ,见图2),这时正平衡点仍然是不稳定的,但是出现了稳定的极限环的,系统出现双稳现象,即食饵和捕食者有可能都绝灭或者趋向于周期振荡。增大恐惧效应(即 
 ,见图4),这时正平衡点变成稳定的,系统也出现双稳现象,即食饵和捕食者有可能都绝灭或者两者同时趋向于一个稳定的值。所以增大恐惧效应,会使得正平衡点从不稳定变成稳定,也就是较大的恐惧效应可以促进系统的稳定。

Figure 3. When 
 ,
 ,
 ,
 ,
 ,
  is unstable
图3. 系统(4)中,当 
 ,
 ,
 ,
 ,
 ,
  是不稳定的

Figure 4. When 
 ,
 ,
 ,
 ,
 ,
  is stable
图4. 系统(4)中,当 
 ,
 ,
 ,
 ,
 ,
  是稳定的
6. 结论
本文中,我们讨论了具有Allee效应和恐惧效应的捕食–食饵模型动力学行为。讨论系统(1)的平衡点存在性和稳定性。当系统的原点 
  是局部渐进稳定的,若食饵出生率充分小和Allee效应参数A充分大时( 
  和 
  ),系统只存在边界平衡点 
 ,此时 
  是全局渐进稳定,这意味着食饵和捕食者都将趋于灭绝。故当Allee效应越强时,越不利于食饵和捕食者种群生存。同时当k的数值在 
  处发生改变时, 
  的稳定性也会发生改变,通过数值模拟,我们验证了系统(4)存在Hopf分支,导致系统会出现双稳现象,也就是轨线趋向于原点或者稳定的极限环,同时较大的恐惧效应可以使极限环消失,并且正平衡点是稳定的,所以较大的恐惧效应会促进系统的稳定。