基于复合Heun方法的不确定延迟微分方程的最小二乘估计
Least Squares Estimation of Uncertain Delay Differential Equations Based on the Composite Heun Method
摘要: 文章基于复合Heun方法,研究了不确定延迟微分方程的最小二乘估计问题。利用复合Heun方法,建立了不确定延迟微分方程的差分形式,从而将漂移项中参数的估计问题转化为优化问题,扩散项中参数的估计问题转化为方程的求解。数值算例表明,复合Heun方法的最小二乘估计计算结果优于传统的欧拉方法。最后,利用本文提出的参数估计方法对美洲鹤种群进行了建模分析。
Abstract: Based on the composite Heun method, the article investigates the least squares estimation problem for uncertain delay differential equations. By utilizing the composite Heun method, a difference form is established for uncertain delay differential equations. Then the parameter estimation problem in the drift term is transformed into an optimization problem, and the parameter estimation problem in the diffusion term is converted to solve a system of equations. Numerical examples demonstrate that the least squares estimation using the composite Heun method outperforms the conventional Euler method. Finally, a modeling analysis of the population dynamics of whooping cranes is conducted by applying the parameter estimation method developed in this study.
文章引用:刘持腾, 周少玲. 基于复合Heun方法的不确定延迟微分方程的最小二乘估计[J]. 应用数学进展, 2025, 14(4): 525-535. https://doi.org/10.12677/aam.2025.144183

1. 引言

为了研究广泛存在的不确定现象,基于规范性、对偶性、次可加性和乘积公理,Liu [1]创建了不确定理论。此后,为了描述动态不确定系统,Liu [2]引入了不确定过程的概念,不确定过程本质上是随时间变化的不确定变量。为了处理白噪声,Liu [2]进一步定义了Liu过程,即其是一个平稳的独立增量过程,且增量是正态不确定变量。在此基础上,Liu [3]引入了不确定微分方程。Barbacioru [4]提出了不确定延迟微分方程,并针对一类特殊的不确定延迟微分方程,证明了局部存在唯一的解。Ge和Zhu [5]根据巴拿赫不动点定理,证明了不确定延迟微分方程解的存在唯一性定理。Wang和Ning [6]研究了不确定延迟微分方程的均值稳定性、矩稳定性以及它们之间的相互联系。Jia和Sheng [7]探讨了不确定延迟微分方程的分布稳定性,并建立了分布稳定性的充分条件。

基于观测数据,如何估计不确定微分方程中的未知参数是一个重要问题。Yao和Liu [8]使用矩估计方法来估计不确定微分方程的参数。Liu和Jia [9]基于矩估计方法,分析了不确定延迟微分方程的参数估计问题。Gao、Gao和Yang [10]利用泰勒展开式,得到未知延迟时间的近似值,从而确定参数和延迟时间的估计值。Chen、Yao和Sheng [11]提出了利用最小二乘估计方法,估计不确定微分方程中的未知参数,并根据这一原理,得到了一些特殊类型的不确定微分方程的参数估计值,最后通过解析例子和数值实验说明了方法的有效性。Zhang、Sheng和Wang [12]利用最小二乘估计方法,研究了高阶不确定微分方程的参数估计问题。Liu和Liu [13]提出了极大似然估计方法,并用来估计不确定微分方程的未知参数。

在对不确定微分方程进行参数估计时,需要用差分法对方程进行离散化处理,上述文献的参数估计方法主要基于欧拉差分方法。为了提高精度,Zhou、Tan和Wang [14]提出了复合Heun差分方法,并用于不确定微分方程的参数估计。本文首先利用复合Heun方法,建立了不确定延迟微分方程的差分形式,再基于最小二乘法估计方法估计不确定延迟微分方程中的未知参数,并通过数值例子比较复合Heun方法和欧拉方法的有效性。

2. 复合Heun方法

考虑如下的不确定微分方程

d X t =f( t, X t )dt+g( t, X t )d C t (1)

其中 f g 分别是漂移项和扩散项,且是满足利普希茨条件和线性增长条件的连续可微函数, C t 是Liu过程。对于初始值 X 0 ,不确定微分方程有唯一解。Zhou、Tan和Wang [14]提出的不确定微分方程(1)的复合Heun差分格式为

X t n+1 = X t n + Δ t n ( ( 1θ )f( t n , X t n )+θf( t n+1 , X t n +f( t n , X t n ) Δ t n ) )+g( t n , X t n )( C t n+1 C t n ) (2)

其中 θ 是松弛系数。显然,复合Heun方法是一种预测校正方法,它的近似度要比欧拉近似更精确。当 θ=0 时,复合Heun方法变成了欧拉方法。

进一步地,本文将复合Heun方法应用到近似不确定延迟微分方程。考虑如下的不确定延迟微分方程

d X t =f( t, X t , X tτ )dt+g( t, X t , X tτ )d C t (3)

f g 分别是漂移项和扩散项,且是满足利普希茨条件和线性增长条件的连续可微函数, C t 是Liu过程。类似地,根据复合Heun方法,方程(3)的复合Heun差分格式为

X t n+1 = X t n + Δ t n ( ( 1θ )f( t n , X t n , X t n τ )+θf( t n+1 , X t n +hf( t n , X t n , X t n τ ), X t n+1 τ ) )            +g( t n , X t n , X t n τ )( C t n+1 C t n )

然后将复合Heun方法同最小二乘估计法相结合,利用最小噪声原理获得不确定延迟微分方程中漂移项和扩散项中的未知参数。

3. 最小二乘估计

考虑如下的不确定延迟微分方程

{ d X t =f( t, X t , X tτ ;α )dt+g( t, X t , X tτ ;β )d C t ,   0tT X t =φ( t ),   τ0t (4)

其中 f g 分别是漂移项和扩散项,且满足利普希茨条件和线性增长条件的连续可微函数, α β 均是包含未知参数的向量, τ 是给定的延迟时间, C t 是Liu过程, φ( t ) 是给定的已知函数。下面利用 X t 的观测数据对未知向量 α β 进行估计。将区间 [ 0,T ] 进行 N 等分,记步长 h=T/N ,节点 t i =ih( i=0,1,,N ) ,即 0= t 0 < t 1 << t N T 。假设存在正整数 m ,使得 τ=mh 成立。根据Zhou、Tan和Wang [14]提出的不确定微分方程的复合Heun方法,方程(4)的复合Heun差分格式是

{ X t n+1 = X t n +h( ( 1θ )f( t n , X t n , X t nm ;α )+θf( t n+1 , X t n +hf( t n , X t n , X t nm ;α ), X t nm+1 ;α ) )            +g( t n , X t n , X t nm ;β )( C t n+1 C t n ),   0nN1 X t nm =φ( t nm ),   nm0 (5)

其中 θ 是松弛系数。

定理2.1 假设 X t N+1 个观测数据 x t 0 , x t 1 ,, x t N ,方程(5)中未知向量 α 的最小二乘估计值 α ^ 为以下优化问题的解

min α n=0 N1 ( x t n+1 x t n h( ( 1θ )f( t n , x t n , x t nm ;α )+θf( t n+1 , x t n +hf( t n , x t n , x t nm ;α ), x t nm+1 ;α ) ) ) 2 (6)

未知向量 β 的最小二乘估计值 β ^ 为以下方程的解

n=0 N1 g ( t n , x t n , x t nm ;β ) 2 h 2 = n=0 N1 ( x t n+1 x t n h( ( 1θ )f( t n , x t n , x t nm ; α ^ )                                          +θf( t n+1 , x t n +hf( t n , x t n , x t nm ; α ^ ), x t nm+1 ; α ^ ) ) ) 2 (7)

证明:由复合Heun差分格式(5)中的第一个方程,可以得到

g( t n , X t n , X t nm ;β )( C t n+1 C t n )= X t n+1 X t n h( ( 1θ )f( t n , X t n , X t nm ;α )                                                     +θf( t n+1 , X t n +hf( t n , X t n , X t nm ;α ), X t nm+1 ;α ) ) (8)

上式等号左边项可以视为噪声项,应该尽可能的小,因此可以通过最小化等号的右边项来找到 α 的最小二乘估计。对于 X t 的观测值 x t 0 , x t 1 ,, x t N α 的最小二乘估计值就是下面优化问题的解

min α n=0 N1 ( x t n+1 x t n h( ( 1θ )f( t n , x t n , x t nm ;α )+θf( t n+1 , x t n +hf( t n , x t n , x t nm ;α ), x t nm+1 ;α ) ) ) 2 (9)

α ^ 代表 α 的估计值,那么根据式(8),未知向量 β 的最小二乘估计值 β ^ 满足下面的方程

E[ n=0 N1 g ( t n , x t n , x t nm ;β ) 2 ( C t n+1 C t n ) 2 ]= n=0 N1 ( x t n+1 x t n h( ( 1θ )f( t n , x t n , x t nm ; α ^ )                                                                 +θf( t n+1 , x t n +hf( t n , x t n , x t nm ; α ^ ), x t nm+1 ; α ^ ) ) ) 2

由于 C t 是一个独立增量过程,所以增量 C t C s 是正态不确定变量,其期望值为0,方差为 ( ts ) 2 。因此,得到

E[ n=0 N1 g ( t n , x t n , x t nm ;β ) 2 ( C t n+1 C t n ) 2 ] = n=0 N1 E[ g ( t n , x t n , x t nm ;β ) 2 ( C t n+1 C t n ) 2 ] = n=0 N1 g ( t n , x t n , x t nm ;β ) 2 E [ ( C t n+1 C t n ) ] 2 = n=0 N1 g ( t n , x t n , x t nm ;β ) 2 ( t n+1 t n ) 2 = n=0 N1 g ( t n , x t n , x t nm ;β ) 2 h 2

即最小二乘估计值 β ^ 满足下面的方程

n=0 N1 g ( t n , x t n , x t nm ;β ) 2 h 2 = n=0 N1 ( x t n+1 x t n h( ( 1θ )f( t n , x t n , x t nm ; α ^ )                                          +θf( t n+1 , x t n +hf( t n , x t n , x t nm ; α ^ ), x t nm+1 ; α ^ ) ) ) 2 (10)

例1不确定延迟微分方程

{ d X t =α X t1 dt+βd C t ,   0tT X t =1,   1t0 (11)

其中 α β 是未知参数,并且 α,β 均大于0。利用 X t t 0 , t 1 ,, t N 时刻观测数据,确定 α β 的最小二乘估计值。

解:基于复合Heun方法,得到微分方程的差分格式

X t n+1 = X t n +h( ( 1θ )α X t n1 +θα X t n )+β( C t n+1 C t n )

β( C t n+1 C t n )= X t n+1 X t n h( ( 1θ )α X t n1 +θα X t n )

通过求解下面的优化问题

min α n=0 N1 ( x t n+1 x t n αh( ( 1θ ) x t n1 +θ x t n ) ) 2

得到 α 的最小二乘估计值为

α ^ = n=0 N1 ( x t n+1 x t n )( ( 1θ ) x t n1 +θ x t n ) / n=0 N1 ( ( 1θ ) x t n1 +θ x t n ) 2 h

未知参数 β 的最小二乘估计值 β ^ 满足

n=0 N1 β 2 h 2 = n=0 N1 ( x t n+1 x t n α ^ h( ( 1θ ) x t n1 +θ x t n ) ) 2

求解得到

β ^ = n=0 N1 ( x t n+1 x t n α ^ h( ( 1θ ) x t n1 +θ x t n ) ) 2 / N h 2

例2不确定延迟微分方程

{ d X t =α X t dt+β X t1 d C t ,   0tT X t =1,   1t0 (12)

其中 α β 是未知参数,并且 α,β 均大于0。利用 X t t 0 , t 1 ,, t N 时刻观测数据,确定 α β 的最小二乘估计值。

解:基于复合Heun方法,得到微分方程的差分格式

X t n+1 = X t n +h( ( 1θ )α X t n +θα( X t n +hα X t n ) )+β X t n1 ( C t n+1 C t n )

β X t n1 ( C t n+1 C t n )= X t n+1 X t n h( ( 1θ )α X t n +θα( X t n +hα X t n ) )

通过求解下面的优化问题

min α n=0 N1 ( x t n+1 x t n αh( 1+θhα ) x t n ) 2

得到 α 的最小二乘估计值 α ^ 。未知参数 β 的最小二乘估计值 β ^ 满足

n=0 N1 β 2 h 2 x t n1 2 = n=0 N1 ( x t n+1 x t n α ^ h( 1+θhα ) x t n ) 2

求解得到

β ^ = n=0 N1 ( x t n+1 x t n α ^ h( 1+θhα ) x t n ) 2 / n=0 N1 h 2 x t n1 2

4. 数值实验

本节中,通过两个数值算例,验证本文提出算法的有效性。给出如下算法步骤:

步骤1 对于不确定变量 η~( 0,1 ) ,即 η 的不确定分布为

Ψ( x )={ 0,      x0  x,     0<x<1  1,       x1 

得到其样本 η n ( n=1,2,,N )

步骤2 基于不确定标准正态分布的逆不确定分布,计算得到

ξ n = 3 π ln η n 1 η n ,    n=1,2,,N

那么 ξ 1 , ξ 2 ,, ξ N 可视为标准正态不确定变量 ξ 的样本。特别地, ξ 1 , ξ 2 ,, ξ N 可视为 C t n+1 C t n h 的样本。

步骤3 对于给定的初值 x t 0 =φ( t 0 ), x t 0m =φ( t 0 mh ) ,利用方程(1)的欧拉方法,计算得到 X t 的观测值 x t 0 , x t 1 ,, x t N

步骤4根据步骤3得到 X t 的观测数据,利用基于复合Heun方法的最小二乘估计算法,计算未知参数的估计值。

为了评估估计的准确性,定义偏差函数如下

Bias( μ, μ ^ )=| μ μ ^ |

其中 μ ^ μ 的估计值。显然,偏差越小,估计的效果越好。

例3不确定过程 X t 满足如下的不确定延迟微分方程

{ d X t =α X t1 dt+βd C t ,   0t2 X t =1,   1t0 (13)

其中 α β 是未知参数,且 α,β 均大于0。为比较复合Heun方法和欧拉方法,设定参数 α=0.5,β=0.2 ,选取步长 h=0.1 。利用上述算法,计算得到 X t 的观测数据,如表1所示。取 θ=0.9 ,利用复合Heun方法计算得到 α β 的最小二乘估计值分别为

α ^ =0.5258,    β ^ =0.2687

因此,得到估计方程

{ d X t =0.5258 X t1 dt+0.2687d C t ,   0t2 X t =1,   1t0 (14)

Table 1. Sample data in Example 3

1. 例3的样本数据

n

0

1

2

3

4

5

6

t n

0

0.1

0.2

0.3

0.4

0.5

0.6

x t n

1

1.1000

1.2068

1.2814

1.3775

1.4498

1.5143

n

7

8

9

10

11

12

13

t n

0.7

0.8

0.9

1.0

1.1

1.2

1.3

x t n

1.6162

1.6910

1.7586

1.8385

1.9361

2.0306

2.1399

n

14

15

16

17

18

19

20

t n

1.4

1.5

1.6

1.7

1.8

1.9

2.0

x t n

2.3009

2.4437

2.5603

2.7187

2.8243

2.9281

3.0602

而利用欧拉方法计算得到 α β 的估计值为

α ^ =0.5503,      β ^ =0.2718

相应的估计方程为

{ d X t =0.5503 X t1 dt+0.2718d C t ,   0t2 X t =1,   1t0 (15)

Figure 1. Sample data and α-paths of X t in Example 3

1. 例3的样本数据和 X t α轨道

图1,可以发现, X t 的观测数据均落在估计方程(14)和(15)的0.01-轨道与0.99-轨道之间的区域,这说明两种方法均是可行的。

比较两种方法得到的估计值,从表2可以发现,基于复合Heun方法的最小二乘估计方法优于基于欧拉方法的最小二乘估计方法。

Table 2. The biases of the least squares estimation based on the composite Heun method and Euler method

2. 基于复合Heun方法和欧拉方法的最小二乘估计的偏差

Bias ( α, α ^ )

Bias ( β, β ^ )

复合Heun方法

0.0258

0.0687

欧拉方法

0.0503

0.0718

例4设不确定过程 X t 满足如下的不确定延迟微分方程

{ d X t =α X t1 dt+β X t1 d C t ,   0t4 X t =1,   1t0 (16)

其中 α β 是未知参数,并且 α,β 均大于0。设定参数 α=0.2,β=0.3 ,选取步长 h=0.2 。利用初始条件,计算得到 X t 的20组观测值,如表3所示。

Table 3. Sample data in Example 4

3. 例4的样本数据

n

0

1

2

3

4

5

6

t n

0

0.2

0.4

0.6

0.8

1.0

1.2

x t n

1

0.9000

0.8491

0.7737

0.7732

0.7132

0.7347

n

7

8

9

10

11

12

13

t n

1.4

1.6

1.8

2.0

2.2

2.4

2.6

x t n

0.6859

0.6214

0.6159

0.6547

0.6751

0.6674

0.6732

n

14

15

16

17

18

19

20

t n

2.8

3.0

3.2

3.4

3.6

3.8

4.0

x t n

0.6878

0.7071

0.6521

0.6359

0.5854

0.5552

0.5566

基于复合Heun方法, α 的最小二乘估计值 α ^ 是如下优化问题的解

min α n=0 N1 ( x t n+1 x t n αh( ( 1θ ) x t n1 +θ x t n ) ) 2

θ=0.8 ,得到

α ^ =0.1767

参数 β 的最小二乘估计值 β ^ 满足方程

n=0 N1 β 2 h 2 x t n1 2 = n=0 N1 ( x t n+1 x t n α ^ h( ( 1θ ) x t n1 +θ x t n ) ) 2

求得

β ^ =0.1075

因此,估计方程为

{ d X t =0.1767 X t1 dt+0.1075d C t ,   0t4 X t =1,   1t0 (17)

类似地,利用欧拉方法,计算得到 α β 的估计值为

α ^ =0.1724,      β ^ =0.1074

相应的估计方程为

{ d X t =0.1724 X t1 dt+0.1074d C t ,   0t4 X t =1,  1t0 (18)

Table 4. The biases of the least squares estimation based on the composite Heun method and Euler method

4. 基于复合Heun方法和欧拉方法的最小二乘估计的偏差

Bias ( α, α ^ )

Bias ( β, β ^ )

复合Heun方法

0.0233

0.1925

欧拉方法

0.0276

0.1926

图2,可以发现, X t 的观测数据均落在估计方程(17)和(18)的0.01-轨道与0.90-轨道之间的区域,这说明两种方法均是可行的。

Figure 2. Sample data and α-paths of X t in Example 4

2. 例4的样本数据和 X t α轨道

比较两种方法得到的估计值,从表4可以发现,基于复合Heun方法的最小二乘估计方法优于基于欧拉方法的最小二乘估计方法。

5. 实证分析

在本节中,利用1939年至2010年间美国德克萨斯州阿兰萨斯国家野生动物保护区周围越冬地的美洲鹤种群数量[15],建立不确定延迟微分方程模型。假设美洲鹤种群数量满足Gao、Gao和Yang [10]提出的不确定延迟微分方程

{ d X t =α X t ( 1 X t1 K )dt+β X t ( 1 X t1 K )d C t ,    t[ 0,71 ] X t =18,   t[ 1,0 ] (19)

其中 α,β,K 是未知参数,且 t n+1 t n =1 。美洲鹤种群数量 X t 的观察值为 x t 0 , x t 1 ,, x t 71 ,如表5所示。

Table 5. Whooping crane population from 1939 to 2010

5. 1939年至2010年美洲鹤种群数量

22

26

16

19

21

18

22

25

31

30

34

31

25

21

24

21

28

24

26

32

33

36

39

32

33

42

44

43

48

50

56

57

59

51

49

49

57

69

72

75

76

78

73

73

75

86

97

110

134

138

146

146

132

136

143

133

158

160

182

183

188

180

176

185

194

217

220

237

266

270

264

283

基于复合Heun方法,利用最小二乘估计法计算未知参数。估计值 α ^ K ^ 是以下优化问题的解

min α,K n=0 N1 ( x t n+1 x t n ( 1θ )α x t n ( 1 x t n1 K )θα( x t n +α x t n ( 1 x t n1 K ) )( 1 x t n K ) ) 2

θ=0.7 ,得到

α ^ =0.0590,   K=499.9994

估计值 β ^ 满足

n=0 N1 β 2 x t n 2 ( 1 x t n1 K ) 2 = n=0 N1 ( x t n+1 x t n ( 1θ ) α ^ x t n ( 1 x t n1 K )                                     θα( x t n +α x t n ( 1 x t n1 K ) )( 1 x t n K ) ) 2

求解可得

β ^ =0.1048

因此估计方程为

{ d X t =0.0590 X t ( 1 X t1 499.9994 )dt+0.1048 X t ( 1 X t1 499.9994 )d C t ,    t[ 0,71 ] X t =18,   t[ 1,0 ]

图3,可以发现 X t 的观测数据均落在估计方程0.01-轨道与0.99-轨道之间的区域,这说明估计方程是合理的。

Figure 3. Whooping crane aerial survey data from 1939 to 2010 and α-path of X t

3. 1939年至2010年美洲鹤的航测数据及 X t α轨道

6. 结论

不确定微分方程可以用于描述不确定性动态系统,在实际应用中,参数估计是其重要的研究方向。以往的研究大多是基于欧拉方法对不确定微分方程进行离散,得到方程的差分形式,从而对未知参数进行估计。为了提高差分方程的精度,本文利用复合Heun方法,将其应用于不确定延迟微分方程的最小二乘估计。数值计算结果表明,与欧拉方法相比,复合Heun方法具有更高的精度。

NOTES

*通讯作者。

参考文献

[1] Liu, B. (2007) Uncertainty Theory. 5th Edition, Springer-Verlag.
[2] Liu, B. (2009) Some Research Problems in Uncertainty Theory. Journal of Uncertain Systems, 3, 3-10.
[3] Liu, B. (2008) Fuzzy Process, Hybrid Process and Uncertain Process. Journal of Uncertain Systems, 2, 3-16.
[4] Barbacioru, I.C. (2010) Uncertainty Functional Differential Equations for Finance. Surveys in Mathematics and Its Applications, 5, 275-284.
[5] Zhu, Y. and Ge, X. (2012) Existence and Uniqueness Theorem for Uncertain Delay Differential Equations. Journal of Computational Information Systems, 8, 8341-8347.
[6] Wang, X. and Ning, Y. (2019) A New Existence and Uniqueness Theorem for Uncertain Delay Differential Equations. Journal of Intelligent & Fuzzy Systems, 37, 4103-4111.
https://doi.org/10.3233/jifs-190264
[7] Jia, L. and Sheng, Y. (2019) Stability in Distribution for Uncertain Delay Differential Equation. Applied Mathematics and Computation, 343, 49-56.
https://doi.org/10.1016/j.amc.2018.09.037
[8] Yao, K. and Liu, B. (2019) Parameter Estimation in Uncertain Differential Equations. Fuzzy Optimization and Decision Making, 19, 1-12.
https://doi.org/10.1007/s10700-019-09310-y
[9] Liu, Z. and Jia, L. (2020) Moment Estimations for Parameters in Uncertain Delay Differential Equations. Journal of Intelligent & Fuzzy Systems, 39, 841-849.
https://doi.org/10.3233/jifs-191751
[10] Gao, Y., Gao, J. and Yang, X. (2022) Parameter Estimation in Uncertain Delay Differential Equations via the Method of Moments. Applied Mathematics and Computation, 431, Article 127311.
https://doi.org/10.1016/j.amc.2022.127311
[11] Chen, X., Yao, K. and Sheng, Y. (2019) Least Squares Estimation in Uncertain Differential Equations. IEEE Transactions on Fuzzy Systems, 28, 2651-2655.
https://doi.org/10.1109/TFUZZ.2019.2939984
[12] Zhang, J., Sheng, Y. and Wang, X. (2021) Least Squares Estimation of High-Order Uncertain Differential Equations. Journal of Intelligent, Fuzzy Systems, 41, 2755-2764.
https://doi.org/10.3233/JIFS-202522
[13] Liu, Y. and Liu, B. (2022) Estimating Unknown Parameters in Uncertain Differential Equation by Maximum Likelihood Estimation. Soft Computing, 26, 2773-2780.
https://doi.org/10.1007/s00500-022-06766-w
[14] Zhou, S., Tan, X. and Wang, X. (2023) Moment Estimation Based on the Composite Heun Scheme for Parameters in Uncertain Differential Equations. Journal of Intelligent, Fuzzy Systems, 45, 4239-4248.
https://doi.org/10.3233/JIFS-230288
[15] Strobel, B. N., Harris, G. and Butler, M. J. (2013) Influence of Whooping Crane Population Dynamics on Its Recovery and Management. Biological Conservation, 162, 89-99.
https://doi.org/10.1016/j.biocon.2013.04.003