1. 引言
信息几何旨在解开概率分布族的几何结构,并研究它们在信息科学中的应用。信息几何是计量经济学家H. Hotelling (1930)和统计学家C.R. Rao (1945)出于数学上的好奇心而独立诞生的,他们考虑了概率分布的参数族,称为统计模型,是一种带有Fisher度量张量的黎曼流形。信息几何通过使用张量微积分和微分几何的概念(如曲率)来解决问题。信息几何是一个相对较新的统计学领域,主要研究概率分布之间的几何性质和相关信息度量[1]。
在经典信息几何理论中,Rao把概率密度函数全体看成统计流形,并用Fisher信息阵来定义流形上的黎曼度量,从而构建了黎曼流形[2]。Amari计算了正态分布流形在黎曼联络下的黎曼曲率,惊奇地发现它是带有负常曲率的双曲空间,既然概率分布全体是弯曲的流形,人们就想研究各种概率分布的几何性质,并希望利用这些几何性质来研究各种随机问题。流形的几何性质取决于所选取的几何度量及其联络。保持无挠性和相容性的黎曼联络在微分几何理论中是最理想的联络,但是在经典信息几何中却不太容易派上用场,于是人们设法定义新的联络来代替黎曼联络,Chentsov引入了一族仿射联络,Efron给出了统计流形上的曲率[3]。在上述基础上,Amari对统计流形进行了大量研究,为信息几何理论的形成做出了巨大贡献(详见文献[4]-[10])。特别是引入了对偶联络的概念,这个概念是经典微分几何中所不具有的新内容。利用这个对偶联络,学者们己经获得了很多新成果。这种对偶联络本身既没有无挠性,与黎曼度量之间也没有相容性,对信息几何的研究没有直接的贡献,而Amari由此提出的α-联络,因为α-联络与−α-联络是对偶联络,它们保证了α-联络的无挠性,这对问题的研究带来了极大的方便。
在国内,信息几何的研究也受到了许多学者的重视,许多学者也开始对一类分布族的信息几何结构进行了研究,张士诚,孙华飞,李春晖等人利用信息几何的观点,考虑了指数族流形的α几何结构,并利用这些几何性质研究了热力学统计流形[11]。张真宁,曹丽梅,柯炳清等人从信息几何的角度将二元Weibull分布的全体所构成的集合作为二元Weibull统计流形,得到二元Weibull统计流形的对偶几何结构,进而得到当
和
时,二元Weibull统计流形是对偶平坦的,并且是常截面曲率空间[12]。仲锋惟,孙华飞,张真宁等人用几何方法研究Fisher Z分布,建立了Fisher Z分布流形的几何结构,从几何的角度计算了Fisher Z分布的一些相关几何量,给出了对应的量化结果[13]。
仲锋惟等三人也研究了由狄利克雷分布组成的狄利克雷流形的几何结构,考虑其对偶结构并给出了其几何度量,获得了狄利克雷流形低维情况下的几何结构。他们构建了狄利克雷流形的仿射浸入,给出了狄利克雷流形的e-平坦层次结构和平交叶状结构[14]。但他们只研究了三维狄利克雷分布流形的几何结构,计算出的几何量的结果也比较复杂,本文在此基础上对高维的狄利克雷流形的几何结构进行研究。
首先,我们对经典信息几何的知识进行了梳理,定义了统计流形,利用Fisher信息矩阵定义了黎曼度量,引入了对偶联络和α-联络,主要对指数族分布流形的几何量进行了介绍,特别在自然坐标系下,对指数分布统计流形的度量
,α-联络系数
,挠率系数
,曲率张量
的表达式做了相应介绍和证明。
然后,我们证明狄利克雷分布是特殊的一种指数族分布,我们利用前文经典信息几何的知识,构建狄利克雷分布流形,计算得到狄利克雷分布流形的n维几何结构给出具体表达式。
最后,我们重新对三维狄利克雷分布流形的几何结构进行了研究,计算了相关几何量,并与文献[14]的结果进行对照比较。
2. 经典信息几何理论
经典信息几何就是指把服从某一分布的概率密度函数全体看成一个集合,然后在满足一定的正则条件下构成一个微分流形,利用Fisher信息矩阵作为黎曼度量,再引入对偶联络,α-联络,研究此类流形的几何性质与结构(详见文献[15])。
定义2.1:集合
(1)
满足以下的正则条件成为一个流形。
1)
,而且当
时,
;
2)
均线性无关;
3)
;
4)
存在所需要的各节矩。
其中,
是样本空间
中的随机变量,
是关于x的概率密度函数,参数θ是一个n维的向量,参数
,Θ为n维实向量空间
的开集,参数θ可以看作流形M上的局部坐标系,我们称这样的流形
为统计流形。
定义2.2:Fisher信息矩阵的分量形式如下
(2)
其中
,E表示关于概率密度函数
的数学期望,我们定义的Fisher信息矩阵是正定的。
定义2.3:假设
是黎曼流形
上的两个联络,如果对于任意的
,都有
(3)
则称
互为对偶联络。显然,
,而且当
时,该联络关于度量
满足相容性。
定义2.4:α-联络的表达式为
其中
为流形M上的向量场,α为实参数,该联络是满足无挠性的。
定义2.5:α-联络
的挠率张量
和曲率张量
分别定义为
(4)
(5)
定义2.6:指数分布族为
(6)
如果其概率密度函数可以表示为
(7)
其中
,
为自然坐标系,
是x的函数,
是关于θ的势函数,势函数是凸函数,
的黑塞矩阵是正定矩阵,则指数分布族M在正则条件下构成为一个流形。
定理2.1:在自然坐标系θ下,指数分布族流形M的几何量由下面的式子给出
(8)
(9)
(10)
(11)
在文献[15]中缺少对该定理的证明,接下来将会对该定理进行简要的证明。
证明(8)式:
其中
因为
所以
即
所以
证明(9)式:
其中
和
因此
所以
证明(10)式:根据定义2.4可以直接得到(10)式
证明(11)式:根据定义2.5可以得到曲率张量
在自然坐标系下的展开表达式
再由
和公式(10)可以得到
再进一步的展开
最后结果化简为
3. 狄利克雷分布流形
定义3.1:
是有
个变量且满足
的正随机变量,具有参数向量
的狄利克雷分布的概率密度函数表示为
(12)
其中
,狄利克雷分布是一个多元连续分布,它与伽马分布密切相关。
定义3.2:集合
被称为狄利克雷分布流形。
命题3.1:狄利克雷分布是一种指数族分布。
证明:狄利克雷分布的概率密度函数(12)可以改写为
势函数表示为
所以狄利克雷的概率密度函数可以写为
(13)
其中
被称为狄利克雷流形的自然坐标系,
是仅依赖于y的函数,狄利克雷流形是±1平坦的,以上就证明了狄利克雷分布是一种指数族分布。
定义3.3:伽马函数的表达式如下,其中参数
(14)
定义3.4:高斯普赛函数
定义为
(15)
定理3.1:当
,对于
关于
,无论i取任何值,
的一阶偏导数都相等,也就是说
都为同一个固定的值,我们令
(16)
证明:将
的一阶偏导数展开为
由上式可以看出对于
,它一阶偏导数与i的取值无关。同理,我们可以证明其二阶偏导数与三阶偏导数也分别相等,我们令
(17)
(18)
4. n维狄利克雷分布流形的几何结构
定理4.1:n维狄利克雷分布流形的Fisher信息矩阵为
(19)
该矩阵是一个n维的正定矩阵,其中
来自于公式(16)。
该矩阵的行列式为
(20)
狄利克雷分布流形的Fisher信息矩阵的逆矩阵的表达式为
当
时
(21)
当
时
(22)
定理4.2:n维狄利克雷分布流形的挠率系数
与α-联络系数
为
当
时
其它情况时
定理4.3:n维狄利克雷分布流形的α-曲率张量为
(23)
(24)
其中
,且互不相等。
证明:令
,且互不相等,根据n维狄利克雷分布流形的挠率系数
和公式(11)来计算n维狄利克雷分布流形的α-曲率张量。
当
互不相等时,令
,此时
当
相等时,令
,此时
当
中有三个相等时,令
,此时
所以狄利克雷分布流形的α-曲率张量只有当
中只有一对相等或者有两对互相相等时,
的值才不等于0。
当
中只有一对相等时,令
,此时
当
时
所以m只能为a,
才不等于0,即

当
中有两对分别相等时,令
,此时
当
时,
所以只有
,或者
时,
才不等于0。
当
时
当
时

所以
其中
和
,再将上式进一步展开

定理4.3证明完毕。
定理4.4:狄利克雷分布流形的α-截面曲率的表达式为
(25)
接下来利用狄利克雷分布流形的α-曲率张量计算狄利克雷分布流形的α-里奇曲率,对于里奇张量矩阵中的项
,令
且
,当矩阵中的项行和列坐标相等时,令
和
,此时
如果
,或者
,或者
,根据前面的计算
都等于0,从而
等于0,所以
的展开表达如下
(26)
当矩阵中的项行和列坐标不相等时,令
和
,此时
如果
或
,此时
等于0,从而
等于0,所以
展开为
(27)
根据上述狄利克雷分布流形的α-里奇曲率可以得到狄利克雷分布流形的α-数量曲率。
定理4.5:狄利克雷分布流形的α-数量曲率的表达式为
(28)
其中
,由于带入具体值后,该表达式过长,这里就不具体展开。
5. 三维狄利克雷分布流形的几何结构
定义5.1:三维狄利克雷分布流形定义为
文献[14]中三维狄利克雷分布流形的几何量计算结果如下
α-曲率张量还有
,
,
,
,这里就不一一展示。
在上述结果中
不难看出该结果过于冗长,也不利于我们后续的研究,所以,利用我们前面的结果,计算三维狄利克雷分布流形的α-曲率张量
。
三维狄利克雷分布流形的Fisher信息矩阵为
三维狄利克雷分布流形的Fisher信息矩阵的逆矩阵的元素为
三维狄利克雷分布流形的α-曲率张量为
其中,
表示公式(17)中有三个参数
,
和
时的表达式,
表示公式(18)中有三个参数
和
时的表达式。可以看出该结果明显更加简洁,我们给出n维狄利克雷分布流形的α-曲率张量后续对于狄利克雷分布流形的几何研究是很有帮助的。接下来计算三维狄利克雷分布流形的α-截面曲率。
三维狄利克雷分布流形的α-截面曲率为
同样,三维狄利克雷分布流形的α-里奇曲率与α-数量曲率可以由公式(26),(27)和(28)计算得到。