随机事件条件独立性
Conditional Independence of Random Events
DOI: 10.12677/AAM.2019.87139, PDF, HTML, XML, 下载: 1,043  浏览: 2,103  科研立项经费支持
作者: 张可铭, 张金平:华北电力大学数理学院,北京
关键词: 随机事件条件概率独立性条件独立性Random Events Conditional Probability Independence Conditional Independence
摘要: 介绍了随机事件条件独立的概念和性质,结合例子讨论了随机事件独立性和条件独立性的关系,说明随机事件独立性和条件独立性互不蕴含。最后,讨论了条件独立的判定定理。
Abstract: The concept and properties of condition independence of random events are introduced. The rela-tionship between independence of random events and conditional independence is discussed with examples, which shows that independence of random events and conditional independence do not imply each other. Finally, the determining theorems of conditional independence are provided.
文章引用:张可铭, 张金平. 随机事件条件独立性[J]. 应用数学进展, 2019, 8(7): 1208-1211. https://doi.org/10.12677/AAM.2019.87139

1. 引言

随机事件的“独立性”是工科《概率论与数理统计》课程中一个非常基础而又极其重要的概念,对一些经典问题的讨论,“独立性”往往是一个重要的前提或假设。另外,在解决一些实际问题的过程中,经常会遇到条件概率的问题。因此,讨论随机事件基于条件概率的独立性是很有必要和自然的。

文献 [1] 中讨论了随机事件条件独立的概念。但是,在实践中发现:一方面,国内的常用教材 [2] [3] [4] 中很少见到关于条件独立性的详细介绍。另一方面,在解决一些问题时,经常将独立性和条件独立性混淆。基于这两个方面,在本文中,主要介绍了随机事件条件独立的概念,并讨论了两个问题:

1) 通过简单例子说明独立性和条件独立性是互不蕴含的关系。

2) 给出条件独立的判定条件。

工程技术中应用条件独立的实际问题也是多见的。比如,在人工智能的机器学习领域就多见条件独立的实际问题 [5] 。综合来看,无论从教学的角度还是应用的角度,讨论事件条件独立性都是有必要的。

2. 主要结果

2.1. 独立性和条件独立性

定义2.1 [2] [3] [4] 设 A , B 是两个事件,如果满足等式

P ( A B ) = P ( A ) P ( B ) (1)

则称事件 A , B 相互独立,简称 A , B 独立。

定义2.2 [1] 在给定事件C的条件下,如果事件 A , B 满足

P ( A B | C ) = P ( A | C ) P ( B | C ) (2)

则称A和B在给定条件C下条件独立。

注2.1 特别地,当 P ( C ) = 1 时,由(1)和(2)易知,A和B在给定条件C下条件独立等价于A和B独立。

在一般情况下, A , B 条件独立并不一定能得到 A , B 独立;反之, A , B 独立也并不一定能得到 A , B 条件独立。

下面的两个例子说明了这一点。

例2.1 设一个盒子内装有大小形状完全相同的两个小球,一个红色,一个白色,现从中任取一个,观察其颜色后再放回盒子中,连续观察两次。记

B 1 = {第一次取得红球}, B 2 = {第二次取得红球},

C = {第一次和第二次取得小球的颜色不同},

R表示红球,W表示白球,则这个随机试验的样本空间为 S = { R W , W R , R R , W W } ,且四种结果是等可能的。

显然,

P ( B 1 ) = 1 2 , P ( B 2 ) = 1 2 , P ( B 1 B 2 ) = 1 4 , P ( B 1 | C ) = 1 2 , P ( B 2 | C ) = 1 2 , P ( B 1 B 2 | C ) = 0

根据(1)可得 B 1 , B 2 是相互独立的。

由于

P ( B 1 B 2 | C ) P ( B 1 | C ) P ( B 2 | C ) .

根据定义2.2可知, B 1 B 2 在条件C下并不条件独立。

例2.2 设随机试验E为从数据集 S = { 1 , 2 , 3 , 4 , 5 , 6 , 7 , 8 , 9 } 中随机取一个数字,每个数字被等可能的选取。记

A = { 1 , 2 , 3 , 4 } , B = { 2 , 3 , 5 , 7 } , C = { 2 , 3 , 7 } .

易得,

P ( A ) = 4 9 , P ( B ) = 4 9 , P ( A B ) = 2 9 , P ( A | C ) = 2 3 , P ( B | C ) = 1 , P ( A B | C ) = 2 3

显然,

P ( A B ) P ( A ) P ( B ) , P ( A B | C ) = P ( A | C ) P ( B | C )

由定义2.1,定义2.2易知: A , B 在给定条件C下条件独立,但是 A , B 并不相互独立。

由例2.1和例2.2可知,在一般情况下,独立性和条件独立性互不蕴含。

2.2. 条件独立性的判定

定理2.1 [1] 设 A , B 是两个事件,事件C是给定的条件,且 P ( B | C ) > 0 ,则A和B在给定条件C下条件独立等价于

P ( A | B C ) = P ( A | C ) (3)

注2.2定理2.1给出了在条件 P ( B | C ) > 0 下,两个随机事件A和B在给定条件C下条件独立的充要条件。(3)式往往可以作为条件独立的等价定义使用。

定理2.2 设 A , B 是两个事件,事件C是给定的条件,且 P ( B | C ) > 0 ,若 C B ,则A和B在给定条件C下一定条件独立。

证:根据定理2.1易证。

定理2.3 设 A , B 是随机试验E中的两个独立事件,事件C是给定的条件,且 P ( C ) > 0 P ( A | C ) > 0 P ( B | C ) > 0 ,若 P ( A B C ) = 0 ,则A和B在给定条件C下不可能条件独立。

证:由已知条件可知 P ( A B | C ) = 0 P ( A | C ) P ( B | C ) > 0 .根据定义2.2,定理2.3得证。

注2.3 特别地,定理2.3中,其它条件不变,将 P ( A B C ) = 0 替换为 A B C = ,定理2.3的结论显然也正确。

3. 总结

随机事件条件独立性在理论和应用两方面都有着重要意义。然而,在国内教材和文献中又很少见到详细介绍和研究,正是基于这个原因,本文详细介绍了事件条件独立性的概念,通过实例讨论了事件独立性和条件独立性的关系,指出随机事件独立性和条件独立性是互不蕴含的关系,最后给出了两个新的条件独立性判定定理。

基金项目

华北电力大学课程建设项目(XM1907407)。

NOTES

*通讯作者。

参考文献

[1] Bertsekas, D.P. and Tsitsiklis, J.N. (2002) Introduction to Probability. Athena Scientific, Nashua, NH.
[2] 盛骤, 谢式千, 潘承毅. 概率论与数理统计[M]. 北京: 高等教育出版社, 2008.
[3] 陈希孺. 概率论与数理统计[M]. 合肥: 中国科学技术大学出版社, 2009.
[4] 王梓坤. 概率论基础及其应用[M]. 北京: 北京师范大学出版社, 2007.
[5] 周志华. 机器学习[M]. 北京: 清华大学出版社, 2016 .