概率论与数理统计中的几个注记

Several Notes on Probability Theory and Mathematical Statistics

摘要: 本文针对学生在学习概率论与数理统计中出现的问题，对随机变量的数字特征、不相关与独立的关系、事件发生与概率的关系以及小概率事件的实际不可能性原理进行了整理，并通过实例进行说明。

Abstract: This paper addresses common issues encountered by students in learning probability theory and mathematical statistics. It systematically organizes key concepts such as the numerical characteristics of random variables, the relationship between uncorrelatedness and independence, the connection between events and probabilities, and the practical impossibility principle of small-probability events. These points are further illustrated with concrete examples.

1. 引言

概率论与数理统计[1]作为描述随机现象、进行统计推断的核心数学工具，其理论严谨性与应用广泛性已使其成为自然科学、社会科学及工程技术领域的基础课程。然而在教学实践中，学生常对“随机变量数字特征的存在性、不相关与独立的区别、概率为0/1事件的实际意义、小概率原理的逻辑本质”等核心概念产生认知偏差，这些偏差不仅源于概念本身的抽象性，也与不同教材对概念阐释的详略差异有关。因此，本文旨在系统梳理并澄清上述教学中的普遍难点，通过实例验证与理论补充，帮助学生建立对基础概念的准确认知。

从学科发展与教学实践来看，上述概念的重要性已被多部国际权威教科书明确强调。例如，Jaynes在《Probability Theory: The Logic of Science》中指出，随机变量数字特征的“绝对收敛”要求是确保其“客观度量意义”的前提，若忽略这一条件，可能导致对随机变量“平均水平”的误判；Ross的《Introduction to Probability and Statistics for Engineers and Scientists》则通过大量实例对比，说明“不相关 ≠ 独立”是概率统计中最易混淆的关系之一，尤其在非正态分布场景下，二者的差异直接影响统计模型的构建合理性；此外，Feller的经典著作《An Introduction to Probability Theory and Its Applications》在阐述概率测度时，特别区分了“不可能事件”与“概率为0事件”，指出后者在测度论框架下的“几乎不可能”属性，而非绝对的“不可能发生”，而Lehmann的《Testing Statistical Hypotheses》则深入剖析了小概率原理与假设检验的逻辑关联，强调其作为“归纳推理工具”的核心地位。

本文立足上述学术背景，针对教学中反复出现的概念混淆问题，结合实例与理论透视展开分析，既呼应国际权威教材对核心概念的重视，也为教学实践提供更具针对性的概念澄清思路，助力学生打通“理论理解”与“应用实践”之间的壁垒。

2. 不表是所有的随机变量的数字特征都存在

数字特征主要含数学期望、方差、协方差等，是描述随机变量分布特性的重要指标，这些数字特征的存在依赖于积分或级数的绝对收敛性。下面就数学期望不存在加以说明。

定义1 若X是离散型随机变量，其概率函数为

$P\left(X=x_i\right)=P\left(x_i\right)\left(i=1,2,\cdots \right)$

且级数${\displaystyle \sum x_i}p\left(x_i\right)$ 绝对收敛，则称

$E\left(X\right)={\displaystyle \sum x_i}p\left(x_i\right)$

为离散型随机变量X的数学期望；若X是连续型随机变量，其概率密度函数为$f\left(x\right)$ ，且积分

${\displaystyle {\int }_{-\infty }^{\infty }x}f\left(x\right)\text{d}x$

绝对收敛，则称

$E\left(X\right)={\displaystyle {\int }_{-\infty }^{\infty }x}f\left(x\right)\text{d}x$

为连续型随机变量X的数学期望。

由定义1可知，随机变量X的数学期望存在，必须要求对应的无穷级数或无穷限的广义积分绝对收敛，而不是条件收敛，其根本目的是保证期望值不依赖求和或积分顺序(即期望值的唯一性)、避免因正负项抵消掩盖发散性(即期望值的稳定性)、确保期望作为随机变量“平均表现”的客观性与可操作性(即期望值的物理意义)。下面给出两个条件收敛但不绝对收敛的例子。

例1 设离散型随机变量X的取值为

$x_k={\left(-1\right)}^{k}k\cdot \frac{{\pi }^2}{6}$

且其概率分布为

$P\left(X=x_k\right)=\frac{6}{{\pi }^2{k}^2}\left(k=1,2,3,\cdots \right),$

则

${\displaystyle \sum x_k}p\left(x_k\right)={\displaystyle \sum _{k=1}^{+\infty }{\left(-1\right)}^{k}k\frac{{\pi }^2}{6}\frac{6}{{\pi }^2{k}^2}}={\displaystyle \sum _{k=1}^{+\infty }\frac{{\left(-1\right)}^k}{k}}.$

又因为级数${\displaystyle \sum _{k=1}^{+\infty }\frac{{\left(-1\right)}^k}{k}}$ 是交错调和级数，由莱布尼茨判别法知，该级数条件收敛，但不绝对收敛，故该随机变量的数学期望不存在。

注1：由例1知，要构造离散型随机变量数学期望不存在的反例，可选择一条件收敛但不绝对收敛的级数，并以此级数作为${\displaystyle \sum x_k}p\left(x_k\right)$ ，从而来寻找$x_k$ 与$p\left(x_k\right)$ 。如在例1中选择${\displaystyle \sum x_k}p\left(x_k\right)$ 为调和交错级数${\displaystyle \sum _{k=1}^{+\infty }\frac{{\left(-1\right)}^k}{k}}$ ，然后令

$x_k={\left(-1\right)}^{k}k\frac{{\pi }^2}{6}$ , $P\left(X=x_k\right)=\frac{6}{{\pi }^2{k}^2}$ ；

或者令

$x_k=\frac{{\left(-1\right)}^k}{k\cdot 2^k}$ , $P\left(X=x_k\right)=\frac{1}{2^k}$

均可，上式中$\frac{6}{{\pi }^2}$ 是否概率密度的规范性得出的，称为归一化常数。

例2 (柯西分布)设随机变量X的概率密度函数为

$f\left(x\right)=\frac{1}{\pi \left(1+x^2\right)},x\in ℝ$

则容易求得积分

${\displaystyle {\int }_{-\infty }^{\infty }\left|x\right|f\left(x\right)\text{d}x}={\displaystyle {\int }_{-\infty }^{\infty }\frac{\left|x\right|}{\pi \left(1+x^2\right)}\text{d}x}=\frac{2}{\pi }{\displaystyle {\int }_0^{\infty }\frac{x}{1+x^2}\text{d}x}$

不存在，即积分

${\displaystyle {\int }_{-\infty }^{\infty }xf\left(x\right)\text{d}x}$

不绝对收敛，故其数学期望不存在。

理论透视：黎曼级数定理的深层影响。黎曼级数定理明确指出，条件收敛的无穷级数可通过改变项的求和顺序，使级数和收敛到任意预先指定的实数，甚至发散。这一特性直接决定了数学期望定义中“绝对收敛”要求的必要性。若允许数学期望基于条件收敛的级数或积分定义，同一随机变量的期望可能因计算顺序不同而出现多个结果，完全违背“期望是随机变量平均水平客观度量”的本质属性。以柯西分布为例，其概率密度关于原点对称，若仅从条件收敛角度计算积分，正负区域的积分会相互抵消并得到“0”的结果，但这种结果缺乏实际意义：柯西分布的取值会频繁出现极端值，不存在稳定的平均水平，而绝对收敛的要求恰好排除了这种“虚假平均”，确保期望的定义与实际意义一致。

3. 不相关的两随机变量不一定独立

定义2 设X、Y为任意两个随机变量，若相关系数$R\left(X,Y\right)=0$ (或$Cov\left(X,Y\right)=0$ )，则称随机变量X与Y不相关，其中

$R\left(X,Y\right)=\frac{Cov\left(X,Y\right)}{\sqrt{D\left(X\right)}\sqrt{D\left(Y\right)}}.$

定义3 设X、Y为任意两个随机变量，A、B分别是任一与随机变量X、Y有关的事件，若

$P\left(AB\right)=P\left(A\right)P\left(B\right)$

则称随机变量X与Y独立。

容易求得，若随机变量X与Y独立，则X与Y一定不相关；但反过来不成立，即：若X与Y不相关，则X与Y未必独立[2]。

例3 设二维离散型随机变量$\left(X,Y\right)$ 的联合概率函数为

Y X	-1	0	1
-1	0.2	0	0.2
0	0	0.2	0
1	0.2	0	0.2

则关于X、Y的边缘概率分布为

X	-1	0	1
P	0.4	0.2	0.2

Y	-1	0	1
P	0.4	0.2	0.2

故

$P\left(X=0,Y=0\right)\ne P\left(X=0\right)P\left(Y=0\right)$ 。

从而X与Y不独立。

但$E\left(X\right)=E\left(Y\right)=E\left(XY\right)=0$ ，从而X与Y的协方差

$Cov\left(X,Y\right)=E\left(XY\right)-E\left(X\right)\cdot E\left(Y\right)=0.$

即X与Y不相关。

例4 设$X~N\left(0,1\right)$ ，且$Y=X^{2k}$ ($k$ 为整数)，则X与Y不独立且不相关。

事实上，由$Y=X^{2k}$ 知，X与Y不独立。又

$E\left(X\right)=0$ ，$E\left(XY\right)=E\left(X^3\right)={\displaystyle {\int }_{-\infty }^{+\infty }{x}^3\cdot \frac{1}{\sqrt{2\pi }}{\text{e}}^{-\frac{x^2}{2}}\text{d}x}=0$

故$Cov\left(X,Y\right)=E\left(XY\right)-E\left(X\right)\cdot E\left(Y\right)=0$ ，即X与Y不相关。

例5 设随机变量$\left(X,Y\right)$ 服从单位圆上的均匀分布，即具有联合概率密度函数为

$f\left(x,y\right)=\{\begin{array}{ll}\frac{1}{\pi }\hfill & x^2+y^2\le 1,\hfill \\ 0\hfill & 其它.\hfill \end{array}$

则X与Y不独立且不相关。

事实上，由边缘概率密度的公式可得X与Y的概率密度分别为

$f_X\left(x\right)={\displaystyle {\int }_{-\sqrt{1-x^2}}^{\sqrt{1-x^2}}\frac{1}{\pi }\text{d}y}=\frac{2\sqrt{1-x^2}}{\pi }\left(-1\le x\le 1\right)$

$f_Y\left(y\right)=\frac{2\sqrt{1-y^2}}{\pi }\left(-1\le y\le 1\right)$

故$f\left(x,y\right)\ne f_X\left(x\right)\cdot f_Y\left(y\right)$ ，即X与Y不独立；但由积分的“偶倍奇零”性质，显然有

$E\left(X\right)={\displaystyle {\int }_{-\infty }^{+\infty }x\cdot f_X\left(x\right)\text{d}x}={\displaystyle {\int }_{-1}^{1}x\frac{2\sqrt{1-x^2}}{\pi }\text{d}x}=0$

$E\left(Y\right)={\displaystyle {\int }_{-\infty }^{+\infty }y\cdot f_Y\left(y\right)\text{d}y}=0$

$E\left(XY\right)={\displaystyle {\int }_{-\infty }^{+\infty }{\displaystyle {\int }_{-\infty }^{+\infty }xy\cdot f\left(x,y\right)\text{d}x}\text{d}y}=0$

故$Cov\left(X,Y\right)=E\left(XY\right)-E\left(X\right)\cdot E\left(Y\right)=0$ ，即X与Y不相关。

注2：由上可知，X与Y不相关推不出X与Y独立，但是若$\left(X,Y\right)~N\left({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,r\right)$ (二维正态分布)，则此时X、Y不相关与独立等价。

延伸思考：随机变量空间的“正交”与“因子分解”类比。可将随机变量视为某个函数空间中的向量，此时“不相关”对应向量的“正交”关系。若两个随机变量不相关，意味着它们在“中心化”(减去自身期望)后，其“内积”(协方差)为0，即两个变量的线性关联程度为零。但“正交”仅反映线性层面的无关性，无法排除变量间可能存在的非线性关联，如同平面内垂直的向量仍可能通过非线性变换产生联系。而“独立”则对应更强的“因子分解”性质，若两个随机变量独立，其联合概率分布(或密度函数)可分解为各自边缘分布(或密度函数)的乘积，这意味着一个变量的取值概率完全不受另一个变量取值的影响，无论这种影响是线性还是非线性的。例如，单位圆上均匀分布的随机变量X与Y，虽因对称性满足“正交”(不相关)，但联合密度无法分解为边缘密度的乘积，故不独立。只有在特殊结构(如二维正态分布)中，“正交”才恰好等价于“因子分解”，此时不相关与独立完全一致。

4. 概率为0的事件未必不发生，概率为1的事件未必一定发生

众所周知，不可能事件Φ概率为零，在每次试验中一定不发生；必然事件概率为1，在每次试验中一定发生。但是，反过来，不成立，即概率为0的事件未必不发生，概率为1的事件未必一定发生。

例6 设$X$ 服从区间$\left[a,b\right]$ 上的均匀分布，即$X~U\left[a,b\right]$ ，其概率密度函数为

$f\left(x\right)=\{\begin{array}{ll}1\hfill & a\le x\le b,\hfill \\ 0\hfill & 其它.\hfill \end{array}$

则$P\left(X=\frac{a+b}{2}\right)={\displaystyle {\int }_{\frac{a+b}{2}}^{\frac{a+b}{2}}f}\left(x\right)\text{d}x=0$ 。但$\frac{a+b}{2}$ 是区间$\left[a,b\right]$ 上的一个可能取值，这意味着“$X=\frac{a+b}{2}$ ”是一个概率为0但可能发生的事件。

注3：若称概率为0的事件称为零测集，则概率为0的事件可视为可能发生，但发生的可能性在测度论中可被忽略的事件，相当于几乎处处不发生的事件；在例6中，$P\left(X=\frac{a+b}{2}\right)=0$ ，故$P\left(X\ne \frac{a+b}{2}\right)=1$ ，显然事件“$X\ne \frac{a+b}{2}$ ”也不是必然事件。

理论透视：测度论框架下的概率本质。从测度论角度看，概率本质上是定义在“事件σ代数”上的规范化测度(总测度为1)，而“长度、面积”等几何测度是概率测度的特殊情形。在区间$\left[0,1\right]$ 上的均匀分布中，单点的“长度测度”为0，对应概率为0，但单点本身是样本空间中的合法元素，仍有可能被随机选中(如随机投点恰好落在该点)。这表明“概率为0”仅表示事件在测度意义上“体积为零”，而非“不存在于样本空间”。类似地，概率为1的事件(几乎必然事件)对应测度为1的集合，但其补集(概率为0的事件)仍可能存在。

5. 小概率事件的实际不可能性原理是一种概率反证法，具有一定的容错率

定义4 在统计学中，当某一事件的概率极低(如低于预设的显著性水平$\alpha$ ，通常为0.05或0.01)时，认为该事件在实际中不可能发生，从而拒绝原假设，此原理称为小概率事件的实际不可能性原理。

小概率事件的实际不可能性原理是一种基于概率的经验推断，从而有一定的容错率(即小概率)，而非绝对逻辑证明(即不保证百分之百正确)，常应用于科学实验、质量控制、医学研究等需要统计推断的领域。例如，在假设检验中，若某现象的P值远小于$\alpha$ ，则拒绝原假设(如“药物无效”)，接受备择假设(如“药物有效”)。

例7 某制药公司研发了一款新型降压药“MediLower”，声称其降压效果显著优于安慰剂。为验证这一说法，研究人员将200名高血压患者随机分为两组：实验组(100人)：每日服用MediLower，治疗周期为8周，治疗后测量得到每位患者的收缩压的平均值为${\overline{X}}_1=12.5$ mmHg，标准差$s_1=3.2$ ；对照组(100人)：每日服用外观相同的安慰剂，治疗周期为8周，治疗后测量每位患者的收缩压的平均值为${\overline{X}}_2=5.0$ mmHg，标准差$s_2=2.8$ ，问“MediLower是否比安慰剂更有效降低收缩压(单位：mmHg)”。

解：利用小概率事件的实际不可能性原理检验“药物的有效性检验”。

1) 提出假设：令原假设($H_0$ )：两组患者的平均收缩压下降值无差异(${\mu }_1-{\mu }_2=0$ )；备择假设($H_1$ )：实验组的平均收缩压下降值显著高于对照组(${\mu }_1-{\mu }_2>0$ )。

2) 计算检验统计量：使用独立样本t检验，合并方差后得：

$t=\frac{{\overline{X}}_1-{\overline{X}}_2}{\sqrt{\frac{s_1^2}{n_1}+\frac{s_2^2}{n_2}}}=\frac{12.5-5.0}{\sqrt{\frac{{3.2}^2}{100}+\frac{{2.8}^2}{100}}}\approx \mathrm{16.7.}$

3) 确定P值：经查表可得：在单侧检验下自由度为198，$t\approx 16.7$ 对应的P值远小于0.005。

4) 给定显著性水平：预设$\alpha =0.05$ 。

5) 结论与解释：由于$P<\alpha$ ，则拒绝原假设$H_0$ ，接受备择假设$H_1$ 。

6) 实际推断：根据“小概率事件的实际不可能性原理”，若药物无效($H_0$ 为真)，则观察到如此大的降压差异(12.5 vs 5.0 mmHg)的概率极低($P<\alpha$ )，因此，认为MediLower的降压效果显著优于安慰剂。

例8 证明“素数无穷多”。

证明：(利用严格反证法) [3]。假设素数有限，设为$\left\{q_1,q_2,\cdots ,q_n\right\}$ ，令$Q=q_1{q}_2\cdots q_n+1$ ，则 $Q=q_1{q}_2\cdots q_n+1$ 不被任何已知素数整除，故存在新素数，与假设矛盾，即素数有无限多个。

延伸思考：归纳推理与演绎推理的哲学差异。小概率事件的实际不可能性原理[4]本质上是一种归纳推理，其核心逻辑是“基于大量经验观察，小概率事件在单次试验中几乎不会发生”，但这种推理无法保证结论的绝对正确性，即使事件概率极低，仍存在发生的可能性(如$\alpha =0.05$ 对应的“第一类错误”)。归纳推理的优势在于适应不确定的现实世界，能基于有限数据做出可接受的推断，广泛应用于医学、社会学等无法进行完全枚举的领域。而严格反证法(如证明素数无穷多)属于演绎推理，其逻辑基础是“若假设成立则会导致矛盾，故假设必然不成立”，推理过程遵循严格的逻辑规则，结论具有绝对的必然性和普遍性。演绎推理的前提是必须有明确的公理或定义，适用于数学、逻辑等抽象领域，但难以直接应用于存在随机扰动的现实问题。两者的差异反映了“理论确定性”与“现实不确定性”的对立统一，在概率论中，既需要演绎推理构建严格的理论框架(如概率公理、期望定义)，也需要归纳推理将理论应用于实际决策(如假设检验、风险评估)，而小概率原理正是连接两者的关键桥梁[5]。