9.2 条件概率与独立性
第 9.1 节始终在完整样本空间中度量事件。新信息可能排除一部分结果。此时仍在考虑的结果集合已经改变,分母也必须随之改变。
假设从下面的卡片中等可能地选择一张:
Ω={1,2,3,4,5,6,7,8}. 在没有其他信息时,令事件 A=“卡片数字大于 5”,则 A={6,7,8},所以 P(A)=3/8。
现在有人告诉我们:被选中的卡片是偶数。令
B={2,4,6,8}. 此时可能的卡片不再是 Omega 中的全部八张,而只剩 B 中的四张。其中 6 和 8 也属于 A,所以更新后的概率为 2/4=1/2。
已知 B 发生时,A 发生的概率叫作,写作
P(A∣B). 竖线读作“在……条件下”或“已知”。它不是除号。竖线右边的事件是我们已经接受的信息。
在缩小后的空间 B 中,满足要求的结果恰好是 A∩B。于是得到条件概率的定义:
P(A∣B)=P(B)P(A∩B),P(B)>0. 条件 P(B)>0 不能省略,因为除数不能为零。在有限等可能样本空间中,这个概率之比可以化成计数之比:
P(A∣B)=∣B∣∣A∩B∣. 对于卡片例子,
P(A∣B)=∣{2,4,6,8}∣∣{6,8}∣=42=21. 竖线两侧的顺序很重要
P(A∣B) 与 P(B∣A) 通常回答不同问题。
仍使用刚才的卡片,
P(B∣A)=∣A∣∣A∩B∣=32, 因为知道卡片数字大于 5 后,缩小的空间是 A={6,7,8}。两个方向使用同一个交集作为分子,却使用不同的分母。
二维表可以整理两个“是或否”事件。假设对 100 名学生按是否使用 Python(事件 A)和是否使用 SQL(事件 B)分类:
| 使用 SQL,B | 不使用 SQL,Bc | 行合计 |
|---|
| 使用 Python,A | 30 | 20 | 50 |
| 不使用 Python,Ac | 10 | 40 | 50 |
| 列合计 | 40 | 60 | 100 |
求 P(A∣B) 时,先把注意力限制在 B 这一列。列合计 40 成为分母,A∩B 所在格子的 30 成为分子:
P(A∣B)=4030=43. 求 P(B∣A) 时,改用 A 这一行:
P(B∣A)=5030=53. 一条可靠的操作规则是:。
在总体方格上操作条件滤镜。通过调整阈值定义两个事件,再把任一事件放到条件竖线右侧。条件之外的结果会淡出,新的分母与交集会清晰保留下来。
从
P(A∣B)=P(B)P(A∩B) 出发,两边同时乘以 P(B),得到
P(A∩B)=P(B)P(A∣B). 同一个交集也可以按相反顺序到达:
P(A∩B)=P(A)P(B∣A). 这就是。它描述一条两阶段路线:先到达条件事件,再在缩小后的分支中到达另一个事件。
例如,一个盒子中有 3 枚红色筹码和 2 枚蓝色筹码。等可能地连续抽取两枚,而且采用,也就是第一次抽出的筹码不会在第二次抽取前放回盒子。令 R1 表示“第一枚是红色”,R2 表示“第二枚是红色”。首先,
P(R1)=53. 抽走一枚红色筹码以后,只剩 2 枚红色筹码和 4 枚筹码,因此
P(R2∣R1)=42=21. 所以
P(R1∩R2)=53⋅21=103. 是展示这种乘法过程的分支图。每条分支标注一个条件概率,从起点走到末端的一条完整路线,其概率等于沿途分支标签的乘积。它只是一种画图约定;正式依据仍是上面的乘法公式,并不要求预先学过后面章节的树结构。
如果得知 B 发生并不会改变 A 的概率,就说事件 A 与 B 。当 P(B)>0 时,可以写成
P(A∣B)=P(A). 把条件概率定义代入,可得到对称的检验公式:
P(A∩B)=P(A)P(B). 这个乘积等式通常是更稳妥的定义,因为即使某个事件的概率为 0,它仍然有意义。
例一:两次分开的抛硬币
令 A 表示“第一次为正面”,B 表示“第二次为正面”。在
Ω={HH,HT,TH,TT} 中,
P(A)=21,P(B)=21,P(A∩B)=41. 因为
41=21⋅21, 所以两个事件独立。
例二:不放回抽取
在筹码盒中,抽取之前 P(R2)=3/5,因为每枚筹码等可能地处在第二个位置。然而,
P(R2∣R1)=21=53. 第一次抽出红色筹码改变了盒子的组成,因此 R1 与 R2 不独立。
如果两个事件不能同时发生,就称它们:
A∩B=∅. 在一次掷骰子中,“掷出 2”和“掷出 5”互斥。观察到 2 后,同一次投掷出现 5 就变得不可能,可见一个事件强烈影响了另一个事件。
如果两个互斥事件的概率都大于 0,那么
P(A∩B)=0而P(A)P(B)>0. 所以它们。独立允许两个事件按照各自概率乘积所预测的比例发生重叠;互斥则完全禁止重叠。
把一个固定总体重新分配到二维表的四个格子中。实时天平会比较实际交集和独立性所预测的交集,交叉乘积印章还会给出不受小数舍入影响的整数检验。
- 竖线右边的事件就是缩小后的样本空间。
- P(A∣B) 与 P(B∣A) 通常使用不同分母。
- 乘法公式可以根据一条分支路线重建交集概率。
- 独立性意味着 P(A∩B)=P(A)P(B)。
- 不放回抽取通常会产生依赖关系。
- 概率为正的互斥事件不独立。
条件概率告诉我们证据怎样改变概率。下一节的贝叶斯定理将把条件的方向反转:已知“某个原因下出现证据的概率”,反推出“看到证据后这个原因成立的概率”。