9.1 样本空间与计数概率
第 6 章教我们在不逐个列举的情况下统计对象。第 8 章又提到了难以预测的选择,例如在真实密码系统中选择秘密素数或使用随机填充。现在可以提出一个新问题:
> 当多个结果都有可能出现,而我们事先不知道究竟会出现哪一个时,怎样用计数来度量这种不确定性?
概率论首先要求我们准确描述所有可能结果。只有这一步完成以后,才能给事件赋予数值。
随机试验与结果
随机试验是可以重复进行、但事先不能确定结果的过程。掷骰子、从洗匀的牌中抽牌、从多台服务器中均匀随机选择一台,都是随机试验。“随机”并不表示“没有规则”,恰恰相反,我们必须先把试验规则说清楚。
一次试验得到的完整结果叫作一个结果。掷一枚六面骰子时,可能结果是点数 。
包含全部可能结果的集合叫作样本空间,通常用希腊大写字母 表示,读作“欧米伽”。掷一次骰子的样本空间为
花括号提醒我们: 是一个集合。每次实际投掷都会产生这个集合中的一个元素。
样本空间取决于我们记录什么。假设连续抛两次硬币。
- 如果先后顺序重要,那么 与 是不同结果,因此
- 如果只记录正面出现的次数,那么
这两个样本空间服务于不同的问题。在 中,三个结果并不等可能:一次正面可以由 或 产生,而零次正面只能由 产生。只因为某个样本空间看起来简洁就直接使用它,而不检查结果是否等可能,是概率问题中很常见的错误。
事件是结果组成的集合
具有某种共同性质的一组结果叫作一个事件。因此,事件就是样本空间的子集,可以写成
掷一次骰子,令 表示“结果为偶数”,那么
当实际结果属于 时,我们就说事件 发生了。像 这样只有一个结果的事件称为简单事件;包含多个结果的事件称为复合事件。
两个边界事件很重要:
- 不可能事件是空集 ,因为其中没有任何结果;
- 必然事件是 ,因为样本空间中总会有一个结果发生。
概率给事件赋予数值
事件 的概率写作 ,它是 到 之间的数:
两个端点的意义很明确:
概率越大,事件越有可能发生。概率 并不保证事件严格地“每两次发生一次”,它描述的是模型预测的长期比例。
如果样本空间是有限的,而且每个基本结果都等可能,这类模型称为古典概型(classical probability model),也叫有限等可能模型。此时概率可以写成计数之比:
其中, 表示事件 中结果的个数, 表示样本空间中全部结果的个数。使用这个公式之前,必须确认“有限”和“等可能”两个条件。
对于骰子的偶数事件,
分子统计满足要求的结果,分母统计全部可能结果。
稳妥的计数概率步骤
在结果等可能时,可以按四步处理:
1. 明确一次结果究竟记录哪些信息。 2. 构造样本空间 ,或者统计它的大小。 3. 描述事件 ,并统计其中的结果。 4. 写出 并约分。
第一步最容易被忽略,却能避免大多数错误。如果试验中的顺序有意义,那么计数时也必须保留顺序。
用硬币、骰子或转盘拼装一个两阶段试验。实验室会把笛卡尔积变成结果地板,每个格子代表一个有序对。亲手涂出事件后,事件集合、元素个数与准确概率会同步变化。
多阶段试验使用乘法原理
现在同时掷一枚蓝色骰子和一枚金色骰子。一个结果必须同时记录两枚骰子的点数,因此它是有序对 。样本空间为
这里的乘号表示第 1 章介绍过的笛卡尔积。根据第 6 章的乘法原理,
令 表示“两枚骰子的点数和至少为 ”。按照第一坐标列举可得
所以
这里必须保留有序对。 与 不同,因为蓝色骰子和金色骰子的结果发生了交换。
用集合运算组合事件
事件是集合,所以第 1 章的集合运算也有直接的概率含义。
- 表示“ 发生,或 发生,或二者都发生”。
- 表示“ 与 同时发生”。
- 是 的补事件,表示“ 不发生”。
与 把样本空间分成两个互不重叠的部分,因此
直接统计 很麻烦时,统计补事件往往更简单。例如掷两枚骰子,令 表示“至少一枚出现 ”。它的补事件是“两枚都不出现 ”。每枚骰子此时都有 个允许点数,所以
从而
计算并事件时,如果直接把 与 相加,交集 中的结果会被数两次。容斥公式负责减去这次重复:
它与第 6 章的计数容斥具有相同结构,只是现在度量的是概率,而不是对象个数。
理论概率与观测频率
根据模型算出的分数叫作理论概率。实际重复试验还会产生数据。若事件 在 次试验中发生了 次,则它的相对频率为
符号上方的帽子用于区分观测估计 和模型数值 。
对于公平骰子,。但在 次投掷中,我们完全可能看到 次六点,此时
这不能立刻证明骰子不公平,小样本本来就可能波动。在相同条件下重复大量试验时,相对频率通常会逐渐稳定在理论概率附近。这种长期现象称为大数定律。本节只使用它的直观意义;严格定理还需要本节之外的知识。
还要注意两点:
1. 增加试验次数通常会减小波动,但并不保证频率与理论概率完全相等。 2. 模拟只能检验写入程序的模型。错误的样本空间或没有依据的等可能假设,不会因为多模拟几次就变正确。
经营一个可以重新配置奖区的概率嘉年华转盘。分批启动试验,观察累计相对频率留下的轨迹;再改变转盘结构,检查新轨迹是否会追随新的理论目标。
本节检查表
处理有限概率问题前,依次问自己:
- 一个结果记录了哪些信息?
- 样本空间是否恰好包含全部可能结果,没有遗漏也没有重复?
- 这些结果真的等可能吗?
- 哪个子集代表目标事件?
- 能否用补集、乘法计数或容斥避免冗长列举?
- 我是否区分了理论概率与观测频率?
到目前为止,所有概率都在原样本空间内计算。有时新信息会告诉我们,只有样本空间的一部分仍然可能。第 9.2 节将建立在这种限制下重新计算概率的规则。