概率论基础教程第2章概率论公理

第2章 概率论公理

2.1 引言

概率概念的建立需先掌握样本空间和事件的定义。本章通过公理化方法定义概率，避免相对频率定义的缺陷（如极限存在性和一致性问题），为概率论提供严格数学基础。

2.2 样本空间和事件

核心定义

• 样本空间 $S$：试验所有可能结果的集合。
  示例：
  • 掷两枚硬币：$S = \{(H,H), (H,T), (T,H), (T,T)\}$
  • 掷两枚骰子：$S = \{(i,j) \mid i,j = 1,2,3,4,5,6\}$
  • 晶体管寿命：$S = \{x \mid 0 \leq x < \infty\}$
• 事件：样本空间 $S$ 的子集。事件发生当试验结果属于该子集。
  示例：
  • 掷两枚硬币，事件 $E = \{(H,H), (H,T)\}$ 表示"第一枚硬币正面朝上"。
  • 掷两枚骰子，事件 $E = \{(1,6),(2,5),(3,4),(4,3),(5,2),(6,1)\}$ 表示"点数之和为7"。

事件运算

• 并（$E \cup F$）：发生当 $E$ 或 $F$ 发生。
• 交（$E \cap F$ 或 $EF$）：发生当 $E$ 和 $F$ 同时发生；若 $E \cap F = \emptyset$，则 $E$ 与 $F$ 互不相容。
• 补（$E^c$）：发生当 $E$ 不发生；$S^c = \emptyset$。
• 子集（$E \subset F$）：$E$ 发生蕴含 $F$ 发生。

德摩根律

证明：
第一部分：证明 $\left( \bigcup_{i=1}^n E_i \right)^c = \bigcap_{i=1}^n E_i^c$

要证明两个集合相等，需验证双向包含关系：

1. 证明 $\left( \bigcup_{i=1}^n E_i \right)^c \subseteq \bigcap_{i=1}^n E_i^c$：
   取任意 $x \in \left( \bigcup_{i=1}^n E_i \right)^c$，则 $x \notin \bigcup_{i=1}^n E_i$。
   根据并集定义，$x$ 不属于任何 $E_i$（$i=1,2,\dots,n$），即对所有 $i$，$x \notin E_i$。
   由补集定义，$x \in E_i^c$ 对所有 $i$ 成立，故 $x \in \bigcap_{i=1}^n E_i^c$。

2. 证明 $\bigcap_{i=1}^n E_i^c \subseteq \left( \bigcup_{i=1}^n E_i \right)^c$：
   取任意 $x \in \bigcap_{i=1}^n E_i^c$，则 $x \in E_i^c$ 对所有 $i$ 成立。
   即对所有 $i$，$x \notin E_i$，故 $x \notin \bigcup_{i=1}^n E_i$。
   由补集定义，$x \in \left( \bigcup_{i=1}^n E_i \right)^c$。

第二部分：证明 $\left( \bigcap_{i=1}^n E_i \right)^c = \bigcup_{i=1}^n E_i^c$

可直接证明或利用第一部分结果：

• 由第一部分，$\left( \bigcup_{i=1}^n E_i^c \right)^c = \bigcap_{i=1}^n (E_i^c)^c = \bigcap_{i=1}^n E_i$。
• 对两边取补：$\left( \left( \bigcup_{i=1}^n E_i^c \right)^c \right)^c = \left( \bigcap_{i=1}^n E_i \right)^c$。
• 由 $(E^c)^c = E$，得 $\bigcup_{i=1}^n E_i^c = \left( \bigcap_{i=1}^n E_i \right)^c$。

实际计算示例

例1：掷两枚硬币
样本空间 $S = \{(H,H), (H,T), (T,H), (T,T)\}$。

• 定义事件：
  $E_1 = \{(H,H), (H,T)\}$（第一枚正面），
  $E_2 = \{(H,H), (T,H)\}$（第二枚正面）。
• 计算：
  $E_1 \cup E_2 = \{(H,H), (H,T), (T,H)\}$（至少一枚正面），
  $(E_1 \cup E_2)^c = \{(T,T)\}$。
  $E_1^c = \{(T,H), (T,T)\}$，$E_2^c = \{(H,T), (T,T)\}$，
  $E_1^c \cap E_2^c = \{(T,T)\}$。
• 验证：$(E_1 \cup E_2)^c = E_1^c \cap E_2^c = \{(T,T)\}$。

例2：掷三枚硬币
样本空间 $S = \{HHH, HHT, HTH, HTT, THH, THT, TTH, TTT\}$。

• 定义事件：
  $E_1 = \{HHH, HHT, HTH, HTT\}$（第一枚正面），
  $E_2 = \{HHH, HHT, THH, THT\}$（第二枚正面），
  $E_3 = \{HHH, HTH, THH, TTH\}$（第三枚正面）。
• 计算：
  $E_1 \cup E_2 \cup E_3 = \{HHH, HHT, HTH, HTT, THH, THT, TTH\}$（至少一枚正面），
  $(E_1 \cup E_2 \cup E_3)^c = \{TTT\}$。
  $E_1^c = \{THH, THT, TTH, TTT\}$，
  $E_2^c = \{HTH, HTT, TTH, TTT\}$，
  $E_3^c = \{HHT, HTT, THT, TTT\}$，
  $E_1^c \cap E_2^c \cap E_3^c = \{TTT\}$。
• 验证：$(E_1 \cup E_2 \cup E_3)^c = E_1^c \cap E_2^c \cap E_3^c = \{TTT\}$。

2.3 概率论公理

公理系统（对样本空间 $S$ 的事件 $E$ 定义概率 $P(E)$）

1. $0 \leq P(E) \leq 1$（概率值在 $[0,1]$ 区间）。
2. $P(S) = 1$（必然事件概率为 $1$）。
3. 对互不相容事件序列 $\{E_i\}$（即 $i \neq j$ 时 $E_i \cap E_j = \emptyset$），有 $P\left( \bigcup_{i=1}^\infty E_i \right) = \sum_{i=1}^\infty P(E_i)$。

重要推导

• $P(\emptyset) = 0$
  证明：取 $E_1 = S$，$E_i = \emptyset$（$i > 1$），则 $S = \bigcup_{i=1}^\infty E_i$。由公理 3：

  $$P(S) = P(S) + \sum_{i=2}^\infty P(\emptyset) \implies 1 = 1 + \sum_{i=2}^\infty P(\emptyset) \implies P(\emptyset) = 0.$$

• 有限可加性：对互不相容事件 $E_1, \dots, E_n$，有 $P\left( \bigcup_{i=1}^n E_i \right) = \sum_{i=1}^n P(E_i)$（由公理 3 令 $E_i = \emptyset$（$i > n$）即得）。

例题

• 例 3a：掷硬币试验。

  • 公平硬币：$P(\{H\}) = P(\{T\}) = \frac{1}{2}$。
  • 有偏硬币（正面概率为反面的 2 倍）：$P(\{H\}) = \frac{2}{3}$，$P(\{T\}) = \frac{1}{3}$。

• 例 3b：掷骰子试验（等可能结果）。
  $P(\{1\}) = P(\{2\}) = \cdots = P(\{6\}) = \frac{1}{6}$，故点数为偶数的概率：

  $$P(\{2,4,6\}) = P(\{2\}) + P(\{4\}) + P(\{6\}) = \frac{1}{6} + \frac{1}{6} + \frac{1}{6} = \frac{1}{2}.$$

技术注释 当样本空间不可数时，概率仅定义在可测事件上，但实际应用中所有事件均可测，故无实质影响。公理化方法确保概率定义严谨，且支持大数定律（事件频率以概率 1 收敛于 $P(E)$）。

2.4 几个简单命题

核心命题

证明：
由于 $E$ 和 $E^c$ 互不相容且 $E \cup E^c = S$，由公理 2 和公理 3：

移项即得 $P(E^c) = 1 - P(E)$。

应用示例：掷硬币时若正面概率为 $3/8$，则反面概率为 $1 - 3/8 = 5/8$。

如果 $E \subset F$，那么 $P(E) \leq P(F)$。

证明：
由于 $E \subset F$，可将 $F$ 表示为：

其中 $E$ 和 $E^c F$ 互不相容，由公理 3：

由于 $P(E^c F) \geq 0$，因此 $P(E) \leq P(F)$。

应用示例：掷骰子时，出现 1 的概率小于等于出现奇数的概率。

证明：
首先，$E \cup F$ 可表示为互不相容事件 $E$ 和 $E^c F$ 的并：

又因为 $F = EF \cup E^c F$，所以：

代入上式即得：

例题 4a： 某人度假带两本书，喜欢第一本的概率为 0.5，喜欢第二本的概率为 0.4，两本都喜欢的概率为 0.3，求两本都不喜欢的概率。

解：
设 $B_1$、$B_2$ 分别表示喜欢第一本和第二本书的事件，则：

两本都不喜欢的概率为：

容斥恒等式

问题：掷三个均匀的骰子，求至少有一个骰子显示 1 点的概率。

解： 设：

• $E_1$：第一个骰子显示 1 点
• $E_2$：第二个骰子显示 1 点
• $E_3$：第三个骰子显示 1 点

我们需要计算 $P(E_1 \cup E_2 \cup E_3)$。

根据容斥恒等式：

计算各项：

• $P(E_i) = \frac{1}{6}$（单个骰子显示 1 点的概率），所以 $\sum P(E_i) = 3 \times \frac{1}{6} = \frac{1}{2}$
• $P(E_iE_j) = \frac{1}{6} \times \frac{1}{6} = \frac{1}{36}$（两个特定骰子都显示 1 点的概率），所以 $\sum P(E_iE_j) = 3 \times \frac{1}{36} = \frac{1}{12}$
• $P(E_1E_2E_3) = \frac{1}{6} \times \frac{1}{6} \times \frac{1}{6} = \frac{1}{216}$（三个骰子都显示 1 点的概率）

代入公式：

验证： 至少有一个骰子显示 1 点的概率 = 1 - 没有骰子显示 1 点的概率

与容斥

[!IMPORTANT]

详细计算过程：

1. 首先，根据二项式定理：

   $$(x + y)^m = \sum_{i=0}^{m} \binom{m}{i} x^i y^{m-i}$$

2. 令 $x = -1$，$y = 1$，代入得：

   $$(-1 + 1)^m = \sum_{i=0}^{m} \binom{m}{i} (-1)^i (1)^{m-i}$$

3. 左边简化为：

   $$0^m = 0 \quad \text{（当 } m > 0 \text{ 时）}$$

4. 右边为：

   $$\sum_{i=0}^{m} \binom{m}{i} (-1)^i \cdot 1 = \sum_{i=0}^{m} \binom{m}{i} (-1)^i$$

5. 因此有：

   $$\sum_{i=0}^{m} \binom{m}{i} (-1)^i = 0$$

6. 将求和式展开：

   $$\binom{m}{0}(-1)^0 + \binom{m}{1}(-1)^1 + \binom{m}{2}(-1)^2 + \cdots + \binom{m}{m}(-1)^m = 0$$

7. 由于 $\binom{m}{0} = 1$ 且 $(-1)^0 = 1$，所以：

   $$1 - \binom{m}{1} + \binom{m}{2} - \binom{m}{3} + \cdots + (-1)^m \binom{m}{m} = 0$$

8. 移项得到：

   $$\binom{m}{1} - \binom{m}{2} + \binom{m}{3} - \cdots + (-1)^{m+1} \binom{m}{m} = 1$$

恒等式计算结果一致。

直观解释： 考虑样本空间中某个结果，若它恰好包含在 $m$ 个事件中（$m > 0$），则它在 $\bigcup E_i$ 中应被计算一次。在等式右边，它被计算的次数为：

我们需要证明这个和等于 1。由于 $\binom{m}{0} = 1$，只需证明：

这由二项式定理可得：

因此，容斥恒等式确保每个结果在等式两边被计算的次数相同。

上下界估计：

在容斥恒等式中，如果只取前一项，那么得到事件并的概率的一个上界；如果取前两项，那么得到事件并的概率的一个下界；取前 3 项，得到一个上界；取前 4 项，得到一个下界，以此类推。具体而言：

1. $P\left(\bigcup_{i=1}^{n} E_i\right) \leq \sum_{i=1}^{n} P(E_i)$
2. $P\left(\bigcup_{i=1}^{n} E_i\right) \geq \sum_{i=1}^{n} P(E_i) - \sum_{i_1 < i_2} P(E_{i_1} E_{i_2})$
3. $P\left(\bigcup_{i=1}^{n} E_i\right) \leq \sum_{i=1}^{n} P(E_i) - \sum_{i_1 < i_2} P(E_{i_1} E_{i_2}) + \sum_{i_1 < i_2 < i_3} P(E_{i_1} E_{i_2} E_{i_3})$

证明思路：
首先将 $\bigcup_{i=1}^{n} E_i$ 表示为互不相容事件的并：

由概率的可加性：

利用 $P(E_i) = P(E_1^c \cdots E_{i-1}^c E_i) + P(E_i \cap \bigcup_{j<i} E_j)$，可得：

代入上式：

由于概率总是非负的，由上式可直接得到不等式 (4.1)。将不等式 (4.1) 应用到 $P\left(\bigcup_{j<i} E_i E_j\right)$，可得：

结合上式，即可得到不等式 (4.2)。类似地，将不等式 (4.2) 应用到 $P\left(\bigcup_{j<i} E_i E_j\right)$，可得：

由此可推导出不等式 (4.3)。其他不等式可通过类似方法证明。

2.5 等可能结果的样本空间

在有限样本空间 $S = \{1, 2, \ldots, N\}$ 中，若所有结果等可能，则：

对任意事件 $E$：

其中 $|E|$ 表示 $E$ 中元素个数。

例 5a：掷两枚骰子，点数之和为 7 的概率。
解：样本空间有 36 种等可能结果，和为 7 的结果有 6 种：$(1,6),(2,5),(3,4),(4,3),(5,2),(6,1)$，故：

例 5b：碗中有 6 个白球、5 个黑球，随机取 3 个，恰好 1 白 2 黑的概率。
解：

• 有序取法：$\frac{3 \times (6 \times 5 \times 4)}{11 \times 10 \times 9} = \frac{360}{990} = \frac{4}{11}$
• 无序取法：$\frac{\binom{6}{1}\binom{5}{2}}{\binom{11}{3}} = \frac{6 \times 10}{165} = \frac{4}{11}$

例 5c：从 6 男 9 女中选 5 人组成委员会，恰好 3 男 2 女的概率。
解：

例 5d：坛中有 $n$ 个球（1 个标记），随机取 $k$ 个，标记球被取出的概率。
解：

例 5e：生日问题 问题：房间有 $n$ 人，无人同一天生日的概率是多少？当 $n$ 多大时，此概率小于 $1/2$？
解：

当 $n \geq 23$ 时，此概率小于 $1/2$；当 $n = 50$ 时，至少两人同生日的概率约为 $97\%$。

例 5m：配对问题 问题：$N$ 人取帽子，无人拿到自己帽子的概率。 设 $E_i$ 表示"第 $i$ 个人拿到自己帽子"的事件。根据容斥恒等式，至少有一人拿到自己帽子的概率为：

计算各项：

1. 单个事件的概率 $P(E_i)$：

   • 第 $i$ 个人拿到自己帽子的概率为 $\frac{1}{N}$
   • 共有 $N$ 个这样的事件
   • 所以 $\sum_{i=1}^{N} P(E_i) = N \times \frac{1}{N} = 1$

2. 两个事件交集的概率 $P(E_{i_1} E_{i_2})$：

   • 第 $i_1$ 和 $i_2$ 个人都拿到自己帽子的概率
   • 总的分配方式为 $N!$，满足条件的分配方式为 $(N-2)!$（固定两人，其余人随机排列）
   • 所以 $P(E_{i_1} E_{i_2}) = \frac{(N-2)!}{N!} = \frac{1}{N(N-1)}$
   • 选择两个事件的方式有 $\binom{N}{2} = \frac{N(N-1)}{2}$ 种
   • 所以 $\sum_{i_1 < i_2} P(E_{i_1} E_{i_2}) = \binom{N}{2} \times \frac{1}{N(N-1)} = \frac{N(N-1)}{2} \times \frac{1}{N(N-1)} = \frac{1}{2!}$

3. $k$ 个事件交集的概率 $P(E_{i_1} E_{i_2} \cdots E_{i_k})$：

   • $k$ 个人都拿到自己帽子的概率
   • $P(E_{i_1} E_{i_2} \cdots E_{i_k}) = \frac{(N-k)!}{N!}$
   • 选择 $k$ 个事件的方式有 $\binom{N}{k} = \frac{N!}{k!(N-k)!}$ 种
   • 所以 $\sum_{i_1 < i_2 < \cdots < i_k} P(E_{i_1} E_{i_2} \cdots E_{i_k}) = \binom{N}{k} \times \frac{(N-k)!}{N!} = \frac{N!}{k!(N-k)!} \times \frac{(N-k)!}{N!} = \frac{1}{k!}$

将这些结果代入容斥恒等式：

因此，没有人拿到自己帽子的概率为：

当 $N$ 较大时的近似值：

根据指数函数 $e^x$ 的泰勒级数展开：

令 $x = -1$，得到：

当 $N$ 很大时，$\sum_{k=0}^{N} \frac{(-1)^k}{k!}$ 趋近于 $e^{-1}$，即：

这表明，当人数 $N$ 足够大时，没有人拿到自己帽子的概率趋近于 $e^{-1} \approx 0.3679$，而不是许多人直觉认为的趋近于 0。

例 5n：10对夫妇坐成一圈问题的详细计算

问题：10对夫妇（共20人）坐成一圈，计算所有妻子都不坐在自己丈夫旁边的概率。

1. 基本设定

• 总人数：20人（10对夫妇）
• 在圆桌排列中，由于旋转等价，固定一个人的位置，其余19人排列，所以总排列数为 $(20-1)! = 19!$

2. 定义事件

设 $E_i$ 表示"第 $i$ 对夫妇坐在一起"的事件（$i = 1, 2, \dots, 10$）

我们需要计算至少有一对夫妇坐在一起的概率 $P\left(\bigcup_{i=1}^{10} E_i\right)$，然后所求概率为 $1 - P\left(\bigcup_{i=1}^{10} E_i\right)$

3. 计算 $P(E_{i_1} E_{i_2} \cdots E_{i_n})$

对于指定的 $n$ 对夫妇都坐在一起的情况：

• 将每对夫妇视为一个"块"，则总共有 $20-n$ 个对象需要排列（$n$ 个"夫妇块" + $20-2n$ 个单独的人）

• 在圆桌上，$20-n$ 个对象的排列数为 $(20-n-1)! = (19-n)!$ （因为圆桌排列中，固定一个对象的位置，其余 $19-n$ 个对象排列）

• 对于每个"夫妇块"，夫妇两人可以有两种排列方式（丈夫左妻子右，或妻子左丈夫右），所以 $n$ 个"夫妇块"有 $2^n$ 种排列方式

• 因此，指定 $n$ 对夫妇都坐在一起的排列数为 $2^n \cdot (19-n)!$

• 总的排列数为 $19!$，所以：

  $$P(E_{i_1} E_{i_2} \cdots E_{i_n}) = \frac{2^n \cdot (19-n)!}{19!}$$

• 选择 $n$ 对夫妇的方式有 $\binom{10}{n}$ 种

4. 应用容斥原理

根据命题 4.4（容斥恒等式）：

书中给出的表达式为：

5. 简化计算

注意到：

例如：

• 当 $n=1$：$\frac{18!}{19!} = \frac{1}{19}$
• 当 $n=2$：$\frac{17!}{19!} = \frac{1}{19 \times 18}$
• 当 $n=3$：$\frac{16!}{19!} = \frac{1}{19 \times 18 \times 17}$
• 以此类推

因此，容斥和可以写为：

6. 计算结果

书中直接给出了计算结果：

因此，所有妻子都不坐在丈夫旁边的概率为：

结论：10对夫妇坐成一圈，所有妻子都不坐在自己丈夫旁边的概率约为0.3395。

2.6 概率·连续集函数

定义

• 递增序列：事件序列 $\{E_n, n \geq 1\}$ 满足 $E_1 \subset E_2 \subset \cdots \subset E_n \subset E_{n+1} \subset \cdots$
• 递减序列：事件序列 $\{E_n, n \geq 1\}$ 满足 $E_1 \supset E_2 \supset \cdots \supset E_n \supset E_{n+1} \supset \cdots$

极限事件：

• 若 $\{E_n, n \geq 1\}$ 是递增序列，则定义：

  $$\lim_{n\to\infty} E_n = \bigcup_{i=1}^{\infty} E_i$$

• 若 $\{E_n, n \geq 1\}$ 是递减序列，则定义：

  $$\lim_{n\to\infty} E_n = \bigcap_{i=1}^{\infty} E_i$$

连续性

如果 $\{E_n, n \geq 1\}$ 是递增或递减事件序列，那么：

证明：

情况1：递增序列

定义新事件序列 $\{F_n\}$：

• $F_1 = E_1$
• $F_n = E_n \left(\bigcup_{i=1}^{n-1} E_i\right)^c = E_n E_{n-1}^c$（当 $n > 1$）

$F_n$ 由属于 $E_n$ 但不属于 $E_i$（$i < n$）的元素组成，且 $\{F_n\}$ 是互不相容事件序列，满足：

因此：

情况2：递减序列

若 $\{E_n\}$ 是递减序列，则 $\{E_n^c\}$ 是递增序列。由情况1可知：

由于 $\bigcup_{i=1}^{\infty} E_i^c = \left(\bigcap_{i=1}^{\infty} E_i\right)^c$，所以：

例 6a：概率与悖论

问题：考虑一个无限大的坛子和无限个编号为 1, 2, 3, … 的球，进行以下试验：

• 在差 1 分到 12 P.M. 时，将 1 到 10 号球放入坛子，并随机取出一个球
• 在差 1/2 分到 12 P.M. 时，将 11 到 20 号球放入坛子，并随机取出一个球
• 在差 1/4 分到 12 P.M. 时，将 21 到 30 号球放入坛子，并随机取出一个球
• 以此类推...

求 12 P.M. 时坛子为空的概率。

解：

设 $E_n$ 表示"进行 $n$ 次取球后，1 号球仍在坛子里"的事件。则：

在 12 P.M. 时，1 号球仍在坛子里的事件为 $\bigcap_{n=1}^{\infty} E_n$。由于 $\{E_n\}$ 是递减序列，由命题 6.1：

证明 $\prod_{n=1}^{\infty} \frac{9n}{9n+1} = 0$：

由于：

令 $m \to \infty$ 且利用调和级数发散性 $\sum_{n=1}^{\infty} \frac{1}{n} = \infty$，可得：

因此，1 号球在 12 P.M. 时仍在坛子里的概率为 0。类似地，对任意编号 $i$ 的球，其在 12 P.M. 时仍在坛子里的概率也为 0。

设 $F_i$ 表示"$i$ 号球在 12 P.M. 时仍在坛子里"的事件，则坛子非空的概率为：

因此，在 12 P.M. 时，坛子为空的概率为 1。

2.7 概率·确信程度的度量

概率不仅可以解释为事件发生的长期相对频率，还可以解释为确信程度的度量（主观概率）。

主观概率：人们对某一陈述的确信程度的度量。例如：

• "有 90% 的可能性是莎士比亚真的写了《哈姆雷特》"
• "奥斯瓦德独自暗杀肯尼迪总统的可能性为 80%"

关键点：无论将概率解释为频率还是确信程度，其数学属性都应满足概率论的公理。例如：

• 如果有 70% 的把握认为《凯撒大帝》的作者是莎士比亚
• 有 10% 的把握认为作者是马洛
• 则应该有 80% 的把握认为作者是莎士比亚或马洛

例 7a

问题：假设 1 号和 2 号马各有 20% 的机会获胜，3 号和 4 号马各有 15% 的机会获胜，其余 3 匹各有 10% 的机会获胜。如果进行同等赌注的押赌，是赌"获胜者将是 1, 2, 3 号马之一"还是赌"获胜者将是 1, 5, 6, 7 号马之一"更好？

解：

• 赌第一种赢的概率：$0.2 + 0.2 + 0.15 = 0.55$
• 赌第二种赢的概率：$0.2 + 0.1 + 0.1 + 0.1 = 0.5$

因此，赌第一种更好。

注意：主观概率也应符合概率论的公理。例如，如果某人对以下问题的回答是：

• 今天下雨的可能性：30%
• 明天下雨的可能性：40%
• 今明两天都下雨的可能性：20%
• 今天或明天会下雨的可能性：60%

这样的回答与概率论公理矛盾（因为 $P(A \cup B) = P(A) + P(B) - P(AB) = 0.3 + 0.4 - 0.2 = 0.5 \neq 0.6$）。合理的修正可能是：30%, 40%, 10%, 60%。