离散型随机变量及其常见分布律

1. 随机变量

• 设随机试验的样本空间为$S=\{e\}$. $X=X(e)$ 是定义在样本空间$S$上的实值单值函数。称$X=X(e)$为随机变量

2. 离散型随机变量

• 定义： 全部可能取到的值为有限个或可列无限多个，这种随机变量称为离散型随机变量

  骰子的点数，打靶环数，某城市120急救电话一昼夜收到的呼叫次数，都是离散型随机变量

• 设离散型随机变量$X$所有可能取的值为$x_k(k=1,2,\cdots)$ ，$X$取各个可能值的概率，即事件${X=x_k}$ 的概率，为 $P\{X=x_k\}=P_k, k=1,2,\cdots$

  我们称该式为离散型随机变量的分布律

  • 性质：

    • $1^o$ $p_k \geq 0, \quad k=1,2,3,\cdots;$

    • $2^o$ $\sum\limits_{k=1}^{\infty}{p_k=1.}$

    稍后介绍常见分布的时候，$p_k \geq 0$ 这个的证明很简单，不在赘述，我会给出$\sum\limits_{k=1}^{\infty}{p_k=1.}$ 的必要性证明。

3. 离散型随机变量常见分布

3.1 $(0-1)$分布

• 设随机变量可能的取值只有$0$和$1$，它的分布律为 $P\{X=k\} = p^k(1-p)^{1-k}, \quad k=0,1$ ,记做$X$服从以$p$为参数的$\pmb{(0-1)}$分布或两点分布

  $X$	$0$	$1$
  $p_k$	$1-p$	$p$

  新生儿性别，抛硬币，产品质量是否合格 等可以用$(0-1)$分布的离散型随机变量来表示

3.2 二项分布

• 设试验$E$只有两种可能结果：$A$及$\overline A$ ,则称$E$为伯努利试验 。 设$P(A) = p ，则P(\overline A) = 1 - p$ .

• 将$E$ 独立重复地进行$n$次， 则称这一连串独立的重复试验为$\pmb n$重伯努利试验

  例如，抛硬币，$A$表示正面，这就是伯努利试验，将硬币抛$n$次，就是$n$重伯努利试验。 掷骰子，$A$表示等到$1$点，$\overline A$ 表示得到的是非$1$点，也叫一次伯努利试验等

• 以$X$表示$n$重伯努利试验中，事件$A$发生的次数，$p$表示事件$A$发生的概率，$q=1-p$ 表示$A$不发生的概率(即$\overline A$发生的概率) ，则有

  $P\{X=k\} = (_k^n)p^kq^{n-k} \quad k=0,1,2\cdots, n$

  • 必要性证明 ： $\sum\limits_{k=0}^{n}{P\{X=k\}} = \sum\limits_{k=0}^{n}{(_k^n)p^kq^{n-k}} = (p+q)^n=1$

  • 二项式 $(a+b)^n = (_0^n)a^{n-0}b^{0}+(_1^n)a^{n-1}b^{1}+\cdots+(_{n-1}^n)a^{n-(n-1)}b^{n-1}+(_n^n)a^{n-n}b^{n} = \sum\limits_{k=0}^{n}{(_k^n)a^{n-k}b^{k}}$

  我们发现 $(_{k}^{n})p^kq^{n-k}$ 刚好是 $(p+q)^n$ 展开式中出现$p^k$的那一项，因此，我们称随机变量$X$服从以$n，p$为参数的二项分布，记做 $\pmb{X\sim b(n,p)}$

3.3 泊松分布

• 设随机变量$X$的可能取值为$0,1,2,\cdots$ 而各个取值的概率为 $P\{X=k\}= \frac{\lambda^k}{k!}e^{-\lambda} \quad k=0,1,2,\cdots$ 其中$\lambda > 0$ 为常数，则称$X$服从以$\lambda$为参数的泊松分布，记做 $\pmb{X \sim \pi(\lambda)}$

  • 必要性证明 ：

    $\begin{aligned}\sum\limits_{k=0}^{\infty}P\{X=k\}= \sum\limits_{k=0}^{\infty}\frac{\lambda^k}{k!}e^{-\lambda}=e^{-\lambda}\sum\limits_{k=0}^{\infty}\frac{\lambda^k}{k!} = e^{-\lambda} \cdot e^\lambda = 1\end{aligned}$

  • 其中 $\sum\limits_{k=0}^{\infty}\frac{\lambda^k}{k!} = e^\lambda$ 证明如下，需要用到泰勒公式

  泰勒公式

  如果函数$f(x)$在$x_0$的某个邻域$U(x_0)$内具有(n+1)阶导数，那么对任一$x \in U(x_0)$ 有
  $\begin{aligned}f(x)=f(x_0)+f^{'}(x_0)(x-x_0)+\frac{f^{''}(x_0)}{2!}(x-x_0)^2+\\\cdots+\frac{f^{(n)}(x_0)}{n!}(x-x_0)^n+R_{n}(x)\end{aligned}$

  即 $f(x)=\sum\limits_{n=0}^{N}\frac{f^{(n)}(x_0)}{n!}(x-x_0)^n+R_{n}(x)$ 当 $x_0=0$ 时，有 $f(x)=\sum\limits_{n=0}^{N}\frac{f^{(n)}(0)}{n!}x^n+R_{n}(x)$

  此时有 $e^x=\sum\limits_{n=0}^{N}\frac{(e^x)^{(n)}(0)}{n!}x^n+R_{n}(x) \\ \because (e^x)^{(n)}=e^x \therefore (e^x)^{(n)}(0) = 1 \\ \therefore e^x= \sum\limits_{n=0}^{N}\frac{1}{n!}x^n+R_{n}(x)，R_{n}(x) 为关于x^n的高阶无穷小，则 e^x \approx \sum\limits_{n=0}^{N}\frac{1}{n!}x^n$ $\therefore 有 e^\lambda = \sum\limits_{k=0}^{\infty}\frac{\lambda^k}{k!} 成立$

一本书一页中的印刷错误数，某医院在一天内的急诊病人数，某一个地区一个时间间隔内发生交通事故的次数等均服从泊松分布

• 泊松定理 设$\lambda >0$是一个常数，$n$是任意正整数，设$np_n=\lambda$ ,则对于任一固定的非负整数$k$，有$\lim_{n\rightarrow\infty}(_k^n)p_n^k(1-p_n)^{n-k}=\frac{\lambda^ke^{-\lambda}}{k!}$

证明如下 ：

$\begin{aligned}\because \lambda = np_n \quad \therefore p_n &= \frac{\lambda}{n} \\ \lim_{n\rightarrow\infty}(_k^n)p_n^k(1-p_n)^{n-k} &= \lim_{n\rightarrow\infty} \frac{n!}{k!(n-k)!}\frac{\lambda^k}{n^k}(1-\frac{\lambda}{n})^{n-k} \\&= \lim_{n\rightarrow\infty}\frac{\lambda^k}{k!}\frac{(n-k+1)!}{n^k}(1-\frac{\lambda}{n})^{n}(1-\frac{\lambda}{n})^{-k} \\&=\lim_{n\rightarrow\infty}\frac{\lambda^k}{k!}[1\cdot(1-\frac{1}{n})(1-\frac{2}{n})\cdots(1-\frac{k-1}{n})](1-\frac{\lambda}{n})^{n}(1-\frac{\lambda}{n})^{-k} \\ \because &\lim_{n\rightarrow\infty}[1\cdot(1-\frac{1}{n})(1-\frac{2}{n})\cdots(1-\frac{k-1}{n})] = 1 \\ &\lim_{n\rightarrow\infty}(1-\frac{\lambda}{n})^{n} = e^{-\lambda}\\ &\lim_{n\rightarrow\infty}(1-\frac{\lambda}{n})^{-k} = 1\\ \therefore \lim_{n\rightarrow\infty}(_k^n)p_n^k(1-p_n)^{n-k} &= \frac{\lambda^ke^{-\lambda}}{k!}\end{aligned}$

• 该定理说明，当$n$很大，$p$很小时，二项分布可用泊松分布近似 即 $(_k^n)p^k(1-p)^{n-k} \approx \frac{\lambda^ke^{-\lambda}}{k!} \quad (\lambda=np)$

  一般地，当 $n \geq 100,np \leq 10$ 时，即可用泊松分布来近似计算二项分布

3.4 几何分布

• 在伯努利试验中，记每次试验中事件$A$发生的概率为$p$，试验进行到事件$A$出现时停止，此时所进行的试验次数为$X$，其分布率为 $P\{X=k\}=(1-p)^{k-1}p \quad k = 1,2,3,\cdots$ , 则称$X$服从$p$为参数的几何分布，记作 $\pmb{X \sim G(p)}$

  必要性证明：

  $\begin{aligned}\sum_{k=1}^{\infty}P\{X=k\} &= \sum_{k=1}^{\infty}(1-p)^{k-1}p \\&= p\sum_{k=1}^{\infty}(1-p)^{k-1} \\ &= p \frac{1-(1-p)^{k-1}(1-p)}{1-(1-p)} \\ &= 1-(1-p)^k \\ &\because 0\leq p \leq1 \quad k \rightarrow +\infty \\ \therefore \sum_{k=1}^{\infty}P\{X=k\}&=1 \end{aligned}$

• 几何分布用来描述$n$次伯努利试验中，事件$A$首次发生的概率

3.5 超几何分布

• 在产品质量的不放回抽检中，若$N$件产品中有$M$件次品，抽检$n$件时所得次品数$X=k$，此时有$P\{X=k\}=\frac{(_k^M)(_{n-k}^{N-M})}{(_n^N)} \quad k= 0,1,\cdots,min\{n,M\}.$

  称$X$服从以$n，N，M$ 为参数的超几何分布，记做$\pmb{X\sim H(n,M,N)}$

  必要性证明 :

  $\begin{aligned}\sum\limits_{k=0}^{min\{n,M\}}P\{X=k\} &=\sum\limits_{k=0}^{min\{n,M\}}\frac{(_k^M)(_{n-k}^{N-M})}{(_n^N)}\\&=\frac{1}{(_n^N)}\cdot\sum\limits_{k=0}^{min\{n,M\}}(_k^M)(_{n-k}^{N-M})\quad(式子中只有k是变量，因此(_n^N)是常数，可以提出来) \\ &= \frac{1}{(_n^N)}\cdot(_n^N) \quad(范德蒙恒等式) \\&=1\end{aligned}$

  范德蒙恒等式：$C_{m+n}^k = \sum\limits_{i=0}^{k}C_{m}^iC_{n}^{k-i}$

  证明比较简单，用二项展开式即可：

  $\begin{aligned}(1+x)^{m+n} &= C_{m+n}^0x^{m+n}+C_{m+n}^1x^{m+n-1}+\cdots + C_{m+n}^{m+n}x^{0} \quad(1) \\(1+x)^{m+n} &= (1+x)^{m}(1+x)^{n}=(C_{m}^0x^{m}+C_{m}^1x^{m-1}+\cdots + C_{m}^{m}x^{0})(C_{n}^0x^{n}+C_{n}^1x^{n-1}+\cdots + C_{n}^{n}x^{0})\\ &= C_{m}^0C_{n}^0x^{m+n}+(C_{m}^0C_{n}^1+C_{m}^1C_{n}^0)x^{m+n-1}+\cdots+C_{m}^mC_{n}^mx^{0} \quad (2) \\ 根据式(1)和式(2)对应项系数相等，可以知道 C_{m+n}^k = \sum\limits_{i=0}^{k}C_{m}^iC_{n}^{k-i} \end{aligned}$

  关于 范德蒙恒等式的证明方式有很多，感兴趣的可以查看相关资料

• 当$N\rightarrow +\infty$时，超几何分布可用二项分布近似计算，此时有 $\frac{M}{N}\rightarrow P$

  证明如下：

  首先我们要明确要证明的等式是 当$N\rightarrow +\infty$时 $P\{X=k\}=\frac{(_k^M)(_{n-k}^{N-M})}{(_n^N)} = (_k^n)p^kq^{n-k}$ ，即 $\lim\limits_{n\rightarrow+\infty}\frac{(_k^M)(_{n-k}^{N-M})}{(_n^N)} = (_k^n)p^kq^{n-k}$.

  $\begin{aligned} \lim_{n\rightarrow+\infty}\frac{(_k^M)(_{n-k}^{N-M})}{(_n^N)} &= \lim_{n\rightarrow+\infty}\frac{M!}{k!(M-k)!}\frac{(N-M)!}{(n-k)!(N-M-n+k)!}\frac{n!(N-n)!}{N!} \\ &= \lim_{n\rightarrow+\infty} \frac{n!}{k!(n-k)!}\frac{M(M-1)\cdots(M-k+1)}{N^k}\frac{(N-M)!}{(n-k)!(N-M-n+k)!} \frac{N^k}{N(N-1)\cdots(N-n+1)} \quad (N^k 为构造出来的中间量) \\ &\frac{n!}{k!(n-k)!} = (_k^n) ,\\ & \lim_{n\rightarrow+\infty}\frac{M(M-1)\cdots(M-k+1)}{N^k} = \lim_{n\rightarrow+\infty}\frac{M}{N}(\frac{M}{N}-\frac{1}{N})\cdots(\frac{M}{N}-\frac{k}{N}+\frac{1}{N})=(\frac{M}{N})^k,\\ &\frac{N^k}{N(N-1)\cdots(N-n+1)}= \frac{N^k}{N(N-1)\cdots(N-k+1)(N-k)(N-k-1)\cdots(N-n+1)} = \frac{1}{1\cdot(1-\frac{1}{N})(1-\frac{2}{N})\cdots(1-\frac{k}{N}+\frac{1}{N})(N-k)(N-k-1)\cdots(N-n+1)} \\ &\therefore \lim_{n\rightarrow+\infty}\frac{N^k}{N(N-1)\cdots(N-n+1)}= \lim_{n\rightarrow+\infty}\frac{1}{(N-k)(N-k-1)\cdots(N-n+1)},\\ \therefore \lim_{n\rightarrow+\infty}\frac{(_k^M)(_{n-k}^{N-M})}{(_n^N)} &=\lim_{n\rightarrow+\infty}(_k^n)(\frac{M}{N})^k\frac{(N-M)(N-M-1)\cdots(N-M-n+k+1)}{N^{n-k}}\frac{N^{n-k}}{(N-k)(N-k-1)\cdots(N-n+1)} \quad (N^{n-k}为构造出来的中间量) \\ &=\lim_{n\rightarrow+\infty}(_k^n)(\frac{M}{N})^k[(1-\frac{M}{N})(1-\frac{M}{N}-\frac{1}{N})\cdots(1-\frac{M}{N}-\frac{n-k-1}{N})][\frac{1}{(1-\frac{k}{N})(1-\frac{k+1}{N})\cdots(1-\frac{n-1}{N})}] \\ &= (_k^n)(\frac{M}{N})^k(1-\frac{M}{N})^{n-k} \\ \therefore 命题得证 \end{aligned}$

  • 需要注意的是，前面我们说到，计算二项分布时，可用泊松分布近似，因此在利用二项分布近似计算超几何分布时，可根据情况，对二项分布使用泊松进行分布进行近似计算