概率论

概率论在咱们复习的数学基础中，应该是最易懂的，对于在深度学习中理解实际业务也具有重要的辅助作用。 话不多说，我们仍然使用大纲慢慢讲。

• 概率分布

  随机变量分为离散型和连续型，离散型的比如掷骰子的点数，或者门电路的输出；连续型的例子有扔出小球距离原点的距离长度。

  概率分布函数是描述随机变量取值分布规律的数学表示。对于任何实数x，事件[X<x]的概率当然是一个x的函数。令，显然有，称F(x)为随机变量X的分布函数。所以，分布函数F(x)完全决定了事件[a≤X≤b]的概率，或者说分布函数F(x)完整地描述了随机变量X的统计特性。

  

  如图，是一个正态分布的概率分布图。可以很直观的观察落到每一个变量上的概率。

• 条件概率

  条件概率，顾名思义就是两个互相影响的相关事件，在其中一个事件发生后另一个事件的发生概率。 想象你的面前有一个不透明的布袋子，里面分别有大小相等的红小球3个及蓝小球2个。当你第一次拿出了一个蓝小球之后，第二次再拿出蓝小球的概率，就是一种条件概率。

  

  在决策树里看出，第一次摸出蓝小球后，第二次也摸出蓝小球的概率是1/4。

  p.s. 这个实验同时可以得到公式：P(AB)=P(A|B)P(B)，其中P(AB)是两次摸球，结果都是蓝色的概率，P(B)为第一次摸出蓝色小球的概率，P(A|B)是在第一次摸出了蓝色小球的前提下，第二次也摸出蓝色小球的概率。对应图中方程：1/10 = 2/5 * 1/4。

• 贝叶斯

• 边缘概率

• 期望

• 方差

• 协方差