转眼三月也过了一周了，目前看来经过全国人民的无私奉献和医务工作者的辛勤付出，疫情得到了初步的控制。最近几天每天的新增确诊病例除武汉外已经几乎没有了，新增的也是输入型病例，而且武汉本身的每日新增数目也下降到了三四百左右，此外每天的治愈人数仍稳定保持在几千例，一切都在慢慢的变好。感谢广大投身于疫情防治工作的所有国人，无数人用身体力行的宣告着：苟利国家生死以，岂因祸福避趋之。
为了不给国家添麻烦，作为学生的我们也只能受困于家里而无法按时返校啦。到了这个阶段，实验做不成，实习找不了，还是很难受的，但想想自己这么菜，顿时也就这样啦。趁着这段时间一方面回顾总结下之前学习的东西，一方面紧跟领域最新动态，虽然效率有些降低，好在仍在坚持。这不是一个EM算法和高斯混合聚类断断续续就看了两三天，真难呀……[突然就扯远了]
EM算法也称期望最大化算法，它作为机器学习领域一个经典的算法广泛的应用机器学习和深度学习的各个具体的任务中。与其说它是一个具体的算法，不如说它提供了一种优秀的解决问题的思路，通过引入隐变量来迭代的解决本身无法直接求解的问题。
如何直观的理解EM算法的原理呢？很多的博文和资料都使用了概率统计中经典的道具-硬币。假设现有有两枚硬币 A A A和 B B B，其中 A A A向上的概率为 θ A \theta_A θA， B B B向上的概率记为 θ B \theta_{B} θB。如果现在我们随机的选择一枚进行投掷，此时具体选择的是哪一枚硬币是知道的，然后每轮投10次，总共投五轮，然后来计算参数 θ A \theta_A θA和 θ B \theta_B θB。投掷的具体情况如下所示：
由于每一次投掷时选择的硬币是可知的，因此我们只需要分别统计五轮结果中 A A A和 B B B具体的结果即可。从上图可以看出， A A A一共投了30次，其中24次向上，6次向下； B B B一共投了20次，其中向上9次，向下11次。那么我们可以很轻松的得到： θ A ^ = 24 23 + 6 = 0.80 θ B ^ = 9 9 + 11 = 0.45 \hat{\theta_{A}}=\frac{24}{23+6}=0.80 \\ \hat{\theta_{B}}=\frac{9}{9+11}=0.45 θA^=23+624=0.80θB^=9+119=0.45
其中 ^ \hat{} ^ 表示对于真实参数的估计。当实验的次数足够多时，根据大数定律可知，最后实验的结果就非常接近真实值。
但如果在每次选择硬币时并不知道具体是哪一枚，我们如何根据投掷的结果来估计 θ A \theta_A θA和 θ B \theta_B θB呢？此时我们在估计参数前还需要猜测投掷的硬币是 A A A还是 B B B，或者准确的说它是 A A A的概率是多大，或是 B B B的概率又是多少。这里的硬币选择概率就是所谓的隐变量，而解决这类问题就需要EM算法帮忙了。
为了表述统一，下面直接用数字来表示具体的流程
- 假设 θ A \theta_A θA和 θ B \theta_B θB的估计值分别记为 θ A ( 0 ) ^ = 0.60 ， θ B ( 0 ) ^ = 0.50 \hat{\theta_{A}^{(0)}}=0.60，\hat{\theta_{B}^{(0)}}=0.50 θA(0)^=0.60，θB(0)^=0.50，其中上标表示第几次，然后依然进行投掷五轮得到上面的实验结果。其中第一轮结果为 [ H T T T H H T H T H ] [H \ T \ T \ T \ H \ H \ T \ H \ T \ H] [H T T T H H T H T H]，那么按照概率公式得硬币为 A A A的概率: P ( A ) = θ A 5 × ( 1 − θ A ) 5 θ A 5 × ( 1 − θ A ) 5 + θ B 5 × ( 1 − θ B ) 5 = 0. 6 5 × 0. 4 5 0. 6 5 × 0. 4 5 + 0. 5 5 × 0. 5 5 = 0.45 P(A)=\frac{\theta_{A}^5 \times(1 - \theta_{A})^5}{\theta_{A}^5 \times(1 - \theta_{A})^5 + \theta_{B}^5 \times(1 - \theta_{B})^5} = \frac{0.6^5 \times 0.4^5}{0.6^5 \times 0.4^5 + 0.5^5 \times 0.5^5}=0.45 P(A)=θA5×(1−θA)5+θB5×(1−θB)5θA5×(1−θA)5=0.65×0.45+0.55×0.550.65×0.45=0.45
同理第一轮硬币为 B B B的概率 P ( B ) = 0.55 P(B)=0.55 P(B)=0.55。最后依次计算每一轮的估计结果，如下所示：
| P（A） | P(B) | |
|---|---|---|
| 1 | 0.45 | 0.55 |
| 2 | 0.80 | 0.20 |
| 3 | 0.73 | 0.27 |
| 4 | 0.35 | 0.65 |
| 5 | 0.65 | 0.35 |
- 经过五轮的实验，我们对于每一轮 θ A \theta_A θA和 θ B \theta_B θB都有一个估计值，接下来求 A A A和 B B B正反面分别对应的期望。第一轮中，向上和向下分别有5次，得对应期望为2.25H和2.25H，同理可求出第一轮中为 B B B时向上和向下得期望，以及其他轮中得情况。最后可得第一次五轮投掷后得估计值： θ A ( 1 ) ^ = 0.71 ， θ B ( 1 ) ^ = 0.58 \hat{\theta_{A}^{(1)}}=0.71 ，\hat{\theta_{B}^{(1)}}=0.58 θA(1)^=0.71，θB(1)^=0.58
- 参数更新后重新进行五轮投掷，按照上面步骤同样得方法进行参数估计，10次后的结果为： θ A ( 10 ) ^ = 0.82 ， θ B ( 10 ) ^ = 0.52 \hat{\theta_{A}^{(10)}}=0.82 ，\hat{\theta_{B}^{(10)}}=0.52 θA(10)^=0.82，θB(10)^=0.52可以看出10次试验后的参数值和真实值已经很接近了
- 之后经过多次实验使得 θ A \theta_A θA和 θ B \theta_B θB收敛。
泛泛而言，之前在求解最大似然估计（MLE）问题中，假设数据集为 X = { x 1 , . . . x n } X=\{x_{1},...x_{n}\} X={x1,...xn}，模型用 θ \theta θ参数化表示，那么利用似然估计来求解模型参数的表达式可写作： θ ∗ = arg max θ ∑ X log L ( θ ∣ X ) \theta^*=\argmax_{\theta} \sum_{X}\log L(\theta|X) θ∗=θargmaxX∑logL(θ∣X)
如果此时数据 x i , i = 1... , n x_{i},i=1...,n xi,i=1...,n均采样自单个的高斯分布 x ∼ N ( μ , Σ ) x \sim N(\mu,\Sigma) x∼N(μ,Σ)，那么它所对应的似然函数为： log p ( X ) = ∑ i = 1 N log N ( x i ∣ μ , Σ ) = ∑ i = 1 N log 1 2 π σ e − ( z i − μ ) 3 2 σ 2 = ∑ i = 1 N log 1 2 π σ + ∑ i = 1 N − ( x i − μ ) 2 2 σ 2 = − N 2 log 2 π − N 2 log σ 2 − 1 2 σ 2 ∑ i = 1 N ( x i − μ ) 2 \begin{aligned} \log p(X) &=\sum_{i=1}^{N} \log \mathcal{N}\left(x_{i} | \mu, \Sigma\right) \\ &=\sum_{i=1}^{N} \log \frac{1}{\sqrt{2 \pi} \sigma} e^{-\frac{\left(z_{i}-\mu\right)^{3}}{2 \sigma^{2}}} \\ &=\sum_{i=1}^{N} \log \frac{1}{\sqrt{2 \pi} \sigma}+\sum_{i=1}^{N}-\frac{\left(x_{i}-\mu\right)^{2}}{2 \sigma^{2}} \\ &=-\frac{N}{2} \log 2 \pi-\frac{N}{2} \log \sigma^{2}-\frac{1}{2 \sigma^{2}} \sum_{i=1}^{N}\left(x_{i}-\mu\right)^{2} \end{aligned} logp(X)=i=1∑NlogN(xi∣μ,Σ)=i=1∑Nlog2π σ1e−2σ2(zi−μ)3=i=1∑Nlog2π σ1+i=1∑N−2σ2(xi−μ)2=−2Nlog2π−2Nlogσ2−2σ21i=1∑N(xi−μ)2
然后使用似然函数分别对 μ \mu μ和 Σ \Sigma Σ求偏导并令偏导数为零可得：
∂ log p ( X ) ∂ μ = 1 σ 2 ∑ i = 1 N ( x i − μ ) = 0 ⇒ μ = 1 N ∑ i = 1 N x i ∂ log p ( X ) ∂ σ 2 = − N 2 σ 2 + 1 2 σ 4 ∑ i = 1 N ( x i − μ ) 2 = 0 ⇒ σ 2 = 1 N ∑ i = 1 N ( x i − μ ) 2 \begin{aligned} \frac{\partial \log p(X)}{\partial \mu} &=\frac{1}{\sigma^{2}} \sum_{i=1}^{N}\left(x_{i}-\mu\right)=0 \\ & \Rightarrow \mu=\frac{1}{N} \sum_{i=1}^{N} x_{i} \\ \frac{\partial \log p(X)}{\partial \sigma^{2}} &=-\frac{N}{2 \sigma^{2}}+\frac{1}{2 \sigma^{4}} \sum_{i=1}^{N}\left(x_{i}-\mu\right)^{2}=0 \\ & \Rightarrow \sigma^{2}=\frac{1}{N} \sum_{i=1}^{N}\left(x_{i}-\mu\right)^{2} \end{aligned} ∂μ∂logp(X)∂σ2∂logp(X)=σ21i=1∑N(xi−μ)=0⇒μ=N1i=1∑Nxi=−2σ2N+2σ41i=1∑N(xi−μ)2=0⇒σ2=N1i=1∑N(xi−μ)2
将 X X X中的数据导入第一个式子可得 μ \mu μ，再将两者代入后式的 σ 2 \sigma^2 σ2。
而如果此时数据的分布并不能由单个的高斯分布合理采样获取的话，我们需要使用混合模型进行估计，即采用多个高斯分布的线性组合来估计数据所满足的真实分布。单个高斯分布中有 p ( x ) = N ( x i ∣ μ , Σ ) p(x)= \mathcal{N}\left(x_{i} | \mu, \Sigma\right) p(x)=N(xi∣μ,Σ)，混合模型中每个高斯分布都有着不同的参数 μ \mu μ和 Σ \Sigma Σ，另外单个数据点采样自某个具体的高斯分布的概率也是不同的，将其记为 π k \pi_{k} πk，其中 k k k表示混合模型中高斯分布的个数， π k \pi_{k} πk所满足的分布记为 p ( k ) p(k) p(k)，那么有： p ( x ) = ∑ k = 1 K π k N ( x ∣ μ k , Σ k ) p(x)=\sum_{k=1}^{K} \pi_{k} \mathcal{N}\left(x | \mu_{k}, \Sigma_{k}\right) p(x)=k=1∑KπkN(x∣μk,Σk)其中有 ∑ k = 1 K = 1 , 0 ≤ π k ≤ 1 \sum_{k=1}^K=1, 0 \leq \pi_{k} \leq 1 ∑k=1K=1,0≤πk≤1。
根据最前面硬币投掷的例子同理可知，此时 x x x采样就需要经过两步：首先需要从 p ( k ) p(k) p(k)中得到一个分布，然后从得到的分布中进行采样得到 x i x_{i} xi，那么它所对应的边缘概率分布为： p ( x ) = ∑ k = 1 K p ( k ) p ( x ∣ k ) p(x)=\sum_{k=1}^K p(k)p(x|k) p(x)=k=1∑Kp(k)p(x∣k)即 x i x_{i} xi的采样受到 p ( k ) p(k) p(k)的制约。根据贝叶斯公式 P ( a ∣ b ) = p ( b ∣ a ) p ( a ) p ( b ) P(a|b)=\frac{p(b|a)p(a)}{p(b)} P(a∣b)=p(b)p(b∣a)p(a)得 π k \pi_{k} πk的后验概率分布为： p ( k ∣ x ) = p ( x ∣ k ) p ( k ) ∑ l p ( x ∣ l ) p ( l ) = π k N ( x ∣ μ k , Σ k ) ∑ l π l N ( x ∣ μ l , Σ l ) \begin{aligned} p(k | x) &=\frac{p(x | k) p(k)}{\sum_{l} p(x | l) p(l)} \\ &=\frac{\pi_{k} \mathcal{N}\left(x | \mu_{k}, \Sigma_{k}\right)}{\sum_{l} \pi_{l} \mathcal{N}\left(x | \mu_{l}, \Sigma_{l}\right)} \end{aligned} p(k∣x)=∑lp(x∣l)p(l)p(x∣k)p(k)=∑lπlN(x∣μl,Σl)πkN(x∣μk,Σk)
此时对数似然函数为： log p ( X ) = ∑ i = 1 N log { ∑ k = 1 K π k N ( x i ∣ μ k , Σ k ) } \log p(X)=\sum_{i=1}^{N} \log \left\{\sum_{k=1}^{K} \pi_{k} \mathcal{N}\left(x_{i} | \mu_{k}, \Sigma_{k}\right)\right\} logp(X)=i=1∑Nlog{k=1∑KπkN(xi∣μk,Σk)}
令 θ = ( μ , Σ , π ) ， θ ∗ = ( μ ∗ , Σ ∗ , π ∗ ) \theta=(\mu,\Sigma,\pi)，\theta^* = (\mu^*,\Sigma^*,\pi^*) θ=(μ,Σ,π)，θ∗=(μ∗,Σ∗,π∗)，那么对于 θ ∗ \theta^* θ∗的极大似然估计为： θ ∗ = arg max θ ∑ i = 1 n log P ( x i ; θ ) = arg max θ ∑ i = 1 n log ∑ k = 1 K P ( Z , π k ) P ( x i ∣ k ; μ , Σ ) = arg max θ ∑ i = 1 n log ∑ k = 1 K P ( x i , k ; θ ) \begin{aligned} \theta^{*} &=\arg \max _{\theta} \sum_{i=1}^n \log P(x_{i} ; \theta) \\ &=\arg \max _{\theta} \sum_{i=1}^n \log \sum_{k=1}^K P(Z,\pi_{k}) P(x_{i}| k ; \mu, \Sigma) \\ &=\arg \max _{\theta} \sum_{i=1}^n \log \sum_{k=1}^K P(x_{i}, k; \theta) \end{aligned} θ∗=argθmaxi=1∑nlogP(xi;θ)=argθmaxi=1∑nlogk=1∑KP(Z,πk)P(xi∣k;μ,Σ)=argθmaxi=1∑nlogk=1∑KP(xi,k;θ)
而这样形式的式子是很难直接来通过求解析解的方式得到最终的参数估计的，这是EM算法思想就闪亮登场啦。
在正式的使用EM算法来解决上面的问题前，我们先回顾一些所需的基础知识：
- 凸函数： f ( x ) f(x) f(x)满足对定义域上任意的两个数 a , b a,b a,b有 f ( ( a + b ) 2 ) ≥ f ( a ) + f ( b ) 2 f(\frac{(a+b)}{2}) \geq \frac{f(a)+f(b)}{2} f(2(a+b))≥2f(a)+f(b)
- Jensen 不等式（琴生不等式） ：如果 f ( x ) f(x) f(x)为凸函数，则有 E [ f ( X ) ] ≥ f ( E [ X ] ) E[f(X)] \geq f(E[X]) E[f(X)]≥f(E[X])，当且仅当 x x x是常量 c c c时等号成立
引入隐变量 z i , i = 1 , . . . , k z_{i},i=1,...,k zi,i=1,...,k，其中 z i z_{i} zi表示 x i x_{i} xi采样自第 z i z_{i} zi个分布，那么引入了隐变量后似然函数为： L ( θ ; X ) = ∑ i = 1 N log p ( x i ∣ θ ) = ∑ i = 1 N log ∑ z i p ( x i , z i ∣ θ ) = ∑ i = 1 N log ∑ z i Q ( z i ) p ( x i , z i ∣ θ ) Q ( z i ) ≥ ∑ i = 1 N ∑ z i Q ( z i ) log p ( x i , z i ∣ θ ) Q ( z i ) \begin{aligned} \mathcal{L}(\theta ; X) &=\sum_{i=1}^{N} \log p\left(x_{i} | \theta\right) \\ &=\sum_{i=1}^{N} \log \sum_{z_{i}} p\left(x_{i}, z_{i} | \theta\right) \\ &=\sum_{i=1}^{N} \log \sum_{z_{i}} Q\left(z_{i}\right) \frac{p\left(x_{i}, z_{i} | \theta\right)}{Q\left(z_{i}\right)} \\ & \geq \sum_{i=1}^{N} \sum_{z_{i}} Q\left(z_{i}\right) \log \frac{p\left(x_{i}, z_{i} | \theta\right)}{Q\left(z_{i}\right)} \end{aligned} L(θ;X)=i=1∑Nlogp(xi∣θ)=i=1∑Nlogzi∑p(xi,zi∣θ)=i=1∑Nlogzi∑Q(zi)Q(zi)p(xi,zi∣θ)≥i=1∑Nzi∑Q(zi)logQ(zi)p(xi,zi∣θ)其中 Q ( z i ) Q(z_{i}) Q(zi)是关于 z i z_{i} zi的函数，根据概率的定义有 ∑ Q z i = 1 \sum Q_{z_{i}}=1 ∑Qzi=1，且有 Q i ( z i ) = P ( x i , z i ; θ ) ∑ z P ( x i , z i ; θ ) = P ( x i , z i ; θ ) P ( x i ; θ ) = P ( z i ∣ x i ; θ ) ) Q_i(z_i) = \frac{P(x_i,z_i;\theta)}{\sum\limits_{z}P(x_i,z_i;\theta)} = \frac{P(x_i,z_i;\theta)}{P(x_i;\theta)} = P( z_i|x_i;\theta)) Qi(zi)=z∑P(xi,zi;θ)P(xi,zi;θ)=P(xi;θ)P(xi,zi;θ)=P(zi∣xi;θ))此时 Q ( z i ) Q(z_i) Q(zi)为隐变量 Z Z Z的后验分布，似然函数取等号有 L ( θ ( t ) ; X ) = ∑ i = 1 N ∑ z i Q ( t ) ( z i ) log p ( x i , z i ∣ θ ( t ) ) Q ( t ) ( z i ) \mathcal{L}\left(\theta^{(t)} ; X\right)=\sum_{i=1}^{N} \sum_{z_{i}} Q^{(t)}\left(z_{i}\right) \log \frac{p\left(x_{i}, z_{i} | \theta^{(t)}\right)}{Q^{(t)}\left(z_{i}\right)} L(θ(t);X)=i=1∑Nzi∑Q(t)(zi)logQ(t)(zi)p(xi,zi∣θ(t))
然后对其进行求偏导并令偏导式为零来得到第 t t t次迭代的最优参数列表 θ ( t + 1 ) = arg max θ L ( θ ; X ) \theta^{(t+1)}=\underset{\theta}{\arg \max } \mathcal{L}(\theta ; X) θ(t+1)=θargmaxL(θ;X)。这时第 t + 1 t+1 t+1次迭代的似然函数为 L ( θ ( t + 1 ) ; X ) \mathcal{L}\left(\theta^{(t+1)} ; X\right) L(θ(t+1);X)，然后继续上述的过程不断迭代，直到收敛。
而证明迭代过程收敛只需要证明 L ( θ ( t + 1 ) ; X ) ≥ L ( θ ( t ) ; X ) \mathcal{L}\left(\theta^{(t+1)} ; X\right) \geq \mathcal{L}\left(\theta^{(t)} ; X\right) L(θ(t+1);X)≥L(θ(t);X)。
L ( θ ( t + 1 ) ; X ) = ∑ i = 1 N log ∑ z i Q ( t ) ( z i ) p ( x i , z i ∣ θ ( t + 1 ) ) Q ( t ) ( z i ) ≥ ∑ i = 1 N ∑ z i Q ( t ) ( z i ) log p ( x i , z i ∣ θ ( t + 1 ) ) Q ( t ) ( z i ) ≥ ∑ i = 1 N ∑ z i Q ( t ) ( z i ) log p ( x i , z i ∣ θ ( t ) ) Q ( t ) ( z i ) = L ( θ ( t ) ; X ) \begin{aligned} \mathcal{L}\left(\theta^{(t+1)} ; X\right) &=\sum_{i=1}^{N} \log \sum_{z_{i}} Q^{(t)}\left(z_{i}\right) \frac{p\left(x_{i}, z_{i} | \theta^{(t+1)}\right)}{Q^{(t)}\left(z_{i}\right)} \\ & \geq \sum_{i=1}^{N} \sum_{z_{i}} Q^{(t)}\left(z_{i}\right) \log \frac{p\left(x_{i}, z_{i} | \theta^{(t+1)}\right)}{Q^{(t)}\left(z_{i}\right)} \\ & \geq \sum_{i=1}^{N} \sum_{z_{i}} Q^{(t)}\left(z_{i}\right) \log \frac{p\left(x_{i}, z_{i} | \theta^{(t)}\right)}{Q^{(t)}\left(z_{i}\right)} \\ &=\mathcal{L}\left(\theta^{(t)} ; X\right) \end{aligned} L(θ(t+1);X)=i=1∑Nlogzi∑Q(t)(zi)Q(t)(zi)p(xi,zi∣θ(t+1))≥i=1∑Nzi∑Q(t)(zi)logQ(t)(zi)p(xi,zi∣θ(t+1))≥i=1∑Nzi∑Q(t)(zi)logQ(t)(zi)p(xi,zi∣θ(t))=L(θ(t);X)
下面总结下EM算法求解的流程：
- 随机初始化模型参数 θ 0 \theta^0 θ0，例如在混合高斯模型中常初始化为 θ 0 = ( μ = 0 , Σ = 1 , π = 1 / 2 ) \theta^0=(\mu=0, \Sigma=1, \pi = 1/2) θ0=(μ=0,Σ=1,π=1/2)
- 进行EM算法的迭代：
E步：计算联合分布的条件概率期望： L ( θ , θ t ) = ∑ i = 1 m ∑ z i Q i ( z i ) log P ( x i , z i ; θ ) L\left(\theta, \theta^{t}\right)=\sum_{i=1}^{m} \sum_{z_i} Q_{i}\left(z_i\right) \log P\left(x_i, z_i ; \theta\right) L(θ,θt)=i=1∑mzi∑Qi(zi)logP(xi,zi;θ)
M步：极大化似然函数得到 θ t + 1 \theta^{t+1} θt+1： θ t + 1 = arg max L ( θ , θ t ) \theta^{t+1}=\argmax L(\theta, \theta^t) θt+1=argmaxL(θ,θt)
如果此时收敛则算法结束，否则继续E步迭代直到收敛
EM算法实现代码：
# coding: utf-8
# # EM算法
#
# # Expectation Maximization algorithm
import numpy as np
import math
pro_A, pro_B, por_C = 0.5, 0.5, 0.5
def pmf(i, pro_A, pro_B, por_C):
pro_1 = pro_A * math.pow(pro_B, data[i]) * math.pow((1-pro_B), 1-data[i])
pro_2 = pro_A * math.pow(pro_C, data[i]) * math.pow((1-pro_C), 1-data[i])
return pro_1 / (pro_1 + pro_2)
class EM:
def __init__(self, prob):
self.pro_A, self.pro_B, self.pro_C = prob
# e_step
def pmf(self, i):
pro_1 = self.pro_A * math.pow(self.pro_B, data[i]) * math.pow((1-self.pro_B), 1-data[i])
pro_2 = (1 - self.pro_A) * math.pow(self.pro_C, data[i]) * math.pow((1-self.pro_C), 1-data[i])
return pro_1 / (pro_1 + pro_2)
# m_step
def fit(self, data):
count = len(data)
print('init prob:{}, {}, {}'.format(self.pro_A, self.pro_B, self.pro_C))
for d in range(count):
_ = yield
_pmf = [self.pmf(k) for k in range(count)]
pro_A = 1/ count * sum(_pmf)
pro_B = sum([_pmf[k]*data[k] for k in range(count)]) / sum([_pmf[k] for k in range(count)])
pro_C = sum([(1-_pmf[k])*data[k] for k in range(count)]) / sum([(1-_pmf[k]) for k in range(count)])
print('{}/{} pro_a:{:.3f}, pro_b:{:.3f}, pro_c:{:.3f}'.format(d+1, count, pro_A, pro_B, pro_C))
self.pro_A = pro_A
self.pro_B = pro_B
self.pro_C = pro_C
data=[1,1,0,1,0,0,1,0,1,1]
em = EM(prob=[0.5, 0.5, 0.5])
f = em.fit(data)
next(f)
# 第一次迭代
f.send(1)
# 第二次
f.send(2)
em = EM(prob=[0.4, 0.6, 0.7])
f2 = em.fit(data)
next(f2)
f2.send(1)
f2.send(2)
参考
EM算法原理总结
Expectation Maximisation (EM)
What is the expectation maximization algorithm?
怎么通俗易懂地解释EM算法并且举个例子?
如何感性地理解EM算法？
EM算法学习(Expectation Maximization Algorithm)
EM-最大期望算法
徐亦达机器学习：Expectation Maximization EM算法
