极大似然估计--极大似然原理

极大似然原理简单理解就是样本所展现的状态便是所有可能状态中出现概率最大的状态

我感觉下面这个讲解挺好理解的就复制过来了

一个试验有若干个可能结果A1，A2，A3，…，An，若一次实验的结果是Ai发生，则自然认为Ai在所有可能结果中发生的概率最大，当总体X的未知参数θ待估时，应用这一原理，对X的样本（X1，X2，…，Xn）做一次观测实验，得到样本观察值（x1，x2，…，xn）为此一次试验结果，那么参数θ的估计值应该取为使得这一结果发生的概率为最大才合理，这就是极大似然估计法的基本思想。

作者：史努B 链接：www.jianshu.com/p/e4443c4bd…

极大似然估计法例子

现在有一个黑箱子里面有标有1或2的球共100个，现在从中有放回的抽取10个球，结果为{1,2,2,2,1,2,1,1,2,2}，估计标有1的球在黑箱子里面有多少个。

我们不妨把标有1的球设为θ个，那么抽到1的概率$p(x=1)=θ/100$，这里简单记作$p$，则产生实验结果{1,2,2,2,1,2,1,1,2,2}的概率为$P=（p^4）*(1-p)^6$ ,这里待估计参数为$θ$，为了方便把待估计参数设为p。那么极大似然估计的目标就是调整p使得出现当前实验现象的概率最大。也就是说，P是关于p的函数，记作$P（p）$，后面就是求函数最大值了，可以用取对数求导的方式求得。

• [ 此处的P为产生实验结果的概率]
• [这里假如说不知道分布情况P又应该如何求呢？ ]

为了后续计算，对P取对数。

作者：史努B 链接：www.jianshu.com/p/e4443c4bd…

那么如何评判这个估计值好不好呢？显然的，估计的方法不止这一种，而每个方法的估计值可能不同，那么哪一个估计值更合理呢？

这两个问题的核心部分在于寻找到一个评判估计值优劣的标准。在概率论中，主要采用如下三个标准：

无偏性

有效性

一致性