似然函数

似然（likelihood）这个词其实和概率（probability）是差不多的意思，但是在统计里面，似然函数和概率函数却是两个不同的概念。   对于函数：$P(x|\theta )$，它的意思是在$\theta$发生的情况下，$x$发生的概率。如果该函数描述的是一个数学模型，则两个输入：$x$表示某一个具体的数据；$\theta$表示模型的参数。一旦模型参数确定了，则数据出现的概率也就确定了。那似然函数和概率函数不同在哪里呢？   在于如果$\theta$是确定的，这个函数叫做概率函数(probability function)，它描述对于不同的样本点$x$，在模型参数$\theta$确定的情况下，其出现概率是多少，其实也就是$P(x|\theta )$本身的含义。   比如我们已经知道了一个箱子里有19个黑球和一个白球，现在问你从箱子里抽出两个球，是两个黑球的概率是多少，这个时候我们的模型参数是完全知道了，就是19个黑球和一个白球，那我们直接通过这个模型就可以算出抽出两个球都是黑球的概率。这个时候，$P(x|\theta )$就是概率函数。   如果$\theta$是不确定的，这个函数叫做似然函数(likelihood function)，它描述我们需要先从所有$\theta$可能出现的值中，找到看起来最像的那个$\theta$(也就是似然的意思)，然后才能计算对于不同的样本点$x$，在模型参数$\theta$确定的情况下，其出现概率是多少。它多了一步从不确定到确定选择逼近的过程。   比如我们有一箱子球，问你从箱子里抽出两个球，是两个黑球的概率是多少，这个时候我们虽然知道箱子里的球是固定分布的，但他们怎么分布我们并不知道，于是我们先要去尝试。假设在尝试中从里面抽出了1个黑球8个白球，我们就猜里面黑球和白球的比例可能是1:8，然后我们拿这个1:8的模型再来猜抽出两个球是黑球的概率，这个时候P ( x∣θ )就是似然函数。   参考文章：https://blog.csdn.net/u011508640/article/details/72815981