在抽样时,如何实现用最大概率抽出一组给定的样本,这需要知道该组样本服从的概率函数,然后将每个样本的概率函数值进行相乘,就得到一个关于全体样本概率函数值的目标函数。只要使该目标函数达到最大,则该组样本出现的概率就达到最大。而欲使目标函数达到最大,就须满足“使目标函数对各未知参数求偏导数,并令各偏导数为 0”这一条件,这样便通过解偏导数为0的若干方程,便可求出各未知参数。这便是极大似然估计法的原理。
1.似然函数。
设总体X的概率密度函数为f(xθ1;θ2,",θm,),其θ1θ2,",θm,中都是总体的未知参数(若X是离散型的,则f(xθ1;θ2,",θm, )表示概率分布列),对于观察到的样本值x1x2,",,xn,称乘积
为总体X的似然函数,简记为L。
在实际操作中,一般对L求对数,也即lnL,称为对数似然函数,只要lnL达到极大,则L也将达到极大值。
2.求极大似然函数估计值的方法。
只要能求出l Ln的极大值,便可实现在一个总体中以极大概率抽取x1x2,",,xn。
欲求lnL=ln的极大值,须使l Lnθ1对θ2,",θm,求偏导数,并满足
通过求解上述方程组,可以求出θ1θ2,",θm,的估计值。