极大似然估计.ppt

极大似然估计.ppt

《极大似然估计.ppt》由会员分享，可在线阅读，更多相关《极大似然估计.ppt（20页珍藏版）》请在冰点文库上搜索。

第二节极大似然估计,极大似然原理,一次试验就出现的事件有较大的概率,例如:

有两外形相同的箱子,各装100个球一箱99个白球1个红球一箱1个白球99个红球,现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.,答:

第一箱.,问:

所取的球来自哪一箱？

例6设总体X服从0-1分布,且P（X=1）=p,用极大似然法求p的估计值.,解,总体X的概率分布为,设x1,x2,xn为总体样本X1,X2,Xn的样本值,则,对于不同的p,L（p）不同,见下图,现经过一次试验，,在容许范围内选择p，使L（p）最大,注意到，lnL（p）是L的单调增函数,故若某个p使lnL（p）最大,则这个p必使L（p）最大。

一般,设X为离散型随机变量,其分布律为,则样本X1,X2,Xn的概率分布为,或,称L（）为样本的似然函数,称这样得到的,为参数的极大似然估计值,称统计量,为参数的极大似然估计量,极大似然法的思想,简记,简记,若X连续,取f（xi,）为Xi的密度函数,似然函数为,注1,注2,未知参数可以不止一个,如1,k,设X的密度（或分布）为,则定义似然函数为,为似然方程组,若对于某组给定的样本值x1,x2,xn，参数使似然函数取得最大值,即,显然，,称统计量,为1,2,k的极大似然估计量,是,的函数，即,例7设总体XN（,2）,x1,x2,xn是X的样本值,求,2的极大似然估计.,解,2的极大似然估计量分别为,极大似然估计方法,1）写出似然函数L,可得未知参数的极大似然估计值,然后,再求得极大似然估计量.,L是的可微函数,解似然方程组,若,L不是的可微函数,需用其它方法求极大似然估计值.请看下例：

若,例8设XU（a,b）,x1,x2,xn是X的一个样本值,求a,b的极大似然估计值与极大似然估计量.,解,X的密度函数为,似然函数为,似然函数只有当axib,i=1,2,n时才能获得最大值,且a越大,b越小,L越大.,令,xmin=minx1,x2,xnxmax=maxx1,x2,xn,取,都有,故,是a,b的极大似然估计值.,分别是a,b的极大似然估计量.,问题,1）待估参数的极大似然估计是否一定存在?

2）若存在,是否惟一?

设XU（a,a+）,x1,x2,xn是X的一个样本,求a的极大似然估计值.,解,由上例可知,当,时,L取最大值1,即,显然,a的极大似然估计值可能不存在,也可能不惟一.,例9,不仅如此,任何一个统计量,若满足,都可以作为a的估计量.,极大似然估计的不变性,设是的极大似然估计值,u（）,（）是的函数,且有单值反函数,=（u）,uU则是u（）的极大似然估计值.,如在正态总体N（,2）中,2的极大似然估计值为,lg的极大似然估计值为,