《概率論與數(shù)理統(tǒng)計》第八章.ppt》由會員分享，可在線閱讀，更多相關(guān)《概率論與數(shù)理統(tǒng)計》第八章.ppt（57頁珍藏版）》請在裝配圖網(wǎng)上搜索。
1、第八章 參數(shù)估計,8.1 估計量的優(yōu)劣標準 8.2 獲得估計量的方法點估計 8.3 區(qū)間估計,研究參數(shù)估計，要解決兩個方面的問題： 1.怎樣估計參數(shù)，即用什么樣的辦法對參數(shù)進行估計； 2.對估計出的參數(shù)值用什么標準衡量其優(yōu)劣程度。,參數(shù)估計的概念,定義 設(shè)總體X的分布函數(shù)F(x; )的形式為已知, 。其中為未知參數(shù), 為參數(shù)空間, X1， ， Xn是總體X的一個樣本，若統(tǒng)計量 f(X1， ， Xn)可作為的一個估計,則稱其為的 一個估計量，記為,注：X的分布函數(shù)F(x;)也可用分布律或密度函數(shù)代替.,若x1， ， xn是樣本的一個觀測值。,在不致混淆的情況下統(tǒng)稱估計量與估計值為估計,8.1 估
2、計量的優(yōu)劣標準,（一） 一致估計,定義8.1,一致性是對于極限性質(zhì)而言的，它只在樣本容量較大時才起作用。,（二）無偏估計,例1 從總體中 取一樣本（ X1, ,Xn ），E = , D = 2 , 試證樣本平均數(shù),分別是及2的無偏估計。,證,樣本均值X是的無偏估計。,怎樣證明？,S2是2的無偏估計,如果從總體中隨機取出兩個相互獨立的樣本（ X11 , ,X1n1 ）及（X21 , ,X2n2），則可以證明,分別是總體中和2的無偏估計量。其中，,對總體的某一參數(shù)的無偏估計量往往不止一個，而且無偏性僅僅表明所有可能取的值按概率平均等于，可能它取的值大部分與相差很大。為保證的取值能集中與附近，自然要
3、求的方差越小越好。,（三）有效估計,由定義可知，一個無偏估計量取的值是在可能范圍內(nèi)最密集與未知參數(shù)的真值 附近擺動。,定義8.3 設(shè)和都是的無偏估計，若樣本容量為 n, 的方差小于的方差，則稱是比有效的估計量。如果在的一切無偏估計量中, 的方差達到最小，則稱為的有效估計量。,實際上，樣本平均數(shù)X是總體期望值的有效估計量。,例2 比較總體期望值的兩個無偏估計的有效性。,解：,利用不等式,8.2 獲得估計量的方法點估計,點估計就是以樣本的某一函數(shù)值作為 總體中未知參數(shù)的估計值的一種估計方法,若x1， ， xn是樣本的一個觀測值。,由于f (x1， ， xn) 是實數(shù)域上的一個點，現(xiàn)用它來估計， 故
4、稱這種估計為點估計。 點估計的經(jīng)典方法是矩估計法與極大似然估計法。,(一）矩估計法（簡稱“矩法”）,關(guān)鍵點：1.用樣本矩作為總體同階矩的估計，即,2.約定：若 是未知參數(shù)的矩估計，則f()的矩估計為f( ),矩法是求估計量的最古老的方法。 具體的做法是：以樣本矩作為相應(yīng)的總體矩的估計， 以樣本矩的函數(shù)作為相應(yīng)的總體矩的同一函數(shù)的估計。 常用的是用樣本平均數(shù) 估計總體期望值 。,例1 某燈泡廠某天生產(chǎn)了一大批燈泡，從中抽取了10個進行壽命實驗，得數(shù)據(jù)如下（單位：小時）問該天生產(chǎn)的燈泡平均壽命是多少？,矩法比較直觀，求估計量有時也比較直接，但它產(chǎn)生的估計量往往不夠理想。,解 計算出X1147，以此
5、作為總體期望值的估計。,（二）最大似然估計法,1、最大似然思想 有兩個射手，一人的命中率為0.9,另一人的命中率為0.2,現(xiàn)在他們中的一個向目標射擊了一發(fā)，結(jié)果命中了，估計是誰射擊的？,一般說，事件A發(fā)生的概率與參數(shù)有關(guān)，取值不同，則P(A)也不同。因而應(yīng)記事件A發(fā)生的概率為P(A|).若A發(fā)生了，則認為此時的值應(yīng)是在中使P(A|) 達到最大的那一個。這就是最大似然思想,最大似然法是要選取這樣的，當它作為 的估計值時，使觀察結(jié)果出現(xiàn)的可能性最大。,設(shè)為連續(xù)性隨機變量，它的分布函數(shù)是F(x;),概率密度是 其中是未知參數(shù)，可以是一個值，也可以是一個向量。由于樣本的獨立性，則樣本,對于連續(xù)型的隨機
6、變量就是估計概率密度中的。,對于離散型的隨機變量就是估計概率函數(shù)中的參數(shù)；,的聯(lián)合概率密度是,對每一個取定的樣本值 是常數(shù)，L是參數(shù) 的函數(shù)，稱L為樣本的似然函數(shù)（如果 是一個向量，則L 是多元函數(shù)）。,設(shè)為離散型隨機變量，有概率函數(shù) 則似然函數(shù),定義8.4 如果 在 處達到最大值，則稱是 的最大似然估計。,式子右邊的表示函數(shù)關(guān)系。問題是如何把的最大似然估計求出來，由于 L與L同時達到最大值，故只需求 L的最大值點即可。,與樣本有關(guān)，它是樣本的函數(shù)，即,如果是一個向量，即,一般情況下， L在最大值點 的一階偏導(dǎo)數(shù)等于0，即 是上面方程組的解。要求最大似然估計，首先要解這個似然方程組。,考慮方程
7、組：,1.設(shè)總體X為離散型隨機變量，它的分布律為,現(xiàn)有樣本觀察值x1,x2,xn,其中xi取值于xi, i=1,2 問：根據(jù)極大似然思想，如何用x1,x2,xn估計q?,例5.設(shè)X1， ， Xn為取自參數(shù)為的泊松分布總體的樣本，求的極大似然估計,2.設(shè)總體X為連續(xù)型隨機變量，概率密度(x; ) 現(xiàn)有樣本觀察值x1,x2,，xn, 問：根據(jù)極大似然思想，如何用x1,x2,xn估計q?,2、似然函數(shù)與極大似然估計,為該總體的似然函數(shù)。,定義：若有,使得,則稱 為的極大似然估計.記為,3、求極大似然估計的步驟,(1) 做似然函數(shù),(2) 做對數(shù)似然函數(shù),(3) 求導(dǎo)數(shù)，列似然方程,若該方程有解，則其
8、解就是的最大似然估計。,(4) 解似然方程,注1：若概率函數(shù)中含有多個未知參數(shù)，則可解方程組,例6：設(shè)X1， ， Xn為取自 N(,2 ) 總體的樣本，求參數(shù) ,2 的極大似然估計。,注2：極大似然估計具有下述性質(zhì)： 若 是未知參數(shù)的極大似然估計， g()是的嚴格單調(diào)函數(shù)，則g()的矩極大似然估計為g( ),例7：設(shè)X1， ， Xn為取自參數(shù)為的指數(shù)分布 總體的樣本，a0為一給定實數(shù)。 求p=PXa的極大似然估計,注3：由似然方程解不出的似然估計時，可由定義通過分析直接推求。事實上 滿足,例8：設(shè)X1， ， Xn為取自 U(0,) 總體的樣本， 0未知，求參數(shù) 的極大似然估計。,例2 已知,為
9、 的一組樣本觀察值，求的最大似然估計。,解 似然函數(shù),解似然方程,x 就是 的最大似然估計。,例3 某電子管的使用壽命（從開始使用到初次失效為止）服從指數(shù)分布（概率密度見例2），今抽取一組樣本，其具體數(shù)據(jù)如下；問如何估計 ？,解 根據(jù)例2的結(jié)果，參數(shù)用樣本平均數(shù)估計,為的估計值。,為的一組樣本觀察值，用最大似然估計法估計 的值。,解,例4 已知服從正態(tài)分布,解似然方程組,解似然方程組,EX,P164 2、3、4 7、8、11、15、16、19,8.3 區(qū)間估計 P157 一、概念,定義： 設(shè)總體X的分布函數(shù)F(x；)含有未知參數(shù)，對于給定值（0 1),若由樣本X1, , Xn確定的兩個統(tǒng)計量
10、使,則稱隨機區(qū)間 為的置信度為1的置信區(qū)間,注：F(x;)也可換成概率密度或分布律。,估計未知參數(shù)所在的范圍 的方法稱為區(qū)間估計,單正態(tài)總體參數(shù)的區(qū)間估計,1、2已知，估計,/2,/2,1-,可取,(1-),1-,的置信度為1的置信區(qū)間為,注：的1置信區(qū)間不唯一。,都是的1置信區(qū)間.但可以證明=1/2時區(qū)間長最短.,(1)根據(jù)實際問題構(gòu)造樣本的函數(shù)，要求僅含待估參數(shù)且分布已知； (2)令該函數(shù)落在由分位點確定的區(qū)間里的概率為給定的置信度1，要求區(qū)間按幾何對稱或概率對稱； (3)解不等式得隨機的置信區(qū)間； (4)由觀測值及值查表計算得所求置信區(qū)間。,求正態(tài)總體參數(shù)置信區(qū)間的解題步驟：,例2 若燈
11、泡壽命服從正態(tài)分布N( ,8),從中抽取了10個進行壽命實驗，得數(shù)據(jù)如下（單位：小時）試估計平均壽命所在范圍（a=0.05）.,解：已知總體方差2，估計總體期望,對于給定的，查表確定,解：已知總體方差2，估計總體期望,對于給定的0.05，查表確定,根據(jù)樣本值計算,的置信度為1- 0.95的置信區(qū)間是 （1145.25，1148.75）,例3 已知某煉鐵廠的鐵水中含碳量在正常情況下服從 正態(tài)分布，其方差2 = 0.1082 .現(xiàn)在測定了9爐鐵水，其 平均含碳量為4.484.按此資料計算該廠鐵水平均含碳量 的置信區(qū)間，并要求有95% 的可靠性。,解：已知總體方差2，估計總體期望,對于給定的置信系數(shù)
12、1-0.95，查表確定,根據(jù)樣本值計算,的置信系數(shù)為1- 0.95的置信區(qū)間是（4.413，4.555）,2、總體方差2未知，估計期望,m的1-a置信區(qū)間為,1-,即得,/2,/2,例4 假定初生嬰兒（男孩）的體重服從正態(tài)分布，隨機抽取12名嬰兒，測其體重為3100，2520，3000，3600，3160，3560，3320，2880，2600，3400，2540。試以0.95的置信系數(shù)估計新生嬰兒的平均體重（單位：g）,解: 方差 2未知，估計 的置信區(qū)間,對于給定的，查表確定,的置信度為0.95置信區(qū)間是,根據(jù)樣本值計算：,對于給定的置信系數(shù)1-0.95，查表確定,3、單正態(tài)總體方差的置信區(qū)間,假定m未知，估計2,s2的置信度為1的置信區(qū)間為,例5 根據(jù)例4測的數(shù)據(jù)對新生男嬰兒體重的方差進行區(qū)間估計（=0.05）.,解: 未知，估計方差 2的置信區(qū)間,對于給定的0.05，查表確定,則s2的置信度為1的置信區(qū)間為（70752，405620）,4、雙正態(tài)總體均值差的置信區(qū)間,可解得1- 2 的置信區(qū)間,5、雙正態(tài)總體方差比的置信區(qū)間,假定1，2未知,一、點估計：,1.矩法估計 2.最大似然估計,二、區(qū)間估計,1.已知總體方差2 ，估計期望,2.未知總體方差2 ，估計期望,3.未知總體期望，估計方差2,4、雙正態(tài)總體均值差的置信區(qū)間,5、雙正態(tài)總體方差比的置信區(qū)間,總結(jié)：,小結(jié),
概率論與數(shù)理統(tǒng)計》第八章.ppt
