8.参数估计

第八章 参数估计 §8.1 估计量的优劣 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 §8.2 获得估计量的方法——点估计 §8.3 区间估计 研究参数估计，要解决两个方面的问题： 1.怎样估计参数，即用什么样的办法对参数进行估计； 2.对估计出的参数值用什么标准衡量其优劣程度。 参数估计的概念 注：X的分布函数F(x;q)也可用分布律或密度函数代替. 定义 设总体X的分布函数F(x; q)的形式为已 知, qÎQ。其中q为未知参数, Q为参数空间, X1， … ， Xn是总体X的一个样本，若统计 量f(X1， … ， Xn)可作为q的一个估计,则称其为 q的一个估计量，记为 1 ˆ ˆ, f ( , , ).nX Xq q = L即 若x1， …， xn是样本的一个观测值。 1 ˆ f ( , , ) ,nx xq q= L 称为 的估计值 在不致混淆的情况下统称估计量与估计值为估计 §8.1 估计量的优劣标准 （一） 一致估计 定义8.1 ˆ ˆ ˆ ˆ = ¾¾® L设 是 的估计量，若 则称 是 的一致性估计量。 1 n P θ θ(X , ,X ) θ θ θ， θ θ $ $ $ n n , 0 lim P( )=1 q q e q q e q q ®¥ ® ¥ - f p 如果当 时，依概率收敛于 即任给 ， ，则称 为参数 的一致估计。 一致性是对于极限性质而言的，它只在样本 容量较大时才起作用。 （二）无偏估计 例1 从总体ξ中 取一样本（ X1, …,Xn ）， Eξ = μ ,Dξ = σ2 , 试证 $ $ $ $ 1( , , ) , . nX X Eq q q q q q q = =L设 为 的估计量 若 则称 是 的无偏估计量 $ $ 8.2 E = ,q q q q 定义 如果 成立 则称估计 为参数 的无偏估计。 分别是μ及σ2的无偏估计。 2X S及样本方差 证 1 1 , n i i X X n = = åQ 2 2 1 1 ( ) 1 n i i S X X n = = - - å 1 1( ) ( ) n i i E X E X n = = å 2 2ES = .s 1 1 n i i EX n = = å 1 nn m m= = ∴样本均值X是μ的无偏估计。 ( )E X m= 2 2 1 1 ( ) 1 n i i ES E X X n = é ù = -ê ú-ë û å ( ) 2 1 1 1 n i i E X X n m m = é ù= - - -ë û- å ( )22 1 1 ( ) 1 n i i E X n X n m m = é ù = - - -ê ú- ë û å 2 2 1 1 1 1 1n n i i i i DX D X DX n n n s = = æ ö = = =ç ÷ è ø å å 2 2 21 1 1 nn n n n s s s= - = - - ( ) ( )22 1 1 1 1 n i i nE X E X n n m m = = - - - - -å 21=DX n s ∴S2是σ2的无偏估计 如果从总体中随机取出两个相互独立的样本 （ X11 , …,X1n1 ）及（X21 , …,X2n2），则可以 证明 住所证明下载场所使用证明下载诊断证明下载住所证明下载爱问住所证明下载爱问 分别是总体中μ和σ2的无偏估计量。其中， ( )1 2i = ， ( ) ( ) ( ) 2 2 1 1 2 22 1 1 2 2 1 2 1 2 1 11 2 n S n S X n X n X S n n n n - + - = + = + + - 2 2 1 1 1 1 ( ) 1 n n i i j i i j i j ji X X S X X n n= = = = - -å å 对总体的某一参数的无偏估计量往往不止一个，而 且无偏性仅仅 表 关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf 明θ所有可能取的值按概率平均等 于θ，可能它取的值大部分与θ相差很大。为保证 θ的取值能集中与θ附近，自然要求θ的方差越小 越好。 （三）有效估计 $ $ $ $ $ $ 1 1 2 1 2 ( , , ), 1, 2 , , . i i nX X i D D q q q q q q q = = < L设 分别是参数 的 两个无偏估计 若 则称 比 有效 由定义可知，一个无偏估计量取的值是在可能范围内最密 集与未知参数的真值θ附近摆动。 定义8.3 设θ和θ’都是θ的无偏估计，若样本容量 为 n, θ的方差小于θ’的方差，则称θ是比θ’有效 的估计量。如果在θ的一切无偏估计量中, θ的方差 达到最小，则θ称为θ的有效估计量。 实际上，样本平均数X是总体期望值μ的有效估计量。 例2 比较总体期望值μ的两个无偏估计的有效性。 1 1 n i i X X n = = å ' 1 1 n i i i n i i a X X a = = = å å 1 0 n i i a = æ ö¹ç ÷ è ø å 解： ( )E X m= 21DX n s= μ ' 1 1 X n i i i n i i a E EX a m= = = = å å 利用不等式 2 1 n i i n a = = å 2 2 ' 21 1 2 2 1 1 n n i i i i n n i i i i a DX a DX a a s= = = = = = æ ö æ ö ç ÷ ç ÷ è ø è ø å å å å 21DX n s= 2 ( ) 0i ja a- ³Q 2 22 i j i ja a a a£ + 2 2 1 1 2 n n i i i j i i i j a a a a = = æ ö = +ç ÷ è ø å å å p 2 2 2 1 n i i j i i j a a a = £ +å å p （ + ） 2 1 2 1 1 n i i n i i a n a = = £ æ ö ç ÷ è ø å å 2 2 ' 21 1 2 2 1 1 n n i i i i n n i i i i a DX a DX a a s= = = = = = æ ö æ ö ç ÷ ç ÷ è ø è ø å å å å 21DX n s= 2 1 2 1 1 n i i n i i a n a = = £ æ ö ç ÷ è ø å å 2 ' 2 21 2 1 1 n i i n i i a DX DX nn a s s= = \ ³ = = å å 'X X故 比 有效 §8.2 获得估计量的方法——点估计 点估计——就是以样本的某一函数值作为 总体中未知参数的估计值的一种估计方法 若x1， …， xn是样本的一个观测值。 1 ˆ f ( , , ) ,nx xq q= L 称为 的估计值 由于f (x1， …， xn)是实数域上的一个点， 现用它来估计q，故称这种估计为点估计。 点估计的经典方法是矩估计法与极大似然估 计法。 (一）矩估计法（简称“矩法”） 关键点：1.用样本矩作为总体同阶矩的估计，即 2.约定：若 是未知参数q的矩估计，则f(q)的矩 估计为f( ), $q $q µ 1 1( ) . nk k i i E X X n = = å 矩法是求估计量的最古老的方法。 具体的做法是：以样本矩作为相应的总体矩的估计， 以样本矩的函数作为相应的总体矩的同一函数的估计。 常用的是用样本平均数估计总体期望值 。 例1 某灯泡厂某天生产了一大批灯泡，从中抽取了10 个进行寿命实验，得数据如下（单位：小时）问该天生 产的灯泡平均寿命是多少？ 矩法比较直观，求估计量有时也比较直接，但它 产生的估计量往往不够理想。 12001300113010401250 12001120108011001050 解 计算出X﹦1147，以此作为总体期望值μ的估计。 （二）最大似然估计法 1、最大似然思想 有两个射手，一人的命中率为0.9,另一人的 命中率为0.2,现在他们中的一个向目标射击了一 发，结果命中了，估计是谁射击的？ 一般说，事件A发生的概率与参数qÎQ有关，q取值 不同，则P(A)也不同。因而应记事件A发生的概率 为P(A|q).若A发生了，则认为此时的q值应是在Q中 使P(A|q) 达到最大的那一个。这就是最大似然思 想 最大似然法是要选取这样的θ，当它作为θ 的估 计值时，使观察结果出现的可能性最大。 设ξ为连续性随机变量，它的分布函数是F(x;θ),概 率密度是 其中θ是未知参数，可以是 一个值，也可以是一个向量。由于样本的独立性，则 样本 ( );xj q ( )1 , , nX XL ( ) ( )1, ; 1 , ; n n i i L x x xq j q = = ÕL 对于连续型的随机变量就是估计概率密度中的θ。 对于离散型的随机变量就是估计概率函数中的参数θ； 的联合概率密度是 对每一个取定的样本值 是常 数，L是参数θ 的函数，称L为样本的似然函 数（如果L是一个向量，则L 是多元函数）。 ( ) ( );i iP x p xx q= = ( ) ( )1 1 , , ; ; n n i i L x x p xq q = = ÕL 1, nx xL ( ) ( )1, ; 1 , ; n n i i L x x xq j q = = ÕL 设ξ为离散型随机变量，有概率函数 则似然函数 定义8.4 如果 在 θ处达到最大值，则称θ是 θ的最大似然 估计。 式子右边的θ表示函数关系。问题是如何把θ的最大似 然估计θ求出来，由于㏑ L与L同时达到最大值，故 只需求㏑ L的最大值点即可。 ( )1, , ;nL x x qL θ与样本有关，它是样本的函数，即 $ $ ( )1, , nx xq q= L 如果θ是一个向量，即 一般情况下， ㏑ L在最大值点 的一阶偏导数等于0，即 是 上面方程组的解。要求最大似然估计，首先要解这个 似然方程组。 ( )1 2, , , mq q q q= L 考虑方程组： 1 lnL 0 ln L 0 m q q ¶ì =ï ¶ïï í ï¶ï = ¶ïî M 1( , , )mq qL µ $ 1 , , mq qL ( ) ( ) 1 0 ; 0 0 x e x x q q x j q q -ì ï ïï= í ï ï ïî f : f 其他 例2 已知 为ξ 的一组样本观察值， 求θ的最大似然估计。 1 2, , , nx x xL 解 似然函数 ( ) 1 1 1 2 ; 1 1 1, , , n i i i xn x n n i L x x x e e qqq q q = -- = å = =ÕL 解似然方程 x就是 的最大似然估计。q ( ) 1 1 1 2 ; 1 1 1, , , n i i i xn x n n i L x x x e e qqq q q = -- = å = =ÕL 1 1ln L= ln n i i n xq q = - - å 2 1 ln L 1 n i i d x d n q q q = = - + å 2 1 1 0 n i i x n q q = - + =å $ 1 1 n i i x x n q = = =å 例3 某电子管的使用寿命（从开始使用到初次失效为 止）服从指数分布（概率密度见例2），今抽取一组样 本，其具体数据如下；问如何估计 ？ 800 270 1100210190620520450410340 28014013010068502916 解 根据例2的结果，参数θ用样本平均数估计 1 5723 318 18 = ´ » 为θ的估计值。 $ ( ) 1 1 1 16 29 800 1000 18 n i i x n q = = = + + + +å L $ 318q\ » 2、求极大似然估计的步骤 (1) 做似然函数 1 1 ( ) ( , , ; ) ( ; ) n n i i L L x x xq q j q = = = ÕL (2) 做对数似然函数 1 1 ln ( ) ( , , ; ) ln ( ; ) n n i i L L x x xq q j q = = = åL (3) 求导数，列似然方程 [ln ( )] 0d L d q q = 若该方程有解，则其解就是θ的最大似然估计。 (4) 解似然方程 为ξ的一组样本观察值，用最大似然估计法估计 的值。 解 2,m s ( )2 22 2 1 1 2 ixn i L e m s p s - - = = Õ 2 2 1 1 ( )2 2 2 1 1 2 n i i nn x e m s sp = - -åæ ö æ ö= ç ÷ç ÷ è øè ø 2 2 2 1 1 1ln L= ln ln ( ) 2 22 n i i nn xs m sp = æ ö - - -ç ÷ è ø å ( ) ( )2 1 2N , , , , , nx x xm s L例4 已知ξ服从正态分布 2 2 2 4 1 ln L 1 ( ) 2 2 n i i n x m s s s = ¶ = - + - ¶ å ( )2 1 ln L 1 n i i x m m s = ¶ = - ¶ å 2 2 2 1 1 1ln L= ln ln ( ) 2 22 n i i nn xs m sp = æ ö - - -ç ÷ è ø å ( )2 1 2 2 4 1 1 0 1 ( ) 2 2 n i i n i i x n X m s m s s = = ì - =ïï í ï- + - ïî å å 解似然方程组 ( )2 1 2 2 4 1 1 0 1 ( ) 2 2 n i i n i i x n X m s m s s = = ì - =ïï í ï- + - ïî å å 解似然方程组 µ 1 1 n i i x x n m = = =å ¶ µ2 2 2 1 1 1 1( ) ( ) n n i i i i x x x n n s m = = = - = -å å §8.3 区间估计 一、概念 定义：设总体X的分布函数F(x；q)含有未知参 数q，对于给定值a（0< a<1),若由样本X1, …, Xn 确定的两个统计量 使 则称随机区间 为q的置信度为1-a的置信区间 注：F(x;q)也可换成概率密度或分布律。 ,q q { } 1 *P q q q a< < = - ( , )q q 估计未知参数所在的范围 的方法称为区间估计 , 1q q a-和 分别称为置信度为 的置信下限和置信上限。 单正态总体参数的区间估计 1、s2已知，估计μ 2 1 1 ( ) , , , 1 . n n X X N x x m s a m a- L L 设 ， ， 是来自正态总体 ， 的样本 给定 ， 由观测值 ，求出 的 置信区间 X X ~ (0,1)N n m m s -Q 是 的无偏估计，且 P{ } , 0 1X za a a a> = < < 标准正态上 分位点： a 0 Za 1 - - =z za a由对称性知： a/2 a/21-a 2 0 za 2 za- /2 X{ } 1P z n a m a s - \ < = - /2 /2 { } 1P X z X zn na a s s m a- < < + = -即 m的置信度为1-a的置信区间为 /2 /2( z , z )X Xn na a s s - + 例1 若灯泡寿命服从正态分布ξ～N( μ,8),从中抽取 了10个进行寿命实验，得数据如下（单位：小时）试估 计平均寿命所在范围（α=0.05）. 12001300113010401250 12001120108011001050 分析：已知总体方差σ2，估计总体期望μ X U= N(0,1) n m s - :选取估计量 对于给定的α，查表确定 /2za /2 P( U z )=1 a a< -使 成立 2 2 1a aP X z X z an n s s m æ ö - < < + = -ç ÷ è ø 整理得 解：已知总体方差σ2，估计总体期望μ X U N(0,1) n m s - :选取估计量 ＝ 对于给定的α＝0.05，查表确定 /2 P( U z )=1 a a< -使 成立 2 2 1a aP X z X z an n s s m æ ö - < < + = -ç ÷ è ø 整理得 0.025z 1.96＝ 根据样本值计算 / 2u 1.96 1147 1.753 1145.25 X n a s - ´ » - 2 2 ＝1147- ＝ 10 / 2u 1.96 1147 1.753 1148.75 X n a s + ´ » + 2 2 ＝1147+ ＝ 10 ∴μ的置信度为1- α＝0.95的置信区间是 （1145.25，1148.75） (1)根据实际问题构造样本的函数，要求仅含 待估参数且分布已知； (2)令该函数落在由分位点确定的区间里的概率 为给定的置信度1-a，要求区间按几何对称或概率 对称； (3)解不等式得随机的置信区间； (4)由观测值及a值查表计算得所求置信区间。 X N(0,1) n m s - :选取估计量 2 1 XP z n a m a s æ ö- < = -ç ÷ç ÷ è ø 求正态总体参数置信区间的解题步骤： /2 /2( z , z )X Xn na a s s - + 。 例3 已知某炼铁厂的铁水中含碳量在正常情况下服从 正态分布，其方差σ2 = 0.1082 .现在测定了9炉铁水，其 平均含碳量为4.484.按此资料计算该厂铁水平均含碳量 的置信区间，并要求有95% 的可靠性。 解：已知总体方差σ2，估计总体期望μ X U N(0,1) n m s - :选取估计量 ＝ 对于给定的置信系数1-α＝0.95，查表确定 0.025u 1.96＝ /2 P( U )=1 za a< -使 成立 根据样本值计算 /2z 4.555X n a s + ＝/2z 4.413,X n a s - ＝ ∴μ的置信系数为1- α＝0.95的置信区 间是（4.413，4.555） 2、总体方差s2未知，估计期望μ m的1-a置信区间为 1-a 即得 ~ ( 1) / XT t n s n m- = -选取估计量 / 2{ ( 1)} 1 p T t na a< - = -令 ， / 2 / 2 { ( 1) ( 1) } 1s sp X t n X t nn na a m a- - < < + - = - / 2 / 2 ( ( 1), ( 1)) S SX t n X t n n na a - - + - 2 ( 1)t na- - 2 0 ( 1)t na - a/2 a/2 例4 假定初生婴儿（男孩）的体重服从正态分 布，随机抽取12名婴儿，测其体重为3100，2520， 3000，3600，3160，3560，3320，2880，2600， 3400，2540。试以0.95的置信系数估计新生婴儿的 平均体重（单位：g） 解: 方差 σ2未知，估计μ 的置信区间 ~ ( 1) / XT t n s n m- = -选取估计量 对于给定的α，查表确定 0.25 2 ( 1) (12 1) 2.201t n ta - -＝ ＝ / 2{ ( 1)} 1 p T t na a< - = -使 成立 / 2 / 2 { ( 1) ( 1) } 1s sp X t n X t nn na a m a- - < < + - = - ∴μ的置信度为0.95置信区间是 根据样本值计算： 12 2 i i=1 1= (3100 2540) 3057 12 1S= ( -3057) 375.3 12-1 x x + + » »å L / 2 / 2 { ( 1) ( 1) } 1s sp X t n X t nn na a m a- - < < + - = - 对于给定的置信系数1-α＝0.95，查表确定 0.25 2 ( 1) (12 1) 2.201t n ta - -＝ ＝ / 2 / 2 ( ( 1), ( 1))=(2818 , 3295) S SX t n X t n n na a - - + - 3、单正态总体方差的置信区间 假定m未知，估计σ2 2 1 2 1 ( ) 1~ iid n n X X N x x m s a s s -L L， 设 ， ， ， ，给定置信度 ，由 观测值 ，，推求 （或 ）的置信区间。 2 2 2 (n-1)S ~ ( 1)nh c s = -选取估计量 2 2 1- /2 /2 p{ ( 1) ( 1)} 1n na ac h c a- < < - = -令 1 a- 2 /2 ( 1)nac - 2 1- /2 ( 1)nac - /2a/2a s2的置信度为1-a的置信区间为 2 2 2 2 /2 1 /2 ( 1) ( 1), ( 1) ( 1) n s n s n na ac c - æ ö- - ç ÷- -è ø 2 2 2 2 2 /2 1 /2 (n-1)s (n-1)s p{ } 1 ( 1) ( 1)n na a s a c c - < < = - - - 可得 2 2 1- /2 /2 p{ ( 1) ( 1)} 1n na ac h c a- < < - = -令 一、点估计： 1.矩法估计 2.最大似然估计 二、区间估计 1.已知总体方差σ2 ，估计期望μ 2.未知总体方差σ2 ，估计期望μ 3.未知总体期望μ，估计方差σ2 { ì í î 小 结