G参数估计

Ⅵ、大数定律和极限定理 七、参数估计 这一部分，“数学一”和“数学三”的考试大纲、考试内容和要求完全一致．“数学二”不考概率论与数理统计，而“数学四”只考概率论不考数理统计． Ⅰ、 考试大纲要求 ㈠ 考试内容 考试大纲规定的考试内容为： 点估计的概念 估计量和估计值 矩估计法 最大似然估计法 估计量的评选标准 区间估计的概念 单个正态总体均值的区间估计 单个正态总体方差和标准差的区间估计 两个正态总体的均值差和方差比的区间估计 ㈡ 考试要求 (1) 理解参数的点估计、估计量与估计值的概念，了解评选估计量的基本标准——无偏性、有效性（最小方差性）与相合性（一致性）的概念，并会证明估计量的无偏性；会比较两个无偏估计量的方差；会利用大数定律证明估计量的相合性． (2) 掌握求估计量的方法——矩估计法和最大似然估计法；矩估计法一般只涉及一阶和二阶矩． (3) 掌握建立未知参数的（单侧或双侧）置信区间的一般方法，掌握正态总体的均值、方差、标准差和矩，以及与其相联系的特征的置信区间的求法． (4) 掌握建立两个正态总体的均值差和方差比，以及与其相联系的特征的置信区间的一般求法． Ⅱ、考试内容提要 统计推断，就是由样本推断总体，是统计学的核心内容，其两个基本问题是统计估计和统计检验．统计推断的众多分支、应用、方法及原理都是围绕着估计与检验建立和展开的．参数估计，就是根据样本来估计总体的未知参数，分为点估计和区间估计． ㈠ 评选估计量的标准 点估计是用统计量的值估计未知参数的值；作估计用的统计量称为估计量；估计量是随机变量，它所取的具体值称为估计值．例如，对于任意总体 ，可以分别用样本均值 和样本方差 做总体的数学期望 和方差 的估计量．我们用统计量 （有时简记为 ）做未知参数 的估计量，其中 是简单随机样本 的函数． 同一个未知参数 一般有多个可供选择的估计量．评选估计量的标准，是对于估计量优良性的要求，考试大纲要求掌握无偏性、有效性（最小方差性）、相合性． 1、无偏性 称估计量 为未知参数 的无偏估计量，如果 = ． 2、有效性 假设 和 都是 的无偏估计量，那么如果 ，则称估计量 比 更有效．在未知参数 任何两个无偏估计量中，显然应该选更有效者——方差较小者． 3、相合性 称估计量 为未知参数 的相合估计量，如果 依概率收敛于 ．换句话说，当 充分大时，相合估计量 以十分接近１的概率近似等于它所估计的未知参数 ，即 ．相合性一般是大数定律的推论． ㈡ 求估计量的方法 考试大纲要求掌握最常用的两种求估计量的方法：矩估计法和最大似然估计法． 1、矩估计法 矩估计法，是用样本矩估计相应的总体矩、用样本矩的函数估计总体矩相应函数的一种估计方法．矩估计法无需知道总体的分布．总体的 阶原点矩和 阶中心矩定义分别定义为 和 (k=0,1,2,…)． 考试大纲只涉及一阶矩和二阶矩．矩估计法的步骤为： (1) 用 阶样本原点矩 估计 阶总体原点矩 ，用 阶样本中心矩 估计总体的 阶中心矩 ．例如，用一阶样本原点矩——样本均值 = 估计总体的数学期望 ，用二阶样本中心矩——未修正样本方差 估计总体的方差DX ． (2) 设 是一阶原点矩 和二阶原点矩 的函数，则 就是 的矩估计量(见例7.19)． (3) 设 (i=1,2)是一阶原点矩 和二阶原点矩 的函数，则 就是 (i=1,2)的矩估计量(见例7.5、例7.18~7.20)． 2、最大似然估计法 最大似然估计法要求事先知道总体分布的数学 表 关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf 达式．我们用概率函数 表示总体 的概率分布，其中 是一维参数或 是二维参数．对于离散型总体X，其概率函数为 (7.1) 对于连续型总体 ，其概率函数 就是概率密度． (1) 似然函数 设总体 的概率函数为 ， 是来自总体 的简单随机样本，则称函数 (7.2a) 为参数 的似然函数；称函数 (7.2b) 为对数似然函数，亦简称似然函数． (2) 最大似然估计量 对于给定的样本值 ，使似然函数 或 达到最大值的参数值 ，称做未知参数 的最大似然估计值．对于几乎一切样本值 ，使似然函数 或 达到最大值的估计量 ，称做未知参数 的最大似然估计量，即最大似然估计量 （以概率1）决定于条件： ． (3) 似然方程 由函数有极值的必要条件，得方程 或 ， (7.3) 称做参数 的似然方程；假如未知参数 是二维的，则得似然方程（组） 或 (7.4) 在相当广泛的情形下，似然方程的解就是最大似然估计量．一般，要用微积分中判断最大值的方法来判断似然方程的解是否最大似然估计量．有时，只能用近似计算的方法求解似然方程．在有些情形下，似然函数对 的导数不存在，这时应采用其他方法求最大似然估计量(见例7.19，例7.21和例7.27)． (4) 最大似然估计量的函数 假设参数 的函数 有唯一反函数，而 是 的最大似然估计量，则 是 的最大似然估计量． ㈢ 参数的区间估计 未知参数 的区间估计，亦称 “置信区间”，是以统计量为端点的随机区间 ,它以充分大的概率包含未知参数 的值，其中区间的端点 和 是统计量． 1、置信区间 设 是总体X的未知参数， 是来自总体X的简单随机样本， 是两个统计量，满足 ， (7.5) 则称随机区间 为参数 的置信度为 的区间估计或置信区间，简称为 的 置信区间；区间的端点——统计量 分别称做置信下限和置信上限．对于具体的样本值 ， 是直线上一个普通的区间，称做置信区间的一个实现． 置信度是随机区间 “包含”或“覆盖”未知参数 的值的概率．置信度一般选充分接近１的数，例如 ＝0.95．直观上，如果多次使用置信度为0.95的置信区间 估计参数 ，则该区间平均有95%的实现包含 的值，不包含 值的情形大致只有5%左右． 2、单侧置信区间 设 和 都是参数 的 置信区间，其中 和 是已知常数或无穷大，则 称做下置信区间，而 ——上置信区间． 3、置信区间的求法 设 是总体 的未知参数， ＝ 是来自总体 的简单随机样本．建立未知参数 的 置信区间的一般步骤为（见例7.26和例7.27）： (1) 选择一个包含参数 的样本的函数 ，但是其分布不依赖于参数 ；假设 是 的反函数； (2) 对于给定的置信度 ，根据 的概率分布选两个常数(分位数) 使之满足条件 ； (7.11) (3) 利用 和 之间的反函数关系，由(7.11)式可得 ， 其中，若 是 的增函数，则 ， ；若 是 的减函数，则 ， ；由此得参数 的 置信区间 ． 注 式(7.11)中 的选择有一定任意性，因此具有相同置信度的置信区间并不惟一．对于对称分布（如正态分布、 分布）以及偏度不大的分布（如 分布和 分布），通常按如下原则选取 ： ． (7.12) ㈣ 正态总体参数的区间估计 正态总体参数的置信区间，主要是一个正态总体均值和方差的置信区间，以及两个正态总体均值差和方差比的置信区间． 1、一个正态总体参数的区间估计 假设总体 ， 是来自总体 的简单随机样本； 是样本均值， 是样本方差．表7-1列出了 和 的 置信区间． 表7-1 和 的 置信区间 未知参数 置信区间 分 位 数 附表2 未知 附表2 附表3 2、两个正态总体参数的区间估计 假设 ， ； 和 分别是来自总体 和 的简单随机样本， ， ， ， 是相应的样本均值和样本方差； 是联合样本方差(见(6.16)式)． 和 的 置信区间列入表7-2． 表7-2 均值差 和方差比 的 置信区间 未知参数 置信区间 分位数 , 已知 附表2 , 未知 = 附表2 附表4 Ⅲ、 典型例题分析 〖填空题〗 例7.1（估计量） 假设总体 服从参数为 的泊松分布， 是来自总体X的简单随机样本， 是样本均值， 是样本方差，则对于任意实数 ， = ． 分析 熟知，对于任何总体 ，样本均值 是总体数学期望的无偏估计量，样本方差 是总体方差的无偏估计量；对于泊松分布，数学期望和方差都等于分布参数 ，因此 ． 例7.2（最大似然估计量） 设总体 服从参数为 的泊松分布， 是来自总体X的简单随机样本，则概率 的最大似然估计量为 ． 分析 熟知，样本均值是参数 的最大似然估计量，而 是 的单调函数．根据最大似然估计量的性质， 是 的最大似然估计量，即概率 的最大似然估计量． 例7.3（最大似然估计量） 设总体 的概率密度为： 是来自总体 的简单随机样本，则未知参数 的最大似然估计量 = ． 分析 参数 的似然函数为 由此可见，其似然方程无解，需要直接求其似然函数 的最大值．当 时 ，而当 时，即当 时 随 的增大而增大，当 时 取最大值． 例7.4（矩估计量） 设来自总体 的简单随机样本 ，总体X的概率分布为 ， 其中0< <1/3．试求未知参数 的矩估计量． 分析 总体 的数学期望为 ． 用样本均值 估计数学期望 ，得 的矩估计量： 例7.5（矩估计量） 设总体 的概率密度为 ， 其中未知参数 >0， 是来自总体 的简单随机样本，则 的矩估计量为 ． 分析 总体 的数学期望（一阶原点矩）为 ． 用一阶样本矩（样本均值） 估计总体 的一阶矩 ，得关于未知参数 的方程，其解就是 的矩估计量： ． 例7.9（置信区间） 设正态总体 的标准差为1，由来自X的简单随机样本建立的数学期望 的0.95置信区间，则当样本容量为25时置信区间的长度 = ；为使置信区间的长度不大于0.5，应取样本容量 ． 分析 正态总体的数学期望 的0.95置信区间的一般公式为 ， 其中根据条件 ．由此可见，当样本容量为n已知时置信区间的长度 ． 当限定置信区间的长度不大于 时，样本容量为 应满足 ． 例7.10（无偏估计量） 设总体 服从参数为 的泊松分布； 是来自X的简单随机样本，则 的无偏估计量为 ． 分析 熟知 ．设 为样本均值，则 由此可见 的无偏估计量为 〖选择题〗 例7.12（估计量） 设 是总体X的标准差， 是来自总体X的简单随机样本，则样本标准差 是总体标准差 的 (A) 矩估计量． (B) 最大似然估计量． (C) 无偏估计量． (D) 相合估计量． [ D ] 分析 应选（D）．因为总体标准差 的矩估计量和最大似然估计量都是未修正的样本标准差，所以（A）和（B）不成立；样本方差是总体方差的无偏估计，但是样本标准差不是总体标准差的无偏估计，因此（C）也不成立；从而只有（D）正确． 例7.13 设 ，并且相互独立；基于分别来自总体 和 容量相应为9和11的简单随机样本，得样本均值 和 ，样本方差 ；记 ． 由熟知的事实“服从自由度为 的 分布的随机变量的方差等于2 ”，可见 的4个无偏估计量 中方差最小者是 (A) ． (B) ． (C) ． (D) ． 　 [ D ] 分析 应选（D）．利用“自由度为 的 分布的随机变量的方差等于2 ”,容易计算出4个无偏估计量 的方差．事实上, 和 分别服从自由度为 =8和 =10的 分布，可见 于是，估计量 中方差最小者是 ． 例7.15 设 是来自正态总体 的简单随机样本，为使 成为总体方差 的无偏估计量，应选k= (A) ． (B) ． (C) ． (D) ． [ C ] 分析 由条件知： ．假如统计量D是总体方差 的无偏估计量，则 ． 〖解答题〗 例7.19（最大似然估计量） 假设随机变量 在区间 上均匀分布，试求区间端点 和 最大似然估计量。 解 随机变量 的概率密度 可见未知参数 和 似然函数为 其中 和 。分别对 和 求偏导数并令其等于0，得 和 的似然方程组 此方程组显然无解，因此需要直接求是似然函数达到最大值的 和 。因为当 时显然 ，而对于任意 和 ，若 ，则 ，所以当 时 达到最大值。因此 是 和 最大似然估计量。 例7.21（最大似然估计量） 假设随机变量 在数集{0,1,2,…, }上等可能分布，求 的最大似然估计量． 解 这里 是所要估计的未知参数．随机变量 的概率函数为 ． 参数 的似然函数为 ． 由于要不能对 求导，需直接求 的最大值．而且 随着 的减小而增大．记 ； 因为当 时 =０，而当 时 ，所以当 时 达到最大值，即 就是参数 的最大似然估计量． 例7.22 设来自总体X的简单随机样本 ，总体X的概率分布为 ， 其中0< <1．分别以 表示 中1，2出现的次数，试求 (1) 未知参数 的最大似然估计量； (2) 未知参数 的矩估计量； (3) 当样本值为（1,1,2,1,3,2）时的最大似然估计值和矩估计值． 解 (1) 求参数 的最大似然估计量．样本 中1，2和3出现的次数分别为 ，则似然函数和似然方程为 似然方程的惟一解就是参数 的最大似然估计量： ． (2) 求参数 的矩估计量．总体X的数学期望为 ． 在上式中用样本均值 估计数学期望 ，可得 的矩估计量： ． (3) 对于样本值（1,1,2,1,3,2），由上面得到的一般公式，可得最大似然估计值 矩估计值 ． 例7.25（最大似然估计量） 假设一批产品的不合格品数与合格品数之比R（未知常数）．现在按还原抽样方式随意抽取的 件中发现 件不合格品．试求 的最大似然估计值． 解 设a是这批产品中不合格品的件数，则b是合格品的件数．从而， ，合格品率为 ． 设 是随意抽取的一件产品中不合格品的件数，则 服从参数为 的0-1分布．对于来自总体 的简单随机样本 ，记 ，则的似然函数和似然方程为 由条件知 ，于是似然方程的惟一解 ， 就是 的最大似然估计值． 例7.27（置信区间） 假设总体 在区间 上服从均匀分布， 是来自X的简单随机样本，试求 (1) 端点 的最大似然估计量； (2) 端点 的0.95置信区间． 解 记 ．由总体 的分布函数 和例3.25知， 的分布函数为 ． (1) 总体 的概率密度函数为 未知参数 的似然函数为 由于似然函数 无驻点，需要直接求 的最大值点，记 ；由于当 时 =0；当 时 随 减小而增大，所以当 时 达到最大值，故 就是未知参数 的最大似然估计量． 现在讨论估计量 的无偏性．为此，首先求 的概率分布．总体 的分布函数为 由于 独立同分布，可见 的分布函数为 ． 这样， 是 的有偏估计量．显然， 的无偏估计量为 ． (2) 求端点 的0.95置信区间．选统计量 ．利用 的分布函数 ，确定两个常数 和 ，使之满足下列关系式： 从而，端点 的 置信区间为 ． 例7.28（置信区间） 为观察某药对高胆固醇血症的疗效，测定了五名患者服药前和服药一个疗程后的血清胆固醇含量，得如下数据： 患 者 № 1 2 3 4 5 服 药 前 313 255 290 328 281 服 药 后 301 250 271 320 271 假设化验结果服从正态分布律．试建立服药前后血清胆固醇含量的均值差的0.95置信区间，并对所得结果作出解释． 解 分别以X和Y表示五名患者服药前和服药一个疗程后的血清胆固醇含量，设 ．这样，分别来自总体X，Y和Z的容量为5的三个样本相应为 服 药 前 X 313 255 290 328 281 服 药 后 Y 301 250 271 320 271 Z=X－Y 12 5 19 8 10 建立服药前后均值差 的置信区间，不能采用表7-2中的一般公式，因为相应的公式要求来自的X和来自Y的两个样本相互独立，而这里上述条件显然不成立．不过，可以基于来自Z的样本，建立均值 的置信区间，而这实际上就是 的置信区间． 这里， ．由附表2查出自由度为4的 分布水平0.05双侧分位数 ．将以上数据代入.表7-2中的一般公式，得(4.27, 17.33) ，由于此区间位于正半轴并且不含0，说明此药的疗效显著． 〖证明题〗 例7.31 假设随机变量 在区间 上均匀分布，其中 未知； 是来自 的简单随机样本， 是样本均值，而 是最小观测值；记 (1) 证明 和 都是 的无偏估计量． (2) 证明 比 更有效，即 ． 证明 (1) 证明 的无偏性．由于X在区间 上均匀分布，知 从而 是 的无偏估计量． 现在证明 的无偏性．为此，先求 的概率分布． 的分布函数和概率密度为： 易见， 的分布函数和概率密度为： 从而 都是 的无偏估计量． (2) 证明 比 更有效，即 ．易见 于是 ．