首页 《OLS的渐进性》PPT课件

《OLS的渐进性》PPT课件

举报
开通vip

《OLS的渐进性》PPT课件第五章:OLS的渐进性(OLSAsymptotics)§5.1一致性§5.2渐近正态和大样本推断§5.3OLS的渐进有效性1精选PPT第一节一致性(consistency)一、一致性的含义令Wn是基于样本y1,y2…yn的关于参数θ的估计量,如果对任意ε>0,当n→∞时,Pr(|Wn−θ|>ε)→0,Wn就是θ的一个一致估计量(consistentestimator)。当Wn具有一致性时,我们也称θ为Wn的概率极限(probabilitylimitofWn),记作Plim(Wn)=θ。1.定义2精选PPT2.为什么...

《OLS的渐进性》PPT课件
第五章:OLS的渐进性(OLSAsymptotics)§5.1一致性§5.2渐近正态和大样本推断§5.3OLS的渐进有效性1精选 ppt 关于艾滋病ppt课件精益管理ppt下载地图下载ppt可编辑假如ppt教学课件下载triz基础知识ppt 第一节一致性(consistency)一、一致性的含义令Wn是基于样本y1,y2…yn的关于参数θ的估计量,如果对任意ε>0,当n→∞时,Pr(|Wn−θ|>ε)→0,Wn就是θ的一个一致估计量(consistentestimator)。当Wn具有一致性时,我们也称θ为Wn的概率极限(probabilitylimitofWn),记作Plim(Wn)=θ。1.定义2精选PPT2.为什么要考虑一致性我们已经讨论了有限样本(finitesample),也就是小样本(smallsample)中OLS估计量(OLSestimators)和检验统计量(teststatistics)具有的如下性质:在MLR.1-4下OLS估计量具有无偏性(Unbiasedness)在MLR.1-5下OLS估计量是最优线性无偏无计量(BLUE)在MLR.1-6下OLS估计量是最小方差无偏估计量(MVUE)T统计量的分布为t分布样本容量为任意n时,这些性质都成立。3精选PPT由于在很多情形下误差项可能呈现非正态分布,了解OLS估计量和检验统计量的渐近性,即当样本容量任意大时(whenthesamplesizegrowswithoutbound)的特性就是重要的问 快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题 。虽然在高斯-马尔可夫假定下OLS是最优线性无偏估计量,但在别的情形下不一定能找到无偏估计量。因此,在那些情形下,我们只要找到一致的估计量,即n∞时,这些估计量的分布退化为参数的真值即可。4精选PPT当n增加时样本的分布(SamplingDistributionsasnincreases)b1n1n2n3β1的样本分布例:n1:每次从班上抽取10人,抽若干次后,平均身高的分布;n2:每次从班上抽取100人,抽若干次后,平均身高的分布;n3:每次从班上抽取200人,抽若干次后,平均身高的分布。5精选PPT6精选PPT3.一致性和无偏性的关系(Consistencyv.s.unbiasedness)一个估计量是否有可能在有限样本(小样本)中是有偏的但在大样本条件下又具有一致性?假设Z的真值为0,一个随机变量X以(n-1)/n的概率取值为Z,而以1/n的概率取值为n。那么,X的期望为1,也就是:记plim(x)为n趋向无穷大时x的取值,则有:plim(x)=z=07精选PPT是否有可能一个估计量是无偏的但又不具备一致性?依然假设Z的真值为0,一个随机变量X以0.5的概率取0.5,而以0.5的概率取-0.5,那么X的期望为0,也就是说,X是Z的无偏估计量。但是,X总是在X=0这条线上下摆动,当n趋向无穷大时,它的方差并不会趋于0。因此,X并不是Z的一致估计量,也就是说X不具备一致性。无偏估计量未必是一致的,但是那些当样本容量增大时方差会收缩到零的无偏估计量是一致的。8精选PPT二、OLS估计量的一致性1.定理5.1在假设MLR.1到MLR.4下,OLS截距估计量和斜率估计量都是一致的估计量。2.证明一致性在简单回归中,斜率的估计量为:n→∞时,分子趋近于0,但分母却不趋近于0,因此,当n→∞时,Plim()=9精选PPT3.一个更弱的假定要获得估计量的无偏性(unbiasedness),我们假定零条件期望(zeroconditionalmean):E(u|x1,x2,…,xk)=0而要获得估计量的一致性(consistency),我们可以使用更弱的假定:零期望和零相关性假定,即:E(u)=0,Cov(xj,u)=0,j=1,2,…,k。如果连这个较弱的假定也不成立,OLS将是有偏(biased)而且不一致的(inconsistent)。上述讨论表明:如果OLS估计量是无偏的,那么它一定是一致的;但是如果OLS估计量是一致的,却不能保证它是无偏的。10精选PPT推导不一致性定义渐近偏差(asymptoticbias)为:,并考虑下面的真实模型和待估计模型。真实的模型为:实际进行估计的模型为:显然:11精选PPT则:12精选PPT因此,考虑渐近偏差的方向就像是考虑存在一个遗漏变量时偏差的方向。主要的区别在于渐近偏差用总体方差和总体协方差表示,而遗漏变量时的偏差则是基于它们在样本中的对应量。值得注意的是,不一致性是一个大样本问题。因此,当数据增加时候这个问题并不会消失。也就是说,即使样本容量再大,OLS估计的偏误也不会消失,而且会收敛到一个有偏误的值。13精选PPT4.存在内生性时的一致性考虑真实模型为y=b0+b1x1+b2x2+u,但u和x1相关,即cov(u,x1)≠0。则OLS估计量的不一致性(inconsistency)为:14精选PPT若x1和x2相关,即cov(x1,x2)≠0,而u和x2不相关,即cov(u,x2)=0时,则对b1和b2的OLS估计量都是不一致的。若x1和x2不相关,即cov(x1,x2)=0,且u和x2不相关,即cov(u,x2)=0时,则只有对b1的OLS估计量是不一致的。存在内生性时对其他参数估计量的一致性的影响15精选PPT5.渐近有效性我们知道,如果总体回归模型满足MLR.1-5,那么OLS估计量是最优线性无偏估计量。事实上,可以证明在这些假定下,OLS估计量是渐近有效的(asymptoticefficient)。也就是说,随着样本容量无限增大,OLS估计量具有最小的渐近方差。16精选PPT第二节渐近正态和大样本推断(AsymptoticNormalityandLargeSampleInference)估计量的一致性是一条重要性质,但我们并不能只靠它来进行统计推断。在经典线性模型假设下,样本的分布是正态分布,因而我们推出t分布和F分布用于检验。这种准确的正态分布来自于总体误差(populationerror)的分布是正态分布的假定。这个正态误差的假定意味着当x给定时,y的分布也是正态分布。17精选PPT为什么需要正态性假定?为了证明无偏性?×为了证明最优线性估计量?×为了能够用t统计量和F统计量做精确的推断?√很容易碰到一些例子,其中严格的正态性假定并不能成立。因为正态分布是对称的,所以,任何一个明显不对称(clearlyskewed)的变量,像拘捕次数,储蓄量等都不可能服从正态分布。当样本容量变大时是否估计量会渐近地趋向于正态分布?我们关注的OLS估计是否量满足渐近正态性。18精选PPT中心极限定理(CentralLimitTheorem)基于中心极限定理,我们能够证明OLS估计量是渐近正态。渐近正态意味着当n时,P(Z 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 化平均值的分布渐近趋同于N(0,1),或者记作:1.中心极限定理是研究独立随机变量和的极限分布为正态分布的问题。19精选PPT2.定理5.2:OLS的渐近正态性(AsymptoticNormalityofOLS)在高斯——马尔科夫假设MLR.1—MLR.5前提下:1)符合渐近正态分布,也就是说:其中,是的渐近方差;,而是xj对其他解释变量进行回归所得到的残差。20精选PPT2)是的一个一致性估计。3)随着样本容量n的扩大,对任意j,都有:21精选PPT在定理5.2中什么才是我们的假定误差的分布具有有限的方差(finitevariance)零条件期望(Zeroconditionalmean)同方差性(Homoskedasticity)线性结构(Linearstructure)随机样本(randomsample)1)去掉了正态性假定(normalityassumption)MLR.62)仍然保留以下假定:22精选PPT对定理5.2的理解为什么在1)中考虑的是,而不是因为注意到的样本方差为的样本方差为23精选PPT其中,是的总体方差。令,那么有:当时,以的速度减小到零,因此,只有按照的比例增大,才能讨论渐近分布。24精选PPT因为自由度很大的t分布接近于正态分布,我们也可以得到:注意到尽管我们在大样本中不再需要正态性假定,我们仍然需要同方差性(homoskedasticity)。25精选PPT渐近标准误差(AsymptoticStandardErrors)所以,我们预计标准误差减小的速度与成正比。如果u不是正态分布,我们有时把标准误差称作渐近标准误差,因为:26精选PPT大样本推断(Largesampleinference)OLS估计量的渐近正态性告诉我们,如果样本容量足够大,而且总体回归模型满足MLR.1-5,那么t统计量近似地服从标准正态分布或t分布,从而可以进行t检验。此时,不必要求满足正态性假定。如果样本容量足够大,而且总体回归模型满足MLR.1-5,那么通常的F检验也是适用的。需要注意的是,进行大样本推断的前提是MLR.5(同方差假定)必须成立。27精选PPT拉格朗日乘子统计量(LagrangeMultiplierstatistic)当我们使用大样本并且依靠渐近正态性(asymptoticnormality)进行推断时,除了t和F统计量,我们还可以使用别的统计量。拉格朗日乘子或LM统计量是检验多重限定性约束(multipleexclusionrestrictions)的另一种选择,LM统计量使用一个辅助性的回归(auxiliaryregression),因此它有时也被叫做nR2统计量。对于大样本数据,可以使用LM检验对多个线性假设进行检验,前提是高斯-马尔科夫假定(MLR.1-5)成立28精选PPT假设我们有一个标准模型:y=b0+b1x1+b2x2+...bkxk+u而我们的零假设为:H0:bk-q+1=0,...,bk=0我们的备选假设为:H1:bk-q+1,...,bk中至少有一个不为零29精选PPTLM检验的特性(CharacteristicsofLMtest)LM统计量有时被称作是nR2,或者得分统计量(scorestatistic)约束q的个数(numberofrestrictions,q)辅助R2的大小(thesizeoftheauxiliaryR-squared)样本容量(thesamplesize)相关的因素只有:未约束模型中自由度的个数未约束模型和被约束模型的R2不相关的因素有:30精选PPTLM检验与F检验和t检验的优劣对比LMtestvsFtest&ttest在大样本中,F检验和LM检验得到的结果相似。只有一个约束时,F检验和t检验是等价的,然而LM检验和F检验并不等价。主回归和辅助回归必须使用相同的一组观测值。31精选PPT例5.3:EconomicModelofCrime(crime1.raw)narr86=β0+β1pcnv+β2avgsen+β3tottime+β4ptime86+β5qemp86+uH0:β2=β3=0H1:β2和β3至少有一个不为0Steps(i)对约束模型进行回归,得到残差(ii)用对无约束模型的所有解释变量进行回归,得到Ru2可知Ru2=0.0015,从而LM=nRu2=2725×0.0015=4.09Df=2,显著性水平为5%的2分布临界值为5.99,显然有LM<5.99,因此不能拒绝H0.32精选PPT渐近有效(AsymptoticEfficiency)在高斯-马尔可夫假定下,OLS估计量以外的估计量可以具有一致性。但是,在高斯-马尔可夫假定下,OLS估计量具有最小的渐近方差(asymptoticvariances)。我们说在高斯-马尔可夫假定下OLS估计量是渐近有效的估计量。值得注意的是如果同方差(homoskedastic)的假定不成立,上述结论也不能成立。33精选PPT定理5.3:OLS估计量的渐近有效性AsymptoticEfficiencyofOLSEstimators在高斯—马尔科夫假定下,将记为如下方程的估计量:其中,为任何一个观测值i的所有自变量的函数进一步,让为OLS估计量,那么,OLS有最小的渐近方差,即:34精选PPT证明OLS估计量的渐近有效性简单回归模型yi=b0+b1xi+ui中b1OLS估计量的方差为:现在考虑一个新的估计量:其中,xi可以转化为z:zi=xi235精选PPT我们首先证明是一致的:如果,我们就可以得到:因此有:36精选PPT因为:根据附录中的推导,我们可以证明:如果z=x,则有:37精选PPT如果,则由柯西不等式,可得:因此:也就是:38精选PPT本讲定性地讨论了OLS估计量的渐近性质,不要求同学们掌握证明过程和细节问题。重要的是希望大家记住:即便正态性假定不被满足,在大样本情况下,用OLS方法进行参数估计和假设检验仍然是适用的。如此看来,样本容量越大,对OLS方法施加的限制就越少,因此我们应该使用容量足够大的样本。遗憾地是,并没有一个被广泛接受的标准用来判断样本容量到底应该多大才符合渐近性的要求小结39精选PPT40精选PPT
本文档为【《OLS的渐进性》PPT课件】,请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑, 图片更改请在作品中右键图片并更换,文字修改请直接点击文字进行修改,也可以新增和删除文档中的内容。
该文档来自用户分享,如有侵权行为请发邮件ishare@vip.sina.com联系网站客服,我们会及时删除。
[版权声明] 本站所有资料为用户分享产生,若发现您的权利被侵害,请联系客服邮件isharekefu@iask.cn,我们尽快处理。
本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用。
网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
下载需要: 免费 已有0 人下载
最新资料
资料动态
专题动态
机构认证用户
爱赢
公司经营范围:网络软件设计、制作、图文设计、影视制作(编辑)
格式:ppt
大小:277KB
软件:PowerPoint
页数:0
分类:教育学
上传时间:2021-02-19
浏览量:13