第三章多元线性回归

第三章多元线性回归★多元线性回归模型★OLS估计★参数估计的性质★相关检验★预测★矩阵表示★模型设定误差★应用计量经济学ECONOMETRICS多元线性回归模型计量经济学ECONOMETRICS计量经济学ECONOMETRICS问题的提出现实生活中引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。例如，产出往往受各种投入要素——资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。所以在一元线性模型的基础上，提出多元线性模型——解释变量个数>=2计量经济学ECONOMETRICS解题思路在多元模型中要估计的乃是一个平面或超平面。选取最好“平面”的准则，仍然是实际点到拟合平面（通常仍称它为拟合直线）的纵向距离最小——拟合值尽可能逼近真值——使残差平方和最小。于是将问题转化为一个求极值的数学问题计量经济学ECONOMETRICS二元(三变量)线性模型较之于简单回归而言，附加的假设条件是之间没有线性关系。被解释变量解释变量随机误差计量经济学ECONOMETRICS二元线性回归模型(观察到的Y)估计的回归面0eiX1YX2(X1,X2)}计量经济学ECONOMETRICS多元线性回归模型一般形式被解释变量解释变量随机误差计量经济学ECONOMETRICSOLS估计计量经济学ECONOMETRICS计量经济学ECONOMETRICS普通最小二乘估计令计量经济学ECONOMETRICS正规方程计量经济学ECONOMETRICS参数估计令计量经济学ECONOMETRICS相关检验计量经济学ECONOMETRICS计量经济学ECONOMETRICS回归 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 误k表示自变量的个数，简单线性回归时为1。计量经济学ECONOMETRICS二元回归模型的系数估计的标准误其中，是之间的简单相关系数。计量经济学ECONOMETRICS多重判定系数1、解释平方和占总离差平方和的比例2、反映回归直线的拟合程度3、取值范围在[0,1]之间4、R21，说明回归方程拟合的越好；R20，说明回归方程拟合的越差5、等于多重相关系数的平方，即R2=(R)2注：多重相关系数也称复相关系数，复相关指一个因变量同多个自变量之间的相关关系。计量经济学ECONOMETRICS修正的多重判定系数1、由于增加自变量将影响到因变量中被估计的回归方程所解释的变异性的数量，为避免高估这一影响，需要用自变量的数目去修正R2的值2、用n表示观察值的数目，k表示自变量的数目，修正的多元判定系数的计算公式可表示为计量经济学ECONOMETRICS线性关系的检验(F检验)检验因变量与所有的自变量和之间的是否存在一个显著的线性关系，也被称为总体的显著性检验检验方法是将可解释平方和(SSE)同残差平方和(SSR)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，因变量与自变量之间存在线性关系如果不显著，因变量与自变量之间不存在线性关系计量经济学ECONOMETRICS检验步骤1、提出假设H0：12k=0线性关系不显著H1：1，2，，k至少有一个不等于02、计算检验统计量F3、确定显著性水平和分子自由度k、分母自由度n-k-1找出临界值F4、作出决策：若FF，拒绝H0；若F<F，不能拒绝H0或根据P值来作决策，P值大于显著性水平，不能拒绝原假设计量经济学ECONOMETRICS检验回归参数的线性限制(F检验续)1、2、构造检验统计量3、确定显著性水平和分子自由度k-m、分母自由度n-k-1找出临界值F4、作出决策：若FF，拒绝H0；若F<F，不能拒绝H0计量经济学ECONOMETRICS几点说明1、如果F检验已经表明了回归模型总体上是显著的，那么回归系数的检验就是用来确定每一个单个的自变量Xi对因变量Y的影响是否显著2、应用t检验对每一个自变量单独进行检验3、在多元线性回归中，回归方程的显著性检验不再等价于回归系数的显著性检验计量经济学ECONOMETRICS回归系数的显著性检验(t检验)1、提出假设H0：bi=0(自变量Xi与因变量Y没有线性关系)H1：bi0(自变量Xi与因变量Y有线性关系)2、计算检验的统计量t3、确定显著性水平，并进行决策tt，拒绝H0；t<t，不能拒绝H0(或根据p值来判断，若P值小于显著性水平，则拒绝原假设。)计量经济学ECONOMETRICS矩阵表示计量经济学ECONOMETRICS计量经济学ECONOMETRICS多元回归模型的矩阵表示计量经济学ECONOMETRICS参数估计及其方差令得两项相等，？计量经济学ECONOMETRICS随机误差项方差估计计量经济学ECONOMETRICS参数估计量的性质计量经济学ECONOMETRICS计量经济学ECONOMETRICS线性无偏性计量经济学ECONOMETRICS估计量方差计量经济学ECONOMETRICS有效性为任一无偏估计计量经济学ECONOMETRICS预测计量经济学ECONOMETRICS计量经济学ECONOMETRICS预测点预测其中区间预测平均值个别值计量经济学ECONOMETRICS例：某农场1971年至1980年每英亩谷物产量(bushel)和每英亩化肥施用量及杀虫剂使用量(pound)之间的数据见表，求出产量与化肥施用量和杀虫剂使用量之间的关系。data21.xlsYear1971197219731974197519761977197819791980404446485258606874806101214161822242632445791214202124蒲式耳(谷物,水果等容量单位,美=35.238升,英=36.368升)1pound(磅)=0.4536kilogram(千克)1acre(英亩)=0.405hectare(公顷)计量经济学ECONOMETRICS用来估计回归参数的计算结果计量经济学ECONOMETRICS参数估计计量经济学ECONOMETRICS参数的显著性检验计量经济学ECONOMETRICS参数的显著性检验(续)显著性水平为0.05，自由度为7时t分布临界值为2.365，小于，因此拒绝为0的原假设，认为在给定的显著性水平下都是统计显著的计量经济学ECONOMETRICS决定系数计量经济学ECONOMETRICS回归方程的检验因为所以拒绝都为0的原假设，同时得到显著不为0。计量经济学ECONOMETRICSEViews命令cdD:\Econometrics15\zdatacreatea19711980readdata21.xls3equationeq1.lsycx1x2eq1.results计量经济学ECONOMETRICS模型设定误差计量经济学ECONOMETRICS计量经济学ECONOMETRICS模型设定误差省略重要变量放入无关变量计量经济学ECONOMETRICS省略重要变量真实模型：估计模型：用离差形式把真实模型中y代入得因此从而所得到的估计是有偏的和不一致的不为0，除非两个变量无关计量经济学ECONOMETRICS例数据data31.xls中，HOUSING为t年的动工的住房单位数量，POP是该年以百万计的人口，GNP是以十亿计的国民生产总值，INTRATE为百分制新房抵押利率。估计两个模型如下：(1.8)(3.64)(-3.87)t值(3.39)(0.38)模型(2)的拟合很差P值虽然拟合不是很好，但系数的符号符合直觉，且系数都显著计量经济学ECONOMETRICS放入无关变量真实模型：估计模型：利用OLS估计得到的的估计量是无偏和一致的，由于无关变量的存在，意味我们不认为参数限制条件为真，因此导致自由度的损失，因而影响有效性。计量经济学ECONOMETRICS前例续把前例模型中加入解释变量失业率和人口，所得模型为：(0.46)(0.82)(-2.86)(-0.40)(0.65)零假设：POP和UNEMP前系数都为0利用得显著性水平为0.05时，自由度为(2,18)的F分布的临界值为3.55，因此不能拒绝零假设。P值0.75计量经济学ECONOMETRICS应用公共汽车乘客人数和影响乘客人数的各种因素之间的关系。数据：data32.xls变量说明：BUSTRAVL-城市公共汽车乘坐需求，单位千乘客小时FARE-车费，美元GASPRICE-油价，美元/加仑INCOME-人均单位收入，美元POP-城市人口，千人DENSITY-人口密度，人/平方英里LANDAREA-城市的土地面积，平方英里计量经济学ECONOMETRICS估计结果loaddata32equationeq1.lsbustravlcfaregaspriceincomepopdensitylandareaeq1.resultsGASPRICE、FARE、LANDAREA几个变量P值太大，尝试逐个去除，以简化模型。计量经济学ECONOMETRICS附：各种函数形式线性对数倒数转换多项式曲线含交互项动态模型通常不超过2计量经济学ECONOMETRICS不同函数形式的边际效应和弹性线性函数线性对数倒数二次函数交互作用对数线性对数倒数对数二次函数双对数对数名称函数形式边际效应弹性计量经济学ECONOMETRICScreateP79a19881998readD:\Econometrics15\zdata\P79.xls3equationeq1.lsycx1x2showeq1scalarn=eq1.@regobsscalark=eq1.@ncoefexpand19881999x1(n+1)=5800x2(n+1)=135eq1.forecastyfs_segenrypl=yf(n)-@qtdist(0.975,n-k)*s_se(n)genrypu=yf(n)+@qtdist(0.975,n-k)*s_se(n)genrycu=yf(n)+@qtdist(0.975,n-k)*@sqrt(s_se(n)^2-@se^2)genrycl=yf(n)-@qtdist(0.975,n-k)*@sqrt(s_se(n)^2-@se^2)groupP79yf(n)yclycuyplypushowP79案例分析(P.79)计量经济学ECONOMETRICS案例已知某地区某农产品收购量Y，销售量X1，出口量X2，库存量X3的1955~1984年的样本观测值，数据：2.xls。试建立以收购量Y为被解释变量的多元线性回归模型，并预测当销售量为18，出口量为2，库存量为80时的收购量。计量经济学ECONOMETRICScreatea19551984readD:\Econometrics15\other\2.xlsyx1x2x3equationeq1.lsycx1x2x3showeq1pagestruct(end=@last+1)*‘expand19551985scalarn=eq1.@regobsscalark=eq1.@ncoefx1(n+1)=18x2(n+1)=2x3(n+1)=80eq1.forecastyfy_seplotyyfgenrypl=yf(n)-@qtdist(0.975,n-k)*y_se(n)genrypu=yf(n)+@qtdist(0.975,n-k)*y_se(n)genrycu=yf(n)+@qtdist(0.975,n-k)*@sqrt(y_se(n)^2-@se^2)genrycl=yf(n)-@qtdist(0.975,n-k)*@sqrt(y_se(n)^2-@se^2)groupmregyf(n)yplypuyclycushowmreg这是eq1的回归标准误R计量经济学ECONOMETRICS作业P866计量经济学ECONOMETRICS