第4章多元回归估计与假设检验.ppt
文本预览下载声明
第四章 多元回归:估计与假设检验 本章要点 1.三变量线性回归模型 2.多元线性回归模型的若干假定 2.三变量线性回归模型的OLS估计量以及OLS估计量的方差与标准误 3.多元回归的拟合优度:多元判定系数R^2 4.多元回归的假设检验 5.其他问题 一、三变量线性回归模型及古典模型的假定 三变量线性回归模型的非随机总体回归函数(PRF)一般可以表示为: 随机形式: 其中,Y为应变量;X1,X2为解释变量;u为随机误差项;t表示第t期观察值。B1是截距,表示当X1,X2为零时Y的平均值。B2、B3称为偏回归系数。 三变量线性回归模型的PRF也是给出了在给定解释变量的情况下,相应的Y总体的条件均值。 偏回归系数 三变量线性回归模型中的斜率系数 B2,B3 称为偏回归系数(Partial regression coefficient)或偏斜率系数(partial slope coefficient)。 其表示的意义为 B2度量了在 X3 保持不变的情况下单位X2变动引起Y均值的改变量; 同样,B3度量了在X2保持不变的情况下,单位X3变动引起Y均值的改变量。 例如: 包含多个解释变量的回归模型称为多元回归模型。多元是指由多种因素对应变量有影响。本章将以三变量线性回归模型为例来讲解多元回归模型。一旦掌握了三变量模型,就很容易将结论扩展到更多元的线性回归模型。 多元线性回归模型的若干假定 (1)回归模型是参数线性的 (2)回归模型是正确设定的。 (3)解释变量与随机误差项不相关。 (4)随机误差项均值为零 多元回归模型 (5)不同随机误差项的方差相同,即: (6)不同随机误差项之间不相关,或者无自相关,即: (7)解释变量 X2和X3之间不存在完全共线性,即两个解释变量之间无严格的线性关系。 如果变量 X2能表示为另一变量 X3的线性函数,则称 X2 和X3之间是共线性的。在X2和X3存在共线性的情况下,不能通过一个样本估计出B2和B3的参数值。 注意:虽然在实际中很少遇到完全共线性的情况,但是高度共线性或近似共线性的情况还是很常见的。 (8)随机误差项服从均值为零,方差为 的正态分布,即: ~ 二、三变量线性回归模型的OLS估计量 1.三变量线性回归模型的OLS估计量 设某三变量线性回归模型,其随机样本回归函数为: 其中,b1 、b2、b3 分别是 B1、B2、B3的估计量 为残差。确定样本回归函数为: 根据OLS的原理,求解 b1 、b2 、b3 的方法是选择 b1、 b2、b3 使得下式中的RSS最小化,即: RSS(Yt真实值与估计值之差的平方和) 求解该最小化问题后得到如下正规方程式: 将以上三个正规方程做简单代数变换,得到: 其中,小写字母表示与其样本均值的离差,(例如: ) 2.三变量模型OLS估计量的方差与标准误 根据三变量线性回归模型OLS估计量的推导式可以知道, 、 、 估计量的方差与标准误为: 对于以上诸式中的未知量 ,可用其OLS估计量来代替,即: 3.高斯-马尔柯夫定理 在满足古典线性回归模型假设的前提下,多元线性回归模型中参数的估计量依然是总体回归模型参数的最优线性无偏估计量(BLUE)。 三、多元回归拟合优度的判定:多元判定系数 对于多元线性回归模型来说,也有如下等式的成立: 与双变量模型相同,决定系数 定义为: 其中, 为应变量Y的总平方和; 为回归平方和 为残差平方和。 四、多元回归的假设检验 在随机误差项服从正态分布以及多元回归的其他基本假定的情况下,可以证明 、 、 均服从均值分别为 、 和 ,方差分别为 、 、 的正态分布。 1.回归系数的显著性检验。针对 的原假设和备择假设为: 进行假设检验的检验统计量为: 针对 , 的原假设和备择假设分别为: 及 检验统计量分别为: ~ ~ ~ 显著性检验法 1.对于假设 2.计算t值 3.根据显著性水平 计算临界值并得到拒绝域 4.比较t值和拒绝域并作出判断 置信区间法 由于多元线性回归模型截距和系数的检验统计量为t统计量,即: 所以可以得到一个该参数的置信度为 的置信区间: 满足: ~ 对比参数的置信区间和零假设值,如果置信区间包含零假设值,则不能拒绝零假设,否则,拒绝零假设。 2.检验联合假设: 对于一个多元线性回归模型来说,一个或多个解释变量各自对应变量没有影响,但却有可能联合对应变量有影响。
显示全部