多元回归分析.ppt

多元回归分析 目录 7.1 引言  7.2 多元线性回归模型 7.2.1 多元线性模型的一般形式及其假定 一、多元线性模型的一般形式 一、回归参数的普通最小二乘估计 7.4 残差分析 1、图示检验法 图示法是一种直观的诊断方法，它是先把给定的回归模型直接用普通最小二乘法估计参数，求出残差项 ，再描绘 的散点图，根据 的相关性来判断随机项 的序列相关性。残差 的散点图通常有两种绘制方式。 （1）绘制 ， 的散点图。用 ， 作为散点绘图。如果大部分的点落在第Ⅰ，Ⅲ象限表明随机扰动项 存在正的序列相关，如图7.3(a) 所示；如果大部分的点落在第Ⅱ ，Ⅳ象限表明随机扰动项 存在负的序列相关，如图7.3(b) 所示。 图7.3 与 的散点图 （2）按时间顺序绘制回归残差 的图形。如果 ，随着 的变化逐次有规律的变化，呈现锯齿状或循环变化，就可断言 存在相关，表明 存在着序列相关，如果 随着 的变化逐次变化并不断地改变符号，如图7.4(a)所示，那么随机扰动项 存在负的序列相关，这种现象又称为蛛网现象；如果 随着 的变化逐次变化并不频繁地改变符号，而是几个正的 后面跟着几个负的，则表明随机扰动项 存在正的序列相关，如图7.4(b)所示。 图7.4 误差项随时间的变化图 2、自相关系数法 误差序列项 的自相关系数定义为 自相关系数 的取值范围是 ，当 接近1，表明误差序列存在正相关；当 接近-1时，表明误差序列存在负相关。在实际应用中，误差序列 的真实值是未知的，需要用估计值 代替，得自相关系数的估计值为 与样本量有关，需要做统计显著性检验才能确定自相关性的存在，通常采用下面的DW检验代替对 的检验。 3、DW检验 DW检验是J.Durbin（杜宾）和G.S.Watson（沃特森）于1951年提出的一种适用于小样本的一种检验方法。DW检验只能用于检验随机扰动项具有一阶自回归形式的序列相关问题。这中检验方法是建立在计量经济学模型中最常用的方法，一般的计算机软件都可以计算出DW值。 一阶自相关的情况，即随机扰动项具有如下形式 为了检验序列的相关性，构造的假设是 为了检验上述的假设，构造DW统计量首先要求出回归估计式的残差 ，定义DW统计量为 可以推导出DW值与 的近似对应关系为 因而，DW值与 的对应关系为表7.2所示。 表7.2 DW值与 的对应关系 完全正自相关 0 1 正自相关 （0，2） （0，1） 无自相关 2 0 负自相关 （2，4） （-1，0） 完全负相关 4 -1 误差项的自相关性 DW 根据样本容量 和自变量数目 查 DW分布表,得到临界值和 ，然后按照下列准则考察计算得到的DW值，可以判断模型的自相关状态，见图7.5。 正自相关 不能确定 无自相关区 负自相关 不能确定 图7.5 DW判别准则 注：就诊断方法而言，残差图方法直观，但不够严谨；DW检验方法是最常用的一种方法，但也有一定的缺点和局限性： （1） DW检验有两个不能确定的区域，一旦DW值落在这两个区域，就无法判断。这时，只有增大样本容量或选取其他方法； （2）DW统计量的上、下界表要求 ，这是因为样本如果再小，利用残差就很难对自相关的存在性作出比较正确的诊断； （3）DW检验不适用于随机误项具有高阶序列相关的检验。 三、自相关问题的处理 如果模型存在自相关，首先要查明原因。如果是回归模型选用不当，则应该用适当的回归模型；如果是缺少重要的自变量，则应加入相应的自变量。如果以上方法都不能消除自相关性，则需要采用新的方法估计模型，如广义最小二乘法、差分法、迭代法、移动平均法等等，在此只介绍一阶差分法和迭代法。 1、迭代法 以一元线性回归模型为例，设一元线性回归模型的误差项存在一阶自相关 其中 满足关于随机扰动项的基本假设。 根据回归模型（7.7）式，有 （7.7） （7