2.8多重共线性.ppt

§2.8多重共线性Multi-Collinearity 一、多重共线性的概念 二、多重共线性的后果 三、多重共线性的检验 四、克服多重共线性的方法 一、多重共线性的概念 1、多重共线性 对于模型 Yi=?0+?1X1i+?2X2i+?+?kXki+?i i=1,2,…,n 其基本假设之一是解释变量互相独立。 如果 c1X1i+c2X2i+…+ckXki=0, i=1,2,…,n 其中: ci不全为0，即某一个解释变量可以用其它解释变量的线性组合表示，则解释变量间存在完全共线性。（这是最初的含义，Frisch） 在矩阵表示的线性回归模型 Y=XB+N中，完全共线性指：秩(X)k+1，即矩阵 2、实际经济问题中的多重共线性现象 经济变量的共同变化趋势 时间序列样本：经济繁荣时期，各基本经济变量（收入、消费、投资、价格）都趋于增长；衰退时期，又同时趋于下降。 横截面数据：生产函数中，资本投入与劳动力投入往往出现高度相关情况，大企业二者都大，小企业都小。 一般经验 对于采用时间序列数据作样本、以简单线性形式建立的计量经济学模型，往往存在多重共线性。 以截面数据作样本时，问题不那么严重，但多重共线性仍然是存在的。 二、多重共线性的后果 1、完全共线性下参数估计量不存在 2、近似共线性下普通最小二乘法参数估计量仍然能够获得，但有大的方差。故非有效估计量。 在一般共线性（或称近似共线性）下，虽然可以得到OLS法参数估计量，但是由参数估计量方差的表达式为 3、参数估计量经济含义不合理 如果模型中两个解释变量具有线性相关性，例如X1和X2，那么它们中的一个变量可以由另一个变量表征。 这时，X1和X2前的参数并不反映各自与被解释变量之间的结构关系 4、变量的显著性检验失去意义 5、模型的预测功能失效 变大的方差容易使区间预测的“区间”变大，使预测失去意义。 三、多重共线性的检验 检验方法 由于多重共线性表现为解释变量之间具有相关关系，所以用于多重共线性的检验方法有：相关系数检验法、判定系数检验法、逐步回归检验法等。 （1）对有两个解释变量的模型，可以利用样本观测值散点图考察或者计算他们的相关系数。 (2) 判定系数检验法 分别用模型中每一个解释变量以其余解释变量为解释变量进行回归，计算相应的拟合优度，（判定系数）。如果 Xji=?1X1i+?2X2i+??LXLi 中判定系数较大，则说明Xj可以用其他X的线性组合代替，即Xj与其他X之间存在共线性。 (3) 逐步回归法 以Y为被解释变量，逐个引入解释变量，构成回归模型，进行模型估计。 根据拟合优度的变化决定是否引入新的变量： 如果拟合优度变化显著，则说明新引入的变量是一个独立解释变量； 如果拟合优度变化很不显著，则说明新引入的变量不是一个独立解释变量，可以用其它变量的线性组合代替，也就是说它与其它变量之间存在共线性关系。 四、克服多重共线性的方法 1、第一类方法：排除引起共线性的变量 通过判定系数法、逐步回归法检验时已经发现了引起共线性的变量，因此可以将它排除出去，这是最为有效的克服多重共线性问题的方法。 2、第二类方法：差分法 一般讲，增量之间的线性关系远比总量之间的线性关系弱得多。将原模型变换为差分模型 ?Yi=?1 ? X1i+?2 ? X2i+?+?k ? Xki+ ? ?i 可以消除一些存在于原模型中的多重共线性。 3、第三类方法：减小参数估计量的方差 多重共线性的主要后果是参数估计量具有较大的方差，所以采取适当方法减小参数估计量的方差。如，增加样本容量，可使参数估计量的方差减小。 * 如果某两个或多个解释变量之间出现了相关性，则称为多重共线性。 例如，X2=?X1，这时X1与X2的相关系数为1，解释变量X2对因变量的作用完全可由X1代替。 如果 c1X1i+c2X2i+…+ckXki+vi=0 , i=1,2,…,n vi为随机误差项 完全共线性的情况并不多见，一般出现的是在一定程度上的共线性，即近似共线性： 如果存在完全共线性，则(X’X) -1不存在，无法得到参数的估计量。 可见，由于此时|X’X|?0，引起(X’X) -1主对角线元素较大，从而使参数估计值的方差增大。 存在多重共线性时 参