计量研2011—第3章.ppt

第三章 多元线性回归模型 第三章 第一节 第三章 第二节 第三章 第三节 §3.3 多元线性回归模型的矩阵表示 ? 一、多元总体线性回归模型的矩阵表示 ? 二、多元样本线性回归模型的矩阵表示 ? 即对角线上元为各个分量的方差，其它元素为协方差，显然该矩阵为对称矩阵，可以证明： 第三章 第四节 设 由极值原理可知： 即 由于 以及 于是 即 称上式为多元线性回归模型矩阵式的普通最小二乘估计量（OLS）。 由经典假设可知，X 的秩等于k+1，而 为正定矩阵，于是 可逆，即满足解释变量线性无关的多元线性回归模型的普通最小二乘估计量 有解。 二、正规方程组 ? 上面导出的是矩阵式的普通最小二乘解(OLS)，然而有时我们需要用到其分量方程组形式,即正规方程组,下面我们导出正规方程组。 由极值原理可导出多元线性回归模型的正规方程组： 当k=2时，OLS解为： 第三章 第五节 一、线性性 由OLS估计可知 令 由解释变量的非随机性可知M为非随机矩阵。则 为M 中的第j+1行与Y 的对应元素乘积之和，即 ? ? 故 为Yi的线性组合，即线性性成立。 二、无偏性 由零均值及解释变量为非随机可知： ? ? ? ? 即无偏性得证。 三、方差最小性（也称有效性） 首先导出 的方差与协方差矩阵： 由于 ? ? 于是OLS估计量 的方差与协方差矩阵为： 即 的方差与协方差矩阵为 与 之积，因此估计量 的方差为 与 的第j+1个对角线元素之积(j=0,1,2,…,k)。 令 则 由于总体分布未知，于是 也未知， 令 ? ? 可以证明 为总体方差 的无偏估计量。 最小方差的证明省略。 当k=2时，即二元线性回归模型OLS估计量的方差为： 其中： ? ? ? 第三章 第六节 与一元线性回归模型的原理完全一样可导出： 以 95% 的可能性落在区间： (j=0,1,2,…,k) 上，称该区间为 的置信区间，或称区间估计，置信度为95% . 很显然，置信区间越小则可信度越高，而置信区间的半径中临界值变化不大，因此估计量的可信度主要取决于其标准差的估计量，标准差越小，则可信度越高，标准差越大，则可信度越低。这与 t - 检验的显著性是等价的，从T 统计量的计算可知，标准差越小，则t - 统计量的绝对值越大，即t -值通过临界值的可能性也大，从而t - 检验显著的可能性也大。 另一方面，从标准差的计算公式可知，标准差的大小主要取决于总体方差估计量的大小及 对角线上的元素 ，而 与解释变量的线性相关的程度有关，当总体方差估计量较大以及解释变量的线性相关程度较高时，参数估计量的标准差的估计量也就较大，这时会影响参数的显著性。 第三章 第七节 即使对回归方程中每个参数分别进行的t - 检验都不显著，F –检验也可能是显著的。比如当解释变量之间高度相关时就可能出现这种情况，其结果可能是参数的标准差大而t值小，但整个模型仍然能对数据拟合得很好。 F-统计量的计算公式为： 在一般计量软件的参数估计输出结果中均有F-统计量的值，不必用手工计算。当F-值大于临界值时 ，回归方程是显著的，否则，为不显著的。 第三章 第八节 令 ? 称R2为多元线