《统计学课件--第八章相关与回归分析》课件.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 统计学课件 第八章 相关与回归分析 第三节 多元线性回归分析 假设为了得到未知参数的估计值，我们对被解释变量和解释变量进行了n次观测，代入多元线性回归模型，可得n个随机模型： 一、多元线性回归模型 (一)多元线性回归模型的矩阵表示 * 统计学课件 第八章 相关与回归分析 为了使多元线性回归分析和计算更方便、更简洁，可以用矩阵形式表示： 第三节 多元线性回归分析 一、多元线性回归模型 (一)多元线性回归模型的矩阵表示 * 统计学课件 第八章 相关与回归分析 第三节 多元线性回归分析 定义 依照矩阵运算法则，上式可表示为： 类似的，定义 * 统计学课件 第八章 相关与回归分析 我们把基本假定用矩阵的形式表示出来： 第三节 多元线性回归分析 一、多元线性回归模型 (二)多元线性回归模型的基本假定 1.零均值假定可以表示为： * 统计学课件 第八章 相关与回归分析 第三节 多元线性回归分析 2. 同方差和无序列相关可以表示为： * 统计学课件 第八章 相关与回归分析 4.解释变量与随机误差项不相关假定可表示为： 或 第三节 多元线性回归分析 3. 随机误差项服从正态分布可以表示为： 解释变量之间不存在多重共线性可表示为： 如果上成立， 至少有k+1 阶子式不为零，表明解释变量之间 也就是要求系数行列式 不存在线性相关关系。 等价于 * 统计学课件 第八章 相关与回归分析 由样本回归模型 和样本回归方程 ，可得残差向量为： 第三节 多元线性回归分析 二、多元线性回归模型的估计 (一)参数的普通最小二乘估计 对上式两边分别对 求一阶导数，并令一阶偏导数为零，得 由假定 ，可以得到参数估计量为： * 统计学课件 第八章 相关与回归分析 第三节 多元线性回归分析 二、多元线性回归模型的估计 (一)参数的普通最小二乘估计 对上式两边分别对 求一阶导数，并令一阶偏导数为零，得 由假定 ，可以得到参数估计量为： * 统计学课件 第八章 相关与回归分析 第三节 多元线性回归分析 二、多元线性回归模型的估计 (二)参数普通最小二乘估计量的性质和分布 在多元线性回归条件下，参数的最小二乘估计仍然具有线性、 无偏性和最小方差性。 由于 ,可以看出 具有线性特性， 稍加变换，它还是 的线性组合。 由此可见 是无偏的。 * 统计学课件 第八章 相关与回归分析 在无偏性的基础上，我们可以得到 的方差-协方差矩阵： 第三节 多元线性回归分析 二、多元线性回归模型的估计 (二)参数普通最小二乘估计量的性质和分布 * 统计学课件 第八章 相关与回归分析 第三节 多元线性回归分析 二、多元线性回归模型的估计 (二)参数普通最小二乘估计量的性质和分布 由于 的线性组合，而 假定是服从正态分布的，所以 也是服从正态分布的，即 由于 是不可观测的，所以其方差没有办法计算出来， 因此 的方差-协方差矩阵的估计值为： 是 只能进行估计。可以证明： * 统计学课件 第八章 相关与回归分析