第1章多元回归模型讲述.pptx
文本预览下载声明
第1章 多元回归模型
1
主要内容
多元线性回归模型及其经典假定
多元线性回归模型的估计
多元线性回归模型的检验
多元线性回归模型的预测及其评价
非线性回归模型
多元线性回归模型构建的Eviews软件实现
2
多元线性回归模型及其经典假定
一、多元线性回归模型的概念
二、多元线性回归模型的矩阵形式
三、多元线性回归模型的经典假定
在计量经济学中,将含有两个以上解释变量的回归模型叫做多元线性回归模型,相应的,在此基础上进行的回归分析就叫多元线性回归分析。
一、多元线性回归模型的概念
一般的,包含被解释变量 与 个解释变量 的多元总体线性回归函数的形式为
其中, 为模型的参数, 为随机误差项。
多元总体线性回归函数及其均值形式
如果对被解释变量 及解释变量
做了n次观测,所得的n组观测值, 将都满足如下线性关系:
在 的条件下,多元总体线性回归函数的条件均值形式为
多元样本线性回归函数
如果将被解释变量 的样本条件均值表示为各个
解释变量的线性函数,即得多元样本线性回归函数:
7
二、多元线性回归模型的矩阵表示
对被解释变量Y即多个解释变量作n次观测,得到n
组观测值的线性关系,可写成方程组的形式
这样的方程组可表示为矩阵形式
8
记
这样,多元总体线性回归模型的矩阵形式可分别表示为
9
类似的,多元样本线性回归模型的矩阵形式可分别表示为
或
其中
三、多元线性回归模型的经典假定
假定1:随机误差项的期望为零,即
假定2:不同的随机误差项之间相互独立,即
假定4:随机误差项与解释变量不相关,即
假定3:随机误差项的方差与i无关,为一个常数,即
假定5:随机误差项 为服从正态分布的随机变 量,即
假定6:解释变量之间不存在多重共线性
13
2.多元线性回归模型的估计
一、多元线性回归模型参数的最小二乘估计
二、参数最小二乘估计的性质
三、随机误差项方差的估计
四、多元线性回归模型参数的区间估计
设 为第i次观测样本,残差为
一、多元线性回归模型参数的最小二乘估计
普通最小二乘法(OLS)的原理:就是
通过使残差平方和最小求出回归系数的估计值。即:
注意上述各式中方括号内的各项恰好为残差 ,
,从而上述 个方程可以写成:
即
对样本回归模型的矩阵形式 两边同乘以样本观测矩阵 的转置矩阵,有
16
可得正规方程组
得多元线性回归模型参数向量最小二乘估计式
的矩阵表达式为
二、参数最小二乘估计的性质
在模型古典假设成立的情况下,多元线性回归模型参数的最小二乘估计也具有线性性,无偏性,最小方差性等优良性质。
性质1 线性性。即参数估计量 是观测值 的线性组合。
性质2 无偏性。即参数估计量 的均值等于总体参数。即
性质3 最小方差性。参数向量 的最小二乘估计 是 的所有线性无偏供给量中方差最小的估计量。
性质4 参数的最小二乘估计量 服从正态分布:
这就是说,在经典假定都满足的条件下,多元线性回归模型的最小二乘估计式也是最佳线性无偏估计式(BLUE)。
三、随机误差项方差的估计
参数估计量的方差或标准差是衡量参数估计量接近真实参数的重要指标,据此可以判断参数估计量的可靠性。但在参数估计量方差的表达式中,随机误差项的方差 是未知的,参数估计量方差实际上无法直接计算。为此,需要对 进行估计。
20
在得到参数估计值以后,即可计算残差向量
据此可得残差平方和
因为残差平方和具有如下性质
21
若记
则 就是随机误差项方差 的无偏估计。
于是,参数估计量 的方差 就可
以借助 来估计,从而有如下估计式:
四、多元线性回归模型参数的区间估计
对随机误差项 做出估计后,用 代替 ,
可以证明:
3、多元线性回归模型的检验
对已经估计出参数的多元线性回归模型的检验,除了对假定条件是否满足的检验外,还要对所估计模型的拟合优度、模型中各个参数显著性,以及整个回归方程的显著性进行检验。
一、拟合优度检验
1.多重判定系数
在多元线性回归模型中,“回归平方和”与“总离差平方和”的比值称为多重判定系数,用 表示。其中Y的变差分解式为:
显示全部