多元线性回归模型及参数估计.ppt

§2.3多元线性回归模型的参数估计

EstimationofMultipleLinearRegressionModel一、多元线性回归模型二、多元线性回归模型的参数估计三、OLS参数估计量的统计性质四、样本容量问题五、多元线性回归模型实例一、多元线性回归模型1、多元线性回归模型的形式由于：在实际经济问题中，一个变量往往受到多个原因变量的影响；“从一般到简单”的建模思路。所以，线性回归模型中的解释变量往往有多个，至少开始是这样。这样的模型被称为多元线性回归模型。多元线性回归模型参数估计的原理与一元和二元线性回归模型相同，只是计算更为复杂。i=1,2,…,n习惯上，把常数项μi看成为一个虚变量的系数，在参数估计过程中该虚变量的样本观测值始终取1。这样：模型中解释变量的数目为（k+1）。多元线性回归模型的一般形式为：多元线性回归模型的矩阵表达式为：其中2、多元线性回归模型的基本假定关于多元线性回归模型的基本假定多元线性回归模型在满足下列基本假设的情况下，可以采用普通最小二乘法（OLS）估计参数。二、多元线性回归模型的参数估计1、普通最小二乘估计添加标题普通最小二乘估计添加标题（i=1,2,…,n）根据最小二乘原理，参数估计值应该是下列方程组的解：添加标题其中添加标题于是得到关于待估参数估计值的正规方程组：上述估计过程的矩阵表示：其中从而，被解释变量的观测值与估计值之差的平方和为：随机误差项的均值为0，方差的估计量为：参数的最小二乘估计值为：于是，得到正规方程组：2、最大或然估计Y的随机抽取的n组样本观测值的联合概率对数或然函数为单击此处添加小标题参数的最大或然估计单击此处添加小标题结果与参数的普通最小二乘估计相同单击此处添加小标题三、OLS参数估计量的统计性质1．线性2．无偏性这里利用了解释变量与随机误差项不相关的假设，即根据高斯—马尔可夫定理，上述方差在所有无偏估计量的方差中是最小的，所以普通最小二乘参数估计量具有有效性。其中利用了3．有效性参数估计量的方差-协方差矩阵4．随机误差项方差估计量的性质由于被解释变量的估计值与观测值之间的残差残差的平方和为:所以有其中符号“tr”表示矩阵的迹，其定义为矩阵主对角线元素的和。于是所以，随机误差项方差的无偏估计量为