第三章多元线性回归模型.ppt

第三章 多元线性回归模型 多元线性回归模型 多元线性回归模型的参数估计 多元线性回归模型的假设检验 实例 §3.1 多元线性回归模型 一、多元线性回归模型 二、多元线性回归模型的基本假定 一、多元线性回归模型 多元线性回归模型:表现在线性回归模型中的解释变量有多个。 一般表现形式： 二、多元线性回归模型的基本假定 假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。 假设2，随机误差项具有零均值、同方差及不序列相关性。 假设3，解释变量与随机项不相关 §3.2 多元线性回归模型的估计 说 明 估计方法：OLS（普通最小二乘法） 一、普通最小二乘估计 对于随机抽取的n组观测值 二、参数估计量的性质 在满足基本假设的情况下，其结构参数?的普通最小二乘估计具有： 线性性、无偏性、有效性。 -------也就是满足高斯-马尔柯夫定理 三、样本容量问题 所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。 四、多元线性回归模型的参数估计实例 例3.2.2 在例2.5.1中，已建立了中国居民人均消费一元线性模型。这里我们再考虑建立多元线性模型。 §3.3 多元线性回归模型的统计检验 一、拟合优度检验 二、方程的显著性检验(F检验) 三、变量的显著性检验（t检验） 四、参数的置信区间 一、拟合优度检验 1、判定系数与调整的判定系数 *2、赤池信息准则和施瓦茨准则 为了比较所含解释变量个数不同的多元回归模型的拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） 二、方程的显著性检验(F检验) 方程的显著性检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。 2、关于拟合优度检验与方程显著性检验关系的讨论 由 三、变量的显著性检验（t检验） 方程的总体线性关系显著?每个解释变量对被解释变量的影响都是显著的。 因此，必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。 这一检验是由对变量的 t 检验完成的。 四、参数的置信区间 参数的置信区间用来考察：在一次抽样中所估计的参数值离参数的真实值有多“近”。 在变量的显著性检验中已经知道： 三、参数的稳定性 （3）计算F统计量的值，与临界值比较： 若F值大于临界值，则拒绝原假设，认为发生了结构变化，参数是非稳定的。 该检验也被称为邹氏参数稳定性检验（Chow test for parameter stability）。 注：与课本P143的符号稍有不同，也可以参看课本上的，原理是一样的，只是符号写法有点差异而已！ 举例：新股发行抑价的实证研究 服从自由度为(k , n-k-1)的F分布。 给定显著性水平?，可得到临界值F?(k,n-k-1)，由样本求出统计量F的数值，通过 F? F?(k,n-k-1) 或 F≤F?(k,n-k-1) 来拒绝或接受原假设H0，以判定原方程总体上的线性关系是否显著成立。 对于中国居民人均消费支出的例子： 一元模型：F=285.92 二元模型：F=2057.3 给定显著性水平? =0.05，查分布表，得到临界值： 一元例：F?(1,21)=4.32 二元例： F?(2,19)=3.52 显然有 F? F?(k,n-k-1) ，即二个模型的线性关系在5%的显著性水平下显著成立。 可推出： 与 或 注：课本上是F与R2的关系，因为判定系数和校正的判定系数之间的关系，所以此三者的关系的推导是很显然的。 在中国居民人均收入—消费一元模型中， 在中国居民人均收入—消费二元模型中， 1、t统计量 因此，可构造如下t统计量 2、t检验 设计原假设与备择假设： H1：?i?0 给定显著性水平?，可得到临界值t?/2(n-k-1)，由样本求出统计量t的数值，通过 |t|? t?/2(n-k-1) 或 |t|≤t?/2(n-k-1) 来拒绝或接受原假设H0，从而判定对应的解释变量是否应包括在模型中。 H0：?i=0 （i=1,2…k） 注意：一元线性回归中，t检验与F检验一致 （不过多元的就没那么简单的关系了！） 一方面，t检验与F检验都是对相同的原假设H0：?1=0 进行检验; 另一方面，两个统计量之间