主成回归—新.doc

主成回归2012.5.14 例【法国数据】、法国国民生产总值、存储量、总消费量和进口总额数据，见下表。原变量向量记为： 表1 原始数据 表2 主成分数据 年 1949 15.9 149.3 4.2 108.1 -55.243 0.853 -0.632 1950 16.4 161.2 4.1 114.8 -41.641 0.464 -1.792 1951 19.0 171.5 3.1 123.2 -28.396 -0.282 -0.501 1952 19.1 175.5 3.1 126.9 -23.004 -0.113 0.265 1953 18.8 180.8 1.1 132.1 -15.694 -1.783 1.967 1954 20.4 190.7 2.2 137.7 -4.362 -0.948 0.758 1955 22.7 202.1 2.1 146.0 9.735 -0.977 1.159 1956 26.5 212.4 5.6 154.1 22.815 2.606 1.198 1957 28.1 226.1 5.0 162.3 38.750 1.776 0.362 1958 27.6 231.9 5.1 164.3 44.663 1.498 -1.253 1959 26.3 239.0 0.7 167.6 52.378 -3.092 -1.530 §1 基于协差阵S的主成分回归 【解】、基于协差阵S的主成分向量分别记为： 求样本均值向量和样本协差阵，由求得特征根、特征向量： ， 0.824 -0.128 -0.552 0．001 0.974 -0.225 0.566 0.184 0.803 特征根 1324.16 2.78 1.52 贡献率 0.9968 0.0021 0.0011 累计贡献率 0.9968 0.9989 1.000 主成分、、的与原变量、、的关系如下 （1） 由特征向量求得三个主成分的得分（表2） 【1、取三个主成分回归】 用Statistica，求关于三个主成分、、的回归 与、、的回归方程为 为了将主成分、、还原为原变量、、，将，即（1）式代入上述回归方程，得 经整理，得 可看出，若保留三个主成分，则主成分回归与最小二乘回归的结果一样。还可看出，保留前两个主成分、即可。 【2、取二个主成分回归】求关于前2个主成分、的回归 与、的回归方程为 回归方程及回归系数的检验都是高度显著。为了将主成分、还原为原变量、、，将，即（1）式代入回归方程 经整理，得 【3、取第一个主成分回归】求关于第1个主成分的回归 与的回归方程为 回归方程高度显著。为了将主成分还原为原变量、、，将，即（1）式代入回归方程 经整理，得 §2 基于相关阵R的主成分回归 【解】 基于相关阵R的主成分向量分别记为： 求样本均值向量和样本协差阵R，由R求得特征根、特征向量： ， 0.706 0.036 -0.707 0．044 -0.999 -0.007 0.707 0.026 0.707 特征根 1.999 0.998 0.003 贡献率 0.6664 0.3327 0.090 累计贡献率 0.6664 0.9991 1.000 主成分、、的与原变量、、的关系如下 由特征向量求得三个主成分的得分： 年 1949 15.9 -0.419 -4.381 -8.184 1950 16.4 0.019 -4.804 -8.362 1951 19.0 0.458 -5.764 -8.427 1952 19.1 0.639 -5.908 -8.437 1953 18.8 0.883 -7.316 -8.44 1954 20.4 1.25 -6.952 -8.587 1955 22.7 1.714 -7.389 -8.693 1956 26.5 2.152 -5.618 -8.77 1957 28.1 2.667 -6.407 -8.958 1958 27.6 2.851 -6.503 -9.088 1959 26.3 3.089 -9.374 -9.217 【1、取三个主成分】 求关于三个主成分、、的回归 与、、的回归方程为 将主成分、、还原为原变量、、，将代入回归方程 经整理，得 可看出，若保留三个主成分，则主成分回归与最小二乘回归的结果一样。还可看出，保留前两个主成分、即可。 【2、取前2个主成分】 求关于前两个主