MATLAB主成分数据处理 .pdf
matlab夏令营数据处理)
主成分分析(principalcomponentAnalysis)又称主分量分析,是由皮尔逊
(pearson)于1901年首先引入,后来由霍特林(hotelling)于1933年进行了发展。主成
分分析是一种通过降维技术把多个变量化为少数几个主成分
(即综合变量)的多元统计方法,这些主成分能够反映原始变量的大部分信息,通常表示为原始变量的线性组
合,为使得这些主成分所包含的信息互不重叠,要求各主成分之间互不相关。主成分分析在很多领域有着广泛的
应用,一般来说,当研究的问题涉及很多变量,并且变量间相关性明显,即包含的信息有所重叠时,可以考虑用
主成分分析的方法,这样容易抓住事物的主要矛盾,使得问题得到简化。
本章主要内容包括:主成分分析的理论简介,主成分分析的MATLAB实现,主成分分析的主要具体
案例。
11.1主成分分析简介
11.1.1主成分分析的几何意义
X(x,x)11-1所
假设从二元总体二12中抽取容量为n的样本,绘岀样本观测值的散点图,如图
xx
示。从图上可以看岀,散点大致分布在一个椭圆内1与2呈现岀明显的线性相关。这n个样品
xxxx
在1轴方向和2方向具有相似的离散度,离散度可以用1和2包含了近视相等的信息量,
丢掉其中任意一个变量,都会损失比较多的信息。图11-1中坐标按逆时针旋转一个角度71,使
xyxy
得1轴旋转到椭圆的长轴方向1,2轴旋转到椭圆的短轴2,则有
y〔=咅cos^+xsin^
12
-A+A(11.1)
ysinxcos
=-x寸寸
212
yyy
此时可以看到,n个点在新坐标系下的坐标1和2几乎不相关,并且%的方差要比2的方
差大得多,也就是说y1包含了原始数据中大部分的信息,此时丢掉变量y2,信息的损失是比较
yy
小的。这里称1为第一主成分2为第二主成分。
主成分分析的过程其实就是坐标系旋转的过程,新坐标系的各个坐标系的轴的方向是原始数据变差最大的
方向,各主成分表达式就是新旧坐标转换关系式。
11.1.2总体的主成分
1从总体协方差矩阵岀发求解主成分
=(,I
xX,X,…X)x
设p为一个p维总体,假定期望和协方差矩阵均存在并已知,记
E(x)var(x)=
二、1,二,考虑如下线性变换
y=axax…ax=a;x
〔1111221pp
廿a?/+8XaXa;x
222+…+?pm二
I-
.y=3aX+