高维数据降维方法.pdf

第 5 卷 第 8 期 2009 年 8 月 高维数据降维方法 张道强 陈松灿 关键词 ：高维数据 降维 南京航空航天大学 引言 表示法或 “词袋” （Bag-of-Words ）法，即先选 取一组单词作为词典，然后统计词典中的单词 真实世界中的很多数据都是高维的，即数据 在文档中出现的频度，从而用向量 （维数等于 包含很多属性或特征。为表示方便，通常把一个 词典大小）来表示该文档的大小。由于实际词 数据样本表示为一个向量，向量的每个元素用来 典的大小通常为几千甚至上万，因此用向量空 表示该样本在相应特征上的值。例如，用灰度图 间法得到的文档向量也成了维数非常巨大的高 像数据像素点上的灰度值作为特征，按逐行或逐 维数据 （见图2 ）。此外，现实中的高维数据 列的顺序将其拉伸成一个向量，再用向量来表示 还包括生物信息学中的基因阵列、时间序列以及 图像。但是，即使对于一幅中等规模的图像，经 高光谱遥感数据等等。 过拉伸后生成向量的维数也非常巨大，比如100 高维数据的挑战 × 像素 100像素的图像对应的是10000维的高维空 间 （见图1 ）。又如，对于文档数据 （包括万维 尽管高维数据比低维数据拥有更多的信 网（Web ）文本、Email等），一般采用向量空间 息量，但在实际应用中对高维数据进行直接操 110 100 200 150 90 100 80 50 70 110 60 100 50 90 40 80 70 30 60 20 50 40 10 80 30 60 10 20 30 40 50 60 70 80 90 20 40 10 20 图1 人脸图像示例 （左图