数学建模聚类分析马莎莎.pptx

聚 类 分 析; 一、聚类分析（Cluster Analysis）简介 聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类的分析技术。;基本思想 ;基本思想 ; 一个事物常常需要用多个变量来刻画，如果对于一群有待分类的样本点需用p个变量描述，则这个样本点可以看成是 空间中的一个点。;R型是对变量进行分类处理，其作用在于： 可以了解变量间及变量组合间的亲疏关系 可以根据变量的聚类结果及它们之间的关系，选择主要变量进行回归分析或Q型聚类分析;相似性度量;Q型样本间的“相似性”度量—距离; 1、闵氏距离(Minkowski);6.马氏距离; 例1 欧洲各国的语言有许多相似之处，有的十分 相似。为了研究这些语言的历史关系，也许通过比较 他们数字的表达式比较恰当。表格列举出英语，挪威语，丹麦语，荷兰语，德语，法语，西班牙语，意大利语，波兰语，匈牙利语和芬兰语的1,2,…,10的拼法，希望计算这11种语言之间的语言的距离.;11种欧洲语言的数词;选择适用的距离;首先定义类与类之间的距离，由类间距离的定义 ;;1 、最短距离（Nearest Neighbor) ;最短距离法进行聚类分析的步骤如下： （1）定义样品之间距离，计算样品的两两距离，得一距离 阵记为D（0） ，开始每个样品自成一类，显然这时Dij = dij。 （2）找出距离最小元素，设为Dpq，则将Gp和Gq合并成一个 新类，记为Gr，即Gr = ｛Gp，Gq｝。 （3）按（5.12）计算新类与其它类的距离。 （4）重复（2）、（3）两步，直到所有元素。并成一类为 止。如果某一步距离最小的元素不止一个，则对应这些 最小元素的类可以同时合并。;【例2】设有六个样品，每个只测量一个指标，分别是1，2，5，7，9，10，试用最短距离法将它们分类。 （1）样品采用绝对值距离，计算样品间的距离阵D（0） ，见表1;; （2）D（0）中最小的元素是D12＝D56＝1，于是将G1和G2合 并成G7，G5和G6合并成G8，并利用（5.12）式计算新类与其 它类的距离D（1） ，见表2; （3）在D（1）中最小值是D34＝D48＝2，由于G4与G3合并， 又与G8合并，因此G3、G4、G8合并成一个新类G9，其与其 它类的距离D（2） ，见表3; （4）最后将G7和G9合并成G10，这时所有的六个样品聚为一类，其过程终止。 上述聚类的可视化过程见图1所示，横坐标的刻度表示并类的距离。这里我们应该注意，聚类的个数要以实际情况所定，其详细内容将在后面讨论。;G2={2};2.最长距离（Furthest Neighbor ） ; 再找距离最小两类并类，直至所有的样品全归为一类为止。可以看出最长距离法与最短距离法只有两点不同： 一是类与类之间的距离定义不同； 另一是计算新类与其它类的距离所用的公式不同。;【例2】针对例1的数据，试用重心法将它们聚类。 （1）样品采用欧氏距离，计算样品间的平方距离阵D2（0），见表4所示。 ; （2）D2（0）中最小的元素是D212＝D256＝1，于是将G1和G2合 并成G7，G5和G6合并成G8，并利用（5.18）式计算新类与 其它类的距离得到距离阵D2（1） ，见表5： 其中， 其它结果类似可以求得 ; （3）在D2（1）中最小值是D234＝4，那么G3与G4合并一个新类G9，其与与其它类的距离D2（2） ，见表6： ; （4）在中最小值是＝12.5，那么与合并一个新类，其与与 其它类的距离，见表7：;（5）最后将G7和G10合并成G11，这时所有的六个样品聚为一类，其过程终止。 上述重心法聚类的可视化过程见图3所示，横坐标的刻度表示并类的距离。;G1={1}; 5. 离差平方和法 该方法是Ward提出来的，所以又称为Ward法。该方法的基本思想来自于方差分析，如果分类正确，同类样品的离差平方和应当较小，类与类的离差平方和较大。具体做法是先将n个样品各自成一类，然后每次缩小一类，每缩小一类，离差平方和就要增大，选择使方差增加最小的两类合并，直到所有的样品归为一类为止。 设将n个样品分成k类G1，G2，…，Gk，用Xit表示Gt中的第I 个样品，nt表示Gt中样品的个数， 是Gt的重心，则Gt的样品离差平方和为;1、夹角余弦;系统聚类分析;第二步根据所确定的样本（或变量）“距离”公式，