应用多元统计分析课后答案.doc

第五章 聚类分析

5.1 判别分析和聚类分析有何区别？

答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n个样本，对每个样本测得p项指标（变量）的数据，已知每个样本属于k个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。

5.2 试述系统聚类的基本思想。

答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。

5.3 对样品和变量进行聚类分析时， 所构造的统计量分别是什么？简要说明为什么这样构造？

答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n个样本看作p维空间的n个点。点之间的距离即可代表样品间的相似度。常用的距离为

1/qd(q)(XX)（一）闵可夫斯基距离：ijikjk

k1pqq取不同值，分为 （1）绝对距离（q1）

pdij(1)XikXjk

k1（2）欧氏距离（q2）

dij(2)(XikXjk)k1p21/2

（3）切比雪夫距离（

q）

dij()maxXikXjk1kp

1pXikXjk（二）马氏距离 dij(L) p k  1 X ik  X jk

2（三）兰氏距离 dij(M)(XiXj)Σ1(XiXj)



对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。 将变量看作p维空间的向量，一般用

p（一）夹角余弦 XikXjkk1 cos ijpp 2(Xik)(X2jk) k1k1

（二）相关系数

p (XikXi)(XjkXj)k1 rij pp (XikXi)2(XjkXj)2k1k1

5.4 在进行系统聚类时，不同类间距离计算方法有何区别？选择距离公式应遵循哪些原则？

答： 设dij表示样品Xi与Xj之间距离，用Dij表示类Gi与Gj之间的距离。 （1）. 最短距离法

Dij

XiGi,XjGjmindij Dkr

（2）最长距离法

XiGk,XjGrmindijmin{Dkp,Dkq}

DpqXiGp,XjGqmaxdij

DkrXiGk,XjGrmaxdijmax{Dkp,Dkq}

（3）中间距离法 121222 Dkr DkpDkqDpq 22

其中

（4）重心法

2Dpq(XpXq)(XpXq) Xr1(npXpnqXq) nrD2krnpnrD2kpnqnrD2kqnpnqnr22Dpq

（5）类平均法

1Dnpnq2pq1d DnknrXiGpXjGj2ij2krXiGkXjGrd2ijnpnrD2kpnqnr2 Dkq

（6）可变类平均法

n2 Dkr (1)(pnr

2Dkpnqnr22 Dkq)Dpq其中是可变的且 <1

（7）可变法

2Dkr1222(DkpDkq)Dpq 其中是可变的且 <1 2nt（8）离差平方和法

St(XitXt)(XitXt)

t1

nk2DDDDpq

nrnknrnknrnk2kr2kp2kqnknpnknq通常选择距离公式应注意遵循以下的基本原则：

（1）要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。

（2）要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行聚类分析之前已经对变量作了标准化处理，则通常就可采用欧氏距离。

（3）要考虑研究对象的特点和计算量的大小。样品间距离公式的选择是一个比较复杂且带有一定主观性的问题，我们应根据研究对象的特点不同做出具体分折。实际中，聚类分析前不妨试探性地多选择几个距离公式分别进行聚类，然后对聚类分析的结果进行对比分析，以

确定最合适的距离测度方法。

5.5试述K均值法与系统聚类法的异同。

答：相同：K—均值法和系统聚类法一样，都是以距离的远近亲疏为标准进行聚类的。

不同：系统聚类对不同的类数产生一系列的聚类结果，而K—均值法只能产生指定类数的聚类结果。

具体类数的确定，离不开实践经验的积累；有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K—均值法确定类数的参考。

5.6 试述K均值法与系统聚类有何区别？试述有序聚类法的基本思想。

答：K均值法的基本思想是将每一个样品分配给最近中心（均值）的类中。系统聚类对不同的类数产生一系列的聚类结果，而K—均值法只能产生指定类数的聚类结果。具体类数的确定，有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K均值法确定类数的参考。

有序聚类就是解决样品的次序不能变动时的聚类分析问题。如果用X(1),X(2),,X(n)表示

n个有序的样品，则每一类必须是这样的形式，即X(i),X(i1),,X(j)，其中1in,且

jn，简记为Gi{i,i1,,j}。在同一类中的样品是次序相邻的。一般的步骤是（1）

计算直径{D（i,j）}。（2）计算最小分类损失函数{L[p(l,k)]}。(3)确定分类个数k。（4）最优分类。

5.7 检测某类产品的重量， 抽了六个样品， 每个样品只测了一个指标，分别为1，2，3，6，9，11.试用最短距离法，重心法进行聚类分析。 （1）用最短距离法进行聚类分析。 采用绝对值距离，计算样品间距离阵 0 1 0 2 1 0 5 4 3 0 8 7 6 3 0 10 9 8 5 2 0

由上表易知 计算距离阵

0

中最小元素是 于是将，，聚为一类，记为

3 0 6 3 0 8 5 2 0 中最小元素是计算样本距离阵 0 3 0 6 3 0

=2 于是将

，

聚为一类，记为

中最小元素是因此，

于是将，聚为一类，记为

（2）用重心法进行聚类分析

计算样品间平方距离阵 0 1 0 4 1 0

25 16 9 0 64 49 36 9 0 100 81 64 25 4 0

易知 记为

中最小元素是 于是将，，聚为一类，

计算距离阵 0

16 0 49 9 0 81 25 4 0

注：计算方法

中最小元素是计算样本距离阵

=4 于是将

，

,其他以此类推。

聚为一类，记为

0 16 0 64 16 0

中最小元素是 于是将因此，

，聚为一类，记为

5.8 下表是15个上市公司2001年的一些主要财务指标，使用系统聚类法和K－均值法分别对这些公司进行聚类，并对结果进行比较分析。

公司 编号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 净资产收益率 11.09 11.96 0 11.58 -6.19 10 10.49 11.12 3.41 1.16 30.22 8.19 95.79 16.55 -24.18 每股净利润 0.21 0.59 0.03 0.13 -0.09 0.47 0.11 -1.69 0.04 0.01 0.16 0.22 -5.2 0.35 -1.16 总资产周转率 0.05 0.74 0.03 0.17 0.03 0.48 0.35 0.12 0.2 0.54 0.4 0.38 0.5 0.93 0.79 资产负债率 96.98 51.78 181.99 46.07 43.3 68.4 82.98 132.14 67.86 43.7 87.36 30.31 252.34 72.31 56.26 流动负债比率 70.53 90.73 100 92.18 82.24 86 99.87 100 98.51 100 94.88 100 99.34 84.05 97.8 每股净资产 1.86 4.95 -2.98 1.14 1.52 4.7 1.02 -0.66 1.25 1.03 0.53 2.73 -5.42 2.14 4.81 净利润增长率 -44.04 7.02 103.33 6.55 -1713.5 -11.56 100.23 -4454.39 -11.25 -87.18 729.41 -12.31 -9816.52 115.95 -533.89 总资产增长率 81.99 16.11 21.18 -56.32 -3.36 0.85 30.32 -62.75 -11.43 -7.41 -9.97 -2.77 -46.82 123.41 -27.74 解:令净资产收益率为X1，每股净利润X2，总资产周转率为X3，资产负债率为X4，流动负债比率为X5，每股净资产为X6，净利润增长率为X7，总资产增长率为X8，用spss对公司聚类分析的步骤如下：

a) 系统聚类法:

1. 在SPSS窗口中选择Analyze→Classify→Hierachical Cluster，调出

系统聚类分析主界面，并将变量X1-X8移入Variables框中。在Cluster栏中选择Cases单选按钮，即对样品进行聚类（若选择Variables，则对变量进行聚类）。在Display栏中选择Statistics和Plots复选框，这样在结果输出窗口中可以同时得到聚类结果统计量和统计图。

图5.1 系统分析法主界面

2. 点击Statistics按钮，设置在结果输出窗口中给出的聚类分析统计量。

我们选择Agglomeration schedule与Cluster Membership中的Range of solution 2-4，如图5.2所示，点击Continue按钮，返回主界面。 （其中，Agglomeration schedule表示在结果中给出聚类过程表，显示系统聚类的详细步骤；Proximity matrix 表示输出各个体之间的距离矩阵；Cluster Membership 表示在结果中输出一个表，表中显示每个个体被分配到的类别，Range of solution 2-4即将所有个体分为2至4类。） 3. 点击Plots按钮，设置结果输出窗口中给出的聚类分析统计图。选中

Dendrogram复选框和Icicle栏中的None单选按钮，如图5.3，即只给出聚类树形图，而不给出冰柱图。单击Continue按钮，返回主界面。

图5.2 Statistics子对话框 图5.3 Plots子对话框

4. 点击Method按钮，设置系统聚类的方法选项。Cluster Method下拉列

表用于指定聚类的方法，这里选择Between-group inkage（组间平均数连接距离）；Measure栏用于选择对距离和相似性的测度方法，选择Squared Euclidean distance（欧氏距离）；单击Continue按钮，返回主界面。

图5.4 Method子对话框 图5.5 Save子对话框 5. 点击Save按钮，指定保存在数据文件中的用于表明聚类结果的新变量。

None表示不保存任何新变量；Single solution表示生成一个分类变量，在其后的矩形框中输入要分成的类数；Range of solutions表示生成多个分类变量。这里我们选择Range of solutions，并在后面的两个矩形框中分别输入2和4，即生成三个新的分类变量，分别表明将样品分为2类、3类和4类时的聚类结果,如图5.5。点击Continue，返回主界面。 6. 点击OK按钮，运行系统聚类过程。

聚类结果分析:

下面的群集成员表给出了把公司分为2类，3类，4类时各个样本所属类别的情况，另外，从右边的树形图也可以直观地看到，若将15个公司分为2类，则13独自为一类，其余的为一类；若分为3类，则公司8分离出来，自成一类。以此类推。 表5.1 各样品所属类别表

图5.6 聚类树形图

b) K均值法的步骤如下：

1. 在SPSS窗口中选择Analyze→Classify→K-Means Cluster，调出K均

值聚类分析主界面，并将变量X1-X8移入Variables框中。在Method框中选择Iterate classify，即使用K-means算法不断计算新的类中心，

并替换旧的类中心（若选择Classify only，则根据初始类中心进行聚类，在聚类过程中不改变类中心）。在Number of Cluster后面的矩形框中输入想要把样品聚成的类数，这里我们输入3，即将15个公司分为3类。

（Centers按钮，则用于设置迭代的初始类中心。如果不手工设置，则系统会自动设置初始类中心，这里我们不作设置。）

图5.7 K均值聚类分析主界面

2. 点击Iterate按钮，对迭代参数进行设置。Maximum Iterations参数框

用于设定K-means算法迭代的最大次数，输入10，Convergence Criterion参数框用于设定算法的收敛判据，输入0，只要在迭代的过程中先满足了其中的参数，则迭代过程就停止。单击Continue，返回主界面。

图5.8 Iterate子对话框

3. 点击Save按钮，设置保存在数据文件中的表明聚类结果的新变量。我们

将两个复选框都选中，其中Cluster membership选项用于建立一个代表聚类结果的变量，默认变量名为qcl_1；Distance from cluster center选项建立一个新变量，代表各观测量与其所属类中心的欧氏距离。单击Continue按钮返回。

图5.9 Save子对话框

4. 点击Options按钮，指定要计算的统计量。选中Initial cluster centers

和Cluster information for each case复选框。这样，在输出窗口中将给出聚类的初始类中心和每个公司的分类信息，包括分配到哪一类和该公司距所属类中心的距离。单击Continue返回。

图5.10 Options子对话框

5. 点击OK按钮，运行K均值聚类分析程序。

聚类结果分析:

以下三表给出了各公司所属的类及其与所属类中心的距离，聚类形成的类的中心的各变量值以及各类的公司数。由以上表格可得公司13与公司8各自成一类，其余的公司为一类。

通过比较可知，两种聚类方法得到的聚类结果完全一致。

5.9下表是某年我国16个地区农民支出情况的抽样调查数据，每个地区调查了反映每人平均生活消费支出情况的六个经济指标。试通过统计分析软件用不同的方法进行系统聚类分析，并比较何种方法与人们观察到的实际情况较接近。

地区 北京 天津 河北 山西 内蒙 辽宁 吉林 黑龙江 上海 江苏 浙江 安徽 福建 江西 山东 河南 食品 190.33 135.2 95.21 104.78 128.41 145.68 159.37 116.22 221.11 144.98 169.92 135.11 144.92 140.54 115.84 101.18 衣着 43.77 36.4 22.83 25.11 27.63 32.83 33.38 29.57 38.64 29.12 32.75 23.09 21.26 21.5 30.26 23.26 燃料 9.73 10.47 9.3 6.4 8.94 17.79 18.37 13.24 12.53 11.67 12.72 15.62 16.96 17.64 12.2 8.46 住房 60.54 44.16 22.44 9.89 12.58 27.29 11.81 13.76 115.65 42.6 47.12 23.54 19.52 19.19 33.6 20.2 交通和 通讯 49.01 36.49 22.81 18.17 23.99 39.09 25.29 21.75 50.82 27.3 34.35 18.18 21.75 15.97 33.77 20.5 娱乐教 育文化 9.04 3.94 2.8 3.25 2.27 3.47 5.22 6.04 5.89 5.74 5 6.39 6.73 4.94 3.85 4.3 解:令食品支出为X1，衣着支出为X2，燃料支出为X3，住房支出为X4，交通和通讯支出为X5，娱乐教育文化支出为X6，用spss对16各地区聚类分析的步骤如5.8题，不同的方法在第4个步骤的Method子对话框中选择不同的Cluster method。

1. Between-group inkage（组间平均数连接距离）

上表给出了把全国16个地区分为2类、3类和4类时，各地区所属的类别，另外从右边的树形图也可以直观地观察到，若用组间平均数连接距离将这些地区分为3类，则9（上海）独自为一类，1（北京）和11（浙江）为一类，剩余地区为一类。

2. Within-group linkage（组内平均连接距离）

若用组内平均数连接距离将这些地区分为3类，则9（上海）独自为一类，1（北京）独自为一类，剩余地区为一类。

3. Nearest neighbor（最短距离法）

若用最短距离法将这些地区分为3类，则9（上海）独自为一类，1（北京）独自为一类，剩余地区为一类。

4. Furthest neighbor（最远距离法）

若用最远距离法将这些地区分为3类，则9（上海）独自为一类，1（北京）和11（浙江）为一类，剩余地区为一类。

5. Centroid cluster（重心法）

若用重心法将这些地区分为3类，则9（上海）独自为一类，1（北京）和11（浙江）为一类，剩余地区为一类。

6. Median cluster（中位数距离）

若用中位数距离法将这些地区分为3类，则9（上海）独自为一类，1（北京）和11（浙江）为一类，剩余地区为一类。

7. Ward method（离差平方和）

若用离差平方和法将这些地区分为3类，则9（上海），1（北京）和11（浙江）为一类，2（天津）、6（辽宁）、7（吉林）、10（江苏）、12（安徽）、13（福建）和14（江西）为一类，剩余地区为一类。

5.10 根据上题数据通过SPSS统计分析软件进行快速聚类运算，并与系统聚类分析结果进行比较。

解：快速聚类运算即K均值法聚类，具体步骤同5.8，聚类结果如下：

聚类的结果为9（上海）独自为一类，1（北京）、2（天津）、6（辽宁）、7（吉林）、10（江苏）、11（浙江）、13（福建）和14（江西）为一类，剩余地区为一类。

5.11下表是2003年我国省会城市和计划单列市的主要经济指标：人均GDPx1（元）、人均工业产值x2（元）、客运总量x3（万人）、货运总量x4（万吨）、地方财政预算内收入x5（亿元）、固定资产投资总额x6（亿元）、在岗职工占总人口的比例x7（％）、在岗职工人均工资额x8（元）、城乡居民年底储蓄余额x9（亿元）。试通过统计分析软件进行系统聚类

分析，并比较何种方法与人们观察到的实际情况较接近。

城市 北京 天津 石家庄 太原 呼和浩特 沈阳 大连 长春 哈尔滨 上海 南京 杭州 宁波 合肥 福州 厦门 南昌 济南 青岛 郑州 武汉 长沙 广州 深圳 南宁 海口 重庆 成都 贵阳 昆明 西安 兰州 西宁 银川 乌鲁木齐 南宁 海口 x1 31886 26433 15134 15752 18991 23268 29145 18630 14825 46586 27547 32667 32543 10621 22281 53590 14221 23437 24705 16674 21278 15446 48220 191838 8176 16442 7190 17914 11046 16215 13140 14459 7066 11787 22508 31886 26433 x2 33168 43732 13159 15831 11257 15446 27615 21045 7561 77083 43853 49823 47904 11714 21310 93126 9205 22634 35506 14023 17083 8873 55404 347519 3390 14553 5076 9289 10350 11601 8913 17136 5605 11013 17137 33168 43732 x3 30520 3507 11843 2975 3508 6612 11001 6999 6458 7212 16790 21349 24938 6034 9680 4441 5728 5810 14666 10709 11882 10609 29751 10989 7016 13284 58290 72793 18511 5126 11413 2209 2788 2146 2188 30520 3507 x4 30671 34679 10008 15248 4155 14636 21081 10892 9518 63861 14805 16815 13797 4641 8250 3055 4454 14354 30553 7847 16610 10631 28859 6793 5893 3304 32450 28798 5318 12338 9392 5581 2037 2127 12754 30671 34679 x5 593 205 49 33 21 81 111 46 76 899 136 150 139 36 67 70 31 76 120 66 80 60 275 291 36 12 162 90 40 60 65 21 8 12 41 593 205 x6 2000 934 416 197 182 557 407 294 423 2274 794 717 555 245 376 238 210 429 548 373 623 434 1089 875 170 99 1187 788 231 342 446 203 76 134 180 2000 934 x7 37.8 18.8 9.5 22.8 13.5 14.8 14.7 12.5 17.7 21.0 15.4 11.8 10.9 8.3 11.8 38.6 11.0 13.5 14.5 12.7 17.4 10.0 25.1 69.6 8.3 16.5 6.5 11.9 15.8 14.6 15.9 18.0 10.1 21.9 26.1 37.8 18.8 x8 25312 18648 12306 12679 14116 14961 17560 13870 12451 27305 22190 24667 23691 13901 15053 19024 13913 16027 15335 13538 13730 16987 28805 31053 13171 14819 12440 15274 12181 14255 13505 13489 14629 13497 16509 25312 18648 x9 6441 1825 1044 660 255 1423 1310 831 1154 6055 1134 1466 1060 359 876 397 483 758 908 1048 1286 705 3727 2199 451 284 1897 1494 345 709 1211 468 175 193 420 6441 1825 资料来源：《中国统计年鉴2004》

解:用spss对37个地区聚类分析的步骤如5.8题，不同的方法在第4个步骤的Method子对话框中选择不同的Cluster method。

1.Between-group inkage（组间平均数连接距离）

从上面的树形图可以直观地观察到，若用组间平均数连接距离将这些地区分为3类，则24（深圳）独自为一类，10（上海）和16（厦门）为一类，剩余地区为一类。

2.Within-group linkage（组内平均连接距离）

若用组内平均数连接距离将这些地区分为3类，则24（上海）独自为一类，27（重庆）和28(成都)为一类，剩余地区为一类。

3. Nearest neighbor（最短距离法）

若用最短距离法将这些地区分为2类，则24（深圳）独自为一类，剩余地区为一类。

4.Furthest neighbor（最远距离法）

若用最远距离法将这些地区分为3类，则24（深圳）独自为一类，1（北京）、2（天津）、7（大连）、10（上海）、11（南京）、12（杭州）、13（宁波）、16（厦门）、19（青岛）、23（广州）、36（海宁）和37（海口）为一类，剩余地区为一类。