应用多元统计分析习题解答-聚类分析

第五章聚类分析5.1判别分析和聚类分析有何区别？答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n个样本，对每个样本测得p项指标（变量）的数据，已知每个样本属于k个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。5.2试述系统聚类的基本思想。答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。5.3对样品和变量进行聚类分析时，所构造的统计量分别是什么？简要说明为什么这样构造？答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n个样本看作p维空间的n个点。点之间的距离即可代表样品间的相似度。常用的距离为（一）闵可夫斯基距离：1/1()()pqqijikjkkdqXXq取不同值，分为（1）绝对距离（1q）1(1)pijikjkkdXX（2）欧氏距离（2q）21/21(2)()pijikjkkdXX（3）切比雪夫距离（q）1()maxijikjkkpdXX（二）马氏距离（三）兰氏距离对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。21()()()ijijijdMXXΣXX11()pikjkijkikjkXXdLpXX将变量看作p维空间的向量，一般用（一）夹角余弦（二）相关系数5.4在进行系统聚类时，不同类间距离计算方法有何区别？选择距离公式应遵循哪些原则？答：设dij表示样品Xi与Xj之间距离，用Dij表示类Gi与Gj之间的距离。（1）.最短距离法,minikjrkrijXGXGDdmin{,}kpkqDD（2）最长距离法,maxipjqpqijXGXGDd,maxikjrkrijXGXGDdmax{,}kpkqDD（3）中间距离法其中（4）重心法2()()pqpqpqDXXXX)(1qqpprrXnXnnX12211cos()()pikjkkijppikjkkkXXXX12211()()()()pikijkjkijppikijkjkkXXXXrXXXXijGXGXijdDjjii,min22222121pqkqkpkrDDDD22222pqpqkrkpkqpqrrrnnnnDDDDnnn（5）类平均法221ipjjpqijXGXGpqDdnn221ikjrkrijXGXGkrDdnn22pqkpkqrrnnDDnn（6）可变类平均法其中是可变的且1（7）可变法22221()2krkpkqpqDDDD其中是可变的且1（8）离差平方和法1()()tntittitttSXXXX2222kpkqkkrkpkqpqrkrkrknnnnnDDDDnnnnnn通常选择距离公式应注意遵循以下的基本原则：（1）要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。（2）要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行聚类分析之前已经对变量作了标准化处理，则通常就可采用欧氏距离。（3）要考虑研究对象的特点和计算量的大小。样品间距离公式的选择是一个比较复杂且带有一定主观性的问题，我们应根据研究对象的特点不同做出具体分折。实际中，聚类分析前不妨试探性地多选择几个距离公式分别进行聚类，然后对聚类分析的结果进行对比分析，以确定最合适的距离测度方法。5.5试述K均值法与系统聚类法的异同。2222(1)()pqkrkpkqpqrrnnDDDDnn答：相同：K—均值法和系统聚类法一样，都是以距离的远近亲疏为标准进行聚类的。不同：系统聚类对不同的类数产生一系列的聚类结果，而K—均值法只能产生指定类数的聚类结果。具体类数的确定，离不开实践经验的积累；有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K—均值法确定类数的参考。5.6试述K均值法与系统聚类有何区别？试述有序聚类法的基本思想。答：K均值法的基本思想是将每一个样品分配给最近中心（均值）的类中。系统聚类对不同的类数产生一系列的聚类结果，而K—均值法只能产生指定类数的聚类结果。具体类数的确定，有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K均值法确定类数的参考。有序聚类就是解决样品的次序不能变动时的聚类分析问题。如果用)()2()1(,,,nXXX表示n个有序的样品，则每一类必须是这样的形式，即)()1()(,,,jiiXXX，其中,1ni且nj，简记为},,1,{jiiGi。在同一类中的样品是次序相邻的。一般的步骤是（1）计算直径{D（i,j）}。（2）计算最小分类损失函数{L[p(l,k)]}。(3)确定分类个数k。（4）最优分类。5.7检测某类产品的重量，抽了六个样品，每个样品只测了一个指标，分别为1，2，3，6，9，11.试用最短距离法，重心法进行聚类分析。（1）用最短距离法进行聚类分析。采用绝对值距离，计算样品间距离阵0102105430876301098520由上表易知中最小元素是于是将，，聚为一类，记为计算距离阵0306308520中最小元素是=2于是将，聚为一类，记为计算样本距离阵030630中最小元素是于是将，聚为一类，记为因此，（2）用重心法进行聚类分析计算样品间平方距离阵0104102516906449369010081642540易知中最小元素是于是将，，聚为一类，记为计算距离阵01604990812540注：计算方法,其他以此类推。中最小元素是=4于是将，聚为一类，记为计算样本距离阵016064160中最小元素是于是将，聚为一类，记为因此，5.8下表是15个上市公司2001年的一些主要财务指标，使用系统聚类法和K－均值法分别对这些公司进行聚类，并对结果进行比较分析。公司编号净资产收益率每股净利润总资产周转率资产负债率流动负债比率每股净资产净利润增长率总资产增长率111.090.210.0596.9870.531.86-44.0481.99211.960.590.7451.7890.734.957.0216.11300.030.03181.99100-2.98103.3321.18411.580.130.1746.0792.181.146.55-56.325-6.19-0.090.0343.382.241.52-1713.5-3.366100.470.4868.4864.7-11.560.85710.490.110.3582.9899.871.02100.2330.32811.12-1.690.12132.14100-0.66-4454.39-62.7593.410.040.267.8698.511.25-11.25-11.43101.160.010.5443.71001.03-87.18-7.411130.220.160.487.3694.880.53729.41-9.97128.190.220.3830.311002.73-12.31-2.771395.79-5.20.5252.3499.34-5.42-9816.52-46.821416.550.350.9372.3184.052.14115.95123.4115-24.18-1.160.7956.2697.84.81-533.89-27.74解:令净资产收益率为X1，每股净利润X2，总资产周转率为X3，资产负债率为X4，流动负债比率为X5，每股净资产为X6，净利润增长率为X7，总资产增长率为X8，用spss对公司聚类分析的步骤如下：a)系统聚类法:1.在SPSS窗口中选择Analyze→Classify→HierachicalCluster，调出系统聚类分析主界面，并将变量X8-X1移入Variables框中。在Cluster栏中选择Cases单选按钮，即对样品进行聚类（若选择Variables，则对变量进行聚类）。在Display栏中选择Statistics和Plots复选框，这样在结果输出窗口中可以同时得到聚类结果统计量和统计图。图5.1系统分析法主界面2.点击Statistics按钮，设置在结果输出窗口中给出的聚类分析统计量。我们选择Agglomerationschedule与ClusterMembership中的Rangeofsolution2-4，如图5.2所示，点击Continue按钮，返回主界面。（其中，Agglomerationschedule表示在结果中给出聚类过程表，显示系统聚类的详细步骤；Proximitymatrix表示输出各个体之间的距离矩阵；ClusterMembership表示在结果中输出一个表，表中显示每个个体被分配到的类别，Rangeofsolution2-4即将所有个体分为2至4类。）3.点击Plots按钮，设置结果输出窗口中给出的聚类分析统计图。选中Dendrogram复选框和Icicle栏中的None单选按钮，如图5.3，即只给出聚类树形图，而不给出冰柱图。单击Continue按钮，返回主界面。图5.2Statistics子对话框图5.3Plots子对话框4.点击Method按钮，设置系统聚类的方法选项。ClusterMethod下拉列表用于指定聚类的方法，这里选择Between-groupinkage（组间平均数连接距离）；Measure栏用于选择对距离和相似性的测度方法，选择SquaredEuclideandistance（欧氏距离）；单击Continue按钮，返回主界面。图5.4Method子对话框图5.5Save子对话框5.点击Save按钮，指定保存在数据文件中的用于表明聚类结果的新变量。None表示不保存任何新变量；Singlesolution表示生成一个分类变量，在其后的矩形框中输入要分成的类数；Rangeofsolutions表示生成多个分类变量。这里我们选择Rangeofsolutions，并在后面的两个矩形框中分别输入2和4，即生成三个新的分类变量，分别表明将样品分为2类、3类和4类时的聚类结果,如图5.5。点击Continue，返回主界面。6.点击OK按钮，运行系统聚类过程。聚类结果分析:下面的群集成员表给出了把公司分为2类，3类，4类时各个样本所属类别的情况，另外，从右边的树形图也可以直观地看到，若将15个公司分为2类，则13独自为一类，其余的为一类；若分为3类，则公司8分离出来，自成一类。以此类推。表5.1各样品所属类别表图5.6聚类树形图b)K均值法的步骤如下：1.在SPSS窗口中选择Analyze→Classify→K-MeansCluster，调出K均值聚类分析主界面，并将变量X1-X8移入Variables框中。在Method框中选择Iterateclassify，即使用K-means算法不断计算新的类中心，并替换旧的类中心（若选择Classifyonly，则根据初始类中心进行聚类，在聚类过程中不改变类中心）。在NumberofCluster后面的矩形框中输入想要把样品聚成的类数，这里我们输入3，即将15个公司分为3类。（Centers按钮，则用于设置迭代的初始类中心。如果不手工设置，则系统会自动设置初始类中心，这里我们不作设置。）图5.7K均值聚类分析主界面2.点击Iterate按钮，对迭代参数进行设置。MaximumIterations参数框用于设定K-means算法迭代的最大次数，输入10，ConvergenceCriterio