应用多元统计分析习题解答-判别分析

第四章判别分析4.1简述欧几里得距离与马氏距离的区别和联系。答：设p维欧几里得空间中的两点X=和Y=。则欧几里得距离为。欧几里得距离的局限有①在多元数据分析中，其度量不合理。②会受到实际问题中量纲的影响。设X,Y是来自均值向量为，协方差为的总体G中的p维样本。则马氏距离为D(X,Y)=。当即单位阵时，D(X,Y)==即欧几里得距离。因此，在一定程度上，欧几里得距离是马氏距离的特殊情况，马氏距离是欧几里得距离的推广。4.2试述判别分析的实质。答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。设R1，R2，…，Rk是p维空间Rp的k个子集，如果它们互不相交，且它们的和集为，则称为的一个划分。判别分析问题实质上就是在某种意义上，以最优的性质对p维空间构造一个“划分”，这个“划分”就构成了一个判别规则。4.3简述距离判别法的基本思想和方法。答：距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。其基本思想都是分别计算样本与各个总体的距离（马氏距离），将距离近的判别为一类。①两个总体的距离判别问题设有协方差矩阵∑相等的两个总体G1和G2，其均值分别是1和2，对于一个新的样品X，要判断它来自哪个总体。计算新样品X到两个总体的马氏距离D2（X，G1）和D2（X，G2），则X，D2（X，G1）D2（X，G2）X，D2（X，G1）D2（X，G2，具体分析，2212(,)(,)DGDGXX111122111111111222111211122()()()()2(2)2()XμΣXμXμΣXμXΣXXΣμμΣμXΣXXΣμμΣμXΣμμμΣμμΣμ11211212112122()()()2()22()2()XΣμμμμΣμμμμXΣμμXμααXμ记()()WXαXμ则判别规则为X，W(X)X，W(X)0②多个总体的判别问题。设有k个总体kGGG,,,21，其均值和协方差矩阵分别是kμμμ,,,21和kΣΣΣ,,,21，且ΣΣΣΣk21。计算样本到每个总体的马氏距离，到哪个总体的距离最小就属于哪个总体。具体分析，21(,)()()DGXXμΣXμ111122()CXΣXμΣXμΣμXΣXIX取μΣI1，μΣμ121C，k,,2,1。可以取线性判别函数为()WCXIX，k,,2,1相应的判别规则为iGX若1()max()ikWCXIX4.4简述贝叶斯判别法的基本思想和方法。基本思想：设k个总体kGGG,,,21，其各自的分布密度函数)(,),(),(21xxxkfff，假设k个总体各自出现的概率分别为kqqq,,,21，0iq，11kiiq。设将本来属于iG总体的样品错判到总体jG时造成的损失为)|(ijC，kji,,2,1,。设k个总体kGGG,,,21相应的p维样本空间为),,,(21kRRRR。在规则R下，将属于iG的样品错判为jG的概率为xxdfRijPjRi)(),|(jikji,,2,1,则这种判别规则下样品错判后所造成的平均损失为kjRijPijCRir1)],|()|([)|(ki,,2,1则用规则R来进行判别所造成的总平均损失为kiiRirqRg1),()(kikjiRijPijCq11),|()|(贝叶斯判别法则，就是要选择一种划分kRRR,,,21，使总平均损失)(Rg达到极小。基本方法：kikjiRijPijCqRg11),|()|()(xxdfijCqkikjRiij11)()|(kjRkiiijdfijCq11))()|((xx令1(|)()()kiijiqCjifhxx，则kjRjjdhRg1)()(xx若有另一划分),,,(**2*1*kRRRR，kjRjjdhRg1**)()(xx则在两种划分下的总平均损失之差为kikjRRjijidhhRgRg11**)]()([)()(xxx因为在iR上)()(xxjihh对一切j成立，故上式小于或等于零，是贝叶斯判别的解。从而得到的划分),,,(21kRRRR为1{|()min()}iijjkRhhxxxki,,2,14.5简述费希尔判别法的基本思想和方法。答：基本思想：从k个总体中抽取具有p个指标的样品观测数据，借助方差分析的思想构造一个线性判别函数1122()ppUuXuXuXXuX系数),,,(21puuuu可使得总体之间区别最大，而使每个总体内部的离差最小。将新样品的p个指标值代入线性判别函数式中求出()UX值，然后根据判别一定的规则，就可以判别新的样品属于哪个总体。4.6试析距离判别法、贝叶斯判别法和费希尔判别法的异同。答：①费希尔判别与距离判别对判别变量的分布类型无要求。二者只是要求有各类母体的两阶矩存在。而贝叶斯判别必须知道判别变量的分布类型。因此前两者相对来说较为简单。②当k=2时，若则费希尔判别与距离判别等价。当判别变量服从正态分布时，二者与贝叶斯判别也等价。③当时，费希尔判别用作为共同协差阵，实际看成等协差阵，此与距离判别、贝叶斯判别不同。④距离判别可以看为贝叶斯判别的特殊情形。贝叶斯判别的判别规则是X，W(X)X，W(X)lnd距离判别的判别规则是X，W(X)X，W(X)0二者的区别在于阈值点。当21qq，)1|2()2|1(CC时，1d，0lnd。二者完全相同。4.7设有两个二元总体和，从中分别抽取样本计算得到,,假设，试用距离判别法建立判别函数和判别规则。样品X=（6，0）’应属于哪个总体？解：=，=，==即样品X属于总体4.8某超市经销十种品牌的饮料，其中有四种畅销，三种滞销，三种平销。下表是这十种品牌饮料的销售价格（元）和顾客对各种饮料的口味评分、信任度评分的平均数。销售情况产品序号销售价格口味评分信任度评分畅销12.25822.56733.03943.286平销52.87663.58774.898滞销81.73492.242102.743⑴根据数据建立贝叶斯判别函数，并根据此判别函数对原样本进行回判。⑵现有一新品牌的饮料在该超市试销，其销售价格为3.0，顾客对其口味的评分平均为8，信任评分平均为5，试预测该饮料的销售情况。解：增加group变量，令畅销、平销、滞销分别为group1、2、3；销售价格为X1，口味评分为X2，信任度评分为X3，用spss解题的步骤如下：1.在SPSS窗口中选择Analyze→Classify→Discriminate，调出判别分析主界面，将左边的变量列表中的“group”变量选入分组变量中，将X1、X2、X3变量选入自变量中，并选择Enterindependentstogether单选按钮，即使用所有自变量进行判别分析。2.点击DefineRange按钮，定义分组变量的取值范围。本例中分类变量的范围为1到3，所以在最小值和最大值中分别输入1和3。单击Continue按钮，返回主界面。如图4.1图4.1判别分析主界面3.单击Statistics…按钮，指定输出的描述统计量和判别函数系数。选中FunctionCoefficients栏中的Fisher’s：给出Bayes判别函数的系数。（注意：这个选项不是要给出Fisher判别函数的系数。这个复选框的名字之所以为Fisher’s，是因为按判别函数值最大的一组进行归类这种思想是由Fisher提出来的。这里极易混淆，请读者注意辨别。）如图4.2。单击Continue按钮，返回主界面。图4.2statistics子对话框4.单击Classify…按钮，弹出classification子对话框，选中Display选项栏中的Summarytable复选框，即要求输出错判矩阵，以便实现题中对原样本进行回判的要求。如图4.3。图4.3classification对话框5.返回判别分析主界面，单击OK按钮，运行判别分析过程。1)根据判别分析的结果建立Bayes判别函数：Bayes判别函数的系数见表4.1。表中每一列表示样本判入相应类的Bayes判别函数系数。由此可建立判别函数如下：Group1：3761.162297.121689.11843.811XXXYGroup2：3086.172361.131707.10536.942XXXYGroup3：3447.62960.41194.2449.173XXXY将各样品的自变量值代入上述三个Bayes判别函数，得到三个函数值。比较这三个函数值，哪个函数值比较大就可以判断该样品判入哪一类。ClassificationFunctionCoefficientsgroup123x1-11.689-10.707-2.194x212.29713.3614.960x316.76117.0866.447(Constant)-81.843-94.536-17.449Fisher'slineardiscriminantfunctions表4.1Bayes判别函数系数根据此判别函数对样本进行回判，结果如表4.2。从中可以看出在4种畅销饮料中，有3种被正确地判定，有1种被错误地判定为平销饮料，正确率为75%。在3种平销饮料中，有2种被正确判定，有1种被错误地判定为畅销饮料，正确率为66.7%。3种滞销饮料均正确判定。整体的正确率为80.0%。ClassificationResultsagroupPredictedGroupMembershipTotal123OriginalCount131042120330033%175.025.0.0100.0233.366.7.0100.03.0.0100.0100.0a.80.0%oforiginalgroupedcasescorrectlyclassified.表4.2错判矩阵2)该新饮料的0.31X，82X，53X，将这3个自变量代入上一小题得到的Bayes判别函数，2Y的值最大，该饮料预计平销。也可通过在原样本中增加这一新样本，重复上述的判别过程，并在classification子对话框中同时要求输出casewiseresults，运行判别过程，得到相同的结果。4.9银行的贷款部门需要判别每个客户的信用好坏（是否未履行还贷责任），以决定是否给予贷款。可以根据贷款申请人的年龄（1X）、受教育程度（2X）、现在所从事工作的年数（3X）、未变更住址的年数（4X）、收入（5X）、负债收入比例（6X）、信用卡债务（7X）、其它债务（8X）等来判断其信用情况。下表是从某银行的客户资料中抽取的部分数据，⑴根据样本资料分别用距离判别法、Bayes判别法和Fisher判别法建立判别函数和判别规则。⑵某客户的如上情况资料为（53，1，9，18，50，11.20，2.02，3.58），对其进行信用好坏的判别。目前信用好坏客户序号1X2X3X4X5X6X7X8X已履行还贷责任123172316.600.341.712341173598.001.812.913422723414.600.94.9443911954813.101.934.36535191345.000.401.30未履行还贷责任6371132415.101.801.827291131427.401.461.6583221167523.307.769.72928223236.400.191.2910261432710.502.47.36解：令已履行还贷责任为group0，未履行还贷责任为group1。令（53，1，9，18，50，11.20，2.02，3.58）客户序号为