哈工大08机器学习试题

第（1）页共（3）页2008年春硕士研究生机器学习试题下列各题每个大题10分注意：在给出算法时，非标准（自己设计的）部分应给出说明。特别是自己设置的参数及变量的意义要说明。1.请看以下的正例和反例序列，它们描述的概念是“两个住在同一个房间中的人”。每个训练样例描述了一个有序对，每个人由其性别(male、female)、头发颜色(black、brown)、身高(tall、short)以及国籍(US、French)描述。+malebrowntallUS，femaleblackshortUS+malebrownshortFrench，femaleblackshortUS-femalebrowntallFrench，femaleblackshortFrench+maleblacktallFrench，femalebrowntallUS考虑在这些实例上定义的假设空间为：所有假设以一对4元组表示，其中每个值约束可以为：一个特定值(比如male、tall等)、?（表示接受任意值）和（表示拒绝所有值）。例如，下面假设：male?tall?，female??French它表示了所有这样的序对：第一个人为高个男性(国籍发色任意)，第二个人为法国女性(发色和身高任意)。1）根据上述提供的训练样例和假设表示，手动执行候选消除算法。特别是要写出处理了每一个训练样例后变型空间的特殊和一般边界；2）列出最后形成的变型空间中的所有假设。2.假设一个神经网络有一个隐藏层(有一个隐藏层的神经网络由一个输入层、一个隐藏层、一个输出层组成)，写出训练这个神经网络的反向传播算法的步骤。3.简述题：1）简述一种处理ID3算法过适合的方法；2）简述一种处理神经网络过适合的方法。4.给定训练例子集如下表：DayOutlookTemperatureHumidityWindPlayTennis1SunnyHotHighWeakNo2SunnyHotHighStrongNo3OvercastHotHighWeakYes4SunnyMildHighWeakNo5SunnyMildNormalStrongYes6OvercastMildHighStrongYes7OvercastHotNormalWeakYes依据给定的训练例子，使用朴素贝叶斯分类器进行分类。1）求出p(Sunny|Yes)、p(Sunny|No)、p(Mild|Yes)、p(Mild|No)、p(High|Yes)、p(High|No)、p(Strong|Yes)、p(Strong|No);2)给定类别未知例子Outlook=Sunny,Temperature=Mild,Humidity=High,Wind=Strong，计算这个例子的类别。（计算类别时要先列出式子，然后再代入具体的数）。第（2）页共（3）页5.写出AQ算法。6.写出概念聚类算法(或画出流程图)。7.1)写出遗传算法；2)设计编码方案。给定例子集如下表，假定在本问题中规则为IFTHEN形式，规则的前件(IF后面、THEN前面的部分是前件)是属性取值的合取，后件(THEN后面的部分是后件)是例子的类别。比如，一个具体的规则可以是IF(Outlook=Overcast∨Rain)∧(Wind=Strong)THENPlayTennis=yes。设计一个编码方案对规则编码；3)给定两个规则IF(Outlook=Overcast∨Sunny)∧(Humidity=Normal)THENPlayTennis=yes和IF(Outlook=Rain)∧(Wind=Strong)THENPlayTennis=no，使用你设计的编码方案对这两个规则进行编码，然后对两个串作两点交叉运算(交叉点你可以自己定)，最后给出交叉后的两个串表示的规则是什么。dayOutlookTemperatureHumidityWindPlayTennis1SunnyHotHighWeakNo2SunnyHotHighStrongNo3OvercastHotHighWeakYes4RainMildHighWeakYes5RainCoolNormalWeakYes6RainCoolNormalStrongNo7OvercastCoolNormalStrongYes8SunnyMildHighWeakNo9SunnyCoolNormalWeakYes10RainMildNormalWeakYes11SunnyMildNormalStrongYes12OvercastMildHighStrongYes13OvercastHotNormalWeakYes14RainMildHighStrongNo８．给定·目标概念：SafeToStack(x,y)·训练样例：下面显示了一个典型的正例SafeToStack(Obj1，Obj2)：On(Obj1，Obj2)Owner(Obj1，Fred)Type(Obj1，Box)Owner(Obj2，Louise)Type(Obj2，Endtable)Density(Obj1，0.3)Color(Obj1，Red)Material(Obj1，Cardboard)Color(Obj2，Blue)Material(Obj2，Wood)Volume(Obj1，２)·领域理论B：SafeToStack(x,y)←┓Fragile(y)SafeToStack(x,y)←Lighter(x,y)Lighter(x,y)←Weight(x，wx)∧Weight(y，wy)∧LessThan(wx，wy)Weight(x，w)←Volume(x，v)∧Density(x，d)∧Equal(w，v*d)第（3）页共（3）页Weight(x，5)←Type(x，Endtable)Fragil(x)←Material(x，Glass)求用分析学习对上述问题进行处理得到的结果。要求：1)画出解释过程；2)用回归算法普化(generalization)解释过程(不仅要在解释图中表示出各文字常量、变量的替换情况，还要对整个回归过程进行说明，说清楚每步回归是怎么做的，比如某一步回归用的是哪条规则、置换是什么、这个置换在这步回归中都应用(或作用)到了哪些文字)；3)给出分析学习最后得到的规则。9.Foil算法是一个学习Horn子句的算法。FOCL是Foil的一个扩展，在学习过程中FOCL使用了领域知识。参照Foil算法的过程，给出FOCL算法。10．给定一个训练例子集，假设例子的属性值都是离散的，例子类别只有两类(正例和反例)。1)提出一种方法，这种方法将GS算法和感知器学习结合在一起完成学习任务，即提出一个“杂交“算法，这个算法是GS算法和感知器学习的结合。(感知器是只有一个节点的神经网络，结构如下图)；2)说明你这种混合方法可能带来什么好处。x1x0=1w1w0x2w2iniixw0xnwn∑