机器学习与人工智能学习资源导引

机器学习与人工智能学习资源导引刘未鹏我经常在TopLanguage讨论组上推荐一些书籍，也经常问里面的牛人们搜罗一些有关的资料，人工智能、机器学习、自然语言处理、知识发现(特别地，数据挖掘)、信息检索这些无疑是CS领域最好玩的分支了(也是互相紧密联系的)，这里将最近有关机器学习和人工智能相关的一些学习资源归一个类：首先是两个非常棒的Wikipedia条目，我也算是wikipedia的重度用户了，学习一门东西的时候常常发现是始于wikipedia中间经过若干次google，然后止于某一本或几本著作。第一个是“人工智能的历史”(HistoryofArtificialIntelligence)，我在讨论组上写道：而今天看到的这篇文章是我在wikipedia浏览至今觉得最好的。文章名为《人工智能的历史》，顺着AI发展时间线娓娓道来，中间穿插无数牛人故事，且一波三折大气磅礴，可谓”事实比想象更令人惊讶”。人工智能始于哲学思辨，中间经历了一个没有心理学(尤其是认知神经科学的)的帮助的阶段，仅通过牛人对人类思维的外在表现的归纳、内省，以及数学工具进行探索，其间最令人激动的是HerbertSimon(决策理论之父，诺奖，跨领域牛人)写的一个自动证明机，证明了罗素的数学原理中的二十几个定理，其中有一个定理比原书中的还要优雅，Simon的程序用的是启发式搜索，因为公理系统中的证明可以简化为从条件到结论的树状搜索(但由于组合爆炸，所以必须使用启发式剪枝)。后来Simon又写了GPS(GeneralProblemSolver)，据说能解决一些能良好形式化的问题，如汉诺塔。但说到底Simon的研究毕竟只触及了人类思维的一个很小很小的方面——FormalLogic，甚至更狭义一点DeductiveReasoning(即不包含InductiveReasoning,TransductiveReasoning(俗称analogicthinking)。还有诸多比如CommonSense、Vision、尤其是最为复杂的Language、Consciousness都还谜团未解。还有一个比较有趣的就是有人认为AI问题必须要以一个物理的Body为支撑，一个能够感受这个世界的物理规则的身体本身就是一个强大的信息来源，基于这个信息来源，人类能够自身与时俱进地总结所谓的Common-SenseKnowledge(这个就是所谓的EmboddiedMind理论。)，否则像一些老兄直接手动构建Common-SenseKnowledgeBase，就很傻很天真了，须知人根据感知系统从自然界获取知识是一个动态的自动更新的系统，而手动构建常识库则无异于古老的ExpertSystem的做法。当然，以上只总结了很小一部分我个人觉得比较有趣或新颖的，每个人看到的有趣的地方不一样，比如里面相当详细地介绍了神经网络理论的兴衰。所以我强烈建议你看自己一遍，别忘了里面链接到其他地方的链接。顺便一说，徐宥同学打算找时间把这个条目翻译出来，这是一个相当长的条目，看不动E文的等着看翻译吧:)第二个则是“人工智能”(ArtificialIntelligence)。当然，还有机器学习等等。从这些条目出发能够找到许多非常有用和靠谱的深入参考资料。然后是一些书籍书籍：1.《ProgrammingCollectiveIntelligence》，近年出的入门好书，培养兴趣是最重要的一环，一上来看大部头很容易被吓走的:P2.PeterNorvig的《AI,ModernApproach2nd》(无争议的领域经典)。3.《TheElementsofStatisticalLearning》，数学性比较强，可以做参考了。4.《FoundationsofStatisticalNaturalLanguageProcessing》，自然语言处理领域公认经典。5.《DataMining,ConceptsandTechniques》，华裔科学家写的书，相当深入浅出。6.《ManagingGigabytes》，信息检索好书。7.《InformationTheory：InferenceandLearningAlgorithms》，参考书吧，比较深。相关数学基础(参考书，不适合拿来通读)：1.线性代数：这个参考书就不列了，很多。2.矩阵数学：《矩阵分析》，RogerHorn。矩阵分析领域无争议的经典。3.概率论与统计：《概率论及其应用》，威廉·费勒。也是极牛的书，可数学味道太重，不适合做机器学习的。于是讨论组里的DuLei同学推荐了《AllOfStatistics》并说到机器学习这个方向，统计学也一样非常重要。推荐Allofstatistics，这是CMU的一本很简洁的教科书，注重概念，简化计算，简化与MachineLearning无关的概念和统计内容，可以说是很好的快速入门材料。4.最优化方法：《NonlinearProgramming,2nd》非线性规划的参考书。《ConvexOptimization》凸优化的参考书。此外还有一些书可以参考wikipedia上的最优化方法条目。要深入理解机器学习方法的技术细节很多时候(如SVM)需要最优化方法作为铺垫。王宁同学推荐了好几本书：《MachineLearning,TomMichell》,1997.老书，牛人。现在看来内容并不算深，很多章节有点到为止的感觉，但是很适合新手(当然，不能”新”到连算法和概率都不知道)入门。比如决策树部分就很精彩，并且这几年没有特别大的进展，所以并不过时。另外，这本书算是对97年前数十年机器学习工作的大综述，参考文献列表极有价值。国内有翻译和影印版，不知道绝版否。《ModernInformationRetrieval,RicardoBaeza-Yatesetal》.1999老书，牛人。貌似第一本完整讲述IR的书。可惜IR这些年进展迅猛，这本书略有些过时了。翻翻做参考还是不错的。另外，Ricardo同学现在是YahooResearchforEuropeandLatinAmeria的头头。《PatternClassification(2ed)》,RichardO.Duda,PeterE.Hart,DavidG.Stork大约也是01年左右的大块头，有影印版，彩色。没读完，但如果想深入学习ML和IR，前三章(介绍，贝叶斯学习，线性分类器)必修。还有些经典与我只有一面之缘，没有资格评价。另外还有两本小册子，论文集性质的，倒是讲到了了不少前沿和细节，诸如索引如何压缩之类。可惜忘了名字，又被我压在箱底，下次搬家前怕是难见天日了。(呵呵，想起来一本：《MiningtheWeb–DiscoveringKnowledgefromHypertextData》)说一本名气很大的书：《DataMining:PracticalMachineLearningToolsandTechniques》。Weka的作者写的。可惜内容一般。理论部分太单薄，而实践部分也很脱离实际。DM的入门书已经不少，这一本应该可以不看了。如果要学习了解Weka，看文档就好。第二版已经出了，没读过，不清楚。信息检索方面，DuLei同学再次推荐：信息检索方面的书现在建议看Stanford的那本《IntroductiontoInformationRetrieval》，这书刚刚正式出版，内容当然uptodate。另外信息检索第一大牛Croft老爷也正在写教科书，应该很快就要面世了。据说是非常pratical的一本书。对信息检索有兴趣的同学，强烈推荐翟成祥博士在北大的暑期学校课程，这里有全slides和阅读材料：~course/cs410/schedule.htmlmaximzhao同学推荐了一本机器学习：加一本书：Bishop,《PatternRecognitionandMachineLearning》.没有影印的，但是网上能下到。经典中的经典。PatternClassification和这本书是两本必读之书。《PatternRecognitionandMachineLearning》是很新(07年)，深入浅出，手不释卷。最后，关于人工智能方面(特别地，决策与判断)，再推荐两本有意思的书，一本是《SimpleHeuristicsthatMakesUsSmart》另一本是《BoundedRationality:TheAdaptiveToolbox》不同于计算机学界所采用的统计机器学习方法，这两本书更多地着眼于人类实际上所采用的认知方式，以下是我在讨论组上写的简介：这两本都是德国ABC研究小组(一个由计算机科学家、认知科学家、神经科学家、经济学家、数学家、统计学家等组成的跨学科研究团体)集体写的，都是引起领域内广泛关注的书，尤其是前一本，後一本则是对HerbertSimon(决策科学之父，诺奖获得者)提出的人类理性模型的扩充研究)，可以说是把什么是真正的人类智能这个问题提上了台面。核心思想是，我们的大脑根本不能做大量的统计计算，使用fancy的数学手法去解释和预测这个世界，而是通过简单而鲁棒的启发法来面对不确定的世界(比如第一本书中提到的两个后来非常著名的启发法：再认启发法(cognitionheuristics)和选择最佳(TaketheBest)。当然，这两本书并没有排斥统计方法就是了，数据量大的时候统计优势就出来了，而数据量小的时候统计方法就变得非常糟糕;人类简单的启发法则充分利用生态环境中的规律性(regularities)，都做到计算复杂性小且鲁棒。关于第二本书的简介：1.谁是HerbertSimon2.什么是BoundedRationality3.这本书讲啥的：我一直觉得人类的决策与判断是一个非常迷人的问题。这本书简单地说可以看作是《决策与判断》的更全面更理论的版本。系统且理论化地介绍人类决策与判断过程中的各种启发式方法(heuristics)及其利弊(为什么他们是最优化方法在信息不足情况下的快捷且鲁棒的逼近，以及为什么在一些情况下会带来糟糕的后果等，比如学过机器学习的都知道朴素贝叶斯方法在许多情况下往往并不比贝叶斯网络效果差，而且还速度快;比如多项式插值的维数越高越容易overfit，而基于低阶多项式的分段样条插值却被证明是一个非常鲁棒的方案)。在此提一个书中提到的例子，非常有意思：两个团队被派去设计一个能够在场上接住抛过来的棒球的机器人。第一组做了详细的数学分析，建立了一个相当复杂的抛物线近似模型(因为还要考虑空气阻力之类的原因，所以并非严格抛物线)，用于计算球的落点，以便正确地接到球。显然这个方案耗资巨大，而且实际运算也需要时间，大家都知道生物的神经网络中生物电流传输只有百米每秒之内，所以computationalcomplexity对于生物来说是个宝贵资源，所以这个方案虽然可行，但不够好。第二组则采访了真正的运动员，听取他们总结自己到底是如何接球的感受，然后他们做了这样一个机器人：这个机器人在球抛出的一开始一半路程啥也不做，等到比较近了才开始跑动，并在跑动中一直保持眼睛于球之间的视角不变，后者就保证了机器人的跑动路线一定会和球的轨迹有交点;整个过程中这个机器人只做非常粗糙的轨迹估算。体会一下你接球的时候是不是眼睛一直都盯着球，然后根据视线角度来调整跑动方向?实际上人类就是这么干的，这就是heuristics的力量。相对于偏向于心理学以及科普的《决策与判断》来说，这本书的理论性更强，引用文献也很多而经典，而且与人工智能和机器学习都有交叉，里面也有不少数学内容，全书由十几个章节构成，每个章节都是由不同的作者写的，类似于paper一样的，很严谨，也没啥废话，跟《PsychologyofProblemSolving》类似。比较适合geeks阅读哈。另外，对理论的技术细节看不下去的也建议看看《决策与判断》这类书(以及像《别做正常的傻瓜》这样的傻瓜科普读本)，对自己在生活中做决策有莫大的好处。人类决策与判断中使用了很多的heuristics，很不幸的是，其中许多都是在