《统计学习方法》——李航 学习大纲第一章 统计学习方法论第二章 感知机每个方法其实只需要着重掌握三要素和输入输出就可以了,主要看模型、策略和算法。感知机主要是二类分类的线性分类模型。看到后面会注意感知机和支持向量机的区别。第三章 k近邻法k近邻算是入门级别的机器学习的方法了。我们在上机器学习课的时候,老师也介绍这是基础的方法,主要核心思想是“物以类聚”,看训练集中离该输入最近的实例多数属于什么类别。KNN主要掌握三要素,k值的选择、距离度量和分类决策规则。注意在knn算法实现的部分,有提到kd树,平衡kd树和kd数的搜索的算法都比较重要,有利于KNN的实现。第四章 朴素贝叶斯法学习朴素贝叶斯法之前,最好看一下贝叶斯定理。朴素贝叶斯法的精髓在于后验概率最大化,弄清后验概率的含义。第五章 决策树决策树主要抓住三个步骤:特征选择、决策树的生成和决策树的修剪。一般决策树主要用于分类。CART决策树也叫分类与回归决策树,注意掌握生成时最优切分变量和切分点的算法生成的思想。