Logistic回归分类算法

整理文档很辛苦,赏杯茶钱您下走!

免费阅读已结束,点击下载阅读编辑剩下 ...

阅读已结束,您可以下载文档离线阅读编辑

资源描述

Logistic回归分类算法:什么是回归?用一条直线对这些点进行拟合,这个过程就称作回归;Logistic回归进行分类的主要思想是:根据现有数据对分类边界线建立回归公式,以此进行回归。一个例子:假设有一个房屋销售的数据如下:面积(m^2)销售价钱(万元)12325015032087160102220……这个表类似于北京5环左右的房屋价钱,我们可以做出一个图,x轴是房屋的面积。y轴是房屋的售价,如下:如果来了一个新的面积,假设在销售价钱的记录中没有的,我们怎么办呢?我们可以用一条曲线去尽量准的拟合这些数据,然后如果有新的输入过来,我们可以在将曲线上这个点对应的值返回。如果用一条直线去拟合,可能是下面的样子:绿色的点就是我们想要预测的点。首先给出一些概念和常用的符号。房屋销售记录表:训练集(trainingset)或者训练数据(trainingdata),是我们流程中的输入数据,一般称为x房屋销售价钱:输出数据,一般称为y拟合的函数(或者称为假设或者模型):一般写做y=h(x)训练数据的条目数(#trainingset),:一条训练数据是由一对输入数据和输出数据组成的输入数据的维度n(特征的个数,#features)这个例子的特征是两维的,结果是一维的。然而回归方法能够解决特征多维,结果是一维多离散值或一维连续值的问题。线性回归:线性回归假设特征和结果满足线性关系。其实线性关系的表达能力非常强大,每个特征对结果的影响强弱可以由前面的参数体现,而且每个特征变量可以首先映射到一个函数,然后再参与线性计算。这样就可以表达特征与结果之间的非线性关系。我们用X1,X2..Xn去描述feature里面的分量,比如x1=房间的面积,x2=房间的朝向,等等,我们可以做出一个估计函数:θ在这儿称为参数,在这的意思是调整feature中每个分量的影响力,就是到底是房屋的面积更重要还是房屋的地段更重要。为了如果我们令X0=1,就可以用向量的方式来表示了:我们程序也需要一个机制去评估我们θ是否比较好,所以说需要对我们做出的h函数进行评估,一般这个函数称为损失函数(lossfunction)或者错误函数(errorfunction),描述h函数不好的程度,在下面,我们称这个函数为J函数在这儿我们可以认为错误函数如下:这个错误估计函数是去对x(i)的估计值与真实值y(i)差的平方和作为错误估计函数,前面乘上的1/2是为了在求导的时候,这个系数就不见了。至于为何选择平方和作为错误估计函数,讲义后面从概率分布的角度讲解了该公式的来源。如何调整θ以使得J(θ)取得最小值有很多方法,其中有最小二乘法(minsquare),是一种完全是数学描述的方法,和梯度下降法。5梯度下降法在选定线性回归模型后,只需要确定参数θ,就可以将模型用来预测。然而θ需要在J(θ)最小的情况下才能确定。因此问题归结为求极小值问题,使用梯度下降法。梯度下降法最大的问题是求得有可能是全局极小值,这与初始点的选取有关。梯度下降法是按下面的流程进行的:1)首先对θ赋值,这个值可以是随机的,也可以让θ是一个全零的向量。2)改变θ的值,使得J(θ)按梯度下降的方向进行减少。梯度下降法:梯度方向由J(θ)对θ的偏导数确定,由于求的是极小值,因此梯度方向是偏导数的反方向。结果为迭代更新的方式有两种,一种是批梯度下降,也就是对全部的训练数据求得误差后再对θ进行更新,另外一种是增量梯度下降,每扫描一步都要对θ进行更新。前一种方法能够不断收敛,后一种方法结果可能不断在收敛处徘徊。一般来说,梯度下降法收敛速度还是比较慢的。分类和logistic回归一般来说,回归不用在分类问题上,因为回归是连续型模型,而且受噪声影响比较大。如果非要应用进入,可以使用logistic回归。logistic回归本质上是线性回归,只是在特征到结果的映射中加入了一层函数映射,即先把特征线性求和,然后使用函数g(z)将最为假设函数来预测。g(z)可以将连续值映射到0和1上。logistic回归的假设函数如下,线性回归假设函数只是。logistic回归用来分类0/1问题,也就是预测结果属于0或者1的二值分类问题。这里假设了二值满足伯努利分布,也就是当然假设它满足泊松分布、指数分布等等也可以。我们可以写一个一般式出来:假设我们有M个样本且相互独立,有:现在就有一个问题;怎样求得:我们期望的是L最大;所以就用梯度上升法;代码实战:收集数据:采用任何方法收集数据准备数据:数据类型,结构化数据;对缺项数据的处理分析数据:采用任意方法对数据进行分析训练算法:找到最佳回归系数测试算法:评估分类效果使用算法:收集数据:运行train.py;关键代码:又有一个问题:梯度上升算法在每次更新回归系数时都需要遍历整个数据集,该方法在处理100个左右的数据集是尚可,但如果有数十亿样本和成千上万的特征,那么该算法的复杂度就太高了。如何改进?一种改进的方法是一次仅用一个样本点来更新回归系统。更快收敛。运行train1.py参数调整:一方面,alpha在每次迭代的时候都会调整;另一方面,通过随机选取样本来更新回归系数;为了减少周期性波动;所有的调整都是为了使Seta系统更快的收敛,减少运算次数;完整例子:从疝气病症预测病马的死亡率训练样本和测试样本一起打开了;先训练,再测试,最后算出错误率;运行test.py

1 / 10
下载文档,编辑使用

©2015-2020 m.777doc.com 三七文档.

备案号:鲁ICP备2024069028号-1 客服联系 QQ:2149211541

×
保存成功