数据分析(方法与案例)作者贾俊平统计学1-2统计学STATISTICS(第四版)2020-2-18统计思维总有一天会像读与写一样成为一个有效率公民的必备能力。——H.G.Wells统计名言第1章统计和统计数据1.1统计及其应用领域1.2怎样获得统计数据?1-5统计学STATISTICS(第四版)2020-2-18学习目标统计学的含义统计学的研究内容统计的应用领域统计数据的类型获得统计数据的途径1-6统计学STATISTICS(第四版)2020-2-18你相信这样的一些统计结论吗?吸烟对健康是有害的,吸香烟的男性减少寿命2250天不结婚的男性会减少寿命3500天,不结婚的女性会减少寿命1600天身体超重30%会使寿命减少1300天每天摄取500毫升维生素C,生命可延长6年身材高的父亲,其子女的身高也较高二个出生的子女没有第一个聪明,第三个出生的子女没有第二个聪明,依此类推学生们在听了莫扎特钢琴曲10分钟后的推理测试会比他们听10分钟娱乐磁带或其他曲目做得更好上课坐在前面的学生平均考试分数比坐在后面的学生高漂亮的女性有损男性的智力。男性在看到漂亮女性时智力会下降,这就是为什么大学里的女孩子比男孩子学习好的原因1.1统计及其应用领域1.1.1统计学研究什么?1.1.2统计的应用第1章统计和统计数据1.1.1统计学研究什么?1.1统计及其应用领域1-9统计学STATISTICS(第四版)2020-2-18什么是统计学?(statistics)1.收集数据:取得数据2.处理数据:图表展示3.分析数据:利用统计方法分析数据4.数据解释:结果的说明5.得到结论:从数据分析中得出客观结论收集、处理、分析、解释数据并从数据中得出结论的科学1-10统计学STATISTICS(第四版)2020-2-18统计方法统计方法描述统计推断统计参数估计假设检验1-11统计学STATISTICS(第四版)2020-2-18描述统计(descriptivestatistics)1.研究数据收集、整理和描述的统计学方法2.内容搜集数据整理数据展示数据描述性分析3.目的描述数据特征找出数据的基本规律02550Q1Q2Q3Q4¥x=30s2=1051-12统计学STATISTICS(第四版)2020-2-18推断统计(inferentialstatistics)1.研究如何利用样本数据来推断总体特征的统计学方法2.内容参数估计假设检验3.目的对总体特征作出推断样本总体1-13统计学STATISTICS(第四版)2020-2-18统计学研究什么?1.物理学研究的是如热、光、电、运动规律那样的自然现象2.化学家测定物质的组成及化学元素之间的交互作用3.生物学家研究植物和动物的生活4.数学家则在给出的假定之下沉溺于他自己推演各种命题的游戏5.这些学科中的每一门都有它自己的问题,而且有解决这些问题的各自的方法,各学科为此而成为一门单独的学科1-14统计学STATISTICS(第四版)2020-2-18统计学研究什么?1.统计学没有任何固定的对象,是一门独特的学问2.统计学研究的是来自各领域的数据,由解决其他领域内的问题而存在并兴旺发达。按萨维奇(L.J.Savage)的说法:统计学基本上是寄生的。靠研究其他领域内的工作而生存。这不是对统计学的轻视,这是因为对很多寄主来说,如果没有寄生虫就会死。对有的动物来说,如果没有寄生虫就不能消化它们的食物。因此,人类奋斗的很多领域,如果没有统计学,虽然不会死亡,但一定会变得很弱1-15统计学STATISTICS(第四版)2020-2-18统计学研究什么?统计学是一门科学统计学提供一套方法和技术,这些方法和技术不能用于固定模式,使用者在给定的情况下必须根据所掌握的专门知识选择使用的方法,而且,如果需要还要进行必要的修正统计方法是通用的数据分析方法。这些方法不是为某个特定的问题领域而构造的统计学是一种技术如同工业生产过程中的质量控制程序一样,统计方法是为保证产品达到所希望的质量和保持其稳定性的的管理系统中建立起来的统计方法也能用于控制、减少和考察不确定性统计学是一门艺术作为归纳推理的统计方法不是没有争议的。不同的人对同一组数据的分析可能得到不同的结论一本印度小说《红色城堡》(TheRedFort)说:使用数字讲故事取决于统计学家的技巧和他们的经验。在这个意义下,统计学也是一门艺术1-16统计学STATISTICS(第四版)2020-2-18统计是一种思维方式统计思维总有一天会像读与写一样成为一个有效率公民的必备能力(H.G.Wells)在终极的分析中,一切知识都是历史;在抽象的意义下,一切科学都是数学;在理性的基础上,所有的判断都是统计学(C.R.Rao)统计方法体系1.1.2统计的应用1.1统计及其应用领域1-19统计学STATISTICS(第四版)2020-2-18统计的应用领域【例1-1】用统计识别作者1787—1788年,三位作者AlexanderHamilton,JohnJay和JamesMadison为了说服纽约人认可宪法,匿名发表了著名的85篇论文。这些论文中的大多数作者已经得到了识别,但是,其中的12篇论文的作者身份引起了争议通过对不同单词的频数进行统计分析,得出的结论是,JamesMadison最有可能是这12篇论文的作者。现在,对于这些存在争议的论文,认为JamesMadison是原创作者的说法占主导地位,而且几乎可以肯定这种说法是正确1-20统计学STATISTICS(第四版)2020-2-18统计的应用领域【例1-2】用简单的描述统计量得到一个重要发现费舍(R.A.Fisher)在1952的一篇文章中举了一个例子,说明如何由基本的描述统计量的知识引出一个重要的发现。20世纪早期,哥本哈根卡尔堡实验室的施密特(J.Schmidt)发现不同地区所捕获的同种鱼类的脊椎骨和鳃线的数量有很大不同;甚至在同一海湾内不同地点所捕获的同种鱼类,也发现这样的倾向然而,鳗鱼的脊椎骨的数量变化不大。施密特从欧洲各地、冰岛、亚速尔群岛以及尼罗河等几乎分离的海域里所捕获的鳗鱼的样本中,计算发现了几乎一样的均值和标准偏差值。由此,施密特推断所有各个不同海域内的鳗鱼是由海洋中某公共场所繁殖的。后来名为“戴纳(Dana)”的科学考察船在一次远征中发现了这个场所1-21统计学STATISTICS(第四版)2020-2-18统计的应用领域【例1-3】挑战者号航天飞机失事预测1986年1月28日清晨,载有7名宇航员的挑战者号进入发射状态。就在发射前,有冰片牢附在机壳上。几分钟后,正当电视新闻报道它已进入轨道时,航天飞机在毁灭性的爆炸声中化成碎片,机上的宇航员片骨未存推动航天飞机进入太空的两个固体燃料发动机是由Thiokol公司制造的。失事前一天晚上,Thiokol公司的经理们和国家航空航天局就如期发射还是推迟发射产生了争执。天气预报发射时的气温为310F。争执的结果采纳了Thiokol公司经理们的建:按计划发射航天飞机。因为他们觉得没有确凿证据表明低温会对固体燃料火箭推进器的性能产生影响1-22统计学STATISTICS(第四版)2020-2-18统计的应用领域【例1-3】挑战者号航天飞机失事预测在此次失事前,该航天飞机24次发射成功。将航天飞机送入太空的两个固体燃料推进器由6只O型项圈密封。在几次飞行中,曾发生过O型项圈被腐蚀或气体泄漏事故。这样的事故是及其危险的。前24次发射中有一次发动机遭到了永久性破坏。根据23次飞行中发生腐蚀或泄漏事故的次数(因变量)及火箭连接处的温度(自变量)数据,进行线性回归得到的回归方程为当温度为310F时,O型项圈发生事故的预计次数为2.225次。结果显示连接处的温度与O型项圈事故之间有一定的相关性。如果当时那些经理们看到了回归的预测结果,也许推迟发射会成为其谨慎的选择xy04754.0698.3ˆ1-23统计学STATISTICS(第四版)2020-2-18统计的误用与滥用1.大约在一个世纪以前,政治家BenjaminDisraeli曾有一个著名的论断:“有三类谎言:谎言、糟透的谎言和统计”。他还说:“图并没有说谎,是说谎者在画图”2.历史学家AndrewLang说,一些人使用统计“就像喝醉酒的人使用街灯柱—支撑的功能多于照明”3.统计滥用不好的样本过小的样本误导性图表局部描述故意曲解1-24统计学STATISTICS(第四版)2020-2-18统计的误用与滥用1.统计应用上的两个极端不用或几乎不用统计简单问题复杂化2.在统计应用中,这两个极端都是不可取的3.简单的方法不一定没用,复杂的方法也不一定有用。正如有的学者所说的,最简单的模型往往是最有用的4.统计应该恰当地应用到它能起作用的地方。不能把统计神秘化,更不能歪曲统计,把统计作为掩盖实事的陷阱1.2怎样获得统计数据1.2.1变量与数据1.2.2数据的来源第1章统计和统计数据1.2.1变量与数据1.2怎样获得统计数据1-27统计学STATISTICS(第四版)2020-2-18变量与数据1.变量(variable)从一次观察到下一次观察会出现不同结果的某种特征观察一个企业的销售额,这个月和上个月有所不同;观察股票市场上涨股票的家数,今天与昨天数量不一样;观察一个班学生的生活费支出,一个人和另一个人不一样;投掷一枚骰子观察其出现的点数,这次投掷的结果和下一次也不一样“企业销售额”、“上涨股票的家数”、“生活费支出”、“投掷一枚骰子出现的点数”等就是变量2.数据(data)观察到的变量的结果1-28统计学STATISTICS(第四版)2020-2-18变量与数据1.定量变量(quantitativevariable)或数值变量(metricvariable)可以用阿拉伯数据来记录其观察结果如“企业销售额”、“上涨股票的家数”、“生活费支出”、“投掷一枚骰子出现的点数”定量变量的观察结果称为定量数据或数值型数据(metricdata)2.分类变量(categoricalvariable)表现为不同的类别如“性别”、“企业所属的行业”、“学生所在的学院”等分类变量的观察结果就是分类数据(categoricaldata)3.顺序变量(rankvariable)或有序分类变量具有一定顺序的类别变量如考试成绩按等级,一个人对事物的态度顺序变量的观察结果就是顺序数据或有序分类数据(rankdata)4.分类变量和顺序变量统称为定性变量(qualitativevariable)1.2.2数据的来源1.2怎样获得统计数据1-30统计学STATISTICS(第四版)2020-2-18数据的来源1.寻找二手数据2.抽取样本总体(population):包含所研究的全部个体(数据)的集合样本(sample):从总体中抽取的一部分元素的集合样本量(samplesize):构成样本的元素的数目3.概率抽样方法1-31统计学STATISTICS(第四版)2020-2-18概率抽样(probabilitysampling)1.根据一个已知的概率来抽取样本单位,也称随机抽样2.特点按一定的概率以随机原则抽取样本•抽取样本时使每个单位都有一定的机会被抽中每个单位被抽中的概率是已知的,或是可以计算出来的当用样本对总体目标量进行估计时,要考虑到每个样本单位被抽中的概率1-32统计学STATISTICS(第四版)2020-2-18简单随机抽样(simplerandomsampling)1.从总体N个单位(元素)中随机地抽取n个单位作为样本,使得总体中每一个元素都有相同的机会(概率)被抽中2.抽取元素的具体方法有重复抽样和不重复抽样3.特点简单、直观,在抽样框完整时,可直接从中抽取样本用样本统计量对目标量进行估计比较方便4.局限性当N很大时,不易构造抽样框抽出的单位很分散,给实施调查增加了困难没有利用其他辅助信息以提高估计的效率1-33统计学STATISTICS(第