大数据技术及数据分析课程培训-师伟51

大数据技术及数据分析主讲人：师伟2课程收益学习数理统计的理念熟悉常见的处理套路掌握常用软件的使用解决学员的具体问题3目录数理统计常识数理统计技术4目录数理统计常识量化的重要性统计基础知识数据挖掘简介数理统计技术5案例（武汉晨报3月31日报道）经过三天两夜长途跋涉，5万多瓶武汉救命水昨日运抵干旱重灾区云南省禄劝县，就在大家准备换小货车进山送水时，却遇到了“天价运费”的梗阻，140公里山路，两名当地司机要价6000元。昨日下午，晨报记者与林厚凯押运的5万多瓶武汉救命水一到禄劝县城，就受到了该县团委热情地接待。团委书记夏飞表示，他们接到团省委的通知后，按照武汉送水人的要求，对全县数十家小学进行了摸底，确定了两个最需要水的小学：离县城最远的大松树乡小学和雪山乡小学。据了解，从县城过去要走140多公里盘山路，大车根本无法行驶，必须换乘小货车才行。可禄劝县城小货车稀少，在禄劝县团委的帮助下，林厚凯好不容易找到了2辆小货车，谁知车主一见是外地人，报出天价运费，两台车运水，运费6000元。5万瓶水从武汉运到云南禄劝，武汉的两个司机也只是收了5000元运费。知情者透露，在禄劝像这样的运输，费用最多不超过2000元。有人劝林厚凯不如将水就近发放，可他坚持要把水送到最需要的地方。林厚凯说，这个价格虽然远超出他的预期，但为了尽早把水送到孩子们手上，他不会计较。昨晚，在当地交警部门协调下，两位禄劝货车司机松口，将车费降到5000元。为了尽早完成送水心愿，昨晚，记者和林厚凯连夜进山送水。6案例记者在短时间内发生这么多起跳楼的事件，如果站在理论角度上，发生率算不算高？樊富珉按卫生部统计，目前中国自杀率大概是十万分之十六左右。而富士康40多万人，约十万分之二三左右，大学生我们也做过统计，大概十万分之二到三左右。如果从全国的自杀率来比的话，应该还是低的7案例世界银行发展委员会25日通过了发达国家向发展中国家转移投票权的改革方案，这一改革从一个侧面反映了世界经济版图的变化本次改革中，发达国家向发展中国家共转移了3.13个百分点的投票权。中国在世行的投票权从目前的2.77%提高到4.42%，成为世界银行第三大股东国，仅次于美国和日本世界银行规则：任何重要的决议必须由85%以上的表决权决定名次国家改革后投票权改革前投票权1美国15.85%15.85%2日本6.84%7.62%3中国4.42%2.77%4德国4.00%4.35%5法国3.75%4.17%5英国3.75%4.17%7印度2.91%2.77%8俄罗斯2.77%2.77%8沙特2.77%2.77%10意大利2.64%2.71%8案例在一次海难中，统计数据为头等舱乘客319人，200人幸存二等舱乘客269人，117人幸存三等舱乘客699人，172人幸存从以上数据你可以发现什么？9目录数理统计常识量化的重要性统计基础知识数据挖掘简介数理统计技术10误差（波动）偶然误差可减小但不可消除系统误差可消除11抽样样本大小AQL0.0100.0150.0250.0400.0650.10.150.250.400.651.01.52.54.06.510抽样数收/退收/退收/退收/退收/退收/退收/退收/退收/退收/退收/退收/退收/退收/退收/退收/退1~820/19~1530/116~2550/11/226~5080/11/22/351~90130/11/22/33/491~150200/11/22/33/45/6151~280320/11/22/33/45/67/8281~500500/11/22/33/45/67/810/11501~1200800/11/22/33/45/67/810/1114/151201~32001250/11/22/33/45/67/810/1114/1521/223201~100002000/11/22/33/45/67/810/1114/1521/2210001~350003150/11/22/33/45/67/810/1114/1521/2235001~1500005000/11/22/33/45/67/810/1114/1521/22150001~5000008000/11/22/33/45/67/810/1114/1521/22≥50000112500/11/22/33/45/67/810/1114/1521/2212连续数据和离散数据连续数据定量信息含量大离散数据定性信息含量小13判断数据属性1.销售订单准确度2.数据输入准确度3.销售地区4.用通规测量得到的孔径5.用卡尺测量得到的孔径6.客户热线对话时间7.空调制冷剂的重量8.一批顾客中不满意的人数9.一批顾客中不满意的比例14数据的居中程度和离散程度主要的居中指标平均值数据集的平均值中位数数据排序后得到的中间数众数数据集中最频繁出现的值主要的离散指标极差数据集中最大值与最小值的差值方差与平均值间距的平方和的平均值标准偏差方差的平方根15正态曲线大多数（但不是所有）数据符合正态分布16目录数理统计常识量化的重要性统计基础知识数据挖掘简介数理统计技术17数据挖掘简介数据挖掘（DataMining）的概念从数据库数据中揭示出隐含的、未知的并有潜在价值的信息决策支持，基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等，高度自动化地分析企业的数据，做出归纳性的推理，从中挖掘出潜在的模式，帮助做出正确的决策18数据挖掘主要动作分类估值预测关联聚集可视化描述19案例第一次战役1950年10月26日1950年11月02日第二次战役1950年11月25日1950年12月02日第三次战役1950年12月31日1951年01月08日20案例丰田大规模召回事件引起全球强烈反响，引发丰田信誉危机21目录数理统计常识数理统计技术基础动作图表操作典型工具和应用22基础动作搜集整理分析评估展示23目录数理统计常识数理统计技术基础动作图表操作典型工具和应用24图表类型数字型逻辑型25图表的注意事项选取适当的图表类型数量图表应写清单位引用资料应说明出处不要妄图表达过多的信息图例一般控制在五个以下尽量简单明了、利于理解26客户分类评估6%11%13%70%国家评级付款期限支付方式客户评级动态图表27报告制作原则提案型报告说明型报告28文档制作原则逻辑清晰方案多选文字精炼内容可视恰当修饰体积小巧制作迅速29报告的需求管理报告的客户谁在看报告？希望看什么？希望的频率？希望的详略？相关的技巧买点和卖点金字塔原理30报告的素材准则中肯可比准确时效可靠清晰31素材组织的FAB技巧Feature特点Advantage优点Benefit利益BenefitAdvantageFeature客户关注点32目录数理统计常识数理统计技术基础动作图表操作典型工具和应用33规范处理数据和数据有效性数据处理的良好习惯Excel数据有效性34层别法、聚类和表格维度层别法、聚类一维表和二维表35数据透视表360510152025300612182430尺寸频数将数据按顺序等距分组，体现各组内频数的柱状图轮廓符合正态分布曲线说明处于稳定状态通过异常轮廓形状分析可定位异常的原因直方图37案例174185189196208190178184190205184185194191205205207207207206210209217214214206209210381020304050607020406080100ABCDE其他0累積比例缺點數缺點項目表现各项目频度降序排列及累积比例二八原则大问题优先柏拉图39ABC分析法A类0~70%，主要影响因素B类70~90%，次要影响因素C类90~100%，一般影响因素ABC的划分不是绝对的330因素超差差超差超度内径外径平面2203320090100缩水毛刺60其它C类帕累托曲线75A类500频数（件）551000B类8550累积百分数（%）9110040练习张女士结婚五年以来与丈夫发生纠纷如下不做家务28次深夜不归5次不良嗜好5次没送礼物1次胡乱花钱3次婆媳关系50次异性交往8次请制作柏拉图并用ABC法分析41散布图、关联规则和预测研究两个特性之的内在关系坐标轴分别表示结果特性和原因特性使得解决问题时找出强相关的原因42常见类型正相关强X的增加导致Y的明显增加正相关弱X的增加导致Y的略微增加因变量自变量强正相关弱正相关因变量自变量43常见类型负相关强X的增加导致Y的明显减少负相关弱X的增加导致Y的略微减少因变量自变量强负相关自变量弱负相关因变量44常见类型无相关Y的变化与X的变化毫无关系曲线关系X与Y之间无线性关系但符合某种曲线变化规律曲线相关因变量自变量不相关自变量因变量45预测Forecast法趋势线法46单变量求解47规划求解48矩阵数据分析法矩阵数据分析法（MatrixDataAnalysisChart）用于排定优先级、做多目标决策量化表示各元素的关系，更准确地整理和分析结果49案例易于控制易于使用网络性能软件兼容便于维护总分权重易于控制041319.0026.2%易于使用0.2500.20.330.251.033.0%网络性能1503312.0034.9%软件兼容0.3330.3300.334.0011.6%便于维护140.33308.3324.2%总分之和34.3750练习单价面积地段户型发展商物业教育总分权重单价0面积0地段0户型0发展商0物业0教育051中兴通讯管理体系总监中兴通讯最佳兼职讲师中兴通讯学院资深讲师中兴通讯学院质量课程经理深圳质量协会十大金牌讲师中国质量协会第六届学术教育委员会委员JOLIE`SAISATOURPPT制作：by小鱼扫一扫师伟老师公众号