计算机领域最新技术报告走近云计算、大数据与物联网提纲什么是云计算《走近云计算、大数据与物联网》云计算的层次云计算的发展与影响云计算相关技术云计算安全云计算市场角逐云计算在企业中的应用什么是云计算云计算概念•通过整合、管理、调配分布在网络各处的计算资源,通过互联网以统一界面、同时向大量的用户提供服务云计算特点超大规模计算、虚拟化、高可靠性和安全性、通用性、动态扩展性、按需服务、降低成本云计算应用场景Google个人云服务企业应用实例:AnimotoAmazon云计算示意图你身边的“云”•群雄逐鹿:国外有微软SkyDrive、苹果iCloud,亚马逊CloudDriver等网盘产品,国内有百度云、新浪微盘、华为网盘、金山快盘、115网盘和360云盘等•不以空间大小论英雄:以100K/s的均速上传,1T空间也需124天方可填满,合计2976小时。而如若想占满36T,估摸得熬上12年以上光景《走近云计算、大数据与物联网》你身边的“云”有道云笔记,支持多种附件格式,拥有2G容量的初始免费存储空间,能够实时增量式同步,并采用“三备份存储”技术,同时上线的还有网页剪报功能。云电视、百度地图、百度音乐、云杀毒、云端备份《走近云计算、大数据与物联网》云计算的层次dataStorageasaServiceInfrastructureasaServicePlatformasaServiceSoftwareasaServiceSaaSPaaSIaaSdSaaSGoogleApps,Microsoft“Software+Services”IBMITfactory,GoogleAppEngine,Force.comAmazonEC2,IBMBlueCloud,SunGridNirvanixSDN,AmazonS3,CleversafedsNetServerVisualizationStorageServerStorageInfrastructurePlatformApplication从一个集中的系统部署软件,使之在一台本地计算机上(或从云中远程地)运行的一个模型。由于是计量服务,SaaS允许出租一个应用程序,并计时收费IaaS将基础设施(计算资源和存储)作为服务出租PaaS类似于IaaS,但是它包括操作系统和围绕特定应用的必需的服务SaaS《走近云计算、大数据与物联网》云计算的发展与影响网格计算利用并行计算解决大型问题GlobusAlliance使其成为主流公共计算将计算资源作为可计量的服务提供于上世纪90年代末推出SaaS基于网络预订应用程序于2001年推出云计算下一代因特网计算下一代数据中心云计算的演进《走近云计算、大数据与物联网》云计算相关技术云计算是一种业务模式创新《走近云计算、大数据与物联网》网格计算《走近云计算、大数据与物联网》网络上提供的不同种类的服一个用于计算任务的资源池务,可以运行在网格计算或公共计算环境中环境为了通用应用而设计的,没为完成某一个特定的任务需有专门以某种应用命名要,比如生物网格、地理网格、国家教育网格资源相对集中,主要以数据聚合分布资源,支持虚拟组中心的形式提供底层资源的织,提供高层次的服务,例使用,并不强调虚拟组织如分布协同科学研究(VO)的概念支持持久服务,用户可以利用执行作业形式使用,在一用云计算作为其部分IT基础个阶段内完成作用产生数据设施,实现业务托管和外包从诞生开始就是针对企业商更多地面向科研应用,商业模业应用,商业模型比较清晰型不清晰云计算网格计算虚拟化技术传统的虚拟化方式虚拟化是云计算的基石通常的虚拟化方法只考虑虚拟单个硬件资源,把虚拟的单个计算环境联结起来云计算所需的虚拟化技术必须虚拟架构技术,虚拟化不必局限于单个硬件资源云计算环境中的虚拟化方式《走近云计算、大数据与物联网》虚拟化技术把物理的计算资源转换成了逻辑的计算资源通过创建虚拟机使得计算资源按需分配数据中心数据中心是云计算的温床云计算推动数据中心向虚拟化和云架构的转型,不断提高IT基础架构的灵活性,以降低IT、能源和空间成本,从而让客户能够快速地提高业务敏捷性“那些正在兴建最大规模数据中心的公司一般都在云计算方面拥有巨大野心”--《数据中心知识》杂志主编RichMiller《走近云计算、大数据与物联网》SaaSSaaS(软件即服务)通过浏览器把程序传给成千上万的用户,为用户省去在服务器和软件授权上的开支;供应商只需要维持一个程序,减少维护成本SaaS在人力资源管理程序和ERP中比较常用;GoogleApps和ZohoOffice也是类似的服务Salesforce.com是迄今为止提供这类服务最为出名的公司贝尼奥夫Salesforce的创始人在“云”概念出来之后,Salesforce迅速宣称自己是第一家提供云产品的公司《走近云计算、大数据与物联网》Salesforce的创始人贝尼奥夫,或许可以视为“云”的先行者。早在1999年,贝尼奥夫就大声宣布自己要成为“软件终结者”Salesforce以“即买即用”的服务模式,颠覆了传统软件销售方法论用户不需要通过购买软件许可证、安装和实施,才可以建立起CRM系统。用户只需要一个账户,就可以像访问网页一样,访问在Salesforce上运行的CRM系统云计算安全问题访问权风险管理风险地点所产生的风险加以衡量。”数据风险数据恢复风险长期发展风险…“使用云计算的局限是企业必须认真对待的敏感问题,企业必须对云计算发挥作用的时间和Gartner咨询公司副总裁兼分析师DavidCearley《走近云计算、大数据与物联网》云计算市场角逐CompetingforcloudcomputingGoogleGFS、MapReduce和BigTableGoogleAppEngineGoogleApps------------------------------------------AmazonAWSS3、EC2、SQS和SimpleDB------------------------------------------Sun公司推出“黑盒子”计划------------------------------------------IBM“BlueCloud”蓝云计划------------------------------------------Microsoft:Azure、MatrixDB------------------------------------------Salesforce:Force.com------------------------------------------HP联手Intel和Yahoo!建实验室云计算《走近云计算、大数据与物联网》云计算在企业中的应用中小企业的产业环境中小企业信息化面临的压力–信息系统爆炸式膨胀带来的“经济”压力–信息系统建设周期越来越短带来的“时间”压力–对新技术、新产品、新理念的“研究”压力–信息系统面临的“数据存储量和计算量”的压力越来越大–“人才“压力–维护“客户粘性”的压力云计算可以促进中小企业转型升级云计算促进中小企业转型升级《走近云计算、大数据与物联网》总结《走近云计算、大数据与物联网》•云计算,在本质上并非一种新的技术,而是一种服务模式•云计算关键词:虚拟化、数据中心、面向服务、按需付费•云计算让中小企业受益提纲大数据时代《走近云计算、大数据与物联网》大数据应用大数据的影响大数据的四个特征大数据的产生大数据关键技术Hadoop体系结构参考:主讲研究生课程《大数据技术基础》,并编写了配套教材。下载配套教材请访问《大数据技术基础》网站:《走近云计算、大数据与物联网》大数据应用场景KevinSpacey大数据分析DavidFincher风靡全球的美剧《纸牌屋》英国同名小说《纸牌屋》《走近云计算、大数据与物联网》大数据应用场景美国零售商和怀孕预测VISA信用卡与商户推荐股票投资智能电表广告投放中国粮食统计人的数字化阿里信用贷款和淘宝数据魔方UPS快递的最佳行车路径《走近云计算、大数据与物联网》典型的大数据应用实例从谷歌流感趋势看大数据的应用价值“谷歌流感趋势”,通过跟踪搜索词相关数据来判断全美地区的流感情况《走近云计算、大数据与物联网》大数据的影响•大数据对行业发展的影响•大数据对思维方式的影响全样而非抽样效率而非精确相关而非因果《走近云计算、大数据与物联网》大数据的影响:对科学研究的影响图灵奖获得者、著名数据库专家JimGray博士观察并总结人类自古以来,在科学研究上,先后历经了实验、理论、计算和数据四种范式实验《走近云计算、大数据与物联网》理论计算数据大数据无处不在科学研究–基因组–LHC加速器–地球与空间探测企业应用–Email、文档、文件–应用日志–交易记录Web1.0数据–文本–图像–视频Web2.0数据–查询日志/点击流–Twitter/Blog/SNS–Wiki《走近云计算、大数据与物联网》大数据的四个特征《走近云计算、大数据与物联网》Volume—数量大根据IDC作出的估测,数据一直都在以每年50%的速度增长,也就是说每两年就增长一倍(大数据摩尔定律)人类在最近两年产生的数据量相当于之前产生的全部数据量预计到2020年,全球将总共拥有35ZB的数据量,相较于2010年,数据量将增长近30倍《走近云计算、大数据与物联网》Velocity—速度快从数据的生成到消耗,时间窗口非常小,可用于生成决策的时间非常少1秒定律:这一点也是和传统的数据挖掘技术有着本质的不同《走近云计算、大数据与物联网》Variety—多样化大数据是由结构化和非结构化数据组成的–10%的结构化数据,存储在数据库中–90%的非结构化数据,它们与人类信息密切相关非结构化数据类型多样–邮件、视频、微博–位置信息、链接信息–手机呼叫、网页点击–―长微博”《走近云计算、大数据与物联网》Value—价值化价值密度低,商业价值高以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒,但是具有很高的商业价值《走近云计算、大数据与物联网》大数据的产生运营式系统阶段1用户原创内容阶段2感知式系统阶段3•数据库的出现使得数据管理的复杂度大大降低,数据往往伴随着一定的运营活动而产生并记录在数据库中的,数据的产生方式是被动的•数据爆发产生于Web2.0时代,而Web2.0的最重要标志就是用户原创内容•智能手机等移动设备加速内容产生•数据产生方式是主动的•感知式系统的广泛使用•人类社会数据量第三次大的飞跃最终导致了大数据的产生《走近云计算、大数据与物联网》大数据与云计算大数据与云计算是相辅相成的大数据根植于云计算–云计算关键技术中的海量数据存储技术、海量数据管理技术、MapReduce编程模型,都是大数据技术的基础大数据为云计算提供用武之地《走近云计算、大数据与物联网》大数据与物联网物联网就是“物物相连的互联网”。物联网通过智能感知、识别技术与普适计算、泛在网络的融合应用,被称为继计算机、互联网之后世界信息产业发展的第三次浪潮物联网架构可分为三层,包括感知层、网络层和应用层物联网,移动互联网再加上传统互联网,每天都在产生海量数据,而大数据又通过云计算的形式,将这些数据筛选处理分析,提取出有用的信息,这就是大数据分析。《走近云计算、大数据与物联网》大数据关键技术分布式存储GFS\HDFS\BigTable分布式处理MapReduce大数据《走近云计算、大数据与物联网》Google公司的技术《走近云计算、大数据与物联网》Hadoop的体系结构HDFS和MapReduce是Hadoop的两大核心。而整个Hadoop的体系结构主要是通过HDFS来实现对分布式存储的底层支持的,并且它会