搜索
大数据与Hadoop演讲者：电话：邮箱：部门：灾备服务部什么是大数据？什么是Hadoop？理解大数据理解Hadoop基于Hadoop的大数据产品分析基于Hadoop的大数据应用分析议题Wikipedia：Bigdataisthetermforacollectionofdatasetssolargeandcomplexthatitbecomesdifficulttoprocessusingon-handdatabasemanagementtoolsortraditionaldataprocessingapplications.Gartner：Bigdataishighvolume,highvelocity,and/orhighvarietyinformationassetsthatrequirenewformsofprocessingtoenableenhanceddecisionmaking,insightdiscoveryandprocessoptimization。Forrester：“Bigdata”as“techniquesandtechnologiesthatmakehandlingdataatextremescaleaffordable”。BI&BigDataBusinessIntelligenceusesdescriptivestatisticswithdatawithhighinformationdensitytomeasurethings,detecttrendsetc.Bigdatausesinductivestatisticsandconceptsfromnonlinearsystemidentificationtoinferlaws(regressions,nonlinearrelationships,andcausaleffects)fromlargedatasetstorevealrelationships,dependencies,andtoperformpredictionsofoutcomesandbehaviors。什么是大数据什么是大数据？什么是Hadoop？理解大数据理解Hadoop基于Hadoop的大数据产品分析基于Hadoop的大数据应用分析议题Hadoop是一个分布式系统基础架构，由Apache基金会开发。用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力高速运算和存储。ApacheHadoop软件库是一个框架，允许使用简单编程模型进行跨计算机集群的分布式的大数据集的处理。它被设计成可以从单服务器扩展到几千台服务器，每台服务器都有自己的计算和存储。不是依赖于硬件来实现高可用性，Hadoop库被设计成在应用层来检测与处理故障，以在计算机集群上交付高可用服务，而底层的每台计算机是很容易出现故障的。Hadoop是项目的总称，主要是由分布式存储（HDFS），分布式计算（MapReduce，目前的称为YARN，即mapReduce2.0）组成。Hadoop程序目前只能运行在Linux系统上，Windows上运行需要安装其他插件。什么是HadoopDougCuttingYahooHadoop集群什么是大数据？什么是Hadoop？理解大数据理解Hadoop基于Hadoop的大数据产品分析基于Hadoop的大数据应用分析议题社交网络电子商务移动互联21世纪是数据信息大发展的时代，移动互联、社交网络、电子商务等极大拓展了互联网的边界和应用范围，各种数据正在迅速膨胀并变大。互联网（社交、搜索、电商）、移动互联网（微博）、物联网（传感器，智慧地球）、车联网、GPS、医学影像、安全监控、金融（银行、股市、保险）、电信（通话、短信）都在疯狂产生着数据。“大数据”的诞生：半个世纪以来，随着计算机技术全面融入社会生活，信息爆炸已经积累到了一个开始引发变革的程度。它不仅使世界充斥着比以往更多的信息，而且其增长速度也在加快。信息爆炸的学科如天文学和基因学，创造出了“大数据”这个概念。如今，这个概念几乎应用到了所有人类智力与发展的领域中。大数据时代的背景GBTBPBEBZB想驾驭这庞大的数据，我们必须了解大数据的特征。地球上至今总共的数据量：在2006年，个人用户才刚刚迈进TB时代，全球一共新产生了约180EB的数据；在2011年，这个数字达到了1.8ZB。而有市场研究机构预测：到2020年，整个世界的数据总量将会增长44倍，达到35.2ZB（1ZB=10亿TB）！1PB=2^50字节1EB=2^60字节1ZB=2^70字节大数据时代的爆炸增长“大量化(Volume)、多样化(Variety)、快速化(Velocity)、价值密度低（Value）”就是“大数据”的显著特征，或者说，只有具备这些特点的数据，才是大数据。VolumeVelocityValueVariety大数据的4V特征大数据=海量数据+复杂类型的数据海量交易数据：企业内部的经营交易信息主要包括联机交易数据和联机分析数据，是结构化的、通过关系数据库进行管理和访问的静态、历史数据。通过这些数据，我们能了解过去发生了什么。大数据包括：交易数据和交互数据集在内的所有数据集海量交互数据：源于Facebook、Twitter、LinkedIn及其他来源的社交媒体数据构成。它包括了呼叫详细记录CDR、设备和传感器信息、GPS和地理定位映射数据、通过管理文件传输ManageFileTransfer协议传送的海量图像文件、Web文本和点击流数据、科学信息、电子邮件等等。可以告诉我们未来会发生什么。海量数据处理：大数据的涌现已经催生出了设计用于数据密集型处理的架构。例如具有开放源码、在商品硬件群中运行的ApacheHadoop。大数据的构成密不可分的大数据与云计算商业模式驱动应用需求驱动•云计算的模式是业务模式，本质是数据处理技术。•数据是资产，云为数据资产提供存储、访问和计算。•当前云计算更偏重海量存储和计算，以及提供的云服务，运行云应用，但是缺乏盘活数据资产的能力，挖掘价值性信息和预测性分析，为国家、企业、个人提供决策和服务，是大数据核心议题，也是云计算的最终方向。大数据不仅仅是“大”多大？至少PB级比大更重要的是数据的复杂性，有时甚至大数据中的小数据如一条微博就具有颠覆性的价值软件是大数据的引擎和数据中心（DataCenter）一样，软件是大数据的驱动力，软件改变世界大数据生态：软件是引擎大数据的应用不仅仅是精准营销通过用户行为分析实现精准营销是大数据的典型应用，但是大数据在各行各业特别是公共服务领域具有广阔的应用前景消费行业金融服务食品安全医疗卫生军事交通环保电子商务气象管理大数据“易”理解大数据“难”虽然大数据是一个重大问题，真正的问题是让大数据更有意义目前大数据管理多从架构和并行等方面考虑，解决高并发数据存取的性能要求及数据存储的横向扩展，但对非结构化数据的内容理解仍缺乏实质性的突破和进展，这是实现大数据资源化、知识化、普适化的核心非结构化海量信息的智能化处理：自然语言理解、多媒体内容理解、机器学习等分析技术：•数据处理：自然语言处理技术•统计和分析：A/Btest;topN排行榜；地域占比；文本情感分析•数据挖掘：关联规则分析；分类；聚类•模型预测：预测模型；机器学习；建模仿真大数据技术：•数据采集：ETL工具•数据存取：关系数据库；NoSQL；SQL等•基础架构支持：云存储；分布式文件系统等•计算结果展现：云计算；标签云；关系图等存储•结构化数据：海量数据的查询、统计、更新等操作效率低•非结构化数据图片、视频、word、pdf、ppt等文件存储不利于检索、查询和存储•半结构化数据转换为结构化存储按照非结构化存储解决方案：•Hadoop（MapReduce技术）•流计算（twitter的storm和yahoo！的S4）数据采集数据储存数据管理数据分析与挖掘一些相关技术行业拓展者，打造大数据行业基石：IBM：•IBM大数据提供的服务包括数据分析，文本分析，蓝色云杉（混搭供电合作的网络平台）;业务事件处理；IBMMashupCenter的计量，监测，和商业化服务（MMMS）•IBM的大数据产品组合中的最新系列产品的InfoSpherebigInsights，基于ApacheHadoop。•该产品组合包括：•打包的ApacheHadoop的软件和服务，代号是bigInsights核心，用于开始大数据分析软件被称为bigsheet，软件目的是帮助从大量数据中轻松、简单、直观的提取、批注相关信息为金融，风险管理，媒体和娱乐等行业量身定做的行业解决方案微软：•2011年1月与惠普（具体而言是HP数据库综合应用部门）合作目标是开发了一系列能够提升生产力和提高决策速度的设备。EMC：•EMC斩获了纽交所和Nasdaq；•大数据解决方案已包括40多个产品。Oracle：•Oracle大数据机与OracleExalogic中间件云服务器、OracleExadata数据库云服务器以及OracleExalytics商务智能云服务器一起组成了甲骨文最广泛、高度集成化系统产品组合。大数据的应用--企业在投入政府职能变革重视应用大数据技术，盘活各地云计算中心资产：把原来大规模投资产业园、物联网产业园从政绩工程，改造成智慧工程；在安防领域，应用大数据技术，提高应急处置能力和安全防范能力；在民生领域，应用大数据技术，提升服务能力和运作效率，以及个性化的服务，比如医疗、卫生、教育等部门；解决在金融，电信领域等中数据分析的问题：一直得到得极大的重视，但受困于存储能力和计算能力的限制，只局限在交易数型数据的统计分析；政府投入将形成示范效应，大大推动大数据的发展。大数据的应用--政府“智慧大脑”智能感知互联互通智能运营协同共享美国奥巴马政府在白宫网站发布《大数据研究和发展倡议》，提出“通过收集、处理庞大而复杂的数据信息，从中获得知识和洞见，提升能力，加快科学、工程领域的创新步伐，强化美国国土安全，转变教育和学习模式”；中国工程院院士邬贺铨说道，“智慧城市是使用智能计算技术使得城市的关键基础设施的组成和服务更智能、互联和有效，随着智慧城市的建设，社会将步入“大数据”时代。”难点：1、在最初就合理规划智慧城市（深度思考哪些领域能够运用）；2、在城市发展基础设施和“云产业”的同时，更多重视“数据”的价值；3、在大数据处理领域的核心技术不足，需要政府更大的投入。大数据的应用—智慧城市政府、金融、电信等行业投资建立大数据的处理分析手段，实现综合治理、业务开拓等目标；应用到制造等更多行业。更多行业的应用数据的再利用：由于在信息价值链中的特殊位置，有些公司可能会收集到大量的数据，但他们并不急需使用也不擅长再次利用这些数据。例如，移动电话运营商建立呼叫时会从HLR获得用户位置信息，这对于运营商来说，数据只有狭窄的技术用途。但当它被一些发布个性化位置广告服务和促销活动的公司再次利用时，则变得更有价值。大数据价值链的3大构成：数据本身、技能与思维其中三者兼具的有谷歌公司，谷歌在刚开始收集数据的时候就已经有多次使用数据的想法。比方说，它的街景采集车手机全球定位系统数据不光是为了创建谷歌地图，也是为了制成全自动汽车以及谷歌眼镜等与实景交汇的产品。未来，企业会依靠洞悉数据中的信息更加了解自己，也更加了解客户。《大数据时代》传统行业最终都会转变为大数据行业，无论是金融服务也、医药还是制造业。大数据的应用——未来，改变一切大数据赋予我们洞察未来的能力马云成功预测2008年经济危机•“2008年初,阿里巴巴平台上整个买家询盘数急剧下滑，欧美对中国采购在下滑。海关是卖了货，出去以后再获得数据；我们提前半年时间从询盘上推断出世界贸易发生变化了。”•通常而言，买家在采购商品前，会比较多家供应商的产品，反映到阿里巴巴网站统计数据中，就是查询点击的数量和购买点击的数量会保持一个相对的数值，综合各个维