云计算在下一代数据中心建设中的应用及案例解析33

数据管理技术BigTableBigTable的情况•2004年：开始设计使用•2008年：100个BigTable存储单元•支持了众多的Google应用：-MySearchHistory-Crawling/IndexingPipeline-GoogleMap/Earth……•管理的最大的BigTable存储单元：-200TB，分布在上千台的机器上已经有了：SQL/Oracle/DB2……为什么Google还要开发自己的数据库？传统商业数据库的问题规模不够大Google的需求：存储大量的记录，TB级别的数据量。即使规模够大，成本也是问题Google的需求：支撑多个业务的同时丌会带来很多成本。无法自己改动、优化Google的需求：可以采用底层存储优化带来的好处。Plus：自己写一个数据库看起来即富于挑战性、又很有趣BigTable•分布式多层图表–有趣的数据模型•容错,持续可靠•扩展–成千上万的服务器–TB级别的内存数据–PB级别的磁盘数据–每秒百万级别的读写,高效扫描•自我管理–可以劢态的增减服务器–服务器根据负载调整BigTable的相关要素相关要素：•GFS：数据存储•Scheduler：将任务分配到各个机器•LockService：分布式锁管理•MapReduce：数据的分布式计算对BigTable的作用：•GFS：原始数据的存储•Scheduler：涉及到BigTable服务中的任务分配•LockService：master选丼，tablet位置信息的自丼过程•MapReduce：常用于BigTable数据的读写典型的集群ClusterSchedulingMasterLockServiceGFSMasterMachine1SchedulerSlaveGFSChunkserverLinuxUserTaskMachine2SchedulerSlaveGFSChunkserverLinuxUserTaskMachine3SchedulerSlaveGFSChunkserverLinuxSingleTaskBigTableServerBigTableServerBigTableMaster基础数据模型分布式多维度的稀疏图行（row）,列（Column）,时间戳（Timestamp)存储单元（Cell），内容（content）……“html…”t1t2t3“contents”Tablets及分割“html…”aaa.comTABLETS“contents”ENcnn.comcnn.com/sports.html“language”Website.comZuppa.com/menu.html……“html…”aaa.comTABLETS“contents”ENcnn.comcnn.com/sports.html“language”Website.comZuppa.com/menu.html…Yahoo.com/kids.htmlYahoo.com/kids.html?D……Tablets及分割系统架构ClusterSchedulingMasterhandlesfailover,monitoringGFSholdstabletdata,logsLockserviceholdsmetadata,handlesmaster-electionBigtabletabletserverservesdataBigtabletabletserverservesdataBigtabletabletserverservesdataBigtablemasterperformsmetadataops,loadbalancingBigtablecellBigtableclientBigtableclientlibraryOpen()‏查找Tablets(cont.)‏•对Tablet采用了三级分层查找法–位置是IP:相关服务器的端口–第一层级:从锁服务器上自丼,指向META0–第二层级:用META0数据找到正确的META1tablet–第三层级:META1表里包括了所有其他table里的tablets的位置•META1表本身也可以被拆分成很多的tabletPointstoMETA0locationMETA0tabletMETA1tabletsActualtabletintableTAggressiveprefetching+caching,MostopsgorighttopropermachineTablets读写Writebufferinmemory(random-access)‏Append-onlylogonGFSSSTableonGFSSSTableonGFSSSTableonGFS(mmap)‏TabletWriteRead列“CNNhomepage”“anchor:cnnsi.com”“…”cnn.com“contents:”“anchor:stanford.edu”“CNN”列有两级名字结构:Family:optional_qualifier列族访问控制的单位相关类型的信息时间戳•用于将丌同版本的数据存储在存储单元（cell）中•查询选择:–“迒回最近的Kvalues”–“迒回时间戳范围内所有的values”•列族可被赋予属性–“只在存储单元中保留最近的Kvalues”–“保留values直到超过Kseconds”API•元数据操作–创建/删除tables,列族,更改元数据•写Set():将存储单元（cell）写到行中DeleteCells():将存储单元（cell）从行中删除DeleteRow():将所有的存储单元（cell）从行中删除•读Scanner:读取bigtable中任意的存储单元（cell）每次读都是自劢的可将迒回的行限定在特定范围内可只请求位于一行的数据、全部行的数据，等等可请求所有列，特定的列族，或特定列TabletServer故障TabletserverGFSChunkserverSSTableSSTableSSTableTabletTabletTabletTabletserverGFSChunkserverSSTable(replica)SSTableSSTableTabletTabletTablet(replica)SSTableLogicalview:Physicallayout:SSTableChubbyServerHeadnode1.正常情况TabletServer故障ChubbyServerTabletserverGFSChunkserverSSTableSSTableSSTableTabletTabletTabletTabletserverGFSChunkserverSSTable(replica)SSTableSSTableTabletTabletTablet(replica)SSTableLogicalview:Physicallayout:SSTableXXXXXHeadnode2.Tabletserver故障TabletServer故障TabletserverGFSChunkserverSSTableSSTableSSTableTabletTabletTablet(replica)SSTableLogicalview:Physicallayout:Tablet(othertabletserversdraftedtoserveother“abandoned”‏tablets)BackupcopyoftabletmadeprimaryMessagesenttotabletserverbyheadnodeExtrareplicaoftabletcreatedautomaticallybyGFSChubbyServerHeadnode3.Tabletserver故障处理性能分布式资源管理技术Chubby•在多点并发执行环境中，分布式资源管理系统是保证系统状态正确性的关键技术；•分布式资源管理技术通过锁机制维护全局状态、协调多任务对于资源的使用，从而保证数据操作的一致性、系统状态在多点之间的同步和关键点出现故障时，进行服务迁移；•Google的Chubby是最著名的分布式资源管理系统。ChubbyreplicareplicareplicareplicaMasterreplicaOne‏Chubby‏“Cell”Allclienttraffic拓扑•Chubby是一个lockservice，一个针对松耦合的分布式系统的lockservice•通过文件实现“锁”功能创建文件就是在进行“加锁”操作创建文件成功的server就是抢占到了“锁”用户通过打开、关闭和读取文件，获取共享锁或者独占锁；并且通过通信机制，向用户发送更新信息。云计算平台管理技术云计算平台资源管理技术•云计算资源规模庞大，如何有效管理位于不同服务中心数据庞大的服务器，保证这些服务器组成的系统能够提供7*24小时不间断服务是一个巨大挑战；•关于云平台资源管理算法，没有公司对外公布技术细节；•开源项目也没有管理和监控部分的内容；•结合以往实践、理解，迚行阐述。云计算平台资源管理技术物理资源管理监控•服务器、磁盘、网络等•服务器上的云基础软件如分布式存储软件、虚拟化软件等虚拟资源管理监控•虚拟机、虚拟磁盘、虚拟网络等用户管理监控•用户登录信息、操作日志等一个数据中心内：云计算平台资源管理技术•跨数据中心数据同步、资源调度和分配监控、管理信息汇聚、呈现用户管理监控云计算平台资源管理技术一个技术实现方式云计算是一种多粒度和变粒度计算云计算是一种多粒度和变粒度计算•粒度计算一种新兴信息处理计算方式信息实体（信息粒）-数值层面实体集合多粒度/可变粒度计算-在提取及表示知识或者信息的尺度中，提供灵活性和适应性的所有方法云计算是一种多粒度和变粒度计算云计算所集合的资源是多粒度和可变粒度的•例如：Google搜索，处理的对象，公司主页-粗粒度，BBS-细粒度•Google搜索索引，需要多尺度、粒度满足用户查询需要个性化服务需要多粒度和可变粒度•例如：Gmail，用户操作差异性大，需要满足丌同粒度•需要考虑如何实现合适的web服务粒度云管理、资源动态扩展是多粒度和可变粒度的•分布式计算通过分布式计算、调度算法等实现绿色节能技术绿色节能技术•数据中心选址，建立在较为寒冷的地方•水冷、风冷等节能方式•根据应用情况，跨数据中心负载均衡、数据迁移•全世界范围内，让数据中心在夜间运行，降低成本总结接下来：逐步转向实践部分