分布式存储架构实践

5858##2012'04'07#• • #######,#########• !###############RAS();########,########58(mysql,mongodb,file#system,hadoop)###• ###• #CAP#:##Consistency##Availability#ParHHon#tolerance#######################BASE##:Basically#AvailableSoK#state######################Eventually#consistent#########################ACID###############################I/O####################AmdahlGustafson#,###################Amazon##2011Amazon#S35000#########:#SimpleDB##Dynamo#!Facebook1400Facebook2.5Facebook,Facebook100PB(1PB=1024TB,HBase1350#####:##Facebook##HayStack,##cassandrahbase#Google###2008#1######:##Google#Megastore#,##GFS,#bigtable#Zynga!!Draw#Something35153000#######:#Couchbase###vs#EA#The#Simpsons####• #• #• #• #• #• #!!!!C10K,C500KC**K!!!#s:1#,#c:1#,#bio;###s:1#,#c:n#,#nio##;###seda#:Staged#Event'Driven#Architecture##Select#()##epoll##callback##!!:##I/O#####:CPU#,###########DRM()##!Neay#,#Mina#libeventlibev,#ACEASIO##!!!!!!!!!!!!!!!!!!IO!!##Consistent#hash,#(#)###B+#tree#,#(,)###LSM#tree,##(#)#####Bitmap##(bloom#filter#)###Dynamo,hbase#Merkle#Tree#()###Dynamo#Skip#List##(##lsm)#####leveldb#prio_tree##(####mmap)##mognodb##!!!!!!!!!!!!!!!!!!!!!!!!!!!!!consistent!hash!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!B+!!!tree!!!!!!!!!!!!!!!!!!!!!!!!!!!cassandra!!!!!!!!!!!!!!!!!!!!!!!!!!Lsm!!tree!!###############################Merkle#Tree#!1 #Master_slave#;#P2P()##!#####!####MVCC#####,paxos###512,#4k#,##4k##mtu##1500#!!#:#k_means#• Dynamo######,####BT#########Merkle#Tree#• memcached##################linux###+#libevent##+#(consisten#hash#)############• #• Kiss#,#RAS#• ,#58mysql,mongodb,file#system,hadoop#!!!!!!!!!!!!!!!!1#####################table#,#object############################################2#########1#CAP#,#BASE/ACID#######2###B+#or#LSM###############B+#or#LSM########3##########Mongodb##!!!!!!!!!!!!!!!!!!!!kiss!###############unix###:!RAS!RAS:#Reliability,#Availability,#Scalability###R:###:#Qos,#()#A:##◊##S###◊####a##b#hash##c#B+##tree###!!!!!!!!!!!!!!!!,!!Facebook,,##!#########◊#cdn#####################SSDSASSATA##!,###CPU##!!!!!!!!!!!!!!!!!!!!!!!!!!!facebook!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!cdn!!!!!!!!!!!!!!!!!!!!• :##################search#engine(index)#+Mysql#(shard#+#M/S)+#memcached##########:#infoid#%#dbNum##################infoid#:##local#Hmes#+##ip(mac)#+#pid#################Memcached##90%#:###############():##~10,##20K#qps#256#dbs#• ###• ######logfile,#########2,#''#;#• ########################• #mongos#+#auto#sharding#########:#(mysql#+#memched)#→##mysql+#()''cassandra''redis''#mongodb()#########:appid+appinforid##==#_id####Mongodb:#,,##message#:#~2#######################Steps#:#:##~10,##10kqps,#10ktps,##!:###############1#shard#key#Stepsinforid#,#message#:#userid###########2##range(sql)to#kv#range#to#kv##(msgcount);sql#to#kv()#• ####3##key##;#4###5#mongos()###################!:###cdn#(Squid)#+#(lvs)+#Ngix#(,#by#GraphicsMagick)#+hapServer(#webdav,sso)#+##simple#GFS(master'slave)#########:##restURI;###########+###+#########Block#Size#128M#(opHon)#,##8M#chunk##############Resoul##:#hap://*..58control.cn/n_1817278286***.jpg#:###total#10t##,##100G/add#;#500w#;##20:1#(r:w);#1000iops#!:###########;#############:############################Hadoop!#######;##HBASE;#########js#,#udp#,hap#;#log#file#;########;.##########,########:Js()#→#hap#Server#''udp#Server#''#→#hadoop#''########Drm;!#######.####GGspark,S4,hama;!#####!!MpI(scala)!;ESB;;!#################Q&A!!hOp://weibo.com/zhuozhe![e-mail]!!!!!!!!!!!!!!!关注我们：t.baidu-tech.com资料下载和详细介绍：infoq.com/cn/zones/baidu-salonInfoQ策划·组织·实施关注我们：weibo.com/infoqchina“畅想•交流•争鸣•聚会”是百度技术沙龙的宗旨。百度技术沙龙是由百度与InfoQ中文站定期组织的线下技术交流活动。目的是让中高端技术人员有一个相对自由的思想交流和交友沟通的的平台。主要分讲师分享和OpenSpace两个关键环节，每期只关注一个焦点话题。讲师分享和现场Q&A让大家了解百度和其他知名网站技术支持的先进实践经验，OpenSpace环节是百度技术沙龙主题的升华和展开，提供一个自由交流的平台。针对当期主题，参与者人人都可以发起话题，展开讨论。