为IaaS平台选择合适的存储架构华茂云天科技(北京)有限公司高级架构师石磊目录•问题•方案•选择问题问题–IaaS平台资源基础服务接口服务运营层物理层虚拟化管理层虚拟化层管理模式服务器存储设备网络设备机房设备设备监控告警管理配置管理资源调度虚拟化平台软件资源池化管理虚拟机存储池虚拟网络客户订单资源应用服务管理用户管理流程管理订单管理权限管理信息查询安全审计计费管理服务信息集群镜像CDN/IP数据虚拟机管理虚拟机监控配置管理资源调度资源监控资源调度集群管理镜像管理安全管理可用性管理虚拟资源调度接口虚拟资源信息接口虚拟资源监控接口虚拟机管理API虚拟网络API虚拟存储API虚拟内存虚拟CPU虚拟磁盘用户服务门户管理员服务门户问题-IaaS存储内容•虚拟机磁盘•配置文件•日志•监控信息问题–虚拟磁盘•存储位置(本地,网络)•虚拟机磁盘格式(文件,块)•部署方式(拷贝,COW,Snapshot)问题–设计目标•灵活性•成本•数据可用性•可扩展性•管理复杂度•性能不存在完美的解决方案问题如何存储及管理虚拟机磁盘?方案方案-存储介质•本地存储–文件系统–块设备•分布式存储–NFS–FC-SANIP-SAN–分布式文件系统•MooseFS,GFS,GlusterFS,Ceph…方案–常见方案1.集中式存储刀片服务器,企业级存储设备(NFS,SAN)2.纯分布式存储计算集群,分布式文件系统3.本地分布混合式系统盘存本地,数据盘存放于分布式文件系统4.全对称式本地存储计算节点即存储节点,分布式文件系统5.纯本地存储本地虚拟机本地存储方案1方案2,3方案4,5方案–对比(1)方案1:集中式存储方案2:纯分布式存储方案3:本地分布混合式方案4:全对称式本地存储方案5:纯本地存储优势灵活;易动态迁移;易扩展易管理;部署快;虚拟机密度高;高可用性易实现;统一存储策略;节约空间;易扩展;动态迁移;虚拟机部署快;多份拷贝高可用性支持;数据盘存储易扩展;系统盘性能高;数据盘高可用性;本地RAID容错;无单点;无IO性能瓶颈;成本低;多份拷贝高可用性;本地RAID容错;易扩展易管理性能较好;部署简单;本地RAID;易管理;劣势成本高;单点失效风险;存储IO性能瓶颈额外存储节点成本;管理代价;软件系统稳定性要求高;存储性能受限于网络;不易热迁移;管理代价高;虚拟机部署不易;系统盘数据难保障;双角色节点压力大;虚拟机部署时间长;节点宕机数据恢复效率;镜像拷贝带宽;无法迁移;不易扩展;计算存储均单点;备注优化并行NAS(pNFS)适用企业私有云采用多交换机+服务器多网卡负载均衡数据盘优化同方案2,系统盘可以采用本地块设备或LVM分区快照全对称架构,节点数目某一范围内性能可线性可映射本地设备;可采用网络RAID(DRBD)防单点;软硬件存储缓存;方案–对比(2)方案1:集中式存储方案2:纯分布式存储方案3:本地分布混合式方案4:全对称式本地存储方案5:纯本地存储灵活性54341成本43222数据可用性24342可扩展性45453管理复杂度23442部署周期13432性能指标:吞吐率,IOPS影响因素:规模,带宽,拓扑,客户端数目,虚拟机磁盘格式,硬件配置(RAID,缓存,磁盘类型数目),软件配置(缓存,协议)注:评分1-5代表从低到高,仅供参考方案1.集中式存储2.纯分布式存储3.本地分布混合式4.全对称式本地存储5.纯本地存储…选择选择•设计目标–灵活性–成本–数据可用性–可扩展性–管理复杂度–性能•实际需求–目的•企业私有云,IDC云服务–服务能力–功能需求•存储快照,虚拟机迁移–资源特点•硬件配置,机柜空间–应用特点•IO,计算,网络密集型–成本因素•资金,人力,时间•迁移代价,部署周期选择合适的就是完美的谢谢!shil@cniaas.comweibo:@Stones_SimpleCloud