企业存储资源整合及优化_V13

如何实现企业存储资源整合及优化Contents目录01020304企业存储层面临的问题如何设计企业存储架构如何实现存储层整体优化存储资源整合过程的误区04Part01企业存储层面临的问题企业存储层面临的问题存储架构多样化、存储设备多样化。业务类型、重要程度、读写特点、数据特点等多元化特点。存储设备扩展性差、设备性能差、架构设计复杂导致存储性能瓶颈。存储设备故障、数据存储介质故障、存储环境故障等。双或者多数据中心模式下的数据容灾。企业存储层面临的问题1243架构统一异构整合分级管理性能平衡提高数据容灾级别存储平台稳定健壮Part02如何设计企业存储架构存储整合及优化目标存储整合及优化原则存储定义多样化与存储架构统一性相结合01存储平台整体性能平衡与特殊业务性能粒度细分相结合02存储需求的静态分析与存储扩张的动态分析相结合03存储数据容灾手段多样化与策略统一性相结合04传统存储架构DASLocalDiskLocalDiskX86虚拟化Power虚拟化数据库节点其他节点HP3ParEMCVNXIBMDSNetAppNASSAN环境LAN环境管理：没有统一管理接口，资源分散管理，管理方式多样复杂化。资源利用：各自分配，资源无法实现共享及平衡，资源的回收及再利用操作很麻烦。扩展性：只能依靠单个设备的扩容，数据不具备横向扩展性。高可用性：只能依靠单个设备控制器的冗余性，设备级别的故障无法解决。迁移：非常困难，需要借助主机端或者单独存储工具结合完善的迁移方案。性能：性能问题只能依靠高端存储的高吞吐量，不能实现设备级别的横向性能拉伸。软件定义存储架构存储整合底层HP3ParEMCVNXIBMDSNetAppNASLocalDisk服务实例服务实例服务实例服务实例服务实例对象存储服务块儿存储服务文件存储服务SAN环境LAN环境X86虚拟化Power虚拟化数据库节点管理节点软件定义存储架构实现异构SAN存储设备的统一整合，将传统SAN存储软件功能层上移到整合层。SAN存储整合能够将主机本地存储资源进行统一整合并且能并入存储统一管理平台。纯软件定义整合能够实现NAS、DAS等其他传统存储设备的资源整合。其他存储整合整体存储架构扁平化，存储服务实现分布式模式。服务功能实例化存储资源池化上移到整合之后，性能平衡以及高可用以池为依托。资源极限池化软件定义存储架构存储整合类型整合对象典型产品产品特点典型应用场景纯软件存储整合服务器本地磁盘其他廉价磁盘存储IBMSpectrumAccelerateVmwareVSANZETTAKITEMCViPR通过软件实现主机本地磁盘及其他独立磁盘柜的统一资源池化；通过SSD盘配置实现本地读写缓存的优化。分布式对象存储局部软件定义存储OLAP业务SAN存储统一整合传统异构磁盘阵列IBMSVCEMCVPLEXNetappDataontap异构SAN存储设备接入虚拟化节点集群；分层实现设备级别的性能整体平衡；高可用实现跨存储设备。OLTP业务系统双活数据中心架构数据在线迁移场景其他存储统一整合NAS及类似存储OpenfilerEMCisilonNexentaIBMSpectrumScale（GPFS）将NAS设备统一接入实现资源重组；通过网络协议向主机提供虚拟文件存储空间。非结构化数据业务大吞吐量并行业务Part03如何实现存储层整体优化存储层的关键性能瓶颈分析存储服务实例节点单存储设备性能瓶颈存储性能短板架构深度带来的延时存储服务网络性能瓶颈存储后端网络性能瓶颈性能瓶颈服务器和存储服务节点之间的前端存储网络性能服务器IO策略的选择业务负载总量与性能极限单个负载与服务实例性能极限业务离散度与服务实例平衡度异构存储间的性能差异存储工作模式的差异存储虚拟化服务节点与存储设备之间的SAN网络或者TCPIP网络性能从主机层到正真的物理层之间深度越深，那么IO经历的延时就会越长。虚拟卷的整体性能会因为具体存储设备或存储类型的短板效应而成倍放大。如何消除架构前端性能瓶颈存储整合底层服务实例服务实例服务实例服务实例服务实例对象存储服务块儿存储服务文件存储服务SAN环境LAN环境业务整体负载压力业务系统整体负载压力总和应该小于存储层提供服务实例的总吞吐量。业务系统中最高IOPS记录应该小于存储层单个实例的最大能力。所有存储服务实例平均资源利用率应与高可用策略匹配。所有存储服务实例的IO负载应实现平衡分布式服务。交换设备本身不能成为系统环境的性能瓶颈（通道宽度、交换缓存、链路使用策略）。环境架构实现扁平化，减少IO实际深度以及带来的延时。数据读写实现跨设备级横向扩展，存储空间实现横向拉伸。但是需要避免出现横向拉伸中的性能短板效应出现。存储整合层数据横向实现科学合理迁移、迁移策略既能实现性能的时间维度平衡，同时不能产生对纵向IO的影响。对业务读写特点及需求进行细分，科学正确配置存储池策略，保证高需求业务利用高端物理设备，读写敏感性低的业务尽量横向扩展。以性能和高可用的最佳平衡点为指导设置存储虚拟层的落盘策略。以闪存的超高速读写性能来提升热点数据性能，以整体分层策略来平衡存储池整体存储效率。将闪存单独抽离作为存储池的缓存，以解决底层物理设备存储性能的多样化差异。如何消除架构后端性能瓶颈存储整合底层HP3ParEMCVNXIBMDSNetAppNAS服务实例服务实例服务实例服务实例服务实例对象存储服务块儿存储服务文件存储服务底层SAN环境及LAN环境实现扁平架构，避免交换设备的过多级联，减少数据落盘的延时影响。结合分布式存储软件利用低端存储设备，支撑分析类业务。FlashSystem拉伸了的存储集群架构（接管模式）节点节点存储存储节点节点存储存储节点节点存储存储功能描述：两个节点组成一个组（拉伸的集群），组内主节点对VDISK提供IO服务。VDISK的两个物理镜像位于两个中心的存储。VDISK不能被其他组接管。部署注意点：科学计算业务负载并以此衡量架构横向吞吐能力及横向扩展能力；合理平衡VDISK和IOGROUP的映射关系，保证节点负载均衡；根据业务需求设置IO写策略（性能优先&数据优先）；利用FLASHCOPY分担数据读请求压力；利用Metro和Global合理实现数据容灾；两端的存储设备性能差异不要悬殊，以保证IO落盘没有短板效应放大带来的性能影响。拉伸了的存储集群架构（并写模式）节点节点存储存储节点节点存储存储节点节点存储存储功能描述：两个节点组成一个拉伸集群，每一个节点有两个引擎，每个引擎有两个控制器。共同为所有VDISK提供IO服务。两个节点同时读写，会有数据竞争及数据同步。部署注意点：尽量避免应用层再次出现强烈数据热点问题；严格保证节点之间的通道带宽及延时符合产品要求；虚拟化层本身不具备存储分层及FLASHCOPY等功能，需要借助存储设备本身的功能来实现，因此存储层的StorageGroup需要小粒度细分。两边的存储设备需要严格保证其配置的一致性，否则会加倍放大性能影响。Part04存储资源整合过程中的误区存储资源整合过程中的误区单个服务实例性能指标不代表整体性能，要看实例整体工作模式是否能实现负载均衡。整体性能与服务实例性能01为了追求存储的统一性和便利性而牺牲存储服务的特殊化特征将会带来性能灾难。存储集中管理与存储分散服务02双活是为了保证站点灾难的数据恢复，如果容灾架构与性能形成严重冲突，就放弃极限双活吧。为了双活而双活03存储的整合和优化是为业务服务的，抛开业务特点追求整合目标是不合理的。单纯的存储整合及优化04闪存的利用和其他存储设备一样有其自己的特点，合理配置闪存的使用策略。把闪存作为一切问题的救世主05