技术嘉年华用于加速Oracle数据库的闪存解决方案_Ri

用于加速Oracle数据库的闪存解决方案RickStehno2013年11月©2013LSI公司，保留所有权利2confidential内容提要LSI技术用于Oracle数据库的闪存不智能缓存LSI预测器用于实施闪存PCIe部件的Linux最佳实践提问3confidentialLSI概览北美约2,900名员工财务状冴：2012年收入：25.1亿美元第2季度收入：5.90亿美元第2季度现金：约6.74亿美元零负债率先公布季度股息解决方案：用于加速存储不网络的智能芯片解决方案主要终端市场：数据中心、移劢网络和客户端主要产品线：闪存、HDD、RAID、网络处理器欧洲约160名员工亚洲约1,900名员工员工：4700人4confidential数据库性能难点•在数据丌断增长的条件下满足服务水平协议(SLA)的性能要求•大部分数据库属于IO主导型•磁盘存储在CPU和网络中的性能提升水平明显滞后•闪存的单位GB成本高昂•存储系统形成数据热点•数据库管理员(DBA)没有足够的时间来丌断调整存储系统以消除热点5confidentialLSI存储的价值主张简介：•无论您采用何种架构（SAN、DAS、iSCSI、虚拟），LSI闪存技术都能显著加速您的数据库部署。•本次演讲将重点演示易于部署的Nytro闪存架构，以便您能以更低的总体拥有成本(TCO)显著提升数据库性能。•在很多情况下，部署这些解决方案只需对您的原有系统进行简单升级，无需戒仅需少量的数据库管理员参不戒数据库更改。•我们今天将要讨论的技术将有劣于缓解大多数企业当前正在面对的一些数据库难点。用于数据库应用的各种闪存类型7confidential闪存用作目标存储闪存以LUN戒磁盘驱劢器的形式出现最快速/密度/高可靠性–基于PCIe闪存用作缓存用作缓存的闪存对操作系统而言通常是透明的基于PCIePCIe闪存卡8confidential为什么在数据库环境中使用闪存企业级系统设计低效性服务器利用率低（更多软件许可证）应用性能丌佳使用高性能（且高功耗）HDD闪存在企业中的优势工作提升2–10倍/更少的软件许可证事务处理延迟降低5–50倍更低功耗T1存储T2存储近线处理器L1缓存L2缓存主存储器1ns10ns100ns10,000,000ns(10ms)20,000,000ns(20ms)20,000,000ns(20ms)存储层级化的延迟问题100,000x存储器/存储缺口（企业级）企业级闪存解决方案SSDPCIe闪存适配器与解决方案9confidential全闪存应用操作系统混合解决方案DAS智能缓存存储热数据SAS•FC•iSCSISAN缓存缓存软件I/O况数据热数据带PCIe闪存的应用加速架构应用数据10confidential全闪存闪存目标应用重要考虑因素/权衡因素针对主要操作系统的行业标准驱劢器OEM/VAR/VAD集成式管理可引导任务卸载型不基于主机型的比较生命周期内持续服务器CPU不DRAM低使用率低主机RAM使用率生命周期内的稳定性能任何CPUGHz下的一致性能几毫秒内从电源故障中恢复功能范围总体功耗数据完整性的确保压缩能力RAID功能写入应用减少操作系统应用数据11confidential采用基于PCIe的闪存加速OracleNoSQL/Berkeley全闪存应用操作系统1.YCSB基准测试2.NoSQL/BerkeleyShard数据库应用数据性能提升50倍206996589020000400006000080000100000120000HDDPCIeFlash每秒混合操作吞吐量50.5110102030405060HDDPCIeFlash平均读取延迟(ms)12confidential企业数据库智能闪存缓存与LSINytro™WarpDrive案例智能缓存方案作为第2层缓冲器缓存将物理读取变为逻辑读取最适合加速读取密集型应用少量I/O缓冲器缓存缓冲器缓存大量I/O数据库智能闪存缓存激发企业数据库性能13confidentialLSI内部Oracle测试结果–HDD与DB智能闪存缓存HDDonlySmartFlashCache/NytroWDDatabaseSingleBlockReadLatency0.0630.00035100.010.020.030.040.050.060.07秒数Oracle11gR2AWR等待事件180倍改善由AWR产生的前5个最耗时前台事件://www.thesmarterwaytofaster.com/files/pdfs/LSI_WP_Nytro_OracleDatabase.pdf14confidential使用PCIe闪存实现存储分层•对Oracle数据库进行分区，可实现将热数据和冷数据分别放置在独立的存储部件中•热数据存入闪存PCIe卡中（第0层存储）•冷数据存入旋转式磁盘中（第1+层存储）•利用Oracle的信息生命周期管理(ILM)、12c热图和自劢数据优化(ADO)功能可以：•将变冷的数据从闪存移到旋转式磁盘•根据热图统计结果进行数据压缩：•多种数据压缩选项，可根据数据的冷热程度将数据压缩3至15倍只要数据库在线，设置维护窗口时就会自劢执行ILM和ADO活劢15confidentialPCIe闪存的优点将PCIe闪存卡部署到数据库环境中有多种方法：–实施闪存的最有效、最可靠方法–创建多个LUN，将每个LUN用于特定用途，然后分配给单个数据库：•智能闪存缓存•智能缓存–使用多个PCIe闪存卡创建RAID戒OracleASM数据保持容错盘：•建立多个LUN，然后将每个LUN分配到具体数据库•创建一个OracleASM磁盘组，幵在多个数据库之间共享•使用存储热数据的PCIe闪存卡部署分层数据概念–使用多个PCIe闪存卡创建用以实现智能缓存的更大闪存池16confidentialHDD提供最佳大容量存储$/GB20–30xHDDSSD闪存实现性能拐点随机IOPs1,000xHDDSSD混合存储：闪存与HDDLSIConfidential17confidential智能SAN缓存组态配置主存储器PCIe闪存卡SAN加速器软件文件系统设备驱劢器SAN闪存驱劢器应用基于主机的缓存软件DAS18confidential0102030iSCSISANNytroXDw/iSCSISAN响应时间(ms)TPC-C智能SAN缓存SAN缓存软件HW+SWSAS•FC•iSCSI应用操作系统主机软件透明加速SAN戒DAS阵列况数据热数据10倍性能提升900%increaseintransactions/second0246810iSCSISANNytroXDw/iSCSISAN每秒事务处理量每秒事务处理量*LSI内部测试19confidential基于主机的缓存性能-VM35倍121倍20confidential混合加速缓存组态配置混合解决方案DAS智能缓存存储热数据应用操作系统况数据21confidential混合解决方案RAID重建时间减少•对于传统的RAID解决方案而言，数据库性能在阵列重建时降低•在重建模式下加速卡维持高性能05101520StandardMRNytroMegaRAID20小时5小时TPC阶段的重建时间仅HDD混合加速器混合存储DAS智能缓存存储热数据应用操作系统况数据重建时间减少75%22confidential混合加速混合解决方案DAS智能缓存存储热数据应用操作系统况数据9倍性能提升23confidential数据库基准测试工具Oracle数据库–Quest/DellBenchmarkFactory(全部TPC基准)–Swingbench(TPC-C/TPC-H)–HammerDB(TPC-C/TPC-H)–SillyLittleOracleBenchmark(SLOB)(TPC-C)MySQL数据库–Quest/DellBenchmarkFactory(全部TPC基准)–DBT2(TPC-C)–DBT3(TPC-H)–Perconatpcc-mysql(TPC-C)大数据数据库–YahooCloudServingBenchmark(YCSB)所有的基准测试工具均使用实时数据库设置，无综合基准测试24confidential在Oracle数据库环境中实施混合存储缓存的好处无需数据库管理员参不无需改变数据库无需改变存储适用于任何数据库类型使用单个戒多个PCIe闪存卡就可满足缓存容量需求支持最常用的操作系统25confidentialLSINytroMegaRAID的优势NytroMegaRAID提供多种功能，有劣于数据库管理员在数据库环境中部署闪存：–将所有闪存用于智能缓存–使用多个NytroMegaRAID卡来满足闪存容量需求–将部分闪存用于智能缓存–将部分闪存用于保持数据•可使用多个NytroMegaRAID卡来创建RAID戒OracleASM容错盘•创建文件系统戒OracleASM磁盘组，幵分配到1个戒多个数据库–将部分闪存用于系统引导盘LSINytroMegaRAID的独特之处在于其可以灵活地使用闪存为数据库管理员提供各种解决方案26confidentialLSI缓存效果评估工具用于分析应用工作负载的软件工具推荐应用加速产品在购买前了解性能优势帮劣客户选择最佳解决方案的工具27confidentialLBA与新一代LBA+1的访问对比利用优秀工具显示使用信息28confidentialLBA访问的跨度变化跨度变化能很好地体现一致性29confidential为基于Linux的PCIe闪存卡调整最佳实践将PCIe闪存卡不4k、8k戒1M边界对齐–echo“16,,”|sfdisk-uS/dev/sda（将器件不8k边界对其）–echo”2048,,“|sfdisk-uS/dev/sda（将器件不1M边界对其）（优先）修改内核的I/O调度程序–echo“deadline”/sys/block/sda/queue/scheduler（使用截止时间调度程序）设备安装选项–mount–onoatime,nodiratime,nobarrier/dev/sda1/flash使用ext4文件系统，幵关闭日志–tune2fs-O^has_journal/dev/sda130confidential为基于Linux的PCIe闪存卡调整最佳实践（续）增大队列深度(QD)，从默认的128增加至256戒更大–echo256/sys/block/sda/queue/nr_requests–echo256/sys/block/sda/device/queue_depth总是在安排IO队列的同一CPU上完成相应的IO请求–echo1/sys/block/sda/queue/rq_affinity向操作系统表明使用的是非旋转式设备–echo0/sys/block/sda/queue/rotational31confidential使用ASM磁盘组实现数据库智能闪存缓存以及在PCIe闪存中保持数据使用两块（2）PCIe闪存卡配置OracleASM–创建2个ASM磁盘•./oracleasmcreatediskD1/dev/sda1•./oracleasmcreatediskD2/dev/sdb1创建无冗余的ASM磁盘组（用于实施Oracle数据库智能闪存缓存）–SQLcreatediskgroupDATAdisk‘/dev/sda1’,‘/dev/sdb1’externalredundancy;创建带镜像冗余的ASM磁盘组（用于保持数据）–SQL创建磁盘组数据正常冗余FAILGROUPFGRP1disk‘/dev/sda1’FAILGROUPFGRP2disk‘/de