企业云计算解决方案云计算:重新定义IT及其产业链–驱动力60年代中期198119962011大型机PC机和小型机互联网数据中心云计算以服务方式提供计算能力按需获取,降低门槛(资金、技术、时间……),使计算成为象水电一样的社会公共基础设施计算能力被极少数机构独占,一般企业无法使用企业购买硬件设备获得计算和存储能力,存在架构不灵活、资源利用率不高、易被厂家锁定不可控等问题放弃自建数据中心,开始硬件的托管和租用需求催生的硬件和软件创新IOE互联网弹性计算带来资源集约化一次购置按需使用专业运维支撑的服务化高质量的基础设施专业的运维阿里云:致力于公有云计算服务•定位:云计算基础服务提供商•飞天大规模分布式云计算平台,提供大规模计算和存储服务•模式:公共基础设施服务•云计算是互联网时代的基础设施•从“买计算机”到“买计算”服务•计算能力的规模效益•面向租用和运营•愿景:打造数据分享第一平台•阿里云为数据而生•建设合作伙伴共生共赢的云计算生态圈成立于2009年9月10日,在杭州、北京和硅谷设有研发机构。员工人数2000人,60%为技术研发人员。阿里云产品架构弹性计算存储和数据库大规模计算ODPSECS:云服务器SLB:负载均衡ODPS:大规模数据处理服务DPC:BI工具RDS:关系数据库服务OSS:存储服务OTS:结构化数据服务OCS:缓存服务CDN:内容分发网络SLS:简单日志服务ECSSLBRDSOSSOTSOCSCDN安全与管理云盾云盾:安全体检、安全管家云监控:8种站点可用性监控、14种服务器监控云监控应用服务ACEMQS:消息队列ACE:弹性计算引擎OpenSearch:搜索SLSMQSOpenSearchDPCOAS阿里云安全体系全方位的云计算安全保证云计算安全架构云平台安全应用安全数据安全网络安全物理安全系统安全主机入侵防御系统主机安全镜像安全漏洞修复网络访问控制DDoS攻击防御云盾安全管理平台Web应用防火墙安全组防火墙恶意主机检测防IP/MAC/ARP欺骗物理隔离电力保障介质管理生物识别数据库防火墙访问控制分层隔离碎片存储网站安全漏洞检测加密传输清零销毁阿里云愿景致力于打造公共、开放的,以数据为中心的云计算服务平台借助技术创新,不断提升计算能力与规模效益将云计算变成真正意义上的公共服务为下一代信息经济构建新的基础设施应用服务层HTTPGET/POSTRESTXMLSOAPPSTNHTTP门户MobileClientsMobileClientsWebApplicationsWebApplications外网接入DMZ区企业外网企业内网WebServices身份认证服务器传统的企业系统逻辑部署示意图WebIVR语音服务器DNS服务器代理服务器HTTP服务器1HTTP服务器2防火墙负载均衡…搜索引擎OA内容管理文档管理决策分析交易服务查询服务数据交换平台业务流程引擎消息服务数据整合(ETL)防火墙其他内部应用内部应用内部应用内部应用内部应用内部应用…网闸前置机数据交换区数据层数据仓库(OLAP)业务数据库(OLTP)数据集市(RLOAP/MLOAP)主数据(MDM)文件存储防火墙OLAPQueryOLTPSLBRDS/DRDS:数据库数据库备份数据加载企业系统上云参考架构负载均衡:SLB提供DNS域名解析及流量负载均衡数据层:RDS的MySQL数据库创建一个高可用架构,可灵活扩展;OSS支持海量非结构化分布式存储;OTS支持海量结构化数据高性能分布式查询;ODPS支持数据仓库和大数据存储与分析;应用服务层:运行在ECS实例上的应用服务器集群,可灵活扩展Web服务层:运行在ECS实例上的Web服务器集群,可灵活扩展企业门户ECS实例:Web服务器ECS实例:应用服务器ECS实例:查询应用服务器业务管理OSS:对象存储服务OTS:大表数据服务数据加载ODPS:数据仓库/大数据分析查询服务ECS实例:BI服务器决策分析文件、日志、快照OCS:缓存服务数据刷新应用层/服务层服务化演进解决方案应用层容器接入层协议层核心服务层QOSOSGI容器PCServer飞天云服务器云服务器云服务器云服务器云服务器云服务器HSFConfigServersServiceProviderServiceConsumerServiceProviderServiceProviderRegisterserviceServiceLookupRPCPCServerPCServerPCServerHSF框架结构•多种调用方式•OSGi结构•服务治理•应用层路由完整支持•ConfigServer集群•权重选址•webserviceRPC•动态化增强•分布式事务应对应用层服务化演进,阿里云提供HSF支撑系统服务化改造。HSF(High-speedServiceFramework)提供一套分布式服务框架,可构建基于服务的分布式系统。OLTP类数据库解决方案DB引入数据缓存在DB上层引入分布式缓存OCS,减少DB访问次数,提升性能。DBCache优势:可有效提高查询性能局限:需要由应用层控制Cache数据同步性能扩展RDSRDSOCS职能拆分/读写分离可根据DB的读写职能进行分离,对单实例分散负载压力。WriteRead复制优势:有效DB读写性能局限:不保证数据严格一致性分布式RDS水平拆分/分表基于分布键将数据水平拆分到多库/表中,采用分布式DB技术,对于上层可视为单个实例。优势:可扩展性高,支持大规模数据存储和处理局限:维护成本高,需根据业务确定分布键,非分布键计算性能低;不保证数据严格一致性。RDSRDS性能扩展性能、容量扩展数据库上云/O2M由RDS替代传统Oracle数据库,实现高效低成本。优势:相较于Oracle数据库,提供更高效、更低成本的服务。局限:受单实例数据规模和性能的限制交易系统文件存储查询服务数据仓库大数据RDS性能扩展(数据缓存)RDSOCS数据层应用层DBCache写数据1.读数据2.在缓存中命中,直接返回3.若未命中,则转到数据库查询数据4.将查询结果返回5.更新缓存引入开放缓存服务OCS,将部分查询数据加载至分布式缓存中,减少RDS的数据查询次数,提升系统的数据查询并发效率和降低响应时间。在传统技术架构中,多采用Memcached、Redis等技术实现。场景分析:•OLTP类系统;•数据规模在T级;•并发访问量高、系统响应延迟短;•存在一部分数据相对固定,且会频繁请求的数据模型(如商品目录、用户基础信息、通用维表信息等);•目标缓存数据量规模不大1000万条。交易系统文件存储查询服务数据仓库大数据RDS性能扩展(主从模式,读写分离)应用服务器数据库复制RDS数据库MasterRDS数据库Slave#1RDS数据库Slave#2写请求读请求读请求可扩展的读性能SLB场景分析:•OLTP类系统;•数据规模在T级;•系统存在复杂事务处理;•单RDS实例无法同时支持读写请求;•对应用层相对透明,代码可调整范围小。交易系统文件存储查询服务数据仓库大数据RDS性能扩展(分布式RDS,数据Sharding)MasterDBFxFx’TableFP2P3P4PxPartition4Partitions*2Replicas=8DBP1SlaveDB(replica)ASYNCF1RWF1’R-only数据分片与读写分离(水平拆分)ASYNCF3RWF3’R-onlyASYNCF2RWF2’R-onlyASYNCF4RWF4’R-only写读DRDSrequest注:跨节点事物需要通过消息中间件Notify来保证事物的最终一致性场景分析:•OLTP类系统;•数据规模超过单个RDS存储上限;•大表间Join计算少,且以分布键进行Join;•对应用层相对透明。交易系统文件存储查询服务数据仓库大数据大规模数据库垂直拆分(分库)解决方案APPDBAPP垂直拆分/服务化按业务域垂直拆分出多个库,分散负载压力。用户商品交易评价…..案例:淘宝数据库按不同业务进行拆分:用户中心商品中心交易中心评价中心……..中心DB2DB3DB4多DB实现数据最终一致性保证:采用消息方式进行异步处理并实现数据最终一致。对上层应用提交的事务,经主业务DB执行后立即返回结果,然后通过消息中间件Notify异步通知其他相关业务DB进行数据更新。DB1主业务DB相关业务DB1MQ/Notify#1.Req#2.RespSYNASYNASYNASYNASYN#3.异步通知相关DB执行.相关业务DB2相关业务DBn交易系统文件存储查询服务数据仓库大数据文件数据存储解决方案存储需求:•企业数字化发展,伴随文件存储需求增加;•数据备份和文件共享库对文件存储的需求;•种类多样,规模庞大;•采用DB的Blog存储是一种反模式;•HA、性能和成本是重点考量的要素。传统方案:•IP-SAN、FC-SAN以及NAS方案•NAS不能保证高性能,SAN成本过高•扩展性都有上限RDSStandbyECS实例:应用服务器OSS数据备份文件日志….ECS实例:CM文件管理系统文件调用API接口API接口API接口架构方案:•基于OSS构建面向文件对象的存储能力;•OSS负责系统文件存储、日志备份、数据库备份等;•可构建独立的文件管理系统,通过API与OSS对接,实现对文件的管理;•OSS可保证HA、扩展性、高效性和低成本。交易系统文件存储查询服务数据仓库大数据海量数据查询服务解决方案ECS实例:应用服务器OTSECS实例:查询代理API接口鉴权控制服务管理FileDB服务接口负载均衡Web应用层服务总线应用服务层数据查询服务OTS数据分析统一身份认证文件接口服务器缓存服务器案例:药品电子监管平台系统采用OTS构建系统的海量数据查询服务•每天监管码被读写的总次数为6.4亿并以2亿/天的数量新增;•关键业务处理的平均延时从60分钟降低到2.7秒,效率提升了1333倍;•目前其药品监管码个数为600亿,2014年预期到达1500亿条的规模。架构方案:药品电子监管平台系统架构场景分析:•目标查询数据规模庞大;•数据增长速度快,对扩展性要求高;•对查询的性能要求高,如百亿条记录在秒级查询完成;•数据模型要求灵活;•保证高可用性。交易系统文件存储查询服务数据仓库大数据数据转换中央数据仓库信息展现平台数据同步实时/批量数据同步+数据清洗转换数据仓库+主题数据集市商务智能分析平台+分析主题关系型数据中心存储(OLAP)•数据如何进入数据仓库•用户如何使用数据提升管理思想数据仓库技术平台+企业级数据仓库模型不同用户及主题的分析内容和管理思路+分析展现平台管理分析专题•数据如何管理,性能和空间BI服务器统一企业信息模型交互式信息板即席分析报告并发布预先检测和警报平衡计分卡数据实时更新+数据清洗转换加载ETL转换转换转换实时同步批量同步……数据源1专题数据集市(MLOAP)专题数据集市(RLOAP)…孔明灯DXPDataXODPSADC-Alisis数据仓库解决方案交易系统文件存储查询服务数据仓库大数据大数据处理解决方案大数据平台能力构成:•多数据源接入能力(结构化/非结构化/流式数据);•海量数据存储和处理(HDFS/MR);•实时数据计算能力(内存计算);•大规模数据查询能力(NoSQL查询);•流式数据接入和处理能力•……传统企业大数据能力平台架构Pangu:分布式文件系统ODPSDataTransferSQLQueryMapReduce结构化数据非结构化数据流式数据数据接口RDS/DRDSOTS:大表数据查询数据接入:DataX/TimeTunnelAPISQLAPISQL……交易系统文件存储查询服务数据仓库大数据负载均衡:SLB数据库:RDS应用服务器:4个ECS实例对象存储:OSS数据库备份快照传统架构上云架构Internet参考案例:某市政收费系统新旧架构对比备份服务器IBMX3650数据库服务器IBMP550数据库服务器IBMP550负载均衡设备(RadwareAppDirector3020)带库IBMTS320