人大金仓大数据管理平台目录建设背景及目标平台规划及架构平台建设内容123建设策略与方法4成功案列5大数据发展意义工信部在《基于云计算的电子政务公共平台顶层设计指南》中明确提出,要求“各地充分发挥既有资源作用和新一代信息技术潜能,积极开展基于云计算的电子政务公共平台顶层设计,继续深化电子政务应用,全面提升电子政务服务能力和水平,进一步提高电子政务发展质量”。数据采集数据存储关联分析创造新价值发现新知识提升新能力大数据:1、容量大2、类型多3、存取速度快4、应用价值高(一)大数据成为推动经济转型发展的新动力。(二)大数据成为重塑国家竞争优势的新机遇。(三)大数据成为提升政府治理能力的新途径。新一代信息技术和服务业态大数据平台的建设目标数据集中与整合1数据存储与处理2数据交换与共享3数据管控与治理4提升决策和风险防范水平提高社会治理的精准性和有效性提高服务能力与水平促进创新服务优化管理资源整合、信息共享、业务协同形成国家政府数据统一开放平台建设内容建设目的大数据平台目录建设背景及目标平台规划及架构平台建设内容123建设策略与方法4成功案列5大数据管理平台规划系统运维分析决策人员数据服务数据采集结构化及非结构化数据非实时采集系统运维规范与流程调度与监控配置与变更体制与机制数据存储数据管理数据标准元数据数据质量数据安全非结构化数据分布式存储集群灾备与恢复统一规划与运营数据资产管理规划数据中心整体架构实施路线图规划BIU建设基础设施主机存储通信网络虚拟化操作系统数据库信息源流数据实时采集结构化数据仓库分析数据集市数据资源数据共享数据交换数据分发数据分析应用功能管理驾驶舱门户查询/检索统计分析数据挖掘预警告警大数据分析安全与审计开发人员运维人员大数据管理平台架构数据安全数据质量数据标准云平台业务数据OracleDB2MangoDB……ETL数据采集数据交换信息共享数据应用数据计算数据存储结构化数据非结构化数据HDFS关系表外部表MPP并行SQL水平分区垂直分区R语言高级分析内置数据挖掘算法标准应用接口JDBC、ODBC等KingbaseDBCloud元数据数据治理数据挖掘多维分析灵活报表决策仪表盘地图分析自助分析KingbaseSmartBI数据分析SmartbiMobileSmartbidataIn数据分析目录背景及目标平台规划及架构平台建设内容123建设策略与方法4成功案列5大数据平台建设内容ETL架构与工具数据库软件平台金仓ETL流程结构图金仓ETL—全面的数据访问与平台支撑支持符合ODBC/JDBC接口规范的46种数据库系统OracleKingbaseESMySQLDB2SQLServerInformixKingbaseDISybase支持主流的国内外操作系统Windows系列/Linux系列Hadoop大数据平台建设内容数据库软件平台数据架构设计数据模型设计KingbaseDBCloud—系统架构KingbaseDBCloud是顺应大数据和云计算时代PB级海量数据处理而推出的高性能、高可用、高扩展和支持全局事务的并行分布式云数据库系统。支持OLTP和OLAP两种典型应用场景,使党政军及企业级应用在处理业务的同时具有大数据分析能力,可以有效构建100TB-PB级海量云数据中心。采用Share-Nothing架构,包括负载均衡节点、协调节点、存储执行节点和全局事务管理节点四大组件,每个组件均可以根据实际情况按需添加。在KingbaseDBCloud架构基础上,增加对HDFS文件存储的支持,实现SQL和NoSQL统一访问接口,同时支持SQL和NoSQL查询处理KingbaseDBCloud-系统功能数据处理数据存储结构化数据非结构化数据HDFS关系表外部表MPP并行SQL水平分区垂直分区R语言高级分析内置数据挖掘算法数据共享(标准应用接口JDBC、ODBC等)KingbaseDBCloud大数据平台建设内容统一应用平台应用架构设计典型应用(管理驾驶仓、报表系统等)KingbaseSmartBI—应用功能体系SmartbiOfficeAddin(开发)Smartbi信息交付门户(在线报表、报告、仪表盘)SmartbiBI处理引擎多维数据库关系数据库Nosql数据库数据仓库监控视频3rdSDKSmartbidataInSmartbiMobile决策仪表盘多维分析统一语义模型地图分析任务调度灵活报表所有数据源所有访问终端SmartbixQuery3rdToolSmartbi数据补录++++Smartbi绝不是个报表设计器,而是个集成、扩展的平台直观的图形展现•表现形式丰富:内置全国地图(到区县级)、表格、油量图、泡泡图、雷达图、地图、柱图、饼图、曲线图等丰富的数据展示形式•动态画图效果,生动形象大数据平台建设内容数据管控体系框架数据标准数据质量元数据数据管控体系框架数据整合域数据管控域技术体系组织体系管理体系数据标准标准定义标准映射标准执行标准维护元数据业务元数据技术元数据元数据维护元数据应用数据质量数据质量指标体系数据质量分析数据质量改进数据安全权限管理统一认证数据防护安全审计数据质量检核数据集中实时数据集中批量数据集中数据集中策略数据整合数据转换与清洗数据加工数据整合模型组织架构角色与技能分工与职责制度流程方法数据服务域数据服务配置数据服务定制数据服务数据目录数据服务管理服务配置服务目录服务审计数据检索数据存储数据标准建设流程标准范围包含哪些?目前的状况如何?标准应该是什么样?这些内容都在哪儿?标准应该如何执行?如何维护管理标准?数据质量管理方法监控(发现问题)分析(分析问题)修正(解决问题)跟踪(执行监督)•依据数据质量度量标准对其的数据实体和数据处理过程建立有效的监控机制,在第一时间发现数据质量问题,为数据质量问题分析提供原始依据•依据各系统的监控信息,对异常指标进行跟踪,提交相关数据质量问题报告,注重对分析过程中知识的积累•提出相应的解决方案和解决期限,方案和期限经评审通过后将正式进入修正过程•对于每一份数据质量问题报告都会进入问题跟踪库,确保数据质量问题可查、可跟踪及时性、完善性、合法性、准确性、唯一性监控问题分析、数据质量问题报告、知识库积累源系统、数据平台、应用系统•关键:编号、解决期限、责任人数据质量监控系统数据质量报告分析系统数据质量修正系统数据质量BUG管理系统元数据来源业务系统外部文件ETL服务器EDW/ODS/数据集市系统运行结构技术数据结构业务数据结构DW映射关系ETL程序信息数据转换规则数据清洗规则数据处理过程物理模型数据结构数据字典及敏感级别程序库数据库目录KPI关键业务指标数据分析模型数据库目录安全认证访问控制帮助文档结构OLAP服务器WEB服务器应用服务器门户服务器手工补录源数据层ETL过程层数据仓库层应用服务层门户层用户用户元数据应用数据地图血缘分析影响分析数据管控体系建设策略目录背景及目标平台规划及架构建设策略与方法124平台建设内容3成功案列5数据平台建设思路建议业务创新期-平台搭建-数据整合-报表支持管理优化期业务支持期-专题应用-数据集市-数据管理-数据开放-创新业务技术主导业务参与业务需求技术支持业务主动技术服务业务价值驱动从技术“推”到业务“拉”的转变养育数据、由小而大、分期建设规划勾画骨架;项目填充血肉KingbaseDI数据采集,ETL软件。对数据进行抽取、清洗、转换和加载。KingbaseDBCloud数据采集,对各种数据源的数据进行采集。数据存储,对采集后的数据进行存储,包括结构化数据和非结构化数据。提供数据分析功能,通过标准SQL以及内置R支持,进行数据分析。提供数据挖掘功能,通过内置的挖掘算法,进行数据建模、验证、挖掘分析。提供标准程序接口(ODBC、JDBC等),供应用程序开发调用。提供丰富的数据类型支持,除SQL基本类型外,还提供XML、JSON等类型。KingbaseSmartBI统计分析报表展现人大金仓-全面的数据管理与服务的产品和解决方案提供商服务宗旨—您的问题我们来解决!多层次,快速高效服务方式分为非现场技术支持与现场技术支持,非现场技术支持采用电话、传真、互联网、邮件、远程登录等多种方式服务团队由数据领域资深工程师承担,技术出众、经验丰富、尽职尽责。服务项目围绕技术发展和需求变化,并可灵活组合高品质,灵活适用全方位,周全细致服务内容包括产品相关服务(如培训、产品支持、移植测试、部署调优、定制开发、售后升级、运维巡检等)和解决方案相关服务(如方案咨询、方案设计、数据治理、数据集成、BI交付等)全方位以客户为中心全方位高品质多层次服务体系-服务项目(包括但不限于)解决方案类BI类产品数据库类产品开发态:产品培训、产品咨询、技术支持、配置优化、应用迁移、系统测试、安装调试、实施部署、产品定制运行态:运维管理、现场值守、巡查检测、售后升级开发态:产品培训、产品咨询、技术支持、BI实施、模型开发运行态:新需求实施、现场值守、售后升级开发态:方案咨询、方案开发、方案实施、应用开发支持、系统测试运行态:运维管理、新需求实现、现场值守、巡查检测目录背景及目标平台规划及架构成功案例125平台建设内容3建设策略与方法4HISPACSLIS管理决策支持临床决策支持绩效评价管理医疗数据源医疗数据仓库智能分析处理多维分析报表决策支持应用数据集成数据分析数据应用打造医院大数据综合管理分析智能平台平台化智能化-实时数据分析平台-数据深度挖掘-数据预警决策分析-个性化定制服务个性化移动医疗基于大数据技术的智能医疗整合分析系统—沈阳军区总医院1、数据量:单张门诊数据表达160G,每天的数据量新增2个T;数据仓库总共有接近2000张表3、大数据平台:KingbaseDBCloud、KingbaseDI、KingbaseSmartBI4.医院每年30亿的营业额项目概述Thanks!国产数据库第一品牌•1、不是井里没有水,而是你挖的不够深。不是成功来得慢,而是你努力的不够多。•2、孤单一人的时间使自己变得优秀,给来的人一个惊喜,也给自己一个好的交代。•3、命运给你一个比别人低的起点是想告诉你,让你用你的一生去奋斗出一个绝地反击的故事,所以有什么理由不努力!•4、心中没有过分的贪求,自然苦就少。口里不说多余的话,自然祸就少。腹内的食物能减少,自然病就少。思绪中没有过分欲,自然忧就少。大悲是无泪的,同样大悟无言。缘来尽量要惜,缘尽就放。人生本来就空,对人家笑笑,对自己笑笑,笑着看天下,看日出日落,花谢花开,岂不自在,哪里来的尘埃!•5、心情就像衣服,脏了就拿去洗洗,晒晒,阳光自然就会蔓延开来。阳光那么好,何必自寻烦恼,过好每一个当下,一万个美丽的未来抵不过一个温暖的现在。•6、无论你正遭遇着什么,你都要从落魄中站起来重振旗鼓,要继续保持热忱,要继续保持微笑,就像从未受伤过一样。•7、生命的美丽,永远展现在她的进取之中;就像大树的美丽,是展现在它负势向上高耸入云的蓬勃生机中;像雄鹰的美丽,是展现在它搏风击雨如苍天之魂的翱翔中;像江河的美丽,是展现在它波涛汹涌一泻千里的奔流中。•8、有些事,不可避免地发生,阴晴圆缺皆有规律,我们只能坦然地接受;有些事,只要你愿意努力,矢志不渝地付出,就能慢慢改变它的轨迹。•9、与其埋怨世界,不如改变自己。管好自己的心,做好自己的事,比什么都强。人生无完美,曲折亦风景。别把失去看得过重,放弃是另一种拥有;不要经常艳羡他人,人做到了,心悟到了,相信属于你的风景就在下一个拐弯处。•10、有些事想开了,你就会明白,在世上,你就是你,你痛痛你自己,你累累你自己,就算有人同情你,那又怎样,最后收拾残局的还是要靠你自己。•11、人生的某些障碍,你是逃不掉的。与其费尽周折绕过去,不如勇敢地攀登,或许这会铸就你人生的高点。•12、有些压力总是得自己扛过去,说出来就成了充满负能量的抱怨。寻求安慰也无济于事,还徒增了别人的烦恼。•13、认识到我们的所见所闻都是假象,认