商务智能(BI)平台介绍2004.8北京AgendaBI是什么企业为什么需要BIBI的体系结构如何实施BIQ&ABI是什么与BI相关的几个重要概念BI(BusinessIntelligence,商务智能)DW(DataWarehouse,数据仓库)OLTP(OnlineTransactionProcess)OLAP(OnlineAnalysisProcess)DM(DataMining,数据挖掘)BI(BusinessIntelligence)商务智能,简称BI,指通过对数据的收集、管理、分析以及转化,使数据成为可用的信息,从而获得必要的洞察力和理解力,更好地辅助决策和指导行动。DW(DataWarehouse)数据仓库(DataWarehouse简称DW)是一个面向主题的(SubjectOriented)、集成的(Integrate)、相对稳定的(Non-Volatile)、反映历史变化(TimeVariant)的数据集合。数据仓库是实现商务智能的基础平台数据仓库VS数据库数据库系统(生产系统):●面向应用、事务驱动的●实时性高●数据检索量少●只存当前数据数据仓库系统(决策系统):●面向主题、分析和决策●实时性要求不是特别高●数据检索量大●存储大量的历史数据和当前数据以银行为例储蓄对公信用卡其他数据仓库客户产品渠道交易机构OLTP&OLAPOLTP(OnlineTransactionProcess)联机事务处理,是公司日常运营的基础,是业务流程信息化的关键,基于生产数据库。OLAP(OnlineAnalysisProcess)联机分析处理,基于数据仓库的数据分析,以供决策所需,面向管理层,面向未来。OLAP的目标满足决策支持或多维环境特定的查询和报表需求,它的技术核心是“维”这个概念,因此OLAP也可以说是多维资料分析工具的集合。通常所说的BI分析就是指OLAP,更为准确是指OLAP分析及结果展示。OLAP特性(演示)快速性可分析性多维性信息性OLAP多维分析方法(演示)切片和切块(SliceandDice)钻取(Drill)旋转(Rotate)/转轴(Pivot)OLAP分类按照存储方式OLAPMOLAPHOLAPROLAP按照处理地点ClientOLAPServerOLAPOLTP、ROLAP与MOLAP模式比较OLTPROLAPMOLAPDM(DataMining)数据挖掘(DataMining)就是从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。数据挖掘的两个阶段建立模型目前用得较多的建模技术主要有:统计分析、神经网络、决策树、遗传算法等等预测未来结果通过对基本数据不断理解的交互处理而不断提炼和调整,达到可以接受的精确程度,从而获得有价值的建议数据挖掘VS数据仓库数据挖掘(DataMining)与数据仓库(DataWarehouse)没有直接的联系在大部分情况下,数据挖掘都要把数据从数据仓库中拿到数据挖掘库或数据集市中为了数据挖掘你也不必非得建立一个数据仓库,数据仓库不是必须的DM(数据挖掘)vsOLAPDM(DataMining)和OLAP是完全不同的OLAP分析过程的本质是一个演绎推理的过程OLAP分析先建立一系列的假设,然后通过OLAP来证实或推翻这些假设来最终得到自己的结论DM本质上是一个归纳的过程不是用于验证某个假定的模型的正确性,而是在数据库中自己寻找模型数据挖掘和OLAP具有一定的互补性网易BI目前的应用仅仅局限于OLAPBIVSExcelBI是一个由多个组件构成的完整的数据分析系统,面向数据仓库的海量数据,提供多维度对视角的数据分析Excel是桌面的办公软件,面向平面小规模数据的处理BI与Excel并不矛盾,它们互为补充企业为什么需要BI企业为什么需要BI?BI能够从根本上帮助你把公司的运营数据转化成为高价值的可以获取的信息(或知识),并且在恰当的时候通过恰当的方式把恰当的信息传递给恰当的人数据信息知识利润BI价值陈述响应能力•监视事件和计量标准•将最近事件和历史数据相关联分析•从收入、可赢利性、满意度的角度来讲,哪些是您最好的客户?•哪些客户会对促销作出响应?计划•预测和趋势分析•实施之前预估策略中的潜在变化责任•用于经理、主管的精确及时的报告•公司数以万计的以及其他的公开内容市场营销采购服务销售项目管理财务/HR计划和模型执行报告和分析开发生产国内业界的观点(1)“经过几年ERP系统的运行,企业拥有了大量的经营及客户数据,为了进一步获得市场的竞争优势,BI必须把这些尘封在各个数据库中的各种结构的数据充分利用起来,提高企业运营绩效,获得更大市场。”国内业界的观点(2)商务智能是指一种能力:通过智能地使用企业的数据财产来制定更好的商务决策。它的意思是说各种企业的决策人员以企业中的数据仓库(DataWarehouse)为本,经由各式各样的查询分析工具(Query/ReportTools)、联机分析处理(OLAP)工具、或是数据挖掘(DataMining)工具加上决策规划人员的行业知识(IndustryKnowledge),从数据仓库中获得有利的信息,进而帮助企业提高获利,增加生产力与竞争力。学术界的观点BI实际上是帮助企业提高决策能力和运营能力的概念、方法、过程以及软件的集合,其主要目标是将企业所掌握的信息转换成竞争优势,提高企业决策能力、决策效率、决策准确性。客户需要统一的视图计划监视分析报告BI的体系结构BI平台基本架构数据仓库引擎数据集成引擎OLAP引擎挖掘引擎(DM)业务数据库(OLTP)ETLDW企业数据仓库ETL(抽取、转换、加载)即席查询、预定义报表、自定义报表、OLAP、数据挖掘、专题分析模型元数据管理Web服务器客户端客户端客户端客户端客户端大客户分析数据集市财务分析数据集市客户分析数据集市...模型库业务数据库业务数据库业务数据库业务数据库业务数据库业务发展分析客户分析大客户分析用户发展分析收益情况分析服务质量分析营销管理分析财务分析渠道分析反欺诈专题分析客户流失专题分析...如何实施BIBI项目实施方法论?规划解决方案支持数据仓库管理(处理流程与操作)物理数据库设计数据转换应用开发数据挖掘服务设计与实现支持与增强解决方案体系结构设计元数据管理数据仓库评估应用增强逻辑数据模型回顾物理数据库回顾性能调整容量规划解决方案集成定制解决方案规划详细数据分析解决方案准备就绪解决方案实施建议现成解决方案规划数据仓库策略开发业务探索业务探索解决方案定义逻辑数据模型设计修改逻辑数据模型验证解决方案数据仓库的循环过程数据仓库管理物理数据模型数据转换应用开发数据挖掘服务系统体系结构设计元数据管理解决方案集成项目具体实施步骤项目前期准备业务探索信息探索逻辑数据模型BI项目具体实施步骤1.项目前期准备2.业务探索(BusinessDiscovery)3.信息探索(InformationDiscovery)4.逻辑数据模型设计5.系统体系结构设计6.物理数据库设计7.数据转换加载ETL8.前端应用开发9.数据挖掘服务10.元数据管理11.数据仓库管理(处理流程与操作)12.解决方案集成(测试验收与试运行)建立BI项目团队项目评估需求分析逻辑模型设计物理模型设计数据抽取转换装载数据存储和管理数据展现和发布培训项目经理(ProjectManager)业务顾问(BusinessConsultant)模型工程师(ModelEngineer)最终用户(EndUser)ETL工程师数据库管理员(DBA)界面开发工程师(GUIDeveloper)培训工程师(TrainningEngineer)BI项目成功的关键高层领导的强力支持流畅的数据流一支熟悉业务、精通技术的团队业务驱动,业务人员与BI团队良好的沟通完善的推广、培训制度功能完善的相关软件(DW、ETL、OLAP、DM)BI的实施是一个长期的、不断完善的过程,需要公司各部门良好的协作Q&A