大数据时代下电信运营商的智慧运营与信息经营中国电信上海研究院中国电信广东公司综合部中国电信大数据带来的行业新变革大数据给电信运营商带来的新机遇大数据时代下电信运营商的困惑与挑战智慧运营与信息经营的大数据体系大数据时代下电信运营商的智慧运营与信息经营中国电信广东公司综合部中国电信社会信息化发展步入大数据时代今天世界是数据泛滥的世界•每一秒:全球发送290万封电子邮件,一分钟读一篇,需一个人昼夜不停读5.5年。•每一天:全球上传2.88万小时视频至Youtube,需一个人昼夜不停看3.3年;推特上发5千万条信息,十秒钟浏览一条,需一个人昼夜不停看16年。•每一月:网民在Facebook上花费7千亿分钟。•上一年:人们制造并使用的数据达1.8ZB。大数据正成为最值得关注的领域之一•Google搜索从2006年开始,至2011年达到新高。•Gartner认为大数据2011.7处于期望快速提高阶段。大数据云计算中国电信广东公司综合部中国电信大数据给社会带来巨大的价值仅2011年,在美国医疗服务业、欧洲公共管理部门、全球定位数据市场三个领域市场价值达7千亿美元(麦肯锡:《大数据:创新、竞争和生产力的下一个前沿领域》)仅在美国零售业,每提升10%的数据使用率可提升49%的人均产出。但全球电信运营商在大数据应用领域仍属于起步初期。国内大数据已经在舆情控制,如微博关键字分析等领域得到应有。国内涉及个人信息保护的相关法律法规还不完善。中国电信广东公司综合部中国电信大数据已经成为现代企业的核心竞争力自身服务提升:亚马逊每天生成630万份订单,大数据帮助亚马逊提高对客户的洞察力,随时跟踪用户需求变化。识别客户区分客户快速适配对外提供业务:淘宝每天活跃数据量50TB,提供各种行业分析报告(顾客的特征、什么最好卖、行业的竞争对手、广告投放的效果、我的顾客的行为…..)中国电信广东公司综合部中国电信大数据对数据管理与分析提出了新要求数据量的增加(Volume)使传统数据仓库的数据处理和存储压力增大:•移动互联网的业务发展和应用复杂度增加导致数据量增加,传统数据仓库无法线性扩容,管理难度加大,成本高扩容压力大,效率下降等。数据类型的多样化(Variety)令传统数据仓库难于有效处理:•移动互联网和物联网不同于传统通信业务,需要对内容等非结构化、大容量信息进行有效分析,传统的架构处理吃力。数据处理速度(Velocity)的提升对传统数据仓库提出更高实时性要求:•网元和传感器产生的流数据需要能够实时进行处理和分析,传统以批量加载为主的BI系统难于有效支撑。BSS/OSS数据信令数据URL数据DPI数据传统数据仓库ETL主机、SAN、存储之间端口扩展受限,内部通讯消耗资源加剧电信网络将来80%的数据是非结构化的ETL关系数据库引入对XML的支持仍然无法有效处理传统数据仓库传统数据仓库应用偏重于历史数据分析,时间窗多以日增量ETL加载为主,最多做到分钟级准实时6中国电信广东公司综合部中国电信大数据带来的行业新变革大数据给电信运营商带来的新机遇大数据时代下电信运营商的困惑与挑战智慧运营与信息经营的大数据体系大数据时代下电信运营商的智慧运营与信息经营中国电信广东公司综合部中国电信大数据时代给电信运营商带来了新机遇电信运营商应该聚焦自身特殊数据,寻找潜在资源电信运营商详细记录了人在现代化社会的信息指纹•Who/Whom:电话号码的背后是IT系统内人的信息•When:通话记录和上网记录的背后是人的行为•Where:基于手机和固网定位的背后是人的位置•What:流量分析和内容检测的背后是人的需求信息指纹上海某运营商•每分钟8万条位置更新信息(徐家汇商圈)•每小时近300万次移动电话呼叫•每天70-100TB及30亿次点击的互联网访问量中国电信广东公司综合部中国电信大数据是智能管道的重要手段“智能管道主导者、综合平台提供者、信息服务参与者”智能管道主导者•本质是提高运营效率,按需供给网络资源及服务•核心是识别用户、业务、场景;分档分阶,差异化服务•需要对用户的业务行为进行实时的采集、分析、处理中国电信广东公司综合部中国电信大数据是综合平台的重要内容“智能管道主导者、综合平台提供者、信息服务参与者”综合平台提供者•本质是能力开放•电信已开放的能力包括:网络通信能力、应用服务能力、IT能力(如代认证、计费)。逐步加强的数据应用开放能力•单个用户:•属性信息(年龄、分类、终端)•状态信息(网络、位置)•行为信息(通讯、消费、其他)•用户群的统计信息中国电信广东公司综合部中国电信大数据是信息服务创新的有效途径“智能管道主导者、综合平台提供者、信息服务参与者”信息服务参与者•新业务:基于状态的如彩印业务,开机提醒等。•新服务:基于用户位置、终端类型和用户喜好特征,提供定向营销推送。•新经营:根据用户网络使用情况、业务使用情况、业务收入、终端类型等,提供经营分析、客户关怀、离网预警。中国电信广东公司综合部中国电信大数据带来的行业新变革大数据给电信运营商带来的新机遇大数据时代下电信运营商的困惑与挑战智慧运营与信息经营的大数据体系大数据时代下电信运营商的智慧运营与信息经营中国电信广东公司综合部中国电信大数据的价值仍有待提升—数据采集不足现象:知道用户访问过哪些网站,但不知道用户看过哪些东西。原因:内容检测不充分,仅仅对源地址及HTTP包头分析,不检测内容。现象:知道用户在哪片地区,但不知道用户在哪个地点。原因:定位能力不足,不能进行室内定位。要想准确的描述用户的现实行为仍需要了解更多信息中国电信广东公司综合部中国电信理想很丰满•复合关联:把分散在网络中各个环节的数据汇聚拼接出用户真正的全貌•泛在挖掘:把握单个用户的真正需求;挖掘潜在用户群的行为特征•快速实时:能及时的反映到对用户的服务上现实很骨感•现有DPI的分析仅仅用作几张报表(技术/体制/考核)大数据的价值仍有待提升—数据分析不足要想清楚的知晓用户的真实需求仍需要更全面的分析数据中国电信广东公司综合部中国电信大数据的价值仍有待提升—数据应用不足内部:•还不能清晰的确定各种数据价值•数据散乱在众多系统中,无法有效收集分析外部:•无法将外部业务需求转换成实际的数据需求•没有完善的数据对外开放访问机制面向内外提供基于用户数据的服务能力仍非常欠缺中国电信广东公司综合部中国电信大数据给电信运营商带来的困惑电信运营商的海量数据仍未形成有效的信息资产数据汇聚形成信息资产数据挖掘丰富资产内涵数据开放提升资产价值海量大数据成本很高大数据挖掘手段不足大数据经营尚在探索中国电信广东公司综合部中国电信大数据带来的行业新变革大数据给电信运营商带来的新机遇大数据时代下电信运营商的困惑与挑战智慧运营与信息经营的大数据体系大数据时代下电信运营商的智慧运营与信息经营中国电信广东公司综合部中国电信大数据时代下电信运营商的数据资产战略资产规范化•数据规范:全面盘点现有企业数据资源,明确可纳入信息资产的范畴,制定数据资产规范,逐步构建目标模型,推进跨域综合数据规划资产显性化•数据汇聚:构建数据弹性汇聚平台(按需从各个网元采集/清洗数据,统一存储在分布式文件系统)资产价值化•数据挖掘:构建数据按需分析平台(根据业务需求形成挖掘模型,对统一存储数据进行挖掘分析)资产经营化•数据经营:构建数据开放经营平台(将汇聚平台的数据或分析平台的结果在可经营的体系下开放)数据规划弹性汇聚平台按需分析平台开放经营平台中国电信广东公司综合部中国电信资产规范化:制定数据资产规范,推进跨域数据规划信息来源•终端•网络•IT系统•业务平台描述内容•用户状态•用户属性•用户行为时效性•瞬时•过程•静态应用方式•控制业务•统计分析电信运营商网络中的各种数据大量而且繁杂信息资产表数据类型.数据来源.数据内容.时效性.应用方式.…….制定资产规范12推进数据规划运营商的数据规划是一个逼近业务发展需求的长期渐变过程中国电信广东公司综合部中国电信资产显性化:构建数据弹性汇聚平台瞬时状态数据实时行为数据静态属性数据数据弹性汇聚平台•粗定位•精定位•室内定位采集节点•按需部署•分散前置•分类清洗存储平台•统一平台•集中建设•分布存储弹性2数据采集内容弹性1数据采集范围弹性3数据清洗策略弹性4数据存储能力中国电信广东公司综合部中国电信资产价值化:构建数据按需分析平台在构建数据分析平台的基础上,构建数据分析能力,逐步对外服务系统体系架构•基于云计算分布式架构数据分析挖掘•支持各类统计分析报表•支持深度数据挖掘语义分析模式分析行为轨迹分析客户交往圈分析……智慧运营价值•支撑企业智慧运营,提供企业管理决策、经营分析、市场营销、运营监控及各类专题分析应用数据服务,提升企业智慧统计分析深度挖掘产品分析竞争分析客户分析渠道分析流量分析…客户行为特征标签实时针对性营销…管道智能化按需分析平台操作层管理层决策层内部用户外部用户合作伙伴SP/CP中国电信广东公司综合部中国电信资产经营化:构建数据开放经营平台数据开放最关键的是安全管控•单个用户的信息•瞬时状态信息:需要用户自己在业务流程内实时授权,采用开放经营平台+终端软件实现。•实时行为信息:需要用户在开放经营平台离线授权。•静态属性信息:需要用户在开放经营平台离线授权。•用户群行为统计分析•需要电信运营商的授权•信息汇聚平台原始数据•需要保护原始数据安全,并需要电信运营商的授权。弹性汇聚平台按需分析平台开放经营平台安全解密用户授权运营商授权访问控制单个用户信息统计分析信息汇聚平台数据互联网应用中国电信广东公司综合部中国电信谢谢!