商务智能理论与应用7-关联规则

1关联规则2019/7/30一、关联规则的定义2关联规则一般用以发现事务数据库中不同商品（项）之间的联系，用这些规则找出顾客的购买行为模式。这种规则可以应用于超市商品货架设计、货物摆放以及根据购买模式对用户进行分类。2019/7/303二、关联规则：基本概念（一）支持度与置信度AA∩BB买尿布的客户二者都买的客户买啤酒的客户2019/7/30置信度confidence(.)：是指购物篮分析中有了左边商品，同时又有右边商品的交易次数百分比，也就是说在所有的购买了左边商品的交易中，同时又购买了右边商品的交易概率。4()()(|)()PABConfidenceABPBAPA1、置信度2019/7/302、支持度支持度sup(.)：表示在购物篮分析中同时包含关联规则左右两边物品的交易次数百分比，即支持这个规则的交易的次数百分比。5()()SupportABPBA2019/7/30例：6对于规则ACsupport=support({A,C})=50%confidence=support({A,C})/support({A})=66.6%TransactionIDItemsBought1000A,B,C2000A,C3000A,D4000B,E,F2019/7/30交易项目成交次数夹克，球鞋300滑雪衫，球鞋100夹克，滑雪衫，球鞋100球鞋50慢跑鞋40夹克，慢跑鞋100滑雪衫，慢跑鞋200衬衣10夹克40滑雪衫60合计10007表1运动鞋Y1单独购买合计球鞋Y11慢跑鞋Y12上衣X衬衣X11010外套X2夹克X2140010040540滑雪衫X2220020060460单独购买5040合计65034010008表2规则“夹克→球鞋”的计算921112111400sup()()40%1000XYPXY21111121211121()(|)()40074.1%()540confidenceXYPYXPXYPX2019/7/30运动鞋Y1单独购买合计球鞋Y11慢跑鞋Y12上衣X衬衣X11010外套X2夹克X211001滑雪衫X2218980899单独购买090090合计298810100010表3存在的问题：111.高置信度，低支持度：夹克球鞋”的置信度高达100％，但因为只有一人买了球鞋，这条关联规则支持度只有千分之一。2.支持度、置信度都比较高，但几乎是没有作用的规则。“买方便面则买牛奶”，“买牙刷则买牛奶”，“喜欢野外休闲则会买牛奶”。2019/7/30121、关联规则的分类二、关联规则的分类与作用2019/7/30布尔型关联规则与数值型关联规则布尔型关联规则处理的值都是离散的、种类化的，它显示了这些变量之间的关系；数值型关联规则可以和多维关联或多层关联规则结合起来，对数值型字段进行处理，将其进行动态的分割，或者直接对原始的数据进行处理，当然数值型关联规则中也可以包含种类变量。2019/7/3013如果关联规则中的项或属性每个只涉及一个维，则它是单维关联规则；反之，为多维关联规则。如，计算机→财务软件；年龄30～39岁、月收入4000元以上→高清电视如果在给定的规则集中，规则不涉及不同抽象层的项或属性，就称单层关联规则；反之，称多层。142019/7/302、关联规则的作用15购物篮分析：关联规则就是要找出哪些产品总是会同时出现在客户的购物篮中。商品摆放，基于商店不同的经营理念，如果将会经常一起购买的东西较近摆放，客户会比较方便购买，如果有意放在购物通道的两端，顾客寻找的过程中可以增加其他物品销售的可能性。关联规则可以处理所谓的匿名消费。（一张发票就是一个购物篮——与决策树和类神经网络不同。）关联规则与时序规则相结合（不能匿名，适合会员制）。先找出来哪些事务总是同时发生的关联规则，再加入时间的因素，找出哪些事务总是会先后发生的潜在规律。2019/7/30另外，只有同一个购物篮的商品信息能够分析的项目也很有限，因此，可以将气象资讯（温度、湿度、降雨）等转换为虚拟的商品项目，并入到购物篮中进行关联规则的分析。如，日本7-11相当著名的“七五三”规则。即是说如果一天当中温度相差7度、今天和昨天的温度差到5度、湿度差大于30%的话，代表感冒的人会增加，药店就要考虑把感冒药、温度计和口罩之类的用品上架。162019/7/30三、关联规则的挖掘172019/7/30（一）关联规则挖掘的步骤第一步：找出所有频繁项集：根据定义，这些项集出现的频繁性（支持度）至少和预定义的最小支持度一样。第二步：由频繁项集产生强关联规则：根据定义，这些规则必须满足最小支持度和最小置信度。182019/7/3019对于一个给定的候选数据集，项集的数目呈指数增长。2019/7/30（二）Apriori演算法关联规则计算虽然容易但由于规则太多容易形成“组合爆炸”，因此，需要对这些规则进行筛选，筛选需要的统计量如下：最小支持度：规则必须符合的最小支持度阀值。最小置信度：计算规则所必须符合的最低置信度阀值。如果关联规则满足最小支持度和最小置信度，可以说该规则是有趣的。202019/7/301、算法所需要的前置统计量：2、频繁项集项的集合称为项集（itemset）包含k个项的项集称为k-项集。集合{计算机，金融管理软件}就是一个2-项集。项集出现频数是包含项集的事务数，简称为项集的频数、支持计数或计数。212019/7/30如果项集满足最小支持度或满足min_sup与数据库中事务总数的乘积（即最小支持计数），则称它为频繁项集(frequentitemset)。频繁k-项集的集合通常记作Lk。2019/7/302223对于AC：support=support({A、C})=50%confidence=support({A、C})/support({A})=66.6%交易ID购买商品2000A,B,C1000A,C4000A,D5000B,E,F频繁项集支持度{A}75%{B}50%{C}50%{A,C}50%最小支持度50%最小可信度50%例：2019/7/304、Apriori算法：使用候选项集找频繁项集Apriori算法是一种最有影响的挖掘布尔关联规则频繁项集的算法。算法的名字基于这样的事实：算法使用频繁项集性质的先验知识。它使用一种称作逐层搜索的迭代方法，k-项集用于探索(k+1)-项集。首先，找出频繁1-项集的集合。该集合记作L1。L1用于找频繁2-项集的集合L2，而L2用于找L3，如此下去，直到不能找到频繁k-项集。找每个Lk需要一次数据库扫描。242019/7/30例125TIDItems100134200235300123540025数据库Ditemsetsup.{1}2{2}3{3}3{4}1{5}3itemsetsup.{1}2{2}3{3}3{5}3扫描DC1L1itemset{12}{13}{15}{23}{25}{35}itemsetsup{12}1{13}2{15}1{23}2{25}3{35}2itemsetsup{13}2{23}2{25}3{35}2L2C2C2扫描DC3L3itemset{235}扫描Ditemsetsup{235}22019/7/30为什么只有一项？26例：L3={abc,abd,acd,ace,bcd}连接:L3*L3abcdfromabcandabdacdefromacdandace修剪:acdeisremovedbecauseadeisnotinL3C4={abcd}2019/7/30Apriori——剪枝频繁项集的任何子集也一定是频繁的。例3：273、Apriori算法的实现过程282019/7/304、由频繁项集产生关联规则一旦找出频繁项集，再通过最小置信度产生关联规则。关联规则的产生步骤如下：对于每个频繁项集l，产生l的所有非空子集。对于l的每个非空子集s，如果则输出规则“s→(l-s)”。29sup_()min_sup_()portcountlconfidenceportcounts2019/7/30以例3为例，看其中一个频繁项集l={I1,I2,I5}，可以由l产生哪些关联规则？l的非空子集有{I1,I2}{I1,I5}{I2,I5}{I1}{I2}{I5}。结果关联规则如下，每个都列出了置信度。如果最小置信度阀值为70%，则只有第2、3和最后一个规则可以输出。302125,50%42152,100%22251,100%22152,33%62251,29%72512,100%2lllconfidencelllconfidencelllconfidencelllconfidencelllconfidencelllconfidence2019/7/30sup(1,2,5)24sup(1,2)portIIIportII真正可取的规则具备的条件31并非所有的规则在符合阀值限制后都是有意义的，这样的规则还分为：有用的规则：包含高品质的有效情报常识无法解释的结果关联规则真正可取的是具备以下两个条件的规则：人们常识之外、意料之外的关联该规则必须具有潜在的作用2019/7/305、案例2019/7/30322019/7/303334Apriori算法的核心:用频繁的(k–1)-项集生成候选的频繁k-项集用数据库扫描和模式匹配计算候选集的支持度Apriori的瓶颈:候选集生成巨大的候选集:104个频繁1-项集要生成107个候选2-项集要找尺寸为100的频繁模式，如{a1,a2,…,a100},你必须先产生21001030个候选集多次扫描数据库：如果最长的模式是n的话，则需要(n+1)次数据库扫描（三）Apriori够快了吗?—性能瓶颈2019/7/30（四）负关联规则挖掘2019/7/3035正确吗？结束362019/7/30