当前位置:主页 > 查看内容

5分钟掌握Python关联规则分析

发布时间:2021-04-28 00:00| 位朋友查看

简介:1. 关联规则 大家可能听说过用于宣传数据挖掘的一个案例:啤酒和尿布;据说是沃尔玛超市在分析顾客的购买记录时,发现许多客户购买啤酒的同时也会购买婴儿尿布,于是超市调整了啤酒和尿布的货架摆放,让这两个品类摆放在一起;结果这两个品类的销量都有明显的……

 1. 关联规则

大家可能听说过用于宣传数据挖掘的一个案例:啤酒和尿布;据说是沃尔玛超市在分析顾客的购买记录时,发现许多客户购买啤酒的同时也会购买婴儿尿布,于是超市调整了啤酒和尿布的货架摆放,让这两个品类摆放在一起;结果这两个品类的销量都有明显的增长;分析原因是很多刚生小孩的男士在购买的啤酒时,会顺手带一些婴幼儿用品。

不论这个案例是否是真实的,案例中分析顾客购买记录的方式就是关联规则分析法Association Rules。

关联规则分析也被称为购物篮分析,用于分析数据集各项之间的关联关系。

1.1 基本概念

  •  项集:item的集合,如集合{牛奶、麦片、糖}是一个3项集,可以认为是购买记录里物品的集合。
  •  频繁项集:顾名思义就是频繁出现的item项的集合。如何定义频繁呢?用比例来判定,关联规则中采用支持度和置信度两个概念来计算比例值
  •  支持度:共同出现的项在整体项中的比例。以购买记录为例子,购买记录100条,如果商品A和B同时出现50条购买记录(即同时购买A和B的记录有50),那边A和B这个2项集的支持度为50%   

  •  置信度:购买A后再购买B的条件概率,根据贝叶斯公式,可如下表示:  

  •  提升度:为了判断产生规则的实际价值,即使用规则后商品出现的次数是否高于商品单独出现的评率,提升度和衡量购买X对购买Y的概率的提升作用。如下公式可见,如果X和Y相互独立那么提升度为1,提升度越大,说明X->Y的关联性越强

1.2 关联规则Apriori算法

关联规则方法的步骤如下:

  •  发现频繁项集
  •  找出关联规则

Apriori算法是经典的关联规则算法。Apriori算法的目标是找到最大的K项频繁集。Apriori算法从寻找1项集开始,通过最小支持度阈值进行剪枝,依次寻找2项集,3项集直到没有更过项集为止。

下面是一个案例图解:

  •  图中有4个记录,记录项有1,2,3,4,5若干
  •  首先先找出1项集对应的支持度(C1),可以看出4的支持度低于最小支持阈值,先剪掉(L1)。
  •  从1项集生成2项集,并计算支持度(C2),可以看出(1,5)(1,2)支持度低于最小支持阈值,先剪掉(L2)
  •  从2项集生成3项集,(1,2,3)(1,2,5)(2,3,5)只有(2,3,5)满足要求
  •  没有更多的项集了,就定制迭代

2. mlxtend实战关联规则

关联规则目前在scikit-learn中并没有实现。这里介绍另一个python库mlxtend。

2.1 安装

  1. pip install mlxtend 

2.2 简单的例子

  •  来看下数据集: 
  1. import pandas as pd  
  2.  item_list = [['牛奶','面包'],  
  3.      ['面包','尿布','啤酒','土豆'],  
  4.      ['牛奶','尿布','啤酒','可乐'],  
  5.      ['面包','牛奶','尿布','啤酒'],  
  6.      ['面包','牛奶','尿布','可乐']]  
  7.  item_df = pd.DataFrame(item_list) 
  •  数据格式处理,传入模型的数据需要满足bool值的格式 
  1. from mlxtend.preprocessing import TransactionEncode  
  2.  te = TransactionEncoder()  
  3.  df_tf = te.fit_transform(item_list)  
  4.  df = pd.DataFrame(df_tf,columns=te.columns_)     

  • 计算频繁项集
  1. from mlxtend.frequent_patterns import apriori  
  2. use_colnames=True表示使用元素名字,默认的False使用列名代表元素, 设置最小支持度min_support  
  3. frequent_itemsets = apriori(df, min_support=0.05, use_colnames=True 
  4. frequent_itemsets.sort_values(by='support'ascending=Falseinplace=True 
  5. # 选择2频繁项集  
  6. print(frequent_itemsets[frequent_itemsets.itemsets.apply(lambda x: len(x)) == 2])   

  •  计算关联规则   
  1. from mlxtend.frequent_patterns import association_rules  
  2.     # metric可以有很多的度量选项,返回的表列名都可以作为参数  
  3.     association_rule = association_rules(frequent_itemsets,metric='confidence',min_threshold=0.9)  
  4.     #关联规则可以提升度排序  
  5.     association_rule.sort_values(by='lift',ascending=False,inplace=True)   
  6.     association_rule  
  7.     # 规则是:antecedents->consequents  

选择出来关联规则之后,根据提升度排序后,可能最高提升度的规则是在我们常识范围内,那这个规则的价值就不高。所以我们要在产生的规则中根据业务特点进行筛选,像开篇提到(啤酒->尿布)完全不同的品类之间的关联。

笔者最近用关联规则分析用户的体检报告记录,也得出了关于各个病症的有意义的关联,如并发症,不同病症相互影响等。

3. 总结

本分介绍关联规则的基本概念和经典算法Apriori,以及python的实现库mlxtend使用。

总结如下:

  •  关联规则用于分析数据集各项之间的关联关系,想一想啤酒和尿布的故事
  •  三个重要概念:支持度,置信度和提升度
  •  Apriori通过迭代先找1项集,用支持度过滤项集,逐步找出所有k项集
  •  用置信度或提升度来选择满足的要求的规则
  •  mlxtend对数据要求转换成bool值才可用 
【责任编辑:庞桂玉 TEL:(010)68476606】
本文转载自网络,原文链接:https://mp.weixin.qq.com/s/cZDswS1lqTfMciVq_UY_xA
本站部分内容转载于网络,版权归原作者所有,转载之目的在于传播更多优秀技术内容,如有侵权请联系QQ/微信:153890879删除,谢谢!

推荐图文

  • 周排行
  • 月排行
  • 总排行

随机推荐