数据分析与数据挖掘课件 【ch08】关联规则与点对相关性

第八章关联规则与点对相关性数据分析与数据挖掘01主成分分析最初的频繁模式挖掘是从购物篮分析开始的。购物篮是用户的一次购买所包含的商品的集合。用户的一次购买行为称为一个“事务”,购买的各商品称为“项”。支持度(Support)是指项集在事务数据库中出现的频率。频繁模式的基本概念关联规则中有两个重要度量指标：支持度(Support)和置信度(Confidence)。X→Y是一个关联规则候选，在事务数据库D中，如果support%的事务包含XUY,则X=Y的支持度为support%。关联规则的基本概念极大频繁模式与闭频繁模式性质1:频繁项集的子集必为频繁项集；性质2:非频繁项集的超集一定是非频繁的。02频繁模式挖掘Apriori算法Agrawal在阐述关联规则模型后又提出经典的Apriori频繁模式挖掘算法。挖掘频繁模式后可直接计算出关联规则的支持度和置信度，通过设置最小支持度阈值和置信度阈值可实现关联规则挖掘。垂直数据格式(Verticaldataformat)是通过将事务数据库的格式转换为按照项进行索引，再通过集合交集运算来计算频繁模式的。垂直数据格式基于前述频繁模式，可以计算关联规则。关联规则常用支持度(Support)和置信度(Confidence)作为规则有用性度量，此外，提升度(Lift)也常被使用。基于频繁模式计算关联规则03频繁模式树频繁模式树(FrequentPatternTree,FP-Tree)又称频繁模式增长树(Frequentpatterngrowthtree)也是一种频繁模式挖掘算法。它通过对事务数据库压缩表示，减少了事务数据库的扫描次数。频繁模式树的构建频繁模式树的主要工作过程为：①生成头表(Headlist)。②事务数据库中事务项集重排。③构建频繁模式树。④提取条件模式基。⑤生成频繁模式。因子分析过程下面结合表8.4的示例说明如何构建频繁模式树，进而挖掘频繁模式。在图8.6中，将sub-S-n视作新的事务数据库，按照8.3.1节中的步骤一至步骤三，构建头表，并构建频繁模式树T-d。频繁模式树的递归过程04点对相似度的典型度量点对关系常见度量

如果将容量为N的样本集中包括X的样本视作一个集合，将包括Y的样本视作另一个集合，如图8.7(a)所示。许多学者构建了较多相关性度量指标，如表8.6所示。点对关系常见度量许多学者构建了较多相关性度量指标，如表8.6所示。点对关系常见度量

置信度是有方向度量，confidence(X,Y)可能与confidence(Y,X)值相同也可能不同。表8.6中，有些指标与置信度存在关系，举以下三个例子：点对相关性度量的几种特性05信息熵及其应用与点对相关性度量信息熵

把一个随机事件x的自信息量定义为式(8.7)。在信息论中，通常将对数的底设置为2,此时自信息量的单位为比特(Bit,二进制数的1位),有时也设置为自然常数e,此时自信息量的单位为奈特(Nat)。图8.9(b)展示了结果有两种状态时，信息熵值与一个状态概率p₁的变化曲线。对于随机事件X存在3种或更多种状态时，信息熵仍使用式(8.8)表示。信息熵联合熵与互信息联合熵与互信息将信息增益(InformationGain,IG)定义为待分类集合的信息熵和选定某个特征的条件熵之差，如式(8.21)所示。信息增益、相对熵和交叉熵互信息I(X;Y)可用于相似度的度量。在关联规则或文本挖掘领域中，衡量两个项或两个词的相关性，可以使用点对互信息，简称点互信息(PointwiseMutualInformation,PMI),如式(8.27)所示。互信息、交叉熵用于相关性06本章小结本章小结本章讲述了频繁模式、关联规则、点对相关性度量和信息熵方面的知识。频繁模式是事务数据库中频繁出现的项集、子序列或子结构。关联规则是获得形如X→Y的规则，主要指标包括支持