客户数据挖掘

1、通过本章的学习，将能够：*理解数据挖掘的含义*熟悉数据挖掘的功能*熟悉数据挖掘的主要技术*掌握数据挖掘的业务流程*了解客户关系管理对数据挖掘的需求*理解数据挖掘在客户关系管理中的作用4数据挖掘数据挖掘数据库越来越大数据库越来越大有价值的知识有价值的知识可怕的数据可怕的数据数据挖掘背景5数据爆炸，知识贫乏数据爆炸，知识贫乏 苦恼: 淹没在数据中 ; 不能制定合适的决策! 数据数据n模式模式n趋势趋势n事实事实n关系关系n模型模型n关联规则关联规则n序列序列n目标市场目标市场n资金分配资金分配n贸易选择贸易选择n在哪儿做广告在哪儿做广告n销售的地理位置销售的地理位置n金融金融n经济经济n政府政府n

2、POSn人口统计人口统计n生命周期生命周期数据挖掘是一个利用各种分析工具在海量数据中发现模型和数据间关系的过程，这些模型和关系可以用来做出预测。 数据挖掘（数据挖掘（Data MiningData Mining）数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。数据挖掘是一种新的商业信息处理技术，其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其他模型化处理，从中提取辅助商业决策的关键性数据。数据挖掘数据挖掘的特点数据挖掘与传统分析方法的区别数据挖掘是在没有明确假设的前提下去挖掘信息、发现

3、知识。数据挖掘所得到的信息应具有先未知,有效和可实用三个特征：l先前未知的信息是指该信息是预先未曾预料到的,既数据挖掘是要发现那些不能靠直觉发现的信息或知识,甚至是违背直觉的信息或知识l有效信息是指符合实际情况且具有一定的代表性l可实用是指可以指导企业的营销决策*数据挖掘是在没有明确假设的前提下去挖掘信息、发数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识现知识 *数据挖掘所得到的信息应具有先未知、有效和可实用数据挖掘所得到的信息应具有先未知、有效和可实用三个特征三个特征*数据源必须是大量的、真实的、有噪声的数据源必须是大量的、真实的、有噪声的*发现的是用户感兴趣的知识发现的是用户感兴趣的

4、知识 *发现的知识要可接受、可理解、可运用发现的知识要可接受、可理解、可运用 *并不要求发现放之四海皆准的知识，仅支持特定的发并不要求发现放之四海皆准的知识，仅支持特定的发现问题现问题 *数据挖掘任务：描述和预测数据挖掘任务：描述和预测*描述可以通过下述方法得到：描述可以通过下述方法得到：*1、数据特征化、数据特征化*2、数据区分、数据区分*3、数据特征化和比较、数据特征化和比较客户接触客户接触 客户信息客户信息客户数据库客户数据库统计分析与数据挖掘统计分析与数据挖掘客户知识发现客户知识发现客户管理客户管理知识发现：从数据中深入抽取隐含的、未知的和有潜在用途的信息知识发现：从数据中深入抽取隐含

5、的、未知的和有潜在用途的信息从商业数据到商业智能各行业电子商务网站各行业电子商务网站算算法法层层商商业业逻逻辑辑层层行行业业应应用用层层商业应用商业模型挖掘算法CRM产品推荐产品推荐客户细分客户细分客户流失客户流失客户利润客户利润客户响应客户响应关联规则、序列模式、分类、聚集、神经元网络、偏差分析关联规则、序列模式、分类、聚集、神经元网络、偏差分析WEB挖掘挖掘网站结构优化网站结构优化网页推荐网页推荐商品推荐商品推荐。基因挖掘基因挖掘基因表达路径分析基因表达路径分析基因表达相似性分析基因表达相似性分析基因表达共发生分析基因表达共发生分析。银行银行电信电信零售零售保险保险制药制药生物信息生物信息

6、科学研究科学研究。相关行业数据挖掘的应用Debt$40KQ QQ QQ QQ QI II I1 12 23 34 45 56 6factor 1factor 2factor n神经网络神经网络 Neural NetworksNeural Networks聚类分析聚类分析 ClusteringClusteringOpenAccntAdd NewProductDecreaseUsage?Time序列分析序列分析 Sequence AnalysisSequence Analysis决策树决策树 Decision TreesDecision Trees 倾向性分析 客户保留 客户生命周期管理 目标市场

7、 价格弹性分析 客户细分 市场细分 倾向性分析 客户保留 目标市场 欺诈检测关联分析关联分析 AssociationAssociation 市场组合分析 套装产品分析 目录设计 交叉销售数据挖掘的应用数据挖掘技术的分类数据挖掘技术的分类回顾分析：注重解决过去和现在的问题 如：两年来不同地区、人口和产品情况下的各销售部门销售业绩分析预测分析：在历史信息的基础上预测某些事件和行为 如：建立预测模型来描述客户的流失率分类：根据某种标准将数据库记录分类到许多预先定义好的类别 如：信用卡公司将客户记录分为好、中、差三类 分类可以产生规则：如果一个客户收入超过5000万元，年龄在4555岁之间，居住在某地

8、区，那么他的信用等级为好。数据挖掘技术数据挖掘技术的分类数据挖掘技术的分类聚类：根据某些属性将数据库分割为一些子集和簇 如：在了解客户的过程中，尝试使用从未使用过的属性分割人群以发现潜在客户的簇关联：通过考察记录来识别数据间的密切关系 关联关系常常表现为规则，常用于超市购物篮分析如：所有包含A和B的记录中有60同时包含C。演变分析：描述行为随时间变化的对象的规律或趋势 如：通过对客户多次购物行为的分析可以发现购物行为在时间上的关系 常用于产品目录营销的分析数据挖掘的一般目的就是数据挖掘的一般目的就是检测、解释和预测检测、解释和预测数据中定性的和或定量的模式数据中定性的和或定量的模式数据挖掘技术

9、*（四）孤立点分析*数据库中包含一些数据对象，他们与数据的一般行为或模型不一致。*（五）分类和预测*找出描述并区分数据类或概念的模型，以便能够使用模型预测和分类标志未知的对象类。现代方法关联规则（Association Rules） 关联规则的表现形式 关联规则是一种无指导学习的数据挖掘中最普遍的知识发现，是指在行为上具有某种关联的多个事物在一次事件中可能同时出现，从而在多个事物中建立联系规则的方法。 “如果怎么样、怎么样、怎么样，那么就会怎么样” 关联规则的构成 前件“如果怎么样、怎么样、怎么样” 后件“那么就怎么样” 如果买了西装，就会买领带 如果买精显彩电，就会买家庭影院系统规则的构成如

10、果怎么样、怎么样、怎么样，就会怎么样如果怎么样、怎么样、怎么样，就会怎么样前件，激发条件前件，激发条件后件，结果后件，结果规则表现为在前件所有条件成立的前提下，规则表现为在前件所有条件成立的前提下，后件结果会以某一正确概率出现后件结果会以某一正确概率出现关联规则（Association Rules）规则的置信度和支持度关联规则（Association Rules） 规则的置信度又称为规则的正确率，是指在前提出现的情况下，后件出现的概率 规则的支持度又称为规则的覆盖率，是指包含规则出现的属性值的交易占所有交易的百分比 例：如果客户买牛奶，那么他们也会买面包 置信度：在10000次交易中客户购买了

11、牛奶，而且其中的5000个交易也同时购买了面包，则上述规则的置信度为50001000050 支持度：在超市一个月的客户交易中，共有600000次交易，其中购买牛奶的交易为60000次，支持度为6000060000010 规则的生成现代方法关联规则（Association Rules） 最近邻方法 规则：如果一个客户处于的状况，那么他可能是一个逃款者 关联规则可以使用传统的方法生成，但适当提供的属性很多时，因为每条规则的结果可能包含大量的前提条件，使用传统方法会变得不切实际。规则的生成关联规则（Association Rules） 市场篮子分析就是一种关联规则的表现 时间序列分析是一种反映客户行

12、为在时间上的关联性的关联规则商业银行的客户细分商业银行的客户细分规则的应用关联规则（Association Rules）以前件为目标归纳所有前件一样的规则分析后件的营销效果设计促销方案（完善前件）例收集所有前件为文具、复读机的规则，分析这些商品打折是否促进其他高利润商品的销售，从而调整商品结构、设计促销方案规则的应用关联规则（Association Rules）以后件为目标归纳所有后件一样的规则分析什么因素与后件有关或对后件有影响设计前件促成后件例收集到所有后件为西装的规则，可以帮助我们了解西装的销售受哪些因素的影响或与哪些因素相关，从而可以考虑将这些因素集合在一起而产生促销效果。规则的应用关

13、联规则（Association Rules）置信度低置信度低置信度高置信度高支持度高支持度高支持度低支持度低规则的置信度和支持度规则的置信度和支持度规则很少是正确的，规则很少是正确的，但可以经常使用但可以经常使用规则很少是正确的，规则很少是正确的，而且很少被使用而且很少被使用规则多数情况下是正确，规则多数情况下是正确，但很少被使用但很少被使用规则多数情况下是正确的规则多数情况下是正确的，而且可以经常使用，而且可以经常使用以置信度或支持度为目标*Bell Atlantic的数据挖掘系统非常成功，不仅为他们的业务开展带来很大的方便，而且节省了许多开支。Bell Atlantic的电话服务目前已经覆

14、盖了美国14个州，拥有商业电话、住家电话帐户近亿个。*Bell Atlantic 数据挖掘系统的首要任务就是尽快地追收拖欠的电话费，同时尽量减少收债部门的成本。*软件系统的选择非常重要。经过反复挑选后，Bell Atlantic采用了SAS统计软件系统建立数据挖掘系统，然后在SAS环境中利用SAS宏程序建立挖掘系统。 *然后是建立SAS格式库。许多数据需要格式化，比如年龄，可以从20到100岁，需要分成不同的组，这都需要利用模式来进行数据转换。有的数据不是连续变量，比如婚姻状况(单身/已婚)，也需要进行一些变换才可以进行计算。日期也是需要模式化的，不同计算机系统记录日期方法不同，需要把日期转换

15、成一致的方法。在金融保险行业日期这个变量非常重要，因为很多客户的行为都记录在日期里面了。电话公司里记帐、付款的日期也非常重要。 数据挖掘方法学数据挖掘方法学模式模式 数据库中一个事件或事件的结合，这些事件比预期的要经常发生，其实际发生率明显不同于随机情况下的可期望发生率。 模式是数据驱动的，一般只反映数据本身模型模型 对构建事件的源时的历史数据库的描述，并且能够成功地应用于新的数据，以便对缺少的数据作出预测或对期望的数据作出说明。模型的一般表现形式数学方程式描述各客户段的规则集计算机表示方式 模式可视化数据挖掘技术数据挖掘方法学数据挖掘方法学取样取样 根据问题的需要采用随机取样的方法从数据库中

16、抽取数据进行挖掘，有助于迅速发现模式、创建模型 数据本身的处理过程需要验证验证模型 模型创建过程需要保证正确 模型应用的验证 在依据一些历史数据建造模型后，将模型应用于未参与建造模型的其他类似的历史数据，比较其模型输出结果与实际结果。数据挖掘技术经典方法经典方法统计统计 统计可以通过对类似下列问题的回答获得模式在我的数据库中存在什么模式某个事件发生的可能性是什么那些模式是重要的模式 统计的一个重要价值就是它提供了对数据库的高层视图，这种视图提供了有用的信息，但不要求在细节上理解数据库的每一条记录。数据挖掘方法经典方法经典方法最近邻最近邻 通过检测与预测对象最接近的对象的状况对预测对象进行预测

17、原理： 某一特定对象可能与其他某一或某些对象比其 它一些第三对象更接近； 相互之间“接近”的对象会有相似的取值 根据其中一个对象的取值，预测其最近邻对象的预测值 商业 应用：文献检索市场篮子分析 应用 评价： 最近邻的数量最近邻的距离决定最近邻预测的可信度数据挖掘方法现代方法现代方法基础理论有指导的学习(Supervised Learning)归纳 概念 分类标准与模型 分类有指导的学习的目的：建立分类模型用模型确定新数据实例的类别训练数据（Training Data）与检验集(Test Set)用于创建模型的数据实例称为训练数据用于检验模型的准确度的数据实例称为检验集数据挖掘方法 有指导的学

18、习有指导的学习(Supervised Learning)患者代码嗓子痛发烧淋巴肿充血头痛诊断结果1YesyesYesYesYes咽炎2NoNoNoYesYes敏感症3YesYesNoYesNo感冒4YesNoYesNoNo咽炎5NoYesNoYesNo感冒6NoNoNoYesNo敏感症7NoNoYesNoNo咽炎8YesNoNoYesYes敏感症9NoYesNoYesYes感冒10yesYesnoYesYes感冒淋巴肿淋巴肿数据挖掘方法患者代码嗓子痛发烧淋巴肿充血头痛诊断结果11NoNoYesYesYes?12YesYesNoNoYes?13NoNoNoNoYes?有指导的学习(Supervi

19、sed Learning)患者代码嗓子痛发烧淋巴肿充血头痛诊断结果1YesyesYesYesYes咽炎2NoNoNoYesYes敏感症3YesYesNoYesNo感冒4YesNoYesNoNo咽炎5NoYesNoYesNo感冒6NoNoNoYesNo敏感症7NoNoYesNoNo咽炎8YesNoNoYesYes敏感症9NoYesNoYesYes感冒10yesYesNoYesYes感冒淋巴肿淋巴肿发发 烧烧No No Yes Yes 咽炎敏感症感冒淋巴肿、发烧是有意义的属性嗓子痛、充血、头痛是无意义的属性数据挖掘方法 有指导的学习有指导的学习(Supervised Learning)淋巴肿发 烧

20、No No Yes Yes 咽炎敏感症感冒患者代码嗓子痛发烧淋巴肿充血头痛诊断结果11NoNoYesYesYes?12YesYesNoNoYes?13NoNoNoNoYes?未知分类的数据实例（检验集）数据挖掘方法无指导的学习无指导的学习(Unsupervised Learning)为没有预先定义分类标准的数据建立模型客户ID客户类型交易保证金帐户交易方法交易数月性别年龄嗜好年收入1005联合NoOnline12.5F30-39网球45.9万1013委托保管NoBroke0.5F50-59滑雪89.9万1245联合NoOnline3.6M20-29高尔夫23.9万2110个人YesBroke2

21、2.3M30-39钓鱼45.9万1001个人YesOnline5.0M40-49高尔夫67.9万ABC投资公司客户表数据挖掘方法无指导的学习无指导的学习(Unsupervised Learning)区分在线投资者和经纪人投资者的特征是什么一个新客户未开设交易保证金帐户，如何确定其将来是否会开设这种帐户能建立一个预测新投资者月均交易数的模型吗女性和男性投资者有什么不同的特征交易方式交易保证金帐户月均交易数性别数数 据据 挖挖 掘掘 问问 题题属属 性性哪些属性相似性决定ABC公司的客户分组属性值的哪些不同之处分隔了客户数据库有指导有指导的学习的学习无指导无指导的学习的学习数据挖掘方法现代方法决策

22、树（Decision Tree）决策树是一种有指导学习的数据挖掘方法决策树的组成决策节点、分支、叶子根节点分支叶子Debt$40K节点 决策树的分支过程就是对数据进行分类的过程，利用几个变量（每个变量对应一个问题）来判断数据所属的类别。在分支后，要使不同分支之间数据的差异尽可能大、同一分支内的数据尽量相同。这一分割过程也就是数据的“纯化”过程。数据挖掘方法决决策策树树的的算算法法步步骤骤假设T为训练实例集选择一个最能区别T中实例的属性创建一个决策节点，它的值为所选择的属性创建该节点的分支，每个分支代表所选属性的一个唯一值使用分支的值，将数据实例分割为子类对于步骤5所创建的各个子类： 如果子类中

23、的数据实例满足以下条件，可按此决策树对新数据实例指定类别 分割中只包含一条数据实例 分割中所有数据实例的属性都相同 继续分割得到的改进不明显 如果子类不满足上述条件，则设T为当前子类数据实例集合，返回步骤 2数据挖掘方法决策树的属性选取决策树的属性选取属性选取标准： 最大化反映数据差异，使树的层次和节点数最小患者代码嗓子痛发烧淋巴肿充血头痛诊断结果1YesyesYesYesYes咽炎2NoNoNoYesYes敏感症3YesYesNoYesNo感冒4YesNoYesNoNo咽炎5NoYesNoYesNo感冒6NoNoNoYesNo敏感症7NoNoYesNoNo咽炎8YesNoNoYesYes敏感

24、症9NoYesNoYesYes感冒10yesYesnoYesYes感冒淋巴肿淋巴肿发发 烧烧No No Yes Yes 咽炎敏感症感冒数据挖掘方法患者代码嗓子痛发烧淋巴肿充血头痛诊断结果1YesyesYesYesYes咽炎2NoNoNoYesYes敏感症3YesYesNoYesNo感冒4YesNoYesNoNo咽炎5NoYesNoYesNo感冒6NoNoNoYesNo敏感症7NoNoYesNoNo咽炎8YesNoNoYesYes敏感症9NoYesNoYesYes感冒10yesYesnoYesYes感冒淋巴肿发 烧No No Yes Yes 敏感症敏感症咽炎No Yes 头 痛淋巴肿感冒发 烧淋

25、巴肿No Yes 咽炎No Yes 数据挖掘方法决策树的属性选取决策树的属性选取属性选取标准： 最大化反映数据差异，使树的层次和节点数最小信用卡促销数据库信用卡促销数据库收入收入段段寿险促寿险促销销信用卡保信用卡保险险性性别别年年龄龄4-5万万NoNoM453-4万万YesNoF404-5万万NoNoM423-4万万YesYesM435-6万万YesNoF382-3万万 NoNoF553-4万万YesYesM352-3万万NoNo M273-4万万NoNo F433-4万万YesNoF414-5万万YesNoM432-3万万YesNoF295-6万万YesNoF394-5万万NoNoM552-

26、3万万YesYesF19选取收入段为根节点选取寿险促销为输出属性沿着每个分支有两个类，选取最频繁出现的类收入段收入段2Yes2No4Yes1No3No 1Yes2Yes23万万 34万万 45万万 56万万训练集分类的正确性为111573数据挖掘方法决策树（Decision Tree）：例信用卡促销数据库选取信用卡保险为根节点选取寿险促销为输出属性沿着每个分支有两个类，选取最频繁出现的类信用卡保险信用卡保险6Yes6No3Yes 0NoNoYes训练集分类的正确性为91560数据挖掘方法收入收入段段寿险促寿险促销销信用卡保信用卡保险险性性别别年年龄龄4-5万万NoNoM453-4万万YesNo

27、F404-5万万NoNoM423-4万万YesYesM435-6万万YesNoF382-3万万 NoNoF553-4万万YesYesM352-3万万NoNo M273-4万万NoNo F433-4万万YesNoF414-5万万YesNoM432-3万万YesNoF295-6万万YesNoF394-5万万NoNoM552-3万万YesYesF19决策树（Decision Tree）：例信用卡促销数据库选取数值型属性年龄为根节点选取寿险促销为输出属性依照年龄排序，对照输出属性进行数据分割，选择数据分割点年年 龄龄9Yes3No0Yes 3No4343以年龄43结合寿险促销Yes，训练集分类的正确性

28、为121580172729353839404142434343455555YNYYYYYYNYYNNNN数据挖掘方法收入收入段段寿险促寿险促销销信用卡保信用卡保险险性性别别年年龄龄4-5万万NoNoM453-4万万YesNoF404-5万万NoNoM423-4万万YesYesM435-6万万YesNoF382-3万万 NoNoF553-4万万YesYesM352-3万万NoNo M273-4万万NoNo F433-4万万YesNoF414-5万万YesNoM432-3万万YesNoF295-6万万YesNoF394-5万万NoNoM552-3万万YesYesF19决策树（Decision Tr

29、ee）：例信用卡促销数据库年 龄Yes（61）No（21）4343性 别F M信用卡保险Yes（20）No（30）No Yes信用卡数据库的三节点决策树信用卡数据库的三节点决策树训练集分类的正确性为131587数据挖掘方法收入收入段段寿险促寿险促销销信用卡保信用卡保险险性性别别年年龄龄4-5万万NoNoM453-4万万YesNoF404-5万万NoNoM423-4万万YesYesM435-6万万YesNoF382-3万万 NoNoF553-4万万YesYesM352-3万万NoNo M273-4万万NoNo F433-4万万YesNoF414-5万万YesNoM432-3万万YesNoF295

30、-6万万YesNoF394-5万万NoNoM552-3万万YesYesF19决策树（DecisionTree）：例信用卡促销数据库收入收入段段寿险促寿险促销销信用卡保信用卡保险险性别性别年龄年龄4-5万万NoNoM453-4万万YesNoF404-5万万NoNoM423-4万万YesYesM435-6万万YesNoF382-3万万 NoNoF553-4万万YesYesM352-3万万NoNo M273-4万万NoNo F433-4万万YesNoF414-5万万YesNoM432-3万万YesNoF295-6万万YesNoF394-5万万NoNoM552-3万万YesYesF19信用卡保险Yes

31、（52）No（41）NoYes性 别F MYes（30）信用卡数据库的两节点决策树信用卡数据库的两节点决策树训练集分类的正确性为121580数据挖掘方法决策树（Decision Tree）：例信用卡促销数据库检验集收入段寿险促销信用卡保险性别年龄检验结果4-5万NoNoM42正确2-3万NoNoM27正确3-4万NoNoM43正确2-3万YesNoM29错误年 龄Yes（61）No（21）4343性 别F M信用卡保险Yes（20）No（30）No Yes信用卡数据库的三节点决策树信用卡数据库的三节点决策树数据挖掘方法现代方法现代方法K平均值算法 K-平均值算法是一种简单而有效的无指导学习的统

32、计聚类方法，将一组数据划分为不相关的簇算算 法法 步步 骤骤选择一个K值，用以确定簇的总数在数据集中任意选择K个数据实例，作为初始的簇中心试用简单的欧氏距离将其它数据实例赋予距离它们最近的簇中心试用每个簇中的数据实例，计算每个簇的新的平均值如果新的平均值等于次迭代的平均值，终止该过程。否则，用新平均值作为簇中心并重复步骤35。点A(x1,y1)与点B(x2,y2)之间的欧氏距离计算式为Disce ABxxyytan()()()121222数据挖掘方法K平均值算法：例K-平均值输入属性实例XY1(C1)1.01.521.04.53(C2)2.01.542.03.553.02.565.06.01.选择K=2，即将所有数据实例分为两个簇2.选择实例1作为第1个簇的中心，实例3作为第2个簇的中心3.计算各数据实例与C1、C2之间的欧氏距离Dist(C11)=0.00 Dist(C21)=1.00 C1Dist(C12)=3.00 Dist(C22)=3.16 C1Dist(C13)=1.00 Dist(C23)=0.00 C2Dist(C14)=2.24 Dist(C24)=2.00 C2Dist(C15)=