数据挖掘技术

1、1234事务数据库事务数据库D5678910111213141516学习器（训练器）学习器（训练器） 分类器分类器 类类1 类类2 类类m 未被分类的数据未被分类的数据 训练例训练例训练例训练例 训练例训练例学习（训练）过程学习（训练）过程 分分 类类 过过 程程模型模型 17根据具体问题和具体要求根据具体问题和具体要求来选择不同的方法。来选择不同的方法。1819ageincomestudentcredit_ratingbuys_computer=30highnofairno40mediumnofairyes40lowyesfairyes40lowyesexcellentno3140lowye

2、sexcellentyes=30mediumnofairno40mediumyesfairyes40mediumnoexcellentno 选哪个属性为选哪个属性为类属性类属性由关心的问题而定，可为由关心的问题而定，可为buys_computer,123456789101112131420age?overcaststudent?credit rating?noyesfairexcellent40nonoyesyesyes30.402122 v1jmjj2j1mjj2j1m1ii2i),.,(IS.sslogssSSSSSS2324输入3032=960，隐单元3，输出4， 96034的网路。25

3、输入单元输入单元303032=96032=960，隐单元，隐单元4 4，输出输出单元单元3030（代表从最左到最右方向）（代表从最左到最右方向） 9609604 430 30 的网路。的网路。260 1 9输入输入手写数字手写数字人工神人工神经网络经网络输出结果输出结果27n人工神经网络提供了一种普遍且实用的分类方人工神经网络提供了一种普遍且实用的分类方法法, ,从样本中学习从样本中学习值为实数、离散值或向量的值为实数、离散值或向量的函数。函数。n神经网络学习对于逼近实数值、离散值或向量神经网络学习对于逼近实数值、离散值或向量值的目标函数值的目标函数提供了一种提供了一种健壮性很强的方法。健壮性

4、很强的方法。n反向传播算法，使用梯度下降来调节反向传播算法，使用梯度下降来调节网络参数网络参数以最佳拟合由以最佳拟合由 输入输入- -输出对输出对 组成的训练集合组成的训练集合, ,是最普遍使用的算法。是最普遍使用的算法。n人工神经网络对于训练数据中的错误健壮性很人工神经网络对于训练数据中的错误健壮性很好好n人工神经网络已被成功应用到很多领域，例如人工神经网络已被成功应用到很多领域，例如视觉场景分析，语音识别，机器人控制视觉场景分析，语音识别，机器人控制, ,数据数据挖掘，汉字识别，经济分析预测，股票分析。挖掘，汉字识别，经济分析预测，股票分析。28结点结点.xiO1O2Ok2930 ijii

5、jjOwI jIje11O 每个每个都是非线性变换单元都是非线性变换单元IjOi313233n神经网络的设计者们用高超的工程技巧弥补了数学上的缺陷。神经网络的设计者们用高超的工程技巧弥补了数学上的缺陷。n综合利用各种启发式算法，使得用较少的计算取得一个合理的局部综合利用各种启发式算法，使得用较少的计算取得一个合理的局部极小点成为可能。极小点成为可能。34353621( )2() 1,1,.,iiwwyw xbil3738394041) )( () )( () )| |( () )| |( (XPHPHXPXHP 42) )( () )( () )| |( () )| |( (XPHPHXPXH

6、P )H|X(P n1kkHxPHXP) )| |( () )| |( (数据对象有数据对象有n个属性，每个数据属性是独立的，就可计算每个个属性，每个数据属性是独立的，就可计算每个) )| |( (HxPk4344) )( () )( () )| |( () )| |( (XPHPHXPXHP 454647484950数据训练集测试集导出分类法评估准确性51数据S1S2Sk训练集测试集52数据C1C2Ct组合得票新数据样本类预测535455C1 C2 CT traintraintrainxc1(x)c2(x)cT(x)C* c*(x) = max cntt ct(x)S1 S2 ST 5657

7、5859Set of weightedinstances Classifier Ct train classifier adjust weights6061xc1(x)c2(x)cT(x)C* c*(x) = argmaxcm Sct(x)=cm log(1/bt)C1 trainS,w1trainC2 S,w2CT trainS,wT626364656667X1X2X3X4X5X6X1X2X4X3X5X6谱系关系图谱系关系图6869707172737475美国一所大学中空手道俱乐部成员间关系的网络美国一所大学中空手道俱乐部成员间关系的网络76777879808182838485868788文

8、本文本集集预处理与预处理与文本表示文本表示分类器分类器评价评价分类结果特分类结果特征和概要征和概要 词典词典分类模型分类模型标准结果标准结果特征抽取特征抽取文本分类一般包括了文本表达、分类器的文本分类一般包括了文本表达、分类器的选择与训练、分类结果的评价与反馈等过选择与训练、分类结果的评价与反馈等过程，如图所示：程，如图所示：文本分类系统文本分类系统899091网络挖掘网络挖掘网络结构挖掘网络结构挖掘网络内容挖掘网络内容挖掘网络使用挖掘网络使用挖掘网页网页内容内容挖掘挖掘检索检索结果结果挖掘挖掘定制定制使用使用跟踪跟踪存取存取模式模式挖掘挖掘网络网络组织组织挖掘挖掘网络网络引用引用挖掘挖掘媒体

9、媒体信息信息挖掘挖掘92939495 扩充智能数据分析算法扩充智能数据分析算法 将智能数据分析应用到新的数据类型将智能数据分析应用到新的数据类型 发展分布的智能数据分析算法发展分布的智能数据分析算法 提高智能数据分析方法的容易度提高智能数据分析方法的容易度所面临的挑战所面临的挑战96 数据量的增长数据量的增长 对交互式反应和真实反应时间减少的要对交互式反应和真实反应时间减少的要 求的加强求的加强 需要多种算法的组合或新的算法需要多种算法的组合或新的算法 算法要具有可扩展性算法要具有可扩展性扩充智能数据分析算法扩充智能数据分析算法97 时间序列数据时间序列数据 未组织数据未组织数据,如文本如文本

10、 半组织数据半组织数据, 如如HTML和和XML文件文件 多媒体的合作数据多媒体的合作数据 多层次的多层次的,多度量单位的数据多度量单位的数据 集合数据，图数据集合数据，图数据将智能数据分析应用到新的数据类将智能数据分析应用到新的数据类型型98 数据的分布特性数据的分布特性 计算环境越来越普及计算环境越来越普及 必须发展与之匹配的数据分析系统和算法必须发展与之匹配的数据分析系统和算法发展分布的智能数据分析算法发展分布的智能数据分析算法99 数据分析自动化程度的提高数据分析自动化程度的提高 提高用户界面提高用户界面, 支持随机用户的浏览支持随机用户的浏览 提高大型分布数据的可视化程度提高大型分布数据的可视化程度 发展用以管理数据分析的元数据的技术和系统发展用以管理数据分析的元数据的技术和系统 发展恰当的语言和协议支持随机提取数据发展恰当的语言和协议支持随机提取数据 提高智能数据分析的环境提高智能数据分析的环境收集收集加工加工 分析与挖掘分析与挖掘可视化以及必要的合作报告可视化以及必要的合作报告提高智能数据分析方法的容易度提高智能数据分析方法的容易度100支持单个研究数据分析者的研究支持单个研究数据分析者的研究 支持数据挖掘的基