2025年人工智能实践探索深度学习应用解析

一、决策树算法简介：决策树算法是一种迫近离散函数值的措施。它是一种经典的分类措施，首先对数据进行处理，运用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。决策树措施的基本思想是：运用训练集数据自动地构造决策树，然后根据这个决策树对任意实例进行鉴定。其中决策树(DecisionTree)是一种简朴不过广泛使用的分类器。通过训练数据构建决策树，可以高效的对未知的数据进行分类。决策数有两大长处：1)决策树模型可以读性好，具有描述性，有助于人工分析；2)效率高，决策树只需要一次构建，反复使用，每一次预测的最大计算次数不超过决策树的深度。决策树算法构造决策树来发现数据中蕴涵的分类规则.怎样构造精度高、规模小的决策树是决策树算法的关键内容。决策树构造可以分两步进行。第一步，决策树的生成：由训练样本集生成决策树的过程。一般状况下，训练样本数据集是根据实际需要有历史的、有一定综合程度的，用于数据分析处理的数据集。第二步，决策树的剪技：决策树的剪枝是对上一阶段生成的决策树进行检查、校正和修下的过程，重要是用新的样本数扼集(称为测试数据集)中的数据校验决策树生成过程中产生的初步规则，将那些影响预衡精确性的分枝剪除、决策树措施最早产生于上世纪60年代，到70年代末。由JRossQuinlan提出了ID3算法，此算法的目的在于减少树的深度。不过忽视了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改善，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改善，既适合于分类问题，又适合于回归问题。本节将就ID3算法展开分析和实现。ID3算法：ID3算法最早是由罗斯昆(J.RossQuinlan)于1975年在悉尼大学提出的一种分类预测算法，算法的关键是“信息熵”。ID3算法通过计算每个属性的信息增益，认为信息增益高的是好属性，每次划分选用信息增益最高的属性为划分原则，反复这个过程，直至生成一种能完美分类训练样例的决策树。在ID3算法中，决策节点属性的选择运用了信息论中的熵概念作为启发式函数。在这种属性选择措施中，选择具有最大信息增益(informationgain)的属性作为目前划分节点。通过这种方式选择的节点属性可以保证决策树具有最小的分枝数量，使得到的决策树冗余最小。ID3(Examples,Target_attribute,Attributes)Examples即训练样例集。Target_attribute是这棵是除目标属性外供学习到的决策树测试的属性列表。返回能正确分类给定Examples的决策树。●创建树的Root结点●如果Examples都为正，那么返回label=+的单结点树Root●如果Examples都为反，那么返回label=的单结点树RootTarget_attribute值●A+Attributes中分类Examples能力最好*的属性●对于A的每个可能值v;●令Examples,为Examples中满足A属性值为v,的子集●在这个新分支下加一个叶子结点，结点的label=Examples●否则在这个新分支下加一个子树ID3(Examples,二、试验过程1.试验数据集这个样例集中，每个属性都是离散值的，持续的属性已经被离散化。将图中的样例集转换成图2中所示的格式并保留到文献中以供项目程序读取数据。图2中“@attribute”行所对应的是样例集中的测试属性和目的属性，以及它们属性值。而“@data”行背面的每一行数据则对应了样例集中的一条样例。测试属性：outlook,天气状况，属性值为{sunny,overcast,rainy};humidity,湿度，属性值为{high,normal};Play,与否适合打球，属性值为{yes,no}。123456789图3所示为本项目最终的输出成果。项目的输出成果详细的给出了在构建决策树的过程中候选属性的信息增益、测试属性的选用成果、测试属性的各个属性值所对应的分24<DecisionTreevalue="12<wsunnyYES2.实现环节：第二步：开始递归地创立决策树。首先为样例集中的每一种测试属性分派一种权值，权值越小代表属性的重要性越高。创立决策树的过程中要计算样本的总体熵，计算各个属性的信息增益，将信息增益值最大的属性定为测试属性(根结点),然后开始从根节第三步：输出目的概念weather的决策树xml格式，此项需要引入jaxen-1.1.1.jar包，编译整个项目并运行生成决策树。关键代码：//给定原始数据的子集(subset中存储行号),当以第index个属性为节点时计算它的信息熵{int[][]info=newint[attfor(inti=0;i<info.lengtinfo[i]=newint[attributevalue.get(decatint[]count=newint[a{Stringnodevalue=data.gintnodeind=attributevalue.get(index).indexOf(nodevalue);Stringdecvalue=data.gintdecind=attributevalue.get(decatt).in}{entropy+=getEntropy(info[i])*c}}//构建决策树List<Element>list=root.sellterator<Element>iter{if(ele.attributeValue("value}{}doubleentropy=calEntropy(subset,s{}}ArrayList<String>attvalues=attributevalue.get(minlndexele.addElement(nodeName).addAttribute("ArrayList<Integer>al=newArrayList<Integer>();}}有效算法。直到误差反向传播算法(BP算法)的提出，成功地处理了求解非线性持续函BP网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆可分问题，因此在实际应用过程中受到了限制。而BP网络却拥有良好的繁泛化能力、输出的差值(即误差),以便根据此差值调整权值。这种过程不停迭代，最终使得信号基于BP算法的多层前馈型网络模型的拓扑构造如上图所示。BP算法的数学描述：三层BP前馈网络的数学模型如上图所示。三层前馈网中，输输入层到隐层之间的权值矩阵用V表达，V=(v₁,v₂,…,…),其中列向量v,为隐层第j个神经元对应的权向量；隐层到输出层之间的权值矩阵用W表达， W=(w,W₂,…w.…w),其中列向量w为输出层第k个神经元对应的权向量。下面分析各层信号之间的数学关系。对于输出层，有对于隐层，有以上两式中，转移函数f(x)均为单极性Sigmoid函数：f(x)具有持续、可导的特点，且有f'(x)=f(x)[1-f(x)]以上共同构成了三层前馈网了的数学模型。当网络输出和期望输出不相等时，存在输出误差E如下：将以上误差定义式展开至隐层，有深入展开至输入层，有由上式可以看出，网络输入误差是两层权值W和V的函数，因此调整权值可以变化误差E。显然，调整权值的原则是使误差不停的减小，因此应使权值的调整量与误差的负梯度成正比，即：式中负号表达梯度下降，常数η∈(0,1)表达比例系数，在训练中反应了学习速率。决定，即：学习速率、本层误差信号和本层输入信号X/Y。其中输出层误差信号同网络的期望输出与实际输出之差有关，直接反应了输出误差，而各隐层的误差信号与前面各层的误差信号均有关，是从输出层开始逐层反传过来的。试验输入与输出：将它转化为一种32位的向量，向量的每个分量就是其二进制形式对应的位上的0或1。将目的输出品Problems@JavadocADeclarationASearchConsoleXTest(1)[JavaApplication]C:\ProgramFilesVava\jre8\bin\javaw.exe(2016年1月12日下午9:12:22)训练完毕，下面请输入一个任意数字，神经网络将自动判断它是正数还是负数，奇数还是偶12是一个正偶数关键代码：privatevoidforward(double[]layer0,double[]layer1,doufor(intj=1,len=layer1.length;j!=len;++j){for(inti=0,len2=layer0.length;i!=len2;sum+=wei}privatevoidoutputErr(){for(intidoptDelta[idx]=o*(1d-o)*(targerrSum+=Math.abs(optDelta[idx]);}*Calculatefor(int