智能决策支持

第四章智能决策支持技术

纲要智能决策支持系统概述人工智能专家系统神经网络遗传算法机器学习IDSS成功实例

(1)东海渔业资源评估专家系统

这个系统是国家863高科技项目863-818-07专题的一个组成部分。本专题目标任务是建立具有我国自主知识产权的渔情分析专家系统和构建一个以东海渔区（25°—34°N，130°E以西海区)为示范海区，以卫星遥感渔业分析技术、海洋渔业服务地理信息系统技术和渔情分析专家系统技术为支撑的海洋渔业遥感信息与资源评估服务系统。该项目获得2001年度中科院科技进步二等奖，2002年度国家科技进步二等奖。(2)面向对象的智能故障诊断专家系统

本系统用于设备自动化测试时的故障诊断，诊断软件主要通过读取数据库获得诊断所需数据，对测试过程中出现的故障进行诊断，如自动化测试系统与主控计算机通信故障的诊断，对动力系统的综合控制装置故障进行诊断，对设备上电气系统中独立的小元器件故障进行诊断，最后对测试系统采集到的数据进行分析，包括绘制数据曲线，对曲线作定性分析，显示分析结果。(3)工商行固定资产贷款风险决策系统

本系统是一个交互式系统，即在决策过程中向用户提出一些需要以数字回答的问题，界面简洁、友好。在人机对话过程中，系统需要用户以数值形式输入一些供决策用的参数，如企业经营者素质评估，经济实力，资金结构，经济效益，发展前景，信用等级系数，贷款金额，等等。同时给出一些选项供用户选择，如抵押贷款方式，保证贷款方式，信用贷款方式，以及贷款形态等。系统根据用户提供的信息计算出全部贷款资产风险权重额，全部固定资产贷款资产风险度，并结合企业的信用等级，给出评估图表，最后给出贷款与否的建议。(4)税务稽查

鉴于稽查工作的重要性和工作复杂性，手工稽查不足以胜任繁琐的稽查任务，利用计算机进行稽查选案势在必行。一个好的计算机选案系统能够科学地、有效地确立稽查对象，从而使得集中力量重点稽查成为可能。税务稽查计算机选案系统即是为满足这一需求而开发的。税务稽查具体分为：选案管理、计划管理、稽查实施、案件审理、执行分析这五个环节。在此基础上,建立智能的计算机自动选案系统，做到有法可依，有据可依、有的放矢扩大选案，为税务稽查工作提供科学、规范的依据。

DSS人工智能专家系统机器学习人工神经元网络专家知识优势IDSSDSS+AI提高支持非结构化决策能力知识获取困难知识库智能DSS的基本概念数据库（DB）数据库管理系统（DBMS）模型库（MB）模型库管理系统（MBMS）方法库（MEB）方法库管理系统（MEBMS）对话生成管理系统（DGMS）终端显示器用户数据库模型库人机接口方法库管理系统模型库管理系统用户数据库管理系统方法库知识库知识库管理系统自然语言处理系统问题处理系统推理机智能能DSS的的结结构构IDSS：：更好好地地理理解解人人能积积累累已已有有知知识识能获得得新知知识提高分分析和和求解解能力力自然语语言处处理系系统知识库库推理机机问题处处理系系统智能DSS的结结构自然语言表达的决策问题系统能理解的方式表达的决策问题人机接口自然语言处理系统问题处理系统语法、语义结构分析智能DSS的结结构––智智能人人机接口口问题处理系统工作流程

问题求解器结构化问题：模型选择或构造

非结构化问题：推论或知识推理

问题分析器问题描述

人机接口自然语言处理系统

结果

四库系统求解资源智能DSS的结结构––问问题处处理系系统回答知识请求回答知识库维护请求知识库知识库管理系统推理机知识库包含事实库和规则库两部分从已知事实推出新事实智能DSS的结结构––知知识库库子系系统知识库库子系系统：：获取、、解释释、表表示、、推理理及管管理与与维护护知识识知识的的获取取知识的的表示示是知知识的的符号号化过过程常见的的知识识表示示形式式有：：产生式式规则则语义网网络表表示知识的的框架架表示示脚本表表示过程表表示Petri网表表示面向对对象表表示智能DSS的结结构––知知识库库子系系统规则：：标准形形式：：如果<条件件>则则<动作作>;A->B实例：：如果（（植物物正在在枯萎萎）而而且并并非（（叶子子有黄黄斑））则（植植物缺缺少足足够的的水））产生式式规则则a)推推理理：是是指从从已知知事实实推出出新事事实(结结论)的过过程。。b)推推理理机：：是一一组程程序，，它针针对用用户问问题去去处理理知识识库(规规则和和事实实)。。例：规则－－拖拖债债达3级及及以上上的客客户信信用低低事实－－该该客客户拖拖债达达4级级结论－－该客户户信用用低例：规则－－与与信用用低的的客户户做交交易要要谨慎慎事实－－该该客户户信用用低结论－－与该客客户做做交易易要谨谨慎智能DSS的结结构––推推理机机c)推理原原理如如下：：若事实实M为为真，，且有有一规规则““TFMTHENN””存在在，则则N为为真。。事实““任务务A是是紧急急订货货”为为真，，且有有一规规则““IF任任务i是紧紧急订订货THEN任任务i按优优先安安排计计划””存在在，则则任务务A就就应优优先安安排计计划。。根据推推理方方向的的不同同：正向推推理、、反向向推理理智能DSS的结结构––推推理机机两库的的初始始状态态1.A^B->G2.C^D->A3.E->D产生式式规则则库B,C,E事实库库B,C,E,D,A,G事实库库的最最后状状态人工智智能（（AI）人工智智能是是计算算机科科学的的一个个分支支，是是一门门研究究机器器智能能的学学科，，即用用人工工的方方法和和技术术，研研制智智能机机器或或智能能系统统来模模仿、、延伸伸和扩扩展人人的智智能，，实现现智能能行为为。（（符号号、连连接和和行为为）人工智智能的的历史史背景景人工智智能在在中国国的历历史渊渊源:司辰、、击鼓鼓、报报时时的““机关关人””会跳舞舞的““人形形舞姬姬”，，西周周周穆穆王偃偃师能捕鼠鼠的木木制““钟馗馗”会化缘缘的““木僧僧人””，等等等.国际方方面：：英国科科学家家图灵灵于1936年年提提出““理论论计算算机””模型型，被被称之之为““图灵灵机””(TuringMachine)，，创立立了““自动动机理理论””。1950年年，，图灵灵发表表了著著名论论文《《计计算机机能思思维吗吗？》》，明明确地地提出出了““机器器能思思维””的观观点。。1943年年，，美国国科学学家麦麦卡洛洛克（））、匹匹茨（））研制制出世世界上上第一一个人人工神神经细细胞模模型，，被称称之为为“MP模模型””。从从仿生生学观观点，，以结结构模模拟方方法，，探讨讨人工工智能能的途途径。。1948年年，美美国科科学家家维纳纳等创创立了了“控控制论论”（（Cybernetics）,研研究动动物与与机器器中的的控制制和通通讯的的共同同规律律，在在生物物科学学与工工程技技术之之间架架起了了学术术桥梁梁，开开拓了了从行行为模模拟观观点研研究人人工智智能的的园地地。类人行行为：：图灵灵测试试(1950)图灵建建议：：不是是问““机器器能否否思考考”，，而是是问““机器器能否否通过过关于于行为为的智智能测测试””AlanTuring24AI成功的的例子子博弈：：IBM公公司的的“深深蓝””成为为第一一个在在国际际象棋棋比赛赛中战战胜世世界冠冠军的的计算算机程程序1997年年，一一次公公开赛赛中3.5/2.5比分分战胜胜卡斯斯帕罗罗夫，，他说说从棋棋盘对对面感感到了了“一一种新新智能能”25AI成功的的例子子后勤规规划：：1991年海海湾战战争中中美国国军队队配备备了一一个动动态分分析和和重规规划工工具DART,用用于自自动后后勤规规划与与运输输调度度该系统统同时时涉及及50000个个车辆辆、货货物和和人，，而且且要考考虑起起点、、目的的地、、路径径，解解决所所有参参数之之间的的冲突突。使使用AI技技术使使规划划在几几小时时内完完成，，而传传统方方法需需要几几个星星期DARPA称就就此一一项投投资足足以补补偿DARPA在AI方方面30年年的投投资26搜索技技术基本搜搜索法法：广度和和深度度优先先搜索索法生成测测试法法爬山法法启发式式搜索索博弈算算法761467146741268713426871342687134761467146741268713426871342687134761467146741268713426871342687134生成测测试法法生成一一个可可能状状态节节点测试该该状态态是否否为目目标状状态若是，，则结结束；；否则则回到到第一一步在搜索索过程程中，，如果果总是是利用用旧状状态生生成所所有可可能的的新状状态，，而且且状态态节点点以从从旧到到新的的顺序序逐个个生成成，这这种生生成测测试法法就是是？如如果总总是利利用刚刚生成成的状状态来来生成成新状状态，，则是是？爬山法法开始状状态作作为一一个可可能状状态从一个个可能能状态态，应应用规规则生生成所所有新新的可可能状状态集集对该状状态集集中的的每一一个状状态，，进行行以下下操作作：对该状状态进进行测测试，，检查查是否否为目目标，，是则则停止止计算该该状态态的好好坏，，或者者比较较各状状态的的好坏坏取状态态集中中的最最好状状态，，作为为下一一个可可能状状态循环第第二步步启发式式搜索索是对每每个在在搜索索过程程中遇遇到的的新状状态，，用一一个估估计函函数（（启发发式函函数））并计计算其其值得得大小小，确确定下下一步步将从从哪个个状态态开始始继续续前进进一般以以估计计值小小者为为较优优的状状态，，以此此实行行最优优搜索索和人工工智能能相关关的社社会伦伦理问问题人们可可能由由于自自动化化而失失业人们可可能拥拥有过过多或或过少少的闲闲暇时时间人们可可能会会失去去作为为人的的独一一无二二的感感觉人们可可能会会失去去一些些个人人隐私私权人工智智能系系统的的应用用可能能会导导致责责任感感的丧丧失人工智智能的的成功功可能能意味味着人人类种种族的的终结结《人工工智能能及其其在决决策系系统中中的应应用》》蔡自兴兴姚姚莉国国防防科技技大学学出版版社34专家系系统专家系系统是是一种种计算算机程程序，，它使使用知知识及及推理理机制制去解解决需需要专专家才才能解解决的的复杂杂问题题。稀缺资资源，，让专专家的的知识识得到到长期期保存存和被被更多多的用用户所所使用用专家系系统特点：：运用专专家知知识知识转转换为为系统统的内内部表表示使用符符号推推理方方法运用启启发式式规则则具代表表性的的有医医药专专家系系统MYCIN、探探矿专专家系系统PROSPECTOR等等。20世世纪80年年代，，专家家系统统的开开发趋趋于商商品化化，创创造了了巨大大的经经济效效益。。20世世纪80年年代以以来，，在知知识工工程的的推动动下，，涌现现出了了不少少专家家系统统开发发工具具，例例如EMYCIN、、CLIPS(OPS5,OPS83)、G2、、KEE、、OKPS等。。第一个个专家家系统统DENDRAL是是化学学分析析专家家系统统，由由美国国科学学家费费根鲍鲍姆（））于1965年年提提出，，1968年研研制成成功的的。医疗专专家系系统MYCIN是是由斯斯坦福福大学学（StanfordUniversity）肖肖特利））等人人于1971年年开始始研制制，1974年年基基本完完成，，1976年发发表的的，具具有类类似于于内科科医生生的知知识和和经验验，可可用于于血液液感染染病的的诊断断、治治疗和和咨询询服务务。地质勘勘探专专家系系统（（PROSPECTOR）。。它是是由斯斯坦福福研究究所（（SRI））的杜杜达（））等研研制的的，可可用于于地质质勘测测数据据分析析，探探查矿矿床的的类型型、蕴蕴藏量量、分分布。。从1976年年开开始研研制，，1981年年基本本完成成，其其特点点是具具有多多专家家、多多专业业的知知识和和经验验。国内应应用早在1977年年，中中国科科学院院自动动化研研究所所就基基于关关幼波波先生生的经经验，，研制制成功功了我我国第第一个个“中中医肝肝病诊诊治专专家系系统””。1985年年10月中中科院院合肥肥智能能所熊熊范纶纶建成成“砂砂姜黑黑土小小麦施施肥专专家咨咨询系系统””，这这是是我国国第一一个农农业专专家系系统。。中科院院计算算所史史忠植植与东东海水水产研研究所所等合合作，，研制制了东东海渔渔场预预报专专家系系统。。在专家家系统统开发发工具具方面面，中中科院院数学学研究究所研研制了了专家家系统统开发发环境境“天天马””，中中科院院合肥肥智能能所研研制了了农业业专家家系统统开发发工具具“雄雄风””，中中科院院计算算所研研制了了面向向对象象专家家系统统开发发工具具“OKPS””。专家系系统的的类型型解释专专家系系统预测专专家系系统诊断专专家系系统设计专专家系系统规划专专家系系统监视专专家系系统控制专专家系系统调试专专家系系统教学专专家系系统修理专专家系系统Questions1．能能根据据学生生的特特点、、弱点点和基基础知知识，，以最最适当当的教教案和和教学学方法法对学学生进进行教教学和和辅导导的专专家系系统是是：A．解释释专家系系统B．调试试专家系系统C．监视视专家系系统D．教学学专家系系统2．用于于寻找出出某个能能够达到到给定目目标的动动作序列列或步骤骤的专家家系统是是：A．设计计专家系系统B．诊断断专家系系统C．预测测专家系系统D．规划划专家系系统3．能对对发生故故障的对对象（系系统或设设备）进进行处理理，使其其恢复正正常工作作的专家家系统是是：A．修理理专家系系统B．诊断断专家系系统C．调试试专家系系统D．规划划专家系系统4．能通通过对过过去和现现在已知知状况的的分析，，推断未未来可能能发生的的情况的的专家系系统是：：A．修理理专家系系统B．预测测专家系系统C．调试试专家系系统D．规划划专家系系统知识库是问题求求解所需需要的领域知识识的集合，，包括基基本事实实、规则则和其他他有关信信息。知知识库中中知识的的质量和和数量决决定着专专家系统统的质量量水平。。用户可可以通过过改变、、完善知知识库中中的知识识内容来来提高专专家系统统的性能能。推理机是实施问题求求解的核心执执行机构。推推理机的程序序与知识库的的具体内容无无关，即推理理机和知识库库是分离的，，这是专家系系统的重要特特征。知识获取负责建立、修修改和扩充知知识库，是专专家系统中把把问题求解的的各种专门知知识从人类专专家的头脑中中或其他知识识源那里转换换到知识库中中的一个重要要机构。人机界面是系统与用户户进行交流时时的界面。通通过该界面，，用户输入基基本信息、回回答系统提出出的相关问题题。系统输出出推理结果及及相关的解释释也是通过人人机交互界面面。综合数据库也称为动态库库或工作存储储器，是反映映当前问题求求解状态的集集合，用于存存放系统运行行过程中所产产生的所有信信息，以及所所需要的原始始数据，包括括用户输入的的信息、推理理的中间结果果、推理过程程的记录等。。解释器用于对求解过过程做出说明明，并回答用用户的提问。。两个最基本本的问题是““why”和和“how””。解释机制制涉及程序的的透明性，它它让用户理解解程序正在做做什么和为什什么这样做，，向用户提供供了关于系统统的一个认识识窗口。在很很多情况下，，解释机制是是非常重要的的。为了回答答“为什么””得到某个结结论的询问，，系统通常需需要反向跟踪踪动态库中保保存的推理路路径，并把它它翻译成用户户能接受的自自然语言表达达方式。专家系统的开开发方式（1）直接买买成品的专家家系统（2）买外壳壳，由用户输输入知识。EMYCIN（3）自己建建造：C++，LISP…联合国工资计计算专家系统统基本工资+““资格”IntelliCorp公司的PowerModel工具神经科学：大大脑是如何处处理信息的？？大脑的神经元元输出W1W4W2W3X1X2X3X4输入加权传递加权和Y处理单元输入层隐蔽层输出层神经元和神经经网络模型NN研究方面面神经网络的基基本理论研究究神经网络模型型的研究学习算法研究究计算机模拟及及硬件实现应用研究神经网络模型型前向网络模型型:感知机反馈网络模型型:Hopfield网网络,双向联联想记忆网络络随机网络模型型:Boltzmann机自组织网络模模型：ART(自适应共共振理论)成熟算法BP算法模拟退火算法法竞争学习与相相互激励学习习算法NeuralnetworkAneuralnetworkisasetofconnectedinput/outputunitswhereeachconnectionhasaweightassociatedwithit.Duringthelearningphase,thenetworklearnsbyadjustingtheweightssoastobeabletopredictthecorrectclasslabeloftheinputsamples.Alsocalledconnectionistlearning.BP网络各种作用函数数[0,1]阶阶梯函数f(x)=1,(x>0)f(x)=0,(x<=0)[-1,1]阶梯函数(-1,1)S型函数(0,1)S型函数BP网络…InputlayerHiddenlayerOutputlayer……StepsofbackpropagationInitializetheweights:eachunithasabiasassociatedwithit.Theweightsandbiasesareinitializedtosmallrandomnumbers.EachtrainingsampleXisprocessedbythefollowingsteps:thenetinputandoutputofeachunitinthehiddenandoutputlayersarecomputed.unitjintheinputlayer:Oj=IjGivenaunitjinahiddenoroutputlayer,thenetinputIjis:AhiddenoroutputlayerunitjoutputX0X1XnfActivationfunctionWeightedsumweightsInputs(outputsfrompreviouslayer)biasBackpropagationtheerror:theerrorispropagatedbackwardsbyupdatingtheweightsandbiasestoreflecttheerrorofthenetwork’sprediction.Foraunitjintheoutputlayer,theerrorErrj:Theerrorofahiddenlayerunitjis:TjisthetrueoutputErrkistheerrorofunitkinthenexthigherlayerTheweightsandbiasesareupdatedtoreflectthepropagatederrors:Terminatingcondition:trainingstopswhenallinthepreviousepochweresosmallastobebelowsomespecifiedthreshold,orthepercentageofsamplesmisclassifiedinthepreviousepochisbelowsomethreshold,oraprespecifiednumberofepochshasexpired.123456SamplecalculationsforlearningbythebackpropagationalgorithmX={1,0,1},classlabel=1,l=0.9Initialinput,weight,andbiasvaluesx1x2x3w14w15w24w25w34w35w46w561010.2-0.30.40.1-0.50.2-0.3-0.2-0.40.20.1ThenetinputandoutputcalculationsUnitjNetinput,IjOutput,Oj40.2+0-0.5-0.4=-0.71/(1+e0.7)=0.3325-0.3+0+0.2+0.2=0.11/(1+e-0.1)=0.5256(-0.3)(0.332)-(0.2)(0.525)+0.1=-0.1051/(1+e0.105)=0.474CalculationoftheerrorateachnodeUnitjErrj6(0.474)(1-0.474)(1-0.474)=0.13115(0.525)(1-0.525)(0.1311)(-0.2)=-0.00654(0.332)(1-0.332)(0.1311)(-0.3)=-0.0087CalculationsforweightandbiasupdatingWeightorbiasNewvaluew46-0.3+(0.9)(0.1311)(0.332)=-0.261w56-0.2+(0.9)(0.1311)(0.525)=-0.138w140.2+(0.9)(-0.0087)(1)=0.192w15-0.3+(0.9)(-0.0065)(1)=-0.306w240.4+(0.9)(-0.0087)(0)=0.4w250.1+(0.9)(-0.0065)(0)=0.1w34-0.5+(0.9)(-0.0087)(1)=-0.508w350.2+(0.9)(-0.0065)(1)=0.1940.1+(0.9)(0.1311)=0.2180.2+(0.9)(-0.0065)=0.194-0.4+(0.9)(-0.0087)=-0.408commentsDisadvantages:InvolvelongtrainingtimesRequireanumberofparametersthataretypicallybestdeterminedempirically.PoorinterpretabilityAdvantages:HightolerancetonoisydataAbilitytoclassifypatternsonwhichtheyhavenotbeentrained遗传算法（GeneticAlgorithms）物竞天择，适适者生存遗传算法（GA）根据适适者生存，优优胜劣汰等自自然进化规则则来进行搜索索计算和问题题求解。全局优化算法法，适合于具具有很大搜索索空间的优化化问题遗传算法的搜搜索机制遗传算法模拟拟自然选择和和自然遗传过过程中发生的的繁殖、交叉叉和基因突变变现象，在每每次迭代中都都保留一组候候选解，并按按某种指标从从解群中选取取较优的个体体，利用遗传传算子(选择择、交叉和变变异)对这些些个体进行组组合，产生新新一代的候选选解群，重复复此过程，直直到满足某种种收敛指标为为止。基本概念染色体：由基因构成的的位串，是个体(Individual)的的形式编码：把解表示为位位串的过程，，编码后的每每个位串就表表示一个个体体，即问题的的一个解种群：包含一组个体体的群体，也也是问题的解解的集合。种种群中个体的的数量称为群体大小（N）。基因：串中的元素。。例：串S=1001，有四四个基因1、、0、0、1适应度：评价群体中中个体适应能能力的指标，，解的好坏，，由评价函数数F计算得到到遗传算子：产生新个体体的操作选择：将个体直接复复制到下一代代群体中，个个体适应度。。交叉：把两个串的部部分基因交换换，产生两个个新串作为下下一代的个体体，交叉概率率Pc决定两两个个体进行行交叉操作的的可能性变异：随机地改变染染色体的部分分基因，Pm决定个体发发生变异的可可能性几个术语基因型：编码解码个体（染色体体）基因选择(selection)算子GA使用选择择运算来实现现对群体中的的个体进行优优胜劣汰操作作：适应度高高的个体被遗遗传到下一代代群体中的概概率大；适应应度低的个体体，被遗传到到下一代群体体中的概率小小。选择操作的任任务就是按某某种方法从父父代群体中选选取一些个体体，遗传到下下一代群体。。选择选择是用来确确定重组或交交叉个体，以以及被选个体体将产生多少少个子代个体体．首先计算算适应度：按比例的适应应度计算基于排序的适适应度计算等等实际的选择：：轮盘赌选择随机遍历抽样样局部选择截断选择锦标赛选择等等适应值比例法法轮盘赌选择又又称比例选择择算子，它的的基本思想是是：各个个体体被选中的概概率与其适应应度函数值大大小成正比。。设群体大小小为n，个个体i的适适应度为Fi，则个体i被选中中遗传到下下一代群体体的概率为为：轮盘赌选择择期望值方法法计算群体中中每个个体体在下一代代生存的期期望数目：若某个个体体被选中并并要参与配配对和交叉叉，则它在在下一代中中的生存的的期望数目目减去0.5；若不不参与，则则该个体的的生存的期期望数目减减去1在上面两种种情况中，，若一个个个体的期望望值小于0时，则该该个体不参参与选择交叉(crossover)算子所谓交叉运运算，是指指对两个相相互配对的的染色体依依据交叉概概率Pc按某种方式式相互交换换其部分基基因，从而而形成两个个新的个体体。交叉运算是是遗传算法法区别于其其他进化算算法的重要要特征，它它在遗传算算法中起关关键作用，，是产生新新个体的主主要方法。。交叉或基因因重组基因重组是是结合来自自父代交配配种群中的的信息产生生新的个体体．依据个个体编码表表示方法不不同：实值重组离散重组中间重组线性重组扩展线性重重组二进制交叉叉单点交叉多点交叉均匀交叉洗牌交叉缩小代理交交叉一点交叉交叉前：00000|01110011100|000001交叉后：00000|00000111100|011100交叉点二点交叉个体A:10|110|11个体B:00|010|00新个体A:10|010|11新个体B:00|110|00交叉点1交叉点2变异(mutation)算算子变异运算，，是指依据据变异概率率Pm将个体编码码串中的某某些基因值值用其它基基因值来替替换，从而而形成一个个新的个体体。遗传算法中中的变异运运算是产生生新个体的的辅助方法法，它决定定了遗传算算法的局部部搜索能力力，同时保保持种群的的多样性。。二进制变异异变异前：11000000变异后：11000100变异点基本遗传算算法的组成成（1）编码码（产生初初始种群））（2）适应应度函数（3）遗传传算子（选选择、交叉叉、变异））（4）运行行迭代产生初始群体是输出结果并结束计算个体适应度值选择交叉变异否产生新一代群体遗传算子满意吗？目标映射为适应值例子问题：求解解f(X)=X2在[0，31]上的的最大值1初始种种群（1）编码码：用5位位二进制表表示X，有有X=00000，X=11111（2）初始始种群随机产生4个个体：：13，24，8，，19（二二进制）（3）适应应值fi直接用目标标函数：f(X)=X2(4)选择率和期期望值(5)实实选值期望值取整整数编号初始种群参数x值适应值f(x)选择率期望值实选值1234011011100001000100111324819169576643610.140.490.060.310.581.970.221.231201总和平均值最大值11702935761.000.250.494.001.001.974.01.02.02遗传一一代（初始始种群遗传传过程）选择后的交配池（下划线部分交叉）交叉对象（随机选择）交叉位置（随机选择）新的种群xf(x)=x201101110001100010011214344220110011001110111000012252716144625729256总和平均值最大值1754439729编号初始种群参数x值适应值f(x)选择率期望值实选值123401100110011101110000122527161446257292560.080.360.420.150.331.421.660.580121总和平均值最大000.250.424.001.001.664.01.02.03遗传二二代（新种种群参数计计算）选择后的交配池（下划线部分交叉）交叉对象（随机选择）交叉位置（随机选择）新的种群xf(x)=x211001110111101110000214311331101111001110001001127252419729625576361总和平均值最大值2291572729最优值：：31（11111）必须变异，，第三位的的0变1TSP(旅旅行商)问问题设存在N个个城市，Dij表示城i与与城j之间间的距离，，Dij=Dji，现在要求求一条遍历历所有N个个城市，且且不走重复复路的最短短路径（最最短哈密尔尔顿圈）。。我们先采用用十进制编编码，每个个染色体由由按一定顺顺序排列的的N个城市市的序号组组成，表示示一条可能能的旅行路路径。适应应度为一条条旅行路径径对应的距距离，路径径越短的染染色体适应应度越高。。例如，取取N=10，城市代代号为1至至10。例如种群中中的染色体体：28410517369表示一条旅旅行路径284105173692其总路径长长我们可以采采用非负变变换，把最最小化优化化目标函数数变换为以以最大值为为目标的适适应度函数数，可以如如下定义：：GA的应用用领域近年,GA在各应用用领域中得得到极大重重视,并广广泛应用于于各领域的的优化、搜搜索、问题题求解中其它应用领领域：如函函数优化、、生产调度度、模式识识别、NN、图像处处理、机器器学习、工工业优化控控制、自适适应控制、、生物科学学、社会科科学等方面面.遗传算法的的改进研究究方向参数的选择择()编码方法各种算子和其它算法法的融合免疫遗传算算法传统遗传算算法中，交交叉、变异异等是按一一定概率随随机地、无无指导的进进行引入免疫系系统的工作作原理：将将问题的最最优解抽象象为抗原，，候选解抽抽象为抗体体，将某些些较好的路路径片断作作为疫苗蚁群优化算算法昆虫群体，，可以看成成一个分布布式系统。。系统中个个体非常简简单，但整整个系统呈呈现出一种种高度结构构化的群体体结构，得得以完成远远超出单只只蚂蚁个体体能力负荷荷的复杂工工作。计算蚂蚁的的不同行为为，已有若若干种蚂蚁蚁算法：觅觅食、孵孵化分类、、劳动分配配、协作运运输实验中的蚂蚂蚁依靠信信息素来传传递信息信息素越浓浓的路径被被蚂蚁选择择的概率越越大信息素随着着时间的推推移而“挥挥发”网络资源规则推理和和遗传神经经网络结合合的电厂事事故自动诊诊断电力生产是是各项工作作的基础,一旦发生生事故涉及及面广,影影响大.快快速,准准确的找找出故障点点,分析故故障类型,采取紧急急处理措施施,恢复电电厂的正常常运行是目目前火电厂厂急需解决决的问题传统的事故故诊断方法法是依靠有有经验的专专业人员在在紧急状态态下迅速判判断故障性性质,但受受心理和生生理的限制制,对比较较复杂的故故障,面对对大量报警警信息,专专业分析人人员也难于于即刻判断断故障性质质,迅速采采取措施.事故诊断方方法基于数学模模型的方法法:基于人工智智能的方法法:基于专家系系统的诊断断基于人工神神经网络的的诊断基于案例推推理的诊断断基于模糊数数学的诊断断基于故障树树的诊断……..基于人工神神经网络的的诊断缺陷:忽视领域专专家的经验验知识,而而故障诊断断有时是一一项经验性性技术权重形式的的知识表达达方式难以以理解,整整个诊断过过程是一个个”黑箱””梯度下降的的网络搜索索算法,使使网络收敛敛速度慢且且易陷入局局部最小解决方案将规则推理理和神经网网络相结合合,集成式式诊断方法法结合了领领域专家的的知识和神神经网络学学习的优点点,克服单单一故障诊诊断方法的的缺陷,提提高事故诊诊断的速度度和精度.实证分析析能够达到到预期的诊诊断效果.神经网络学学习过程中中采用遗传传算法对网网络权值进进行全局优优化,加快快网络的收收敛速度,并避免网网络陷入局局部极小点点规则则推推理理诊诊断断模模型型全局数据库推理机规则库规则调用匹配事实数据产生/修改数据规则解释规则输出事故故诊诊断断的的规规则则推推理理过过程程:将事事故故的的各各种种征征兆兆作作为为初初始始条条件件,输输入入到到综综合合数数据据库库中中搜索索事事故故诊诊断断规规则则库库,与与综综合合数数据据库库中中的的条条件件比比较较,如如果果规规则则的的前前提提条条件件和和数数据据库库中中的的值值匹匹配配,则则该该产产生生式式规规则则被被激激活活计算算被被激激活活规规则则的的可可信信度度,选选择择可可信信度度大大于于给给定定阈阈值值的的规规则则,从从而而获获得得某某个个结结论论,同同时时把把结结论论存存入入数数据据库库中中备备用用规则则搜搜索索完完毕毕或或没没有有与与条条件件匹匹配配的的规规则则,算算法法结结束束电厂厂事事故故集集成成诊诊断断模模型型遗传传算算法法优优化化神神经经网网络络初初值值:参数数设设置置:确确定定种种群群大大小小N,遗遗传传算算法法的的终终止止迭迭代代次次数数T,交交叉叉概概率率和和变变异异概概率率染色色体体编编码码:随随机机产产生生初初始始权权重重种种群群P,种种群群中中的的每每一一条条染染色色体体由由权权重重向向量量和和阈阈值值向向量量组组成成适应应度度函函数数评评价价:网网络络优优化化的的目目的的是是网网络络学学习习能能够够达达到到给给定定的的精精度度,可可以以网网络络的的全全局局误误差差作作为为适适应应度度函函数数设设计计的的基基础础,某某个个体体的的适适应应度度值值为为:选择择交交叉叉变变异异如果果网网络络的的精精度度达达到到要要求求或或达达到到一一定定的的迭迭代代次次数数,则则迭迭代代停停止止电厂厂事事故故集集成成诊诊断断模模型型规则推理诊断设定网络精度,遗传迭代次数T初始化权重计算适应度函数值E<精度或t>T是选择交叉变异否将个体解码为网络权值调用BP网络诊断事故类型输出实例例分分析析凝汽汽器器是是汽汽轮轮机机的的一一个个重重要要设设备备,也也是是一一个个薄薄弱弱环环节节,事事故故发发生生率率较较高高,对对其其进进行行事事故故诊诊断断对对于于提提高高机机组组性性能能具具有有重重要要的的现现实实意意义义.凝汽汽器器的的典典型型事事故故类类型型:水水泵泵严严重重故故障障y1,供供汽汽中中断断y2,管管路路破破裂裂,真真空空系系统统不不严严密密等等11种种类类型型判断断事事故故类类型型的的征征兆兆运运行行参参数数有有:排排汽汽压压力力x1,电电机机电电流流x2,出出口口压压力力x3,温温差差等等13个个指指标标,这这些些参参数数指指标标可可以以从从电电厂厂的的数数据据采采集集和和监监控控系系统统中中直直接接提提取取.选择择30种种典典型型事事故故数数据据集集构构成成网网络络训训练练样样本本x1x2x3x4x5x6x7x8x9x10x11x12x138150.50.2560.230y12..y2……y93078550.912.36189147.80.20.41351.240y3网络络的的输输入入层层取取13个个节节点点,隐隐含含层层取取10个个节节点点,输输出出层层取取11个个节节点点,E<=0.05,学学习习率率=0.5遗传种群群大小N=10,交叉叉概率Pc=0.5,变异异概率Pm=0.001,经经过1532次满足足精度要要求,网网络稳定定,得相相应的权权值和阈阈值.取5组实实际数据据进行测测试,数数据预处处理后,输入模模型,输输出诊断断结果,与实际际进行对对比12345y10.00210.00010.11040.91250.0157y20.70130.0052………y3……0.8421……y4…y5…0.5138………...…0.5150y100.11250.5254………y110.00950.0051………诊断类型y2y10y3y1y5y9规则推理y2y10y6y3y1y5y9y11实际类型y2y10y3y1y5机器学习习按照AI大师Simon的观观点,学习就是系统统在不断断重复的的工作中中对本身身能力的的增强或或者改进进,使得得系统在在下一次次执行同同样或相相类似的的任务时时,会比比现在做做得更好好或效率率更高.人类学习习的特点点过程缓慢慢会“忘记记”知识传授授困难不断地修修改知识识，变的的聪明机器学习习机器学习习正是解解决知识识获取的的有效途途径，能能自动获获取知识识。机器学习习就是让让机器（（计算机机）来模模拟和实实现人类类的学习习,获取取知识。。机器学习习是计算算机获取取知识的的重要途途径和人人工智能能的重要要标志。。《数据挖挖掘实用用机器学学习技术术》董琳琳等译，，机械工工业出版版社，第第二版20061959年Simuel设计计了一个个下棋程程序,这这个程序序具有学学习能力力,它可可以在不不断的对对奕中改改善自己己的棋艺艺.4年后,该程序序战胜了了设计者者本人.又过了了3年,该程序序战胜了了美国一一个保持持8年之之久的冠冠军.这个程序序向人们们展示了了机器学学习的能能力,提提出了许许多令人人深思的的社会问问题与哲哲学问题题.机器的能能力是否否能超过过人？“士别三三日,当当刮目相相看”美国航空空航天局局JPL实验室室的科学学家在《《Science》上上撰文指指出：机器学习习对科学学研究的的整个过过程正起起到越来来越大的的支持作作用，………，该该领域在在今后的的若干年年内将取取得稳定定而快速速的发展展重要性生物信息学计算金融学分子生物学行星地质学……工业过程控制机器人……遥感信息处理信息安全机器学习重要性：例子——网络安安全入侵检测测：是否是入入侵？是是何种入入侵？如何检测测？历史数据据：以往的正正常访问问模式及及其表现现、以往往的入侵侵模式及及其表现现……对当前访访问模式式分类这是一个个典型的的预测型型机器学学习问题题常用技术术：神经网络络决决策树树支持向量量机k近邻序列分析析聚聚类………………重要性：例子——生物信信息学常用技术术：神经网络络支支持持向量机机隐马尔可可夫模型型k近邻决决策树序列分析析聚聚类类………………搜索引擎擎Google的的成功，，使得Internet搜索索引擎成成为一个个新兴的的产业不仅有众众多专营营搜索引引擎的公公司出现现（例如如专门针针对中文文搜索的的就有慧慧聪、百百度等）），而且且Microsoft等巨头头也开始始投入巨巨资进行行研发Google掘掘到的第第一桶金金，来源源于其创创始人LarryPage和SergeyBrin提出的的PageRank算算法机器学习习技术正正在支撑撑着各类类搜索引引擎（尤其是是贝叶斯斯学习技技术）人工智能能中最活活跃、应应用潜力力最明显显的领域域（之一））[T.G.Dietterich,AIMag97]美国、欧欧洲各国国都投入入了大量量人力物物力大型公司司如波音音、微软软、通用用电器等等都有研研究课题题已有一些些研究成成果进入入产品学习系统统环境学习环节节知识库执行环节节环境：是学习系系统所感感知到的的外界信信息集合合，也是是学习系系统的外外界来源源。信息息的水平平（一般般化程度度）和质质量（正正确性））对学习习系统影影响较大大。学习环节节：对环境提提供的信信息进行行整理、、分析归归纳或类类比，形形成知识识，并将将其放入入知识库库。。知识库：：存储经过过加工后后的信息息（即知知识）。。其表示示形式是是否合适适非常重重要。执行环节节：是根据知知识库去去执行一一系列任任务，并并将执行行结果或或执行过过程中获获得的信信息反馈馈给学习习环节。。学习环环节利用用反馈信信息对知知识进行行评价，，在进一一步改善善执行环环节的行行为。ML分类类（P158）按推理策策略分类类：机械学习习示教学习习类比学习习示例学习习解释学习习机械学习习机械学习(rotelearning)就是是记忆,是是最简单的的学习策略略（死记硬硬背,生搬搬硬套）.虽然机械学学习在方法法上看来很很简单,但但由于计算算机的存储储容量相当当大,检索索速度又相相当快,而而且记忆精精确、无丝丝毫误差,所以也能能产生人们们难以预料料的效果.Simuel的下棋棋程序就是是采用了这这种机械记记忆策略.例如：某某个计算的的输入是：：(x1,x2,……,xn)，计算后输出出是：(y1,y2,……,yn),如果经评价价后得知该该结果正确确，则把联联想对:[(x1,x2,……,xn),(y1,y2,……,yn)]存入知识库库，当以后后需要做同同样的计算算时，只要要从知识库库中检索出出来即可，，而不需要要重新计算算了。(2)利利弊机械式学习习实质上是是用存储空空间来换取取处理时间间，虽然节节省了计算算时间，但但却多占了了存储空间间。当因学习而而积累的知知识逐渐增增多时，占占用的空间间就会越来来越大，检检