版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、 智 能 控 制简明教程A Concise Textbook of Intelligent Control 主要内容: 第一章 绪论 第二章 模糊逻辑基础 第三章 模糊控制原理 第四章 神经网络基础 第五章 神经网络控制 学习要求课外阅读参考书和参考文献计算机练习,结合Matlab应用考核:课堂练习、课外作业、期终考查第一章 绪 论 传统控制方法包括经典控制和现代控制,是基于被控对象精确模型的控制方式。1.1 控制理论的发展过程控制科学发展过程开环控制对象的复杂性进展方向确定性反馈控制最优控制随机控制自适应控制鲁棒控制自学习控制自组织控制智能控制自主控制1. 控制理论和应用发展的概况控制理论的
2、发展始于Watt飞球调节蒸汽机以后的100年。20年代以反馈控制理论为代表,形成经典控制理论,著名的 控制科学家有:Black, Nyquist, Bode. 2. 随着航空航天事业的发展,5060年代形成以多变量控制为特 征的现代控制理论,主要代表有:Kalman 的滤波器,Pontryagin 的极大值原理,Bellman 的 动态规划,Lyapunov 的稳定性理论.3. 70年代初,以分解和协调为基础,形成了大系统控制理论,用于复 杂系统的控制,重要理论有递阶控制理论、分散控制理论、队 论等。主要用于资源管理、交通控制、环境保护等。以上控制理论称之为传统控制和现代控制理论。阶段第一阶段
3、第二阶段第三阶段形成时间40-50年代60-70年代80年代以来理论基础经典控制理论现代控制理论智能控制理论研究对象单变量控制多变量控制多层次多变量控制分析方法传递函数、频域法状态方程、时域法智能算子,多级控制研究重点反馈控制最优、随机、自适应控制大系统理论,智能控制核心装置自动调节器计算机智能机器系统 应 用单机自动化机组自动化综合自动化 标 志调节原理状态空间法经典控制理论 研究的主要对象多为线性定常系统,主要解决单输入、单输出问题,研究方法主要采用以传递函数,频率特性,根轨迹为基础的频域分析法。 控制思想: 首先对被控对象进行“调节”,使之能稳定运行;其次则采用“反馈”的方式,使得其动力
4、学系统能够按照人们的要求精确地工作;最终是实现对系统按指定目标进行的控制。经典控制:研究单输入/出系统,频域法为主,20世纪40年代建立起来的。现代控制:研究多输入/出系统、非线性时变系统,20世纪60年代发展起来的。卡尔曼的可控性可观性、卡尔曼滤波、庞特里亚极大值原理是现代控制的主要标志,采用状态空间法、李氏稳定法,可达到最优性能指标。缺点:依赖被控对象的数学模型智能控制:20世纪70年代发展起来的一种新控制方法智能控制的思想: 模仿人如何根据外部环境调整自身使之适应其变化达到对难以建模或模型不确定性复杂系统的控制。 目前关于智能控制的定义、理论、结构等问题无统一的系统描述。傅京逊:智能控制
5、:驱动机器自主实现其目标的过程。智能系统:无须人干预的智能机器系统。1.2智能控制的研究对象 它是控制理论发展的高级阶段,主要用来解决那些用传统方法难以解决的复杂系统的控制问题。 如: 1. 智能机器人 2. 计算机集成制造系统CIMS 3. 复杂工业过程控制系统 4. 航空航天控制系统 5. 社会经济管理系统 6. 交通运输系统等企业自动化系统结构火星机器人步行机器人这些系统有如下特点:1.不确定性的模型 传统的控制:建模辨识参数基于模型的控制方法。 智能控制:模型的结构可以未知或参数变化非模型 控制方法。2. 高度的非线性 传统的控制:采用线性系统理论,用非线性控制方法非线性问题。 智能控
6、制:采用人的思维具有非线性的特点,进行决策与控制,可较好解决非线性控制问题。 3. 复杂的任务要求 传统的控制:系统完成单一任务。 如随动系统:输出跟踪输入的期望运动轨迹。 智能控制: 完成多任务。 如智能机器人系统:决策与规划、跟踪等功能。1.3 智能控制系统 1. 定义: 所谓智能控制系统是指具备一定的智能行为的系统。 激励输入 系统 输出(满意) (决策控制作用) 2. 智能控制系统的基本结构(1)典型结构如智能机器人系统被控对象 :机器人手臂传感器 :关节位置传感器,力传感器,视觉传感器,触觉感觉器通信接口:人-机接口规划与控制:给定任务 推理、决策 反馈信息 动作规划 控制作用 经验
7、知识 (2)分层递阶结构组织级协调级执行级对象识别组织级起主导作用,涉及知识的表示与处理,主要应用人工智能;协调级在组织级和执行级间起连接作用,涉及决策方式及其表示,采用人工智能及运筹学实现控制;执行级是底层,具有很高的控制精度,采用常规自动控制。组织级协调级执行级精 度智 能分层递阶结构功能:组织级 :自然语言机器语言、决策、 规划协调级 :协调工作执行级 :实现一定精度的控制识别 : 获取不确定的参数、测量数据 分层递阶结构组织级协调级执行级对象识别1.4 智能控制系统的主要特点1. 学习功能 学习系统的定义(G.N. Saridis) 一个系统如果能对一个过程或其环境的未知特征所固有的信
8、息进行学习,并将收到的经验用于进一步的估计、分类、决策或控制从而使系统的性能得到改善学习系统。 学习的目的决策、控制性能提高2. 适应功能 不依赖模型的自适应估计功能,故障容 错功能3. 组织功能 任务协调、信息组织、自主决策等1.5 智能控制研究的数学工具传统控制理论:微分方程、状态方程等 数值计算方法人工智能: 符号处理,一阶谓词逻辑智能控制: 模糊集合论,取0,1之间值神经元网络:许多简单关系复杂关系: 非线性映射 进化算法(演化):全局优化1.6 智能控制的发展概况 20世纪60年代 控制理论和技术的发展已渐趋成熟。而人工智能只是一种新兴的技术。1966年 J.M.MENDEL(门德尔
9、)将人工智能用于飞船控制系统的设计人工智能控制 1971年 K.S.FU(傅京逊)从学习控制的角度,首次提出智能控制的概念。1986年 K.J.ASTROM将人工智能的专家系统技术引入到控制系统智能控制系统 20世纪80年代以来,神经网络(NN)、模糊控制(FC)、遗传算法(GA)等得到迅速发展。 智能控制的主要形式智能控制BECDA分级递阶智能控制模糊控制神经网络控制计算智能控制专家控制F集成智能控制NN:模拟人脑的功能,不依赖于精确的数学模 型,具有自适应和自学习功能。FC: 基于1965年L.A.ZADEH提出的模糊逻辑理 论,模仿人的模糊推理和决策。GA:模拟生物的遗传和长期进化过程中
10、发展起 来的一种搜索和优化算法。 模拟了生物界“生存竞争,优胜劣汰,适者 生存”机制, 用逐次选代法搜索寻优。NN:Neural NetworkFC: Fuzzy ControlGA: Genetic Algorithm我国从20世纪80年代开始仿人智能控制研究。智能控制作为一门新兴学科,还处于发展阶段。智能控制理论-多学科的交叉 1971 傅京逊 :人工智能+自动控制 K.S.FU Artificial Intelligence (AI) Automatic Control(AC)Intelligent Control(IC) 1977 Saridis:人工智能+自动控制+运筹学 运筹学 O
11、peration Research OR 自动控制 Control TheoryCT 1982 蔡自兴: AI+CT+OR+IT IT信息论 Information Theory智能控制理论的主要内容:1. 自适应、自组织和自学习控制 如:参数自适应控制,品质自适应的组织控制减小系统的不确定性 自学习控制:对过程、环境学习学习控制系统 扰动控制器对象教师参数自适应、自组织控制系统控制器对象控制器设计参数估计2. 知识工程 解决专家控制中的知识获取、知识表示、知识推理 推理决策(控制作用) 3. 模糊控制理论 1965年 Zadeh提出的模糊集合理论,模仿人的推理过程. 如:洗衣机、空调、自动照
12、相机等,符合人的思维逻辑,具有智能性。 If 气温低 then 电机电压增加 年轻人:0.6,年老人:0.9 隶属度4. 神经网络控制理论 已有30年历史,但近几年才得到广泛应 用, 它是一种不依赖模型的自适应函数估计 器。 模拟人脑神经系统智能活动的控制方式pp1xp1x pnpm输入输出它具有学习能力适应能力多层网络结构神经网络的特点并行处理信息分布存储高度的容错性和鲁棒性连续时间的非线性动力学特性 感知器模型神经网络的功能:逼近任意的非线性函数便于信息的并行、分布式处理和存储可以实现多输入、多输出能进行学习,以适应环境的变化5. 遗传算法(Genetic AlgorithmGA)是一种全
13、局优化方法,它模仿生物进化的过程来逐次达到最好的结果。遗传算法思想来源:Darwin的进化论Mendel的遗传学说物竞天择,适者生存遗传:作为一种指令遗传码封装在每个细胞中,并以基因的形式包含在染色体中,每个基因有特殊的位置并控制某个特殊的性质.遗传算法实现思路:问题编码,生成初始染色体群复制(从旧种群中选择生命力强的个体进行复制)再生交叉(部分内容进行互换)变异(某个或某几个位置的内容进行跳变)循环进行直到收敛于问题的最优解。6. 专家控制 专家系统由知识库、推理机、解释器、知识获组成机器学习,透明性,灵活性。 应用:复杂系统控制,如故障诊断,容错控制7. 仿人智能控制8. 集成智能控制 模
14、糊神经网络控制 基于遗传算法的模糊控制专家系统结构专家系统推理机知识库综合数据库知识获取解释接口专家用户QuestionAnswer基于知识工程的专家控制系统统专家控制可定义为:具有模糊专家智能的功能,采用专家系统技术与控制理论相结合的方法设计控制系统。基于规则的仿人智能控制 仿人智能控制的核心思想是在控制过程中,利用计算机模拟人的控制行为功能,最大限度地识别和利用控制系统动态过程提供的特征信息,进行启发和直觉推理,从而实现对缺乏精确模型的对象进行有效地控制。 其基本原理是模仿人的启发式直觉推理逻辑,即通过特征辩识判断系统当前所处的特征状态,确定控制的策略,进行多模态控制。智能控制的两个发展方
15、向 模拟人类的专家控制经验来进行控制智能控制模拟人类的学习能力来进行控制智能控制的应用1.智能机器人控制 2.家电 3.工业控制 4.航空航天本章知识点1.智能控制2.智能控制系统3.模糊控制、专家控制、神经网络控制4.学习控制、仿人控制、自适应控制思考题1.智能控制的特点?2.智能控制系统的基本结构和功能?3.智能控制的主要内容?4.智能控制的应用领域?第二章 模糊逻辑理论基础2.1 引言2.2 模糊集合 2.3 隶属函数的确定方法2.4 模糊关系与模糊矩阵2.5 模糊逻辑2.6 模糊语言2.7 模糊推理句2.8 模糊推理方法经典集合19世纪末,德国数学家康托创立的集合论,已成为现代数学的基
16、础。1.集合的描述:集合与元素2.集合的表示方法:(1)描述法,(2)列举法,(3)特征函数法2.1 引言Fuzzy: “模糊”,“不分明”等含义。 日常生活中许多事物都有Fuzzy性。如: “大与小”“高与矮”,“快与慢”,“冷与热” “远与近”,“美与丑”,“成年人” 等。 客观事物的不分明性,没有明确的外延。 1965年美国加州大学查德(L.A.ZADEH)在其论文Fuzzy Logical Set中首次提到用“隶属函数”概念来定量描述事物的Fuzzy性集合理论,奠定了模糊数学的基础。 模糊数学的主要内容有: 模糊集合论,模糊逻辑,模糊推理。a .经典二值逻辑与模糊逻辑的区别 经典二值逻
17、辑 :有明确边界,被讨论对象属性确定 模糊逻辑 :表示对象属于某一类的程度。 如: 集合大于5的实数,用经典集合A表示 边界5,比5大得多的自然数程度 模糊集合隶属度表示b.模糊推理 : 如果x小,那么y就大 如果x大,那么y?(很大?)c.模糊规则 : 如果水温偏高,则加一些冷水 如果x是A,则y是B,否则y是C模糊性与随机性:随机性:外在的不确定性 预测某天降雨量模糊性:内在的不确定性 大雨?中雨?小雨?概率论处理随机事件:事件发生与否不确定,但事件本身有明确定义,即发生不发生的界限明确。2.2 模糊集合 内涵集合 区别于其他概念的全体本质属性 外延元素 某概念的全体“人” 的外延世界上所
18、有人的全体 “人”的内涵区别其他动物的那些本质属性的全体, 如:能制造和使用工具 。 普通集合:A= X|1x 所有大于1的实数 模糊集合:A= X|1x0的数,b值大, 曲线宽, b值小, 曲线窄当选择正态函数为隶属函数时,赋值表:-6-5-4-3-2-10123456PB0000000000.10.40.81.0PM000000000.20.71.00.70.2PS00000000.91.00.70.200ZO000000.510.500000NS000.20.71.00.900.500000NM0.20.71.00.70.200000000NB1.00.80.40.1000000000注
19、意:不管用什么方法给模糊子集赋值,对n=6语言变量词集: NB,NM,NS,NO,PO,PS,PM,PB都要保证:(3) 对控制性能的影响a. 的形状的影响: 窄型 :反映A具有较高的分辨率和控制 的灵敏度。 宽型 :反映B具有较低的分辨率,控制的 灵敏度低,但控制特性平缓,稳定 性好。 宽型窄型 大误差: 采用 , 低分辨率; 小误差: 采用 , 高分辨率。 b. 与 之间的影响 值较小时,控制动作的灵敏度高 值较大时,控制动作的鲁棒性好. 一般取 过大,两个Fuzzy集很难区分 由FC的基本结构可知:FC的输入和输出信号 精确量模糊推理 模糊量因此在FC控制算法实现过程中 精确量 模糊量
20、模糊量 精确量4. 精确量与模糊量之间的相互转换确定数模糊化方法:方法一:已知a. 模糊化方法(精确量模糊量)(1)由求出e对应的量化等级:(2)根据 查找语言变量的赋值表找出在元素上与最大隶属度相对应的语言值所决定的模糊集合例:设则查隶属函数赋值表+3级上的隶属度: 0.1, 0.7, 0.7-6-5-4-3-2-10123456PB0000000000.10.40.81.0PM000000000.20.71.00.70.2PS00000000.91.00.70.200ZO000000.510.500000NS000.20.71.00.900.500000NM0.20.71.00.70.20
21、0000000NB1.00.80.40.1000000000 对应的Fuzzy集 即 PM PS又如:-6-5-4-3-2-10123456PB0000000000.10.40.81.0PM000000000.20.71.00.70.2PS00000000.30.81.00.50.10ZO000000.510.500000NS000.20.71.00.900.500000NM0.20.71.00.70.200000000NB1.00.80.40.1000000000注意:如果离散化公式:若e不是整数,采用四舍五入: -4.8 -5,2.7 3, -0.4 0方法二:已知(1)由求出e对应的量化
22、等级:(2)根据 ,令 是如下的一个模糊集: 如 FC的输出是一个模糊量,要控制执行机构,还要把这个模糊量转化为一个精确量,也称清晰化,或非模糊化判决。b.非模糊化方法(模糊量精确量)(1) 最大隶属度方法 选择模糊子集中隶属度最大的元素作为控 制量,若模糊子集为U,所选择的隶属度 最大的元素应满足:该方法简单易行,实时性好;缺点是概括的信息量少。例:若 则 若 则即最大隶属度的点有几个,则取它们的平均值又如但若 应避免! 语言变量的隶属函数曲线双峰值2,5判决相互矛盾(2)加权平均法(普通加权法)重心法如量化等级中-3级控制输出建立模糊控制规则 模糊控制器的控制规则是以手动控制策略 为基础,
23、它利用模糊集合理论将手动控制 策略上升为具体的数值运算,然后由推理 运算结果做出相应的控制动作,使执行机 构控制被控对象的运行。(1)常见的Fuzzy控制规则a. 一维Fuzzy控制器(比例 P 型控制律)if A then B (若A则B) if A then B else C (若A则B否则C) b. 二维Fuzzy控制器(比例微分PD型控制律) if A and B then C (若A且B则C) (2)建立模糊控制规则表以定位控制为例,总结出模糊控制规 则。 设位置误差为e,位置误差的变化为ec, 输出控制为u 设e的语言变量E的词集为 NB,NM,NS,NO,PO,PS,PM,PB设
24、ec,u的语言变量EC, U的词集为 NB,NM,NS,ZO,PS,PM,PB a. “若误差负大且误差变化率也负大,则控制量应正大” If E=NB and EC=NB then U=PB b. “若误差负大且误差变化率正小时,则控制 量正中” if E=NB and EC=PS then U=PM误差为负大,误差变化率为正,系统输出有减小误差的趋势 消除超调,所以应取较小的U.c. If E=NB and EC=PB then U=ZO 控制量U选择原则: 误差e大或较大时:控制量U以尽快消除误差e为主: 误差e较小时:控制量U要防止超调,保证系统的稳定性。同理可得出共56条控制规则,如表
25、所示:NBNMNSZOPSPMPBNBPBPBPBPBPMZOZONMPBPBPBPBPMZOZONSPMPMPMPMZONSNSNOPMPMPSZONSNMNMPOPMPMPSZONSNMNMPSPSPSZONMNMNMNMPMZOZONMNBNBNBNBPBZOZONMNBNBNBNBEC的语言变量E的语言变量控制规则U6.模糊控制表(1)直接法求取模糊控制表(2)间接法求取模糊控制表(3)Mamdani直接推理法(1)直接法求取模糊控制表 (2)间接法求取模糊控制表 如:二维FC: i=1,2,m ; j=1,2,nX=-6,+6 , Y=-6,+6,Z=-7,+7间接法求取模糊控制表
26、X,Y,Z上的Fuzzy Set则:如果输入: 则:找最大判决 i=1,2,m ; j=1,2,n 离线计算出全部 矩阵 查询表 最后由 查出 输出 (3)Mamdani直接推理法 7. 基本模糊控制算法的实现 设一个二维FC: E -误差 EC -误差变化 U -控制量语言变量 Fuzzy化Fuzzy控制算法非Fuzzy化对象1) EC,U的Fuzzy词集: NB,NM,NS,ZO,PS,PM,PB E的Fuzzy词集: NB,NM,NS,NO,PO,PS,PM,PB e,ec的Fuzzy Set论域: -6,-5,-4,-3,-2,-1,0,1,2,3,4,5,6 u的Fuzzy Set论
27、域: -7,-6,-5,-4,-3,-2,-1,0,1,2,3,4,5,6,72) 建立Fuzzy Control Rules. 依据e,ec的变化趋势来消除误差,总结出控制规则。3) 确定E,EC和U的赋值表。 4) 建立模糊控制表 查词表NBNMNSZOPSPMPBNBPBPBPBPBPMZOZONMPBPBPBPBPMZOZONSPMPMPMPMZONSNSNOPMPMPSZONSNMNMPOPMPMPSZONSNMNMPSPSPSZONMNMNMNMPMZOZONMNBNBNBNBPBZOZONMNBNBNBNBEC的语言变量E的语言变量控制规则U-6-5-4-3-2-10123456
28、PB0000000000.10.40.81.0PM000000000.20.71.00.70.2PS00000000.30.81.00.50.10ZO000000.510.500000NS000.20.71.00.90000000NM0.20.71.00.70.200000000NB1.00.80.40.1000000000 -6-5-4-3-2-1-0+0+1+2+3+4+5+6PB00000000000.10.40.81.0PM0000000000.20.71.00.70.2PS00000000.30.81.00.50.100PO00000001.00.60.10000NO00000.10
29、.61.00000000NS000.10.51.00.80.30000000NM0.20.71.00.70.2000000000NB1.00.80.40.10000000000 -7-6-5-4-3-2-10+1+2+3+4+5+6+7PB000000000000.10.40.81.0PN0000000000.20.71.00.70.20PS00000000.41.00.80.40.1000ZO0000000.51.00.5000000NS0000.10.40.81.00.40000000NM00.20.71.00.70.2000000000NB1.00.80.40.100000000000
30、模糊控制表 -6-5-4-3-2-10+1+2+3+4+5+6-67676777442000-56666666442000-47676777442000-37666666320-1-1-1-24445444100-1-1-13-2-1-04445110-1-1-1-4-4-46) FC算法的实现a. 采样e(k), e(k)=e(k)-e(k-1)b. 计算e(k)Ke X=-6,+6 e(k)Kec Y=-6,+6c. 查控制表 Uijd. Uij Ku 输出u7) 计算机实现FC算法 主程序:初始化处理开始开中断(软件定时)中断入口开中断保护现场恢复现场关中断调F
31、C子程序返回中断服务程序:FC算法入口8.模糊控制器的控制性能FC的实现 查控制表(离线计算) 固定不变 不能获得较好的性能但FC与PID控制相比,具有许多优异性能 控制对象: (1)参数变化:T1,T2(2)结构变化: 2阶 3阶 3.4 模糊控制规则自调整1.控制规则可调整的FC2.带调整因子的控制规则3.调整因子自寻优4. FC+PID5. PID模糊控制6. 自适应模糊控制1.控制规则可调整的FC控制规则的解析描述定义: -3-2-10+1+2+3-33322110-2322110-1-122110-1-102110-1-1-2+1110-1-1-2-2+210-1-1-2-2-3+3
32、0-1-1-2-2-3-3 控制规则表U 2.带调整因子的控制规则 修整因子 调整FC控制规则 3.调整因子自寻优 的选择主要依据经验,带有一定的盲目性,不是最佳参数。 自寻优方法 采用ITAE积分性能指标:J(ITAE)-误差函数加权时间之后的积分: I-积分 T-时间 A-绝对值 E-误差 当 很小,且 ,模糊控制规则的自寻优系统:模糊化非模糊化对象寻优过程J=min 模糊PID复合控制 原因:FC PD控制,而FC的输出u是 离散值,是阶跃变化,与离散论 域选择的精度有关。 所以:FC动态性能好,稳态性能差。 4. FC+PID K-软件切换: 复合控制PIDFCG(s) Fuzzy自调
33、整PID参数: 在线调整或查 表5. PID模糊控制 Adaptive control 是在对象未知情况下,或对象参数发生变化时,调整控制器的控制参数或方法,使系统达到预期的控制性能。6. 自适应模糊控制 模型参考自适应控制(MRAC)通过调整调节器的参数,使系统和给定的参考模型之间的输出偏差 0。自校正控制:已知系统的模型设计调节器,在控制时,由辨识方法来确定被控对象的数学模型,再由辨识结果确定调节器参数,使控制性能达到最优。第四章 神经网络原理(Artificial Neural Networks-ANN)本章介绍神经网络的基本概念和基本理论,它包括引言、神经网络基本模型和学习规则。4.1
34、 引言4.2 神经网络基本概念4.3 前馈神经网络4.4 径向基神经网络4.5 反馈神经网络4.6 神经网络的输入输出处理4.1 引言 神经网络的研究是从20世纪40年代开始的,诸如大脑功能心理学研究,神经元的电生理实验等神经科学研究。1943年心理学家M.McCulloch 数学家W.H.Pitts首先提出了第一个人工神经元模型,简称MP模型。1949年心理学家D.O.Hebb提出了Hebb学习规则,用来改变神经元之间连接强度。1958年F.Rodenblatt提出了感知器(Perceptron)模型。 经过了20多年的低潮之后,20世纪80年代神经网络研究又重新兴起,成为智能控制的一个新分
35、支,为解决复杂的非线性、不确定系统的控制开辟了一个新途径。1982年,美国物理学家Hopfield教授提出了Hopfield神经网络模型,可用微电子器件实现它,并解决TSP问题。1988年,提出了BP网络算法多层网络学习的误差逆传播。1987年,IEEE召开了第一届ANN国际会议。1990年,我国也召开了首届ANN学术会议。人工神经网络Artificial Neural Networks(ANN)神经网络的主要特征:1.并行处理、信息的分布存储与容错性结 构特征。 ANN是由大量简单处理元件相互连接构成高度并行的非线性系统。信息存储采用分布式。信息存储:空间上分布,时间上并行良好的容错性。2.
36、自学习、自组织、自适应性 自适应自学习+自组织,而自学习是指外界变化,经过训练和感知,ANN通过自动调整网络结构参数,输出期望输出。ANN在外部输入条件下调整连接权自组织,逐渐构建起ANN。ANN的功能:联想记忆 ANN通过预先存储信息和自适应学习机制,从不完整信息和噪声干扰中恢复原始的完整信息。非线性映射功能 通过输入输出样本对的学习自动提取映射规则。可以任意精度拟合任意复杂的非线性函数。 神经网络在控制方面的应用:1.基于神经网络的系统辨识 已知模型结构,估计模型参数2.神经网络控制器实时控制系统,达到动、静态性能3.神经网络与专家系统、模糊逻辑、GAs(遗传算法)相结合非参数模型控制4.
37、优化计算求解约束优化、全局优化5.控制系统的故障诊断可靠性、安全性神经网络控制解决的问题(发展趋势):1.神经网络的稳定性与收敛性问题。2.神经网络的学习速度研究如何满足实时性要求。3.神经网络的非线性函数的逼近问题研究。4.神经网络模型的选择。4.2 基本概念1.生物神经元结构ANN是受人脑的启发而构成的一种信息处理系统。人脑有 数量级神经元,但没有任何两个神经元的形状完全相同。结构神经元:由细胞体、树突和轴突构成;细胞体:由细胞核、细胞质和细胞膜组成;输入输出连接轴突:又称神经纤维,它粗细均匀、表面光滑。功能:传送细胞体发出的神经信息,是该细胞的输出通道;突触:神经元之间通过一个神经元的轴
38、突末梢和其他神经元的细胞体或树突通信连接,这种连接相当于神经元之间的输入输出接口 突触树突:从细胞体向外延伸出的许多突起的神经纤维,形状较短。神经元靠树突接受来自其他神经元的输入信号。功能兴奋与抑制:a.当传入神经元的冲动,经整合使细胞膜电位 升高,超过动作电位的阈值时兴奋状态,产生神经冲动。b.当传入神经元的冲动,经整合使细胞膜电位 降低,低于阈值时抑制状态,不产生神经 冲动。学习与遗忘:神经元结构的可塑性,由突触传递作用调整。细胞膜电位:神经细胞在受到电的、化学的、机械刺激后,产生兴奋,此时细胞膜内外有电位差20100mv。2.人工神经元 1943年,由美国心理学家McCulloch和数学
39、家Pitts共同建立的MP人工神经元模型,是神经网络理论基础。 神经元j的输出 神经元j的输入(i=1,2n; ) 神经元的连接权值(j=1,2n) 神经元的阈值(不是常值,随兴奋而 变化) 非线性函数MP模型输出还可以写为3.作用函数(转移函数,激活函数)a.非对称型S函数b.对称型S函数c.对称型阶跃函数(符号函数)d.线性函数4.神经网络的拓扑结构网络的拓扑结构:各神经元间相互连接的方式a.前馈式网络(前向)前向网络 1. 神经元分层排列,可多层 2. 层间无连接 3. 方向由入到出 感知网络(perceptron即为此) 应用最为广泛 前向网络特点注意:构成多层网络时,各层间的转移函数
40、应是非线性的,否则多层等价一个单层网络。另外,隐层的加入大大提高NN对信息的处理能力,经过训练的多层网络,具有较好的性能,可实现XY的任意非线性映射的能力。5.神经网络的学习功能a.学习方法学习是NN最重要的特征,学习learning,训练training。方法:给NN输入一些样本模式,按一定规则(学习算法)调整网络各层的权矩阵,待各权值都收敛到一定值时,学习完成。实质:NN的权阵随外部环境的激励作自适应变化。有监督学习(有导师学习)无监督学习(无导师学习) 再励学习(强化学习)再励学习:模拟人适应环境的学习过程的一种机器学习模型。 有导师的监督学习:虽学习效率高,但在控制中导师信号一般不易获
41、得。 无导师学习:效率低。 再励学习:介于有导师与无导师之间的一种学习方式。学习系统依据re和环境当前状态,再选择下一动作作用于环境,使受奖励的可能性增大。学习系统环境学习系统环境 Hebb学习规则(无导师学习) 在Hebb学习规则中,取神经元的输出为学习信号:神经网络调整权值 的原则:若第i个与第j个神经元同时处于兴奋状态,则它们之间的连接权应加强。符合心理学中条件反射的机理两个神经元同时兴奋(输出同时为1态)时w加强,否则应削弱。4.3 感知器(perceptron) 感知器是模拟人的视觉,接受环境信息,并由神经冲动进行信息传递的神经网络。分为单层与多层感知器,是一种具有学习能力的神经网络
42、。 单层感知器 感知器模型是由美国学者F.Rosenblatt于1957年建立的,它是一个具有单层处理单元的神经网络。感知器的输出:学习规则:向量形式: 下面讨论单层感知器实现逻辑运算问题:a.单层感知器的逻辑“与”运算 0 0 0-1.5 0o 0 0 1-0.5 0o 0 1 0-0.5 0o 1 1 1 0.5 1*b.单层感知器的逻辑“或”运算 0 0 0-0.5 0o 1 0 10.5 1* 1 1 00.5 1* 1 1 11.5 1*c.“异或”运算线性不可分 0 0 0 0 1 1 1 0 1 1 1 0多层感知器输入和输出层间加一层或多层隐单元,构成多层感知器,也称多层前馈神
43、经网络。 0 0 01 0o 0 1 11 1* 1 0 11 1* 1 1 10 0o4.4 前馈神经网络 1986年,Rumelhart和McClelland提出多层前馈网络(MFNW-Multilayer Feedforward Neural Networks)的训练算法.误差反向传播(Error Back PropagationEBP )是一种有导师学习,目前成为应用最广泛的一种网络,有80%左右NN应用BP算法,还提出了一些改进算法。1.网络结构多层前馈网络结构如图所示,X、Y分别是输入/出向量,每一个神经元用一个节点表示,网络由输入层,隐层和输出层节点组成,隐层可一层,也可以是多层
44、,图中是单隐层,前层至后层节点通过权连接。常用BP算法. 这种网络结构简单,工作状态稳定,且易于硬件实现,且具有很强的非线性映射能力。2.BP网络基本思想:BP学习算法:正向传播+反向传播正向传播:模式样本作用于输入层,经隐层传向输出层,若在输出层得到了期望的输出,则学习算法结束;否则反传。反向传播:将输出误差按梯度下降法通过隐层向输入层返回,并调整各层神经元的权值与阈值,使误差不断减少。正向传播权值调整(反向转播)隐层输出层BP算法的信号流图BP算法的主要功能1.非线性映射能力学习、存储大量的输入/输出模式映射关系无需这种关系的数学描述2.泛化能力 当向网络输入训练时未曾见过的非样本数据时,
45、网络也能完成由输入空间向输出空间的正确映射。3.容错能力 允许输入样本中带有较大的误差甚至个别错误。 个别样本中的错误不能左右对权矩阵的调整(满足样本提取的统计特性)。4.BP网络的泛化能力(网络性能好坏)指用较少的样本进行训练,使网络能对未经训练的输入样本也能给出正确的输出,即BP网络对受污染或带噪声的训练样本,也能进行正确的映射。正是BP网络的泛化能力使它解决各种实际问题。欲使BP网络具有良好的泛化性必须:输入输出函数关系保持平滑, 或函数一阶导数存在。 训练集足够大,样本具有代表性。为了得到较好的泛化能力,除训练集外,还需测试集5.BP算法的不足a.非线性优化,不可避免存在局部极小问题。
46、b.学习算法的收敛速度慢,且与初始权值选择 有关。c.网络节点与层数的选择无理论方法。d.新加入的样本会影响已学好的样本。4.4 前馈神经网络 1986年,Rumelhart和McClelland提出多层前馈网络(MFNW-Multilayer Feedforward Neural Networks)的训练算法.误差反向传播(Error Back PropagationEBP )是一种有导师学习,目前成为应用最广泛的一种网络,有80%左右NN应用BP算法,还提出了一些改进算法。1.网络结构多层前馈网络结构如图所示,X、Y分别是输入/出向量,每一个神经元用一个节点表示,网络由输入层,隐层和输出层
47、节点组成,隐层可一层,也可以是多层,图中是单隐层,前层至后层节点通过权连接。常用BP算法. 这种网络结构简单,工作状态稳定,且易于硬件实现,且具有很强的非线性映射能力。2.BP网络基本思想:BP学习算法:正向传播+反向传播正向传播:模式样本作用于输入层,经隐层传向输出层,若在输出层得到了期望的输出,则学习算法结束;否则反传。反向传播:将输出误差按梯度下降法通过隐层向输入层返回,并调整各层神经元的权值与阈值,使误差不断减少。正向传播权值调整(反向转播)隐层输出层BP算法的信号流图BP算法的主要功能1.非线性映射能力学习、存储大量的输入/输出模式映射关系无需这种关系的数学描述2.泛化能力 当向网络
48、输入训练时未曾见过的非样本数据时,网络也能完成由输入空间向输出空间的正确映射。3.容错能力 允许输入样本中带有较大的误差甚至个别错误。 个别样本中的错误不能左右对权矩阵的调整(满足样本提取的统计特性)。4.BP网络的泛化能力(网络性能好坏)指用较少的样本进行训练,使网络能对未经训练的输入样本也能给出正确的输出,即BP网络对受污染或带噪声的训练样本,也能进行正确的映射。正是BP网络的泛化能力使它解决各种实际问题。欲使BP网络具有良好的泛化性必须:输入输出函数关系保持平滑, 或函数一阶导数存在。 训练集足够大,样本具有代表性。为了得到较好的泛化能力,除训练集外,还需测试集5.BP算法的不足a.非线
49、性优化,不可避免存在局部极小问题。b.学习算法的收敛速度慢,且与初始权值选择 有关。c.网络节点与层数的选择无理论方法。d.新加入的样本会影响已学好的样本。4.5径向基函数神经网络 径向基函数(Radial Basic Function, RBF)是一种针对BP网络存在局部极小值和收敛速度慢而提出的一种改进神经网络。RBF网络学习算法(隐层的训练任务不是调整权值,而是为每个隐节点选择其中心向量)规一化处理BP网络与RBF网络比较BP网络隐节点采用S型函数,其函数值在输入空间中无限大的范围内为非零值,即作用函数为全局的 全局逼近NNRBF网络的隐节点采用高斯函数,它的作用函数是局部的 局部逼近N
50、N例2.用RBF网络求解XOR问题输入样本希望输出实际输出4.6 Hopfield神经网络(反馈神经网络) 前面讨论了BP网络,它是一种前馈网络通过引入隐层和非线性转移函数后,网络具有复杂的非线性映射能力。前馈网络的输出仅由当前输入和权矩阵确定,而与网络先前的输出状态无关。 美国加州理工学院物理学家J.J.Hopfield于1982年提出了Hopfield网络,是一种单层反馈网络. 通过引入了“能量函数”的概念,来判断神经网络的稳定性。1.离散型Hopfield网络(Discrete Hopfield Neural Network-DHNN)(1)DHNN的拓扑结构 它是一个单层网络,有n个神
51、经元节点,每个神经元的输出均连接到其他神经元的输入,各节点没有自反馈,每个节点都有一阈值。(0),Xt若神经网络从某一状态 开始经过有限时间后,它的状态不再发生变化,即为DHNN的稳定状态 (吸引子)02.连续型Hopfield网络(Continuous Hopfield Neural NetworksCHNN) 网络描述其结构为单层反馈非线性网络,每一个节点的输出均反馈至其它节点的输入,无自反馈。Hopfield用模拟电路(电阻,电容,运算放大器)实现。稳定性分析关于Hopfield能量函数的几点说明 当对反馈网络应用能量函数后,从任一初始状态开始,因为在每次迭代后都能满足E0,所以网络的能
52、量将会越来越小,最后趋于稳定点E=0。 Hopfield能量函数的物理意义:在那些渐进稳定点的吸引域内,离吸引点越远的状态,所具有的能量越大,由于能量函数的单调下降特性,保证状态的运动方向能从远离吸引点处,不断地趋于吸引点,直到达到稳定点。 几点说明:( 1)能量函数为反馈网络的重要概念。根据能量函数可以方便的判断系统的稳定性; (2)能量函数与李雅普诺夫函数的区别在于:李氏函数被限定在大于零的范围内,且要求在零点值为零; (3)Hopfield选择的能量函数,只是保证系统稳定和渐进稳定的充分条件,而不是必要条件,其能量函数也不是唯一的。关于CHNN的几点结论 1)具有良好的收敛性; 2)具有
53、有限个平衡点; 3)如果平衡点是稳定的,那么它也一定是渐进 稳定的; 4)渐进稳定平衡点为其能量函数的局部极小点; 5)能将任意一组希望存储的正交化矢量综合为 网络的渐进平衡点; 6)网络的存储信息表现为神经元之间互连的分 布式动态存储; 7)网络以大规模、非线性、连续时间并行方式处理信息,其计算时间就是网络趋于平衡点的时间。Hopfield网络的应用 组合优化问题在给定约束条件下,求出使目标函数极小(或极大)的变量组合问题。 将Hopfield网络应用于求解组合优化问题,是把目标函数转化为网络的能量函数,把问题的变量对应于网络的状态。这样当网络的能量函数收敛于极小值时,问题的最优解也随之求出。 旅行商问题简称TSP(Traveling Salesman Problem)问题的提法:设有N个城市 ,记为: 用dij 表示ci 和cj 之间的距离, dij0,(i,j=1,2,n) 。有一旅行商从某一城市出发,访问各城市一次且仅一次后再回到原出发城市。要求找出一条最短的巡回路线。N=5 TSP ProbelmN=5,并用字母A、B、C、D、E、分别代表这5
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 二零二五年度木地板工程设计与施工总承包合同4篇
- 二零二五年度男方因女方出轨引发的婚姻解除及共同财产分配合同3篇
- 2025年度车辆收费员劳动合同续签条件与程序协议材料4篇
- 二零二五年度海外房地产承包开发合同(英语版)4篇
- 二零二五年度成都高空广告安装公司广告牌拆除与安装合同4篇
- 2025【合同范本】承包工地食堂合同书模板
- 2025劳动合同签定与履行情况抽样调查报告
- 2025关于劳动合同试用期限的界定
- 2025弱电工程合同书(案例)
- 2025水电安装分包合同
- 中国末端执行器(灵巧手)行业市场发展态势及前景战略研判报告
- 北京离婚协议书(2篇)(2篇)
- 2025中国联通北京市分公司春季校园招聘高频重点提升(共500题)附带答案详解
- Samsung三星SMARTCAMERANX2000(20-50mm)中文说明书200
- 2024年药品质量信息管理制度(2篇)
- 2024年安徽省高考地理试卷真题(含答案逐题解析)
- 广东省广州市2024年中考数学真题试卷(含答案)
- 高中学校开学典礼方案
- 内审检查表完整版本
- 3级人工智能训练师(高级)国家职业技能鉴定考试题及答案
- 孤残儿童护理员技能鉴定考试题库(含答案)
评论
0/150
提交评论