热力系统优化内容摘要

1、1. 引言产品设计产品设计涉及了工业设计和工程设计两个不同的专业领域，两个专业虽然工作对象相同，但研究内容却大相径庭。l 工业设计偏重于在人文层面讨论设计理论，主要表现为设计思想、设计风格的研究，设计方法的研究主要面向设计思维本身和思维对象，中心是设计本身；l 工程设计偏重于在原理层面讨论设计理论，主要表现为对设计过程的建模，设计方法的研究主要面向设计思维的模拟，中心是设计的手段。工业设计思想“设计思想”主要包括设计价值、目的、设计理论要点以及它的指导思想，它是工业设计的理论基础。迄今为止主要有5种设计思想。1）以艺术为中心的设计思想。这是19 世纪流传下来的设计思想，将工业设计视为一种艺术创

2、作，将设计等同于美化产品。我国在引入工业设计概念之初，将工业设计称为“工业美术”2）以产品为中心的设计思想。这种设计思想以提升产品性能和机器效率为主要目的，要求人通过训练去适应产品，其思想根源来自技术决定论3）以消费为中心的设计思想。这种设计思想以刺激消费为目的，通过不断地推出新的款式和有计划的产品升级，人为地加速产品老化，加快产品的更新换代，促使消费者为了追逐新的式样潮流，改换新式样，从而达到促销的目的。这种方式是消费社会的一个重要的设计基石，最早源自美国通用汽车公司20世纪30 年代创立的“有计划废止制”，是目前消费品生产企业，特别是时装企业广泛采用的一种产品策略。4）以人为中心的设计思想

3、。这种设计思想以人的需求为目的，强调设计的社会效应和道德作用，关心一些特殊需要的设计领域，如残疾人、老年人、儿童的需要。另一方面，建立以人为中心的人机关系，强调设计的“可用性5）以自然为中心的设计思想。这种设计思想以保护人的生存环境为目的，认为人类只是自然环境的一部分，维护自然生态的是维护人类自身生存的前提。人类必须从生态学世界观出发重新规划人类生活概念和工作概念，在此思想基础上产生了生态设计的概念，其主要的设计准则包括1,6：（1）减少原材料消耗；（2）减少加工过程能源和水的消耗；（3）采用模块化结构，提高产品可拆卸、可维修和可回收性；（4）减少废弃物；（5）提高产品多用途的可能性；（6）追

4、求持久的设计（不受流行式样影响）。工程设计理论工程设计领域的设计理论研究的目的在于发展新一代用计算机帮助产品设计人员高效率与高质量地寻求设计解的技术。研究表现在两个方面：一是对设计过程的建模，如“通用设计理论”、“公理化设计理论”等；二是对新环境下设计模式的发展，如并行设计、协同设计、大规模定制设计等。1） Pahl & Beitz 理论。德国学者Pahl 和Beitz7于20 世纪70 年代提出了有相当代表性、权威性和系统性的产品设计方法学，在其理论中问题求解被认为是有步骤地分析与综合，不断地从定性到定量的过程。他们将设计过程主要分为4 个阶段：明确任务阶段、概念设计阶段、具体化设计

5、阶段和详细设计阶段。这个设计过程很典型地代表了串行的产品开发模式。2） 公理化设计（AD）。美国麻省理工学院NamP Suh 等学者8自1990 年对设计的理论进行了系统的研究，提出了设计公理体系。AD 的出发点是将传统上以经验为主的设计，建立为以科学公理、法则为基础的公理体系。AD 提出了两个基本公理：1 是涉及功能和设计参数之间关系的独立公理，即所有功能相互之间是独立实现的，因此设计参数仅对其附属功能产生影响。模块化设计是一种满足独立公理的设计；2是信息公理，主要针对减少设计结果的信息含量，并使设计的复杂性尽可能小。在AD 中，设计问题被模型化为需求域、功能域、结构域、工艺域间的映射，许多

6、工程设计问题的研究都是建立在这种模型基础上的。3） TRIZ。前苏联G.S.Altschuller 等人提出的TRIZ 方法把创造性不是作为直觉过程，而是作为精确的科学来理解4） 通用设计理论（GDT）。日本东京大学人造物工程研究中心吉川弘之等，自20 世纪70 年代起通过对设计活动中的认知问题的研究提出了GDT，认为设计在本质上是一个分解、映射和综合的过程。基于GDT，于1998 年提出一个精细设计过程模型11，在此模型中，“设计”定义为完成技术规格书的过程。设计过程的开始，根据功能、行为状态、属性以确定设计目标的技术规格书，设计过程表现为技术规格书的不断精细化5） 并行设计。并行工程是对产

7、品及其相关过程进行并行、一体化设计的一种系统化的工作模式。这种工作模式力图使开发者从一开始就考虑到产品全生命周期（从概念形成到产品报废）中的所有因素。“并行”有两层含义：一是时间意义上的并行，二是信息意义上的并行。时间意义上的并行是指一个以上的事件在同一阶段内发生。与传统的串行设计模式相比，并行设计在同一时间内可容纳更多的设计活动，以此来减少整个设计过程的时间。信息意义上的并行是指一个阶段的活动能够获得生命周期内其它阶段的信息和知识支持，从而尽早地发现和避免设计错误，由此提高设计质量，减少传统的串行设计模式因信息分裂导致的反复修改而花费的时间。信息的并行即信息集成，它也是设计活动在时间上并行的

8、技术前提。6） 协同设计。计算机支持的协同工作（CSCW）是指分布在异地的群体成员，在计算机的支持下，得到一个虚拟的共享环境，相互磋商，共同完成一个任务。产品设计通常需要多学科团队（工业设计、工程设计、市场研究）的共同参与，涉及多方面的知识和多种设计方法，并存在着大量的信息交互，这些都对协同式的设计提出了要求，因此协同设计成为CSCW 的一个典型应用领域。协同设计的主要研究内容包括共享知识表达与语意一致化、冲突检测和解决以及协同式体系结构。7） 大规模定制设计。大规模定制是一种崭新的生产模式，它以个性化客户需求为导向，并以大规模生产的方式来响应和满足这种需求。大规模定制模式依赖于新的产品开发方

9、法学，大规模定制设计便是这种方法学的体现，它以面向产品族的开发模式设计产品，为了有效地为单个用户定制产品，产品族必须具有模块化的产品结构。模块化结构能够使得无须改变的部分得到重用，仅以相对较低的成本改变个别模块，当面对客户新的需求时，可以创建新的模块，并动态连接到现有的结构之中，而无须“重新发明轮子”，因此能够大大地加快产品的开发速度并降低多样化的成本。大规模定制设计的主要研究内容包括产品平台的建立、产品族模型的描述以及配置设计研究。设计方法1） 基于形象思维的设计方法。工业设计的工作形式主要表现为对形态的处理，因此基于形象思维的设计方法是工业设计最常采用的形态创意方法，包括头脑风暴法、仿生、

10、类推、组合、变形等。头脑风暴法也称为智力激励法，它是在开放的气氛下，在短时间内因相互启迪而集体产生大量的灵感。生态具有人类永远探寻不止的秘密，仿生是从生态的构成规律和特性上思索产品构成的有效方法。类推是基于不同事物表象及内在特征的相似性获得新的概念。组合是将两个或两个以上的独立因素通过有机的结合或重组，形成具有统一整体的新设计。变形是对一个原型在比例、尺度、材料、语义、布局等方面进行变化而求得新的形态。2） 基于逻辑思维的设计方法。基于逻辑思维的设计方法是应用理性的分析去探索各种可能方案，主要用在产品分析阶段，包括形态分析和功能分析等。形态分析是将产品的结构分为几个单元，对所有单元进行空间上的

11、排列组合，从而得到各种可能的结构布局方案。功能分析包括以价值工程理论为背景的功能逻辑分解方法，以及FBS 方法。在功能逻辑分解方法中，功能的分解是一个不断问HOW 的求解程，即下层功能是上层功能的实现手段，功能分解的最底层即是工作原理。在FBS 方法中，功能是行为抽象描述，状态间的变化是行为作用的结果，FBS 方法将功能的分解转换为行为描述的分解，更符合人的思维特点。3） 系统设计方法。系统设计是德国乌尔姆设计学院在20 世纪50 年代提出的一种工业设计方法，其基本原则是将纷乱的客观事物置于相互影响和相互制约的关系中，使产品在技术上、功能上以及形态上建立一种联系性和统一性。系统概念在工业设计中

12、有两层含义：不再把设计对象看成是孤立的东西，而是把它放在相关系统中考虑；单个产品也被看作一个由多个单元组合而成的系统，并以此来实现产品在使用功能上的互换性、灵活性和无限的补充性。4） 智能设计方法。智能设计是采用人工智能技术完成设计任务的方法。依据对设计行为某一侧面的认知，智能设计方法主要有以下几种：a) 基于规则的方法。基于规则的智能设计方法是将设计过程中运用的产生式规则知识表示出来构成设计知识库，并通过对这些规则设计知识的推理和利用来完成设计16。b) 基于实例的方法。基于实例的智能设计方法源于人类设计者，能够通过借鉴以往的设计案例来完成新设计任务的行为。该方法通过建立描述“从设计要求到设

13、计解映射”的设计实例库，而在设计时根据新设计问题的设计要求从实例库中搜索最为接近的设计参考实例，并通过对选出的设计参考实例进行调整或组合而形成新设计问题的解17。c) 基于约束满足的方法。基于约束满足的智能设计方法，是把设计方案的形成过程视为一个设计约束不断得到满足的问题。该方法把各种设计要求和限制都转化为对设计变量或设计空间的约束，通过对设计空间的搜索或采用其它方法来寻求一个满足各种设计约束的设计解18。d) 基于形状文法的方法。形状文法由一组表达基本单元的词汇和定义单元合法配置的语法及相应的语义构成，设计任务即寻找由文法定义的空间（所有可能解）与语义空间（满足需求的解）的交集19。这种方法

14、需要前期对形态塑造规则（文法）的大量研究基础20。e) 基于神经网络的方法。人脑的生理基础是神经元及其互连关系。基于神经网络的智能设计方法，采用人工神经网络技术实现分布式设计知识的表示与推理，从而模拟人类在设计中的大脑思维活动。该方法具有自学能力并能够对人类在设计中运用常识知识、模糊知识及不完整知识的行为进行模拟21。f) 基于进化计算的方法。基于进化计算的方法是将设计问题模型化为生物进化过程。在遗传算法中，用编码代表基因，用繁殖、杂交和突变算子模拟进化过程。采用遗传算法的编码规则表示设计方案和设计知识，设计过程就可以转换为基因样本种群的进化过程。生物的进化机制从两个角度影响设计方法：一是生物

15、的进化是一个“优胜劣汰”的过程，由此指导设计的优化过程22；二是生物通过进化获得新的形态和功能，由此指导产品的形态生成23设计方法的发展历程有两个特征，l 一是设计方法的研究内容从创意思维引导转向了计算机辅助手段的实现。现代设计方法无一不是在计算机技术基础上展开的，CAD 方法几乎可以看作是现代设计方法的同义词。l 二是设计模式从面向单一产品转向面向产品族。面向产品族的设计模式使产品开发过程更加敏捷化，同时，其设计方法中的重用及组合特征，也更符合计算机的信息处理特征，从而使计算机能够在产品创新中发挥更大的作用。热力系统研究对象：锅炉、内燃机、推进器、工业热处理、换热器、空调热泵、电子器件散热、

16、环境系统，热力系统特点：传热传质，流体流动，湍流，非线性。严格的设计优化过程需借助CFD方法求解，问题复杂。2. 热力系统设计基础一、 热力系统设计过程根据需求，明确设计任务需求是什么？设计要达到的目标是什么？了解约束与限制条件。给出问题陈述，用专业术语明确表达设计任务： l 输入量l 输出量l 工作条件l 设计变量l 固定变量l 约束条件l 性能要求l 可行性和最优化标准l 产品测试方法综合综合性能要求、约束条件等各种信息，给出：l 概念设计（原则性设计）：含有创新性想法的设计草图l 初始设计：用框图表示的定义良好的组织结构分析对设计方案进行分析，判断是否达到可行性标准：l 建立模型l 工况

17、模拟l 可行性评估l 循环再设计（综合的过程）优化明确目标函数，在可行设计方案中寻求最优解。封装、样品测试、生产3. 热力系统建模为什么建立模型？为了便于对设计方案进行分析，判断其是否达到要求，是否满足可行性准则和最优化准则。模型必须经过验证。用模型进行模拟的结果必须符合物理实际。模型不是精确的，仅仅是个近似。模型都是在一定条件下适用的，脱离这个条件是不可用的。一、 数学模型建立模型的出发点是各种守恒定律。合理应用各种近似与假定，使模型尽量简单又不失真：l 稳态近似l 集总参数近似（零维近似）l 一维近似l 二维近似l 轴对称近似l 边界条件简化l 应用理想化模型l 常物性近似常用数学模型有代

18、数模型、常微分方程、偏微分方程，还有随机模型。二、 物理模型与相似理论用相似的实物系统模拟原系统。相似系统比之原系统大大节约时间和成本。把相似系统的研究结果应用到原系统，需满足相似准则。相似理论给出了相似准则的确定方法。相似的概念几何相似 -一个物体经过均匀变形后和另一个物体完全重合称为两个物体几何相似。 运动相似 -两个几何相似的物体运动时，对应点的运动路径几何相似，并且对应点经过对应路径的时间之比是常数，称为两个物体运动相似。动力相似-两个几何相似和运动相似的物体，对应点受力成比例，称为两个物体动力相似 。热相似-两个几何相似和运动相似的物体，对应点温度成比例。相似理论相似第一定律-“彼此

19、相似的现象，它们的同名相似准则（无量纲参数）必相等。” 相似第二定律-“相似的现象中由相似准则所描述的函数关系对两个现象是相同的。” 相似第三定律-“凡是单值条件相似，由单值量所组成的相似准则相等的同类现象必定彼此相似。相似准则数的确定方法（1）相似变换法从已知的基本方程出发求相似参数例： 假设在烘箱内做6kg烤牛肉需要3小时，问在相同的烘箱内做30kg烤牛肉需要多少小时？解：这是一个热传导问题。导热方程：定义无量纲参数：将方程无量纲化：得相似准则数：6kg的烤牛肉和30kg烤牛肉这两个热传导问题是相似的，由相似第一定律知它们的相似准则数相等：其中，所以（2）量纲分析法定理例： 假设在烘箱内做

20、6kg烤牛肉需要3小时，问在相同的烘箱内做30kg烤牛肉需要多少小时？解：写出决定现象的物理量和量纲（SI制）写出量纲矩阵确定重复变量并检查子行列式（线性无关）求相似参数给出方程：解得相似准则数为：（3）选定物理法则法从支配现象的物理法则出发求相似参数例： 假设在烘箱内做6kg烤牛肉需要3小时，问在相同的烘箱内做30kg烤牛肉需要多少小时？解：（1）写出支配现象的物理法则。支配该现象的物理法则是传热和蓄热（2）求出相似参数与热力系统有关的相似参数f是固体的固有频率。如果固体放在流体中。f 是卡门涡街频率，V是流体速度。4. 数值模型与模拟对模型的求解过程称为模拟。势力系统的数学模型复杂，很难解

21、析求解，只能借助计算机。把数学模型程序化为计算机语言称为数值模型。数值模型的求解过程称为数值模拟。模拟的目的：对设计方案的模型进行分析求解，给出设计方案的输出结果，与可行性准则或最优性准则比较，判断其是否可行或达到最优。不同的模型有不同的求解方法l 如果一个热力系统可以近似为一个稳态系统，并且可以采用集总参数近似（不考虑系统内部参数的空间变化），则其数学模型是代数方程，可能采用的求解方法有Gauss消元、Gauss-Seidel迭代、牛顿迭代；l 如果是一个非稳态系统，采用集总参数近似，则其数学模型是常微分方程，可以采用的模拟方法有龙格-库塔法、隐式Euler方法l 如果是一个非稳态系统，可以

22、采用空间一维近似，则其数学模型是偏微分方程，可以采用的模拟方法有有限差分、 有限元有限体积热力系统中存在传热传质，流体流动，数学模型为偏微分形式的流体力学方程和传热传质方程，严格的设计优化过程需借助CFD方法求解。5. 设计方案可行性评估6. 工程优化概述优化问题的数学建模与模型：数学建模用数学语言明确表达：l 目标函数，l 最优化准则，l 设计变量（或称为决策变量），l 约束条件模型仅是个近似，要尽量简单又足够精确地描述实物系统。模型的正确性需通过系统的方法进行检验优化问题数学模型其中称为决策变量，对于设计问题又称为设计变量。为目标函数，M=1为单目标优化，M>1为多目标优化。为J个等

23、式约束。为K个不等式约束。敏感度分析确定各种参数对系统的影响效果大小找到决定目标（系统性能、成本等）实现的关键变量。例：约束优化算法中构造Lagrange函数Lagrange乘子即为最优函数值对约束条件的敏感度： 优化问题分类分类标准类型目标函数个数单目标优化多目标优化约束类型等式约束优化不等式约束优化混合优化目标函数及约束函数的线性性质线性优化，如线性规划问题非线性优化，如二次规划问题决策变量（设计变量）的形式离散优化，如整数规划连续优化优化算法分类确定性方法确定性方法：分类标准算法有无约束无约束优化：是否需要计算函数梯度直接算法单变量的区域排除法黄金分割法Fibonacci法多变量单纯形法

24、模式搜索Powell共轭方向法基于梯度的算法仅需一阶导数Cauchy方法共轭梯度法，如FR方法准牛顿法，如BFGS方法，DFP方法需二阶导数：牛顿法约束优化转换为无约束优化Lagrange乘子法惩罚函数法线性化方法逐次线性近似分段线性近似二次多项式近似直接搜索：复合形方法具体问题类型线性规划单纯形方法内点法整数规划分支定界法，割平面法二次规划 互补主元法 (complementary pivot method)几何规划动态规划目标规划随机方法随机方法分类标准类型是否有严格理论基础随机搜索直接取样搜索自适应步长随机搜索启发式与元启发式算法：基于直观或经验构造遗传算法模拟退火粒子群算法禁忌搜索神经

25、网络启发式算法：基于直观或经验构造的算法，一般需借助随机的方法实现优化过程。它在可接受的计算费用内去寻找最好的解，但不一定能保证所得解的可行性和最优性，甚至大多数情况下，无法阐述所得解同最优解的近似程度。元启发式算法：启发式算法的改进，随机方法与局部搜索算法相结合。优化软件Excel：可以求解各种类型的小型优化问题LINDO/LINGO：线性规划：单纯形算法， 内点算法(可选）；二次规划非线性规划：逐次线性规划法(SLP) ，广义既约梯度法(GRG) (可选） ，多点搜索(Multistart) (可选）。MATLABMINOSHarwell LibrarySPEAKEASY.7. 无约束优化

26、算法函数的性质凸函数凸函数是一个定义在某个区间C上的实值函数f，如果在其定义域C上的任意两点x,y，以及，有也就是说，一个函数是凸的当且仅当其上境图（在函数图像上方的点集）为一个凸集注：这个概念比较混淆的，有些人把凸函数（convex）说成凹函数（concave）单峰函数一、 单变量优化单变量寻优化是多变量优化的基础，一维搜索（线性搜索）是大多数多变量优化算法的组成甚至是核心部分。最优化准则（1）目标函数对设计变量的一阶导数为0：（2）设第一个不为0的高阶导数为：，若n为奇数，则x*为鞍点若n为偶数，则x*是一个极值点，该导数大于0为极小值点，小于0为极大值点区域排除法（分割法）直接搜索区域排

27、除法原理：设函数 f (x) 在闭区间 a, b 上是单峰函数, 即在 (a, b) 内 f (x) 由唯一的极小点x*, 在x* 的左边 f (x) 严格单调下降, 在x* 的右边f (x)严格单调上升. 那么对于(a, b)内任意两点x1x2, 如果 f (x2) f (x1 ), 则区域a, x1可以排除，x*x1, b；否则区域x2, b可以排除，x*a, x2.图 71区域排除法原理区域排除算法：1) 界定单峰区间，即找到这样一个区间，目标函数在这个区间上是单峰的。2) 区间分割。根据分割的方法不同，有a) 半分法（中点法）b) 黄金分割法c) Fibonacci搜索区域排除法特点：

28、l 只计算函数值，不求导数l 适用于连续、不连续、离散等各种函数形式区间界定方法按如下公式取点：逐点比较，直到找到一点满足则目标函数在上是单峰的。黄金分割法（0.618法)在黄金分割过程中，图 71中的分割点按如下方式确定：具有性质： 例：解：（1）初始区间及其长度为(0,1), L1=1，初始两点为：， 。因为，所以被排除。（2）上一步排除后，剩下的区间及其长度为，取下一点，由于所以区间被排除掉。（3）上一步排除后，剩下的区间及其长度为，取下一点，由于所以区间被排除掉剩下区间为（0.236, 0.472）01X2X3X1X4(1)(2)(3)多项式近似方法(插值法)基于Weierstrass

29、定理：任意连续函数都可以用多项式以任意精度近似。使用条件：目标函数单峰、连续算法：1) 界定区间，确保目标函数在区间上是单峰的。2) 在区间上以一定的规则取点，构造多项式来近似目标函数3) 对多项式进行优化，可得多项式优化的精确解，作为原函数的近似解。4) 收敛性判断。不收敛则回到2），利用3）得到的新点构造新的多项式，继续求解算法效率比区域排除法高，但要求函数连续。基于梯度的方法效率更高，但要求目标函数不仅单峰、连续，而且可微。初始点与最优点相距较远时，容易导致发散。算法：令目标函数一阶导数为0，将优化问题化为代数方程的求解。有牛顿法，弦截法，半分法等。解的收敛性判断什么时候可以终止计算？当

30、找到最优点时，目标函数一阶导数为0，即在的一个小邻域内应有和是人为设定的一个收敛标准，其值越小结果越准确。所以，可以用以下两个不等式作为收敛性判据。分别代表当前点和前一点的坐标和函数值。单变量优化算法总结区域排除法：稳定可靠，适用面广，但效率低多项式近似及基于梯度的方法：效率高，但对目标函数要求较高：连续、可微、没有奇异性折衷算法：逐次二阶多项式搜索与黄金分割搜索结合使用二、 多变量优化局部最优化准则（1）（2）为正定矩阵对于多变量问题，很难界定函数的单峰区间，优化算法只能得到局部最优值，然后在多个局部最优之中选择全局最优。直接搜索方法单纯形方法模式搜索法Powell共轭方向法单纯形方法基本思

31、想：从直观上看，如果算出在若干个点处的函数值，然后将它们进行比较，从它们之间的大小关系就可以看出函数变化的大致趋势，这样就能为寻求函数的下降方向提供参考。算法结构：对于一般的n元函数 (x为n维向量)，可取n维空间中n+1个点，构成初始单纯形。这n+1个点，应使n个向量， ， ，为线性独立。这就是说，在平面上(n=2 )取不同一直线的三点构成单纯形(三角形)，在三维空间(n=3)内取不同的四个点(4面体)。如果点取得少，或n个向量有一部分线性相关，那么就会使搜索极小点的范围局限在一个低维空间内，如果极小点不在这个空间内，就搜索不到了。图 72二维单纯形搜索把单纯形的的所有顶点函数值进行比较，选

32、出“最差”点，对它进行反演（如图图 72）：得新点，反演中心为除“最差”点外所有其它点的中心：然后“最差”点被抛弃，剩下的点继续这一过程。对组成单纯形的(n1)个点，可以定义： 为最坏点(即目标函数 最大的点) 为最好点(即最小的点)； 为次坏点(即比小，但比其他各点的目标函数都大)。如果新的点x的函数值小于，这说明点可能前进得不够，此时可以沿反演方向再多前进一些(称为扩张)，即.反之，若 小于，而大于 ，这说明x点前进得太远了，需要压缩，即要在反射方向后退一些: 若 大于，这说明单纯形严重扭曲了，需要进一步压缩，即要在反射方向再后退一些: 若则说明搜索成功，此时可以认为即为极小点，而为极小值

33、图 73单纯形的扩张与收缩Powell共轭方向法共轭方向法基于二次多项式优化。利用二次多项式进行近似的优点：l 二次多项式是最简单的非线性函数l 任何非线性函数在最优点附近都可由二次多项式逼近（一次项在最优点为0，因为一阶导数为0）二次多项式优化的特点：如果含有N个变量的二次函数是完全平方和的形式（没有交叉项），则得到它的最优解只需N步一维（单变量）搜索，即逐一地沿着每个坐标方向搜索（搜索时其它方向的坐标保持不动）。如果二次函数不是完全平方和的形式，则沿着N个共轭方向逐一地进行一维搜索，得最优解。共轭方向的概念不是完全平方和形式的二次函数可以通过坐标变换化为完全平方和的形式。坐标变换的过程即是

34、共轭方向生成的过程。考虑下面的一般形式的二次多项式：设如下的坐标变换可以将其化为完全平方和的形式，即将矩阵C化为对角阵D，则变换矩阵T的各列向量即构成共轭方向，它们之间相互共轭。共轭方向的定义：如果N维向量构成的矩阵能够把矩阵C对角化，即间满足如下关系：则称向量是关于C共轭的，是关于C的共轭方向。共轭方向的生成共轭方向的生成可以直接生成（只利用目标函数值），也可以利用目标函数的梯度（即共轭梯度法）。共轭方向的直接生成：以二维为例: 从点出发，沿x1坐标方向一维搜索得；在点沿x2坐标方向一维搜索得；再在点沿x1坐标方向一维搜索得。则与x1坐标方向互相共轭。图 74二维共轭方向的生成Powell共

35、轭方向算法：1、选定初始点，下降方向和收敛精度，k=0。2、沿方向进行一维搜索，得3、判断是否满足，若满足则计算结束，否则转4。4、提供新的共轭方向 5、置，转2。基于梯度的算法可用一个通式表达这类算法的基本思想： 即：首先利用当前点确定搜索方向；然后在这个搜索方向上进行一维搜索（又称线性搜索，独立变量为），给出步长；然后更新到下一点。搜索方向问题是优化的关键，各种基于梯度算法的区别在于如何确定搜索方向。Cauchy方法Newton方法共轭梯度法，其中准牛顿法，其中A（k）为对Hessian矩阵的近似Cauchy方法（最速下降法）Cauchy方法基于这样的想法：搜索方向应该是朝着目标函数值减小

36、的方向，即梯度的负方向，所以结合式和一维搜索：可得Cauchy算法为： 给定初始点，允许误差,令k=0； 计算； 检验是否满足收敛性的判别准则： ， 若满足，则停止迭代，得点，否则进行； 令，从出发，沿进行一维搜索， 即求使得： ； 令，k=k+1返回.例：应用Cauchy方法求函数的最小值和最小值点坐标，初始点为。答： 在方向进行一维搜索：解出，因此牛顿法牛顿法实质上也是二次近似方法。把目标函数进行Taylor展开，只取到二阶项，得二次函数：令该二次函数的一阶导数为0：得该二次函数的最优解为：牛顿方法把这个二次函数的解作为原问题的近似，进行迭代求解。其算法为它相当于在式中令，。牛顿法的收敛速

37、度虽然较快，但要求Hessian矩阵要可逆，要计算二阶导数和逆矩阵，就加大了计算机计算量和存储量例：求函数的最小值解：，初始点选（5，5），在此点目标函数一阶导数为0，即为最优解。因为目标函数是二次函数，而牛顿法是对目标函数的二次近似方法，对二次函数是精度的。附：二阶矩阵求逆：共轭梯度法搜索方向为共轭方向，利用“则沿着N个共轭方向逐一地进行一维搜索，即得二次函数最优解”这一性质。利用目标函数梯度构造共轭方向的方法为（FletcherReeves（FR）方法）：其中结合式和一维搜索：即为完整的共轭梯度算法。准牛顿方法（拟牛顿方法） 为克服牛顿法的缺点(计算Hessian矩阵)，同时保持较快收敛速度的优点，利用第k步和第k+1步得到的，构造一个正定矩阵近似代替,或用近似代替，将牛顿方法改为：=-，=-从而得到下降方向. 通常采用迭代法计算，常用的有BFGS和DFP方法:BFGS（Boryden-Fletcher-Goldfarb-Shanno）公式DFP（Davidon-Fletcher-Powell）公式： 计算时可置（单位阵），对于给出的利用上面的公式进行递推.几种方法的比较Cauchy方法稳定，不容易发散，但收敛慢Newton方法收敛很快，但初始点离最优点比较远时容易发散，二阶导数计算量很大共轭梯度法，如