算法设计与分析动态规划实例讲解PPT学习教案

1、会计学1算法设计与分析动态规划实例讲解算法设计与分析动态规划实例讲解 动态规划是用来解决多阶段决策过程最优化的一种数量方法。其特点在于，它可以把一个n 维决策问题变换为几个一维最优化问题，从而一个一个地去解决。 需指出：动态规划是求解某类问题的一种方法，是考察问题的一种途径，而不是一种算法。必须对具体问题进行具体分析，运用动态规划的原理和方法，建立相应的模型，然后再用动态规划方法去求解。第1页/共82页即在系统发展的不同时刻（或阶段）根据系统所处的状态，不断地做出决策；每个阶段都要进行决策,目的是使整个过程的决策 达到最优效果。动态决策问题的特点：系统所处的状态和时刻是进行决策的重要因素；找到

2、不同时刻的最优决策以及整个过程的最优策略。多阶段决策问题：在多阶段决策过程中,系统的动态过程可以按照时间进程分为状态相互联系而又相互区别的各个阶段；第2页/共82页多阶段决策问题的典型例子： 1 . 生产决策问题：企业在生产过程中，由于需求是随时间变化的，因此企业为了获得全年的最佳生产效益，就要在整个生产过程中逐月或逐季度地根据库存和需求决定生产计划。 2. 机器负荷分配问题：某种机器可以在高低两种不同的负荷下进行生产。在高负荷下进行生产时，产品的年产量g和投入生产的机器数量u1的关系为g=g(u1)12n状态决策状态决策状态状态决策第3页/共82页 这时，机器的年完好率为a，即如果年初完好机

3、器的数量为u，到年终完好的机器就为au, 0a1。 在低负荷下生产时，产品的年产量h和投入生产的机器数量u2的关系为 h=h(u2) 假定开始生产时完好的机器数量为s1。要求制定一个五年计划，在每年开始时，决定如何重新分配完好的机器在两种不同的负荷下生产的数量，使在五年内产品的总产量达到最高。 相应的机器年完好率b, 0 b1。 第4页/共82页 3. 航天飞机飞行控制问题：由于航天飞机的运动的环境是不断变化的，因此就要根据航天飞机飞行在不同环境中的情况，不断地决定航天飞机的飞行方向和速度（状态），使之能最省燃料和实现目的（如软着落问题）。 4 .不包含时间因素的线性规划、非线性规划等静态决策

4、问题（本质上是一次决策问题）也可以适当地引入阶段的概念，作为多阶段的决策问题用动态规划方法来解决。 第5页/共82页 5 . 最短路问题：给定一个交通网络图如下，其中两点之间的数字表示距离（或花费），试求从A点到G点的最短距离（总费用最小）。123456AB1B2C1C2C3C4D1D2D3E1E2E3F1F2G531368763685338422213335256643第6页/共82页 （一）、基本概念 1、阶段： 把一个问题的过程，恰当地分为若干个相互联系的阶段，以便于按一定的次序去求解。 描述阶段的变量称为阶段变量（k)。k=1,2 ,3, ，n阶段的划分，一般是根据时间和空间的自然特征

5、来进行的，但要便于问题转化为多阶段决策。2、状态：表示每个阶段开始所处的自然状况或客观条件。通常一个阶段有若干个状态，描述过程状态的变量称为状态变量sk (表示第k阶段的状态变量 )。年、月、路段一个数、一组数、一个向量 状态变量的取值有一定的允许集合或范围，此集合称为状态允许集合S K =s1,s2, , s k ,。第7页/共82页 3、决策：表示当过程处于某一阶段的某个状态时，可以作出不同的决定，从而确定下一阶段的状态，这种决定称为决策。 描述决策的变量，称为决策变量。 常用uk（sk）表示第k阶段当状态为sk时的决策变量。 决策变量是状态变量的函数。可用一个数、一组数或一向量（多维情形

6、）来描述。 在实际问题中决策变量的取值往往在某一范围之内，此范围称为允许决策集合。 常用Dk（sk）表示第k阶段从状态sk出发的允许决策集合，显然uk（sk）Dk（sk）。 第8页/共82页 4、多阶段决策过程 可以在各个阶段进行决策，去控制过程发展的多段过程；其发展是通过一系列的状态转移来实现的； 系统在某一阶段的状态转移不但与系统的当前的状态和决策有关，而且还与系统过去的历史状态和决策有关。第9页/共82页),(),(),(221112211231112kkkkusususTsususTsusTs 图示如下：状态转移方程是确定过程由一个状态到另一个状态的演变过程。如果第k阶段状态变量sk的

7、值、该阶段的决策变量一经确定，第k+1阶段状态变量sk+1的值也就确定。其状态转移方程如下（一般形式）12ks1u1s2u2s3skuksk+1 能用动态规划方法求解的多阶段决策过程是一类特殊的多阶段决策过程，即具有无后效性的多阶段决策过程。第10页/共82页 如果状态变量不能满足无后效性的要求，应适当地改变状态的定义或规定方法。),(),(),(122231112kkkkusTsusTsusTs 动态规划中能处理的状态转移方程的形式。 状态具有无后效性的多阶段决策过程的状态转移方程如下无后效性(马尔可夫性) 如果某阶段状态给定后，则在这个阶段以后过程的发展不受这个阶段以前各段状态的影响； 过

8、程的过去历史只能通过当前的状态去影响它未来的发展； 构造动态规划模型时，要充分注意是否满足无后效性的要求；状态变量要满足无后效性的要求；第11页/共82页 5、策略：相互连接的决策序列称为一个策略。 从第k阶段开始到第n阶段结束称为一个子策略。 Pk,n , 全策略 P1,n . 所有策略当中有最优值的策略称为最优策略。 6、状态转移方程：是确定过程由一个状态到另一个状态的演变过程，描述了状态转移规律。第12页/共82页 7、指标函数和最优值函数：用来衡量所实现过程优劣的一种数量指标，为指标函数。 阶段指标函数： Vk (sk ,uk ) 表示第 k 阶段位于sk 状态、决策为 uk 的指标值

9、。 策略指标函数：各决策序列指标值之和。（个别情况为乘积）指标函数的最优值，称为最优值函数。在不同的问题中，指标函数的含义是不同的，它可能是距离、利润、成本、产量或资源消耗等。 动态规划模型的指标函数，应具有可分离性，并满足递推关系。第13页/共82页小结:),()(1,susVoptsfnkknkkkuunk),(,111,1nkknkkkksusVus方程 :状态转移方程),(1kkkkusTs概念 : 阶段变量k状态变量sk决策变量uk;指标: ),(111,nkkkknknksususVV动态规划本质上是多阶段决策过程; 效益指标函数形式: 和、积无后效性),(111,nkkkknks

10、ususV可递推第14页/共82页,*2*1nuuu,*2*1nsss解多阶段决策过程问题，求出 最优策略，即最优决策序列 susvoptsfnkknkkkuunk1, f1(s1) 最优轨线，即执行最优策略时的状态序列 最优目标函数值),(*1*1*,1*,1nnnnususVV从 k 到终点最优策略子策略的最优目标函数值第15页/共82页 1、动态规划方法的关键在于正确地写出基本的递推关系式和恰当的边界条件（简称基本方程）。要做到这一点，就必须将问题的过程分成几个相互联系的阶段，恰当的选取状态变量和决策变量及定义最优值函数，从而把一个大问题转化成一组同类型的子问题，然后逐个求解。即从边界条

11、件开始，逐段递推寻优，在每一个子问题的求解中，均利用了它前面的子问题的最优化结果，依次进行，最后一个子问题所得的最优解，就是整个问题的最优解。第16页/共82页 2、在多阶段决策过程中，动态规划方法是既把当前一段和未来一段分开，又把当前效益和未来效益结合起来考虑的一种最优化方法。因此，每段决策的选取是从全局来考虑的，与该段的最优选择答案一般是不同的. 最优化原理：作为整个过程的最优策略具有这样的性质：无论过去的状态和决策如何，相对于前面的决策所形成的状态而言，余下的决策序列必然构成最优子策略。”也就是说，一个最优策略的子策略也是最优的。 3、在求整个问题的最优策略时，由于初始状态是已知的，而每

12、段的决策都是该段状态的函数，故最优策略所经过的各段状态便可逐段变换得到，从而确定了最优路线。第17页/共82页（三）、建立动态规划模型的步骤 1、划分阶段k划分阶段是运用动态规划求解多阶段决策问题的第一步，在确定多阶段特性后，按时间或空间先后顺序，将过程划分为若干相互联系的阶段。对于静态问题要人为地赋予“时间”概念，以便划分阶段。 2、正确选择状态变量sk选择变量既要能确切描述过程演变又要满足无后效性，而且各阶段状态变量的取值能够确定。一般地，状态变量的选择是从过程演变的特点中寻找。 3、确定决策变量uk(sk)及允许决策集合Dk(sk)通常选择所求解问题的关键变量作为决策变量，同时要给出决策

13、变量的取值范围，即确定允许决策集合。第18页/共82页 4、确定状态转移方程根据k 阶段状态变量和决策变量，写出k+1阶段状态变量，状态转移方程应当具有递推关系。 sk+1 =Tk (sk ,uk ) Tk 函数关系 5、确定阶段指标函数和最优指标函数，建立动态规划基本方程 阶段指标函数是指第k 阶段的收益，最优指标函数是指从第k 阶段状态出发到第n 阶段末所获得收益的最优值，最后写出动态规划基本方程。f k (sk ) = Opt Vk (sk ,uk ) + f k+1 (s k+1) fn+1 (s n+1 ) = 0 Opt 最优化（max,min）第19页/共82页 以上五步是建立动

14、态规划数学模型的一般步骤。由于动态规划模型与线性规划模型不同，动态规划模型没有统一的模式，建模时必须根据具体问题具体分析，只有通过不断实践总结，才能较好掌握建模方法与技巧。 f1(s1) 是整个问题的最优策略，最优值。 f k(sk) 表示从第k阶段（状态sk）到终点的最优指标值。（距离、利润、成本等） 第20页/共82页例一、从A 地到D 地要铺设一条煤气管道,其中需经过两级中间站，两点之间的连线上的数字表示距离，如图所示。问应该选择什么路线，使总距离最短？ AB1B2C1C2C3D24333321114第21页/共82页 解：整个计算过程分三个阶段，从最后一个阶段开始。 第三阶段（C D）

15、： C 有三条路线到终点D 。 AB1B2C1C2C3D24333321114DC1C2C3显然有 f3 (C1 ) = 1 ； f3(C2 ) = 3 ； f3 (C3 ) = 4 第22页/共82页 d( B1,C1 ) + f3 (C1 ) 3+1 f2 ( B1 ) = min d( B1,C2 ) + f3 (C2 ) = min 3+3 d( B1,C3 ) + f3 (C3 ) 1+4 4 = min 6 = 4 5第二阶段（B C）： B 到C 有六条路线。AB1B2C1C2C3D24333321114DC1C2C3B1B2(最短路线为B1C1 D)第23页/共82页 d( B

16、2,C1 ) + f3 (C1 ) 2+1 f2 ( B2 ) = min d( B2,C2 ) + f3 (C2 ) = min 3+3 d( B2,C3 ) + f3 (C3 ) 1+4 3 = min 6 = 3 5AB1B2C1C2C3D24333321114DC1C2C3B1B2(最短路线为B2C1 D)第24页/共82页第一阶段（ A B ）： A 到B 有二条路线。 f1(A)1 = d(A, B1 ) f2 ( B1 ) 246 f1 (A)2 = d(A, B2 ) f2 ( B2 ) 437 f1 (A) = min = min6,7=6d(A, B1 ) f2 ( B1

17、)d(A, B2 ) f2 ( B2 )(最短路线为AB1C1 D)AB1B2C1C2C3D24333321114DC1C2C3B1B2A第25页/共82页AB1B2C1C2C3D24333321114DC1C2C3B1B2A最短路线为 AB1C1 D 路长为 6第26页/共82页3,2, 1 0 max3213221ixcxxxxxxzi第27页/共82页取问题中的变量取问题中的变量x x1 1，x x2 2，x x3 3为为决策变量决策变量3,2,1 0 max3213221ixcxxxxxxzi第28页/共82页1)(1 , , 2 , 3 )()(max)(4411)(sfksfxvs

18、fkkkksDxkkkkk第29页/共82页334433)(33)(max)()(max)(33333sxsfxvsfsxsDx)(max)(max)()(max)(2222032203322)(222222222xsxsxsfxvsfsxsxsDx第30页/共82页032222222xsxdxdh2232sx22222262xsdxhd02322222222ssxdxhd2232sx 32222222274)32()32()(sssssf2*232sx 第31页/共82页所以所以是极大值点。是极大值点。)(274max)274(max)()(max)(3111032102211)(11111

19、1111xsxsxsfxvsfsxsxsDx3111111)(274),(xsxxsh0)1()(2712)(274211131111xsxxsdxdh1141sx)2)(2724)(2724)(2712) 1()(271211111112112112112sxxsxsxxsxsdxhd02794121112112ssxdxhd1141sx 第32页/共82页所以最优解为：所以最优解为：41311111641)41(27441)(sssssf1*141sx)641(max)(max41011011ssfcscs411641)(csfcsx41411*1411641)(csfcxss43*112

20、csx21322*233222161274)(cssfcxss41*223csx413*3cssf41)(3334*3*2*1641,41,21,41czcxcxcx第33页/共82页njxaxxxxgxgxgzjnnn, 2 , 1 0 )()()( max2122110)(1 , 1, )()(max)(1111)(nnkkkksDxkksfnnksfxgsfkkk第34页/共82页a0)(1 , 1, )()(max)(111,2 , 1 , 0nnkkkqpkksfnnkpsfpgsf第35页/共82页3 , 2 , 1 06 max32133221jxxxxxxxzj62 6 , 5

21、 , 4 , 3 , 2 , 1 , 01sksk第36页/共82页33表格形式给出，见表表格形式给出，见表7-17-1所示。所示。1)(1 , 2 , 3 )()(max)(44110sfksfxgsfkkkksxkkkk333333)(max)(33sxsfsx第37页/共82页第38页/共82页)(max)(max)(223203320222222xsfxsfxsfsxsx第39页/共82页)(max)(max)(11221022210111111xsfxsfxsfsxsx第40页/共82页资源分配问题就是将一定数量的一种或若干种资源（原材料、资金、设备等）合理分配给若干使用者，使得资源

22、分配后总结果最优。一种资源的分配问题称为一维资源分配问题，两种资源的分配问题称为二维资源分配问题。 第41页/共82页nixaxxxxgxgxgzinnn, 2 , 1 0 )()()( max212211第42页/共82页0)(1 , )()(max)(11110nnkkkksxkksfnksfxgsfkk第43页/共82页第44页/共82页0)(1 , 2 , 3 )()(max)(4410sfkxsfxgsfkkkkksxkkkk第45页/共82页)(max)(333333xgsfsx 第46页/共82页)()(max)(2232202222xsfxgsfsx第47页/共82页)()(m

23、ax)(1121101111xsfxgsfsx)4()(max)(121140111xfxgsfx第48页/共82页)(109321kkkkxsxs第49页/共82页0)(1 , 2 , 3 , 4 )(),(max)(55110sfksfxsvsfkkkkksxkkkk444044404410)73 (max)( 710max)(4444ssxxsxsfsxsx333033333304333044333033350 )1632(max )(1093210)(710max 10)(710max )()(710max)(33333333ssxxsxxsxsxsxsfxsxsfsxsxsxsx第5

24、0页/共82页22202222220322203322202222 )9822(max )(10932350)(710max 350)(710max )()(710max)(22222222sxsxsxxsxsxsxsfxsxsfsxsxsxsx1110111111021110221110115134 )15325134(max )(1093222)(710max 22)(710max )()(710max)(11111111sxsxsxxsxsxsxsfxsxsfsxsxsxsx第51页/共82页90)(10932*11*12xsxs81)(10932*22*23xsxs54)(10932*

25、33*34xsxs第52页/共82页第53页/共82页第54页/共82页4jkj kds4jkj kds4jkj kds第55页/共82页0.5 0( ,)30.5 1,2,3,4,5,6kkkkkkkksxr s xxsx11( )55( )m in ( , )() 4,3,2,1( ) 0kkkkkkkkkkx D sf sr s xfskf s第56页/共82页第57页/共82页4444444444455()444()()min (,)() min (,)xDsxDsfsr sxf sr sx第58页/共82页3333333333344()333433()()min (,)() min

26、(,)(2)xDsxDsfsr sxfsr sxfsx第59页/共82页2222222222233()222322()()min (,)() min (,)(3)xDsxDsfsrsxfsrsxfsx第60页/共82页1111111111122()111211()()min (,)() min (,)(2)xDsxDsfsr sxfsr sxfsx第61页/共82页【例7-9】 （库存销售问题） 设某公司计划在1至4月份从事某种商品经营。已知仓库最多可存储600件这种商品，已知1月初存货200件，根据预测知1至4月份各月的单位购货成本及销售价格如表7-13所示，每月只能销售本月初的库存，当月进

27、货供以后各月销售，问如何安排进货量和销售量，使该公司四个月获得利润最大（假设四月底库存为零）。表7-13 第62页/共82页解 按月份划分阶段，k=1，2，3，4；状态变量sk表示第k月初的库存量，s1=200，s5=0；决策变量 xk表示第k月售出的货物数量，yk表示第k月购进的货物数量；状态转移方程：sk+1=sk+ykxk；允许决策集合：0 xksk，0yk600（skxk）；阶段指标函数为：pkxkckyk表示k月份的利润，其中pk为第k月份的单位销售价格，ck为第k月份的单位购货成本；最优指标函数fk（sk）表示第k月初库存为sk时从第k月至第4月末的最大利润，则动态规划基本方程为：

28、 0)(1 , 2 , 3 , 4 )(max)(5511)(60000sfksfycxpsfkkkkkkxsysxkkkkkkk第63页/共82页k=4时，x4*=s4y4*=0k=3时， 444)(600004444)4244(max)(44444syxsfxsysx)4544(max )(444039max )(4039max)(333)(6000033333)(600004433)(6000033333333333333333yxsxysyxsfyxsfxsysxxsysxxsysx为求出使44s35x3+4y3最大的x3，y3，须求解线性规划问题： 0,600 4544 max333

29、3333333yxsyxsxyxsz第64页/共82页只有两个变量x3，y3，可用图解法也可用单纯形法求解，图解法求解示意图如图7-5所示：在A点处取得最优解，x3*=0，y3*=600s3，f3（s3）=40s3+2400 0,600 4544 max3333333333yxsyxsxyxszAs36 00y3x30600s3图7-5 第65页/共82页k=2时，类似地求得：x2*=s2，y2*=600，f2（s2）=42s2+3600k=1时，类似地求得：x1*=s1，y1*=600， f1（s1）=45s1+4800=13800 )24002240(max 2400)(403842max

30、 )(3842max)(222)(6000022222)(600003322)(6000022222222222222222yxsxysyxsfyxsfxsysxxsysxxsysx)36002342(max 3600)(424045max )(4045max)(111)(6000011111)(600002211)(6000011111111111111111yxsxysyxsfyxsfxsysxxsysxxsysx第66页/共82页逆向追踪得各月最优购货量及销售量：x1*=s1=200y1*=600；x2*=s2=s1+ y1*x1*=600y2*=600；x3*=0y3*=600s3=6

31、00（s2+ y2*x2*）=0 x4*=s4=（s3+ y3*x3*）=600y4*=0即1月份销售200件，进货600件，2月份销售600件，进货600件，3月份销售量及进货量均为0，4月份销售600件，不进货，可获得最大总利润13800。 第67页/共82页有人携带背包上山，其可携带物品的重量限度为a公斤，现有n种物品可供选择，设第i种物品的单件重量为ai公斤，其在上山过程中的价值是携带数量xi的函数ci（xi），问应如何安排携带各种物品的数量，使总价值最大。这就是背包问题，类似的货物装载问题，下料问题都等同于背包问题。背包问题的数学模型为：), 2 , 1(0 )()()( max22

32、112211nixaxaxaxaxcxcxczinnnn且为整数第68页/共82页下面用动态规划方法求解：按照装入物品的种类划分阶段，k=1，2，n；状态变量sk表示装入第k种至第n种物品的总重量；决策变量xk表示装入第k种物品的件数；状态转移方程为：sk+1=skakxk允许决策集合为：其中表示不超过的最大整数； 为整数kkkkkkkxasxxsD,0)(kkaskkas阶段指标函数ck（xk）表示第k阶段装入第k种商品xk件时的价值；最优指标函数fk（sk）表示第k阶段装入物品总重量为sk时的最大价值，动态规划基本方程为：0)(1 , 1, )()(max)(1111 , 1 , 0nnk

33、kkkasxkksfnnksfxcsfkkk第69页/共82页【例7-10】 某工厂生产三种产品，各产品重量与利润关系如表7-14所示，现将此三种产品运往市场销售，运输能力总重量不超过6吨，问如何安排运输使总利润最大？表7-14种类123单位重量（吨）234单位利润（元）80130180解 设xi为装载第i种货物的件数，i=1，2，3，该问题数学模型为：) 3 , 2 , 1(06432 18013080 max321321ixxxxxxxzi且为整数第70页/共82页按前述方法建立动态规划模型；k=3时，计算结果如表7-15所示。)180(max)(34 , 1 ,03333xsfsx第71

34、页/共82页k=2时，计算结果如表7-16所示。表7-16)3(130max )(130max)(22323 , 1 , 03323 , 1 , 0222222xsfxsfxsfsxsx第72页/共82页k=1时，计算结果如表7-17所示。表7-17)2(80max )(80max)(11213 , 2, 1 , 02213 , 2, 1 , 01111xsfxsfxsfxx反向追踪得最优方案：x1*=0，x2*=2，x3*=0； 最优方案：x1*=1，x2*=0，x3*=1；最大总利润为260元。 第73页/共82页第74页/共82页设第i（i=1，2，n）个部件上装有ui个备用元件，正常工作的概率为pi（ui），则整个系统正常工作的可靠性为，装第i个部件的费用为ci，重量为wi，要求总费用不超过c，总重量不超过w，则静态规划数学模型为：niiiupP1)(niuwuw