拟合隐函数曲线的GNL法

1、| 维普资讯 h ttp:/拟合隐函数曲线的GNL法02?/t南京交通离等专科学校、南京210032)AN ALGORITHM NAMED GNL FOR FITTINGTHE CURVE OF IMPLICIT FUNCTIONZhu MinrenCNanjing Colkge of CommunicationsAbstract In this paper an algorithm rmmtd GNL Ls sugge&teJ to fir the curve of implicit function in the meaning of least square It is glob

2、al-convergent while rhe pm rameters of fitting curve can be linearized at all and it can rtaK the rerpirements to lhe initial parameter values while Lhe paraineiers of fitting cvirve zu be lintarizt-Lt parrially-Key words The curve of implicit function * GJNL method * linearized parkinetei*« in

3、i- liai values.subject classifications 65NO5,申團法分类号0241,人1参数可践性化的曲线拟合问题假设我们已经荻得科组独立观测值f町其中xGXC/i1是精确观测值緘. 朴下同*现歎在最小二乘意义下.拟含非线性模型y =呂7占厲£宝' + + 切龄d + e*tl. ij并假设观测点都分布在模型函数曲线附近.其中为连续可导函数底心）的反函数.且在 我们所研究的鼻变化范圈内恒有以心）工0,幼丿=12皿*下同）为/（«）个待定参敦收稿日期 1 1995-0-30.| 维普资讯 h ttp:/* 270 *未航匚；拟合隐瓯数曲线的

4、GNL法第E期疥Q为区间X内少亍线性无关的已知连续函数随机变量车A0!K即毛皆MNP也 就是要求求解残差平方和Q®丿的无条件扱值何题 I ） minQ（<9）=列&卩机0*< 1. 2 J其中參数向量疗=（备MFW0U卅雀養向杲以旳=川（0 宀® 丁 而我笼苕山=V,戈7叭加町丿+ °册5门<】 3）都是嗷量.对这类常见何题有以下几种算袪.bl常规算法普遍采用的常规算法是®現将拉合曲线方程转化为（1.门式樽型函数的隐式方程摩"）=久钙（J-； + + 0押2：、”（L, I）它是关于参数&的线性方程通常称此过程

5、为将模型函數屮的参敬线性化然眉利用线性 拟合的方法minQ" <5j （d A6）T（ftiy）一 A,（ L. 5 ）其中向虽值函数窿3 = 口“八*旺（1丁=営“门倍（刀丁、八心阶矩阵，何（工丹（Z1），zl =.（1.1?）:、i丙気Cr） 廊线性无关而是列满秩的所谓“高矩阵J枚可唯一确定th "式的解护=<l,7i 但（b2A（h5J两式的目标两数毕竟不同'也就是说，这样的解井非真正在最小二乘意文下 茯得*从而显得粗糙了一些辽1-2 一级近似算法考虑到娩测但都分布在拟合曲线（L4>Kf近.若在y = y点处对以划柞级 Taylor展幵便有君

6、5、一久何（茁）亠亠色时（忑）=+ + 伽 3=g+ ok <£?>>其中阵（8J由d- 3）式给岀略去关于件（B）的高阶无穷小即得肌（力a gyt> £%（召）+切轻£扛）/貳（"）于是由（1.2式可将原问题比为国< I f j minC2<< L 8）其中np阶列满秩矩阵A由【lt>式给岀阶对角阵W => diagl/J 5）于 *1/以（'：< L* 9丿| 维普资讯 h ttp:/在假设N下是非奇异的 j：是可唯一瑚定可題（T T的解U代=（WAy-lVgCy）.（I. ID）匡

7、3】式系由门-2）式略去关于残差小仍的高阶无奄小所得.可认为近似解（1. W就在问 题C I丿的最小二乘解附近它在锂论上显然要強于近似解（I-7八一股已能满足实际需要 因它是由莒次线性展斤邸弭而得、可称为问题（T 的一级近似解.1. 3 Gaus8-NewtunG!）法若愎进一步提高算法的精度*就得将门-1式视为一麻的非线性植型y J < j A0） £t i. Hf这里 八DU記卜JR1 JEC'iDJ.D-X，" 为lidN.再采用口汕佔-门曲心亦tH左 求相应的脊代解。=<<1.12)弓、=尸 + <厂门一尸：-护门、S = 口1卫八其

8、中观陋向量 尸=5宀小八向量值函数f （fl）=丿 J們丁 =八眄 r J（ *"）'在3= 时处的Jacobi矩阵U. 13)亠 Ml *然而GK法对参数初始值矿“&很大的依赖性，若选择不当就收敛不列极小点除非八山 是厲的线性函數”于是由GN法派生岀 系列改进算法：U它们大大増加了界法的壇杂性. 碍到的回报仅仅是适当放宽了对严的姜求、并没育从根本上解决对刃的全局收做问题对 tb L式这种特殊的菲线性橈型是否能找到一种既能按一定齋度求得0的叠代解又与初 始点別"的选择无关的两全其美算法呢？2拟舍隐函数曲线的GNL法式的模型函数经线性化为tl-L）式后冥际上是

9、-个隐強数曲线方程为此捏岀拟 合一股隐函数曲线的GNL法问题f n】；刑用并组独立观测值（町丿在最小二乘意丈下拟台非线性模型CL 口几艮横 型函数孑=心血按隐函数存在定理条件由隐式方程F2/） = 0所唯确定”这里F/U 跤+* 艮、F 6 CJt5）；且 H 工 XE 晦、3 唯一 y W卍："*了）E S'FCrjO = 0.F,刃工 >（丈丄）现将观测向虽$的回归值9=/的近似值2=5 也观为同。一样的參数侧问题优 为条件极值问题tninQ) G< y y)| 维普资讯 h ttp:/44| 维普资讯 h ttp:/朱眠仁;拟台隐雷敎曲线的GNL法琵？抑F（

10、扔=0,（2. 2）拭中b= W =p.、L3,为J + A堆参数向量跌=«詞J的01 口悄向屋值函F祐）=几心*、F/>）=Fg aA） *Fm* *P）F若我们已经茯得厶的S级近似值沪®计vy =捫尹屮 这里已将丁，简记作 yy将F祐）在为®点处作线性展开便有F® *尸帖如）+；、 +丿产4化 其中3=丁一弐化少=自一初匕相应的Jacobi矩阵分别为炉=I忒些 殆J e严这样就将问题f I 的约束条件（Z 2）线性化为F"®）十 3 十 J严3 = 0.可见严和疔一般并不严格满足约朿条件Z 2）,只有严 j刖U引入川维Lag

11、range乘數向量A=仏、以）丁并作辅助函数£（3山久入丿=（v yX> v J> dv） + 2入丁F&" > j/lv -*- Jj；订再分别对少山求偏导数、并略去Jacobi矩阵JJ产的上标m便可厲再正挖方悍绍O yiS1 一 心夕）一 JJA =0*I 2. 4JfA= 0>I 巴：W" + Jy 十 3 = 0,i .十丿观进一步假设齐是列满秩的所谓“高矩阵”（相当于要求。在®内独立儿则因I、足非 奇异的刃阶对角阵而町知必为正定矩阵此时先可由2. 4）式中得4 = y _严 J.at 代人（2.6）式得A =（匚

12、） + Jr（y -严）+ 丿心汀再代入"5）式并利用（2.的式便可求得宓=一疗亿舟厂“广刀亿乃广H_y ,円）+ F"严门、 dv = J?忙齐少+ F"曲叮*（2. 7）或记J =丿二几.将上述结果化为8 =（广/厂"° 一 严）+ J-lF（b，s'）.G亍Fl屮“、i2.前并确定参数的L+1）级近似值严亠,=+ 仇 yts+J1 = 丁5 + 3*5 = -1 .器及相应的残差平方和Q/E）=心一严 严f四油年旷月苍專学慨计篇敌学学捷濟,1 口苦丁真实反映拟合效果当懺型函数可皿式表出时，相应的残差平方和还是宁可联W一八旷7为好如

13、此反复叠代、言到 M 和/或 g = Q - gr满足事先指定的判振，如i卫，< D'l -I- io_eK 和 M. < LQ<&''')+= n. 01,(2.9)即可路i上叠世可取s或严t“视厂衣口皿一)的大小而宦】.观测逞是的方誉 可怙计内戦差方筆tfE = Ql約/畑fl).按课差传递公式，参数向量的协方差阵可估计为Cov < (9) =) fry L)£t JrJJ7 J;其! j =在处计值*以上竿法与GM法十分类似r只是引入了 Lagrange乘数*故可称为Gmu酹小丄厂 呂2门苗已法，简称GNL法，3

14、GNLS与其他算法的比较1模型函数难以以显函数孫式表出当根据一定专业知识或散点国所确定的植型匣数只能以隐函数形式给出而难以显函 数形式表出时，其他所有依锁于显函数的算法都无能为力了、GNL法便能大咸身手、32拟含一餒的非线性显函数曲线此吋在GNL法中从工*$貯=了 一 ft.x.S) = 0,Jy J J 几.这里的与由13式给出的GN法叠代解中的J是一致的根据已有的倍息，自然取 $一A此时GML法的苜次叠代解按: Z I式应为刖=刖' + 3=旷 t uTjrJ7 - /xmy" Lv：c, + tXy = y -h - Qy > e) *它与由壮】武给出的GN宏肯彊

15、叠代解没有什么本质的畫别.因护"特别是其中的/) 与旷'有关XSNL法也同样存在着如何正确选择初始值矿门的问题*3*3 拟吉全部卷數可绘性化的隐函数曲线此时常见形式由(I- 4)式给出故F<,jcy,0 = g(y) &i的 Cr)亠十旳岛/乂) °,A 山临> J；") * ，占心：九),/< = A,其中列満秩矩阵>1由U.6)式聲出*在假设之下丄=附由(丄和式给出.当取 护=»时对任倉的初始值拼匕GNL法求得的尅首次竞代解按4. 7)式应为少“=严一皿=严 一-加0 -44| 维普资讯 h ttp:/沙4瓷琳

16、匕：执台隐盈蔽旧线的GML法第期它与乳'丘关！且正是冋题【】、的一级近lHMU-10也就是说法在一定意文下解决 了參数可线性f匕曲线拟含的全局收敏问题只要”卜观测值加确在附近（一般总是如 此1.GNL法经首次叠代后就能保证/1 V时总在巧附近而与册'的选择无关.为计算方 便起见-“股都取旷j.冋想起率，GN忘开始时是在点处将向境值模型函数 M作线性展开的 Jacobi 矩阵必憩会嵌犊亍冷口的选择除非八小是日的线性函数.而GNL卷开始时是在W 少，血处将向足值隐式方程函敷F"）作覘性展幵的.代替丿的是相当于按向至值隐亟 敖求导法则确定的一府打。若EZ'已是&am

17、p;的线性函数，就有可能使相应的Jacobi矩阵 接抵甘旷'的1在颗而仅与'有关-国此以牠测同量乍为了N后首次腔代的威功就是预 科二中的了-例3一 I炼钢车间出钢时所用盛钢木的钢包，在使用过程中+由于钢總及炉渣对包时耐 火材斡的骨蚀使其客积不断増丈试杞据裘乩1所列数据、找出钢包使用次数工与塢大的 吝叭W同的相关关系:P表生1钢包使用次数与増大的容积/的测试数据1i.234. S& 1?89V.iL 42岳20® 58g* 509. 7016 009. 939. 991V"10111213i 141516"iHL 4!>10. S910

18、.旳10. 801Q+ 60la 9010. 76L1逹个毎很多艾献中都引用过的例子，若选用非线性橈型 y =（A 十仇 Ar）T + c便可将其参数线性化为1/j -列 1、 或 F3$W=1 /y t?i 佻/工=Oh几种不同算法的比较结果如表3. 2所列表乳2几种不同算唐的比较结果算法常规算法-级近似算法GN法GNL法不需不需0/0任意不需不需0.5/1任意|疊代衣数115 / 7!3玄0. 08230压 084&60. 0SJ460.08446 0.13120.10950. 11520. U52:Q11, -44GL 2351. 1971 1- 197| 维普资讯 h ttp:

19、/由旳年p H宴菲学枠计竝韻学学握* 275 表2中常规算法的结果引自文就O入GM法和GML进均采用了单精度Qbisic程序及 皿同的叠代终止判据咚鮎、F同使用（限送时曾分别选书处' 土4二I L!及呼 -9,-：l :i.BE 5.2 JJ：计57-35卜结点作询初始点进行了疊代但便覆在旷二一；乩WS；两处分别厲代5次柑次才收敛到极小点.而GNL 无论如何适用 旷；苗択軽代后总匪碍到一缎近似辅再養代商次后即收敛到极小点可见在拟古全部盘戡可线性化的隐函数曲线时'从拟合效展率甘.GNL法与法一 样罠奸、一飯近似算法其次.常觇算法最差；从对参数初皓值的要求来看，GKL法克与一级 近

20、惬尊搓及常规算法一样对其无任何要求比GN法要好得哆GNL在可i胃対全其美了.3.4 拟合部分藝数可线性化的隐函数曲线以上U经君到化拟合非线性模型时若能对全部参数作线性化处理.GNL法便能发挥 全局収敏的优毋-它启示iUh在拟台-般的非线性摸世时只要将尽可陡爭的参数戏性 1匕就脊可能碗宽对歩数制治值的要求 至少庭得到这祥的好外：貝需吧注意力放在那些£ 线性化爲敦初始值的选择上就可出了.比上所说的-未线性化參数”是指；只霊用常数取代这些畚数q牛数芳燃应尽可能地少八 拟合曲线右程就化为关于其他参数i也就是线性化参数的线性方程了如庄模型两数的隐 式力程Ff工、$ hij/ 一 叫 +已尹+

21、同jA十0的參数中就可认为出点I或気点）是线性化的.而血（或E血）呈未线性化的例$ 2热敏电阻辭的电阻（实指电导系数匀温度工之何的关系模型为y expZ?E/（65 + t） -r <>试tl据喪£3所列数辦.给出参数方的估计' 指琏初始值&'"'=gQ2KAS 250 ><表33 热敏电阻器的电阻实指电导系数爭与温度工的测试數摇085347K02861023&5019630163701B72O1154097449095100105110115120125MS2517030600551

22、4744273820S3072E?2 1这牛由Meyer和Roth于1972年援岀的问题曾乂使很多最小二乘拟台程序无能为力X 其中包括GN法,Hnrtleyt修正GN）法Marquardt（阻尼最小二乘）法及Fletcher法旷拄意到该模型鬲数的三牛蜃数中原先只有一个线性化巻数血若转化为lnj/ = lnrL + bj 迪直 十 h、”4F（jL,y0 = Inj 0y 8偲 + 2 = 0*1 ：就4两"卜线性化参数血*其中仇=1M，地、& = bn、此时模型函数为| 维普资讯 h ttp:/-276 -卷饭L拟合龜函数曲域的GNLfi黑萌y = /<x.（3） =

23、exp0j + 如風 + 疋门* 同样取广=屈工.悄审=（-9 2,4000.250GNL经6次飪代后即求得6= -18387 K 6181. S46.345.J Q® =汐，即盟、心 21相当于b = wpMj 仇、頁卩=hi 005606,6181.846. 345. 2404 ）计算结杲与阳由Meyer和Roth自己提出的MDLS<修正阻尼杲小_乘、法取人=叽円=10 时经&次韓代吕的结果是-致的£见文献口喪氏11及附录1之问题4的计算结果但表 £ LJ 中误将 Q=0* 85 <1（/ 印刷为 U-88X 1Q3）.实阳上3D式中的未线性化参数仅站一个找们只需把注竜力放在:的选择上即 町.现试选與 严0、可先将其视为常数，叼GNL法经3次叠代后考得相应的线性化参数 fetf值血=£ Z调即硯=1隔.543（它们对扫始值段有要求>血后再恥&=听 底 厨= <7, 1881-166