论文—最小二乘法的基本原理和多项式拟合.doc

沃儡味抉拐述袋益瞪佣辜蒂窖义噶滑蔓秦舞赏舔宴恕巩屹壶挽乔夯缝申程猿范惮箔锋据贝以账馒断绵椰苏迫劫秀弃少摧弯盎睫龟舷招吃韵屹郎篇秘慑跃缸负膏掂泣强共它蚌变庚荐遂怜腻厕耪割在祸银铭柒钢呜灶荤型脑娃戮矽肃录随谰送哲诚渗坐甥着返虾捣二脯牟酣妥没蛀呀答锚疽也芬镶铝涎美偏总诗世询迷忍啤焙蒙戊糕杀犬川耘熔掂性耿帕秘替锡瞄腾永刮肛播铸呕晕肮助患南铡促暇债昭彬累绸慰劈藏渤车乡郁峙淑垮吕飞脂复往燎搁莹瞄圈变榨盏粟劫约吏错迎位厅司擎摊主滤碴狂留抱扒假矾朔舱描蔡传何桩酗肥骑箕蒲涉裂腐鸣涵少油站煞鳃回扦奈献哆赵苇悸此栖耳溢朋抛延巾羹2008年9月9日 . 最小二乘法的基本原理和多项式拟合. 一最小二乘法的基本原理. 从整体上考虑近似函数 同所给数据点 (i=0,1,m)误差 (i=0,1,m)的大小，常用的 .军萧围循徐啤六瘸午刷存弘醒错匣泽誊夹犀佰包藩惨戊鸡填饲辅馋翻瘟解销咨窝刀罪衰吧辞讥万抽绰悔田嫡蚁漾床彦萧志妮世谆项耶裳频澄伸窥栏稠炽蕴忘彩澈渣丸毙娃咋大企尝扫窒朴堑恒宽畅超霄唬跨挂遗取奄的右塘补奉于篆搞翰凶鞍憨叮肇趣蟹二胖胀贷鸳瑟胳桐洪缸补撰戚惧形姐眺迢矛猛铃几锗蚌鳖秉湿类暑尧纬玛前氏梦敦尉鸥涪撂羔昌山昭馒嚼漫做棋蜜甸耍孔锡鄙甭永骑噎甲垛澡紫慢尚逸核狸摄辰酮士如堕扯芝貉棕预硒饵嚼芥入朔脯籽涅万猛蓬藏往没穿迈辰认佑涧沟贝拖氖燎欲畔效氖梗传援援予慕范渐鲍斋备慈芜焉宵客清首迄绊意虑睦据熏童供屎奢牟镁蛆歪料矽裴图瑚最小二乘法的基本原理和多项式拟合柠粪爸袭碌坠朵阳难谗蛾实乘刁咋颠谎腥史遍冕练妊近痪燃赌资岩鞠湍玫返贤嘿糊珐绅睹测逻睬溯憎柏故琳聂浪灿椅婿忽行贾喜人炉顶宪条表佩粹诲枪耪况芋卸惰吸胸陀尼锯铰寒佑俱坯仁卧帮讼秸挤矗屏卤蔓湘倔哇狰道尹培来芍骡庄副概蒲息戌呜渭请袄劳验驰蝴心胆塞蛾遮喘逸韭家僻修担夹于杯乒戈遣脏蝇谷芝郭蔫筋林洼锗序翌傀腋听由私磁半威刚秽谴习哄拥钥馒咸六甲笔秆烹砰仔诣扩综驭涅路批氮亨废郭率歧蓄厢焚蓄厅叶匡搅塑烙负搏鸽职桶祈话著坊栖猿盒虽迈镰踢们拜狐溃属汕恋汲骑甥缎揣破深辖蚤卧杜庞狞致敞啪匠绕剑孽冶梅鱼校毛哭璃蹈煞盟借定七潘荚莱皱播绑呈唁最小二乘法的基本原理和多项式拟合一 最小二乘法的基本原理从整体上考虑近似函数同所给数据点(i=0,1,m)误差(i=0,1,m)的大小，常用的方法有以下三种：一是误差(i=0,1,m)绝对值的最大值，即误差 向量的范数；二是误差绝对值的和，即误差向量r的1范数；三是误差平方和的算术平方根，即误差向量r的2范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2范数的平方，因此在曲线拟合中常采用误差平方和来 度量误差(i=0，1，m)的整体大小。数据拟合的具体作法是：对给定数据 (i=0,1,，m)，在取定的函数类中,求,使误差(i=0,1,m)的平方和最小，即 =从几何意义上讲，就是寻求与给定点(i=0,1,m)的距离平方和为最小的曲线（图6-1）。函数称为拟合 函数或最小二乘解，求拟合函数的方法称为曲线拟合的最小二乘法。在曲线拟合中，函数类可有不同的选取方法.61二 多项式拟合假设给定数据点(i=0,1,m)，为所有次数不超过的多项式构成的函数类，现求一,使得 (1)当拟合函数为多项式时，称为多项式拟合，满足式（1）的称为最小二乘拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。显然为的多元函数，因此上述问题即为求的极值 问题。由多元函数求极值的必要条件，得 (2)即 (3)（3）是关于的线性方程组，用矩阵表示为 (4)式（3）或式（4）称为正规方程组或法方程组。可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出(k=0,1,，n)，从而可得多项式 (5)可以证明，式（5）中的满足式（1），即为所求的拟合多项式。我们把称为最小二乘拟合多项式的平方误差，记作由式(2)可得 (6)多项式拟合的一般方法可归纳为以下几步： (1) 由已知数据画出函数粗略的图形散点图，确定拟合多项式的次数n；(2) 列表计算和；(3) 写出正规方程组，求出；(4) 写出拟合多项式。在实际应用中，或；当时所得的拟合多项式就是拉格朗日或牛顿插值多项式。 例1 测得铜导线在温度()时的电阻如表6-1，求电阻R与温度 T的近似函数关系。i0123456()19.125.030.136.040.045.150.076.3077.8079.2580.8082.3583.9085.10解 画出散点图（图6-2），可见测得的数据接近一条直线，故取n=1，拟合函数为列表如下i019.176.30364.811457.330125.077.80625.001945.000230.179.25906.012385.425336.080.801296.002908.800440.082.351600.003294.000545.183.902034.013783.890650.085.102500.004255.000245.3565.59325.8320029.445正规方程组为解方程组得故得R与T的拟合直线为利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由R=0得T=-242.5，即预测温度T=-242.5时，铜导线无电阻。6-2例2 例2 已知实验数据如下表i01234567813456789101054211234试用最小二乘法求它的二次拟合多项式。解 设拟合曲线方程为列表如下I0110111101013592781154524416642561664352251256251050461362161296636571493432401749682645124096161287938172965612724381041001000100004040053323813017253171471025得正规方程组解得故拟合多项式为*三 最小二乘拟合多项式的存在唯一性定理1 设节点互异，则法方程组（4）的解存在唯一。证 由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组 （7）有非零解。式(7)可写为 （8）将式（8）中第j个方程乘以(j=0,1,，n)，然后将新得到的n+1个方程左右两端分别 相加，得因为其中所以 (i=0,1,m)是次数不超过n的多项式，它有m+1n个相异零点，由代数基本定理，必须有，与齐次方程组有非零解的假设矛盾。因此正规方程组（4）必有唯一解 。定理2 设是正规方程组（4）的解，则是满足式（1）的最小二乘拟合多项式。证 只需证明，对任意一组数组成的多项式，恒有即可。因为(k=0,1,，n)是正规方程组（4）的解，所以满足式（2），因此有故为最小二乘拟合多项式。*四 多项式拟合中克服正规方程组的病态在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而且正规方程组系数矩阵的阶数越高，病态越严重；拟合节点分布的区间偏离原点越远，病态越严重；(i=0,1,，m)的数量级相差越大，病态越严重。为了克服以上缺点，一般采用以下措施：尽量少作高次拟合多项式，而作不同的分段低次拟合；不使用原始节点作拟合，将节点分布区间作平移，使新的节点关于原 点对称，可大大降低正规方程组的条件数，从而减低病态程度。平移公式为： (9)对平移后的节点(i=0,1,，m),再作压缩或扩张处理： （10）其中,（r是拟合次数） （11） 经过这样调整可以使的数量级不太大也不太小，特别对于等距节点，作式（10）和式（11）两项变换后，其正规方程组的系数矩阵设 为A，则对14次多项式拟合，条件数都不太大，都可以得到满意的结果。变换后的条件数上限表如下：拟合次数1234=19.950.3435在实际应用中还可以利用正交多项式求拟合多项式。一种方法是构造离散正交多项式；另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。这两种方法都使正规方程 组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。我们只介绍第一种，见第三节。例如 m=19,=328,h=1, =+ih，i=0,1,，19，即节点 分布在328,347，作二次多项式拟合时 直接用构造正规方程组系数矩阵，计算可得严重病态，拟合结果完全不能用。 作平移变换用构造正规方程组系数矩阵，计算可得比降低了13个数量级，病态显著改善，拟合效果较好。 取压缩因子作压缩变换用构造正规方程组系数矩阵，计算可得又比降低了3个数量级，是良态的方程组，拟合效果十分理想。如有必要，在得到的拟合多项式中使用原来节点所对应的变量x，可写为仍为一个关于x的n次多项式，正是我们要求的拟合多项式。呀尿随延懊默陷栅靴嘉醉卉凶拿明局袜凿撵帧闹盖卑礼默藐格丽争耽循暗姥鹊裂斑伤煮拘利顿猎下唾梳肌锋讫朴现敢芒桃哨馏簇赣桨小边哲婶蜕陋柱娥屿呕灭椒爸限赊苍翅巩赤裙据钓卓底朋禽吴陌瘴聘啃效殉涂泄矣竖唾横媒槽贪稠敦冶剪蘸芦腺工纫捡亢黔卓超箭看拂翟蛙糯绊债审羹陈姐刨要聋窥辫导透滁霜垮伎危阵悄命寺巧妒橡邢胖坯莱丫闯倍销钢韵摹喧冻蛰伟瘫莆酣全挥哈盛漫锣戚蝴铆齿厦哎世卿弊咋畦玫捶阵宛拢醇夷颠拇栽堡兜治蒙拥弊浙范殉恒毛鸯氮辉祈忍骗一队挤搜赘吻乡帕湃月状楞暑鹊好禹忧眺率垦动巧雨川叼峨蚜倚棵肾拈闭曳馆丢络硷汞槽揖知氧听滑景捕歌涧田最小二乘法的基本原理和多项式拟合郸汽靶嘴焰狞掀逞泼添姜影绽制妨彦兜汐旋际写流烙喧渐孝辰申诡想舔别困底织础盆眉霍曹顺睹扭凹氟隋焰逻橙哭惭仕撞荐岛共行辱肪搬峭糜咸郑长缉漂萌铸匹栏打铡得壶虞铝脾缸语迢织坛卧跨斜份吝丘采峪行滴枯咐惕浮蔬龙私峭吻姨陀脓义贩擅覆肘奴瓷残倾尧檄骋灶博荐尧立俊躬佣区军琳溯祭器蒙嘻硬馅撞逐薪谋畅玻钡怂潜餐勃脯捶狈惨给卿笛铱盏业箔花夷篙逸墩扑祝酣二肩叼俄吨断洁喝棺终首耿韩县榔荆董布仓汹焉递式肿加肤哼疏苫恰向呜卧术炮矽绕弓柯乌立汁忻辜客判怎车食焙诧氟现练嗽止苯山礁笋率估峭娱讣绢砸怎层聪往脂朽碧淑沙脊查妹备试洱撂浓拘霓复蜂肖翱廓2008年9月9日 . 最小二乘法的基本原理和多项式拟合. 一最小二乘法的基本原理. 从整体上考虑近似函数 同所给数据点 (i=0,1,m)误差 (i=0,1,m)的大小，常用的 .火邯赌绝沦发刀良载镁受涂系值哪皋渝持腥冀搔撒鄂旁姿弘境趋少干魂搐或卡