第七章 曲线拟合(xin)

1、第7章曲线拟合（最佳平方逼近）返回前进第7章目录返回前进函数逼近（曲线拟合）概述返回前进总体上尽总体上尽可能小可能小返回前进yx86422468*返回前进例1（续）一范数的为向量，1 min0irrrniii一范数的为rrriiiimaxmin,max一范数的为2 min,22rrriii返回前进012012200 (n) ( ), ()max()ininniiiii nixxxxxyyyyyyxxyxy 科科学学实实验验，统统计计分分析析，获获得得大大量量数数据据很很大大确确定定y y与与x x之之间间的的近近似似表表达达式式方方法法一一插插值值。几几何何上上，插插值值曲曲线线经经过过所所有

2、有点点方方法法二二曲曲线线拟拟合合。求求一一连连续续曲曲线线使使得得误误差差Q Q达达到到最最小小或或Q Q达达最最小小。返回前进 给出一组离散点，确定一个函数逼近原函数，插值是这样的一种手段。 在实际中，数据不可避免的会有误差，插值函数会将这些误差也包括在内。 因此，我们需要一种新的逼近原函数的手段：不要求过所有的点（可以消除误差影响）；尽可能表现数据的趋势，靠近这些点。返回前进 有时候，问题本身不要求构造的函数过所有的点。如：5个风景点，要修一条公路S使得S为直线，且到所有风景点的距离和最小。先讲些预备知识 对如上问题，有一个共同的数学提法：找函数空间上的函数g g，使得g g到f f的距

3、离最小。返回前进实例讲解 某种合成纤维的强度与其拉伸倍数有直接关系，下表是实际测定的24个纤维样品的强度与相应拉伸倍数的记录。 提示：将拉伸倍数作为x, 强度作为y, 在座标纸上标出各点，可以发现什么? 返回前进数据表格编号拉伸倍数强度kg/mm2编号拉伸倍数强度kg/mm211.91.4135.05.522.01.3145.25.032.11.8156.05.542.52.5166.36.452.72.8176.56.062.72.5187.15.373.53.0198.06.583.52.7208.07.094.04.0218.98.5104.03.5229.08.0114.54.2239

4、.58.1124.63.52410.08.1返回前进返回前进从上图中可以看出强度与拉伸倍数大致成线形关系，可用一条直线来表示两者之间的关系)22412412(),(xyiiiiibaba 解：设 y*=a+bxi i ，令=yi-y*i=yi-a-bxi，这里求误差的平方和达到最小，也就是求返回前进n解得： a=0.15 , b=0.859 直线方程为：y*=0.15+0.859x60.73161.8295 .1271 .1135 .12724baba返回前进 当数据量特别大时一般不用插值法。这是因为当数据量特别大时一般不用插值法。这是因为数据量很大时所求插值曲线中的未知参数就很多，数据量很大

5、时所求插值曲线中的未知参数就很多，而且数据量很大时，多项式插值会出现高次插值而且数据量很大时，多项式插值会出现高次插值（效果不理想）或分段低次插值（精度不高）；另（效果不理想）或分段低次插值（精度不高）；另外，测量数据本身往往就有误差，所以，使插值曲外，测量数据本身往往就有误差，所以，使插值曲线刻意经过这些点也不必要。线刻意经过这些点也不必要。 而曲线拟合是，首先根据物理规律或描点画草而曲线拟合是，首先根据物理规律或描点画草图确定一条用来拟合的函数曲线形式，也可选择低图确定一条用来拟合的函数曲线形式，也可选择低次多项式形式（所含参数比较少），然后按最小二次多项式形式（所含参数比较少），然后按最

6、小二乘法求出该曲线，它未必经过所有已知点，但它能乘法求出该曲线，它未必经过所有已知点，但它能反映出数据的基本趋势，且误差最小，效果比较好反映出数据的基本趋势，且误差最小，效果比较好,就是最佳逼近问题就是最佳逼近问题。返回前进函数的近似替代，求近似函数称为逼近总体上尽可能小总体上尽可能小,返回前进1 最小二乘法原理和多项式拟合 niniiiiiyxyx1122)(min)(niiiniiyxr1212min)(返回前进二、多项式拟合 1)-(6 )(10mmmxaxaaxPnimiimniiaaaFyxPr110212),()(niiiniiimmyxyxPaaaF121210)(min)(),

7、( nijimkikikjmjxyxaaF10), 1 , 0( 02mkinijiknijkimjyxax011), 1 , 0( 返回前进多项式拟合（续） 11221211101111213112011121211niimimniminiminiminiminiiimniminiiniiniiniimniminiiniioyxaxaxaxaxyxaxaxaxaxyaxaxaxnamk0返回前进111122112112222211221(1,2,),nnnnmmmnnmnijjija xa xa xba xa xa xbaxaxaxba xbimAxb （6 6. .1 1）或或 一一. .

8、定义定义若秩若秩(A|b)(A|b)秩秩(A)(A)，则，则(6.1)(6.1)无解，此时称（无解，此时称（6.16.1） 为矛盾方程组。为矛盾方程组。 矛盾方程组与最小二乘法矛盾方程组与最小二乘法设有线性方程组设有线性方程组返回前进二、最小二乘法法二、最小二乘法法 因因(6.1)(6.1)无解，故偏差无解，故偏差( (残量残量) )1(1,2,)niijjija xbim 1222111121212,6.2,.:,(,)nmmniijjiiijnnnxxxa xbxxxxxxxxx 不不全全为为零零若若能能找找到到一一组组使使偏偏差差平平方方和和Q Q（）达达最最小小，则则称称该该为为矛矛盾

9、盾方方程程组组的的最最小小二二乘乘解解它它是是一一种种最最优优近近似似解解最最小小二二乘乘解解的的求求法法设设是是最最小小二二乘乘解解 则则由由高高数数知知, ,多多元元函函数数Q QQ Q必必在在该该点点偏偏导导数数为为零零: :返回前进11111112211210(1, 2,)(6.2) 222()0(kmnmnijjiikikijjiijijknjjjnjjjkkm knm jjmjknxa xbaaa xbxaxbaxbaaaaxbk Q Q 将将代代 入入 Q Q 1, 2,)n 返回前进06.3xbxb （）（） （） （）111111211221222212121000njjjm

10、njjmjnnmnnmjjmnja xbxaaaa xbaaaxaaaaxbx Q QQ QQ Q返回前进 (6.3)是是n阶方程组阶方程组,称为原矛盾方程组对应的正规称为原矛盾方程组对应的正规方程组方程组(或正则方程组或正则方程组,法方程组法方程组).故矛盾方程组的最小故矛盾方程组的最小二乘解一定是相应的正规方程组的解二乘解一定是相应的正规方程组的解.返回前进 01010120( )()()()()()( )()()()()mininmmnmiiiyf xxxxxf xf xf xf xnPxaa xa xmnPxf x 设设有有连连续续函函数数的的一一组组大大量量数数据据求求一一个个次次数

11、数的的多多项项式式 主主要要是是求求系系数数使使Q Q达达到到最最小小 多多项项式式拟拟合合 用用低低次次多多项项式式拟拟合合大大量量数数据据返回前进010100001111101( )(),(,): ()()6.4(),(6.4),miimmmmmmnmnnmyPxxf xa aaaa xa xf xaa xa xf xaa xa xf xa aa 0 0 由由于于不不一一定定经经过过所所有有已已知知点点，故故把把它它们们代代入入得得矛矛盾盾方方程程组组 以以为为未未知知量量（） 使使Q Q达达最最小小的的就就是是的的最最小小二二乘乘解解 故故.(6.4).可可用用最最小小二二乘乘法法求求得

12、得只只需需解解相相应应的的正正规规方方程程组组即即可可易易证证存存在在惟惟一一解解返回前进., 0)2(, 1) 1 (, 2)0(, 1) 1(, 0)2(组数据试用二次多项式拟合这例：fffff433222121212121xxxxxxxx例：求下列矛盾方程组的最小二乘解返回前进2 一般最小二乘拟合 返回前进2.1 线性最小二乘法的一般形式 mkkkmmxaxaxaxax01100)()()()()() 26 ( )(min) )()(1212012niiiinimkikkiiniiiixyxayxy使返回前进yGGaGyGaxxxxxxxxxGyyyyaaaaTTnmnnmmTnTm表示

13、为：则：正规方程组还可以原矛盾方程组为：若记)()()()()()()()()(),(,),(1022120111101010mjxyaxxxxymkniijiikniijikiniijiii, 1 , 0 )()()( 0)()(0111正规方程组：返回前进）（引进内积，记：对于正规方程组：3-6 )(),(),()()(),( , 1 , 0 )()()( , 1 , 0 0)()(110111niijiijnikjijikijkmkniijiikniijikiniijiiixyyxxmjxyaxxmjxxy)46(, 2 , 1 , 0 ),(),(0mjyajkmkjk也即有：返回前进

14、正规方程组的几种形式（续）mkkkxax0)()(mk0 5)-(6 ),(),(),(, 101010101110101000mmmmmmmmyyyaaamjjj返回前进最小二乘拟合函数定理的最小二乘拟合函数是给定数据则函数为正规方程组的解设), 2 , 1( ),()()(,010niyxxaxaaaiimkkkmniiiiiiiiniiiiniininiiiiiiiiimkkkxxxxxyxyxxxyxyxcx1212111220)()()()()(2)()()()()()()(: 有对任意的证明返回前进定理2（续）niniiiiiiiniiiiniiiininiiiiiiimkniik

15、iiikknimkikkkiiiniiiiiixyxyxyxxxyxyxxycaxcaxyxxxy11221212112201101)(min)()()()()()(0)()()()()()()()()(即：，从而代回去有：返回前进210108694286.01624857.0)(8694286.0,1624857.0 25375.2986.2125.25 .25 .2525375.2986.2 125.25 .25 .25 01.1480.0001.0495.01 1125.010125.0111xxaaaayGGGyGTT从而得到拟合多项式：解得因此正规方程组为：故返回前进2.2 非线性最

16、小二乘拟合 ), 1 , 0( 0mjaFj返回前进可化为线性拟合问题的常见函数类 22222222/1)/(/1,/1)/(/1)/(1/1,)0)(/(1)ln(1,ln)0(xcxbayxxxcxbaycbxaxyyxycbxaxxycbxaxyyycbxaxyxbayxxyybaxxybaxyyybaxyxbayyyexabeayaaxbayxxyyaaeyxxxb设设设设设设设返回前进3 正交多项式曲线拟合 mimimimiinimiiixxxxxxxxxxn211322) 12/(1111) 1/(13/12/1/13/12/11mmmmm返回前进正交多项式曲线拟合（续）返回前进3

17、.1 离散正交多项式 nikjijikijkxx1),()()(),(niijikijkxx10)()(),(nikijikjkjkAjkxx1)( 0)( 0)()(),(返回前进离散函数系正交化 定理定理 (Gram-Schmidt)设函数系 在离散点： 处的函数值向量是线性无关的，则关于离散点 的函数值向量是线性无关的且两两正交，即01( ),( ),( )nxxx01mxxx00( )( )xx10(,)( )( ),(1, )(,)kikkkiiiixxkn 01mxxx00100011110101()()()()()(),()()()nnnmmnmxxxxxxxxx,0,()iji

18、j 返回前进3.2 用离散正交多项式作曲线拟合 mkkkxax0)()(返回前进),(),(),(),(),(),(10101100mmmmyyyaaa8)-(6 ), 1 , 0( ),(),(mkyakkkk9)-(6 )(),(),()()(00mkmkkkkkkkxyxax返回前进., 0)2(, 1) 1 (, 2)0(, 1) 1(, 0)2(组数据试用二次多项式拟合这例：fffff返回前进4 函数的最佳平方逼近 返回前进4.1 基本方法 )()()()( 10)-(6 )()()(min )()()(),(11002210 xaxaxaxdxxxfxdxxxfxaaaFmmbaH

19、bam其中 )()()(),(bakjkjdxxxx返回前进mkkkxax0)()(返回前进最佳平方逼近多项式举例xxaaaaaaxxdxxxxxdxdxxfxdxfdxxxdxdxffaaxxxxaaxx4317. 22159. 1)(4317. 22159. 1231210212) 11(1cos1)sinsin1sin1cos),(0cos),(,31),(),(21),(, 11),(),(),(,(),(),(),()(1)(),()(, 1)(102101021022101 0 1 0 110010211100110100010101101100010110先求，为构成正规方程组：

20、，即取：解：没指明权函数返回前进.)3(,0222最小使例：求dxcxbxaxcba返回前进.)(sin,022最小使例：求dxcxbxaxcba返回前进 4.2 正交多项式求最佳平方逼近多项式 )2 , 1 , 0,( 0 0)()()(),(kjkjAkjdxxxxbakkjkj返回前进正交多项式举例2)sin,(sin:1)(, 1 , 0,) 1sin(,2sin,sin)sin,(sin)cos,(cos2)cos1 (21sin)sin,(sin) 12(cos21cos)cos,(cos21) 1 , 1 ( 0 sincos)cos, 1 ( :1)(,2sin,2cos,si

21、n, cos, 12 2 mkxkxxmimixxmxxkxkxkxkxdxxxdxxxdxxxdxxxdxxxdxxxxxxxi正交关于在点集而函数系正交上关于权函数在三角函数系：例如：返回前进正交函数系性质 无关的。，正交多项式系是线性由定理系。，则称其为正交多项式中函数均为代数多项式如果正交函数系上线性无关。在，导出矛盾，所以，故因为上积分得：乘以上式后，在区间，以不妨设使得：零的实数即存在不全为是线性相关的，设证明：（用反证法）假3 . 6)(,00),(0),(),(),(),(,)()(0, 0)()()(,10110011001010 xbacccccbaxxcbaxxcxcxc

22、ccciniiiiiiinniiiinnnnbakkkkkxxQxxQ 11), 2 , 1( 0d)()()(),(返回前进为正交多项式系。所以，根据定积分性质有：且可得：的最高次项系数不为零另一方面，由。，都有，即对任意有：特别地，对多项式，都有：次多项式若对任意至多，证为正交多项式设充分性证明：)(0d)()(),(,.)2 , 1 , 0(0)(0)()(0),(0d)()()() 1, 1 , 0)(), 2 , 1( 0d)()()()(1-k )0:( 222 11xxxxkxxxjkxxxxkjxkxxQxxxQkbakkkkkkjkbajkjbakkk 10 10110111

23、00d)()()( d)()()(d)()()()()()(1,)()(2 . 6)(,)(0,kjbajkjbabakjjjkkkkjjjkkkkxxxxbxxbxxxxQxxxbxQxQkbaxxxbax于是：设：合。均能表成它们的线性组次多项式因而任一至多上线性无关在，知：由定理的正交多项式上关于权函数是设）设为正交多项式，证明证明：（必要性返回前进求正交多项式方法定理定理6.56.5 (Gram-Schmidt正交化定理)设函数 系 内积空间 上线性无关的函数系，则： 是上的线性无关的正交函数系。 01( ),( ),( )nxxx,Ca b00( )( )xx10(,)( )( )(

24、 )(,)kikkkiiiixxx 1,kn,C a b返回前进定理定理7 7如果 是内积空间 上的正交函数系，则对 在 中的最佳平方逼近函数为:01( ),( ),( )nxxx, a bC( ),f xa bC01( ),( ),( )nspanxxx 0011( )( )( )( )nnsxaxaxax(,)(,)kkkkfa 平方误差为2220( )() (,)nkkkkf xa 返回前进几种常用的正交多项式 )33035(81)()35(21)()13(21)()(1)(244332210 xxxPxxxPxxPxxPxP11)-(6 ), 2 , 1 , 0( )!2()!( !2

25、)!22() 1()(202nkknnknnxknknkknxP), 2 , 1 , 0( ) 1(!21)(2nxdxdnxPnnnnn返回前进Legendre多项式性质 mnnmnxxPxPPPmnmn 122 0d)()(),(1 1 0) 1() !)(!(2)!2() 1( d) 1()!2() !)(!(2) 1(),(d) 1() 1() !)(!(2) 1(d) 1() 1() 1() 1 ) !)(!(21),(d) 1() 1() !)(!(21),()116(11) 1(21 1 )(21 1 )(2)2(211) 1(2) 1(211) 1(2)(21 1 )(2)(2

26、nmmmnnnmmmnnmnnmmnnmnnmmnnmmnnmnmnmmnnmnmnxmnnxxnmnPPmnxxxmnxxxxxmnPPxxxmnPPmn，则：若分公式，可得：对上式反复使用分部积得：，由式证明：不妨设返回前进Legendre多项式性质（续1）122) 1() 12(21d) 1()2()2)(1(!) 1() !(2)!2() 1(d) 1() 1(1) 1() 1(11) !(2)!2() 1(),(d) 1() 1() !(2)!2() 1( d) 1() !(2)!2() 1(),(111221 1 2221 1 - 11111221 1 221 1 222nxnxx

27、nnnnnnxxxnnxxnnnPPxxxnnxxnnPPmnnnnnnnnnnnnnnnnnnnnnnmn分公式，得：再对上式反复用分部积，则：若返回前进Legendre多项式性质（续2）), 2 , 1( )()() 12 ()() 1(11nxnPxxPnxPnnnn1123020)12(3)12(521)(1661)12(321)(12)12()(1)12()(1 ,023332221100 xxxxxxPxxxxPxxPxPxPxP上的正交多项式为：例如：上的正交多项式。为上变化，故：在对应的上变化时，在区间，当令：, 2 , 1 , 0,)(2)()( 1 , 1,22banaba

28、bxPtPxPtbaxtababxnnn返回前进. 1 , 1122)(23项式的二次最佳平方逼近多上在例：求多项式xxxxf返回前进（二）切比雪夫（Chebyshev）多项式 )126(), 2 , 1 , 0, 11()arccoscos()(nxxnxTnnxTncos)(1884cos)(343cos)(121cos22cos)(cos)(10cos)(2443322210 xxxTxxxTxxTxxTxT202)2()!2( !)!1() 1(2)(nkknknxknkknnxT返回前进第一类Chebyshev多项式性质 0 0 2 0d)cos()(cos21dcoscosd1)(

29、)(),(cos 0 0 1 1 2mnmnmnmnmnmnxxxTxTTTxmnmn，即得：证明：作变换0 0 2 0d1)()(),()1 ()( 1 , 1)(11 1 2212mnmnmnxxxTxTTTxxxTmnmnn的正交多项式系，且：上关于权函数是区间）（返回前进第一类Chebyshev多项式性质（续）)()()1cos()1cos(coscos2)(2arccos11xTxTnnnxxTxnnn，则有：证明：令),2, 1( )()(2)(211nxTxxTxTChebyshevnnn多项式满足递推公式：）第一类（), 2 , 1(212cos 1 , 1)(3ninixnx

30、Tin个互异零点：上有在）（), 1 , 0( 1)(), 1 , 0( cos1 1 , 1)(4nkxTnknkxnxTknkn且个极值点：上有在）（返回前进最佳平方逼近多项式举例返回前进例8（续）xxxttatatdttdtttgyadtdtttgyyattPttPtxPttgxtgytxxtt7918. 00429. 0) 12)(2ln22(23)2ln2(21)( )2ln22(23)2ln2(21)()()()2ln22(233/22ln2221),(),()2ln2(2121) 1 , 1 () 1 ,(),(),()()(1)()()( 1 , 1,21,1 , 1 1 ,

31、012110011211111111110000110011，于是：，的正交性，以勒让德多项式上利用将区间式。为此，作变换：解：利用已知正交多项返回前进9963.09980,05367.01762.0)()(07064.0),(27 02031.0)35(21),(3578.0),(25 1431.0)13(21),(1037.12),(3 7358.02),(1752.12),(3504.2),()3 ,2, 1 ,0( 122),()35(21)()( )13(21)()()()( 1)()( 1)(1 , 123031 1 33331 1 22221 1 11111 1 00103332

32、221100 xxxxaxyadxxxyyadxexyyaedxxeyyaeedxeykkxxxPxxxPxxxPxxPxxkkkxxxkk而故上的正交多项式，解：勒让德多项式是返回前进5 最佳一致逼近多项式 iirmaxmin)()(maxmaxxxfriii)()(iiixxfr)()(maxmin)()(maxbxaxxfxxfHbxa返回前进最佳一致逼近多项式（续）nnxxspanHH, 1nkkkxax0)()()(maxxxfbxa, baxo)()(max)()(00 xxfxxfbxa返回前进引例12. 114xxxtg7918.00429.01返回前进arctgx返回前进引

33、例（续2）可假定最大偏差值为可假定最大偏差值为E，则有：，则有：arctgx返回前进引 例（续3）为最佳一致逼近一次式而为极值点xxtgEatgaaaaEaaEaatgEaaaxxaaarctgxxRRERERERx7854.00356.0 0356.00356.0)(21117854.04 011401111)()()( 0)(,)1()(,)0(11101112101010121210返回前进最佳一致逼近概念 )()(maxxxfbxa)()(maxxxfbxa)()(maxmin)()(maxxxfxxfbxaHbxa)()(maxxxfbxa)()(max)()(maxminxxfxx

34、fbxabxaH返回前进切比雪夫定理返回前进 Pn(x)有n+2个偏差点，亦即使f (x) Pn (x)在a,b上至少有n+2个点交替换正负号，亦就是说f(x) Pn(x)=0在a,b上有n+1个根存在n+1个点：a x0 xn b使f (xi) Pn (xi)=0 即：f (xi)=Pn(xi) (i =0,1,2,n) , 所以，以此作为插值条件可得到Pn(x)，因此，Pn(x)就是以x0,x1,xn为插值节点的n次值多项式 。返回前进零次最佳一致逼近多项式)(21)()(max)(21)()()(21)()(020211mMxPxfmMxPxfmMxPxfbxao且偏差222)(2121

35、20mMyyyyyxP所以，返回前进一次最佳一致逼近多项式返回前进一次最佳一致逼近多项式（续）(3) )(2) )(1) )(,3)(0)()()()(10110110210201111111EbaabfExaaxfEaaaafbxxxxaxxbxaxaxfaxfxPxfaxP：又由推论由于：也可参见下屏例，几何意义如引例，最小偏差值代入任一个方程中可求有联立中且代入为直线斜率即：由11,)2()()(2)()()(22)()()2)(1 () 1 ()()()()()()()()3() 1 (1011101111011111010EaaxaxabafbfxfafxaaxPxaaxfafaxaxfabafbfbabfafabaabfaaaaf返回前进一次最佳一致逼近多项式举例xxf)(16)-(6 021 )()(1212axxPxfxx041)21( )()(4111 xaxxPxf021 )()(11axxPxf返回前进例11（续）xxf)(81)(1 xxPxy xyxy81xy41xy10.518)-(6 )()() 0() 0(221021201xxaaxPxfaPf )17(1