数值分析20141105(广东工业大学课件)

1、 插值法是用多项式近似的表示函数,并要求在他们的某些点处的值相拟合.同样也可以用级数的部分和作为函数的近似表达式.无论用哪种近似表达式,在实际应用中都要考虑精度,所以我们给出最佳逼近的讨论.因此，有时希望给出这种函数的一个形式简单的近似表达式。因此，有时希望给出这种函数的一个形式简单的近似表达式。第第3 3章章 函数逼近与曲线拟合函数逼近与曲线拟合.)()(),(),( : 下达到最小的误差在某种度量意义与使中找一个函数算的函数类另一类较简单的便于计要求在中给定的函数对于函数类xfxyxyABxfA 函数逼近问题函数逼近问题 在实际问题中，常会遇到用各种方式定义的函数。例如，用积分或无穷级数作

2、在实际问题中，常会遇到用各种方式定义的函数。例如，用积分或无穷级数作为定义函数的表达式，这样的函数表达式，为定义函数的表达式，这样的函数表达式，优点：对于确定和分析函数的性质特别有效；优点：对于确定和分析函数的性质特别有效；缺点：不方便用来计算函数值。缺点：不方便用来计算函数值。称为被逼近函数。称为逼近函数，函数逼近问题，的问题，称为近似代替给定的函数用一个简单的函数)()()()(xfxyxfxy在这种度量意义下的函数逼近称为在这种度量意义下的函数逼近称为一致逼近一致逼近。第第3 3章章 函数逼近与曲线拟合函数逼近与曲线拟合.)()(),(),( : 下达到最小的误差在某种度量意义与使中找一

3、个函数算的函数类另一类较简单的便于计要求在中给定的函数对于函数类xfxyxyABxfA 函数逼近问题函数逼近问题)()(max)()(xyxfxyxfbxa逼近误差的两种度量标准：逼近误差的两种度量标准：的一些基本概念。下面介绍代数和分析中为此,badxxyxfxyxf22)()()()(在这种度量意义下的函数逼近称为在这种度量意义下的函数逼近称为均方逼近均方逼近或或平方逼近平方逼近。通常A是区间a,b上的连续函数类，B可取为代数多项式、有理分式函数等。.),()( 0)(, , 0d )()(),(),( (2) ;, 2 , 1 , 0 ,d )( (1) ,),()( 3权函数权函数.1

4、.1定义定义上的为就称；上则在若上的非负连续函数对于存在如果满足条件上的非负函数是区间设baxxgbaxxxgxgbanxxxbaxbaban无限区间可以有限或3.1 3.1 内积空间内积空间积分上的权函数为设定义,)(,)(),( 2 . 3baxbaCxgxf.d)()()(),( xxgxfxgfba .d )()(),( , 1baxxgxfgf上的内积。在与称为函数b, a )x(g)x(f容易验证,上述定义的函数内积满足一般内积概念中四条基本性质. （函数内积的性质）12121( , )( , );2(, )( , ),;3(, )( , )(, );4( , )0,0f gg f

5、f gf gRff gf gf gf ff性质性质性质性质切当且仅当 是等号成立。内积定义的推广。中两个向量维欧氏空间定义是内积空间，这个内积的形成了一个上若定义了内积，就因此，连续函数空间nRnbaC,），（的模（范数）定义为向量ffffnkk21122n)(|Rf .d)()()(),( xxgxfxgfba nkkknTnTngfgfRggggffff12121),(,),(），（中内积定义是设将它推广到任何内积空间中就得到函数的欧几里得范数的定义。定义定义3.3 内积的函数空间称为内积的函数空间称为内积空间内积空间。范数。的欧几里得范数，或称为量设定义2)(),(d)()(|)(| b

6、,Ca,f(x) 3.42/122xfffxxfxxfba.d)()()(),( xxgxfxgfba.d )(| )(| 2/ 122baxxfxf函数的欧几里得范数性质：222210002;fffffR性质，当且仅当时有；性质在在n n维空间中两个向量正交的定义可推广到内积空间。维空间中两个向量正交的定义可推广到内积空间。正交函数族正交函数族.,)()( 0d)()()(),( ,)(,)(),( 带权带权(x)正交(x)正交定义3.5定义3.5上在与则称，且上的权函数为若baxgxfxxgxfxgfbaxbaCxgxfba. ,1 ,.,)(2.2) ), 2 , 1 , 0,( , ,

7、 , 0)(),( ,),(,),(),(,10 标准正交函数族标准正交函数族 数族数族带权带权(x)的正交函(x)的正交函则称该函数系为则称该函数系为时时当当特别地特别地上上为为则称函数族则称函数族且满足且满足给定函数族给定函数族设在设在 knkkinAbaxkikiAkixxxxxba ,2sin,2cos,sin,cos, 1 上的正交函数族上的正交函数族为为例如，三角函数族例如，三角函数族 xxxx. 0,)sin,(sin)cos,(cos,2)1 , 1( 其他内积其他内积 kxkxkxkx基表示。也同样可用线性无关的的任意元素表示，对内积空间它的一组线性无关的基空间中任一向量都可

8、用在,)(baCxfRn. 0)sin,(cos)sin,(sin)cos,(coskjjxkxjxkxjxkx时，即当.d)()()(),( xxgxfxgfba线性相关和线性无关的函数系 定义3.6 设函数 ,如果存在一组不全为零的数 使( ) , ,(0,1,2)kxC a bknk0011( )( )( )0nnxxx 成立,则称函数系 是线性相关的,否则称 是线性无关的.0( )nkx0( )nkx0011( )( )( )0nnxxx 时当且仅当即：0 n10中的一个子集，记作的全体是是任意实数，则中的线性无关函数，且是若,)()()()(,)(,),(),(11110011011

9、0baCxaxaxaxSaaabaCxxxnnnn.,12函数族上的就是，例如，线性无关线性无关baxxxn,span110n线性无关的充要条件。（下面给出判断函数族1)-n,0,1,2,kk. , 1spannnxxH 0),(),(),(),(),(),(),(),(),( ),(111101111101101000101nnnnnnnnGG0.)det(,2 . 30Gn线性相关，根据定理其中行列式它的是上线性无关的充要条件在定理, 0, )(, )(2 . 31110nnGGramerbaxx., .)(*)(,span)(* ,)(:00线性无关线性无关其中其中在某种度量意义下最小在

10、某种度量意义下最小使得误差使得误差求求对对函数逼近问题函数逼近问题baCxxfxbaCxfnn .,12函数族上的就是，例如，线性无关线性无关baxxxn3.2 3.2 函数的最佳平方逼近函数的最佳平方逼近使为系数的多项式以要求得作最佳平方逼近，就是次多项式用设nkkknkkxaxsxbaCxf0*n*1*00k)(*a ,a,a as(x)n ,)( .,)()(* s(x)-(x)mind)(*)( )(s-f(x) 22)(222*最佳平方逼近多项式最佳平方逼近多项式次上的在为则称nbaxfxsfxxsxfxnHxsba s(x)-(x)mind)(*)()()(s-f(x) ), 1

11、, 0(a ),(22)(222*kfxxsxfxxnkxnHxsba使要求是对于给定的权函数推广到一般的情况，就. , 1span, 1)(0nnnnkkkxxHxxxaxsn构成的一类函数，即合为基函数所做的线性组是以次多项式注意：3.2 3.2 函数的最佳平方逼近函数的最佳平方逼近nkkkxaxsnbaCxf0*)(* ,)(次多项式设 .)()(* ,d)()()(mind)(*)()( )(* ,span ,)(2)(20最佳平方逼近函数最佳平方逼近函数上的上的在集合在集合为函数为函数则称则称，满足，满足若存在若存在，设设 xfxsxxsxfxxxsxfxxsbaCbaCxfbaxs

12、ban . , 1spannnxxH 进一步推广：进一步推广： 3.6)( s(x)-(x)mind )()()( )(s-f(x) 22)(20*22*fxxaxfxxxsbankkk即nkkkxaxs0*)()(*使得即求系数问题归结为求,)(*0*knkkkaaxsxaxfxaaIbankkknd)()(),( 200 .取得极小值取得极小值, 0d )()(2),( 00 xaxfxaaaIkbanjjjnk ,),(),(),( ),(),(),(),(),(),(),(),(),(1010101110101000nnnnnnnnfffaaa .,10法方程法方程称为的线性代数方程组

13、这是关于未知数naaa),1,0(),(),0nkfaknjjkj（即有，从而得到有唯一解法方程故法方程系数行列式线性无关因),1,0(0, *0nkaaGkknn)()()()(*1*10*0*xaxaxaxsnn.)()(*,上的最佳平方逼近函数在集合是法方程确定的反之xfxs2*2( ) ( )( )( ) ( )( )bbaaDxf xs xdxxf xsxdx*2*2( ) ( )( )2( )( )( ) ( )( )( ) ( )( )0bbaabax s xsxdxx sxs xf xsx dxx s xsxdx0,)( ,)njkjkjaf （(3.10) . ),(|)(|

14、 *),(),(*)*,(|)(| :0*2222nkkkfaxfsfffsfsfx平方误差则，如果令)()(*xsxf特例 若取( )(0,1,2, ),( )1, , 0,1kkxxknxa b则法方程为nnnxaxaaxsnH*1*0*)(次最佳平方逼近多项式中求要在kkkjkkjddxxfxfjkdxx1010)(),(,11),（这时nndddaaannnnn1010121211121312111211dHa ,1211111131211211 ,1)(, 1span 1 , 0)(,nnnnnHnxxxCxfn可得法方程系数矩阵次最佳平方逼近多项式的中关于的在求函数一般地.Hilb

15、ert称为矩阵 例 设 求f(x)在区间0,1上的一次最佳平方逼近多项式.( ),0,1,xf xexx a a(x)10s1) 1 ,(),(1000edxeffdx解解 设设 由于由于1),(),(1011dxxexffdx故法方程为故法方程为11e103121211aa解得解得69030903. 1)3(6,873127313. 010410eaeaxxs69030903. 1873127313. 0)(* 平方误差为平方误差为06277. 00039402234. 0)3(6) 1)(104(210211002222所以eeedxedadafx . ),(|)(| |)(|0*2222

16、nkkkfaxfx.1)(, 1span,141)( 的最佳平方逼近多项式的最佳平方逼近多项式中的关于中的关于上的在上的在在在求求 xxxxf 练习练习,),(),(),(),(),(),( ,)(, 1 10101101100010*110 ffaaxaaxpx得法方程得法方程设所求设所求已知已知解解, 80311271064213215321543 aa .,a.135882710)(*1xxp .0001082. 0)(d|)(| :135888031127271012241 xxx 平方误差平方误差 . ),(|)(| |)(|0*2222nkkkfaxfx,

17、 .Hilbert矩阵 是著名的病态矩阵)4(时n用正交函数系作最佳平方逼近用正交函数系作最佳平方逼近 1112111 ,231111121nHnnnn3.3 3.3 正交多项式正交多项式次正交多项式。的上带权是并称，序列上的正交多项式为权函数的是以则称满足若多项式序列上的权函数为次多项式的上首项系数是设nxbaxgbaxxgxgkjkjAkjdxxgxgxxgxgbaxnabaxgnkbakjnn)(,)( .,)(),(),(), 1 , 0,(,0)()()(),(),( ,)(,0,)( 1010定义3.7定义3.7性质1利用Cramer行列式可得。性质2证明：( ),( ),kkgx

18、a bgxa b1、假设在区间()内没有根，则在区间()上恒正或恒负。00( )( ) =( )( )( )d,bkkagxgxx gx gxxa b则（，）在区间()上恒正或恒负,与正交性矛盾。121( ),( )( )( - )kkkgxa bxgxgxx x2、假设在区间()内有重根 ，则是一个k-2次多项式，与正交。2111( )( )( )0,( ),0,( - )( - ) ( - )kkkkgxgxgxgxx xx xx x矛盾。1212( ),( )( )()()(),( ),kjkjgxa bxxxgxq x xxxxxxq xa b3、假设在区间()内只有j(k)个根 、

19、、 、 ，其中在区间()内恒正或恒负。121212222120( ),()()()( )()()(),()()()( ),() ()()0;kjjjjgxxxxxxxq x xxxxxxxxxxxxq xxxxxxx矛盾。( ),kgxa b综上所诉：在区间()内有k个单实根。性质3简要证明：( )1k 1kxgx是首项系数为 ，最高次为次的多项式，于是可写成：10( )( )( )kkkjjjxgxgxc gx( )kgx等式两边同时与做内积可得：,kkkkkxggcgg,=,kkkkkxggcgg即( )(2)ig x ik等式两边同时与做内积可得：,kiiiixggcg g ,=,=0k

20、ikixgggxg而=0ic即1( )kgx等式两边同时与做内积可得：1111,kkkkkxggcgg111111111,=,kkkkkkkkkkkkkxgggxgggcgggggg即1.kkkxgkgkg最后一个等号是因为首项是系数为1的 次多项式，所以可以写成加次数低于 的多项式之和，后一部分与 的内积为0绍几类。交多项式序列，下面介逐个正交化手续立得正利用由上的权函数一般来说，只要给定, 1 , )(,nxxxba3.3.2 勒让德勒让德(Legendre)多项式多项式 ), 2 , 1 , 0( ,) 1(dd!21)( 1)(20nxxnxPxPnnnnn.) !(2)!2(!2)1

21、()12(22nnnnnnannn 其首项系数其首项系数 ), 2 , 1 , 0( ,) 1(dd)!2(!)(12nxxnnxPnnnn 为勒让德多项式的首项系数为多项式。次勒让德（称为正交化所得正交多项式时，序列权函数为当区间为)n, 11)(,1 , 1Legendrexxxn的重要性质：勒让让德多项式2() ()(1),(1)0= 0 1,()1,1nnkxxknQxm证 ：令则，。设是 区 间上 有阶 连 续 可 微 的 函 数 ， 做次 分 部 积 分 ： . ,122, , 0d )()( 11nmnnmxxPxPnm正交性(1)111()(1 )1111()111()()d(

22、)()d()()d2!2!1()()()d2!nnnnnnnnPxQxxxQxxxQxxnnxQxxn ()()n()0 ,nQxQx( 1 ) 若是 次 数 小 于的 多 项 式 ， 则所 以11()()d0nmmnPxPxx当时 有()()221( 2) !( 2) !()()(),()2!2(!)2(!)nnnnnnnnnQxPxxxQxnnn( 2 ) 若则， 于 是1112()222221112221222220(1 )( 2) !( 2) !()d()d(1)d2(!)2(!)( 2) !( 2) !2(!)22c o sd22(!)2(!)( 21 ) !21nnnnnnnnnn

23、nnPxxxxxxnnnnnttnnnn . )() 1()( xPxPnnn奇偶性(2).n)1 , 1()( 个互异的实零点个互异的实零点内部有内部有在在 xPn(3) ), 2 , 1( ),(1)(112)(,)( , 1)( 1110nxPnnxxPnnxPxxPxPnnn递推关系(4),330(35x 81(x)P ),35(21)( ),13(21)( 2443322xxxxPxxP可得. )()()()( 111100 xPxPxPxxPnnn 可设可设证：证：0 (0,1,2)().jjn，正交性0().n奇偶性),(212),(212),(),(111111nnnnnnnn

24、nnnPaaPnxPPnPPPxP )!2() !(2)!1(2)!22(122212 221nnnnnnnn .12)12(221212 2 nnnnnnn)!1(2)!1(2) !(2)!2(),(),(21211111 nnnnaaPPPxPnnnnnnnnn )(1)(112)(11xPnnxxPnnxPnnn.121)12)(22()1(2 2 nnnnn性质性质53.3.3 切比雪夫切比雪夫(Chebyshev)多项式多项式切比雪夫多项式.切比雪夫多项式.次次称为称为正交化所得正交多项式正交化所得正交多项式，序列，序列权函数为权函数为区间为区间为n, 111)(,1 , 12nxx

25、xx .0),cos()(cos ), 2 , 1 , 0, 11( ),arccoscos()( nxTxnxxnxTnn，则若令可表为 ,34)(, 12)arccos2cos()(,)cos(arccos)(, 1)0cos()(332210 xxxTxxxTxxxTxT :切比雪夫多项式的性质切比雪夫多项式的性质 ).()(2)( ,)( , 1)( ) 1 (1110 xTxxTxTxxTxTnnn递推关系1).(n,2)(1 nnnxxT的系数为的系数为的最高次幂的最高次幂 . ,cos . 1 ,)1cos(coscos2)1(cos 即得递推关系式即得递推关系式代入代入事实上，

26、只需由事实上，只需由 xnnnn21211(2) :( ) 1,1( )10, , 1 ( )( )d/ 2, 0, 1, 0.nmnT xxxmnTx T xxmnxmn正交性在区间上带权正交，. ;)( )3(的偶次幂的偶次幂只含只含为偶数时为偶函数，且为偶数时为偶函数，且当当的奇次幂的奇次幂只含只含为奇数时为奇函数，且为奇数时为奇函数，且当当奇偶性奇偶性xnxnxTn ), 2 , 1( ,2)12(cos n1 , 1)( )4(nknkxxTkn 个不同的零点个不同的零点上有上有在在. 11 ), 2 , 1 , 0( ,cos 1n1 , 1)( )5(称为交错点组称为交错点组，和

27、最小值和最小值轮流取得最大值轮流取得最大值个不同的极值点个不同的极值点上有上有在在kknxnknkxxT 3.3.4 其他常用的正交多项式其他常用的正交多项式1. 第二类切比雪夫多项式第二类切比雪夫多项式2. 拉盖尔多项式拉盖尔多项式3. 埃尔米特多项式埃尔米特多项式21x区间为-1,1,权为xe区间为0,+ ,权为2x 区间为- , ,权为e3.4 3.4 用正交函数系作最佳平方逼近用正交函数系作最佳平方逼近01( ),( ),( ),( )( )( )0bkjkjagx g xxggx gx gx dxjk设是以为权的正交函数系，即0,0,1,2,nkjkjkggaf gj则法方向组的系数

28、矩阵为对角矩阵，*,=,0,1,2,kkkkkf gaakgg于是可解得0,*( )( ).,nkkkkkf gsxgxgg所以最佳平方逼近函数为*01*0011( ) , ,(0,1,) kkanf xC a bgga ka ga g这里每个与 都是无关的，因此对于函数与正交函数系按上面的公式逐个计算出即可以得出一个级数（3.28）01( ),f xggFourierFourier这个级数称为对应于基函数的广义级数；系数称为广义系数；*0,( )( )nnkkknsxa gx对于任意固定的其部分和称为广义多项式，就是所求的最佳平方逼近多项式.*0011( )( )( )( )f xFouri

29、erf xa gxa g x当级数（3.28）是函数对应的广义级数时，记为( )f x在一定条件下，级数收敛于，这时上式中的可以改为等号. 1,cos ,sin ,cos2 ,sin2 ,xxxxFourier例如，当基函数系为三角函数族时，对应的级数就是通常的级数.( ) 1,1kkf xCgP x当时，可以用勒让德多项式做基函数 = ( ),可以得到相应的级数*0011( )( )( ) f xa P xa P x（3.29）1*1,21( ) ( )d,2kkkkPfkaf x P xxP P其中( )( )f xf x当（3.29）右端级数收敛到时，称该级数为按勒让德多项式的展开式；*

30、0,( )( )nnkkknsxa P xn对于任意固定的其部分和是-1,1上的一个 次多项式，就是一勒让德多项式为基函数的所求的最佳平方逼近多项式.122*22102|( )d() .21nnkkfxxak此时平方误差注：区间为-1,1时才能用上述方法,22a babbaxt若区间为,则可以通过变量变换转化为区间-1,1的情形。3.5 曲线拟合的最小二乘法曲线拟合的最小二乘法 3.5.1 3.5.1 最小二乘曲线拟合的概念最小二乘曲线拟合的概念 对于对于f(x)f(x)插值问题插值问题, ,要想提高精度要想提高精度, ,就要增加就要增加节点节点, ,因此多项式的次数也就太高因此多项式的次数也

31、就太高, ,计算量过大计算量过大, ,而而节点少节点少, ,多项式的次数低多项式的次数低, ,但误差精度不能保证但误差精度不能保证, ,为为了消除误差干扰了消除误差干扰, ,取多一些节点利用最小二乘法确取多一些节点利用最小二乘法确定低次多项式近似表示定低次多项式近似表示f(x),f(x),这就是这就是曲线拟合问题曲线拟合问题. .中找一个函数类的比重），要求在函数（表示数据及权函数选取线性无关的函数族对于给定的数据最小二乘问题一般提法,),)(),(, ), 1)(,(: 00miiimiispanyxxxNiyx，)( )(* m*1*10*0Nmaaaxm. )()(min )()( | )(*21)(121*222NiiiixNiNiiiiixyxxyxx满足使 . )()(),( , )()(*2100*0*取得极小值使得即求系数问题归结为求NimkikkiimjmkkkxayxaaIaxax常以误差加权平方和最小常以误差加权平方和最小为度量标准为度量标准imiijijNiikijikjyxxyxxx01)()(),( )()()(),