函数逼近和曲线拟合

关于函数逼近和曲线拟合第一页，共六十四页，编辑于2023年，星期日

当函数只在有限点集上给定函数值，要在包含该点击的区间上用公式给出函数的简单表达式，这些都涉及到在区间[a,b]上用简单函数逼近已知复杂函数的问题，这就是函数逼近问题。插值法就是函数逼近问题的一种第二页，共六十四页，编辑于2023年，星期日拟解决的问题：计算复杂的函数值已知有限点集上的函数值，给出在包含该点集的区间上函数的简单表达式函数逼近——对函数类A中给定的函数f(x)，记作要求在另一类简单的便于计算的函数类B中求函数使p(x)与f(x)的误差在某种度量意义下最小。逼近问题函数逼近曲线拟合第三页，共六十四页，编辑于2023年，星期日基本数学概念：定义1：设集合S是数域P上的线性空间，元素如果存在不全为0的数，使得线性相关，否则，若等式(1.1)只对则称成立，则称为线性无关。第四页，共六十四页，编辑于2023年，星期日若线性空间S是由n个线性无关元素生成的，即：为空间S的一组基，记为：则称并称该空间为n维空间。称为x在这组基下的坐标。例：n次多项式第五页，共六十四页，编辑于2023年，星期日连续函数不能用有限个线性无关的函数表示，故连续函数空间是无限维的，但它的任一元素可以用有限维的多项式逼近，使误差为任意小。定理1：设则对任何总存在一个代数多项式p(x),使在[a,b]上一致成立。第六页，共六十四页，编辑于2023年，星期日范数与赋范线性空间定义2：设S为线性空间，x是S的元素，若存在唯一实数，满足条件：则称为线性空间S上的范数。称为赋范线性空间。第七页，共六十四页，编辑于2023年，星期日例：n维向量空间上定义的三种范数：称为-范数称为1

-范数称为2

-范数第八页，共六十四页，编辑于2023年，星期日例：连续函数空间上定义的三种范数：称为-范数称为1

-范数称为2

-范数第九页，共六十四页，编辑于2023年，星期日例：求下列向量的1范数、2范数和无穷范数第十页，共六十四页，编辑于2023年，星期日内积与内积空间定义3：设X为数域K（R或C）上的线性空间，满足条件：称(u,v)为X上u与v的内积。定义了内积的线性空间为内积空间。若(u,v)=0,则称u和v正交。第十一页，共六十四页，编辑于2023年，星期日例例如：第十二页，共六十四页，编辑于2023年，星期日例其中为权函数，满足定义4（page68)第十三页，共六十四页，编辑于2023年，星期日正交函数定义5：既：f(x)与g(x)在[a,b]上带权正交。若函数族满足则称该函数族是在[a,b]上带权的正交函数族。时为标准正交函数族第十四页，共六十四页，编辑于2023年，星期日例如，三角函数族是在区间上的正交函数族。定义6：正交多项式(page70)第十五页，共六十四页，编辑于2023年，星期日逼近问题函数逼近曲线拟合第十六页，共六十四页，编辑于2023年，星期日实例：考察某种纤维的强度与其拉伸倍数的关系,下表是实际测定的24个纤维样品的强度与相应的拉伸倍数是记录:第十七页，共六十四页，编辑于2023年，星期日纤维强度随拉伸倍数增加而增加并且24个点大致分布在一条直线附近必须找到一种度量标准来衡量什么曲线最接近所有数据点(1)第十八页，共六十四页，编辑于2023年，星期日仍然是已知x1…xm

;y1…ym,求一个简单易算的近似函数P(x)

f(x)。但是①

m

很大；②

yi本身是测量值，不准确，即yi

f(xi)这时没必要取P(xi)=yi,

而要使P(xi)yi总体上尽可能小。使误差在某种度量意义下最小第十九页，共六十四页，编辑于2023年，星期日常见做法：

使最小/*minimaxproblem*/

太复杂使最小不可导，求解困难使最小/*Least-Squaresmethod*/第二十页，共六十四页，编辑于2023年，星期日最小二乘法的基本概念一般使用在回归分析中称为残差称为平方误差第二十一页，共六十四页，编辑于2023年，星期日在回归分析中称为残差平方和从而确定(1)中的待定系数注意(1)式是一条直线因此将问题一般化一般情况下第二十二页，共六十四页，编辑于2023年，星期日仍然定义平方误差第二十三页，共六十四页，编辑于2023年，星期日我们选取的度量标准是(2)(3)第二十四页，共六十四页，编辑于2023年，星期日第二十五页，共六十四页，编辑于2023年，星期日法方程组由可知因此可假设因此求最小二乘解转化为二次函数第二十六页，共六十四页，编辑于2023年，星期日由多元函数取极值的必要条件得即第二十七页，共六十四页，编辑于2023年，星期日(4)即第二十八页，共六十四页，编辑于2023年，星期日引入记号则由内积的概念可知(5)(6)显然内积满足交换律第二十九页，共六十四页，编辑于2023年，星期日方程组(4)便可化为(7)将其表示成矩阵形式(8)第三十页，共六十四页，编辑于2023年，星期日并且其系数矩阵为对称阵所以法方程组的系数矩阵非奇异,即根据Cramer法则,法方程组有唯一解第三十一页，共六十四页，编辑于2023年，星期日即是的最小值所以因此第三十二页，共六十四页，编辑于2023年，星期日作为一种简单的情况,基函数之间的内积为平方误差第三十三页，共六十四页，编辑于2023年，星期日例1.回到本节开始的实例，从散点图可以看出纤维强度和拉伸倍数之间近似与线性关系故可选取线性函数为拟合函数，其基函数为建立法方程组根据内积公式，可得第三十四页，共六十四页，编辑于2023年，星期日法方程组为解得平方误差为第三十五页，共六十四页，编辑于2023年，星期日拟合曲线与散点的关系如右图:第三十六页，共六十四页，编辑于2023年，星期日例2.求拟合下列数据的最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:从数据的散点图可以看出因此假设拟合函数与基函数分别为第三十七页，共六十四页，编辑于2023年，星期日6.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728通过计算,得法方程组的系数矩阵及常数项矩阵为Go!第三十八页，共六十四页，编辑于2023年，星期日用Gauss列主元消去法,得-1.0410-1.26130.030735拟合的平方误差为图象如图第三十九页，共六十四页，编辑于2023年，星期日例3.在某化学反应里,测得生成物浓度y%与时间t的数据如下，试建立y关于t的经验公式x=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:具有图示的图形的曲线很多，本题特提供两种形式第四十页，共六十四页，编辑于2023年，星期日例：xy(xi,yi),i=1,2,…,m方案一：设baxxxPy+=)(求a

和b

使得最小。=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…线性化

/*linearization*/：令，则bXaY+就是个线性问题将化为后易解a

和b。),(iiYX),(iiyx第四十一页，共六十四页，编辑于2023年，星期日方案二：设xbeaxPy/)(-=(a>0,b>0)线性化：由可做变换xbay-lnlnbBaAxXyY-====,ln,1,lnBXAY+就是个线性问题将化为后易解A

和B),(iiYX),(iiyx第四十二页，共六十四页，编辑于2023年，星期日两边取对数,得得即为拟合函数基函数为解法方程组得平方误差为第四十三页，共六十四页，编辑于2023年，星期日用最小二乘法得即无论从图形还是从平方误差考虑在本例中指数函数拟合比双曲线拟合要好平方误差为第四十四页，共六十四页，编辑于2023年，星期日定义权函数：①

离散型/*discretetype*/根据一系列离散点拟合时，在每一误差前乘一正数wi

，即误差函数

，这个wi

就称作权/*weight*/，反映该点的重要程度。=-=niiiiyxPw12])([②

连续型

/*continuoustype*/在[a,b]上用广义多项式P(x)拟合连续函数f(x)时，定义权函数(x)C[a,b]，即误差函数

=。权函数(x)必须满足：非负、可积，且在[a,b]的任何子区间上(x)0。加权最小二乘法第四十五页，共六十四页，编辑于2023年，星期日各点的重要性可能是不一样的重度:即权重或者密度，统称为权系数

定义加权平方误差为(9)第四十六页，共六十四页，编辑于2023年，星期日使得第四十七页，共六十四页，编辑于2023年，星期日由多元函数取极值的必要条件得即第四十八页，共六十四页，编辑于2023年，星期日引入记号定义加权内积(10)第四十九页，共六十四页，编辑于2023年，星期日矩阵形式(法方程组)为方程组(10)式化为(11)(12)第五十页，共六十四页，编辑于2023年，星期日平方误差为作为特殊情形,用多项式作拟合函数的法方程组为(13)第五十一页，共六十四页，编辑于2023年，星期日例：连续型拟合中，取则Hilbert阵！改进：若能取函数族={0(x),1(x),…,n(x),…}，使得任意一对i(x