大学数学实验基础知识(清华大学)

Contents

差分方程和数值微分实验................................................................................4

1.1差分方程的基本定义...........................................................................4

1.2一阶线性常系数差分方程.......................................................................4

1.3高阶线性常系数差分方程.......................................................................4

1.4线性常系数差分方程组.........................................................................5

1.5非线性差分方程...............................................................................5

2数值微分........................................................................................5

插值与数值积分|........................................................................................6

1插值与拟合....................................................................................6

1.1插值与拟合的基本概念.....................................................................6

1.2三种插值方法.............................................................................6

2数值积分........................................................................................8

2.1数值积分的基本思路.......................................................................8

2.2三种常用数值积分方法.....................................................................8

常微分方程数值储|.....................................................................................10

常微分方程的初值问题............................................................................10

2.初值问题的数值解法.............................................................................10

2.1欧拉方法.................................................................................10

2.2龙格-库塔方法............................................................................11

常微分方程组和高阶方程初值问题的数值方法.................................................11

2.3龙格-库塔方法的MATLAB实现.............................................................12

2.4算法的收敛性、稳定性分析................................................................12

刚性现象与刚性方程.........................................................................13

线性代数方程组数值解法|...............................................................................13

线性代数方程组的一般形式和解法..................................................................13

2.求解线性代数方程组的直接法...................................................................13

2.1高斯消元法..............................................................................13

2.2LU分解..................................................................................14

2.3解的误差分析P95..................................................................................................................................................14

3.求解线性代数方程组的迭代法...................................................................15

3.1雅可比迭代法............................................................................15

3.2高斯-赛德尔迭代法........................................................................15

3.3迭代法的收敛性和收敛速度................................................................15

3.4超松弛迭代..............................................................................16

4.超定线性代数方程组的最小二乘解..........................................................16

4.1超定线性方程组的概念....................................................................16

4.2最小二乘准则............................................................................16

4.3最小二乘解..............................................................................16

4.4基函数的选取............................................................................17

MATLAB实现.....................................................................................17

|非线性方程求解|.......................................................................................17

1非线性方程（组）的定义及特点.....................................................................17

2非线性方程的基本解法..........................................................................18

2.1图形法和二分法..........................................................................18

2.2迭代法...................................................................................18

2.3牛顿法...................................................................................19

3非线性方程组的牛顿法、拟牛顿法................................................................19

4用MATLAB工具箱解非线性方程(组)...............................................................20

4.1fzero的基本用法.........................................................................20

4.2fsolve的基本用法.........................................................................21

4.3roots的基本用法..........................................................................22

无约束优化|...........................................................................................23

1.无约束优化的基本原理、解法.................................................................23

1.1无约束优化的一般形式....................................................................23

1.2最优性条件..............................................................................23

1.3下降法的基本思想........................................................................23

1.4用MATLAB优化工具箱解无约束优化问题...................................................23

2.非线性最小二乘拟合的基本原理、解法.........................................................25

2.1非线性最小二乘拟合问题..................................................................25

2.2非线性最小二乘拟合问题的解法...........................................................25

2.3用MATLAB优化工具箱解非线性最小二乘拟合问题...........................................26

约束优化|.............................................................................................27

11.线性规划的基本原理、解法......................................................................28

1.1线性规划的图解法........................................................................28

1.2线性规划的标准形........................................................................28

1.3基本可行解..............................................................................28

1.4线性规划的基本性质......................................................................28

1.5单纯形法的基本思路......................................................................28

1.6线性规划解的几种可能....................................................................29

1.7用MATLAB优化工具包解线性规划.........................................................29

2.非线性规划的基本原理、解法....................................................................31

2.1非线性规划的一般形式....................................................................31

2.2可行方向与下降方向......................................................................31

2.3最优解的必要条件........................................................................31

2.4二次规划的一般形式......................................................................32

2.5二次规划的有效集方法....................................................................32

2.6用MATLAB优化工具包解二次规划.........................................................33

2.7非线性规划的解法........................................................................34

2.8用MATLAB优化工具包解非线性规划.......................................................34

数据的统计与分羽.....................................................................................36

1统计的基本概念.................................................................................36

2频数表和直方图.................................................................................37

3统计量.........................................................................................37

4统计中几个重要的概率分布......................................................................38

4.1分布函数、密度函数和分位数.............................................................38

4.2统计中几个重要的概率分布...............................................................38

4.3MATLAB统计工具箱(Toolbox'Stats)中的概率分布P246................................................................................39

5正态总体统计量的分布..........................................................................39

6.用随机模拟计算数值积分........................................................................40

6.1两种方法................................................................................40

6.2重积分的计算............................................................................40

6.3MATLAB实现.............................................................................40

统计推断.............................................................................................40

1、参数估计......................................................................................40

概述.........................................................................................40

1.1点估计...................................................................................41

1.2点估计的评价标准........................................................................41

1.3总体均值的区间估计......................................................................42

1.4总体方差的区间估计......................................................................44

1.5参数估计的MATLAB实现..................................................................44

2、假设检验......................................................................................45

概述.........................................................................................45

2.1均值的假设检验..........................................................................45

2.2方差（或标准差）的假设检验.............................................................46

2.3两总体的假设检验........................................................................46

2.40-1分布总体均值的假设检验..............................................................47

2.5总体分布正态性检验......................................................................47

2.6假设检验与Matlab命令汇总...............................................................49

差分方程和数值微分实验

1.1差分方程的基本定义

差分方程是在离散时段上描述现实世界中变化过程的数学模型。

现实中的问题通常是连续变化的，但我们常常只能在离散的时间点上对其进行观测和描述。为了表述这一类的

数学模型，我们引入了差分方程的方法。

1.2一阶线性常系数差分方程

一阶线性常系数差分方程的一般形式

凝+i=aXk+b9k=0,1,2,---

差分方程的平衡点

代数方程x=+B的根x=£

差分方程的解

x.=+b----,k=0,1,2，…

1-a

&b人

=敢=ca+---k=0,1,2,…

1-af

其中c=x。-』-由初始值X。和以&确定

平衡点稳定的条件

若尢T8时敌fX,则平衡点“稳定，否则平衡点X不稳定。

平衡点稳定的充要条件是|&<1

1.3高阶线性常系数差分方程

高阶线性常系数差分方程的一般形式

/线+*+%与+*一1+…+*凝+1+anxk=b,k=\,2,-

特征方程

/兄*++•—F即_]4+a*=0

特征根

4,4,…，4

平衡点

b

X-----------------------

%+-一,+%+%

差分方程的解

X=.才+.港+…+c*若+x,jt=12…其中5q由初始值勺,…,x”确定

平衡点稳定的条件所有特征值的模均小于1(用roots(c)——c:多项式的系数(降幕)P125)

1.4线性常系数差分方程组

当我们研究的对象是若干变量构成的一个向量的离散动态过程时，就需要引入差分方程组来描述，详见前面对

一阶或高阶线性常系数差分方程的描述。

平衡点----X=Ax+b

稳定条件：A的所有特征根小于1(eig)

1.5非线性差分方程

对于非线性差分方程：%+1=/(线),上=0,1,2,…

平衡点即为代数方程y=/(y)的根/

对/在/点作为W”展开，保留线性项，可得近似线性方程：

4+1=/'(/)(九-力+1/,，=0,12…

若|f(丁)|<1M对近似线性方程和原非线性方程都是稳定平衡点

若『⑶">1/对近似线性方程和原非线性方程都不是稳定平衡点

2数值微分

数值微分是用离散方法近似地计算函数y=f(x)在某点x=a的导数值。常用公式有：

前差公式

/'(a)三.(*)二误差为0伊)

h

后差公式

f\a)=■/(-一■/♦一划误差为。(&)

h

中点公式

/,⑷S.经+：)_/(、一二误差为0(&2)

2h

三点公式

函数y=/（x）在等间距力的分点而<^<■</上用离散数值表示为y°Ji，…，入

在中间点内,…,冬”

八凝）/“二%，左=1,2,…速一1

2k

在两个端点而，底

“敌）=%。+”「乃,2-4%1+3%

2h2h

插值与数值积分

1插值与拟合

1.1插值与拟合的基本概念

插值与插值函数：已知由g"）（可能未知或非常复杂）产生的一批离散数据（演,乃）,i=…*,且〃+1个

互异插值节点a=而<再<叼0••</=",在插值区间内寻找一个相对简单的函数/（X）,使其满足下列插

值条件：

—=乂2=0,1,…/

再利用已求得的/。）计算任一非插值节点/的近似值y,这就是插值。其中称为插值函

数，/（乃称为被插函数。

最小二乘拟合：已知一批离散的数据（X”乃）「=°工…》，号互不相同，寻求一个拟合函数/（X）,

使,（不）与万的误差平方和在最小二乘意义下最小。在最小二乘意义下确定的/（X）称为最小二乘拟合函数。

1.2三种插值方法

1）Lagrange插值法

a.待定系数法：假设插值多项式4（力=%/+即_1二-1+-%X+劭，利用待定系数法即可求得满足

插值条件4（玉）二必…*的插值函数。关键在于确定待定系数即，%一…,即。

b.利用基函数的构造方法首先构造北+1个满足条件：4（。）=%的%次插值基函数％（x）,再将其

线性组合即可得如下的Lagrange插值多项式：

JL.(x-X,)

勺⑶=立4_*、

J-0(公一xj)

其中i=0,1，…，修

c.Lagrange插值余项

2伊+1)(?»

凡(X)=g。)一4(x)=V—n"一不)^e(a,b)

j-o

注：上述两种构造方法所得的Lagrange插值多项式是一样的，即满足插值条件4（石）=必'二°，1，.，阀的

Lagrange插值多项式是唯一的。Lagrange插值会发生Runge现象。

2）分段线性插值

作分段线性插值的目的在于克服Lagrange插值方法可能发生的不收敛性缺点。所谓分段线性插值就是利

用每两个相邻插值节点作线性插值，即可得如下分段线性插值函数：

X

4（x）=2Mx）

2-0

其中

次①当XjiWxV不时，且7=0时舍去

xi-X

/式力=<士迎当玉WxW%时，且7=曲舍去

0其它

特点：插值函数序列“*©｝具有一致收敛性，克服了高次Lagrange插值方法的缺点，故可通过增加插值节

点的方法提高其插值精度“但存在于节点处不光滑、插值精度低的缺点。

3）三次样条插值

三次样条插值的目的在于克服Lagrange插值的不收敛性和提高分段线性插值函数在节点处的光滑性。所

谓三次样条插值方法就是在满足下列条件：

a式x）eC[a/]

b.式x）在每个子区间[工_1，否3=12…,％上是三次多项式的三次样条函数中寻找满足如下插值条件：

S（&）=MJ=0,1,­•,«

一及形如s（而）=S（勺）=0等边界条件的插值函数s（x）的方法。

特点：三次样条插值函数序列式工)一致收敛于被插函数，因此可通过增加节点的方法提高插值的精度。

4)插值方法的Matlab实现

a.对于Lagrange插值必须自编程序

b.低次插值的Matlab命令

分段线性插值：

y=interp1(xO,yO,x),其中输入离散数据xO、yO、x,输出对应x的插值y。

三次样条插值：

y=interp1(xO,yO,'spline')

或

y=spline(xO,yO,x)

其中，x0>yO、x和y的意义同上。

2数值积分

2.1数值积分的基本思路

我们先来回忆定积分的定义

/=『/OAx=lun&4=t4

■ak-1«

此处，当M充分大时4就是1的数值积分

本章中各种数值积分方法研究的是费如何取值，区间(明毋如何划分，

使得既能保证求解的精度，又能使计算量较小。

以后介绍的各种数值积分方法都基于我们在引入微积分时所采用的矩形公式法。

2.2三种常用数值积分方法

1)梯形公式

悌形公式*=〃号％+&4+公其中a=三为积分步长。

悌形公式和矩形公式的区别在于：

它在计算面积时不是单纯地取左端点或右端点的函数值，

而是将每个小区间段端点的函数值取平均。

因此和矩形公式比较，它有更好的精度，

进一步的分析表明，梯形公式看的误差为层阶。

2）辛普森公式

为了进一步提高精度，可以用分段二次插值函数代外（X）。

由于每段要用到相邻两个小区间端点的3个函数值，所以小区间的数目必须是偶数，记"=2加承=

对于第尢段的两个小区间，我们用三个节点02上,加）依“1）,小“2J如2S）构造二次插值函数SR（X）,

积分可得S式X"X=I力.+4石“1+力"2）。

“x”3

求切段之和就得到辛昔森公式：

卜M-1M-1h-a

s*=W（/+4,+4Z；4w+2Z4JA=-

3k-oJUI2m

进一步的分析表明，辛普森公式乂的误差是川阶的。

3）高斯求积公式

代数精度

用嘉函数作为被积函勤，以近似积分与精确值是否相等作为精度的度量指标，有如下定义：

设/（x）=x*，用4=E4/（xQ计算/=若对于无=0,1，…,也都有/*=/,而当尢=搐+1

时4。I,则称的代数精度为如

例如梯形公式的代数精度根=1,因为尢=1时=方=?3+“）,二者相等

2

而上=2时,1x%x=g（9-a，，Tx=+a）,二者不等。

类似地，我们可以证明辛普森公式的代数精度为3。

高斯公式

高斯公式取消了对节点的限制，按照代数精度最大的原则，同时确定节点电和系数4。

对于/=Cj（xWx,构造求积公式G2=4/（X1）+4/（盯）。按照定义，我们要求：

对取（X）=1，X，/，「J（x/x=都成立，物（X）代入计算可得

J-1

A1+A2=2

4勺+4叼=o

4无;+4后=|

/鬲+4勾=o

解出玉=-9，弓=9，4=4=1,即得高斯公式32=/（-爰）+4爰），代数精度为3。

用*个节点，G*的代数精度可达2万-1,但是需要解复杂的非线性方程组，实用价值不大。

Gauss-Lobatto公式P60

4)数值积分的Matlab实现

trapz(x)

用梯形公式计算(h=1),输入数组X为各区间端点的函数值。

trapz(x,y)

用梯形公式计算，输入x,y为同长度的数组，输出y对x的积分(步长可不相等)。

quad(*fun',a,b,tol)

用自适应辛普森公式计算，输入被积函数fun可以自定义如exp(-x.八2),也可以是fun.m命名的函数

M文件，积分区间(a,b),绝对误差tol,输出积分值。

quadl('fun，,a,b,tol)

用自适应的Gauss-Lobatto公式计算，其余同上。

常微分方程数值解

常微分方程的初值问题

常微分方程初值问题是指设有

<

y(x0)=y0

其中已知函数对、满足Lipschitz条件，即存在常数£使|/0，%)-f(x,y2)|<Z|^-%|以保证方

程组的跖=y(x)存在且唯一。在满足Lipschitz条件下求解方程组称为一阶常微分方程的初值问题。

所谓求方程组的数值解，就是计算(精确)腌G)在一系列离散点X0Vxi<X?<X；,<…的近似

值,通常我们选取相等的计算步长我,于是x*=殉+nh(n=1,2,…)。

2.初值问题的数值解法

2.1欧拉方法

欧拉方法的基本思想

欧拉方法的基本思想是在小区间风6皿］上用差商史立二丛2代替,⑸，丽(xJ(x))中的X取区,小J

h

的某一点，于是y(诟+D=y(xJ+VO,y(x)),xe［%,Xz］。五取［々,/+J内不同的点，可以得到不同的计算公式。

向前欧拉公式

苟("(*))中的X取区间区/2］的左端点X*,即/(Xx，1y(x*))。将的近似值记为W即入NJCG

招则得到向前欧拉公式)丁1=%+/(%〃)。向前欧拉公式为显式公式，具有一阶精度。

向后欧拉公式

苟X”。))中的x取区间以"J的右端点X”类似可得向后欧拉公弧+i=乃,+怒0"+1以+1)。向后欧

拉公式实际上是从％iJa向后算出%当函数/(XJ)对y非线性时，通常只能用迭代法求解方程，故为隐式

公式，计算量比向前欧拉公式大得多，它的精度也为一阶。

改进的欧拉公式

将前面两种公式平衡一下，即可得到模形公式以"=入+，1/（相,〃）+1/。.”,八+1）］,显然模形公式也为

隐式公式。但我们不妨用£“=〃+型（X",凡）来预测等式右边的八T，就可以油剑改进的欧拉公式，它具有

两阶精度。改进的欧拉公式：居+1=〃+夕加*,八）+/（%1，%+1）］

精度归纳：

向前1阶向后1阶梯形2阶改进欧拉2阶

0（h-p+l）----p阶精度

2.2龙格-库塔方法

龙格-库塔方法的基本思想

在前面的欧拉公式中向前向后欧拉公式各自只用了区间区,x*+J一个端点的导数，而在梯形公式和改进

欧拉公式中，我们把上的两个导数取平均，得到了最高的精度。这就启发我们用风上若干个

点的导数，对它们作线性组合得到平均斜率，就可能得到更高阶的精度，这就是龙格-库塔方法的基本思想。

龙格-库塔方法一般形式

龙格一库塔方法的一般形式：

%+1=乂+至砧

2-1

A=/（""）

<

质=/（5+。2白匕自）

2-1

-=/（/+cihtyn+m2%号）i=3,4,…,L

川

其中和%为待定参数，在满足f4=1,0<Cj<1，号附=1的条件下使上式的局部截断误差首项中〃的嘉

2-1/・1

次尽量高。若4+1=。陋"1）,则称上式为£级p阶龙格-库塔公式。

经典的龙格-库塔方法

经典的龙格-库塔方法（4级4阶龙格-库塔公式）如下，它具有4阶精度，但收敛速度比较慢。

片+1=分+7^1+2占+2k3+kJ

0

的=/（4，居）

店=热+?必+学）

刍=川+/+孕I

*4=/（x,+h,yK+hkz）

常微分方程组和高阶方程初值问题的数值方法

P73\74

高阶方程，需要先降阶化为一阶常微分方程组

2.3龙格-库塔方法的MATLAB实现

对于微分方程(组)的初值问题

r

心共丸"%x=(x1,--,x,),/=0；.

[x(4)=x(),X。=(%,…,Xo*)「

龙格一库塔方法可用如下Matlab命令实现其计算：

[t,x]=ode23(@f,ts,xO,options)

[t,x]=ode45(@f,ts,xO,options)

其中ode23用的是3级2阶龙格-库塔公式，ode45用的是以Runge-Kutta-Fehberg命名的5阶4阶公式。

命令的输入f是待解方程写成的函数M文件：

functiondx=f(t,x)

dx=[fl;f2;...;fn];

若输入ts=[tO,tl,t2,..tf],则输出在指定时刻tO,tl,t2,…,tf的函数值；若输入ts=tO:k:tf,

则输出在[tO,tf]内以k为间隔的等分点处的函数值。xO为函数初值(n维向量)。0Ptions可用于设定误差限

(options默认时设定相对误差ICT',绝对误差10考,命令为：

options=odeset('reltol1,rt.'abstol1,at)

其中rt,at分别为设定的相对误差和绝对误差.

命令的输出t为由输入指定的ts,x为相应的函数值(n维向量)。

注意：计算步长h是根据设定误差限自动调整的，并不是输入中指定的输出“步长”k。

2.4算法的收敛性、稳定性分析

收敛性分析P81

当计算步长/70时，数值解居无限接近微分方程初值问题的解析曲(覆)。向前向后欧拉公式、改进欧

拉公式、4阶龙格-库塔公式都是收敛的，它们的整体误差分别为。(》,0(加),0(川)。

稳定性分析P81

稳定性是讨论计算中舍入误差是否随步数的增加无限增大。

对于一种数值算怯，若乂的误差q|^|n算法稳定

对于一阶微分方程/=/(%>),若在某一点(//♦)作二元泰勒展开，略去2阶及2阶以上项得

y'=/(x,,1/)+工"+力(/,>/)(>-1/),

再经过简单的代换，可化成如下的方程进行讨论：y'=-Ay,A>0

它的解析解是y①，其中c是初始条件决定的常数，4>0保证微分方程本身的稳定性。

向前欧拉公式〃+M(x*,M)=。-A㈤匕=J”=(1-砌j

2

|£屈引£*|=|1-刈41=匕]

向后欧拉公式乂+]="-切ijkl=j+l=11,q0=为取任意值均可

经典龙格-库塔公式经证明，稳定性条件是女x翌

向后欧拉公式无条件稳定

刚性现象与刚性方程

精度一一慢稳态解的特征根决定步长一一快稳态解

快慢稳态解衰减速度（两个特征根）相差悬殊一一刚性现象一一刚性方程

求解ode23s,odel5s

线性代数方程组数值解法

线性代数方程组的一般形式和解法

含n个未知数、由n个方程组成的线性方程组可表示为

+巧*4=4，

<%1演+%HI-=b2,

。"内+%与+…+

I办=（%）*，x=（演,…,x*）r,&=（兄…也）r,则线性方程组也可表示为人*4的形式，其中A为系数矩阵。

求解线性方程组的方法一般有两类，直接法和迭代法。

直接法经过有限次算术运算能求出精确解（不考虑舍入误差）或者判定解不存在的方法.主要包括高斯

消元法和1-吩解。

迭代法从某个初始近似解出发，通过逐次得到的近似解去逼近准确解的方法。主要包括雅可比方法和高

斯-赛德尔方法。

2.求解线性代数方程组的直接法

2.1高斯消元法

高斯消元法

高斯消元法分消元和回代两个步骤，先依次消元将原方程组Ax=b的系数矩阵转化成上三角矩阵，再

依次回代求出方程组的所有解。

高斯消元法的第一次消元过程如下

再+如M+…+/M”=瓦，4；%+*%+…+槛（=镇,

一式再+%叼+…+%M*=J,碗兀+…+珊x*=6孔

+%通+…+%*演=bxa^x2+…+4?x*=以2）.

类似如上步骤，依次进行梢元（每次消元过程相当于在方程组两边左乘了一个对角线为1的下三角

矩阵），最后可以得到这样的形式：

•*%+*X2+…+*5=半，

,a的+…+a肛=缪，

喝“漕）

解该方程组中第n个方程，得到%的值，再依次向上回代即可解出方程组的所有解。值得注意的是在消元

过程中要保证或（i=l,2,-,«）,等价于《的所有顺序主子式不为0。

列主元消去法

实际上，在用高斯消元法解线性方程组的过程中，即使或）wO（左=1,2,…,以但是其绝对值很小时，

用它作除数也会导致较大的舍入误差。所以在进行第k步消元时，不论蹴）是否为o,都在第k列选择w钟

（i=匕…避）最大的一个作为主元（称为列主元），将其所在行与第k行交换后再按上述方法进行下去，称

为列主元消去法。

2.2LU分解

LU分解和Choiesky分解

由上面对高斯消元法的讨论知，若A可逆且顺序主子式不为0,则A可分解为一个单位下三角阵L和一

个上三角阵U的积，BPA=LU»这种分解是唯一的，称为矩阵的LU分解。对应地，若A可逆，则存在交换阵

P使PA=LU,其中L为单位下三角阵，U为上三角阵。

对于某些特殊矩阵，例如正定对称矩阵A,它可分解成对角元素为正下三角阵L与它的转置矩阵之积，

即人=1或人=1讥3,其中L是单位下三角阵，D是元素为正的对角阵。这种分解称为三角分解或Choiesky

分解。

求解三对角线性方程组的追赶法

在三次样条插值和其他一些计算中，常常会遇到系数矩阵A具有三对角的形式，这种矩阵的LU分解可

表示为：

Aq

“2”2

%-1%

%

其中L和U的计算公式为

叫-1

.%=4-匕_1i=2,3,--,n

线性方程组人*=£可通过等价的两个三角形线性方程组L尸f和Ux=y求解如下：

x=正

卜=工

［必=/-，1%-1，i=2…，附_"1。内+1._1__1

入i-注1,，1