版高考数学一轮复习第章计数原理、概率、随机变量及其分布.随机事件的概率学案理

1、目 录_Toc358458784摘 要IIAbstractIII第一章 绪论31.1 引言31.2 Lyapunov计算方法的定义3第二章 基于神经网络的Lyapunov指数谱的计算32.1 相空间重构32.2 Oseledec矩阵的确定32.3 QR分解32.4 小波神经网络32.5 基于RBF神经网络的Lyapunov指数谱计算方法32.6 Lyapunov指数实验计算代码32.6.1确定嵌入维数32.6.2确定延迟时间32.6.3计算Lyapunov指数普32.7 Lyapunov指数仿真实验结果32.7.1 实验一32.7.2 实验二3小 结3总 结3参考文献3致 谢3摘 要 Lyap

2、unov指数是衡量系统动力学特性的一个重要定量指标,它表征了系统在相空间中相邻轨道间收敛或发散的平均指数率。对于系统是否存在动力学混沌, 可以从最大Lyapunov指数是否大于零非常直观的判断出来: 一个正的Lyapunov指数,意味着在系统相空间中,无论初始两条轨线的间距多么小,其差别都会随着时间的演化而成指数率的增加以致达到无法预测,这就是混沌现象。利用RBF 神经网络的非线性函数逼近能力, 由实验观察数据列计算系统的Lyapunov指数谱实例计算表明, 此种方法精度较高且计算量较小, 有重要的实际意义.关键词: Lyapunov 指数谱; 相空间重构; 人工神经网络AbstractLya

3、punov exponent is an important measure of system dynamics quantitative indicators, It is characterized by the average rate in the phase space between adjacent tracks convergence or divergence. For the existence of chaotic dynamics, can be very intuitive judgment from the largest Lyapunov exponent is

4、 greater than zero: a positive Lyapunov exponent, means that the system in phase space, regardless of the initial two-rail line spacing, however small, the difference will cannot predict As time evolved exponential increase in the rate of so reached, which is chaos. Lyapunov exponents are one of a n

5、umber of parameters that characterize the nature of a chaotic dynamical system. We calculate the Lyapunov exponents from an observed time series based on the ability that a RBF neural network can approximate nonlinear functions. The results show that this method needs less computing time and has hig

6、her precision, so it has practical significance.Keywords: Lyapunov exponents; Reconstruction of phase space; Artificial neural network24第一章 绪论1.1 引言混沌系统的基本特点就是系统对初始值的极端敏感性，两个相差无几的初值所产生的轨迹，随着时间的推移按指数方式分离，Lyapunov指数1就是定量的描述这一现象的量。Lyapunov指数是衡量系统动力学特性的一个重要定量指标,它表征了系统在相空间中 相邻轨道间收敛或发散的平均指数率。对于系统是否存在动力学混沌

7、, 可以从最大Lyapunov指数是否大于零非常直观的判断出来:一个正的Lyapunov指数,意味着在系统相空间中,无论初始两条轨线的间距多么小,其差别都会随着时间的演化而成指数率的增加以致达到无法预测,这就 是混沌现象。Lyapunov指数的和表征了椭球体积的增长率或减小率,对Hamilton系统,Lyapunov指数的和为零; 对耗散系统,Lyapunov指数的和为负。如果耗散系统的吸引子是 一个不动点,那么所有的Lyapunov指数通常是负的。如果是一个简单的m维流形(m = 1或m = 2分别为一个曲线或一个面) ,那么,前m个Lyapunov指数是零,其余的Lyapunov指数为负。

8、不管系统是不是耗散的,只要1 0就会出现混沌。在非线性动力系统分析中,系统的全部Lyapunov指数称为Lyapunov指数谱,它表示相空间中每一维相邻轨道如何随时间分离,具有拓扑映射不变性,且与系统的初始状态无关,是对系统进行刻划和分类的重要指标需确定Lyapunov指数的系统分为两种情况,一种情况是已知系统满足的微分方程或映射关系,另一种情况是只知道实验观察到的数据L在这两种情况下,人们确定其Lyapunov指数的方法不同，对第一种情况,可有规范的方法精确求出系统的Lyapunov指数。假设系统的映射关系为:W (k + 1) = (W (k ) ) (1-1)轨道的扰动满足:W (k +

9、 1) = F (W (k ) ) W (k ) (1-2)其中,是D维空间的映射ZD(W ) 是D D 阶雅可比矩阵,选择一初始状态, 可得到l个矩阵的乘积:D l = D ( l) D ( l - 1) D (1) (1-3)其中,D (k ) = D (W (k ) ) Z 根据Oseledec乘积遍历性定理13 , 系统的Lyapunov指数谱为矩阵 (1-4)本征值的对数。其中T表示矩阵的转置。可利用数值方法求出(1-4)式所示矩阵的本征值,进而求出由映射。从实验观察到的数据确定系统的Lyapunov指数, 可采用Wolf方法5和BBA 4 方法等。其中Wolf方法仅适用于求系统的最

10、大Lyapunov指数,BBA法可求出系统的全部Lyapunov指数,但此种方法运算量很大,而且需要的数据点很多,使其应用受到很大限制。1.2 Lyapunov计算方法的定义设在点平均每次迭代所引起的指数分离中的指数为，显然当时，动力系统关于点具有敏感的依赖性。为初始点经过次迭代后的相点，于是原相距的两点经过次迭代后相距为 (1-8)取极限，得： (1-9) 根据这一原理可以采取跟踪初值相近的两个邻近点演化轨道距离的变化来估计Lyapunov指数。根据初始邻近点的选取，以及跟踪方法的不同又有不同的计算方法。第二章 基于神经网络的Lyapunov指数谱的计算2.1 相空间重构在实验中，对一个多维

11、系统的测量，往往得到的只是一维时间序列。假设对一个确定的动力系统的观测函数为，经过采样后，得到一个单变量的时间序列，其中表示时刻的观测值，为采样时间间隔，为采样起始时间。利用时滞方法可以通过这样一个时间序列在维欧式空间构造一条轨道： (2-1)其中称为嵌入维数，为时滞，是的整数倍，的选取原则是使与之间的相关性最小。根据Taken相空间重构定理12，一般的，如果（其中为原来动力系统的相空间维数），那么得到的就是原来动力学系统相应的一条轨道到中的嵌入。由此可以得到上的一个动力学系统： (2-2)通过研究此系统的性质就可以了解原来动力学系统的性质。需要指出的是，嵌入维只是相空间重构的充分条件，而非必

12、要条件，确定嵌入维有很多种方法，比较常用的是Grassberger-Procaccia相关积分法13。2.2 Oseledec矩阵的确定（2-2）式的映射关系可以写成以下形式： (2-3)令，显然有关系： (2-4)其中是未知映射，若（2-2）式出现微小扰动，则可以得到： (2-5)其中为映射的雅科比矩阵，其形式为： (2-6)上述矩阵的最后一行满足： (2-7)确定雅科比矩阵的过程即为确定（2-7）式的过程。（2-5）式表明，对于重构的相空间向量,它在时刻的微小变化，在雅科比矩阵的作用下，将反映到时刻重构的相空间向量取值的微小变化。依次下去，这种作用将累加到时刻相空间向量取值的变化，其关系如

13、下式表示： (2-8)上式可改写为： (2-9)同样根据Oseledec乘积遍历性定理9，可以构造出式一样的矩阵，当时，则可得到： (2-10)求出上述矩阵的本征值就可求出实验观察数据所反映系统的全部Lyapunov指数。2.3 QR分解在实际应用中，由于（2-10）式定义的矩阵存在着指数和分数幂，此矩阵往往是病态的，难以直接精确计算它的全部本征值。本文采用长乘积矩阵的分解技术对（2-10）式进行求解。首先定义： (2-11)对此长乘积矩阵，递归计算 (2-12)式中为正交矩阵，为上三角矩阵，是阶单位矩阵。按（2-12）式所示过程分解次，得到矩阵的分解如下： (2-13)定义 (2-14)由（

14、2-13）式得到： (2-15)按（2-12）（2-15）式表示的过程重复进行下去，得到一系列矩阵，它们都具有相同的本征值，当时，矩阵的本征值可以通过下式求出： (2-16)进而求得系统的Lyapunov指数谱为： (2-17) 由以上过程可以看出，欲求出实验数据列重构系统的Lypunov指数谱，就要求出（2-10）式中的每个雅科比矩阵。而系统雅科比矩阵具有（2-6）式所示形式，所以问题的关键在于确定每个雅科比矩阵的最后一行矩阵元。下面讨论小波神经网络模型求解该问题。2.4 小波神经网络小波神经网络起源于小波分解，小波神经网络是多层前馈式网络，由一个输入层，一个或多个隐含层，一个输出层组成。每

15、层节点的输入只接收来自上层节点的输出信号。小波神经网络的输入层节点数和输出层节点数由具体问题决定，隐含层数及每层节点数的选取目前还没有确切的理论方法，通常是凭对学习样本和测试样本的误差交叉评价的试错法选取。从目前已有的国内外资料看，还做不到实际应用小波网络。有人分析了其原因，认为有三：一是小波网络出现的时间较晚，二是小波网络需要较高的数学知识，三是没有一个实用的小波网络模型的软件。下面简要介绍小波神经网络的结构和学习算法。式（3-4）的连续形式可写为： (2-18)上式表明框架在中是稠密的。式中，为小波基的个数。于是有如下的所有有限和的全体 (2-19)在中是稠密的。比较式（2-18）与式（2

16、-19），显然式（2-19）中的参数个数比式（2-18）多，式（2-18）与式(2-19)分别称为小波分解与小波网络。在小波分解中，如果基函数固定，则只有系数是可调参数，而在小波网络中，和均为可调参数，这使得网络学习非线性函数较为灵活，可以满足较高的逼近精度要求，这也恰恰体现了小波逼近的精髓。式（2-19）与下式等价 (2-20)对于具有个输入的多输入网络，式（4-20）变为： (2-21)其对应的网络结构如图21所示（考虑到本论文的目的，只画出了一个输出值的情况）。图21：小波神经网络结构示意图对于输入输出为的个样本对，我们的目的是确定网络参数，使得与两序列拟合最优，其中参数可以通过下述误差

17、能量函数进行优化 (2-22)在本文中，采用人们使用较多的Morlet母小波，即： (2-23)网络学习的具体算法如下：（） 网络参数的初始化：将网络的伸缩因子，平移因子以及网络的连接权重和赋予零附近的随机的初始值；（） 输入学习样本及相应的期望输出；（） 利用当前网络参数计算出网络的输出： (2-24)（） 修改网络参数值： 计算 (2-25) (2-26) (2-27) (2-28)其中： (2-29)令 (2-30)（2-25）（2-27）中由下面式子确定： (2-31) (2-32) (2-33)网络参数值修改如下： (2-34) (2-35) (2-36) (2-37)为学习速率，由

18、人为设定。（） 计算误差和： (2-38)（） 返回第（2）步，向网络加下一个模式对，直到个模式对均循环一遍，再进行第（7）步；若（预先设定的某值）或达到最大训练步数，则停止训练；否则，令，返回第（2）步。2.5 基于RBF神经网络的Lyapunov指数谱计算方法本文采用具有个输入节点，一个输出节点和一个隐含层的三层小波网络。对一个一维的时间序列通过重构产生训练样本集合：，初始化网络的伸缩因子，平移因子以及网络的连接权重和赋予零附近的随机的初始值。通过对样本的学习，使神经网络的实际输出在一定的精度范围内与理想输出相同，这样可以利用此小波网络的输入输出关系 (2-39)代表实际的映射关系式。若小

19、波网络已经训练完成，就可以计算输出函数对自变量的一阶偏导数： （2-40）其中 (2-41)这样，通过（2-40）式可计算雅科比矩阵（2-46）式中最后一行矩阵元的数值。按同样的方法计算所有雅科比矩阵最后一行矩阵元，也就确定了所有的雅科比矩阵，进而可以按式（2-8）（2-18）计算实验观察数据所反映系统的Lyapunov指数谱。2.6 Lyapunov指数实验计算代码2.6.1确定嵌入维数function It=Correlation(X,Taomax)I=zeros(Taomax,1);L=length(X);for t=1:Taomax I(t)=(X(1+t:L)-mean(X)*(X(

20、1:L-t)-mean(X)/(L-t)/(X-mean(X)*(X-mean(X)/L);endplot(I);for i=1:Taomax if I(i)1/2.71828 It=i; break endend2.6.2确定延迟时间functionEmbedingDimensional(X,tao,M)%E=zeros(M,1);U=E;L=length(X);form=1:MY=;N0=tao*m+1;fori=1:m+1Y=YX(N0-(i-1)*tao:L-(i-1)*tao);endfori=1:length(Y)d0=10000;J=1;forj=1:length(Y)ifj=i

21、d=norm(Y(i,1:m)-Y(j,1:m);ifdd0d0=d;J=j;endendendifnorm(Y(i,m)-Y(J,m),inf)=0E(m)=E(m)+norm(Y(i,m+1)-Y(J,m+1),inf) rm(Y(i,m)-Y(J,m),inf);U(m)=U(m)+1;endendE(m)=E(m)/U(m)endfori=1:M-1EE(i)=E(i+1)/E(i);endplot(1:M-1,EE(1:M-1),-*);2.6.3计算Lyapunov指数普clear %clcS = csvread(Henon.csv);S = S(:,1);tao = 1;m =

22、6;R = ;for i = 1:m+1 R =R S(2001+(i-1)*tao:3000+(i-1)*tao);endX = R(:,1:m);Y = R(:,m+1);gam = 10000;delta = 0.4;N = length(Y)e = ones(N,1);Q = zeros(N,N);for i = 1:N for j = 1:N Q(i,j) = exp(-norm(X(i,:)-X(j,:)2/(2*delta2); endendP = inv(Q+1/gam*eye(N);b = e*P*Y/(e*P*e);a = P*(Y-e*b);d = m;J = zeros

23、(d,d);for i = 1:d-1 J(i,i+1) = 1;endTZZ = zeros(d,1);u0 = eye(d);for i = 1:tao:N for j = 1:N L0(1,j) = a(j)*Q(i,j); end for j = 1:d J(d,j) = -L0*(X(i,j)*ones(N,1)-X(:,j)/delta2; end u0,J0 = qr(J*u0); for j = 1:d TZZ(j) = TZZ(j)+log(abs(J0(j,j); end endTZZ = TZZ/N2.7 Lyapunov指数仿真实验结果2.7.1 实验一已典型的Logs

24、itic映射为例，按照上述方法计算它的Lyapunov指数谱。Logistic映射的表达式为： (2-42)取，此时为标准混沌，Lyapunov指数为0.693。以初值迭代产生的数据列为例进行计算。计算时去掉前面4000个数据点以消除那些从初始位置到吸引子的过渡点。另外，取，隐含层节点数为6。分别进行如下三种情况下实验。（1）分别取样本数为25，50，100，嵌入维数取1，迭代500次后计算Lyapunov指数，计算结果如表21所示。表 21 当嵌入维时logistic映射Lyapunov指数谱样本个数训练次数255000.8299505000.74371005000.7043注：logist

25、ic映射的实际Lyapunov指数为=0.693（2）分别在（1）中的样本数和迭代次数下对样本数据加入服从正态分布和噪声的情况下计算Lyapnov指数，结果如表2-2所示。表22 当嵌入维时logistic映射在加入噪声情况下的Lyapnov指数谱样本个数加入噪声训练次数255000.8571505000.78251005000.7139255000.8754505000.78071005000.7206注：logistic映射的实际Lyapunov指数为=0.693（3）取样本数为100，迭代次数为1000次，在嵌入维分别为的情况下的Lyapunov指数谱。结果如表23所示。表 23 在嵌入

26、维的情况下计算Lyapunov指数谱嵌入维训练次数110000.7208210000.6897-1.8055310000.6946-0.7652-2.6025410000.6898-1.1809-1.2414-1.3295注：logistic映射的实际Lyapunov指数为=0.693实验结果分析：（1） 由表21可见，当取100个样本训练次数500时计算的Lyapunov指数与真实值仅相差不到2%，仅取少量的样本点就可以比较精确地计算出Lyapunov指数。（2） 由表22可见，在序列中加入一定的白噪声下，计算Lyapunov指数的值与真实值有一定的差异，加入噪声的方差越大，则计算值偏离真实

27、值越大。但是差别不大，说明该方法在计算Lyapunov时具有一定的抗噪能力。当在样本数100和训练次数不变（500次）情况下分别加入和计算的结果与真实值相差3.5%和5%。（3） 由表23可见，当取不同嵌入维下，计算Lyapunov指数谱值，在最大的Lyapunov指数值与真实值相差很小，说明了在实际应用中计算系统Lyapunov指数值时可以取嵌入维数比较小的值，这样方便计算，大大减少训练时间。在计算最重要的最大lyapunov指数值上是有效的。（4） 通过以上实验表明本文提出的计算最大Lyapunov指数的方法是有效的，计算精度高，训练次数小。2.7.2 实验二以Henon映射为例，按上述方

28、法计算它的Lyapunov指数谱。Henon映射的表达式为： (2-43)当时，它是典型的二维混沌系统。以初值（0.25，0.25）迭代产生的的一维数据列为例进行计算，计算时去掉前面4000个数据点以消除那些从初始位置到吸引子的过渡点。分别进行如下三种情况下实验。在计算中均取。（1）分别取样本数为50，100，200，400，嵌入维数取，迭代500次后计算Lyapnov指数谱。结果如表24所示。表 24 当嵌入维时计算得Henon映射Lyapnov指数谱样本数训练次数5020000.3752-1.483910020000.4128-1.399320020000.4059-1.461640020

29、000.4241-1.2098注：henon映射的实际Lyapunov指数谱为，（2）分别在（1）中的样本数和迭代次数下对样本数据加入服从正态分布和噪声的情况下计算Lyapunov指数。结果如表25所示。表 25 当嵌入维时henon映射在加入噪声情况下的Lyapnov指数谱样本数加入噪声训练次数5020000.3512-1.361410020000.3871-1.414120020000.3900-1.661740020000.4106-1.62905020000.2815-1.495510020000.3268-1.680120020000.3158-1.378440020000.3452

30、-1.6082注：henon映射的实际Lyapunov指数谱为，（3）取样本数为100，迭代次数为1000次，在嵌入维分别为的情况下的Lyapunov指数谱。结果如表26所示。表26 在嵌入维的情况下计算Lyapunov指数谱嵌入维训练次数210000.3999-1.8204310000.3980-0.7186-1.4160410000.4598-0.3435-0.7361-1.7913注：henon映射的实际Lyapunov指数谱为，实验结果分析：（） 由表24可见，当分别取100，200，400个样本训练次数500时计算的Lyapunov指数与真实值相差很少，当增加样本数计算精度提高并不明

31、显，因此仅取少量的样本点就可以比较精确的计算出Lyapunov指数。（） 由表25可见，在序列中加入一定的白噪声，计算Lyapunov指数的值与真实值有一定的差异，加入噪声方差越大则计算值偏离真实值越大。由计算结果来看该方法在计算Lyapunov时具有一定的抗噪能力。（） 由表26可见，当取不同嵌入维下，计算Lyapunov指数谱值，在最大的Lyapunov指数值与真实值相差很小，说明了在实际应用中计算系统Lyapunov指数值时可以取嵌入维数比较小的值，这样方便计算，大大减少训练时间。在计算最重要的最大lyapunov指数值上是有效的。（） 比较文献14中用BP网络计算的结果来看，达到同样的

32、计算精度，所需的样本数大约减少一半，且计算时间大大小于用BP网络逼近的时间。这是因为小波网络相比BP网络拥有更多的修正系数，因此有更佳的非线性逼近能力。（） 重构后的系统很好的反应了原来系统的混沌性质，在最大Lyapunov指数上基本保持一致，因此可以从多维系统的一维序列来定量的研究原系统的混沌特性。（） 通过以上实验表明本文提出的计算最大Lyapunov指数的方法是有效的，计算精度高，训练次数小。满足了实际应用中样本数少的限制，以及对混沌现象的快速判定的要求。小 结Lyapunov指数在研究动力系统的分岔、混沌运动特性中起着重要的作用，是衡量系统动力学特性的一个重要定量指标，它表征了系统在相

33、空间中相邻轨道间收敛或发散的平均指数率。对于系统是否存在动力学混沌，可以从最大Lyapunov指数是否大于零非常直观的判断出来：一个正的Lyapunov指数意味着在相空间中，无论初始两条轨线的间距多么小，其差别都会随时间的演化而成为指数率的增加以致达到无法预测，这就是混沌现象。本文介绍了Lyapunov指数的定义、性质及计算原理和数值计算的实现方法，实例的计算机仿真表明Lyapunov指数是研究分岔、混沌运动，解决工程实际问题的有效方法之一。总 结通过跟踪邻近点的演化轨迹实现当前点的状态预测，短期预测可以达到提高预测精度。这其中邻近点的选择对预测结果影响很大。本文采取最小距离点作为邻近点，利用

34、其在相空间中的演化趋势预测当前点的演化行为，仿真结果说明了本文方法的有效性。混沌理论是非线性理论的重要分支学科，是现代非线性理论的一个重要组成部分，对于自然界和社会现象的认识有着不同于传统科学的思想，比如关于非直接因果关系的思想和关于简单和复杂，确定与随机统一的思想等，除了能够解释与说明传统科学理论所能解释与说明传统科学理论所能解释与说明的现象与问题之外，还能够解释与说明传统科学理论所不能解释与说明的许多复杂现象或问题，现已成为众多学科的研究前沿，具有很高的应用价值。本文的基于Lyapunov指数的时间序列预测也是很有社会经济效益的。时间序列预测是一个非常重要的实际问题，它应用于经济和商业规划

35、、货存和产量控制、天气预报、信号处理控制等其它领域，可以说为我们创造了很多经济效益。由于时间序列自身合理展现了易理解的行为，所以通常一组时间序列是由长期趋势再加上各种周期性的和随机成分的预测是时间序列预测问题的焦点。基于测量范围，非线性和混沌时间序列分析与预测正越来越成为复杂力学研究的依赖性工具。而且混沌时间序列预测与分析在混沌研究（包括混沌控制和混沌应用）中起到了非常重要的作用，混沌时间序列预测的目标也是为了准确预测混沌系统的近期演变。因此，将短期的预测应用到其他领域是现在研究人员的研究重点。具体的讲，譬如现有创造的社会成果：混沌时间序列预测及其混沌理论在通信信号调制识别中的应用、混沌预测理

36、论及其在VBR视频业务中的应用、基于最大Lyapunov指数的预测方法在太阳黑子数时间序列预测中的应用、黄河年径流序列多变量信息预测研究、大连降雨和气温时间序列的建模和预测仿真等等。因此，基于Lyapunov指数的时间序列预测是很好的预测方法，具有很好的发展前景。参考文献参考文献： 1 刘秉正,彭建华.非线性动力学M.高等教育出版社.2007:403-413 2 罗利军,李银山,李彤,董青田.李雅普诺夫指数谱的研究与仿真J.计算机仿真.2005,22(12):285-288 3 Hubertus F. von Bremen, Firdaus E. Udwadia, Wlodek Proskur

37、owski. An efficient QR based method for the computation of Lyapunov exponentsJ. Physica D. 1997, 101:1-16 4 Firdaus E. Udwadia, Huertus F.von Bremen. Computation of Lyapunov characteristic exponents for continuous dynamical systemsJ. Z. angew. Math. Phys. 2001, 53:123-146 5 Alan Wolf, Jack B Swift,

38、Harry L. Swinney, John A. Vastano. Determining Lyapunov exponents from a time seriesJ. Physica D. 1985, 16:285-3176 田宝国，姜璐，谷可.基于神经网络的Lyapunov指数谱的计算J系统工程理论与实践2001.8，9-137 李冬梅，王正欧基于RBF网络的动力系统Lyapunov指数的计算方法J信息与控制2004，5，523-5268 贺国光，万兴义基于最大Lyapunov指数的交通流仿真数据混沌状态识别J自动化技术与应用.2003，22（4），8-109 Greene J M，K

39、im J SThe calculation of Lyapunov spectra J Physical D1987，24：213-22510 赵学智，邹春华，陈统坚，叶邦彦，彭永红小波神经网络的参数初始化研究J华南理工大学学报2003，2，31（2）：77-7911 Brown R , Bryant P , Abarbanel . Computing the Lyapunov exponents of a dynamical system from observed time seriesJ . Phys ReA ,1991 ,34(4) :2787 - 2806.12 Takens FDetecting strange attractors in turbulence：Dynamical systems and turbulence MSpringer 198113 Brans J P，Vincke PMaresehal BHow to select and how to rank projects：The PROMETHEE methodJEuro J Opl