系统辨识前期数学必备知识

Conditionalprobability：P(AIB)—P(B)'*乘法公式:P(AB)二P(A)P(BIA)二P(B)P(AIB).Totalprobability:P(A)=丫P(B)P(AIB).jjj=1Bayesformula:P(BIA)=.其中P(B.)为先验概率，P(BIA)为后验概_njjYP(B)P(AIB)jjj=1率。Independenceevent：P(AB)=P(A)P(B).设随机试验的样本空间为S={e}，若X=X(e)为定义在样本空间S上的实值单值函数，则称X=X(e)为randomvariable。Discreterandomvariable：两点分布X~B(1,p)•binomial分布：X~B(n,p)•P(X=k)=Ckpk(1—p)n-k•whenpisenoughsmallandnnisenoughbig,thenwehaveX~兀(np)•e-九九k③Poisson分布：X〜兀(九).P(X=k)=-^T，k=CkCn-kP(X=k)=―a_N—a,k=°丄….④hypergeometricdistribution:CnDistributionfunction:AssumeXbearandomvariableandxisarealvalue,thenthefunctionF(x)=P(X<x)wascalledtheprobabilitydistributionfunctionofX,shortly,distributionfunction.Properties:⑴单调不减；⑵右连续，F(x+0)=F(x).Asforcontinuousrandomvariable，wehaveF(x)=Jxf(t)dt*wheref(x)isprobability—gdensityfunction.

Andf(x)isnonnegativerealvaluefunction。,xg(a,b)<b-a0,others②normaldistribution:X〜N(PQ2),f(x),xg(a,b)<b-a0,others②normaldistribution:X〜N(PQ2),f(x)二1e\.；2兀(x—1)22a2.③exponentialdistribution:x〜E(九)f(x)二九e-心,x>00,x<0④gammadistribution:X〜r(a,卩),f(x)=Pe-Px(卩x)a-l、o,x>0r(a)-where0,x<0r(a)=J+8e-xxa-idx,r(a)=(a-1)r(a一1).0随机变量函数的分布函数已知X的分布，求Y二g(X)的分布。F(y)=P(Y<y)=P(g((x)<y)=if(x)dx.Yg((x)<y二元随机变量(X,Y)，分布函数F(x,y)二P{X<x,Y<y}.条件分布函数：F(yIx)二P{Y<yIX=x}.YIXii亠F(yIx)=limP{Y<yIx<X<x+6}.或YIX6—0+边缘分布f(x)=卜f(x,y)dy,f(y)=卜f(x,y)dx.XY—g—g条件分布F(yIx)=Jyf(%：：)dv.YIX-gf(x)X若X,X,,X.且X〜N(P,a).则工aX〜N(工a卩，工a2a2).12niiiiiiiiii=1i=1i=1最值分布M=max(X,Y),N=min(X,Y).F(t)=P{max(X,Y)<t}=P{X<t,X<t}=F(t,t).M当X,Y独立时，F(t)=F(t)-F(t).MXYF(t)=1-P{min(X,Y)>t}=1—(1—F(t))-(1-F(t)).NXYE(X)=J+8xf(x)dx.E(g(X))=J+8g(x)f(x)dx.E(h(X,Y))=f+Mh(x,y)f(x,y)dxdy.—g—8—8若X,Y独立，则有E(XY)=E(X)-E(Y).条件数学期望E(YIX=x)=J+8yf(yIx)dy.—8YIXTotalexpectationformula：E(Y)=E[E(Y|X)]=J+8E(Y丨X=x)f(x)dx=J+8J+8yf(x,y)dydx.X—8—8—8方差D(X)=Var(X)=J+8(x-E(X))2f(x)dx.—8Var(X)=E(X2)-(E(X))2.协方差cov(X,Y)=E(XY)—E(X)E(Y).定义：设S是样本空间，P是概率，TuR，如果对任意twT,X(t)是S上的随机变量，则{x(t),teT}是S上的随机过程。X(t,e)：TxSTR固定t，X(t,•)是随机变量，固定e，X(t,•)T的函数而已，称为随机过程的样本函数或样本轨迹，或随机过程的一个实现。取遍T,组成状态空间。对任何teT,定义卩(t)=E(X(t)),屮2(t)=E(X2(t))Q2(t)=D(X(t))Q(t)=\；D(X(t)).XXXX'分别称为均值函数、均方值函数、方差函数和标准差函数。对任何t,seT，定义R(t,s)=E(X(t)X(s)),C(t,s)=Cov(X(t),X(s)).XX分别称为自相关函数和自协方差函数。显然有R,C都是对称二元函数，XX屮2(t)=R(t,t)Q2(t)=C(t,t),C(t,s)=R(t,s)—p(t)p(s).XXXXXXXX马尔科夫链定义1：设随机过程{X;n=0,1-}的状态空间I有限或可数，若其具有马尔科夫性，即n对任何i,•••,，,i,jeI有0n—1P{X=j|X=i，•…,X=i}=P{X=j|X=i}n+100nn+1nP{X二i，…，X二i}二P{X二iIX二i}P{X二iIX二i}•••P{X二iIX二i}P{X二i}00nnnnn-1n-1n-1n-1n—2n-2110000则称&;n=0,1-}是马尔科夫(Markovchain)链。n若以n代表现在的时刻，记A={X=i，…,X=i},B={X=i},C={X=j}00n-1n-1nn+1则A表示过去，B代表现在，C代表将来。则上式为P(CIAB)=P(CIB)oP(ACIB)=P(AIB)P(CIB)即在知道现在的情况下，将来与过去是独立的。也等价于对任何k>1,n<n<…n和任何i，…,i,i,jeI有TOC\o"1-5"\h\z01k+10k-1P{X=jIX=i，…,X=i}=P{X=jIX=i}nk+1n00nknk+1nk记p(m,m+n)=P{X=jIX=i}为m时处于状态i的条件下，经过n步转移到状态jm+nm/、c工p(m,m+n)=P{Xe11X=i}=1j的转移概率。则P..(m,m+n)>0且jm+nm集，每jj行之和为1•若P=P{X=jIX=i}不依赖于n，则称&}是时间齐次的马尔科夫链,jn+1nnPj称为从i到j的一步转移概率(one-steptransitionprobability)，可用状态转移图来表示步转移概率，P(n)=P{X=jIX=i}为马尔科夫链的n步转移概率。jn+mmn步转移概率性质p(n)=工p(l)p(n-l).jikkjkel设{X,neT}是马尔科夫链，称np=P{X=j},p(n)=P{X=j}.jeIj0jn为{X,neT}的初始概率和绝对概率，并分别称{p,jeI},{p(n),jeI}为{X,neT}njjn的初始分布和绝对分布，简记为{p},{p(n)}，称概率向量jjPt(n)=(p1(n),pjn),...)(n>0)为n时刻的绝对概率向量，而称PT(n)=(匕,〃2,…)为初始概率向量。例：设{X,n>0}是具有三个状态0，1，2的齐次马氏链，一步转移概率矩阵如右所示：n例，设例，设I二{1,2,3,4}，转移概率如图:1/21考虑图中的状态2和3,101034140412341414，初始分布p(0)二P｛X二i｝二3,i二0,1,234140412341414，初始分布p(0)二P｛X二i｝二3,i二0,1,2，试求(1)

03P{X二0,X02二1}；(2)P{X2=1}.0解：先求出二步转移概率矩阵：P2=125851631651612916116316140220二p⑵p(0)二；01048(2)耳⑵=P｛X2=1｝全概率公式P{X二IIX二0}P{X二0}+P{X二IIX二1}P{X二1}+P{X二IIX二2}P{X二2}20020020011二p(2)p(0)+p(2)p(0)+p(2)p(0)二-01011121224马尔科夫链的绝对概率具有下列性质：(2)p(n)二P{X(2)p(n)二P{X二j}=Yp(0)p(n)，全概率公式得。jniijp(n)二P{X二j}=£p(n—1)p.jnijie!(3)Pt(n)二Pt(0)P(n);(4)Pt(n)二Pt(n—1)P.定理设｛X,neT｝为马氏链，则对任意i，…,in1P｛X二i，…,X二i｝二工pp…pp.11nniii/i1n—1nieI由上述定理知，有限维分布函数由它的初始分布和一步转移概率唯一确定。若集合｛nIn>1,p(n)>0｝非空，则称该集合的最大公约数d二d⑴为状态i的周期，若iid>1，则称i是周期的，若d二1，则称状态i为非周期的。由定义知，如果i有周期d，则对一切非零的n丰0(modd)，都有p(n)=0.ii

易见状态2与3有相同的周期d二2，但是，从状态3出发，经两步必定返回到3；而状态2则不然：当2转移到3后，便再也不能返回到2.定义：记f(n)=P{X丰j,1<v<n-1,X=jlX=i},n>1且f(°)=0.表示质点由iTOC\o"1-5"\h\zijm+vm+nmij出发，经n步首次到达j的概率，称为首达概率。记ff(n)，标识质点由i出发迟早转移到丿的概率。ijijn=1若f=1，则称状态i为常返的；否则为非常返的。对于常返态，我们有以下定义:ii则称常返态i为正常返R=艺nf(n).表示由状态i再返回到i的平均返回时间。若卩<g,iii则称常返态i为正常返n=1的；若卩=8，则称为零常返的；非周期的正常返状态称为遍历态。i定理p(n)=ij艺f(n定理p(n)=ijijjjk=0例设I={123,4},其一步转移概率矩阵如右所示，试对其状态进行分类，确定哪些状态是常返态，并确定其周期。111-1oooOO0231-21-2O13111-1oooOO0231-21-2O13O1-21o1-2

丫a=P从图中易见，对一切从图中易见，对一切nni,f(n)=o,即f44=0<1.又，f⑴二,f(”)二°,n工2，所以44442111

f=厅<1-f二f