第6讲谱估计4.最大熵法

1、最大爛谱估计(AR模型和线性预测)在一定条件下，ARMA或MA模型可以用阶次为无穷大 的AR模型来近似。条件是：信号是平稳的，且方差 为有限值。由于ARMA和MA模型参数确定需要求解非 线性方程，而AR模型参数用线性方程即可求岀，因 此AR模型被研究和使用得最多。 Burg提岀最大爛谱估计(Maxiinuin Entropy Spectra Estimation) , Van Den Bos证明了对一维高斯平稳 信号，AR谱、线性预测和最大爛谱等价。主要内容最大爛谱估计的基本原理最大爛谱估计与AR模型谱估计、预测误差滤波法 等效最大爛功率谱的计算（AR模型参数的计算）最大爛谱估计（AR模型）的

2、稳定性和阶数的确定有附加噪声的AR过程的谱估计.'最大爛谱估计的特点最大爛的基本思想：就是根据已知数据信息，在不进行任何新的假设（不增加任何虚假信息）的情况下，合理地预测未知延迟离散时间上的相关函数。即在根据已知信息外推相关函数时，每一步 都保持未知事件的不确定性或爛为最大。H = eIj = YPj logio 丄=土Pj 1。&0 Pj>1Pi >1信息量可见爛是消息源发出每个消息的平均信息量。对于高斯分布的随机变量，布卡乔夫证明了其爛和 自协方差矩阵间存在关系：H = ilogl0detc 当时间序列为零均值时，爛和自相关函数之间存在 关系：当过程为无限长时，

3、用爛率作为信息的度量H1h 二胆 R =胆 I 吨。det RI 茄时间序列功率谱密度和爛率的关系： 力弓In竺+寺：1世(/)酚 时间序列的频率范是卜fc, fc从最大爛原理出发进行谱估计若已知自相关函数Rx(m)的前2M+1个序列值，则选择未知自相关函数要使：dH =o U>M + 13R、(m)'心(1)心(0)心(M-1)dHadet7?v(M + l)l o&&&(M-2)=0迟(M +1)dRx (M +1)&(M + l)K(M)&(1)从而可以外推岀Rx(M+l)o并依此类推得到其它自相 关函数值。于是功率谱sx(f) =

4、TRx(m)e-Jmrl=Y>>M + 1若选择- = 0dRx (m)f - j2 吋nfT可以得到df = o m>M + lSAf)整理后得到R3灼</Mi工 cQ =G“ G；(r) n=-MZAn 一 2£ 一 2£M g(0)g*(0)|g(0)|2 '1M令荀”Q<m<M-M血Ohn=-M【最小相位淇零点都在单位圆之内）最大相位】G”G；（A） = 绻爲（丄）Z PmZMyg2/+工最大爛谱估计Sx(f) =m=lAR谱和最大爛谱估计等价M对于M阶AR模型：x(n) = akx(n -k) + e(n)R=1兀S)的

5、估值估施差输入视为e(n),输出视为x(n),则系统函数为：1M=M中A=1 +为务厂恥)k=i设激励信号e(11)为零均值，方差为，的白噪声序列,功率谱密度为Pn，则数据序列X(I1)的功率谱为：sx(f)AR-H(ej2yPn即AR谱估计为：s“ar =.2而PJ4Mk=M1+2严如k=l2可见，序列的最大爛功率谱和AR模型拟合所对应的功率谱是等价的，并且Plt = PMT = - 由于咕爲所以吠阿、 AR参数和旨相关函数Rx®）之间的关系为:M（ 2你37）=旷 m=0z1° 加= 1,2,MYJeHMker方程。AR模型谱估计实质是模型参 的辨识问题。姒预测误差滤波

6、法和最大爛谱估计等价预测：由随机序列x(n)过去和现在的M个值来预测下一个取样值x(n+l)o即 x(n +ax(n + l-k)通过合理选择预测系数，使预测均方误差达到最小 确定出的M阶F1R滤波器，称为数字预测滤波器。I、八AM预测误差为:心）=兀（）7（"）=工4叫（料Qk=0当估值均方误差达到最小时，满足正交原理。即Ee(n) x(n - m) = E (x(n) 一 x(n)x(n -m) = 0 简化后，得：LMRx (m)=工 0")7?(加一£)m = 0，1，2,，M最小预测误差功翠为：k=、E耕)= 尤=却幺(洲=国 e(n)(x(n) + 工

7、 af xn k)(M=E e(n)x (n) = E兀() +工£) x ri)kbi)= 7?x(0) + <X(l) + X + + qJ7R(M)I合并整理，得到:恥0）心心R、(M) 1 一 P（M厂min&心(0)心Rx (M -1)牢）0心2)心（0）R、(M 2)A-甥）0A(M)Rx (M - 2)心0)q(m)L M0可见，对同一数据列用AR模型和预测误差滤波所解得的参数值是完全相同的。预测误差滤波器是一个白化滤波器，滤波器的系统_MP«)TMk=函数为：“z）=1+£°严）厂k=p卜（"旳）j27tfkTx（

8、n）的功率谱可求得：S3）-“2利用Yule-Walker方程求解系数卅丿很困难，因为要 进行矩阵求逆运算。改进方法包括：Levinson-Durbin递推算法；（需要从时间序列x（n） 的有限个数据得到其自相关函数的估计值九（肋,可 能在计算AR参数时引入很大误差，导致谱线分裂与 谱峰偏移等现象。）Burg算法；（提出利用前、后向预测误差功率之和 最小的方法来求得反射系数，进而求得预测误差滤 波器系数。对应于格形滤波器。）最大爛（AR模型）谱估计的稳定性和阶数确定 阶数确定：必须正确选择模型的阶数。阶数M估计得太小，对序 列长度N的序列的最大爛谱估计会过分平滑，不能给 出足够的分辨率，结果可

9、能仅岀现被测信号中最易 预测，变化最缓慢的频率点的峰值。阶数M估计得太 大，拟合会产生急剧变化和振荡，所得的谱估计具 有虚假的细节。在低噪声或无噪声时，AR模型的阶 数过分大，将会发生谱线分裂现象。-阶数最优（用M°pt表示）的选取准则：1. 最终预测误差（FPE）准则零均值情况下，Akaike给出使FPE最小的估值公式FPE(M)=N + M +1 p(M)N M+lM为AR模型的阶数，N为信号采样点数，P（m）为预测 误差功率。'非零均值情况下，FPE（M） = N + M严）N-M2. 信息论(AIC)准则Aka ike提岀最佳阶次的选择应使下式为最小值:AZC(M)

10、= ln(P(M)+2M/v"AIC准则和FPE (最终预测误差)准则的关系是:hmFPE(M) = AIC(M)3. 自回归(CAT)传递函数准则parzen提出最佳阶数的选择应使得精确预测滤波 器和近似预测滤波器输出的预测误差之差的估值 为最小。即使CAT(M) =丄土牛-理謬 最小。结论：信噪比较高时，上述三种方法确定的阶数M基本一 致。当信噪比较低时，三种方法结果不同，给岀的 M值偏低，其中以FPE方法较为正确。最优阶数的计算：上述各准则所确定的阶数，都可以在计算预测滤波 器参数的每一次递推中求出。由于最大爛谱估计与预测滤波器等价，而对于预测滤波器 中的喘)，存在o<C

11、+1)<C因此在算出新值后 与以前的值作比较，若新值比以前的值大，则终止 迭代，得到最优阶数叫仇。AR模型谱估计的稳定性 AR模型稳定的充要条件是其转移函数丹二右的M极点都在单位圆内，即仏）=1+2>才 的根在单位k=圆内。-可以证明，此时Yule-Walker方程中系数矩阵（自 相关矩阵）是正定的。 AR模型对应的预测滤波器中0<C+1）<C反射系数|礙）|<1有附加噪声的AR过程的谱估计P在原有AR (p)过程y(n) = -£aky(n-k) +心)上附加均值k=为0,方差为元，并与y无关的白噪声。即x(n) = y(n) + cori)这时x(n

12、)不再是严格意义上的AR过程，其自相关函 数为 Rx (m) =(n) + w (n) y(n + m) + w(n+m) = Ry (m) + cr(m)c22J+/4功率谱为Sg)二s) + b： =|W),2A(严)令b詔3(厂)=冼+ bjA(z)A(C),则sd3b(厂)4如)因此可以将x(n)看成一ARMA过程，其等效的白噪声 驱动源的平均功率为时，既不等于尤，也不等于元 等效的MA分支为B(z),与A(z)同阶数但不同参数， 因此x (n)是一个ARMA (p, p)过程。若仍对x(n)数据按AR (p)模型进行谱估计，结果将 偏离真实谱SQ),得到一个趋于平坦化的谱。这种 平滑现象与分优的大小有关，允越小，越接近原来 的AR功率谱；忙此越小，功率谱越平滑。可见，AR 谱估计的分辨率随着信噪比的减小而减小。当信噪比给定时，AR谱估计的分辨率需要用增大模型 阶次的方法来改善。克服AR谱技术在实际应用中限制的方法包括:(1) 改用ARMA(p,p)模型；r - /(2) 噪声补偿法：估计出6爲尺(加)=&(加)+帀(加)”删去 缺点是可能使自相关矩阵失去正定桂,从询增 大谱估计的方差。(3) 用维纳滤波器对数据滤波，增强噪声中的信号;(4) 采