研究生《通信原理》第一部分 信号

1、数据通信及应用数据通信及应用（研究生课程）（研究生课程）徐磊徐测试技术与信息工程研究所测试技术与信息工程研究所2n参考书目参考书目:n通信原理教程通信原理教程 （第二版）（第二版） 樊昌信编著樊昌信编著 电子工业出版社电子工业出版社nDigital Communications （Fourth Edition） John G.Proakis 著著 电子工业出版社电子工业出版社nRandom Processes: Filtering, Estimation, and Detection Lonnie C.Ludeman 著著 电子工业出版社电子工业出版社31.1 消息、

2、信息和信号n信源信源消息的来源，是消息的产生者，来源于人或物n消息消息关于人或事物情况的报道数据、文字、语音、图形、图像、动画和视频n信息信息消息中所携带的有效内容不同的消息可能携带相同的信息n信号信号传输消息的手段，是消息的数学描述用电压、电流描述的信号为电信号message41.2 消息、信息和信号n信息量的定义信息量的定义若一个符号 xi 出现的概率为 P(xi)，则其信息量为n信息量的单位信息量的单位当 a = 2 时，单位为比特（Bit）；当 a = e 时，单位为奈特（Nat）；当 a = 10 时，单位为哈特莱（Haitely）。information51.2 消息、信息和信号n

3、英文字母出现的概率英文字母出现的概率符号符号概率概率符号符号概率概率符号符号概率概率空格0.200s0.052w, y0.012e0.105h0.047g0.011t0.072d0.035b0.010o0.065i0.029v0.008a0.063c0.023k0.003n0.059f, u0.022x0.002l0.055m0.021j, q, z0.001r0.054p0.017symbol61.2 消息、信息和信号n总信息量总信息量实际上，消息往往由多个不同符号构成。假设各个符号的出现是相互独立的，则该消息的总信息量为式中x 为消息，它是组成消息的各种符号的集合；ni 为符号 xi 出现

4、的次数；M 为消息中符号的种类。signal71.2 消息、信息和信号n平均信息量（熵）平均信息量（熵）设各符号出现的总次数为 n ，则总信息量为I(x) = H(x) n平均信息量 H(x) 往往称为熵。满足不等式H(x) log M当消息中各符号等概率出现时，可得最大熵Hmax(x) = log Mentropy81.3 数字通信n模拟通信模拟通信通信方式：信号中某个参量连续取值通信要求：高保真地复现信息质量准则：信噪比基本问题：参量估值问题n数字通信数字通信通信方式：信号中某个参量离散取值通信要求：正确判断离散值质量准则：错误率基本问题：统计判决理论91.3 数字通信n数字通信系统模型数

5、字通信系统模型信源信道信宿噪声解调信道编码调制信道解码压缩编码保密编码保密解码压缩解码信源编码信源解码发送端接收端同步10n模拟通信系统主要性能指标模拟通信系统主要性能指标有效性：信号的带宽可靠性：信噪比n数字通信系统主要性能指标数字通信系统主要性能指标有效性：传输速率，包括码元速率和信息速率可靠性：错误率，包括误码率和误比特率n问题问题带宽：宽好？窄好？信噪比：高好？低好？传输速率：高好？低好？错误率：高好？低好？1.3 数字通信11n频带宽度频带宽度 对于传输同一信号，所需的频带宽度越窄，则通信系统的有效性越好。n信噪比信噪比信噪比定义为信号功率与噪声功率之比，即 通信系统接收端的信噪比越

6、大，通信系统的可靠性越好。1.3 数字通信121.3 数字通信n数字通信系统主要性能指标（一对主要矛盾）数字通信系统主要性能指标（一对主要矛盾）有效性：传输速率，包括码元速率和信息速率可靠性：错误率，包括误码率和误比特率有效性速率带宽Pe 可靠性n码元速率（码元速率（RB）单位时间内传输的码元数。单位：码元/s，波特(baud)。也称波特率。n信息速率（信息速率（Rb）单位时间内传输的信息量。单位： bit/s，比特/秒。也称比特率。validity131.3 数字通信n多进制码元的信息速率多进制码元的信息速率一般假设各码元出现的概率相等，均为1/M信息速率和码元速率的关系：Rb = RBlo

7、g2Mn错误率错误率误码率：Pe = 错误码元数/传输总码元数误比特率：Pb = 错误比特数/传输总比特数误码率和误比特率的关系：Pb = Pe M / 2(M-1) Pe /2误字率和误比特率的关系：对于二进制，若一个字由k比特组成，则Pw1 (1 Pe)k n频带利用率频带利用率单位频带内所能达到的信息速率n能量利用率能量利用率传输每一比特所需的信号能量reliability141.4.1 无线信道n视线传播视线传播传播频率在 30 MHz 以上直线传播传播距离由天线高度决定发射天线接收天线传播路径rDh地球半径 km, 6370)m(50822rDrDhline-of-sight pro

8、pagation151.4.1 无线信道n大气中氧气和水蒸气对电磁波传播的影响大气中氧气和水蒸气对电磁波传播的影响氧气水蒸气1010035010001001010.10.010.0010.00010.00001衰减（dB/km）频率(GHz)氧气和水蒸气的浓度为7.5 g/m3stratosphere161.4.2 有线信道n光导纤维光导纤维结构n纤芯：50 200 mn包层：125 400 m损耗多模阶跃折射率光纤多模梯度折射率光纤101.31 m1.55 m光波波长 ( m)损耗 (dB/km)optic fiber171.4.3 信道模型n调制信道模

9、型调制信道模型k (t)：乘性干扰n (t)：加性干扰，也称为噪声随参信道： k (t) 是随机过程恒参信道： k (t) 基本不变时变线性网络k (t)ei (t)eo (t)n (t)eo (t) = k (t) ei (t) + n (t)interference181.4.3 信道模型n编码信道模型编码信道模型二进制编码信道模型四进制编码信道模型0011P(0/0)P(1/1)P(0/1)P(1/0)发送端接收端01230123发送端接收端transmitter191.4.4 信道特性对信号传输的影响n无失真传输的条件无失真传输的条件d)(dee)j ()j ()()(dj)(jddt

10、KHHttKthtreceiverO)j (HO)(201.4.4 信道特性对信号传输的影响n恒参信道对信号传输的影响恒参信道对信号传输的影响线性失真n频率失真：因幅频特性不理想而引起的失真n相位失真：因相频特性不理想而引起的失真非线性失真n幅度特性非线性失真：输入信号的幅度与输出信号的幅度呈非线性关系n频率偏移失真：输入信号经传输后频率发生了偏移n相位抖动：输出信号的相位由于系统频率不稳而引起的抖动distortion211.4.4 信道特性对信号传输的影响n随参信道对信号传输的影响随参信道对信号传输的影响信道衰减随时间而变信道延时随时间而变多径传播n多径传播多径传播发射信号 Acos0t

11、经 n 条路径传播，接收信号为：ri(t)，i(t) 和 i(t) 都是随机变化的。niiiniiitttrtttrtR1010)(cos)()(cos)()(multipath221.4.4 信道特性对信号传输的影响n多径传播多径传播衰落：原等幅信号经多经传播包络有了起伏。)(coscos)(sin)(cos)(sin)(sin)(cos)(cos)()(cos)()(00s0c101010tttVttXttXtttrtttrtttrtRniiiniiiniiienvelope231.4.4 信道特性对信号传输的影响n多径传播多径传播tR(t)tAcos0tF Acos0t00 A AOfa

12、dingF R(t)00O241.4.4 信道特性对信号传输的影响n多径传播多径传播设多径传播路径仅两条，衰减相同，延时不同；发射信号为 f (t)，频谱为 F()；接收信号为 a f (t 0) + a f (t 0 )，频谱为多径信道的传输函数为)e(1e )(e )(e )(jj)(jj000aFaFaF2cos2)()ee (ee)e(1e)(2j2j2jjjj00aHaaHdelay251.4.4 信道特性对信号传输的影响n多径传播多径传播频率选择性衰落n三类信号三类信号确知信号：接收端的信号波形是完全确知的随相信号：因时延不确定而使信号相位随机起伏信号：因衰减不确定而使信号包络随机

13、2cos2)(aH32cos2)(aHOspontaneous fluctuation26 高斯噪声：大量相互独立、微小随机噪声的概率服从高斯分布。 白噪声：加性干扰噪声 n(t)的功率谱密度，在整个频率范围内均匀分布。Pn()020n 高斯白噪声：概率分布服从高斯分布；功率密度谱分布为常数的噪声。1.5 信道中的噪声27信道的容量 B B为信道带宽为信道带宽(Hz)(Hz)，S S为信号功率为信号功率(W)(W)，n n0 0为噪声单边功率谱密度为噪声单边功率谱密度(W/Hz)(W/Hz)，N=nN=n0 0B B为噪声功率为噪声功率(W)(W)。上式成立条件：信号为高斯分布上式成立条件：信

14、号为高斯分布( (此时信源熵最大此时信源熵最大) )，噪声为高斯白噪声。，噪声为高斯白噪声。 C C随随S/NS/N增大而增大；增大而增大； 当当n n0 000时时CC，即无干扰信道的信道容量为无穷大；，即无干扰信道的信道容量为无穷大； C C随着随着B B的增大而增大，但不能无限增大，即的增大而增大，但不能无限增大，即 当当BB时，时，C1.44C1.44（S/nS/n0 0） C C一定时，一定时，B B与与(S/N)(S/N)可以互换；可以互换； 若信源信息速率若信源信息速率R Rb bCC，则理论上可以实现无差错传输。若，则理论上可以实现无差错传输。若R Rb bCC，则不，则不可能

15、实现无差错传输。可能实现无差错传输。通常，把实现了极限传输速率且无差错通常，把实现了极限传输速率且无差错( (或差错为任意小或差错为任意小) )的通信系统，称的通信系统，称为理想通信系统。为理想通信系统。)1 (log)1 (log22BnSBNSBCo282.1 信号的类型n确知信号确知信号任意时刻的信号取值都是确定的信号；可以用明确的数学表达式表示的信号。例如：指数信号、矩形脉冲信号等。n随机信号随机信号给定某一时刻，无法确定该时刻信号的取值；无法用确定的函数表示的信号，但信号有一定的统计规律。例如：语音信号、图像信号等。energy signal292.1 信号的类型n能量信号能量信号信

16、号能量定义为能量有限的信号称为能量信号，即 0 E n功率信号功率信号信号的功率定义为功率有限的信号称为功率信号，即 0 P ) J ()d(lim2/2/2TTTttsE)W()d(1lim2/2/2TTTttsTPpower signal302.2 确知信号的性质n功率（周期）信号的频谱功率（周期）信号的频谱 傅里叶级数傅里叶级数傅里叶级数系数傅里叶级数频率、角频率和周期频谱的振幅和相位nnnCCje22j0000de )(1TTtnnttsTCntnnCts0je)(00022Tf deterministic signals312.2 确知信号的性质n周期方波信号的频谱周期方波信号的频谱

17、t)(0tfT220T0TO10nnCOkTkTtftftttf)()(2021)(002Sa22sin00000nTnnTCnFourier series322.2 确知信号的性质n能量（非周期）信号的频谱密度能量（非周期）信号的频谱密度 傅里叶变换傅里叶变换傅里叶变换傅里叶逆变换傅里叶变换的另一种形式de )(21)(jtStsttsStde )()(jFourier transformffStsttsfStftfde )()(de )()(2j2j332.2 确知信号的性质n矩形脉冲信号的频谱密度矩形脉冲信号的频谱密度t22O)(tg1)(GO2021)(tttg2Sa2sin2)(Gs

18、pectral density342.2 确知信号的性质n功率（周期）信号的频谱密度功率（周期）信号的频谱密度 傅里叶变换傅里叶变换周期信号的傅里叶级数周期信号的频谱密度nnntnnntnnnCCCtsS)(2e e)()(0jj00FFFntnnCts0je)(Fourier coefficients352.2 确知信号的性质n周期方波信号的频谱密度周期方波信号的频谱密度t)(0tfT220T0TO1)(0TFOperiodic signal362.2 确知信号的性质n能量谱密度能量谱密度设 s (t) 为能量信号，且它的频谱密度为 S ()则由帕塞瓦尔定理得 s (t) 的能量为 能量谱密

19、度函数的定义ffSSttsEd)(d)(21d)(222ffGttsEd)(d)(2Energy Spectral Density (ESD)372.2 确知信号的性质n矩形脉冲信号的能量谱密度矩形脉冲信号的能量谱密度t22O)(ts1)(SO2)Sa()(2Sa)(2021)(ffGSttts)( fGfOParsevals theorem382.2 确知信号的性质n功率谱密度功率谱密度设 sT (t) 的频谱密度为 ST ( f )，则其能量 E 为s (t) 的功率为功率谱密度函数定义为Power Spectral Density (PSD)ffSttsttsETTTTd)(d)(d)(

20、22222fTfSdttsTPTTTTTd)(lim)(1lim22/2/2392.2 确知信号的性质n周期信号的功率谱密度周期信号的功率谱密度由帕塞瓦尔定理可得周期信号的功率周期信号的功率谱密度因为nnTTCttsTP2222000d)(1nnnffCfP)()(02nnCffPP2d)(aperiodic signal402.2 确知信号的性质n自相关函数自相关函数能量信号的自相关函数功率信号的自相关函数autocorrelation function412.2 确知信号的性质n自相关函数的性质自相关函数的性质自相关函数为偶函数，即 R() = R() 自相关函数在原点 = 0 处取得最大

21、值，即 R(0) | R()|对于能量信号，R(0) 表示信号的能量，即对于功率信号， R(0) 表示信号的功率，即EttsRd)()0(2PttsTRTTT222d)(1lim)0(origin422.2 确知信号的性质n矩形脉冲信号的自相关函数矩形脉冲信号的自相关函数210211)(tttsO)(R111t21O)(ts1211011)(Rsquare wave432.2 确知信号的性质n互相关函数互相关函数两个能量信号的互相关函数两个功率信号的互相关函数crosscorrelation function442.2 确知信号的性质n互相关函数的性质互相关函数的性质若对所有的 ，R12()

22、= 0，表示 s1(t) 与 s2(t) 互不相关；与自相关函数不同，一般情况下，R12() R21()；不难证明： R12() = R21()； R12(0) = R21(0)；R12(0) 或 R21(0) 表示 s1(t) 与 s2(t) 在无时差时的相关性，它的大小反映 s1(t) 与 s2(t) 的相似程度。uncorrelated452.2 确知信号的性质n能量信号的相关系数能量信号的相关系数n功率信号的相关系数功率信号的相关系数correlation coefficients462.2 确知信号的性质n相关系数的性质相关系数的性质 12 ； 12 = +1 表明 s1(t) 与

23、s2(t) 完全相似； 12 = 1 表明 s1(t) 与 s2(t) 完全相似，但极性相反； 12 = 0 表明 s1(t) 与 s2(t) 完全不相似，互为正交函数。similar472.2 确知信号的性质n能量信号的相关定理能量信号的相关定理 维纳维纳-辛钦定理辛钦定理ffGffSfSfttsfStffStsttstsRffftftfde )(de )()(dede )()(dde )()(d)()()(2j2j2j2j)(2jcorrelation theorem482.2 确知信号的性质n功率信号的相关定理功率信号的相关定理 维纳维纳-辛钦定理辛钦定理)()(lim)()(limd)

24、()(1limd)()(1lim)(222fPTfSRTRttstsTttstsTRTTTTTTTTTTViener-Khintchine Theorem49FP（ ， ， ）2.2.1 随机变量的基本概念随机变量的基本概念1 概率空间：概率空间：在科尔莫戈罗夫的概率公理化结构中，称在科尔莫戈罗夫的概率公理化结构中，称为概率空间，为概率空间， 为样本空间，为样本空间，F事件域，事件域，P概率。概率。a a 样本空间表示随机试验所有出现的可能结果，其中试验的某一个结样本空间表示随机试验所有出现的可能结果，其中试验的某一个结果称为样本点，样本空间中的某个子集称为事件。果称为样本点，样本空间中的某个

25、子集称为事件。 Fb设 是样本空间， 是由 的一些子集构成的集合，如果满足以下三条nnn;( ) AFAF(iii) AFAFAFFii（i）若事件，则若事件，n=1,2.,则或者50c APA对于随机事件 ，如果满足如下三条，则称 （ ）为概率ii=1i=1( )0,AF( ) P(iii) A,1,2,.PAPAP AiiF iii（i）对一切；（ ）1；若事件，且两两互不相容，则 （）=2.2.1 随机变量的基本概念随机变量的基本概念512 随机变量随机变量FP( ), ( ),( )FPRxxxFx 设（ ， ， ）,、是定义在 上的单值实函数，对 xR,集合则称为概率空间（ ， ，

26、）上的一个随机变量。定义域为：值域为：xmapping) , ( )FPP ( ) ( ) ( )P ( ) 0 P ( ) 0ixxxxxxxxx 因此，它必然满足以下两个条件（对集合是（ ， ， ）一个事件，并 有确定的（ii） 事件和的概率等于0； 522 .2.2 随机变量的概率密度函数随机变量的概率密度函数(pdf(pdf) )2F ( ) ( )P ( )F ( ),( )F,F()()(2) ( )F()( )(3) ( )xxxxxxxxxxxxF xF xF xF x 121 在 中，组成事件的元素随 的不同取值而变化，因此，的概率取决于 的值，用F(x)表示 (x)=P称为

27、随机变量的分布函数，其具有以下性质（1） (x)是单调不减的函数，即若x x 则x是左连续函数，即x0 ；F()lim( )0;F( )lim( )1xxF xF x 满足如下关系：1分布函数分布函数(CDF)53(2) ( )F()( )F xF x是左连续函数，即 x-0；分布函数左连续的证明分布函数左连续的证明201200110,F()(),.lim()( ) ( )()() ()()()F()Flim()lim( )nnnnnnnnnnnF xxxxxxF xF xF xF xP xxF xF xF xF xF xF x 121即若x 0，则称则称x服从参数为服从参数为 和和 的正态分

28、布的正态分布. 222 高斯分布随机变量高斯分布随机变量68(1) p(x)0, ( )1p x dx(2)图 2.2高斯分布随机变量的pdf曲线（x0） 2 高斯分布随机变量高斯分布随机变量69 正态分布正态分布 的图形特点的图形特点),(2N正态分布的密度曲线是一条关于正态分布的密度曲线是一条关于 对称的对称的钟形曲线钟形曲线. .特点是特点是“两头小，中间大，左右对称两头小，中间大，左右对称”. .2 高斯分布随机变量高斯分布随机变量70 决定了图形的中心位置，决定了图形的中心位置， 决定了图形决定了图形中峰的陡峭程度中峰的陡峭程度. . 正态分布正态分布 的图形特点的图形特点),(2

29、N2 高斯分布随机变量高斯分布随机变量71 这说明曲线这说明曲线 p(x)向左右伸展时，越来越贴向左右伸展时，越来越贴近近x轴。即轴。即p (x)以以x轴为渐近线。轴为渐近线。 22()21( ),2xp xex 当当x 时，时，p(x) 0, ,2 高斯分布随机变量高斯分布随机变量72用求导的方法可以证明，用求导的方法可以证明，22()21( ),2xp xex 为为p (x)的两个拐点的横坐标。的两个拐点的横坐标。x = 2 高斯分布随机变量高斯分布随机变量73标准高斯分布标准高斯分布2221( ),2xup uxuue 74标准高斯分布的一维累积分布函数和右尾积分标准高斯分布的一维累积分

30、布函数和右尾积分201 21(u)()exp22( )xdux0 x( )p xx0 x（）0 x21 201(u)()exp22( ) 1( )xduQ x x75则称则称 x 服从参数为服从参数为 的的单边带单边带指数分布指数分布.若随机变量若随机变量x x具有概率密度具有概率密度0( ),000 xexp xx常简记为常简记为 xE( ) .3 3 指数分布随机变量指数分布随机变量分布函数为：分布函数为： . 0, 0, 0,1)(xxexFx 7600( )1.xxp x dxedxe p(x)0, 221 1 xx其 均 值 和 方 差 分 别 为3 3 指数分布随机变量指数分布随机

31、变量77则称则称 x 服从参数为服从参数为 的的双边带双边带指数分布指数分布.若若 r.vr.v x x具有概率密度具有概率密度| |( )02xp xe22 02 xx其 均 值 和 方 差 分 别 为3 3 指数分布随机变量指数分布随机变量783 3 指数分布随机变量指数分布随机变量793 3 指数分布随机变量指数分布随机变量80图图2.6单边指数分布随机变量的单边指数分布随机变量的PDF曲线（曲线（0）3 3 指数分布随机变量指数分布随机变量81图图2.7双边指数分布随机变量的双边指数分布随机变量的PDF曲线（曲线（0）3 3 指数分布随机变量指数分布随机变量82则称则称 x x 服从服

32、从瑞利瑞利分布分布. .若随机变量若随机变量x x具有概率密度具有概率密度22220( )00 xxexp xx4 瑞利分布随机变量瑞利分布随机变量2222121212,(0,),(0,),.xxxxNxNxx式中且与相互独立83 瑞利分布是最常见的用于描述平坦衰落信号接瑞利分布是最常见的用于描述平坦衰落信号接收包络或独立多径分量接受包络统计时变特性的一收包络或独立多径分量接受包络统计时变特性的一种分布类型。两个正交高斯噪声信号之和的包络服种分布类型。两个正交高斯噪声信号之和的包络服从瑞利分布。从瑞利分布。 (1)高斯过程通过窄带线性系统后成为窄带高斯过程，高斯过程通过窄带线性系统后成为窄带高

33、斯过程，其包络的分布属于瑞利分布；其包络的分布属于瑞利分布； (2)信号在信道中传输，其幅度的衰落通常也认为服从信号在信道中传输，其幅度的衰落通常也认为服从瑞利分布。瑞利分布。4 瑞利分布随机变量瑞利分布随机变量84图图2.8 瑞利分布随机变量的瑞利分布随机变量的PDF曲线（曲线（2=1）4 瑞利分布随机变量瑞利分布随机变量22 24 2xx其均值和方差分别为855 广义瑞利分布随机变量广义瑞利分布随机变量正弦信号加窄带高斯过程其包络的分布就服从广义瑞利分布。设正弦信号的幅度为a,相位 在 之间均匀分布，高斯过程的均值为0，方差为(,) 286 如果令 , 则得到归一化的广义瑞利分布的概率密度

34、函数为/ux/da5 广义瑞利分布随机变量广义瑞利分布随机变量87图图2.9广义瑞利分布随机变量的广义瑞利分布随机变量的PDF曲线（曲线（2=1）5 广义瑞利分布随机变量广义瑞利分布随机变量88广义瑞利分布随机变量的各阶矩由下式给出广义瑞利分布随机变量的各阶矩由下式给出)()(mmxxEr 为输入功率信噪比，为输入功率信噪比，1F1为库默尔函数，亦称合流为库默尔函数，亦称合流超几何函数超几何函数222/da5 广义瑞利分布随机变量广义瑞利分布随机变量896 三角对称分布随机变量三角对称分布随机变量图2.5三角对称分布随机变量的PDF曲线（0ba）902.2.5 随机矢量及其统计描述随机矢量及其

35、统计描述1 随机矢量的概念随机矢量的概念2 随机矢量的概率密度函数随机矢量的概率密度函数3 均值矢量和协方差矩阵均值矢量和协方差矩阵4 统计独立性和独立同分布统计独立性和独立同分布5 联合高斯随机矢量联合高斯随机矢量911 随机矢量的概念随机矢量的概念12NT12N FP( ),( ),.( ). .N( )( ),( ),.( )N xxxr vxxxx设（ ， ， ）为一概率空间,为N个则由这 个随机变量构成的矢量，称为 维随机矢量。2 随机矢量的分布函数随机矢量的分布函数T12N112212N1122( )( ),( ),.( )( ),( ),.( ),NF( )( ,.)( ),(

36、),.( )NNNNxxxxxxxxxxxF x xxP xx xxxx给定,同时考虑事件的概率 则定义 维随机矢量的N维累积分布函数为随机矢量及其统计描述随机矢量及其统计描述923 随机矢量的概率密度函数随机矢量的概率密度函数121212( )(1,2.,),(,.) ( )(,.).kNNNF xx kNNNpdfF x xxp xp x xxx xx 如果对的 阶混合偏导数存在 则有维联合4 均值矢量和协方差矩阵均值矢量和协方差矩阵均值矢量均值矢量12NkT12NTxx( )( ),( ),.( ) ( )(,.) ( ),1xxxkxxxxE xE xkN给定,则均值矢量定义为随机矢量

37、及其统计描述随机矢量及其统计描述933均值矢量和协方差矩阵均值矢量和协方差矩阵协方差矩阵定义为协方差矩阵定义为1 11 212 12 2212( ( )( ( ) .NNNNNNTxxxx xx xx xx xx xx xx xx xx xCE xxccccccccc如果如果xj与与xk互不相关，互不相关， , 协方差矩阵协方差矩阵 变为对角矩阵变为对角矩阵jkxC随机矢量及其统计描述随机矢量及其统计描述94统计独立性和独立同分布统计独立性和独立同分布T12N12N12N( )( ),( ),.( )NNp( ,.)=p( ) () . (. .)kxxxxx xxxp xp x给定,如果对任

38、意1和所有的x(),其维联合概率密度函数能够表示为,则称随机变量之间是相互统计独立的统计独立统计独立12N( ),( ),.( )Npdf,( )N.xxxx 在统计独立条件下，如果所有的随机变量,对全部的 都有相同的一维则称为具有独立同分布的 维随机矢量独立同分布独立同分布95联合高斯随机矢量联合高斯随机矢量T12N12N1122NNN( )( ),( ),.( ),.,( )( ).( ),( )( )N. Tkxxxxaaaaa xa xa xxx设有维随机矢量,对任意非零常值矢量当且仅当满足是高斯随机变量时 称为联合高斯随机变量,是维联合高斯随机矢量1Txx/2N( ),11( )ex

39、p( ( )( ( ) 2(2)| xNxxp xxCxC维联合高斯随机矢量的概率密度函数完全由均值矢量和协方差矩阵决定 其定义为96(1)N( )( )kxx维联合高斯随机矢量的每一个分量都服从一维高斯分布;N维联合高斯随机矢量的三条主要性质维联合高斯随机矢量的三条主要性质说明：说明：N维联合高斯随机矢量的边缘分布仍是高斯分维联合高斯随机矢量的边缘分布仍是高斯分布的，所以，也可以这样定义布的，所以，也可以这样定义N维联合高斯随机矢量维联合高斯随机矢量的定义：如果的定义：如果N维随机矢量的每一个分量都是时服从维随机矢量的每一个分量都是时服从高斯分布的，则称其为高斯分布的，则称其为N维联合高斯随

40、机矢量。维联合高斯随机矢量。97TNN,C ,M N( )( ),M.AAC AxxAyAxxx(2) 维联合高斯随机矢量的线性变换仍然是联合高斯随机矢量,称为联合高斯随机矢量的线性变换不变性.设 维联合高斯随机矢量的均值为协方差矩阵为为任意常值非零矩阵，则是服从 维联合高斯分布的随机矢量其均值矢量为，协方差矩阵为N维联合高斯随机矢量的三条主要性质维联合高斯随机矢量的三条主要性质98(3)N( ).x维联合高斯随机矢量的各分量之间的互不相关性与相互统计独立性的等价性说明说明 之间，若相互统计独立，一定互不相关；若互不相关，也相互统计独立。之间，若相互统计独立，一定互不相关；若互不相关，也相互统

41、计独立。( )xN维联合高斯随机矢量的三条主要性质维联合高斯随机矢量的三条主要性质99T1234x1211234( )( ),( ),( ) ( )63213432 2110 ,23431233( ),( )( )y( )(2( ),( )2( ),( )( )y ( )TxTxxxxCxxxxxxxx设四维联合高斯随机矢量，,的均值矢量和西方差矩阵分别为试求二维随机矢量的分布，若的线性变换为求的分布。例题例题1002.2.6 随机变量的函数随机变量的函数随机变量变随机变量变换前的概率换前的概率密度函数密度函数随机变量变随机变量变换后的概率换后的概率密度函数密度函数101一维随机变量的情况一维

42、随机变量的情况( ) p(x),( )( )( ( ),( )( ( ),( )( )|J|,( ),J,|.|xpdfxyg xxh yypdfyp xh ydh ydy设r.v 的若的函数为该函数也是一维随机变量,若它的反函数存在,即有且连续可导 则的为p(这种变换称为一维雅克比变化 其中 =为绝对值符号.102N维随机矢量的情况维随机矢量的情况TN12N12N12kkN12kkkN111222N( ) ( ),( ),.( ) ,Np(x)=p( ,.),( )( ( ),( ),.( )( )( ),( ),.( ),NN)(,.),xxxxx xxygxxxxhyyyyyp xh y

43、 yyxh设 维随机矢量其 维联合概率密度函数它的函数为其反函数为存在 且对 连续可导 则 维随机矢量y的 维联合概率密度函数为p(N12(,.).|J|N,y yy这种变换称为 维雅克比变化 其中雅克比行列式为103111122221212(.)(.)(.).(.)(.)(.).J=(.)(.)(.).NNNNNNhhhyyyhhhyyyhhhyyy104 1 ( ).23 xx 随机变量的概率密度函数p是其统计特性的完整描述数字特征(数学期望/方差/相关系数/矩/母函数)只反映了随机变量概率分布的某些特性,一般并不能通过它来完全确定分布函数,而引入特征函数,则可以完全确定分布函数.在求相互

44、统计独立的随机变量的概率密度函数时,特征函数有用;另外,它也可以用来求随机变量的各阶矩.在高阶统计量和谱分析中有广泛应用。特征函数特征函数105F,P.i 如果 与 都是概率空间( ,)上的实值随机变3 量,则 =为复随机变量其本质是对二维随机变量复随机变量的研究.3iEEiE如 果 复 随 机 变 量 为则 其 数 学 期 复 随望 可 以 定机 变义 为量特征函数特征函数1064( )( ),( ),exp()2.2.54( ).axp xj xx 随机变量特征函数的定义一维随机变量特征函数的定义设随机变量其概率密度函数为则复随机变量的均值称为的特征函数特征函数特征函数107,IFT因此

45、在已知x( )特征函数的情况下,通过可以获得概率密度函数p(x) FT/IFTxG( )p(x)特征函数特征函数108( )(1)( )( ),xbxG 特征函数的主要性质特征函数存在的必然性 设随机变量的特征函数为则有特征函数特征函数109)(2)随机变量线性变换的特征函数 设随机变量x(的线性变换为(满足叠加性和齐次性运算)则其特征函数为特征函数特征函数110(3)( ),(1)kNxkNN相互统计独立随机变量之和的特征函数 设任意 个相互统计独立的随机变量则 维联合概率密度函数为( ),1( ),(1),kkxkNGxkN若的特征函数为则其和特征函数特征函数111( )s这样x的概率密度

46、函数为该随机变量的和的特征函数为：特征函数特征函数11212211222122.2.2(23)( ),( )1()exp()221()exp()22( )( )( ),( )().ssspxxxp xxp xxxxxp x例子教材 相互统计独立的随机变量的概率密度函数分别为 令二者之和为求的概率密度函数N 由前面已知,对个相互统计独立的随机变量,其和的概率密度函数的求解方法有两种方法i)根据联合概率密度函的定义,首先求得雅克比变换,在利用边缘概率密度函数的方法ii)利用特征函数法;特征函数特征函数11325 N),Gxkkkkxxx个相互统计独立高斯随机变量之和的概率密度函数 设随机变量 (是

47、均值为,方差为的相互统计独立的高斯随机变量,则其特征函数( )为若特征函数特征函数1143,利用特征函数的性质 则有:N结论个相互统计独立的高斯随机变量之和2,kkxx仍然是高斯分布的,其均值和方差分别为特征函数特征函数11512NN( ),( ),.( )Npdf,xxx特殊的,如果者 个高斯随机变量是独立同分布的高斯随机变量,即所有的随机变量,对全部的 都有相同的一维则其特征函数为特征函数特征函数1166 随机变量的特征函数与原点矩之间的关系（利用特征函数求原点矩往往比较容易）特征函数特征函数117如果x为均值为0的高斯随机变量，则有特征函数特征函数1187 XX2随机矢量的联合特征函数8

48、 和统计量的统计特性:()1)2)这里从略这些概念将在现代信号处理高阶谱分析中的许多概念中具有重要应用高阶谱高阶累积量3)倒谱等优点,非线性/非高斯/非平稳信号的分析/估计/检测特征函数特征函数1192.6 随机过程n随机过程的基本概念随机过程的基本概念随时间变化的随机变量称为随机过程，X(t)Xi(t) 为 X(t) 的一个样本函数或实现，是确定的时间函数X(tk) 为随机变量t)(tXO)(1tX)(2tX)(tXnktrandom process1202.6 随机过程n随机过程的数字特征随机过程的数字特征统计平均值t)(tXO)(tmXstatistical average1212.6

49、随机过程n随机过程的数字特征随机过程的数字特征方差Ot)(tY)(tmYOt)(tX)(tmXsample function1222.6 随机过程n随机过程的数字特征随机过程的数字特征自相关函数用自相关函数表示方差当 t1 = t2 = t，有于是，方差可表示为)()()(),(),(221tXEtXtXEttRttRXX)(),()()()(222tmttRtmtXEXDXXXmean square1232.6 随机过程n平稳随机过程平稳随机过程严格平稳随机过程的定义一个随机过程 X(t)，若它的 n 维概率密度函数 pX (x1, x2, xn; t1, t2, tn) 不随时间起点的选择

50、不同而改变，即，对任何的 n 和， X(t) 的n 维联合概率密度函数满足pX (x1,x2,xn;t1,t2,tn) = pX (x1,x2,xn;t1,t2 ,tn ) 则称 X(t) 为平稳随机过程。严格平稳随机过程的统计特性与时间起点无关stationary process1242.6 随机过程n平稳随机过程的两个典型例子平稳随机过程的两个典型例子Ot)(tYYmYYmYYmOt)(tXXmXXmXXmtime independent1252.6 随机过程n平稳随机过程的统计特性平稳随机过程的统计特性平稳随机过程的均值平稳随机过程的方差平稳随机过程的自相关函数time differen

51、ce1262.6 随机过程n平稳随机过程平稳随机过程广义平稳随机过程的定义n严格平稳随机过程与广义随机过程的关系严格平稳随机过程与广义随机过程的关系严格平稳随机过程一定也是广义平稳随机过程；广义平稳随机过程不一定是严格平稳随机过程。为广义平稳随机过程。则称满足若随机过程 )( )()(),()()( )( 212122tXRttRttRtmtmtXXXXXXXXwide-sense stationary1272.6 随机过程n各态历经性各态历经性统计平均对随机过程的大量样本函数用统计方法求平均而得到的数字特征。时间平均对随机过程的任一样本函数以时间为变量求平均而得到的数字特征。“各态历经”的含

52、义随机过程的任一样本函数都经历了随机过程所有可能的状态。ergodic process1282.6 随机过程n各态历经性各态历经性严格意义的各态历经性随机过程的各种时间平均值以概率1等于各相应的统计平均值，称为各态历经过程。X(t) 的时间均值X(t) 的时间自相关函数22d)(1lim)(TTitittXTtX22d)()(1lim)()(TTiitiittXtXTtXtXergodicity1292.6 随机过程n各态历经性各态历经性设 Xi(t) 为随机过程 X(t) 的一个实现，若以概率1成立，则称 X(t) 的均值具有各态历经性；设 Xi(t) 为随机过程 X(t) 的一个实现，若以

53、概率1成立，则称 X(t) 的自相关函数具有各态历经性；若X(t) 的均值和自相关函数都具有各态历经性，则称 X(t) 为广义各态历经随机过程。)()()(XiiRtXtXXimtX)(time average1302.6 随机过程n各态历经和非各态历经过程实例各态历经和非各态历经过程实例各态历经过程一定是严格平稳随机过程严格平稳随机过程不一定是各态历经的Ot)(tXXmXXmXXmOt)(tY)(1tY)(2tY)(3tY)(4tYensemble average1312.6 随机过程n信号的物理量与统计值信号的物理量与统计值信号的统计值信号的统计值信号的物理量信号的物理量直流分量直流分量的

54、功率交流分量的功率平均功率有效值交流分量的有效值Xm2Xm2X)(2tXE212)(tXEXcomponent1322.6 随机过程n平稳随机过程的自相关函数的性质平稳随机过程的自相关函数的性质的功率为平稳随机过程 )( )()0(2tXPPtXERXXX)()(XXRR)()0(RRX中直流分量的功率为平稳随机过程 )( )()()(2tXRtXERXX中交流分量的功率为平稳随机过程 )( )()0(22tXRRXXXXinfinite1332.6 随机过程n平稳随机过程的功率谱密度函数平稳随机过程的功率谱密度函数信号 s(t) 的功率谱密度函数随机过程 X(t) 中一个样本 Xi(t) 的

55、功率谱密度随机过程 X(t) 的功率谱密度TfSfPTT2)(lim)(TfXfPiTTXi2)(lim)(TfXEfPTTX2)(lim)(even function1342.6 随机过程n平稳随机过程自相关函数与功率谱密度的关系平稳随机过程自相关函数与功率谱密度的关系n平稳随机过程功率谱密度的性质平稳随机过程功率谱密度的性质PX ( f ) 0PX ( f ) 为实函数PX ( f ) 为偶函数ffPRRfPfXXfXXde )()(de )()(j2j2ffPRPXXXd)()0(real function1352.6 随机过程n随机相位正弦波的自相关函数随机相位正弦波的自相关函数式中

56、A 和 fc 常量； 为符合均匀分布的随机变量：先求X(t)的数学期望021sin2sin21cos2cossin2sincos2cos)2cos()(dtfAdtfAtftfEAtfAEtmcccccx)2cos()( tfAtXc其他021)( prandom phase)(tmx1362.6 随机过程n由于X(t)的数学期望为常数，自相关函数与时间t无关，因此X(t)为宽平稳的随机过程。)2cos(2)2cos(2d)224cos(212)2cos(2)224cos(2)22cos()2cos()()()(222222ccccccccccXfAfAftfAfEAftfEAftftfAEt

57、XtXER 再求X(t)的自相关函数：137 例：设有一个二进制数字信号x(t)，如图所示，其振幅为+a或-a；在时间 T 内其符号改变的次数k服从泊松分布 式中，是单位时间内振幅的符号改变的平均次数。试求其相关函数R()和功率谱密度P(f)。0,!)()(kkeTkPTk+a-ax(t)tt0t-2.6 随机过程138解：由图可以看出，乘积x(t)x(t-)只有两种可能取值：a2, 或 -a2。因此，式可以化简为： R() = a2 a2出现的概率 + (-a2) (-a2)出现的概率式中，“出现的概率”可以按上述泊松分布 P(k)计算。若在 秒内x(t)的符号有偶数次变化，则出现 + a2

58、;若在 秒内x(t)的符号有奇数次变化，则出现 - a2。因此，用 代替泊松分布式中的T，得到)t ( x )t ( xE)(R) 5 () 3 () 1 () 4() 2() 0()()()(22PPPaPPPatxtxER222322! 3)(!2)(! 11 )(eaeeaeaR2.6 随机过程139由于在泊松分布中 是时间间隔，所以它应该是非负数。所以，在上式中当取负值时，上式应当改写成将上两式合并，最后得到：其功率谱密度P( f )可以由其自相关函数R()的傅里叶变换求出： 22)(eaR22)(eaR4)()(22202202222adeeadeeadeeadeRfPjjjj2.6

59、 随机过程1402.6 随机过程n实例：随机电报码波形实例：随机电报码波形电报码波形在时间 t 内符号改变的次数 k 符合泊松分布自相关函数功率谱密度t)(txO110!)()(kketkPtkPoisson distribution)(XROf)( fPXO2e)(XR22)2(44)(ffPX1412.6 随机过程n实例：频带随机过程实例：频带随机过程功率谱密度自相关函数)(XR其他0)(00fffffAfPX )2cos()2(Sa4)(0fffARX f)( fPXO0f0fAf 2bandpass noise1422.6 随机过程n实例：白噪声实例：白噪声白噪声的功率谱密度白噪声的自

60、相关函数white noisef)( fPnO20n)(nRO20n1432.6 随机过程n实例：带限噪声实例：带限噪声带限噪声的功率谱密度带限噪声的自相关函数band limited noise)(nROf)( fPnO20nHfHf其他02)(HH0fffnfPn)2(Sa2)(HH0ffnRn1442.7 高斯过程n高斯过程的一维概率密度函数高斯过程的一维概率密度函数 a 为均值 2 为方差 为标准偏差Gaussian process222)(exp21);(axtxpX)(xpXax5 . 0121452.7 高斯过程n高斯过程的二维联合高斯概率密度函数高斯过程的二维联合高斯概率密度函