盲信号分离基础知识

专业课程设计学习材料

源信号分离

SourceSignalSeparation

第一部分简单介绍

一、目标

我们的目标就是学习源信号分离理论的基础知识和源信号分离时涉及的相关学科知

识，最终从观测信号中将源信号分离开来。注意：此时信号源和混合形式可能是未知的。

图1源信号波形

图2混合信号波形

图3分离信号波形

二、分离方法

1、FFT法；条件：不同源信号占有不同的频带

2、自适应滤波方法；条件：已经信号的某些特征

3、盲信号分离方法；条件：遵从某些统计假设条件

三、盲分离的基本模型

盲信号分离的基本模型如图（1）所示。

图1盲信号分离的基本模型

其中：鸟⑺，$2（f）.....s“⑴为〃个源信号；x,（0产⑺......X&为，"个观测信号.

%⑴,当"）,……,"⑺为待求解的“个分离信号；多⑺，/⑺，……，％⑴为〃，个噪声信

号「=12…，丁。将其分别写成矩阵形式为：

s（r）=[si«s“（f）r（i）

向量s（/）、x（/）、y"）、〃⑺分别称作源信号、观测信号、分离信号、噪声信号。通常意

义的盲信号分离是指只有观测信号X"）已知，并且X"）中含有目标源信号和混合系统的未知

信息，而目标源信号特性、源信号的混合信息、噪声信号对观测者来说都是未知的。盲信

号分离的任务就是利用某些统计假设条件完成从X⑺中估计源信号波形及参数，使得分离

信号满足⑺。

图（1）的盲信号分离模型可以概括表示为通式（2）和式（3）的数学模型，分别称

为系统混合模型和系统分离模型

x（f）=/[s（f）]+M）（2）

ya)=g[x(/)](3)

式中:力•］="/,•••/『表示未知混合系统的混合函数；如=囿g,…,gj表示分离系

统的分离函数；没有噪声的情况下，川和州互为反函数，此时混合系统与分离系统互为

逆系统。

依据混合系统的混合方式，盲信号分离问题分为线性瞬时混合盲信号分离、线性卷积

混合盲信号分离及非线性瞬时混合盲信号分离三种主要形式，线性瞬时混合盲信号分离是

最简单、最经典的盲信号分离模型，其理论和算法的发展最完善、最系统、最成功。

令先］=A,妙］=8即得线性瞬时混合模型的数学表达式：

x«)=As«)+〃⑺(4)

y(t)=Bx(t)(5)

其中：A为，”x〃混合系数矩阵,称为系统混合矩阵；B为"X，，，分离系数矩阵，称为系

统分离矩阵。线性瞬时混合表示接收器"同时"接收到多个源发射来的信号，信号传输过

程无延迟滤波仅有缩放作用，本论文主要针对线性瞬时混合模型进行研究。

第2部分盲信号分离理论基础

BSS是盲信号处理领域的研究内容之一，主要目标是从观测信号中获得源信号的最佳

估计。它是统计信号处理、信息论及神经网络等多学科相结合的综合性分支内容，涉及概

率统计、矩阵论、信息论、泛函及人工神经网络等学科基础知识，本章主要总结BSS理论

的基础知识和研究盲信号分离时涉及的相关学科知识，为进一步研究BSS问题做准备。

2.1线阵列信号的盲分离数学模型

若测量向量X⑺来自间距为"的，"个各向同性阵元组成的均匀线列阵/个点源向量S⑺

位于远场,来自可㈤,…,仇方向,记为，=6,2,…,。J,如图(2.1)所示。

图2.1线列阵接收模型

Fig2.1Themodeloflineararrayreceivesignals

以阵元”作为参考阵元，式(1-4)与式(1-5)可写为：

x(t)=A(0)s(t)+n(t)(2-1)

y(t)=B(0)x(t)(2-2)

A(。)=[a(q(2-3)

q(e)=[]e-jfi*isin^/ce-j2ftxlsin6»,/c…^-jfnvDrcxisin^/cj(24)

"⑹)表示阵列对第，个源的方向向量；。为中心角频率；令r=dsin/c「表示期望信号波

前到达相邻两阵元的时间差。设『⑴、’⑺、小)分别为财、x⑴与"⑺的解析形式。均匀

线列阵接收远场信号，可将式(2-1)表示为：

X(t)=A(O)s(t)+n(t)(2-5)

其中，

在水声信号处理领域中系统混合矩阵A（。）是基阵对〃个目标入射方向的响应向量构成

的mx〃矩阵，又称为基阵的阵列流形。

相应的系统分离模型可表示为：

y（t）=（2-6）

夕夕）是的分离矩阵，即）是分离信号火）的解析形式。

盲信号分离的任务就是寻找合适的分离矩阵8（〃），使式（2-6）成立，再取讪）的实部,

即：刈=ReMM）,刈恰好是独立源信号s⑺的一个估计，即y⑺=6⑺。

2.2盲信号分离的代价函数及优化准则

在BSS问题中，不仅需要建立系统数学模型，还要考虑BSS算法的代价函数，使得

BSS的分离系统对应于代价函数的极值点（极大值点或极小值点）,再选用某种优化算法寻

找代价函数的极值点。当代价函数达到极值点后，对应的系统即为待求解的分离系统。

BSS算法的代价函数大都是建立在独立分量分析（Independentcomplement

Analysis:ICA）数学模型基础之上，ICA是为了解决盲分离问题而提出并发展起来的一

类信号处理技术，现已成为解决盲分离问题的有力工具。然而ICA和BSS方法并不能完全

等同或相互替代，BSS比ICA具有更宽广的适用范围，原因是：ICA只在源信号相互独立

的条件下适用，而对BSS而言，即便源信号之间存在相关甚至完全相关，依然可能采用其

它方法分离信号；BSS的目的是分离源信号，而ICA的目的是寻找某种变换，保证输出信

号的各分量之间尽可能地相互独立；另外，很多情况下BSS方法经常使用随机向量的二阶

统计量(SOS),而ICA则常常使用更高阶的统计量(HOS1如果源信号之间满足相互独

立的假设条件，ICA和BSS方法可以用相似甚至相同的数学模型来描述，并使用相似的或

相同的算法实现源信号的分离，因此，BSS和ICA二者极其相似而又相互区别。

根据中心极限定理，独立随机变量和的分布比其中任何一个随机变量更接近高斯分布,

因此非高斯性可以作为随机信号相互独立性的度量。目前，ICA理论的优化准则主要有基

于信息论的优化准则和基于高阶累积量的优化准则。

2.2.1基于信息论的代价函数及优化准则

基于信息论的评价准则主要包括最大似然估计准则、最大燧准则、信息最大化法准则、

最小互信息准则和负牖最大化准则，分别介绍如下。

最大似然估计(maximumlikwlihoodestimator:MLE)是检测理论中常用的一种

统计检测方法，它的目标是根据观测数据样本估计信号的参数。

K-L散度(Kullback-Leiblerdivergence)用来度量随机变量概率密度函数的相似程

度，也就是衡量各种分布之间的接近程度。设外⑴和外⑴是关于随机向量x的两种不同分

布的概率密度函数，则08相对于外⑴之间的散度定义为：

KL[pi(x)|p2(x)]=ZP1(%,)log["，a]]

M必(七)

TT

=EPi(巧)bg【Piu,)i-EPia)bg[P2a)]

,=l1=1

T

=-//(X)-^pl(xi)log[p2(xi)]

j=l

®-//(X)-log[p,(x,)l(2-7)

"(X)=-XPlUJlogtPiU,.)]

i(2-8)

当Pi(x)与P2(x)同分布时，KL[PlM\p2M]=o；式(2-8)是X的自信息量的平均值,

称为精，用来描述随机事件的不确定性程度。使用K-L散度作为最大似然估计的似然函数,

建立似然函数的代价函数。

针对式(2-1)的混合模型，设Pxa)为观测向量x⑺的概率密度，Ps(s)为源信号s⑺的

概率密度，由概率论及矩阵论理论，知外3与外⑸满足：

幺(x)=〃s(A"x)/|det(A)|(2-9)

则观测信号必)的似然函数定义为：

L(A)=E[log(px(x))]=jpx(x)log[px(x)}/x

=j(x)log[p,(A1x)]cZr-log|det(A)|(2-10)

令式(2-2)的分离矩阵满足8=AT时，根据矩阵论理论将对数似然函数改写为：

L(B)=Jpx(x)log[pA(Bx)]t/x+log|det(B)|

1T

"彳X{bg[p，(8x)]}+log|det⑻

TM(2-11)

T为独立同分布观测信号的快拍数。最大似然估计就是选取使达到最大值的«作为

8的估计，即需要满足：

L(B)=maxL(B)

(2-12)

*=*（XZ，…,X,），可见，估计参数B的最大似然估计值问题，就是寻找似然函数他）

的极大值问题。

互信息量（MutualInformation）用来度量两个随机变量的概率密度函数的相似性。

从信息理论角度看，如果源信号相互独立，要将其从它们的混合信号中分离出来，要保证

分离信号之间相互独立。所以在源信号统计独立条件下，最小化输出信号之间的互信息量

可以作为独立性的分离准则，输出信号之间的互信息量越小，说明信号之间的相关性越小。

设任意随机变量x和）'，先验概率和后验概率分别为。⑴和小'），对x互信息量定义

为x的后验概率与先验概率比值的对数，即

则定义随机向量，'出对的平均互信息量可推导出:

(2-14)

同理，定义直幻对>'（外的平均互信息量为：

/(y,x)=H(y)—“(y|x)(2-15)

从而有：

I(X,y)=I(y,x)="(x)+H(y)-H(xy)(2-16)

根据上式输出信号网之间的互信息量/（必办，…，％）可表示为：

/（MS，…，）'”）=1＞（%）-"（驴

M（2-17）

"（%）为分离信号的边缘燧,“（y）为联合燧。针对式（2-2）的分离模型，输出信号之

间的互信息量表示为：

/（》।，为，…，%）=£"（"）一"（X）-1。4det（叫

土（2-18）

因为“（X）与B⑹无关，互信息量/（为办，…，y”）的代价函数可表示为：

n

Aw（E）=£H（%）-/。8|加，（8）|

X（2-19）

最小化式（2-19）,可使输出信号V的各分量趋于独立，即得到最小互信息（Minimum

MutualInformation:MMI）准则：

B"（2-20）

由互信息的定义可知，（3表示系统输出信号.v的不确定性测量，输出信号y使

输入信号,的不确定降低,因此最大化输入输出间的互信息的Infomax准则实际上就是最

小化输出和输入信号之间的信息冗余度。

根据式(2-17),最小化互信息量/日，乃，•••，％),也就是最大化输出信号的联合燧"(y),

即为最大燧准则，也称信息最大化(Infomax)准则。

负精(Negentroy)用来度量非高斯分布分布相对高斯分布的偏离程度。它是度量信

号非高斯性的一种准则，定义为高斯分布燧”(几)与随机向量燧之间的偏差，即：

J(y)=(2-21)

负精可以使用任意概率分布和具有相同协方差的高斯分布之间的散度表示，即

J[p(x)]=KL[p(x)\PGWl=汽〃区)k)g[，：.)]

i=l*G'人，(2-22)

负炮是ICA中的重要概念之一，它是非负值，因为在所有方差相等的随机变量之中，

高斯随机变量的燧最大，所以只有当小)是高斯分布时负崎等于零，因而可以利用负燧来度

量非高斯性。负精与互信息之间的关系可表示为：

/(r)=j(r)-^j(yf)

»=|(2-23)

因此最小化互信息等价于最大化边缘负燧,边缘负精最大化的代价函数可表示为：

MM(W)=H(Y)-H(X)-log|det(lV)|-£J(y,)

0(2-24)

2.2.2基于高阶统计量的代价函数及优化准则

基于高阶统计量的算法可大致分为两类：显累积量算法和隐累积量算法。显累积量算

法是指代价函数或优化算法中明确含有高阶累积量，如基于峭度(Kurtosis)的算法;而

隐累积量算法是指高阶累积量隐含地嵌入到代价函数或优化算法中，代价函数或优化算法

中不明确含有高阶累积量，如固定点算法或快速ICA算法、H-J算法等；可以选取合适的

非线性函数引入高阶统计量，如tanh()函数、sigmoid。函数等。

选择合适的分离准则是实现盲信号分离的关键，常用的分离准则经常需要计算互信息

量、燧或负燧等物理量，这些量的计算往往很复杂，甚至无法求解，因此通过引入高阶矩

和高阶累积量来估计这些量。高阶矩和高阶累积量是描述随机变量统计特性的基本工具。

基于高阶统计理论的盲分离算法包括基于二阶统计量的盲分离算法和基于高阶统计量的盲

分离算法，基于高阶统计理论的盲分离算法主要有典型的H-J隐累积量算法和基于峭度的

盲分离算法。前者的训练算法中可以选取任意合适的非线性函数，这个非线性函数中其实

隐含地引入了高阶统计量；后者是以峭度(Kurtosis)作为代价函数的盲分离方法，二者

一般都是利用梯度搜索算法来逐步逼近分离矩阵，是一种自适应训练算法。

(1)负煽和互信息

负煽和互信息作为一种独立性度量的分离准则其实质是一种基于高阶累积量的非高斯

性分离准则，因为信号的联合概率密度和边缘概率密度直接计算比较困难，因此引入高阶

矩、高阶累积量来逼近负燃或精、互信息量，计算相对简单。

(2)峭度

峭度(kurtosis)是一种衡量源信号随机性质的重要高阶统计量，定义为：

422

fc[%(fc)[=E[xW]-3E[x(fc)](2-25)

实际应用时，经常使用其归一化定义：

峭度是描述随机变量概率函数同高斯分布的偏离程度，即表示随机变量分布的平坦程

度：当峭度等于0时，信号为高斯信号；峭度大于0时，信号为超高斯信号；峭度小于0

时，信号为亚高斯信号，所以峭度的大小也就是表示信号高斯性的强弱。

当信号经过预白化处理后，B/（"）『=1,即功率为1,则式（2-26）可简化为：

氏(%)=E[x"(&)]—3=3

m4—(2-27)

基于峭度的目标函数一般表示为：

o（x）=Zk（±）l

(2-28)

基于峭度的目标函数运算简单、容易实现，但是它对"野值"比较敏感，因为峭度直

接从观测样本中计算获得。

2.3盲信号分离的优化算法

对盲信号分离算法而言，依据评价准则建立代价函数后，需要选用某种优化算法计算

代价函数达到极值点的解。一种性能良好的优化算法应该同时具有高效性、鲁棒性、全局

收敛性等优点。高效性指的是计算简单，且收敛速度快；鲁棒性指的是当系统受外界干扰

后，算法条件改变时，优化算法的性能而受其影响较小。盲信号分离算法发展至今，已总

结出许多有效的优化算法，主要包括自适应算法、批处理算法、智能算法。

自适应算法主要有基于梯度的自适应梯度算法和RLS算法，自适应梯度算法又可分为

随机梯度算法、相对梯度算法和自然梯度算法等。固定点算法和联合近似对角化法（JADE

法）是主要的批处理盲分离算法。智能算法主要有基于遗传算法的盲分离算法、基于神经

网络的盲分离算法、基于粒子群的盲分离算法、基于蚁群算法的盲分离算法等。

本课题优化算法大家自选。老师推荐一种自然梯度算法，具体见参考文献"盲源分离

算法研究"，24-26页；"自适应盲信号处理理论及应用研究"12-14页

2.4性能评价指标

盲信号分离的效果好坏程度需要有一定的评价标准来衡量，不同的算法选取的评价标

准会有所不同，常用的评价标准有：性能指数、相似系数、最大信噪比等。这些评价标准

都是假设已知真实源信号信息，如已经源信号波形时，可以采用"相似系数"这个评价准

则；如果已知混合矩阵情况下，比较方便的评价准则是"性能指标"。但是在实际的盲分离

过程中，源信号的信息都是未知的，所以这些评价准则只适用于仿真分析，无法在实际工

程应用中使用。目前，还没有针对可测数据评判的实用准则。

2.4.1相似系数

相似系数是描述分离信号与源信号相似程度的一个非常有效的参数，定义为：

型⑺S,«)

/=1f=l

务的值介于0与1之间，当WE时，务=1；匕与J相互独立时陷・=°;当却越接

近1,表示匕与邑越相似。由此可见：分离信号与源信号之间允许幅度上存在差异，但不

允许相位上存在差异。

根据式(2-29),若源信号之间相互独立，则当由相似系数构成的矩阵是每行每列有

且仅有一个元素接近于1,其它元素都接近于0的矩阵时，此时我们认为信号分离效果比

较理想【52】。

2.4.2性能指数

本文选用对相干源的情况也适用的性能指数指标(performanceindex:PI),它定义

为：

PI=_!_yj__i+__JI

"(”1)白［［白max/gjJ出max/g/J］(2-30)

我为全局传输矩阵G的元素；max，B，|表示G的第/行元素绝对值中的最大值；

表示G的第，列元素绝对值中的最大值。分离信号与源信号波形完全相同时口=0。实际上

当PI达到1。一2时认为分离算法效果非常理想。

2.5数据预处理

观测的混合信号中一般包含了期望信号、噪声信号及干扰信号，为了更好地完成盲信

号分离任务，可以对观测信号进行一些有用的预处理，以便为后面的盲信号分离工作提供

方便。预处朝法主要包括：中心化处理、主分量分析（PCA\白化处理（Whitening\

降噪（Denoising\滤波（Filtering）等。

2.5.1中心化处理

中心化处理是信号最简单最基本的预处理方法，中心化就是从观测数据皿）中去除均值

瓦*（川，使得的）成为零均值的向量，即

x（z）=x（t）-E[X（/）]（2-31）

中心化处理可以可以简化盲信号分离算法，减化计算过程、减少计算量。

2.5.2主分量分析

PCA方法是盲信号处理领域的基本预处理方法，是数据分析中的有效手段，可用于减

少数据特征空间维数、确定向量的线性组合、选择主要分量或异常分量分析等。PCA已广

泛应用于信号处理、特征提取、噪声处理、模式识别、数据挖掘、图像处理、计算机视觉、

信号恢复和分类等方面。

设零均值的〃维随机向量X0）,其协方差矩阵为：

T

Rx=E[x（f）x（/）]（2-32）

对此进行特征值分解

r

R,=VAV(2-33)

其中，A=diag{%为…，如为〃个特征值组成的对角阵，”L，匕，…,丫小1为特征值

对应的特征向量矩阵。选择适当的主特征值人,及其对应的特征向量匕构成信号子空间

匕=卜小，…，匕小/=1,2,…,”则随机向量附在单位正交向量匕上的投影向量“⑺即

为主分量。

u（t）=vjx（t）（2-34）

式（2-34）称为必）的主分量分析。

为了重建原始数据向量*⑺