协方差和相关系数的计算

53.3.1协方差和相关系数问题

对于二维随机变量(X,Y):已知联合分布边缘分布这说明对于二维随机变量，

除了每个随机变量各

自的概率特性以外，

相互之间可能还有某种联系.问

题是用一个什么样的数去反映这种联系.数

E((X-E(X))(Y-E(Y)))

反映了随机变量X,Y

之间的某种关系.

协方差和相关系数的定义定义

称E((X-E(X))(Y-E(Y)))为X,Y

的协方差.

记

为cov(X,Y)=E((X-E(X))(Y-E(Y)))称

为(X,Y)

的协方差矩阵.可以证明协方差矩阵为半正定矩阵.事实上，Pxy=cov(X*,Y*).若

Pxy=0,称X,Y

不

相

关

.为X,Y

的

相

关

系

数，记为若D(X)>0,

D(Y)>0,称

协

方

差

和

相关

系

数

的

计

算

利

用

函

数

的

期

望

或

方

差

计

算

协

方

差cov(X,Y)=E(XY)-E(X)E(Y)若(X,Y)为

离

散

型

，若(X,Y)

为

连

续

型

，例1

已知X,Y

的联合分布为：求

cov(X,Y),Pxy解O<p<1p+q=1YPXPOq1

OpO1

Op

qp

qX

Y1OOOPPq11cov(X,Y)=pq,pxy

=1例2

设(X,Y)～N(L₁,σ₁²,H₂,G₂²,p),求pxy

.解=G₁G₂PPxy

=p若(X,Y)～N(μ₁,σ₁²,L₂,σ₂²,p),则X,Y相

互

独

立

—

X,

Y

不

相

关

.=a²E(X²)-b²E(Y²)-[aE(X)+bE(Y)[aE(X)-bE(Y)]由

→cov(U,V)=(a²-b²)o²而

D(U)=a²D(X)+b²D(Y)=(a²+b²)c²D(V)=a²D(X)+b²D(Y)=(a²+b²)o²U=aX+bY,V=aX-bY,a,b求Puv解

cov(U,V)=E(UV)-E(U)E(V)例

3设X,Y相互

独

立，且都

服

从

N(0,σ2),为

常

数，

且

都

不

为

零

，故

继续讨论：a,b

取何值时

，

U,V

不

相

关?此

时

，U,V是

否独立

?

协方差和相关系数的性质协方差的性质cov(X,Y)=cov(Y,X)=E(XY)-E(X)E(Y)cov(aX,bY)=abcov(X,Y)cov(X+Y,Z)=cov(X,Z)+cov(Y,Z)cov(X,X)=D(X)lcov(X,Y)l²≤D(X)D(Y)当

D(X)>0,D(Y)>0

时

，当且仅

当P(Y-E(Y)=t₀(X-E(X)))=1时，等式成立—Cauchy-Schwarz不等式.对任何

实数

t,g(t)≥04cov²(X,Y)-4D(X)D(Y)≤0即

Icov(X,Y)l²≤D(X)D(Y)等

号

成

立

一

→

g(t)=0证

明

令g(t)=E[(Y-E(Y))-t(X-E(X))]²=D(Y)-2tcov(X,Y)+t²D(X)有两个相等的实零点g(t₀)=0

即→→D[(Y-E(Y))-t₀(X-E(X))]=0→P[(Y-E(Y))-t₀(X-E(X))=0]=1P[(Y-E(Y))-t₀(X-E(X))=0]=1即P[(Y-E(Y))=t₀(X-E(X))]=1即

Y与

X

有线性关

系的

概

率

等

于

1

,这种线性关系

为相

关

系

数

的

性

质l

pxy

l≤1□l

pxyl=1

→Cauchy-Schwarz

不

等

式的

等

号

成→即Y与

X

有

线

性

笑

系的

概

率

等

于1

,

这

种

线

性

关

系为Pxy

=1

→cov(X,Y)>0P(Y*=X*)=1X,Y相互

独立

X,Y

不相关.若X,Y服

从

二

维

正

态

分

布，X,Y相互独立X,Y不相

关.P(Y*=-X*)=1X,Y不相关cov(X,Y)=0E(XY)=E(X)E(Y)→D(X±Y)=D(X)+D(Y)Pxy=-1→

cov(X,Y)<0Pxy=1,P(x'=Y')=1E(X)=p,E(Y)=p,D(X)=pq,D(Y)=pq,E(XY)=p,D(XY)=pq,cov(X,Y)=pq,pxy5在例

1

中

已知X,Y的联

合

分

布

为O<p<1p+q=1PYOqpO1OOX1例4设

(X,Y)~N(1,4;1,4;0.5),Z=X+Y,

求

Pxz.解

E(X)=E(Y)=1,D(X)=D(Y)=4, cov(X,Y)=2cov(X,Z)=cov(X,X)+cov(X,Y)=6D(Z)=D(X+Y)=D(X)+D(Y)+2cov(X,Y)=12设X,…,X为n个r.v.,

记b₁=cov(X,X)…

,n.则称由b;组成的矩阵为随机变

的协方差矩阵B.即53.3.2协方差矩阵以前讲过的n维正态分布的形式中就有协方差矩阵

.定义,i,j=1,2,量X,…,X₇显

然

b₁=DX₁,i=1,2,…,nbik=bki,i,k=1,2,...,n.故协方差矩阵B是对称矩阵.

由柯西-许瓦

兹

不

等式

有

bz≤b₁bx,i,k=1,2,A,n如果我们记X=(X₁,X₂,A,X)¹,DX

=E[X-EX][X-EX]'则有DX=E[X-EX][X-EX]=B因此B

为

X=(X₁,X₂,A,X)的方差，其中EX=(EX₁,EX₂,A

EX,)

称为列随机向量X

的数学

期望

.如

果

记t=(t₁,…,t₁)',

上

式即

为

t²Bt=tDXt≥0证明

设f(x;,xx),f(x₁,x₂,A,x)

分

别

为(X,,X)以及

(X₁,X₂,A,X)

的

概

率

密

度

函

数

，

则协方差矩阵的性质对

任

意

实

数t₁,…,tn,有f(x₁,x₂,A,x,)dx₁A

dx≥0这

表

示B

是非负定

的

，

由矩阵论

的

二

次

型

理

论

知,对

任

意

正

整

数k(1≤k≤n)

有f(x₁,x₂,A,x,)dx₁A

dx₁如果X₁,…,Xn

相互独立，则B

为对角矩阵.证明

因为X₁,…,X

相互独立，所以当k≠I时，bx=

0

所以B

为对角矩阵.作业

P208习题三35,

36·

单

击

此

处

编

辑

母

版放

第感射各

位

的.

第

三

级-

第

四

级第五级束指

导

!映结批评艺数为

你

遮

风

挡

雨

。为你

送

去

温

暖

。为

你

送

去

光

明

。照

亮

你

的

心

灵

。母

要

是

温暖

。母

要

是

关

怀

。

母

爱