概率论与数理统计43协方差及相关系数

协方差和相关系数1.问题的提出一、协方差与相关系数的概念及性质

对于二维随机向量(X,Y)来说,数学期望只反映了X与Y各自的平均值,方差只反映了X与Y各自离开均值的偏离程度,它们对X与Y之间相互关系不提供任何信息.

但二维随机向量(X,Y)的概率密度f(x,y)或分布律pij全面地描述了(X,Y)的统计规律,也包含有X与Y之间关系的信息.我们希望有一个数字特征能够在一定程度上反映这种联系.当前1页，总共36页。

在讨论这个问题之前，我们先看一个例子。在研究子女与父母的相象程度时，有一项是关于父亲的身高和其成年儿子身高的关系。1.问题的提出当前2页，总共36页。

这里有两个变量，一个是父亲的身高，一个是成年儿子身高.为了研究二者关系，英国统计学家皮尔逊收集了1078个父亲及其成年儿子身高的数据,画出了一张散点图。儿子的身高父亲的身高问：父亲及其成年儿子身高存在怎样的关系呢？fatherson1.问题的提出当前3页，总共36页。类似的问题有：1、吸烟和患肺癌有什么关系？2、受教育程度和失业有什么关系？3、高考入学分数和大学学习成绩有什么关系？……???当前4页，总共36页。协方差1.问题的提出当前5页，总共36页。

因此,方差是协方差的特例,协方差刻画两个随机变量之间的“某种”关系.2.定义特别,若X=Y,则cov(X,X)=E(X-E(X))2=D(X)

对两个随机向量(X,Y),若存在，则称为X和Y的协方差.当前6页，总共36页。对于任意随机变量X与Y,总有

由协方差定义得这是计算协方差的常用公式.可见，若X与Y独立，则Cov(X,Y)=0.

Cov(X,Y)=E(XY)-E(X)E(Y)

3.计算当前7页，总共36页。(4)Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)(2)Cov(X,X)=D(X)4.协方差的性质(3)Cov(aX,bY)=abCov(X,Y)其中a、b是常数(1)

Cov(X,Y)=Cov(Y,X)(对称性)特别的:Cov(X,c)=0(c为常数)(5)若X与Y独立，则Cov(X,Y)=0.当前8页，总共36页。

协方差的数值在一定程度上反映了X与Y相互间的联系,但它受X与Y本身数值大小的影响.如令X*=kX,Y*=kY,这时X*与Y*间的相互联系和X与Y的相互联系应该是一样的,但是Cov(X*,Y*)=k2Cov(X,Y)

为了克服这一缺点,在计算X与Y的协方差之前,先对X与Y进行标准化:

再来计算X*和Y*的协方差，这样就引进了相关系数的概念.当前9页，总共36页。为随机变量X和Y的相关系数(correlationconfficient).1.定义:若D(X)>0,D(Y)>0,且Cov(X,Y)存在时，称

在不致引起混淆时，记

为.二、相关系数当前10页，总共36页。

考虑以X的线性函数a+bX来近似表示Y.以均方误差

e=E{[Y-(a+bX)]2}=E(Y2)+b2E(X2)+a2-2bE(XY)+2abE(X)-2aE(Y)来衡量以a+bX近似表达Y的好坏程度.e的值越小表示a+bX与Y的近似程度越好.为此令从而得2.相关系数的性质当前11页，总共36页。

性质1:随机变量X和Y的相关系数满足|ρXY|≤1.证明由可知当前12页，总共36页。

性质2:|ρXY|=1的充要条件是,存在常数a,b使得P{Y=a+bX}=1

证明:(1)若|ρXY|=1,则由当前13页，总共36页。(2)

若存在常数a*,b*使得P{Y=a*+b*X}=1,则有P{[Y-(a*+b*X)]2=0}=1.即得E{[Y-(a*+b*X)]2}=0,又由即得|ρXY|=1注意

|ρXY|的大小反映了X,Y之间线性关系的密切程度:ρXY=0时,X,Y之间无线性关系;|ρXY|=1时,X,Y之间具有线性关系.当前14页，总共36页。ρXY>0,X,Y正相关ρXY<0,X,Y负相关ρXY≠0,X,Y相关ρXY=0,X,Y不相关(ρXY=1,X,Y完全正相关)(ρXY=-1,X,Y完全负相关)xy0

完全正相关Y=aX+ba>0xy0

完全负相关Y=aX+ba<0当前15页，总共36页。xy0

完全不相关xy0

正相关xy0

负相关当前16页，总共36页。A：0B：1C：-1D：1或-1解：因为X＋Y＝n，即P{Y=-X+n}=1，所以X与Y完全负相关，故从而选C。注：若a>0时,ρXY=1a<0时,ρXY=-1则例1：将一枚密度均匀硬币抛n次，分别以X和Y记作正反面出现的次数，则X和Y的相关系数为当前17页，总共36页。例2(X,Y)的联合分布为:X-101Y-1011/81/81/81/801/81/81/81/8求相关系数ρXY,并判断X,Y是否相关,是否独立.解：X-101Y-1011/81/81/83/81/801/82/81/81/81/83/83/82/83/81XY-101P2/84/82/8当前18页，总共36页。例2(X,Y)的联合分布为:X-101Y-1011/81/81/81/801/81/81/81/8求相关系数ρXY,并判断X,Y是否相关,是否独立.解：从而：X-101Y-1011/81/81/83/81/801/82/81/81/81/83/83/82/83/81另一方面：P(X=-1,Y=-1)=1/8≠P(X=-1)P(Y=-1)=(3/8)×(3/8)所以X与Y不独立.当前19页，总共36页。例3:设随机变量Θ在[-π,π]上服从均匀分布,又X=sinΘ,Y=cosΘ试求X与Y的相关系数ρ.解：这时有Cov(X,Y)=E(XY)-E(X)E(Y)=0,即ρ=0.从而X与Y不相关,没有线性关系;但是X与Y存在另一个函数关X2+Y2=1,从而X与Y是不独立的.当前20页，总共36页。

X,Y不相关X,Y相互独立X,Y不相关不相关与相互独立的关系当前21页，总共36页。当前22页，总共36页。结论若(X,Y)服从二维正态分布，X,Y相互独立X,Y不相关当前23页，总共36页。解练习当前24页，总共36页。当前25页，总共36页。当前26页，总共36页。1.定义三、矩当前27页，总共36页。2.协方差矩阵当前28页，总共36页。当前29页，总共36页。

这一讲我们主要介绍了协方差和相关系数，相关系数是刻划两个随机变量间线性相关程度的重要的数字特征,它取值在-1到1之间.小结当前30页，总共36页。

例4设随机变量X和Y相互独立且X~N(1,2),Y~N(0,1).试求Z=2X-Y+3的概率密度.YX-10100.070.180.1510.080.