概率论与数理统计课件3.3协方差、相关系数

§3.3协方差、相关系数一、协方差对于二维随机变量

来说，若已知

可以唯一确定,

的联合分布,的边际分布,反之,由边际分布不能确定联合分布.这说明对于二维随机变量,

除了每个随机变量各

自的概率特性外,相互之间还有某种联系.

各分量的数学期

望和方差不能反映各分量之间的相互关系.描述这种相关

程度的一个特征数就是协方差.1.定义定义3.3.1若

为一个二维随机变量，又

称为

的协方差，记作特别地有，对于离散型随机变量,对连续型随机变量,.从协方差的定义可以看出,它是的偏差

与

的偏差

乘积的数学期望.由于偏差可正可负,故协方差也可正可负,也可为零.

当

0时,称

与

正相关,这时两个偏差与

同时增加或同时减少.由于

与

都是常数,故等价于与

同时增加或同时减少,这就是正相关的含义．当0时,称与负相关,这时增加而减少,或之间可能存在其它的函数注意协方差是反映随机变量增加而减少,这就是负相关的含义．当=0时,称与不相关．之间不不相关是指与关系，避如平方关系、对数关系等．数量指标.存在线性关系，但之间是否存在线性关系的2.计算公式由期望的性质可推出：.例3.3.1已知随机变量η

ξ

1010p00q求.η

ξ

注意在求协方差时经常用上述公式进行计算．的联合分布为解:由题意，ξ的边际分布为ξ10ppqη的边际分布为η10ppqξη的边际分布为ξη10ppq所以，例3.3.2设二维随机变量,

故的联合密度为求解:由的联合密度函数求得其边际密度函数分别为，,于是，从而，注意，从上述例子可以发现，求协方差关键是与3.性质由协方差的定义，易验证，协方差具有如下性质:1)

4)若相互独立，则;2）若为常数，则

除了上述性质外，协方差还具有如下性质：证明因为与相互独立，所以，从而，

注意此结论反过来不一定成立,即不相关不一定相互独立.由此说明不相关是比独立更弱的一个概念.5);

证明由方差的定义知注意在相关的条件下,和的方差不等于方差的和.或者说在与不相关的条件下,和的方差等于方差的和.这可将方差的性质若与互独立，则中条件”独立”降弱为”不相关”.性质5)还可以推广到多个随机变量的情形.6)（施瓦茨不等式）证明对任意，由积分的性质=

上面关于t的二次三项式≥0的充要条件是判别式,即

.例3.3.3设随机变量令，则与不独立，此时，与的协方差为这个例子说明，独立必导致不相关，而不相关不一定导致独立.例3.3.4设二维随机变量的联合密度函数为求。解:由的联合密度函数求得其边际密度函数为，

由此得，，，于是，协方差为.由

相关系数从上面的讨论看，协方差在一定程度上反映了两本身数值大小各自增大倍，它们之间的相

的影响。比如，若令互关系应该不变，但其协方差却增大倍，为此，实际中常用的是标准化协方差——相关系数.随机变量之间的关系，但因它要受1.定义定义3.3.2

若为一个二维随机变量，且称为的相关系数，用或表示.的相关系数就是它们各自的标准化随机变量的协方差.即注意相关系数仍是随机变量之间的线性关系强弱的的值越接近于1,说明与的线性相关程度越高;

的值越接近于0,说明与的线性相关程度越弱;=1时,说明与的变化可完全由的线性函数一个度量，因而说得更确切些，应该称为线性相关系数.当当当给出.与为完全负相关.当,称与为不相关.

与为不相关,只能说明与之间没有线

性关系,并不能说明与之间没有其与独立.它函数关系,从而不能推出,称与为完全正相关.,称与为完全负相关.

2.性质由施瓦茨不等式易得到1）设二维随机变量()的两个分量与的相关系，则有；数为这个性质表明：相关系数介于-1与1之间.对相关系数为1时,有另一重要性质.2）的充要条是以概率为1线性相关，即存在常

数a,b使得其中当时,有0;当时,有0证明充分性若，则将带入相关系数的定义中得必要性因为

故当时，有

由此得或这就证明了当时，与几乎处处线性正相关，时，与几乎处处线性负相关.类似可证明当3)若相互独立，则（由即得）（逆之不真）.例3.3.5设为上的均匀分布，又求之间的相关系数.解：

在该例中不相关，但显然有,也就是说，之间显然没有线性关系，却有另外的函数关系.由此可知,当时与可能独立也可能不独立.设,例3.3.6证明证明（1）做变量代换：

于是有，进一步有，

（2）由二维正态分布的性质可知相互独立的充要，从而相互独立的充要条件是与不相关.条件为就二维正态分布而言，联合密度中的参数就是与的相关系数.因此,二维正态随机变量的分布完全可由各自的数学期望、方差以及相关系数所确定.

注意对于二维正态分布不相关与独立性是两个等价的概念.例3.3.7已知，且的相关系数是

若，求及.

解因为且所以，又因

故

矩是随机变量最广泛的数字特征.均值、方差、协方矩差实际上都是某种矩，现向大家介绍最常用——原点矩、中心矩及混合矩.

的几种矩1.原点矩定义3.3.3

设为随机变量，k为正整数，

若存在，

记，

称为的k阶原点矩.2.中心矩（期望）就是一阶原点矩.定义3.3.4设为随机变量，若（k为正整数）存在,记称为的k阶中心矩.(方差)为二阶中心矩.注意原点矩和中心矩可以互相换算，

定理3.3.1

若存在，

则对任意，

也存在.证仅对连续型证明，且设,因如果此定理说明，随机变量的高阶矩存在，则低阶矩一定存在.关于矩，有更一般地，若a为一常数，p为任一正数，存在

则称是关于点a的p阶矩

3.混合矩设为二维随机变量，称为k+混合矩.

称为k+阶的中心混合矩.

特别的当k==1时，1+1阶中心混合矩就是协方差.

四、协方差矩阵对于n维随机变量，最常用的也是一阶原点矩（）和二阶中心矩：，，称

为的协方差矩阵，由协方差的性质知B为对称的非负定矩阵.矩阵为二维随机变量的协方差矩阵.例3.3.8设，求其协方差阵.解:因为=,=,,所以,协方差阵为.五、n维正态分布的概率密度

记，，若的联合密度形如：

，

．

则称为n维（元）正态变量，简记其分布为N（A，B），

称之为n维正态分布.这里B是的协方差阵,它是一个正定阵.

是它的行列式,

是的转置.表示的逆矩阵,

若取数学期望向量和协方差矩阵分别为代入n维正态分布的密度中,则可得到二元正态分布的密度函数.n维正态分布是一种最重要的多维分布,它在概率论、数理统计和随机过程中都占有重要地位.习题3.31．设服从参数为的泊松分布，

试求，及2．设随机变量的方差随机变量的方差又与相关系数，求及

3．设二维随机变量的联合分布列为求与的协方差．

4.把一颗骰子独立地掷次.求出现的次数与点出现的次数的协方差及相关系数．5．设二维随机变量的联合密度函数为求6．设二维随机变量的联合密度函数为求与相关系数

7．设二维随机变量服从区域的均匀分布，

求与协方差与相关系数．8．设随机变量与相关系数为

求与的相关系数，

其中为常数．

9．设与独立分布，其共同分布试求与的相关系数，其中为常数．10．设随机变量与的联合分布在以点

为顶点的三角形区域上服从均匀分布，试求随机变量的方差11．设随机变量的联合分布列为证明与不相关，且与不相互独立．12．设服从二维正态分布，且~~相关系数

试写出与的联合概率密度．

13．设是两个随机事件，随机变量；

试证明随机变量和不相关的充要条件是相互独立．14．一颗骰子连续掷4次，总数总和记为，估计

15．设随机变量与的数学期望分别为方差分别为，而相关系数为试用契贝晓夫不等式估计

16．设二维随机变量的联合密度函数为求的协方差矩阵．17．设随机变量的概率密度为

(1)求的数学期望与方差

(2)求与的协方差，并问与是否不相关？(3)求与是否相互独立？为什么？18．以知随机变量服从二维正态分布，

和分别服从正态分布与的相关系数设，

(1)求