第四节.协方差和相关系数和分布的其他特征数

1、3.4， 3.5 , 2.7 多维随机变量的特征数多维随机变量的特征数1、协方差2、相关系数3、随机向量的数学期望与协方差矩阵4、条件期望、条件期望5、分布的其他特征数、分布的其他特征数问题问题 对于二维对于二维 r.v. (X ,Y ):已知联合分布已知联合分布边际分布边际分布 对二维对二维 r.v. 除每个除每个 r.v.各自的概率特各自的概率特性外性外, 相互之间可能还有某种联系相互之间可能还有某种联系.怎样用一个数去反映这种联系?一、一、 协方差协方差希望有一个数字特征能够在一定程度上反映希望有一个数字特征能够在一定程度上反映X与与Y的的之间相互关系。之间相互关系。由方差的性质由方差的

2、性质)()(2)()()(YEYXEXEYDXDYXD 如果如果X与与Y独立，独立，0)()( YEYXEXE则则这意味着这意味着0)()( YEYXEXE时，时，X与与Y必不独立必不独立这说明这说明 在一定程度上反映了在一定程度上反映了X与与Y的相互联系的相互联系)()(YEYXEXE 当当对于二维随机变量对于二维随机变量(X,Y), 如果如果存在，则称它为存在，则称它为X与与Y的协方差，记为的协方差，记为 )()(YEYXEXE ),(YXCov即即: ),(YXCov)()(YEYXEXE 1、 协方差的定义协方差的定义Covariance 协方差协方差2、 协方差的常用计算公式：协方差

3、的常用计算公式：)Var()()Cov(2XX-EXEX,XXY 时时，当当时时，称称为为正正相相关关0)Cov( X,Y时时，称称为为不不相相关关0)Cov( X,Y时时，称称为为负负相相关关0)Cov( X,Y，X,Y同时增加或同时减少同时增加或同时减少，X,Y一个增加另一个会减少一个增加另一个会减少)()()()Cov(YEXEXYEY,X 1性性质质)()()()Cov(YEXEXYEY,X 2性性质质.0)Cov(，反之不然，反之不然独立，则独立，则与与若若 Y,XYX不不相相关关与与YX协协方方差差的的计计算算公公式式独立独立，YX不不相相关关，YX相关相关，YX不不独独立立，YX

4、3、 协方差的基本性质协方差的基本性质: 3性性质质),2Cov()Var()Var()Var(YXYXYX 推推论论不相关，则不相关，则，若若YX)Var()Var()Var(YXYX 推推广广性性质质3 nii-jjiniinii,XXXX11111)Cov(2)Var()Var(n,X,XXn21个个随随机机变变量量对对任任意意YX，对对任任意意两两个个随随机机变变量量4性性质质,YX，对对任任意意两两个个随随机机变变量量)Cov()Cov(X,YY,X 5性性质质有有和和常常数数对对任任意意随随机机变变量量,aX0)Cov( a,X6性性质质有有对对任任意意常常数数,b,a)Cov()

5、Cov(X,YabaX,bY 7性性质质有有，对对任任意意两两个个随随机机变变量量,Z,YX)Cov()Cov()Cov(Z,YZ,XZ,YX 将随机变量标准化，即令将随机变量标准化，即令)()(XDXEXX )()(YDYEYY 则则0)()( YEXE1)()( YDXD故故)()()(),cov( YEXEYXEYX)( YXE)()(XDXEXE )()(YDYEY )()()()(YDXDYEYXEXE )()(),cov(YDXDYX *)( ,)(YbbbYXaaaX ),()( ,)(*YXCovababbYaXCov XY 若若Var (X ) 0, Var (Y ) 0 ,

6、称称YXY,XYXYEYXEXEY,X )Cov()Var()Var()()()Corr( 为为X ,Y 的的 (线性线性)相关系数相关系数.事实上，事实上，)Cov()Corr( Y,XX,Y若若 X ,Y 不相关不相关.无量纲无量纲 的量的量)Var(XEXXX )Var(YEYYY 若若 X ,Y 正相关.,X,Y0)Corr( 若若 X ,Y 负相关.,X,Y0)Corr( 0)Corr( X,Y四、相关系数（四、相关系数（Correlation coefficient）(,)XYCorr X Yov(,)()()CX YD XD Y 63） 是一个无量纲的量。是一个无量纲的量。XY

7、),(*YXCov 注：注：XY 1） 描述随机变量描述随机变量X和和Y间有无线性相关关系间有无线性相关关系2） 是是X和和Y经标准化之后新的随机变量的协方差经标准化之后新的随机变量的协方差.XY 相相关关系系数数的的性性质质1性性质质1),Corr(1- YX即即存存在在几几乎乎处处处处有有线线性性关关系系与与,YX2性性质质1),Corr( YX1)( baXYP使使得得, ),0(baa .aYXaYX0,1),Corr(0,1),Corr( 有有时时，当当有有时时其其中中当当),(2)()()(* YXYDXDYXD c co ov v* ()2 1(, )D XYCorr X Y (

8、,)1Corr X Y证证, 0)()(* YEXE 1( , )0Corr X Y, 0)(* YXD 并且1,0;(,)1,0.bCorr X Yb 强相关定理强相关定理 () 1,p Ya bX (,)1Corr X Y证证“”,bXaY ),()(2XDbYD ),()(XbEaYE ),()(XbY ),(YXc co ov v )( )( YEYXEXE 2)( XEXbE )(XbD )(2Xb )( )( bXaEbXaXEXE )( )( XbEabXaXEXE 于是于是 cov(,)(,)()( )X YCorr X YXY)()(22XbXb bb . 0, 1;0, 1

9、bb设设(,)1Corr X Y*()2 1(, )D XYCorr X Y (, )1when Corr X Y ， 0 )(2 YXEYXEYXD()( )1()( )XE XYE YPcXY( )( )( )()() ( )1()()YYP YE YE XcXYXXX即即.bXaY *() 1,p XYc有线性关系是一个极端，另一极端是有线性关系是一个极端，另一极端是 的场合。的场合。0 XY 若若X与与Y 的相关系数的相关系数 则称则称X与与Y 不相关。不相关。0 XY 0),()3 YXCov)()()()4YEXEXYE 对对X、Y，下列事实是等价的：，下列事实是等价的：1) X与

10、与Y 不相关不相关0)2 XY )()()() 5YDXDYXD 若若X与与Y独立独立 X与与Y不相关，不相关，反之不成立反之不成立.17 独立性与不相关性都是随机变量间联系独立性与不相关性都是随机变量间联系“薄弱薄弱”的的一种反映，自然要求知道这两概念之间的联系，一种反映，自然要求知道这两概念之间的联系，.,10111 401 211 41 41 21 4jiX YXYpp解： 先求的联合分布率：000001 41 41 41 4()( 1) 1 40 1 2 1 1 40()( 1) ( 1) 1 4( 1) 1 1 41 ( 1) 1 4 1 1 1 40E XE XY (, )0,OV

11、YCX YX所以，与即不相关.(1,1)0,(1) (1)1 4 1 4P XYP XP Y (1,1)(1) (1)P XYP XP YXY 所， 与以不独立。例例 设设V U(0,2 ) , X=cos V , Y=cos( V + ), 是给定的常数，求是给定的常数，求 解 其其他他02021)(,t,tpV , 021)cos()(, 021cos)(2020dttYEdttXE)Corr(X,Ycos2121)cos()cos()(20dtttXYE cos21)Cov( Y,X,2121)(cos)(,2121cos)(20222022dttYEdttXE,Y,X21)Var(21

12、)Var( cos)Corr(X,Y, 0若1XYXY ,若1XYXY 1)Corr( |X,Y|YX,有线性关系,23,2若0)Corr(X,YYX,不相关，但YX,不独立，YX,没有线性关系，但有函数关系122YXcos)Corr(X,YP174)()Corr(证明在证明在 X,Y特例特例则则若若),N()(222121 X,Y)N(211 ,X)N(222 ,Y21)Cov( X,YX ,Y 相互独立X , Y 不相关X , Y 相互独立相互独立X , Y 不相关不相关0命题命题)()(222121 ,NY,XX与与Y相互独立相互独立称 )Var()Cov()Cov()Cov()Var(

13、)Cov()Cov()Cov()Var(2122121211nnnnnXX,XX,XX,XXX,XX,XX,XX为为 协方差矩阵协方差矩阵,简称简称协方差阵协方差阵.与与协协方方差差阵阵、随随机机向向量量的的数数学学期期望望4定义定义若每个分量的若每个分量的维随机向量维随机向量对对,)(21 n,X,XXn数数学学期期望望都都存存在在，则则称称)(21 n,EX,EXEX.XXn的的数数学学期期望望为为的的数数学学期期望望向向量量，简简称称维维随随机机向向量量为为XEX )- )( - (EEEXXXX)(21 n,X,XXXX)Cov(可以证明可以证明 协方差矩阵协方差矩阵 为为 半正定矩阵

14、半正定矩阵定理定理2.n非负定矩阵非负定矩阵是一个对称的是一个对称的维随机向量的协方差阵维随机向量的协方差阵 nnnnnnnncccXXX,XX,XX,XXXX,XX,XX,XXXc ,c ,c2121222121211121),Cov()Cov()Cov()Cov(),Cov()Cov()Cov()Cov(),Cov(证明：证明： nc ,c ,ccn21 维维实实向向量量对对任任意意cXc)Cov( ninjjijiXXcc11)Cov( ninjjijiXXcc11)Cov( ninjjjjiiiEXXcEXXcE11 ninjjjjiiiEXXcEXXcE11 njjjjniiiiEX

15、XcEXXcE11 021 niiiiEXXcE.是是非非负负定定的的) Cov(X二维正态随机变量的概率密度为二维正态随机变量的概率密度为:)()()(2)()1(21exp121),(2222212121212221 yxyyxxyxf 33 现将上式中花括号内的式子写成矩阵形式，为此引入下列的矩阵现将上式中花括号内的式子写成矩阵形式，为此引入下列的矩阵 2121, xxX协方差矩阵为协方差矩阵为),(21XX 22211211CCCCC 22212121 34它的行列式它的行列式:)1(|22221 CC的逆阵为的逆阵为: 212121221|1 CC经过计算可知矩阵之积经过计算可知矩阵

16、之积 )()(1 XCX 2211212121222211)(1 xxxxC 22222212211212112)()(2)(11 xxxx36于是的概率密度可写成于是的概率密度可写成: ),(21xxf)()(21exp|)2(112122 XCXC上式容易推广到上式容易推广到 n 维正态随机变量的情况维正态随机变量的情况.引入列矩阵引入列矩阵 nxxxX21 n 21 )()()(21nXEXEXE38 n维正态随机变量维正态随机变量 的概率密度定义为：的概率密度定义为：),(21nXXX),(21nxxxf)()(21exp|)2(11212 XCXCn其中其中C是是 的协方差阵。的协方

17、差阵。),(21nXXX四、四、n维正态变量的重要性质：维正态变量的重要性质：1) n维随机变量维随机变量 服从服从n维正态分布的充要条件维正态分布的充要条件是是的任意的线性组合的任意的线性组合 ),(21nXXXnXXX,21nnXlXlXl 2211服从一维正态分布。服从一维正态分布。402) 若若 服从服从n维正态分布，设维正态分布，设是是 的线性函数，则的线性函数，则也服从多也服从多维正态分布维正态分布 .),(21nXXXkYYY,21), 2 , 1(njXj ),(21kYYY这性质称为正态变量的线性变换不变性这性质称为正态变量的线性变换不变性n维正态分布在随机过程和数理统计中常

18、会遇到维正态分布在随机过程和数理统计中常会遇到.3) 设设 服从服从n维正态分布维正态分布则则“相互独立相互独立”与与“ 两两不相关两两不相关”是等价的。是等价的。),(21nXXXnXXX,21nXXX,2142注：关于正态分布的一个重要结论注：关于正态分布的一个重要结论:设设X,Y相互独立相互独立,且都服从正态分布且都服从正态分布),(211 NX),(222 NY则则X,Y的任一线性组合的任一线性组合:cbYaXZ 仍服从正态分布仍服从正态分布),(22221221 bacbaNZ 例例: (1)设随机变量设随机变量X与与Y独立独立, 且服从均值为且服从均值为1、标准差为、标准差为 的的

19、正态分布正态分布,而而Y服从标准正态方布服从标准正态方布, 试求随机变量试求随机变量 Z=2X-Y+3 的概的概率密度函数率密度函数.2(2) 已知已知X,Y相互独立同服从相互独立同服从 分布分布,)21, 0(N求求)(YXE 44分析分析: 由于独立正态随机变量的线性组合仍服从正态分布由于独立正态随机变量的线性组合仍服从正态分布, 而正而正态分布由其均值和方差唯一确定态分布由其均值和方差唯一确定, 故只需确定故只需确定Z的均值的均值 E(X) 和方和方差差 D(X) 即可即可.解解: (1) 由题意知由题意知, )1 , 0(),2 , 1(NYNX且且X与与Y相互独立故相互独立故X与与Y

20、的线性组合的线性组合Z=2X-Y+3仍服从正态分布仍服从正态分布,且且)(),(ZDZENZ而而530123)()(2)32()( YEXEYXEZE9124)()(4)32()( YDXDYXDZD46故故)3 , 5(2NZ于是于是Z的概率密度函数为的概率密度函数为 : zzzfZ18)5(exp231)(2 (2) 因为因为X与与Y相互独立相互独立,且同服从且同服从 分布分布 ,故故 X-Y 也服从正也服从正态分布。态分布。)21, 0(N故故又又0)()()( YEXEYXE1)()()( YDXDYXD因此因此)1 , 0( NYX dxexYXEx2221)( dxexx20222

21、 2)(22022 xe48P190 24 27、28、, 2 , 1,),(jipyYxXPijji设二维离散型设二维离散型r.v.( X ,Y )的联合分布列的联合分布列若若0)(1 iijjjpyYPp则称则称jijjjii|jppyYPyY,xXPp )()(为为在在 Y = yj 的条件下的条件下, X的条件分布列的条件分布列.,i21)(jiyYxXP 记记作作1 1、二维离散、二维离散 r.v.r.v.的条件分布的条件分布定义定义13.5 条件分布与条件期望条件分布与条件期望若若,pxXPpjijii0)(1 则称则称 iijijij|ippxXPyY,xXPp)()(为为在在

22、X= xi 的条件下的条件下Y的条件分布列的条件分布列., 2 , 1i)(ijxXyYP 记记作作类似乘法公式类似乘法公式)()(),(ijijixXyYPxXPyYxXP)()(jijyYxXPyYP或, 2 , 1,ji类似于全概率公式类似于全概率公式),()(11jjijijiyYxXPpxXP)()(1jjjiyYPyYxXP, 2 , 1i),()(11ijiiijjyYxXPpyYP)()(1iiijxXPxXyYP, 2 , 1j,py|YxXPx|yFxxj | ixxjijii )()(给定给定 Y = yj 的条件下的条件下X的条件分布函数为的条件分布函数为定义定义2二维

23、离散二维离散 r.v.r.v.的条件分布函数的条件分布函数 yyj|iyyijijjpx|XyYPy|xF)()(给定给定 X= xi 的条件下的条件下Y的条件分布函数的条件分布函数为为若若 pY (y) 0, 则称则称为给定为给定Y = y 的条件下的条件下X 的条件分布函数的条件分布函数.()XYFx y定义定义3 xYduypy,up)()(称称为给定为给定Y = y 的条件下的条件下X 的条件概率密度函数的条件概率密度函数.)(yxpYX)()(ypy,xpY 类似地类似地, , 称称 yXdvxpx,vp)()(为给定为给定X = x 的条件下的条件下Y 的条件分布函数的条件分布函数

24、; ; ()Y XFy x为给定为给定X = x 的条件下的条件下Y 的条件概率密度函数的条件概率密度函数. .)(xypXY称称)()(xpx,ypX 2、二维连续二维连续 r.v.的条件分布和条件密度的条件分布和条件密度注意注意y是常数是常数, 对每一对每一 pY (y) 0 的的 y 处处, 只要只要符合定义的条件符合定义的条件, 都能定义相应的函数都能定义相应的函数.),(xyFXY相仿论述相仿论述.0)()()()(xpxypxpy , xpXXYX0)()()(ypyxpypYYXY),( yxFYX仅是仅是 x 的函数的函数, 类似于乘法公式：类似于乘法公式：)( yxpYX)(

25、xypXY类似于全概率公式类似于全概率公式dyypyxpdyy, xpxpYYXX)()()()(dxxpxypdxy, xpypXXYY)()()()(类似于类似于Bayes公式公式)()(ypy , xpY)( yxpYXdxxpxypxpxypXXYXXY)()()()()()(xpy , xpX)(xypXYdyypyxpypyxpYYXYYX)()()()(3、条件数学期望条件数学期望定义4条条件件期期望望，定定义义为为存存在在，称称其其为为若若条条件件分分布布的的数数学学期期望望 iiiyY|xXPx)( dxy|xxp)( )(yX|YEr.vX,Y 为离散为离散)(r.vX,Y

26、 为连续为连续)( jjix|XyYPy)( dyy|xyp)( )(xY|XEr.vX,Y 为离散为离散)(r.vX,Y 为连续为连续)( niiiiniiiiCyYXEayYCXaE11)|()(1、条件期望的性质条件期望的性质似似与无条件期望的性质类与无条件期望的性质类| )(| )(| )()(22121yYXgEyYXgEyYXgXgE 、注：)()(ygyX|YE 的函数的函数是是y)()(YgX|YE 记记r.v是是定理定理1 1存存在在，则则，且且是是二二维维设设EX.r.vX,Y )()(X|YEEEX dxdyx,yxpEX)( dxdyypy|xxpY)()(dyypdx

27、y|xxpY)()(dyypyX|YEY)()(dyypygY)()()(YgE)(X|YEE重重期期望望公公式式证明：)()(jjjyYPyX|YEEX dyypyX|YEEXY)()(重重期期望望公公式式的的应应用用时时为为离离散散、vr1.Y时时为为连连续续、vr2.Y.iii.,nn到到的的平平均均总总分分数数求求得得如如此此下下去去，试试摸摸球球分分，且且将将球球放放回回，重重新新则则得得止止取取球球；若若取取到到号号球球，则则得得一一分分，且且停停若若取取现现从从中中任任取取一一球球，个个球球，编编号号为为袋袋中中有有例例 .),2(1216 解则则为为第第一一次次取取到到球球的的

28、号号码码为为得得到到的的总总分分数数，记记.YXnnYPYPYP1)(2)()1( 1)1|( YXEEXiiYXE )|(2 i niiYPiX|YEEX1)()()1(211EXn-nn 2)1( nnEX学学期期望望随随机机个个随随机机变变量量和和的的数数例例8独独立立，证证明明与与只只取取整整数数值值，且且变变量量机机变变量量，随随机机为为一一列列独独立立同同分分布布的的随随，设设21nXNNXX)()()(11NEXEXENii 证明)(1NiiXE)|(1NXEENii11)()|(nNiinNPnNXE11)()(nniinNPXE11)()(nnNPXnE11)()(nnNnP

29、XE)()(1NEXE应应用用业业额额为为多多少少？则则该该商商场场一一天天的的平平均均营营独独立立同同分分布布，且且，设设诸诸的的购购物物金金额额为为个个顾顾客客又又设设进进入入商商场场的的第第机机变变量量，且且均均值值为为是是仅仅取取非非负负整整数数的的随随客客数数设设一一天天内内到到达达商商场场的的顾顾82,)(i35000 iiiXEXX.N)(1NiiXE要求解)()()(11NEXEXENii35000822870000作业作业 P.2067 8 182.7 分布的其他特征数分布的其他特征数1、 k阶矩阶矩定义定义1设设X 为随机变量，为随机变量，k为正整数为正整数.若以下若以下数

30、学期望都存在，则称数学期望都存在，则称)(kkXE 为为X的的k阶原点距阶原点距kkEXXE)( 为为X的的k阶中心矩阶中心矩注：注：k阶矩存在时，低于阶矩存在时，低于k的各阶矩都存在的各阶矩都存在.中心矩和原点矩的关系中心矩和原点矩的关系kkEXXE)( kXE)(1 kik-iiik01)( 01 2122 31123323 412121344364 常用中心矩用原点矩表示常用中心矩用原点矩表示例例1 设随机变量设随机变量XN( 0， )，求，求2 dxxexpxXEkkk221)(22 xu 令令 duuexpukk222 ,k.a为为奇奇数数时时若若,k.b为偶数时为偶数时若若.k0

31、duuexpukkk222 )21(222)1( k/kk ,k.kkk6421)3)(1( 22uz 令令 0)/21(2)1(22dzezzk/kk 02222duuexpukk k 解：解：2、变异系数变异系数定义定义2设随机变量设随机变量X 的二阶矩存在，则称比值的二阶矩存在，则称比值)()()()()(XEXXEXVarXCv 为为X 的的变异系数变异系数.引例引例 用用X表示某种同龄树的高度，其量纲为米，表示某种同龄树的高度，其量纲为米，用用Y表示某年龄段儿童的身高，其量纲也是米表示某年龄段儿童的身高，其量纲也是米.设设EX=10,Var( X )=1, EY=1,Var(Y )=

32、0.04.试比较试比较两者的波动大小。两者的波动大小。例例2 用用X表示某种同龄树的高度，其量纲为米，表示某种同龄树的高度，其量纲为米，用用Y表示某年龄段儿童的身高，其量纲也是米表示某年龄段儿童的身高，其量纲也是米.设设EX=10,Var( X )=1, EY=1,Var(Y )=0.04.试比较试比较两者的波动大小。两者的波动大小。解：解： X的变异系数为的变异系数为)()()()()(XEXXEXVarXCv 101 Y的变异系数为的变异系数为)()()()()(YEYYEYVarYCv 2010.04. 说明说明 Y 的波动比的波动比 X 的波动大的波动大3、分位数分位数定义定义3设连续

33、随机变量设连续随机变量X 的分布函数为的分布函数为F(x), 密度函数为密度函数为p(x), 对任意对任意 ，称满足条件，称满足条件 pdxxpxFpxp )()()10( ,p 的的 为此分布的为此分布的 p 分位数分位数，又称，又称下侧下侧 p 分位数分位数px 同理称满足条件同理称满足条件pdxxpxFpxp )()(1 的的 为此分布的为此分布的 上上侧侧 p 分位数分位数。px 分位数的几何意义分位数的几何意义xypxpxypx p(下侧下侧)分位数分位数上上侧分位数侧分位数转换公式：转换公式：pxpx 1px px 1例例3 考虑标准正态分布考虑标准正态分布N(0,1)的的p分位数。分位数。pup )( 满满足足具有下列性质：具有下列性质：050 pu.p时，时，当当050 pu.p时，时，当当050 pu.p时，时，当当2121ppuupp 时时，当当ppuup 1，对任意的对任意的xypupo那么对于一般正态分布那么对于一般正态分布 的的p分位数。分位数。)N(2,pxp )( 满满足足ppux ppux 则则4、中位数中位数定义定义4设连续随机变量设连续随机变量X 的分布函