第三章§33协方差,相关系数(1)

1、12定义定义 设设 为二维随机变量，如果为二维随机变量，如果( , )( , )X YX Y ( ( () ) )( ( ( ) ) ) E EX XE E X XY YE E Y Y- - -存在，称其为存在，称其为 与与 的协方差，记为的协方差，记为X XY Y(,)()( )EXE XYECov X YY= =- - -协方差协方差内容复习内容复习 用公式用公式(,()( )E XYE XCov XE YY- -= =3协方差性质：协方差性质：),(),(1 CovabbaCov ),(),(),(22121 CovCovCov 0),(3 Cov相互独立，则相互独立，则与与),(2)(

2、4 CovDDD (,()( )E XYE XCov XE YY- -= =4( , )( )( )EEC vEox xx xh hx x h hh h- - -= =协方差协方差注：注：1 协方差可正、可负、可为零。协方差可正、可负、可为零。2 受量纲的影响，不便于实际应用。受量纲的影响，不便于实际应用。为了方便应用，消除了量纲的影响为了方便应用，消除了量纲的影响 , ,E EE ED DD Dx xx xh hh hx xh hh hx x DEDEE ( ( , ,) )C C o ov v x x h h DDEEE)( 与与 的的相关系数相关系数5定义定义3.5 （P.95）设）设

3、，则称，则称 0, 0 DD(,)Cov 为为 与与 的的相关系数相关系数。 DDEEE)( 相关系数相关系数( ,)CovDD 6221)(0,1),2( 1,1),3)( 1,1),23 ,UUU 求求) )求求求求例例4.解解：1)(,)CovDD ( , )()( ) ( )EC vEEox xh hx xh hx x h h- -= =( )Ex x= =1 12 2( )Dx x= =1 11 12 2 ( )( )( )EDEh hx xx x= =+ +2 2= =+ += =1 11 11 11 12 24 43 3 ( )()( )DEEh hh hh h= =- -2 2

4、2 2 ()( )EEx xh h= =- -2 24 4= =- -= =2 21 11 14 45 53 34 45 5,( ),xfx 其其它它x x1 1 0 01 10 0 ()()EEx xh hx x= =3 3xdx 1 13 30 01 11 14 4( , )Cov x x h h1 11 1 1 11 14 42 2 3 31 12 21120.968141245 7221)(0,1),2( 1,1),3)( 1,1),23 ,UUU 求求) )求求求求例例4.解解：2)(,)CovDD ( , )()( ) ( )EC vEEox xh hx xh hx x h h-

5、-= =( )Ex x= = 0 0( )Dx x= =1 16 6,( ),xf x 其其它它x x1 1 1 11 12 20 0 ()()EEx xh hx x= =3 3xdx 1 13 31 11 10 0( , )Cov x x h h0 0 0 00 000DD 8221)(0,1),2( 1,1),3)( 1,1),23 ,UUU 求求) )求求求求例例4.解解：3)(,)CovDD ( , )( ,)CovCov x x h hx xx x2 23 3319DDD ( , )()( ) ( )EC vEEox xh hx xh hx x h h- -= = ()()EEE x

6、 xx xx xx x2 23 32 23 3()()EEE x xx xx xx x2 22 23 32 2 3 3 EEEE x xx xx xx x2 22 22 23 32 23 3 EED x xx xx x2 22 23 33 33 3()DDh hx x= =+ +2 23 3DDx xx x= = =2 23 39 99221)(0,1),0.9682( 1,1),03)( 1,1),23 ,1UUU 求求) )求求求求例例4.以上结果说明了什么现象？以上结果说明了什么现象？yx= =2 2yx= =+ +3 32 2相关系数刻划了两个变量间相关系数刻划了两个变量间线性相关程度

7、线性相关程度10P.100解解 因因,4,322 DD DDCov ),(6)21(43 所以所以)2,3(24191)23( CovDDDD ),(213124191 CovDD 3 (,)CovDD 例例5.11)23,(),( CovCov)2,()3,( CovCov ),(21),(31 CovCov ),(2131 CovD 0 故故0 (,)CovDD xhxhz z3232D x x9 9( , )Cov x x h h6 612相关系数的性质相关系数的性质(1). |XY|1，即即“相关系数的绝对值不大于相关系数的绝对值不大于1”。 * * * * * * *( () )(

8、( ) )( () )2 2c co ov v( ( , ,) )D DD DD Dx xh hx xh hx x h h 2 2( (1 1) )x xh hr r方差的方差的非负性非负性 1 11 1x xh hr r 0 0 1 1xhxhr r证明证明13(2). 若若 与与 相互独立相互独立, 则则 0 0 x xh hr r ( ( , , ) )0 0C C o ov vx xh hx x h hQ Q与 相互独立，则证明证明 ( ( , , ) )= = 0 0C C o ov vD DD Dx xh hx x h hr rx xh h定义定义 若若,0 则称则称 与与 不相关

9、不相关。注注: 与与 相互独立相互独立）即即0( 与与 不相关不相关见见 P.96 例例114P.96例例6150 160),( DDCov 所以所以 与与 的相关系数的相关系数 即即 与与 不相关。不相关。 但但 与与 也不独立，因为也不独立，因为00, 0 P161828200 PP 172 与与 相互独立相互独立）即即0( 与与 不相关不相关例例1但但 二元正态分布除外二元正态分布除外);,;,(),(222211 N设设，则，则 是是 与与 的相关系数；的相关系数； 与与 相互独立相互独立 0。( , )Cov 0 与与 不独立不独立18证明证明（充分性）（充分性）设设=a+b ，则，

10、则E()=aE()+b，D()=a2D()即即 | |=1（必要性（略）（必要性（略）(3).|=1的的充分必要条件充分必要条件是是与与以概率以概率1存在存在线性关系线性关系， 即即 P(=a+b)=1，a0，a,b为常数。为常数。 1 10 0C C o ov v( ( , , ) )( ( ) )1 10 0a aa aD Da aa aa aD DD DD Da aD Dx xh hx x h hx xr rx xh hx xx x C C o ov v( ( , , ) )( () )E EE EE Ex x h hx xh hx xh h ( ( ( () ) )( () )E Ea

11、 ab bE Ea aE Eb bx xx xx xx x 2 22 2( () )( () )E E a ab ba a E Eb bE Ex xx xx xx x 2 22 2( () )a aE Eb bE Ea a E Eb bE Ex xx xx xx x 2 22 2 ( () ) a a E EE Ex xx x a aD D x x19即即X与与Y以概率以概率1存在线性关系，此时称存在线性关系，此时称X，Y正线性相关正线性相关。当当XY=- -1时时即即X与与Y以概率以概率1存在线性关系，此时称存在线性关系，此时称X，Y负线性相关负线性相关。(3).|XY|=1的的充分必要条件

12、充分必要条件是是X与与Y以概率以概率1存在线性关存在线性关系，即系，即 P(Y=aX+b)=1，a0，a,b为常数。为常数。当当XY=1一般有一般有当当XY 0称称X，Y正相关正相关。当当XY 0, 当方当方差越小时，事件差越小时，事件|X-E(X)| 发生的概率也越小，即发生的概率也越小，即X的的取值越集中在取值越集中在E(X)附近这进一步说明附近这进一步说明方差确实是一个方差确实是一个描述随机变量与其期望值离散程度的一个变量描述随机变量与其期望值离散程度的一个变量 切比雪夫不等式的用途切比雪夫不等式的用途： （1）估计事件的概率。）估计事件的概率。 （2）证明大数定律；）证明大数定律；2(

13、)|( )|D XPE 39切比雪夫不等式的应用切比雪夫不等式的应用22,1.DXP XEXDXP XEX 粗略估计粗略估计X在在 内的概率；内的概率；),(EXEX例例1 设随机变量设随机变量X的数学期望的数学期望EX=11,方差方差DX=9,则根据切比雪夫不等式估计则根据切比雪夫不等式估计._202 XP解解 由 有21DXP XEX 220112119 PXPX 119 P X2981.9940例例2（P.113A.2) 有有10000盏电灯，夜晚每盏灯开灯的盏电灯，夜晚每盏灯开灯的概率均为概率均为0.7。各电灯开、关相互独立。估计：同时。各电灯开、关相互独立。估计：同时开着的灯的数量在

14、开着的灯的数量在6800至至7200之间的概率。之间的概率。解解 设设 表示同时开着的灯的数量，表示同时开着的灯的数量，则则)7 . 0,10000(B )3 . 07 . 072006800(100007199680110000kkkkCP ,70007 . 010000 npE 21003 . 07 . 010000 D200|7000|72006800 PP220021001 95. 0 41定理定理4.1（切比雪夫大数定律切比雪夫大数定律）设）设 相互独立，相互独立，L,21 ，为为常常数数);, 2 , 1(,2cicDEiiiiL 有有则对任何则对任何, 0 111lim11 ni

15、iniinnnP证证 niiniiDnnD12111 ncncn 2121111111 niiniiniinDnnP由且比雪夫不等式由且比雪夫不等式21 nc 1 1 11 niin11 )( niin11 42推论推论（伯努利大数定律）设（伯努利大数定律）设 为为n重伯努利试验中重伯努利试验中A发生的次数，发生的次数，An),(APp 则对任给常数则对任给常数 有有, 0 1lim pnnPAn即即 事件事件A的频率的频率依概率依概率收敛于收敛于A的概率。的概率。证证 设设,0, 1 发发生生次次试试验验中中，第第发发生生次次试试验验中中第第AiAii 则则, 1)1(, ppDpEiii

16、,11nnnAnii ,11pnnpnnii 由定理由定理4.1得证。得证。这是用频率近似代替概率的理论依据。这是用频率近似代替概率的理论依据。 p)( nnA43. , 表表达达了了频频率率的的稳稳定定性性它它以以严严格格的的数数学学形形式式率率收收敛敛于于事事件件的的概概率率依依概概生生的的频频率率伯伯努努利利定定理理表表明明事事件件发发pnnA 故而当故而当 n 很大时很大时, 事件发生的频率与概率事件发生的频率与概率有较大偏差的可能性很小有较大偏差的可能性很小. 在实际应用中在实际应用中, 当试当试验次数很大时验次数很大时, 便可以用事件发生的频率来代便可以用事件发生的频率来代替事件的

17、概率替事件的概率.44定理定理4.2（辛钦（辛钦Khinchine大数定律）设大数定律）设L,21 相互独立且同分布，相互独立且同分布，), 2 , 1(L iEi 有有则对任何则对任何, 0 11lim1 niinnP即即 独立同分布随机变量的算术平均依概率收敛于独立同分布随机变量的算术平均依概率收敛于理论均值。理论均值。证明略证明略 )( niin11 45定理定理4.2的含义：的含义：对于每一个对于每一个 ，其取值相对于均值，其取值相对于均值 来说较分散。来说较分散。这往往是由个别因素（或偶然因素）引起的。但经这往往是由个别因素（或偶然因素）引起的。但经过过“平均平均”后，这些个别因素互相抵消、互相补偿，后，这些个别因素互相抵消、互相补偿，使得总体上趋于稳定，且密集在均值使得总体上趋于稳定，且密集在均值 附近。附近。 i 该定理提供了该定理提供了用样本均值用样本均值 （ 是是 的观的观测值）测值）近似代替理论均值的理论依据近似代替理论均值的理论依据。 niixnx11ixi 同分布：同分布：在相同条件下重复试验的结果可认为是同在相同条件下重复试验的结果可认为是同分布的