大学数学概率篇之随机变量的数字特征-协方差与相关系数概要课件

1、4.3 协方差与相关系数一、协方差的定义二、协方差的性质三、相关系数的定义四、相关系数的性质五、矩的概念与协方差矩阵六、n维正态分布的概率密度与性质七、小结4.3 协方差与相关系数一、协方差的定义 前面我们介绍了随机变量的数学期望和方差，对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的协方差和相关系数本节将要讨论的协方差是反映随机变量之间依赖关系的一个数字特征. 前面我们介绍了随机变量的数学期望和方差，对于在一定程度上反映了随机变量与之间的关系.完在证明方差的性质时，已经知道，当与相互独立时，有反之则说明，当时，与一定不相互独立，这说明量在一定程度上反映了随机变量与之

2、间的关系.完在证明方差的性质时一、协方差的定义定义设为二维随机向量，若存在，则称其为随机变量和的协方差，记为即按定义，其概率分布为则若为连续型随机向量，其概率密度为为离型随机向量，若一、协方差的定义定义设为二维随机向量，若存在，则称其为随机变利用数学期望的性质，易将协方差的计算化简.特别地，有与独立时，当完协方差计算的简化公式利用数学期望的性质，易将协方差的计算化简.特别地，有与独立时二、协方差的性质1.协方差的基本性质(1)(2)(3)常数；(4)(5)其中是为任意常数；(6)当与相互独立，则二、协方差的性质1.协方差的基本性质(1)(2)(3)常数；2.随机变量和的方差与协方差的关系特别地

3、，若与相互独立，注：上述结果可推广至维情形：则若两两独立，则有2.随机变量和的方差与协方差的关系特别地，若与相互独立，注：可以证明：若的方差存在，则协方差一定存在且满足下列不等式：完可以证明：若的方差存在，则协方差一定存在且满足下列不等式：例1已知离散型随机向量的概率分布如右表,求解容易求得的概率分的概率分布为布为例1已知离散型随机向量的概率分布如右表,求解容易求得的概率分计算得于是完计算得于是完例2设连续型随机变量的密度函数为求解由的密度函数可求得其边缘密度函数分别为:例2设连续型随机变量的密度函数为求解由的密度函数可求得其边缘大学数学概率篇之随机变量的数字特征协方差与相关系数概要课件从而完

4、从而完 协方差的大小在一定程度上反映了X和Y相互间的关系，但它还受X与Y本身度量单位的影响. 例如：Cov(kX, kY)=k2Cov(X,Y)为避免随机变量本身度量单位不同而影响它们相互关系的度量，可将每个随机变量标准化，即取 协方差的大小在一定程度上反映了X和Y相互间的并将作为与之间相互关系的一种度量，而定义设为二维随机向量，称为随机变量和的相关系数，有时也记为特别地，当时，称与不相关.三、相关系数的定义并将作为与之间相互关系的一种度量，而定义设为二维随机向量，称四、相关系数的性质性质1.证由方差的性质和协方差的定义知，对任意实数有令则四、相关系数的性质性质1.证由方差的性质和协方差的定义

5、知，对由于方差是正的，故必有所以注意到此时易见结论成立. 注：与相互独立与不相关.性质2.若和相互独立，则由于方差是正的，故必有所以注意到此时易见结论成立. 注：与相例1 设X服从(-1/2, 1/2)内的均匀分布,而Y=cos X,（请课下自行验证）因而 =0，即X和Y不相关 .但Y与X有严格的函数关系，即X和Y不独立 .不难求得，Cov(X,Y)=0，例1 设X服从(-1/2, 1/2)内的均匀分布,而（请课性质3.若则存在常数使而且时，注：相关系数刻画了和间“线性相关”的程度.的值越接近于1，与线性相关程度越高；的值越接近于0，与线性相关程度越弱；时，与有严格线性关系；时，与无线性关系；

6、即X和Y以概率1线性相关.而且时，性质3.若则存在常数使而且时，注：相关系数刻画了和间“线性相这里注意：只说明与没有线性关系.并不能说明与之间没有其它函数关系.与从而不能推出独立.时，当4.设称其为用来近似的均方误差，则有下列结论：若则使均方误差达到最小.这里注意：只说明与没有线性关系.并不能说明与之间没有其它函数 =E(Y2)+b2E(X2)+a2- 2bE(XY)+2abE(X) - 2aE(Y)e =EY-(a+bX)2 解得这样求出的最佳逼近为L(X)=a0+b0X =E(Y2)+b2E(X2)+a2- 2注：示的好坏程度，我们可用均方误差来衡量以近似表似程度越好，且知最佳的线性近似为

7、其余均方误差能说明越接近1，越小.反之，越近于0，就越大，与的线性相关性越小.值越小表示与的近而从这个侧面也完注：示的好坏程度，我们可用均方误差来衡量以近似表似程度越好，例3设的分布律为易知于是不相关.这表示不存在线性关系,但例3设的分布律为易知于是不相关.这表示不存在线性关系,但知不是相互独立的.事实上,和具有关系:的值完全可由的值所确定.完知不是相互独立的.事实上,和具有关系:的值完全可由的值所确定例4设服从上的均匀分布,且判断与是否不相关,是否独立.解由于而因此从而与不相关.但由于与满足关系:所以与不独立.完例4设服从上的均匀分布,且判断与是否不相关,是否独立.解由于例5已知且与的相关系

8、数设求及解因且所以例5已知且与的相关系数设求及解因且所以因且所以又因故因且所以又因故例6设二维随机变量求相关系数解根据二维正态分布的边缘概率密度知而例6设二维随机变量求相关系数解根据二维正态分布的边缘概率密度例6设二维随机变量求相关系数解令则有例6设二维随机变量求相关系数解令则有例6设二维随机变量求相关系数解则有即有于是例6设二维随机变量求相关系数解则有即有于是注:从本例的结果可见,二维正态随机变量的分布完全由和各自的数学期望、方差以及它们的相关系数所确定.此外,易见有结论:若服从二维正态分布,则与相互独立,当且仅当与不相关.注:从本例的结果可见,二维正态随机变量的分布完全由和各自的数五、矩的

9、概念定义设和为随机变量，为正整数，为阶原点矩(简称阶矩);为阶中心矩为阶绝对原点矩；为阶绝对中心矩；称为和的阶混合矩;为和的混合中心矩.五、矩的概念定义设和为随机变量，为正整数，为阶原点矩(简称阶注: 由定义可见：(1)的数学期望是的一阶原点矩；(2)的方差是的二阶中心矩；(3)协方差是与的二阶混合中心矩.完注: 由定义可见：(1)的数学期望是的一阶原点矩；(2)的方六、协方差矩阵将二维随机变量的四个二阶中心矩排成矩阵的形式：对称矩阵称此矩阵为的协方差矩阵.六、协方差矩阵将二维随机变量的四个二阶中心矩排成矩阵的形式：类似定义维随机变量的协方差矩阵.若都存在，为的协方差矩阵.完称类似定义维随机变

10、量的协方差矩阵.若都存在，为的协方差矩阵.完六、n维正态分布的概率密度与性质先考虑二维正态分布的概率密度，再将其推广到维情形.二维正态随机向量的概率密度为记协方差矩阵易验算六、n维正态分布的概率密度与性质先考虑二维正态分布的概率密度易验算故二维正态随机向量的概率密度可用矩阵表示为其中是的转置.进一步，向量，若它的概率密度为设是一个维随机易验算故二维正态随机向量的概率密度可用矩阵表示为其中是的转置若它的概率密度为设是一个维随机向量，则称服从维正态分布.其中，是的协方差矩阵，是它的行列式，表示的逆矩阵，和是维列向量，而是的转置.完若它的概率密度为设是一个维随机向量，则称服从维正态分布.其中维正态分

11、布的几条重要性质1.维正态变量的每一个分量都是正态变量，反之，若2.维正态变量服从维正态分布的充要条件是任意线性组合均服从一维正态分布正态变量.都是不全为零）.（其中维正态分布的几条重要性质1.维正态变量的每一个分量都是正态变3.若服从维正态分布，设是的线性函数，则也服从维正态分布.注：这一性质称为正态变量的线性变换不变性.4.设服从维正态发布，则“相互独立”等价于“两两不相关” .完3.若服从维正态分布，设是的线性函数，则也服从维正态分布.注例7设随机变量和相互独立 ,试求的概率密度.解且与独立 ,故和的联合分布为正态分布 ,性组合是正态分布 ,且即和的任意线例7设随机变量和相互独立 ,试求的概率密度.解且与独立 ,故例7设随机变量和相互独立 ,试求的概率密度.解且即的概率密