yydyfx3B(补充)

1、1 应用多元统计应用多元统计分析分析 第三章第三章 多元正态总体多元正态总体 参数的假设检验参数的假设检验( (二二) )2第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验目目 录录( (二二) )3.6 正态性检验正态性检验 第三章第三章所涉及的最大似然估计量所涉及的最大似然估计量小结小结 3第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.6 3.6 正态性检验正态性检验 在均值和协差阵的检验中在均值和协差阵的检验中,以及以后将介绍的一些以及以后将介绍的一些统计方法中都是假定样本来自统计方法中都是假定样本来自p元正态总体元正态总体.所作统计所作统计推断

2、的结论是否正确推断的结论是否正确,在某种意义上取决于实际总体与在某种意义上取决于实际总体与正态总体接近的程度如何正态总体接近的程度如何?因此建立一些方法来检验多因此建立一些方法来检验多元观测数据与多元正态数据的差异是否显著是十分必元观测数据与多元正态数据的差异是否显著是十分必要的要的. 设设X()(X1 , , Xp) (1,n)是来自是来自p元总体元总体X的样的样本本,试问总体试问总体X是否服从是否服从Np(,)分布分布? 若总体若总体X(X1,Xp)Np(,),利用多元正态分布的利用多元正态分布的一些性质可知一些性质可知(记记=(1,p),=(ij)pp )： 4第三章第三章 多元正态总体

3、参数的假设检验多元正态总体参数的假设检验3.6 3.6 正态性检验正态性检验 每个分量每个分量XiN(i,ii) (i1，p). 任二个分量任二个分量(Xi , Xj )二元正态分布二元正态分布. 设设l=(l1,lp)为任给的为任给的p维常向量维常向量,令令lX,则则N1( l，ll ). 令令=(X-)-1(X-),则则2(p). 正态随机向量正态随机向量X的概率密度等高线为椭球的概率密度等高线为椭球. 若总体若总体X为多元正态总体为多元正态总体,必具有以上所列的几条性必具有以上所列的几条性质质.如果如果X具有以上这些性质具有以上这些性质,也不一定能得出也不一定能得出X为为p元正元正态分布

4、态分布.但如果经过检验但如果经过检验,比如发现某个分量比如发现某个分量Xi与正态分与正态分布有显著差异布有显著差异,即可得出即可得出p元总体元总体X与与p元正态分布也有元正态分布也有显著差异显著差异.利用以上性质利用以上性质,要来构造出好的满意的多元正要来构造出好的满意的多元正态的整体性检验十分困难态的整体性检验十分困难.5第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-一维边缘分布的正态性检验一维边缘分布的正态性检验 在实际应用中如果经过从多方面得到的检验结果与在实际应用中如果经过从多方面得到的检验结果与正态分布均无显著性差异，也就认为该总

5、体正态分布均无显著性差异，也就认为该总体X与与p元正元正态无显著差异态无显著差异. 设设p维随机向量维随机向量X(X1,Xp),检验分量检验分量XiN(i,2) (i1，p) ，把把p维正态性检验化为维正态性检验化为p个一个一维数据的正态性检验维数据的正态性检验.常用的检验方法有以下几种常用的检验方法有以下几种. 1. 2检验法检验法 这是适用于连续型或离散型随机变量分布的拟合优这是适用于连续型或离散型随机变量分布的拟合优度检验方法，也称为度检验方法，也称为Pearson 2 检验法检验法. 2. 柯氏柯氏(Kolmogorov,A.N.)检验法检验法 这是适用于连续型分布的拟合优度检验方法这

6、是适用于连续型分布的拟合优度检验方法.6第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-一维边缘分布的正态性检验一维边缘分布的正态性检验 3. 偏峰检验法偏峰检验法 4. W (Wilks)检验和检验和D检验检验 5. Q-Q (QuantileQuantile)图检验法图检验法 6. P-P (ProbabilityProbability )图检验法图检验法 7. “3”原则检验法原则检验法 8. A2和和W2统计量检验法统计量检验法 方法方法3至方法至方法8都是只适用于正态分布的检验都是只适用于正态分布的检验法法.7第三章第三章 多元正态

7、总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-二维数据的正态性检验二维数据的正态性检验 设设X(X1,Xp) 为为p维随机向量维随机向量,X的任二个分量的的任二个分量的n次观测数据记为次观测数据记为X(i)=(Xi1,Xi2)(i=1,n).下面介绍检验下面介绍检验二维观测数据是否来自二元正态分布的方法二维观测数据是否来自二元正态分布的方法. 1. 等概椭圆检验法等概椭圆检验法 若二维随机向量若二维随机向量X=(X1,X2)N2(,),则则X的概率密的概率密度函数等高线度函数等高线 f(x1,x2)a (X-)-1(X-)b2右边是中心在右边是中心在(1,2)由

8、由(X-)-1(X-)b2决定的椭圆决定的椭圆.由本章由本章3.1的介绍的知识可知的介绍的知识可知 D2(X-)-1(X-)2 (2).对给定对给定p0(0，1)，则存在则存在d0使使 P D2 d0p08第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-二维数据的正态性检验二维数据的正态性检验 2. 二维数据的二维数据的2图检验法图检验法 因二维数据的因二维数据的2图检验法与图检验法与p维数据的维数据的2图图检验法原理完全相同检验法原理完全相同.故关于二维数据的故关于二维数据的2 图检图检验方法请参阅下面验方法请参阅下面p维数据的维数据的2图

9、检验方法图检验方法.9第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-p维数据的正态性检验维数据的正态性检验 设设X()(X1 , , Xp) (1,n)是来自是来自p元总体元总体X的的样本样本, 检验检验H0: XNp(,)，H1:X不服从不服从Np (,). 1. 2统计量的统计量的Q-Q图检验法图检验法(或或P-P图检验法图检验法) 这是由正态分布的性质构造的检验法这是由正态分布的性质构造的检验法. 在在H0下下,样品样品X到总体中心到总体中心的广义平方距离的广义平方距离(或称马或称马氏距离氏距离)D2(X,)记为记为D2 ，则有则有

10、D2 (X-)-1(X-)2(p)以下构造的检验方法就是检验统计量以下构造的检验方法就是检验统计量D2是否是否2(p).直观的想法是：由样品直观的想法是：由样品X()计算计算D2(1,n)，对对D2排序：排序： 10第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-p维数据的正态性检验维数据的正态性检验 D2(1) D2(2) D2(n) . 统计量统计量 D2 的经验分布函数取为的经验分布函数取为 其中其中H(D2(t) |p)表示表示2 (p)的分布函数在的分布函数在D2(t)的值的值. 设设2 分布的分布的pt分位数为分位数为t2 ,显然

11、显然t2满足满足: H(t 2 |p)= pt.即即2 分布的分布的pt 分位数分位数t2 H-1(pt |p). 由经验分布得到样本的由经验分布得到样本的pt 分位数分位数D2(t)=Fn-1(pt ).若若H(x|p) Fn(x)，应有应有D2(t) t2 ,绘制点绘制点(D2(t) , t2 )的散的散布图布图,当当X为正态总体时为正态总体时,这些点应散布在一条直这些点应散布在一条直线上线上. 11第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-p维数据的正态性检验维数据的正态性检验 这种检验法其实就是卡方分布的这种检验法其实就是卡方分

12、布的Q-Q图检验法图检验法. 类似地也可以绘制点类似地也可以绘制点(pt , H(D2(t) |p)的散布图，当的散布图，当X为正态总体时，这些点也应散布在一条直线上为正态总体时，这些点也应散布在一条直线上.这种这种检验法其实就是卡方分布的检验法其实就是卡方分布的P-P图检验法图检验法. 具体检验步骤如下：具体检验步骤如下： (1) 由由n个个p维样本点维样本点X() (1,n)计算样本均值计算样本均值X，样本协差阵样本协差阵S：12第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-p维数据的正态性检验维数据的正态性检验 (2) 计算样品点计算

13、样品点X(t)到到X的广义平方距离的广义平方距离(即马氏距即马氏距离离) (3) 对广义平方距离对广义平方距离D2t 按从小到大的次序排序按从小到大的次序排序 (4) 计算计算pt(t-0.5)/n (t=1, 2，n) ,t2 ,其中其中t2满满足：足： H(t2 |p)= pt (或计算或计算H(D2(t)|p)的值的值).13第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-p维数据的正态性检验维数据的正态性检验 (5) 以平方距离为横坐标以平方距离为横坐标,2 分位数为纵坐标作为分位数为纵坐标作为平面坐标系，用平面坐标系，用n个点个点(

14、D2(t) ,t2 )绘制散点图，即得绘制散点图，即得到卡方分布的到卡方分布的Q-Q图图;或者用另或者用另n个点个点(pt , H(D2(t) | p)绘制散点图，即得卡方分布的绘制散点图，即得卡方分布的P-P图图. (6) 考察这考察这n个点是否散布在一条通过原点个点是否散布在一条通过原点,斜率斜率为为1的直线上的直线上.若是若是,接受数据来自接受数据来自p维正态总体的假维正态总体的假设设;否则拒绝正态性假设否则拒绝正态性假设.14第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-p维数据的正态性检验维数据的正态性检验 2. 主分量检验法主分

15、量检验法 设设X(i)=(Xi1, Xi2, Xip)(i=1,n)为来自为来自p维总体维总体X=(X1,Xp)的观测数据的观测数据(样本样本).检验检验H0: XNp(,)，H1：X不服从不服从Np(,). 设设样本协差阵样本协差阵S的特征值为的特征值为12p0，相应的特相应的特征向量为征向量为l1,l2,lp.记记lt=(l1t , l2t , , lpt).令令 Zt= l1t X1+ l2t X2+ lptXp (t=1,2,p)即新变量即新变量Z1,Zp 是是X1,Xp的线性组合的线性组合.且可以证明且可以证明: Z1,Zp 是相互独立的是相互独立的.15第三章第三章 多元正态总体参

16、数的假设检验多元正态总体参数的假设检验3.63.6正态性检验正态性检验-p维数据的正态性检验维数据的正态性检验 p维观测数据提供的信息大部分可由前几个维观测数据提供的信息大部分可由前几个新变量所提供新变量所提供.这时这时p维数据的正态性检验可化维数据的正态性检验可化为几个相互独立的新变量的一元数据的正态性为几个相互独立的新变量的一元数据的正态性检验检验.这些新变量在第七章主成分分析中被称这些新变量在第七章主成分分析中被称为主成分为主成分.故此检验法称为主成分检验法故此检验法称为主成分检验法. 如果正态性假设不能成立，一般应考虑对如果正态性假设不能成立，一般应考虑对数据进行变换，使非正态数据更接

17、近正态，然数据进行变换，使非正态数据更接近正态，然后对变换后的数据进行统计分析后对变换后的数据进行统计分析.有关变换的有关变换的方法请见参考文献方法请见参考文献5、6或或7.16第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验所涉及的最大似然估计量所涉及的最大似然估计量单个总体单个总体 单个单个p维正态总体维正态总体Np(,)，设设X(i)(i=1,n)为来自为来自p维总体的随机样本维总体的随机样本.样本的似然函数为样本的似然函数为niiinnpXXL1)()(122)(21-etr2),(:,1,) 1 (似然函数达最大值时当AnX2-exp2),(22npnAnAXLnn

18、p17第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验所涉及的最大似然估计量所涉及的最大似然估计量单个总体单个总体:1,)2(00似然函数达最大值取巳知时当An2-exp2),(20200npnAnALnnp)()()(1)(0)(10)(0XXXXAXXAiniiinii其中18第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验所涉及的最大似然估计量所涉及的最大似然估计量单个总体单个总体:)tr(1,),0()3(1022002似然函数达最大值时取时未知巳知当AnpX2-exp)(tr2),(2-0212020npnpAXLnnpnp19第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验所涉及的最大似然估计量所涉及的最大似然估计量单个总体单个总体:,)0()4(00似然函数达最大值时取时巳知当XAnXLnnp102-0202-etr2),(20第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验所涉及的最大似然估计量所涉及的最大似然估计量两个总体两个总体 两个两个p维正态总体维正态总体Np(1),)和和Np(2),)，