chapter2非参数统计

1、第二章 基本概念 2.1 非参数统计概念与产生 ：不假定总体分布的具体形式，尽量从数据或样本本身获得所需要的信息，通过估计而获得分布的结构，并逐步建立对事物的数学描述和统计模型的方法. ：样本数据被视为从分布族的某个参数族抽取出来的总体的代表，未知的仅是总体分布具体的参数值，这样推断问题就转换为分布族的若干个未知参数的估计问题，用样本对这些参数作出估计或进行假设检验，从而获得数据背后的分布.非参数统计的特点： 非参数统计方法对总体的额家丁相对较少，效率高，结果一般有较好的稳定性； 非参数统计可以处理所有类型的数据，有广泛的适用性； 非参数统计思想容易理解，计算容易。 20世纪40-50年代，(

2、1) Wilcoxon 两样本秩和检验，1947年Mann和Whitney将结果推广到两组样本量不等的情况； (2)Pitman 提出了相对于非参数方法相对于参数方法的相对效率的问题。 20世纪60年代，Hodges 和Lehmann 从秩检验统计量出发，导出了若干估计量和置信区间； 20世纪70-80年代，非参数统计借助于计算机获得了更稳健的估计和预测，促进了促进了非参数统计在应用领域的发展.20世纪90年代后，有关非参数统计的应用和研究主要集中在非参数回归和非参数密度领域.2.2 假设检验回顾一般的参数假设检验.：;：0100HH ： 为了对总体的分布类型或对总体中未知参数的推断，首先提出

3、假设H0，然后在H0为真的条件下，通过选取恰当的统计量来构造一个小概率事件，若在一次试验中小概率事件发生，则拒绝H0，否则则接受H0.假设检验问题需要探讨的问题： 将样本显示的特点作为对总体的猜想，并优先选作备择假设，零假设是相对于备择假设而出现的.(2 p 值：在一个假设检验中拒绝零假设的最小显著水平.判断法则： (3) 两类错误 第一类错误(弃真错误)： H0为真，拒绝H0 一般由检验显著性水平控制 第二类错误(取伪错误)： H0为假，接受H0 两类错误相互制衡，不能同时都减到很小. 就单变量位置参数而言，置信区间和双边假设检验有密切的联系.(1) 检验显著水平 a 和置信水平 1-a 是

4、两个对立事件的概率(2) 若水平为 a的拒绝域为 W，则其对立事件是置信水平为 1-a 的置信区间；(3) 若 H0在1-a的置信区间内则接受 H0,否则拒绝 H0.置信区间和假设检验的这种关系成为对偶关系.例：正态总体在方差已知情况下对均值的U检验. 2.3 经验分布和分布探索 ：设 x 为定义在样本空间上且取值于实数域的随机变量，其分布函数定义为 F(x)=P(Xx) (1) 右连续 或 F(x)=P(Xr。(2)最大与最小次顺统计量的分布：在上式中分别取r=n和r=1.容量为n的样本最大顺序统计量x(n)与样本最小顺序统计量x(1)之差称为样本极差样本极差,简称极差极差,常用R=x(n)

5、-x(1)表示。(1) 样本分位数(2) 分布分位数例如标准正态分布2) Q-Q图2.6 秩检验统计量(1) 定义(2) 分布(3) 边缘分布例秩统计量结统计量)()()(F)(),(0,)3();()2(lim) 1 (nyyPyynnnnnnnnpnnnn正态分布，即的分布函数收敛于标准规范化变量使得的正数列若存在一个趋于的估计序列对于渐近正态性：相合性：）无偏性；（渐进无偏性估计优劣的标准有：的一个估计，评价一个是设2.7 U统计量参数估计回顾：(4) 无偏估计的有效性计。的一致最小方差无偏估是)(则称)(var()(var都有,)(对于一切,无偏估计也是一个)().()(|)(的无偏估

6、计类的一个可估参数，是)(,),;(设参数分布族)(一致最小方差无偏估计)5(*gggggggEggxpFUMVUEgg一致最小方差无偏估计的求解：(1) 有充分统计量,无偏估计(2)求条件期望E(充分统计量|无偏估计)(1) 这里构造后的核函数(1)对称性；(2)无偏性UMVUE.的 )g(是统计量，则对应的h是),.,(假设的一个核，)g(是 )X,.,h(X上的一个可估函数，F是)g(又设).所有的离散分布F或(所有的连续分布设1k1UUxxUFn(1) 无偏性(2) 是样本的对称函数(3) 一致最小方差无偏估计 定理：).,.,(),.,(),.,(),.,( | ),.,()()(,

7、)(),.,(,.,1111111nnnnnnnxxUxxxxUUUxxxxUEgUMVUEggxxUxx等于的性质，上述条件期望的函数，根据条件期望是统计量的值，所以的顺序都不改变本中元素数，故无论如何改变样统计量是样本的对称函由于为如下条件期望的从而估计的无偏是计量，又总是样本分布的充分统量是离散分布，顺序统计无论总体是连续分布还证明：例1.11例1.12为了证明这个定理，我们引入下面的引理。)var(,0)var(,.,2, 1 ,0ch),.,(,.,),.,.,(),.,(h,.,2, 1 ,0ch0101111hhkUxxhhhFXXXXxxhExxkkccckkkckcccc则令

8、，的方差。对统计量的方差依赖与为期望。并且这些函数都以的独立同分布变量。是来自分布其中令，相关的序列。对第一步定义一个与中共同的整数个数。是有如下结果成立和以及上述排列对于分布引理),.,(),.,(),.,(),.,(cov(),.,(),.,(cov),.,(),.,(11111111kkckcckkkkjjiicxxhxxhjjhiihjjiiFcccckckckcckccjjiikkxxhxxhExxxxxxxxxxhxxxxhExxhxxhjjiikk).,()().,(,.,.,.,),.,.,()(),.,.,(),.,(),.,(covc),.,(),.,(, 1, 1, 11

9、11, 11, 11, 111上式所以分布的给定的条件下是独立同在这里个共同的整数，那么有如果两个排列引理证明：定理2.4证明(1) 无偏性的证明可以利用U统计量的定义直接获得。.素方法数为个元i-k的),.,(最后选取排列,同元素的子集的方法有个共i中方法，从中选取具有有),.,i(个样本中选取n从因为.法为：这种特征的排列对的方具有个共同的元素，则选取i有),.,(),.,i(设排列1111ikknkikknkikknikknkkCjjCCiCCCjji(2) 方差的证明则可以证明上述方差序列是非减序列证明可以利用定理2.6例2.132n 1(1)(2)(n 1)2nn12n(n)2n 1(2)(3)(n)(1)(2)(n)d12nF(X) F (X)F(X)U .U.U.F (X)F(X) F (X)