chapter非参数统计详解实用实用教案

1、非参数统计的特点：非参数统计方法(fngf)对总体的额家丁相对较少，效率高，结果一般有较好的稳定性；非参数统计可以处理所有类型的数据，有广泛的适用性；非参数统计思想容易理解，计算容易。非参数统计的历史： 20世纪40-50年代(nindi)，(1) Wilcoxon 两样本秩和检验，1947年Mann和Whitney将结果推广到两组样本量不等的情况； (2)Pitman 提出了相对于非参数方法相对于参数方法的相对效率的问题。 第1页/共50页第一页，共51页。 20世纪60年代，Hodges 和Lehmann 从秩检验统计(tngj)量出发，导出了若干估计量和置信区间； 20世纪70-80年代

2、，非参数统计(tngj)借助于计算机获得了更稳健的估计和预测，促进了促进了非参数统计(tngj)在应用领域的发展.20世纪90年代后，有关非参数统计(tngj)的应用和研究主要集中在非参数回归和非参数密度领域.第2页/共50页第二页，共51页。2.2 假设检验回顾(hug)一般(ybn)的参数假设检验.：;：0100HH 显著性检验的基本思想： 为了对总体的分布类型或对总体中未知参数的推断，首先(shuxin)提出假设H0，然后在H0为真的条件下，通过选取恰当的统计量来构造一个小概率事件，若在一次试验中小概率事件发生，则拒绝H0，否则则接受H0.假设检验问题需要探讨的问题： 将样本显示的特点作

3、为对总体的猜想，并优先选作备择假设，零假设是相对于备择假设而出现的.第3页/共50页第三页，共51页。(2) 检验的 p 值和显著性水平的作用 p 值：在一个假设检验中拒绝零假设的最小显著水平.判断法则： (3) 两类错误 第一类错误(弃真错误)： H0为真，拒绝H0 一般由检验显著性水平控制 第二类错误(取伪错误)： H0为假，接受(jishu)H0 两类错误相互制衡，不能同时都减到很小. 检验的势第4页/共50页第四页，共51页。 第5页/共50页第五页，共51页。第6页/共50页第六页，共51页。第7页/共50页第七页，共51页。2.3 经验分布(fnb)和分布(fnb)探索第8页/共5

4、0页第八页，共51页。 从定义可以看出(kn ch)，在 x 处的 函数值是 n 个观察值中小于或等于 x 的频率. 给定 x, 是一个随机变量，n 服从二项分布 B(n,F(x).第9页/共50页第九页，共51页。 证明利用伯努利大数定律很容易(rngy)得到证明证明(zhngmng)过程比较复杂第10页/共50页第十页，共51页。第11页/共50页第十一页，共51页。第12页/共50页第十二页，共51页。第13页/共50页第十三页，共51页。第14页/共50页第十四页，共51页。第15页/共50页第十五页，共51页。危险(wixin)函数的表达式：危险函数还可以(ky)表示为：第16页/共

5、50页第十六页，共51页。2.4 检验(jinyn)的相对效率渐进相对效率：第17页/共50页第十七页，共51页。计算渐进效率(xio l)应满足的条件如下定理：第18页/共50页第十八页，共51页。第19页/共50页第十九页，共51页。例2.5 分位数和非参数估计第20页/共50页第二十页，共51页。 X(1)=min(X1,X2,Xn)称为(chn wi)该样本的最小顺序统计量, X(n)=max(X1,X2,Xn)称为(chn wi)该样本的最大顺序统计量。(1)证明第21页/共50页第二十一页，共51页。证明(zhngmng)(3)这里(zhl) sr。(2)最大与最小次顺统计(tng

6、j)量的分布：在上式中分别取r=n和r=1.容量为n的样本最大顺序统计量x(n)与样本最小顺序统计量x(1)之差称为样本极差样本极差,简称极差极差,常用R=x(n)-x(1)表示。第22页/共50页第二十二页，共51页。(1) 样本(yngbn)分位数(2) 分布(fnb)分位数第23页/共50页第二十三页，共51页。例如(lr)标准正态分布第24页/共50页第二十四页，共51页。第25页/共50页第二十五页，共51页。2) Q-Q图2.6 秩检验(jinyn)统计量第26页/共50页第二十六页，共51页。(2) 分布(fnb)第27页/共50页第二十七页，共51页。(3) 边缘(binyun

7、)分布第28页/共50页第二十八页，共51页。第29页/共50页第二十九页，共51页。第30页/共50页第三十页，共51页。第31页/共50页第三十一页，共51页。第32页/共50页第三十二页，共51页。例秩统计(tngj)量第33页/共50页第三十三页，共51页。结统计(tngj)量第34页/共50页第三十四页，共51页。)()()(F)(),(0,)3();()2(lim) 1 (nyyPyynnnnnnnnpnnnn正态分布，即的分布函数收敛于标准规范化变量使得的正数列若存在一个趋于的估计序列对于渐近正态性：相合性：）无偏性；（渐进无偏性估计优劣的标准有：的一个估计，评价一个是设2.7

8、U统计(tngj)量参数估计回顾(hug)：(4) 无偏(w pin)估计的有效性第35页/共50页第三十五页，共51页。计。的一致最小方差无偏估是)(则称)(var()(var都有,)(对于一切,无偏估计也是一个)().()(|)(的无偏估计类的一个可估参数，是)(,),;(设参数分布族)(一致最小方差无偏估计)5(*gggggggEggxpFUMVUEgg一致(yzh)最小方差无偏估计的求解：(1) 有充分统计量,无偏估计(2)求条件期望E(充分统计量|无偏估计)第36页/共50页第三十六页，共51页。(1) U统计(tngj)量第37页/共50页第三十七页，共51页。这里(zhl)构造后

9、的核函数(1)对称性；(2)无偏性第38页/共50页第三十八页，共51页。UMVUE.的 )g(是统计量，则对应的h是),.,(假设的一个核，)g(是 )X,.,h(X上的一个可估函数，F是)g(又设).所有的离散分布F或(所有的连续分布设1k1UUxxUFn(1) 无偏(w pin)性(2) 是样本的对称函数(3) 一致最小方差无偏(w pin)估计 定理：第39页/共50页第三十九页，共51页。).,.,(),.,(),.,(),.,( | ),.,()()(,)(),.,(,.,1111111nnnnnnnxxUxxxxUUUxxxxUEgUMVUEggxxUxx等于的性质，上述条件期望

10、的函数，根据条件期望是统计量的值，所以的顺序都不改变本中元素数，故无论如何改变样统计量是样本的对称函由于为如下条件期望的从而估计的无偏是计量，又总是样本分布的充分统量是离散分布，顺序统计无论总体是连续分布还证明：例1.11例1.12第40页/共50页第四十页，共51页。为了证明这个定理(dngl)，我们引入下面的引理。第41页/共50页第四十一页，共51页。)var(,0)var(,.,2, 1 ,0ch),.,(,.,),.,.,(),.,(h,.,2, 1 ,0ch0101111hhkUxxhhhFXXXXxxhExxkkccckkkckcccc则令，的方差。对统计量的方差依赖与为期望。并

11、且这些函数都以的独立同分布变量。是来自分布其中令，相关的序列。对第一步定义一个与中共同的整数个数。是有如下结果成立和以及上述排列对于分布引理),.,(),.,(),.,(),.,(cov(),.,(),.,(cov),.,(),.,(11111111kkckcckkkkjjiicxxhxxhjjhiihjjiiF第42页/共50页第四十二页，共51页。cccckckckcckccjjiikkxxhxxhExxxxxxxxxxhxxxxhExxhxxhjjiikk).,()().,(,.,.,.,),.,.,()(),.,.,(),.,(),.,(covc),.,(),.,(, 1, 1, 11

12、11, 11, 11, 111上式所以分布的给定的条件下是独立同在这里个共同的整数，那么有如果两个排列引理证明(zhngmng)：定理(dngl)2.4证明(1) 无偏性的证明可以利用U统计量的定义(dngy)直接获得。第43页/共50页第四十三页，共51页。.素方法数为个元i-k的),.,(最后选取排列,同元素的子集的方法有个共i中方法，从中选取具有有),.,i(个样本中选取n从因为.法为：这种特征的排列对的方具有个共同的元素，则选取i有),.,(),.,i(设排列1111ikknkikknkikknikknkkCjjCCiCCCjji(2) 方差(fn ch)的证明第44页/共50页第四十

13、四页，共51页。则可以证明上述方差(fn ch)序列是非减序列证明可以(ky)利用定理2.6第45页/共50页第四十五页，共51页。例2.13第46页/共50页第四十六页，共51页。第47页/共50页第四十七页，共51页。第48页/共50页第四十八页，共51页。2n 1(1)(2)(n 1)2nn12n(n)2n 1(2)(3)(n)(1)(2)(n)d12nF(X) F (X)F(X)U .U.U.F (X)F(X) F (X)F(X)F(X)F(X).F(X)F(X )F(X ).F(X )()iF X121(). (). ()(0,1),ndniiiF XF XF XWWUiid，样本212,.,nnU UU2.3证明(zhngmng)：由又由是来自(li z)U(0,1)上的iid样本，则有所以(suy)为来自(0, 1)上均匀分布的iid样本。第49页/共50页第四十九页，共51页。感谢您的欣赏(xnshng)！第50页/共50页第五十页，共51页。NoImage内容(nirng)总结非参数统