数理统计复习总结

1、1统计量与抽样分布基本概念：统计量、 总体X的样本X1,样本矩、经验分布函数，Xn,则X2,T(X1 , X2,，Xn)即为统计量2样本均值样本方差s2(Xi2X)修正样本方差*2S nn(Xi12X)样本k阶原点矩AkXik,(k1,2,.)样本k阶中心矩Bk(XiX)k,(k 1,2,.)经验分布函数Fn(X)Vn(X)n ,()其中Vn(X)表示随机事件X显然 Vn(x) B(n, F(x)，则有 EFn(x)1F(x) DFn(x)-F(X)1nx出现的次数F(x)补充:ES；n 1*2DX ESnnDXEX22DX (EX)S；Xi2X21二项分布B(n ,p):PXkk kCn p

2、(1p)nk,(k0,1,., n)泊松分布P()：PXk-e k!,(k0,1,.)EXDX均匀分布U(a,b):f(x)1,(ax b)b aab12EX -DX(ba)212指数分布f (x) eX r,(x0)F(x) 1 eEX=np DX=np(1-p)kX,(X0)EX - DX -2正态分布N(2 1):f(x) T2-exP(x )2TEXDX 2E(nSn) n1 ES： 口 n2 D(弯)2(n 1)DSn22(n 1) 42n0时,EX 0 EX22 EX434 EX2DX (1 -)统计量：充分统计量、因子分解定理、完备统计量、指数型分布族T是B的充分统计量f (为旳

3、凶丁 t)与B无关T是B的完备统计量要使 Eg(T)=O必有 g(T)=0L(f (Xi；h(x1)X2,.l Xn)g(T(xn X2,.,Xn)；)且 h非负T是B的充分统计量f(Xi；C()eXP b( )T (X1, X2,., Xn) h(X1,X2,., Xn)T 是 B 的充分完备统计量f(Xi；C()expd( )Ti(Xi,X2,.,Xn) b2( )T2(Xi,X2,.,Xn)h(Xi,X2,.,Xn)抽样分布：2分布，t分布，F分布，分位数，正态总体样本均值和方差的分布，非正态总(T)是1 ?(1, 2)的充分完备统计量体样本均值的分布2分布：2 X12 X；X；2(n)

4、f (x)22x n1e 2x2 (x(n)0)2 2E n D 2nT分布：TY/nt(n)当 n2 时，ET=0 DTF分布：Fx/严 F(n 1, rh)/门2F( n2,nj补充:Z=X+Y的概率密度fz(z)率密度f (x, z x)dx f (z y, y)dy f(x,y)是 X和 Y 的联合概YZX的概率密度fz(z)f (x, xz) xdx似然方程无解时，求出的定义域中使得似然函数最大的值，即为最大似然估计y g(x)的概率密度 fy(y)fx(g 1(y)|g 1(y)函数：()xdx(1)()(n) (n 1)!, (1) 1i 11B 函数：B( ,) o x 1(1

5、 x) 1dx B(次序统计量及其分布：次序统计量、样本中位数、样本极差RX(k)的分布密度：fjx)F(x)k11 F(x)n kf(x),(k 1,2,., n)(k 1)! (n k)!X(1)的分布密度：f“)(x) n f(x)1 F(x)n1X(n)的分布密度：f“(x)nf(x)F(x)n 12参数估计点估计与优良性:概念、无偏估计、均方误差准则、相合估计(一致估计)、渐近正态估计$的均方误差：MSE($, )E($)2 D$ (E$)2若$是无偏估计，则MSE($, ) D$对于的任意一个无偏估计量 $，有D $*D$，则$是 的最小方差无偏估计， 记MVUE相合估计(一致估计

6、):lim E n lim D$n0nn点估计量的求法：矩估计法、最大似然估计法矩估计法： 求出总体的k阶原点矩：ak EXkxkdF(x; 1, 2,., m)解方程组ak1 X (k=1,2,m)，得 $k $k(X1,X2,Xn)即为所求 n i 1最大似然估计法:写出似然函数L()f(Xi；i 1)，求出InL及似然方程In L0 i=1,2,.,mi $ 解似然方程得到$i(X1,X2,.,Xn)，即最大似然估计$i(X1,X2,.,Xn)i=1,2,.,m补充：和有效估计：最小方差无偏估计、有效估计T是 的充分完备统计量，$是 的一个无偏估计$*E($|T)为的惟一的MVUE最小方

7、差无偏估计的求解步骤：求出参数的充分完备统计量 T求出ET g()，则$ g 1(T)是的一个无偏估计或求出一个无偏估计，然后改写成用T表示的函数综合，Eg 1(T)T g 1(T)是的MVUE或者:求出 的矩估计或 ML估计，再求效率，为 1则必为MVUET是g()的一个无偏估计，则满足信息不等式DT(X) 2其中nl()八1( ) E2lnf(X;)或 I( ) E2ln f(X;)o，f(x；)为样本的联合分布。最小方差无偏估计达到罗-克拉姆下界有效估计量效率为1无偏估计$的效率：e( $)nI()D$是 的最大似然估计，且 $是的充分统计量的有效估计区间估计：概念、正态总体区间估计 体

8、参数和区间估计(期望、方差、均值差、方差比)及单侧估计、非正态总一个总体的情况：XN(2)2已知，求的置信区间:X-nN(02未知，求的置信区间:XS* n t(n 1)*Sn + / j=t (n n 21)已知，求2的置信区间:n(Xi)2i 12(n)(Xi)2i 12n(Xi )2i 112_(n)2未知，求2的置信区间:n(Xii 1X)22(n1)n(Xii 1TTn 1)2X)2n2(Xi X)2i 12 (n 1)22 2两个总体的情况：X N( 1, 1 )，Y N( 2,2)， 求 i 2 的 区 间 估 计Y ( i 2)22i2 N(0,1)X Y ( i 2)ni22

9、u2n2nin22未知时,2的区间估计:2)ng n22)(ni2未知时,*2S2n2*2SiniI)Sim (n2 i)S2n2t(mn221 :2 :2nin22)21221,ni1)*2S m*2S2n2Fi_(n2 i,ni2i)2122*2Sini F (n2 i,ni i)S2n2 2非正态总体的区间估计:X当n 时，X =Sn/亦N(0,i)limnSn i,故用Sn代替Sn-i N(0,I)3统计决策与贝叶斯估计统计决策的基本概念：三要素、统计决策函数及风险函数三要素：样本空间和分布族、行动空间(判决空间)、损失函数L(,d)统计决策函数d(X):本质上是一个统计量，可用来估计

10、未知参数风险函数：R( ,d) E L( ,d(X)是关于 的函数贝叶斯估计：先验分布与后验分布、贝叶斯风险、贝叶斯估计求样本X=(Xi,X2,.,Xn)的分布:q(x|nf (xi | )i i样本X与 的联合概率分布:f (x,h( |x)m(x)q(x| )()求f (x,)关于x的边缘密度m(x)f(x, )d正态总体均值与方差的假设检验:t检验、X2检验、F检验、单边检验的后验密度为：h( | x)m(x)2取 L( ,d)( d)时的贝叶斯估计为：$ E( |x)h( |x)dR( ,d) E ( d)2贝叶斯风险为：RB(d) ER( ,d) E ( d)2h( |x)d取 L(

11、 ,d)()(d)2时，贝叶斯估计为：$ )凶E ( )|x补充：C()的贝叶斯估计：取损失函数 L( ,d) (C( ) d)2，则贝叶斯估计为C( ) EC( )|x C( )h( |x)df(x, )d$ E( |x) h( | x)df(x, )dm(x)f(x, )d估计对决策空间中的决策函数di(x),d2(x),，分别求出在上的最大风险值 maxR( ,d)在所有的最大风险值中选取相对最小值，此值对应的决策函数就是最小最大决策函数。4假设检验基本概念：零假设(Ho)与备选假设(Hi)、检验规则、两类错误、势函数 零假设通常受到保护，而备选假设是当零假设被拒绝后才能被接受。检验规则

12、：构造一个统计量T(Xi,X2,.,X3)，当Ho服从某一分布，当 Ho不成立时，T的偏大偏小特征。据此，构造拒绝域W第一类错误(弃真错误):PTW| H。为真第二类错误(存伪错误):PTW|H。为假势函数：()E (X) PX W (X)1, XW0, XW当0时，()为犯第类错误的概率当i时，1()为犯第二类错误的概率一个总体的情况:N(2)2已知，检验H。:Hi :X o：阿)o未知，检验Ho：Hi :*- t(nSn；n1)已知，检验Ho：Hi：n(Xii i2)22(n)未知，检验Ho：Hi：n(Xi X)2i i(n 1)两个总体的情况:N(i2)，YN(；)2未知时，检验H o：

13、 i 2Hi :nin2(ni n22)ni i)Si2(n2 i)S2n:2未知时，检验Ho：12nin2单边检验：举例说明，构造Ui时Uit(nin22)2 Hi：i22已知，检验Ho：*2%込F(niS2n2imi)Hi：N(0,i)，给定显着性水平，有 PUi u 。当Ho成立defU，因此PUu PUi u 。故拒绝域为非参数假设检验方法：2拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验W U u m22拟合优度检验：H o ： PiPioHi ： PiPo W(Ni n pQnpo2(m r i)其中Ni表示样本中取值为i的个数，r表示分布中未知参数的个数科尔莫戈罗夫检验：Ho：F

14、(x) Fo(x)Hi： F(x) Fo(x)实际检验的是Fn(x) F(x)W limnsup |Fn(x) F(x)XDn, 斯米尔诺夫检验： H0:F(x)G(x) H1: F(x)G(x)实际检验的是Fn(x)Gn(x)似然比检验W limnsup Fn(x) GXn2(x)Dm?，明确零假设和备选假设：H。：0 H1 :构造似然比:匚(花，Xn)Lo(X1，,Xn)SUpL(X1，Xn；)SUpL(X1，Xn；)0拒绝域：W (Xi，,Xn)5方差分析单因素方差分析:Xij数学模型、离差平方和分解、显着性检验、参数估计数学模型 jjiN(0, 2) 各耳相互独立ij,(i=1,2,.

15、,m;j=1,2,.,ni) Ho：12ni总离差平方和Qt2(Xij X)j 1QtQeQa组内离差平方和Qeni_2(Xij Xi)2j 1E(生)n r组间离差平方和2ni(Xi X)当Ho成立时,qaE(J构造统计量F1)r)1,nr)，当Ho不成立时,有偏大特征Xi XkN(十)2)且Q2(n r)Xi Xk ( ili :严Q t(n r)应用:若原始数据比较大而且集中，可减去同一数值 Xjj Xij k再解题辅助量：P 1(n iXQ2,Q1丄(Xij)2,Ri 1 ni j 1qa q p,qeQ,Qt r p两因素方差分析：数学模型、离差平方和分解、显着性检验niXiji数学

16、模型jjN(0, 2)各耳相互独立ijH01:H02 :总离差平方和qt(Xijj 1X)QtQeQbQani组内离差平方和qe(Xij Xi? X?j Xi)2j 1Qe因素B引起的离差平方和QbX)2因素A引起的离差平方和Qas*?X)2辅助量：P构造统计量:Xij1 j 1,QiXijQiP,QbQiip,QeQiFbQa (r1)Qe (r 1)(s 1)Qb (s 1)Qe (r 1)(s 1)Xij2E(r 1)(s 1)当Ho成立时,当Ho成立时, QiiQii6回归分析元线性回归：回归模型、未知参数的估计b *2)Yxii回归模型：iN(0,2)i=1,2,., n.各i相互独

17、立A F(rQe(3、a、1,(r1,(r1)(s1)(sE (仝s 1E2rXiji 1,RsX2ijj 11)1)b 2)、参数估计量的分布(3a YO b 2(,)的估计:(1(Xi X)(Yi Y) i 1n(Xii 1X)2(,)分布:N(，-n)2(Xi X)/L 2)(Xi x)2i 1n(Yn i iY)2n_(X X)2)i 1*2jlnY Xi回归模型：多元线性回归：回归模型、参数估计、分布i2i N(0, In)i=1,2,n.各i相互独立参数估计：XtY (XtX)卩卩(XTX) 1xty7多元分析初步定义及性质：定义、性质X Np(,)其中 为X的均值向量，为X的协方差矩阵Y=CX+b 则