数理统计复习总结

1、数理统计复习总结1统计量与抽样分布1.1基本概念：统计量、样本矩、经验分布函数 总体X的样本Xi, X2,，Xn ,则T(Xl, X2,Xn)即为统计量样本均值X2样本方差S； - n (Xi X)i 1修正样本方差S*2n 1严2X)样本k 阶原点矩Ak- nXik,(k 1,2,.)n i 1样本k 阶中心矩Bk1 n(Xi X)k,(k1,2,.)n i 1经验分布函数Fn(x)罟,(x )其中Vn(x)表示随机事件X x出现的次数，显然Vn(x)B( n, F(x),则有 EFn(x) F(x) DFn(x) 7F(x)1 F(x)补充：2 n 1*222ESnDX E& DX

2、 EX DX (EX)n1 n 一S；- Xi2 X2n i 1k kCn PEX=np DX=n p(1-p)扩k泊松分布 P( )： PX k e ,(k 0,1,.) k!EXDX均匀分布 U(a,b): f(x)丄,(a x b) b aEXDX (b a)22 12指数分布:f(X)e x,(x0)F(x) 1e X,(x0)EX 1 DX1正态分布N(,2)：1f(x) v;2r (xeXp2)22 EXDX2nS；E(T) n 1ES；n 1n2nS：DT)2(n 1)DSn22(n21)4n当 0 时， EX 0 EX22EX 4 3 4 EXD X (1)21.2统计量：充分

3、统计量、因子分解定理、完备 统计量、指数型分布族T是B的充分统计量f(Xl,X2,.,XnT t)与B无关T是e的完备 统计量 要使Eg(T)=0,必有 g(T)=0L( )f (Xi； ) h(Xi,X2，Xn)g(T(Xi,X2，,Xn)；) 且h非负T是ei 1的充分统计量t是e的充分nf(Xi; ) C( )expb( )T(X1,X2，Xn)h(X1,X2，Xn)完备统计量f(Xi； ) C( )ex3b!( )Ti(Xi,X2，Xn) b2( )丁2(人，X?，Xn) h(Xi, X?，Xn)(T1,T2)是(1, 2)的充分完备统计量1.3抽样分布：2分布，t分布，F分布，分位数

4、, 正态总体样本均值和方差的分布，非正态总 体样本均值的分布2分布:2 X12 X；2 2 1 2 1Xn (n) f (X) e 2x2 (x 0)2互(弓)22nT分布:Xt(n)Y/n当 n>2 时，ET=0nDTn 2F分布:1F F(n 2,m)补充：Z=X+Yf(x,y)是X和丫的联合概率密度Z Y的概率密度fz(z)的概率密度fz(z)f (x, z x)dxf(z y, y)dyf (x, xz) XdXy g(X)的概率密度 fy(y) fx(g 1(y)g 1(y)' 函数：()B函数：B(,)1 Xx e dx 01 10X (1 X)(1)( )(n)(n

5、 1)!, (1) 11dx B(,)尸1.4次序统计量及其分布: 位数X、样本极差RJ)次序统计量、样本中X(k)分 布 密 度n!k 1n kfx(k)(x) (k 1)!(n k)!F(x) 1 F(x)f(x),(k 1Z., n)X(1)的分布密度：fx(1)(x) nf(x)1 F(x)n1 X(n)的分布密度:f“(x) nf (x)F(x)n 1 2参数估计2.1点估计与优良性：概念、无偏估计、均方误差准则、相合估计(一致估计)、渐近正态估计 $的均方误差：MSE($, ) E($ )2 D$ (E$)2若$是无偏估计，则MSE($, ) D$ 对于 的任意一个无偏估计量$，有

6、D$* D$，则$*是 的最小方差无偏估计，记MVUE 相合估计(一致估计)：Hm E nnim D$n 02.2点估计量的求法：矩估计法、最大似然估计法矩估计法： 求出总体的 k 阶原点矩:ak EXkxkdF(x; 1, 2，m) 解方程组 ak 1" Xik(k=1,2,.,m)，得n i 1$k $k(X1,X2,.,Xn)即为所求 最大似然估计法：写出似然函数l( ) n f(x;)，求出lnL及似然方程也 0 i=1,2,mi $解似然方程得到$i(x1,x2,.，xl)，即最大似然估 计 $(Xi,x2，,X”)i=1,2,.,m补充：似然方程无解时，求出的定义域中使得

7、似然函数最大的值，即为最大似然估计2.3MVUE和有效估计：最小方差无偏估计、有 效估计T是的充分完备统计量，$是的一个无偏估计 $* E($|T)为的惟一的 MVUE最小方差无偏估计的求解步骤： 求出参数的充分完备统计量T 求出ET g()，则$ g 1(T)是 的一个无偏估计或求出一个无偏估计，然后改写成用T表示的函数 综合，Eg 1(T)T g 1(T)是 的 MVUE或者：求出 的矩估计或ML估计，再求效率， 为1则必为MVUET是g()的一个无偏估计，则满足信息不等式' 2 2DT(X) _g汁，其中 1() E ln f(X;)或 I( ) E "lnf(2X;)

8、 0， f(X;)为样本的联合分布。最小方差无偏估计达到罗-克拉姆下界有效估计量效率为1无偏估计$的效率：卅)/)D$是 的最大似然估计，且$是 的充分统计量$是的有效估计2.4区间估计：概念、正态总体区间估计 方差、均值差、方差比 总体参数和区间估计 一个总体的情况：X N(,)及单侧估计、(期望、非正态2已知，求的置信区间：X00Tn2未知求的置S* pt(nSn . Vn1)X 0*% (n 1)Jn已知求2的置2) N(0,1)n2(Xi )2ni 12未知，求n(Xii 1n(Xi )2 -2(n)27_(n)22的置信区间:X)22(n 1)n(Xii 122(Xii 121 一X

9、)2(n 1)两个总体的情况：12, 2均已知时X N(，求信)2(n)2I )， Y N(2的区n(Xi X)2i 1:(n 1)2,2)间估计：X Y2(122)N(0,1)；n1n222121n2uX Y ( 12)12;2未知时，求X Y (12)(n 1，_的区间估计:ng n?2)t(nA I、 I1)S1： (n 1)S2n：12 V n1 n221 :"2 22 2*2S2n2 1S mF( n?1,m 1)-*i-F (nS1n12S2n22非正态总体的区间估计： 当 n 时，：一N©1)Sn / Vn&代替Sn-1X m n N(0,1)1 m

10、1 m ,nn 1 n1，2未知时，求n2 2)Sn znu2S*21T 罟 F_(n2 1,n1 1)2S2nc 2ni*2S2n2im 1，故用n Sn 11 mm-1n nn3统计决策与贝叶斯估计三要素、统计决策函3.1统计决策的基本概念： 数及风险函数三要素：样本空间和分布族、行动空间(判决空 间)、损失函数L( ,d)统计决策函数d(X):本质上是一个统计量，可用 来估计未知参数风险函数：R( ,d) EL( ,d(X)是关于的函数3.2贝叶斯估计：先验分布与后验分布、贝叶斯风险、贝叶斯估计 求样本 X=(Xl,X2，,X n)的分布：nq(x| )f(Xi | )i 1 样本X与的

11、联合概率分布：f(x, ) h( |x)m(x) q(x| )() 求f(x,)关于X的边缘密度m(x) f(x, )d 的后验密度为：h( |x)斗屮 m(x)取 L( ,d) (d)2 时的贝叶斯估计为：$ E( |x) h( |x)d2贝叶斯风险为:R( ,d) E ( d)$ E ( ) |x E ( )|xRB(d) ER( ,d) E (d)2h( |x)d取L( ,d) ( )( d)2时，贝叶斯估计为:补充:C()的贝叶斯估计：取损失函数L( ,d) (C( ) d)2 ,C( ) EC( )|x C( )h( |x)dE( |x) h( |x)d3dm(x)f(x, )df(

12、x, )d3.3minimax 估计对决策空间中的决策函数di（X）,d2（X），,分别求 出在上的最大风险值maxR（ ,d）在所有的最大风险值中选取相对最小值，此值对 应的决策函数就是最小最大决策函数。4假设检验4.1基本概念：零假设（Ho）与备选假设（Hi）、检验 规则、两类错误、势函数零假设通常受到保护，而备选假设是当零假设被 拒绝后才能被接受。检验规则：构造一个统计量T（Xi,X2,.,X3），当Ho服从某一分布，当H0不成立时，T的偏 大偏小特征。据此，构造拒绝域 W第一类错误（弃真错误） :PT W|H° 为真第二类错误（存伪错误） :PT W|H。为假势函数：()E(

13、X) PX W (X)鳥 W.、/当1时，1 （）为犯第二类错误的概率4.2正态总体均值与方差的假设检验：t检验、X2检验、F检验、单边检验 一个总体的情况：X N( , 2)2已知，检验H。：0 H-XU 0 N(0,1)0 ，- n2未知，检验H0：Hi：已知，检验H0：Hi：X 0*0 t(n 1)Snn2(Xi )i 122(n)未知，检验H。:Hi :n2(Xi X)i 122(n 1)两个总体的情况：12 22未知时，检验H。:X N(),YN(I)2 H1 ： 1X Y*2*2n1 1)S1n1( n2 1)S2n.t(mn2 2)2未知时，检验H0：2212H1：*2Slni

14、F (n单边检验:举例说明，*2S2n2已知，1,n2 1)H 0:0 H1:构造U10 ?；N(0,1)，给定显著性水平PUi u X X 0 defu1 U 0. Un 0. Un PU1 u 。故拒绝域为W U u。当Ho成立时u此PU4.3非参数假设检验方法：2拟合优度检验、 尔莫戈罗夫检验、斯米尔诺夫检验Ho : PiPioHi : p Pio拟合优度检验W m(Ni 叭)22(m r 1)i i npo其中Ni表示样本中取值为i的个数，r表示 分布中未知参数的个数科尔莫戈罗夫检验：Ho:F(x) Fo(X)H1：F(X) Fo(X) 实际检验的是Fn(X)Fo(X)W lim su

15、pnXFn(X)Fo(X)Dn, 斯米尔诺夫检验：Ho： F(x) G(x) H1：F(X) G(x)实际检验的是 Fn(X)Gn(X)W lim supnXFm(X)Gn2(x)Dn1,n2, 4.4似然比检验明确零假设和备选假设:H o :oH1 :1Ix )SUpL(Xi，Xn；)构造似然比:Li ( X| ,Xn丿 Lo(Xi,Xn) SUpL(Xi，Xn；)0拒绝域：W (Xi,Xn)5方差分析5.1单因素方差分析：数学模型、离差平方和分解、显著性检验、参数估计X iji ij数 学模型 jN(0, 2),(i=1,2,.,m;j=1,2,.,n i)各耳相互独立总离差平方和 Qt(

16、Xij X)2 Qt Qe QAi 1 j 1 m niqQe(Xij Xi)2E(A)2i 1 j 1nr组内离差平方和组间离差平方和QA mni(灭X)2当H0成立时，i 1QA(r 1)Qe(n r)时，有偏大特征k,(丄丄)2)且字 %构造统计量FXi XkN( iT r “r)碁Fr)，当Ho不成立2(n r)应用：若原始数据比较大而且集中，可减去同一数值 Xi' Xij k再解题 辅助量：P 丄(m n' Xij)2,Qi 1 j 1ijij'丄(Xj)2,Ri 1j im mX 2iji 1 j 1QA Q P,Qe R Q,QtR5.2两因素方差分析：

17、解、显著性检验Xijij N(0,数学模型、离差平方和分数学模型i ij2),(i=1,2,r；j = 1,2,s)各耳相互独立H01 : 1 2H02 : 1 2总离差平方和 Qt(Xij X)2 Qt Qe Qb Qai 1 j 1组内离差平方和m nQe(Xji 1 j 1Xi?Xj X)2Qe2EV)因素B引起的离差平方和Qbs r(X X)2j 1Ho成立时，哗）2因素A引起的离差平方和r s(X； X)2i 1Ho成立时，E(rQA_)21)Xiji 1 j 1,QiXjj 1,Qiir,Rsx2iji 1 j 1Qa QiP, QbQiiP,QeR Qi Qii构造统计量:FbQ

18、a (r 1)Qe (r 1)(s 1)Qb/(s)Qe (r 1)(s 1)A - E - A E Q-Q -Q Q6回归分析6.1 一元线性回归：回归模型、未知参数的估计（卩、a、a 2）、参数估计量的分布（pa Y0a 2 a *2)的估计：Ln_(X X)(Yi Y)i 1n(Xii 1UXX)2U N(，-)_ 2 (Xi X)i 1UN(卩工 n / (Xii 1X)22)2的估计:U21n i2(Y Y)(Xix)2)回归模型：YXi iin(0, 2)i=1,2,.,n.各i相互独立*2E U6.2多元线性回归：回归模型、参数估计、分布回归模型:Y XiiiN(o, 2j)i=1,2,，n.各i相互独立参数估计:xty (xtx)卩 卩(XTX)1xty7多元分析初步7.1定义及性质：定义、性质XNp(,