数理统计复习总结

1、1统计量与抽样分布则 T(X1,X2,，Xn)即为统计量1.1基本概念：统计量、样本矩、经验分布函数 总体X的样本X1, X2,，Xn,样本均值样本方差s2修正样本方差*2n样本k阶原点矩Ak样本k阶中心矩Bk经验分布函数Fn(X)(Xi2X)(Xi1Xik,(k2X)1,2,.)(Xi X)k,(k1,2,.)其中Vn(X)表示随机事件X显然 Vn(x) B(n, F(x)，则有 EFn(x)1F(x) DFn(x)-F(X)1nx出现的次数F(x)补充:ES； n1DXn*2ESnDX2EXDX (EX)2 1n22SnXi Xn i1二项分布B(n ,p):PXkkCn Pkn k(1

2、P) ,(kEX=np DX=n p(1-p)泊松分布P():PXkke,(k0,1,.)k!EXDX1均匀分布U(a,b):f(x)-,(ax b)b aab12EX 一DX(ba)212指数分布f (x) ex,(x0)F(x) 1 e20,1,., n)x,(x0)EX - DX &正态分布N(2): f(x)；exX(x )2 2EXDXE(聲nES：0时,EX1.2统计量：充分统计量、T是B的充分统计量T是B的完备统计量0 EX2D(弯)EX432(n1)DS；2(n 1)2nEXD X (1因子分解定理、完备统计量、指数型分布族f(X1,X2,.,XnTt)与B 无关要使

3、Eg(T)=0,必有 g(T)=0nL( )f(Xi； )h(X1,X2,.,Xn)g(T(X1,X2,.,Xn)；)且 h非负 T 是9 的充分统计量i 1nf (Xi; ) C( )exp b( )T(X1, X2,., Xn)h(X1,X2,., Xn)T 是 B 的充分完备统计量i 1nf(Xi； ) C( ) exp b!( )T1(X1,X2,.,Xn) b2( )丁2(为，X2,., Xn) h(X1, X2,., Xn)i 12分布：2 X12 X；x；2(n)f(X)e22 ©2X2 (X0)(T1,T2)是(1, 2)的充分完备统计量1.3抽样分布：2分布，t分布

4、，F分布，分位数，正态总体样本均值和方差的分布，非正态总体样本均值的分布2 2E n D 2nDTX/1F F(n2, nJF分布：FYn1 F(n1, “2)补充：2Z=X+Y的概率密度fz(z)f (x, z x)dxT分布：TY/nt(n)当n>2时,ET=0合概率密度f (z y, y)dy f(x,y)是 X 和 Y 的联YZX的概率密度fz(z)f (x, xz) xdxy g(x)的概率密度 fy(y)fx(g 1(y)g 1(y)'函数：()xdx (1)()(n) (n 1)!, (1) 1B 函数：B( , )0x 1(1 x) 1dx B(1.4次序统计量及

5、其分布：次序统计量、样本中位数X、样本极差RX(k)的分布密度：fX(k)(X)(k 1)!(nk)!1X(1)的分布密度：fx(1)(X)n f(x)1 F(x)X(n)的分布密度：fX(n)(X)n f(x)F(x)n12参数估计n 12.1点估计与优良性：概念、 计F(x)k11 F(x)n kf(x),(k1,2,., n)的均方误差：MSE(,)E()2D(E)2若是无偏估计，则MSE(,)D对于的任意一个无偏估计量*有DD*，贝U 是的最小方差无偏估计，记MVUE相合估计(一致估计):lim E n nlim Dnn0无偏估计、均方误差准则、相合估计(致估计)、渐近正态估2.2点估

6、计量的求法：矩估计法、最大似然估计法 矩估计法： 求出总体的k阶原点矩：ak EXkxkdF(x; 1, 2,., m)1 n解方程组 akXik (k=1,2,.,m)，得 kk(X1,X2,.,Xn)即为所求n i 1最大似然估计法:写出似然函数L()f(Xi；i 1)，求出lnL及似然方程In Li0 i=1,2,.,m 解似然方程得到i(X1,X2,.,Xn)，即最大似然估计i (X1, X2,., Xn ) i=1,2,.,m补充:似然方程无解时，求出的定义域中使得似然函数最大的值，即为最大似然估计2.3MVUE和有效估计：最小方差无偏估计、有效估计*T是 的充分完备统计量，是 的一

7、个无偏估计E( |T)为 的惟一的MVUE最小方差无偏估计的求解步骤： 求出参数的充分完备统计量 T 求出ET g()，则 g 1(T)是 的一个无偏估计或求出一个无偏估计，然后改写成用T表示的函数1 1 综合，Eg (T)T g (T)是 的 MVUE是的最大似然估计，且是的充分统计量的有效估计2.4区间估计：概念、正态总体区间估计(期望、方差、均值差、方差比态总体参数和区间估计)及单侧估计、非正一个总体的情况：XN(2)2已知，求的置信区间:X° N(0,1)一 no未知，求的置信区间:决t(n 1)*勺 t_(n:n 21)已知，求2的置信区间:n(Xi)i 1(n)(Xi)i

8、 1n(Xi )i 1未知，求2的置信区间:(Xi X)22(nn(Xi1) ：(n 1)2X)2：(n)212)2n(Xii 1_r_(n 1)1 2X)2或者:求出的矩估计或ML估计，再求效率，为 1则必为MVUET是g()的一个无偏估计，g (则满足信息不等式DT(X)川()2，其I( ) Elnf(X;) 2或 1()Eln f(； )0，f(X;)为样本的联合分布。最小方差无偏估计达到罗-克拉姆下界有效估计量效率为1无偏估计的效率:：e()nl().D2 2两个总体的情况：XN( 1, 1 ) , YN( 2, 2)12 的 区 间 估 计Y ( 1.；n：,I 2)2n2 N(0,

9、1)2)21n122u22未知时,2的区间估计:2未知时,*2S2n2*2S1n12)ri| n2 (n-i n2 2)1曲(n 1嘅 t(nin2nin22)21"2221221,ni1)2S n1S2n2_(n2 1,m21)2122*2S1F (n2 1,n1 1)S2n2 彳非正态总体的区间估计:Y 当n时，LnN(0,1)|计鱼1n Sn 1,故用Sn代替3-1n1 mAm1-n nn N(0,1)3统计决策与贝叶斯估计3.1统计决策的基本概念：三要素、统计决策函数及风险函数三要素：样本空间和分布族、行动空间(判决空间)、损失函数L( ,d)统计决策函数d(X):本质上是一

10、个统计量，可用来估计未知参数风险函数：R( ,d) E L( ,d(X)是关于 的函数3.2贝叶斯估计：先验分布与后验分布、贝叶斯风险、贝叶斯估计 求样本X=(X 1 ,X2,.,Xn)的分布：q(x|f (Xi |1 样本X与 的联合概率分布：f(x,)h(|x)m(x) q(x| )() 求f(x,)关于x的边缘密度m(x) f (x, )d的后验密度为h( |x)鬻取 L( ,d)( d)2 时C()的贝叶斯估计：取损失函数L( ,d)(C( ) d)2，则贝叶斯估计为C( )EC()|xC( )h( |x)dE( |x) h( |x)df(x,) m(x)f(x, )df(x, )d的

11、贝叶斯估计为：E( |x)h( |x)dR( ,d) E ( d)2贝叶斯风险为：RB(d) ER( ,d) E ( d)2h( |x)d取 L( ,d)()(d)2时，贝叶斯估计为：E()凶E ( )|x补充:3.3minimax 估计对决策空间中的决策函数di(X),d2(X),，分别求出在上的最大风险值maxR( ,d)在所有的最大风险值中选取相对最小值，此值对应的决策函数就是最小最大决策函数。4假设检验4.1基本概念：零假设(Ho)与备选假设(Hi)、检验规则、两类错误、势函数 零假设通常受到保护，而备选假设是当零假设被拒绝后才能被接受。检验规则：构造一个统计量 T(Xi,X2,.,X

12、3)，当Ho服从某一分布，当 Ho不成立时，T的偏大 偏小特征。据此，构造拒绝域W第一类错误(弃真错误):PT W| Ho 为真第二类错误(存伪错误):PT W|Ho 为假势函数：()E (X) PX W (X)1, XWo, XW当0时，()为犯第一类错误的概率4.2正态总体均值与方差的假设检验:t检验、X2检验、F检验、单边检验一个总体的情况:N(2)2已知，检验Ho：Hi :X o-nN(o,i)2未知，检验Ho：Hi :Xo t(n i) q 、n已知，检验Ho：Hi：n(Xi )2i i22(n)未知，检验Ho：Hi：n2(Xi X)i i(n 1)两个总体的情况:N(i2)，N(2

13、未知时，检验Ho： iHi：ngg n?2)*2 *2ni i)Sini(n2 i)S2n,nin22未知时，检验H o：2 Hi：i2单边检验：举例说明,2已知，检验Ho：Hi :构造Ui N(o,i)，给定显著性水平立时UiXdef3 U，因此PU o n为W U u t(mn22)*2SiniF(nS2n2hli)，有 PUiu PUi4.3非参数假设检验方法：2拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验2m拟合优度检验：H o ： PiPioHi : Pipio(Ni n p。)2nPio。当Ho成。故拒绝域2(m r i)其中Ni表示样本中取值为i的个数，r表示分布中未知参数的个

14、数科尔莫戈罗夫检验：H°:F(x) F°(x)Hi：F(x) F°(x)实际检验的是 Fn(x) F°(x)构造似然比:L,X1，Xn)Lo(X1，,Xn)SUpL(X1，Xn；)SUpL(X1，Xn：)0拒绝域：W (Xi，,Xn)WlimnsupXFn(x)Fo(x)Dn, 斯米尔诺夫检验：HoF(x)G(x)H1:F(x)G(X)实际检验的是Fn(X) Gn(x)4.4似然比检验WlimnsupXFm(X)Gn2(x)Dm?，明确零假设和备选假设：Ho0H1 :1i数学模型jjN(0, 2)各耳相互独立5方差分析5.1单因素方差分析：数学模型、离差

15、平方和分解、显著性检验、参数估计ijXij,(i=1,2,.,m;j=1,2,.,n i) H 0：ni总离差平方和Qt(Xij X)2j 1QtQeQa组内离差平方和Qeni_(Xij Xi)2j 1QeE产)n r组间离差平方和n(Xi X)2当Ho成立时,E(牛)r 1构造统计量QA(r1)Qe(n r)鱼F(rQe1,nr)，当Ho不成立时，有偏大特征Xi XkN(2)且2(n r)T XiXk ( i-)Qeni 氐k) t(n r)应用:若原始数据比较大而且集中，可减去同一数值 Xj Xij k再解题m 门)mqm 门)辅助量：P 1( XQ2,Q -( Xj)2,RXj2n i

16、i j ii i n i j ii i j iQA Q P,Qe R Q,QtXij数学模型jj各ii2 N(0,)ij相互独立ij,(i=12,r;j=1,2,s)Hoi :1H02 :1总离差平方和r sQt(Xji 1 j 1X)2QtQeQBQa5.2两因素方差分析：数学模型、离差平方和分解、显著性检验mni(XjXi? X?j Xi)22n2n组内离差平方和qeQej iE(r i)(si)QB当H0成立时，E()s 因素B引起的离差平方和QBr(X?j X)2j i因素A引起的离差平方和QAs( Xi?X)2当Ho成立时,1)辅助量：pXjj i,QiXjXji 1,RsX2ijj

17、 1QA QI p, QB QIIp,qe r qiqii构造统计量:FAFBQa (r 1)Qe (r 1)(s 1)QB (s 1)Qe (r 1)(s 1)Qa F(r - F(r1,(r1)(s1)qeQa f (s F(s1,(r1)(s1)qe6回归分析6.1 一元线性回归：回归模型、未知参数的估计(T 2 (T *2)(B、a、b 2)、参数估计量的分布(3 a Y0Yxii2回归模型： iN(0,)i=1,2,n.各i相互独立(,)的估计：n(x X)(Yi 1Y)N(,(Xi 11N(，-ni 1)x)2(X)2 2)(Xi X)2n(Xi X)2i 1Y X(,)分布：2 22的估计：1 n - 2 2 -(Y Y)1 n(xX)2)s：y2s2xn i 1n i 12 n 2 2*22E2 En6.2多元线性回归:V:回归模型、参数估计、V分布回归模型：i,xii2N(0,In) i=1,2,n.各i相互独立参数估计：XtY (XtX)(XtX) 1xty7多元分析初步