(完整word版)数理统计复习总结0001

1、1统计量与抽样分布 则 T(X1, X2,，Xn)即为统计量 1.1基本概念：统计量、样本矩、经验分布函数 总体X的样本X1, X2,，Xn, 样本均值 样本方差s2 修正样本方差 *2 n 样本k阶原点矩 Ak 样本k阶中心矩 Bk 经验分布函数Fn(X) (Xi 2 X) n (Xi 1 Xik,(k 2 X) 1,2,.) (Xi X)k,(k 1,2,.) )其中Vn(X)表示随机事件X 显然 Vn(x) B(n, F(x)，则有 EFn(x) 1 F(x) DFn(x)-F(x)1 n x出现的次数 F(x) 补充: ES； n 1 DX n *2 ESn DX 2 EXDX (EX

2、) 2 1 n 2 2 Sn Xi X n i 1 二项分布 B(n ,p): PX k k Cn p kn k (1 p) ,(k EX=np DX=n p(1 -p) 泊松分布 P(): PX k k e ,(k0,1,.) k! EX DX 1 均匀分布 U(a,b): f(x) -,(a x b) b a a b 1 2 EX 一 DX (b a) 2 1 指数分布 f (x) e x,(x 0) F(x) 1 e 2 0,1,., n) x,(x0) EX - DX ) C( )exp b( )T(X1, X2,., Xn)h(X1,X2,., Xn)T 是 B 的充分完备统计量 i

3、 1 n f(Xi； ) C( ) exp b!( )T1(X1,X2,.,Xn) b2( )丁2(为，X2,., Xn) h(X1, X2,., Xn) i 1 (T1,T2)是(1, 2)的充分完备统计量 1.3抽样分布： 2分布，t分布，F分布，分位数，正态总体样本均值和方差的分布，非正 态总体样本均值的分布 2 2n T分布: X Y/nt(n) 当n2时, ET=0 DT F分布: X/ 1, “2) 门2 1 F F(n2, nJ 补充: Z=X+Y 的概率密度fz(z) f (x, z x)dx f (z y, y)dy f(x,y)是 X 和 Y 的联 合概率密度 Y ZX的概

4、率密度fz(z) f (x, xz) xdx y g(x)的概率密度 fy(y) fx(g 1(y)g 1(y) 函数：()xdx (1) ()(n) (n 1)!, (1) 1 B 函数：B( , )0 x 1(1 x) 1dx B( 1.4次序统计量及其分布：次序统计量、样本中位数 X、样本极差R X(k)的分布密度: fjx) F(x)k11 F(x)nkf(x),(k 1,2，.，n) X(1)的分布密度：fx(x) n f(x)1 F(x)n 1 X(n)的分布密度：fx(n)(x) nf (x)F(x)n 1 2参数估计 2.1点估计与优良性：概念、无偏估计、均方误差准则、相合估计

5、(一致估计)、渐近正态估 计 $的均方误差：MSE($, )E($ )2 D$ (E$ )2 若$是无偏估计，则MSE($, ) D$ * * 对于 的任意一个无偏估计量 $，有D$ D$，则$是 的最小方差无偏估计，记MVUE 相合估计(一致估计):lim E n lim D$n 0 nn 2.2点估计量的求法：矩估计法、最大似然估计法 矩估计法： 求出总体的k阶原点矩：ak EXkxkdF(x; 1, 2,，m) 解方程组ak 1 n n k Xi (k=1,2,. 1 .,m)，得 $k $k(X1,X2,.,Xn)即为所求 最大似然估计法： 写出似然函数 L( n )f(Xi； i 1

6、 )，求出lnL 及似然方程ln L i 0 i=1,2,.,m $ 解似然方程得到$i(X1,X2,，Xn)，即最大似然估计$i(X1,X2,.,Xn) i=1,2,m 补充: 似然方程无解时，求出的定义域中使得似然函数最大的值，即为最大似然估计 2.3MVUE和有效估计：最小方差无偏估计、有效估计 T是 的充分完备统计量， $是 的一个无偏估计 $E($|T)为 的惟一的MVUE 最小方差无偏估计的求解步骤： 求出参数的充分完备统计量 T 求出ET g()，则$ g 1(T)是 的一个无偏估计 或求出一个无偏估计，然后改写成用 T表示的函数 1 1 综合，Eg (T)T g (T)是的 M

7、VUE 或者: 求出 的矩估计或ML估计，再求效率，为 1则必为MVUE T是g( )的一个无偏估计，则满足信息不等式DT(X) 1( ) E 2 或 I() E 2ln f(X;) 0，f (X;)为样本的联合分布。 最小方差无偏估计 达到罗-克拉姆下界 有效估计量 效率为1 无偏估计$的效率：e( $) n 1() D$ $是 的最大似然估计，且 $是 的充分统计量 的有效估计 2.4区间估计：概念、正态总体区间估计(期望、方差、均值差、方差比 态总体参数和区间估计 )及单侧估计、非正 一个总体的情况：XN( 2) 2 已知，求 的置信区间: X N(0,1) 、一 n o 未知，求 的置

8、信区间: 决t(n 1) * 勺 t_(n :n 2 1) 已知，求 2 的置信区间: n (Xi) i 1 (n) (Xi) i 1 n (Xi ) i 1 未知，求 2 的置信区间: (Xi X)2 2(n n (Xi 1) g 2(n 1) X)2 ：(n) 2 12) 2 n (Xi i 1 _r_(n 1) 1 - X)2 2 2 两个总体的情况：XN( 1, 1 ) , YN( 2, 2) 12 的 区 间 估 计 Y ( 1 .；n：, I 2) 2 n2 N(0,1) 2) 2 1 n1 2 2 u 2 2 未知时, 2的区间估计: 2未知时, *2 S2n2 *2 S1n1

9、2) ri| n2 (n-i n2 2) 1曲(n 1嘅 t(ni n2 ni n2 2) 2 1 2 2 2 1 2 2 1,ni 1) 2 S2n2 _(n2 1,m 2 1) 2 1 2 2 *2 S1 F (n2 1,n1 1) S2n2 彳 非正态总体的区间估计: Y 当n时，Ln N(0,1) |计鱼1 n Sn 1 ，故用Sn代替Sn-1 n 1 mAm 1- n nn N(0,1) 3统计决策与贝叶斯估计 3.1统计决策的基本概念：三要素、统计决策函数及风险函数 三要素：样本空间和分布族、行动空间(判决空间)、损失函数 L( ,d) 统计决策函数d(X):本质上是一个统计量，可

10、用来估计未知参数 风险函数：R( ,d) E L( ,d(X)是关于 的函数 3.2贝叶斯估计：先验分布与后验分布、贝叶斯风险、 贝叶斯估计 求样本X=(X 1,X2,Xn)的分布：q(x | f (Xi | 样本X与 的联合概率分布：f(x,) h( |x)m(x) q(x| )() 求f(x,)关于x的边缘密度m(x) f (x, )d 的后验密度为：h( | x) f (x,) m(x) 取 L( ,d) (d)2 时 的贝叶斯估计为：$ E( |x) h( |x)d R( ,d) E ( d)2 贝叶斯风险为：2 贝叶斯风为FUd) ER( ,d) E (d)2h( |x)d 取L(

11、,d)( )(d)2时，贝叶斯估计为：$ E()凶 E ( )|x 补充： C()的贝叶斯估计：取损失函数L( ,d) (C( ) d)2，则贝叶斯估计为 ) EC( )|x C( )h( |x)d f(x, )d $f(x,) $ E( |x) h( |x)dd m(x)f(x, )d 3.3minimax 估计 对决策空间中的决策函数di(x),d2(x),，分别求出在上的最大风险值 maxR( ,d) 在所有的最大风险值中选取相对最小值，此值对应的决策函数就是最小最大决策函数。 4假设检验 4.1基本概念：零假设(Ho)与备选假设(HJ、检验规则、两类错误、势函数 零假设通常受到保护，而

12、备选假设是当零假设被拒绝后才能被接受。 0时，()为犯第一类错误的概率 检验规则：构造一个统计量 T(X1,X2,.,X3)，当H0服从某一分布，当 H0不成立时，T的偏大 偏小特征。据此，构造拒绝域 W 第一类错误 (弃真错误) :PT W| H。为真 第二类错误 (存伪错误) :PT W|H。为假 势函数： ()E ( (X) PX W (X) 1, XW 0, XW 当 i inPio i时，i ()为犯第二类错误的概率 4.2正态总体均值与方差的假设检验: t检验、X2检验、F检验、单边检验 一个总体的情况: N( 2) 2已知，检验 Ho： Hi : X 耳 N(O,i) 2 未知，

13、检验 Ho： Hi： s：Vt(n 1) 已知，检验 Ho： Hi： n (Xi i i 2 )2 2(n) 未知，检验 Ho： Hi： n 2 (Xi X) i i (n 1) 两个总体的情况: N( i2)， N( 2 未知时，检验 Ho： i Hi： nin2(ni n22) *2 *2 ni i)Sini(n2 i)S2n, 2未知时，检验H o： 2 Hi：i2 单边检验：举例说明, 2已知，检验Ho： Hi： 构造Ui N(o,i)，给定显著性水平 立时Ui Xdef -n-u，因此 pu 为W U u t(m n2 2) *2 SiniF(n S2n2 i) ，有 PUi u P

14、S 4.3非参数假设检验方法： 2 拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验 2 拟合优度检验：H o ： PiPio Hi：Pi PioW山 。当Ho成 。故拒绝域 2(m r i) 其中Ni表示样本中取值为i的个数，r表示分布中未知参数的个数 科尔莫戈罗夫检验：H:F(x) F(x)Hi：F(x) F(x)实际检验的是 Fn(x) F(x) W lim n sup X Fn(x) F(x) Dn, 斯米尔诺夫检验： H。 F(x) G(x) H1 :F(x) G(X)实际检验的是Fn(X) Gn(x) 4.4似然比检验 W lim n sup X Fm (X) Gn2(x) Dm?，

15、 明确零假设和备选假设： H。 0 H 1 : 1 I (x x )SUpL(Xi，Xn；) 构造似然比：Ll(xi,xn) Lo(Xi，Xn) SUpL(Xi，Xn；) 0 拒绝域：W (x1,., xn) 5方差分析 5.1单因素方差分析：数学模型、离差平方和分解、显著性检验、参数估计 i 数学模型 jjN(0,2) 各耳相互独立 ij Xij ,(i=1,2,.,m;j=1,2,.,n i) Ho： ni 总离差平方和Qt (Xij X)2 j 1 QtQe Qa 组内离差平方和 Qe ni_ (Xij Xi)2 j 1 Qe E产) n r 组间离差平方和 n(Xi X)2 当H0成立

16、时, E(牛) r 1 构造统计量 QA(r 1) Qe (n r) 鱼F(r Qe 1,n r)，当 H0不成立时，有偏大特征 Xi Xk N( 2)且 2(n r) T Xi Xk ( i -)Qe ni 氐 k) t(n r) 应用: 若原始数据比较大而且集中，可减去同一数值 Xj Xj k再解题 辅助量：P 丄( n i mni Xij)2,Q 1 1 2 -(Xj)2,R i 1 nijj 1 ni Xij2 qa q p,qe Q,Qt r p 5.2两因素方差分析：数学模型、 离差平方和分解、显著性检验 Xij i 数学模型jjN(0, 2) 各耳相互独立 ij ,(i=1,2,

17、r;j=1,2,s) H01 : H02 : 总离差平方和qt (Xij j 1 X)QtQe Qb Qa ni 组内离差平方和qe (Xij Xi? X?j Xi)2 j 1 Qe E(r 1)(s 1) 因素B引起的离差平方和 Qb s r(X； j 1 X)2 当Ho成立时, 因素A引起的离差平方和 Qa s( Xi? X)2 当Ho成立时, 1) 辅助量：P 构造统计量: Xij j 1 ,Qi Xij Qi P,Qb Qii p,Qe Qi Qii Fb Qa (r 1) Qe (r 1)(s 1) Qb (s 1) Qe (r 1)(s 1) 6回归分析 6.1 一元线性回归: (

18、T 2 (T *2) 回归模型、 Xij i 1 ,R s X2 ij j 1 Qa Qe Qe 未知参数的估计 Yxii 2 回归模型： iN(0,)i=1,2,n. 各i相互独立 F(r 1,(r 1)(s 1) F(s 1,(r 1)(s 1) (X、 (T 2)、 参数估计量的分布 (3 a Y0 (,)的估计: (1 n (X X)(Y Y) i 1 n (Xi i 1 X)2 (,)分布: N(，丄 n ) 2 (X X) /L 2) (Xi x)2 i 1 n (丫 n i 1 y)2 2 1 1 (- n n_ (x X)2) i 1 *2 1 n 6.2多元线性回归：回归模型、 参数估计、 分布 丫 Xi 回归模型： i 2 i N(0, In) i=1,2,n. 各i相互独立 参数估计：XtY (XtX) 卩 卩(XtX) 1xty 7多元分析初步 7.1定义及性质：定义、性质 X Np(