统计学知识简介

1、一、总体、样本与随机变量一、总体、样本与随机变量统计学知识简介统计学知识简介二、随机变量的分布二、随机变量的分布三、总体分布的数字特征三、总体分布的数字特征参数参数四、样本分布的数字特征四、样本分布的数字特征统计量统计量五、几个重要的连续型随机变量的分布五、几个重要的连续型随机变量的分布六、正态总体的样本平均数和样本方差六、正态总体的样本平均数和样本方差七、估计量的评价标准七、估计量的评价标准八、参数估计八、参数估计九、假设检验九、假设检验统计学是研究随机现象的统统计学是研究随机现象的统计规律的一门科学，已被广计规律的一门科学，已被广泛地应用于自然科学和社会泛地应用于自然科学和社会科学的各个领

2、域中，成为定科学的各个领域中，成为定量分析的一种有力工具。量分析的一种有力工具。一、总体、样本与随机变量一、总体、样本与随机变量统计学知识简介统计学知识简介总体总体所研究对象的全体。所研究对象的全体。总体中的每个元素称为总体中的每个元素称为个体个体，总体中个体的数目称为，总体中个体的数目称为总体容量总体容量，用，用N表示。表示。分：分：有限总体有限总体N为有限数，为有限数，无限总体无限总体N为无限数。为无限数。样本样本由总体中的若干个体组成的集合由总体中的若干个体组成的集合样本中个体的数目称为样本中个体的数目称为样本容量样本容量，用，用n表示。样本是总体的子集。表示。样本是总体的子集。根据样本

3、的信息来推测总体的情况，并给出这个推断的可靠程度，根据样本的信息来推测总体的情况，并给出这个推断的可靠程度，称为称为统计推断统计推断。统计推断要求从总体中抽取样本须满足。统计推断要求从总体中抽取样本须满足随机原则随机原则，即抽样时总体中的每个个体都有同等的机会成为样本中的元素。即抽样时总体中的每个个体都有同等的机会成为样本中的元素。不重复抽样不重复抽样每次抽取一个每次抽取一个个体不放回去，再抽取第二个个体不放回去，再抽取第二个个体，连续抽取个体，连续抽取n次。次。重复抽样重复抽样每次抽取一个个每次抽取一个个体又放回去，再抽取第二个体又放回去，再抽取第二个个体，连续抽取个体，连续抽取n次。次。对

4、无限总体，不重复抽样等价于重复抽样，当对无限总体，不重复抽样等价于重复抽样，当N很大时，不重复很大时，不重复抽样则近似于重复抽样抽样则近似于重复抽样一、总体、样本与随机变量一、总体、样本与随机变量统计学知识简介统计学知识简介随机变量随机变量按一定的概率取不同数值的变量，用按一定的概率取不同数值的变量，用、等表示。等表示。一个随机变量的完全信息是包括它的取值范围及取每个数值的一个随机变量的完全信息是包括它的取值范围及取每个数值的概率，称为随机变量的分布。概率，称为随机变量的分布。随机变量按其取值情况分为随机变量按其取值情况分为两大类两大类：离散型随机变量离散型随机变量所有可能值为有限个或至多为无

5、穷可列个。所有可能值为有限个或至多为无穷可列个。连续型随机变量连续型随机变量所有可能取值不能够一一列举出来，其值所有可能取值不能够一一列举出来，其值域为一个或若干个有限或无限区间。域为一个或若干个有限或无限区间。二、随机变量的分布二、随机变量的分布统计学知识简介统计学知识简介随机变量是用它的随机变量是用它的分布来表示的。分布来表示的。若若为随机变量，为随机变量，x为任意实数，则称为任意实数，则称F( x )=P( x )为为随机变量随机变量的的分布函数分布函数，即，即 x的概率。的概率。分布函数分布函数F (x )满足：满足：0 F( x ) 1，F( -)=0，F(+)=1，P(x1 x2)

6、=F( x2 )- F( x1 )xxiiP)x(F对对离散型随机变量离散型随机变量 ，可以用，可以用概率函数概率函数Pi =P( =xi )表示，表示，即即 = xi的概率，其中的概率，其中i=1,2, 。P满足：满足：Pi 0，Pi =1对对连续型随机变量连续型随机变量 ，可以用，可以用密度函数密度函数f(x)表示，近似于表示，近似于 在在x附近单位长区间上取值的概率。附近单位长区间上取值的概率。f(x)满足：满足：f(x)0，badx)x(f)bxa (P1dx)x(f，xdt) t (f)x(F对离散对离散变量：变量：对连续对连续变量：变量：二、随机变量的分布二、随机变量的分布统计学知

7、识简介统计学知识简介随机变量是用它的随机变量是用它的分布来表示的。分布来表示的。分量为随机变量的向量称为分量为随机变量的向量称为多元随机变量多元随机变量，其联合分布，其联合分布函数定义为：函数定义为：F(x1 , , xn)=P(1 x1 , , ,n xn)。若随机变量若随机变量、满足满足F(x，y)=F (x) F (y)，即联合分布，即联合分布函数等于各自分布函数的乘积，则称随机变量函数等于各自分布函数的乘积，则称随机变量与与相互相互独立。独立。若若为为随机变量，随机变量，=f()称为随机变量函数，通常也是一称为随机变量函数，通常也是一个随机变量。个随机变量。三、总体分布的数字特征三、总

8、体分布的数字特征参数参数统计学知识简介统计学知识简介总体分布是由它的某些总体分布是由它的某些数字特征决定的，称之数字特征决定的，称之为参数。常用的参数有为参数。常用的参数有期望、方差、协方差期望、方差、协方差1、数学期望数学期望(Mathematical Expectation)离散型随机变量离散型随机变量的期望值定义为：的期望值定义为：也称均值，表示总体的平均水平，记为也称均值，表示总体的平均水平，记为或或E()连续型随机变量连续型随机变量的期望值定义为：的期望值定义为：dx)x(xf)(EiiixP)(E期望值满足：期望值满足：(1)若若a为常数，为常数，随机变量，则随机变量，则E(a)=

9、a，E(a)=aE()(2)若若、为随机变量，为随机变量，a、b为常数，则为常数，则E(a+b)=aE()+bE()(3)若若、为相互独立的随机变量，则为相互独立的随机变量，则E()=E()E()三、总体分布的数字特征三、总体分布的数字特征参数参数统计学知识简介统计学知识简介2、方差方差(Variance)定义为：定义为：表示总体相对均值的离散程度，记为表示总体相对均值的离散程度，记为2或或Var()由期望值的性质，可得：由期望值的性质，可得：22)(E)(E)(Var2)(EE)(Var方差满足：方差满足：(1)若若a为常数，为常数，随机变量，则随机变量，则Var(a)=0，Var(a)=

10、a2 Var()， Var(a+)= Var()(2)若若、为相互独立的随机变量，为相互独立的随机变量，a、b为常数，则为常数，则Var(a+b)=a2 Var()+b2 Var()(Var 为总体标准差，为总体标准差，与总体的数量指与总体的数量指标有相同的量纲。标有相同的量纲。显然，参数不是随机变量。显然，参数不是随机变量。总体分布是由它的某些总体分布是由它的某些数字特征决定的，称之数字特征决定的，称之为参数。常用的参数有为参数。常用的参数有期望值、方差、协方差期望值、方差、协方差三、总体分布的数字特征三、总体分布的数字特征参数参数统计学知识简介统计学知识简介3、协方差协方差(Covaria

11、nce)是两个随机变量与各自数学期望离差之积的期望，是两个随机变量与各自数学期望离差之积的期望，记为：记为：可简化为：可简化为：)(E)(E)(E),(Cov)(E)(EE),(Cov协方差满足：协方差满足：(2) Cov( , )= Var()(1)若若和和独立，则独立，则Cov( , )=0协方差可用于度协方差可用于度量两个随机变量量两个随机变量之间相关关系的之间相关关系的密切程度。密切程度。显然，参数不是随机变量。显然，参数不是随机变量。总体分布是由它的某些总体分布是由它的某些数字特征决定的，称之数字特征决定的，称之为参数。常用的参数有为参数。常用的参数有期望值、方差、协方差期望值、方差

12、、协方差(3) Cov(a+b , c+d)= bdCov( , )四、样本分布的数字特征四、样本分布的数字特征统计量统计量统计学知识简介统计学知识简介样本分布的数字特征样本分布的数字特征称为统计量。称为统计量。1、样本平均数样本平均数样本平均数表示样本的平均水平。样本平均数表示样本的平均水平。若若 为一个样本，定义为：为一个样本，定义为：n1iiXn1X样本方差表示样本相对其样本样本方差表示样本相对其样本平均数的离散程度，定义为：平均数的离散程度，定义为：为为样本标准差样本标准差，它与样本观测值的数量指标有相同的量纲。，它与样本观测值的数量指标有相同的量纲。显然，由不同的样本可以得到不同的样

13、本平均数和样本方差，因此统显然，由不同的样本可以得到不同的样本平均数和样本方差，因此统计量是随机变量。可以证明：计量是随机变量。可以证明：n1i2i2)XX(1n1Sn1x,x 2、样本方差样本方差2SS22)S(E,)X(E四、样本分布的数字特征四、样本分布的数字特征统计量统计量统计学知识简介统计学知识简介样本分布的数字特征样本分布的数字特征称为统计量。称为统计量。22n1i2i2)S(E)XX(1n1S，则若220n1i2i20)S(E)XX(n1S，则若2、样本方差样本方差3、样本协方差样本协方差无偏n1iii)YY)(XX(1n1有偏n1iii)YY)(XX(n1五、几个重要的连续型随

14、机变量的分布五、几个重要的连续型随机变量的分布统计学知识简介统计学知识简介1、正态分布正态分布若随机变量若随机变量的密度函数的密度函数正态分布在统计中具有重要的理论和实践意正态分布在统计中具有重要的理论和实践意义，现实中的许多随机现象都服从或近似服义，现实中的许多随机现象都服从或近似服从正态分布；随着样本容量的增大，很多统从正态分布；随着样本容量的增大，很多统计量近似于正态分布计量近似于正态分布(如如 t分布分布)；许多离散型；许多离散型随机变量可用正态分布来近似随机变量可用正态分布来近似(如二项分布如二项分布)。正态分布满足正态分布满足：(1)E() = ，Var() = 2222)x(e2

15、1)x(f其中其中、为常数，为常数， 0，则称，则称服从正态分布，记为服从正态分布，记为 N(，2)当当=0，=1时，称时，称服从服从标准正态分布标准正态分布，记为，记为 N(0，1)(2)若若 N(，2)，则，则) 1, 0(N)()a,a(Na0a ,a),(N,) 3(n1in1i2i2iiin1iiin12iin1i则，不全为，相互独立，若随机变量x xf(x)f(x)五、几个重要的连续型随机变量的分布五、几个重要的连续型随机变量的分布统计学知识简介统计学知识简介2、2分布分布若若1 , , n 为服从为服从N(0,1)的正态总体的样本，的正态总体的样本，2分布分布满足满足：(1)E(

16、) = n，Var() = 2n则称则称= 12 + n2 为为服从服从n个自由度的个自由度的2分布分布，记为，记为 2(n)n()n(,)3(n1ii2n1iii2in1，则相互独立，若随机变量n1ii2n1i2iin1n1) 1n()() 1,0(N,)2(，其中则，相互独立，若随机变量服从服从2分布的随机变量，分布的随机变量，可以表示为独立的标可以表示为独立的标准正态随机变量的平准正态随机变量的平方和。正态总体的样方和。正态总体的样本方差服从本方差服从2分布。分布。x x0 0f(x)f(x)n=4n=4n=10n=10五、几个重要的连续型随机变量的分布五、几个重要的连续型随机变量的分布

17、统计学知识简介统计学知识简介3、t分布分布若随机变量若随机变量 N(0，1)， 2(n)，与与相互独立，则称相互独立，则称可以可以证明：证明：(1)E(t) = 0， Var(t)=n/(n-2)为服从为服从自由度为自由度为n的的t分布，分布，记为记为t t(n)。n/t(2)Var(t)随着随着n的增加而减少，且的增加而减少，且Var(+)=1(3)当当n30时，时，t(n)近似于近似于N(0,1) 。x x0 0f(x)f(x)t分布分布正态分布正态分布五、几个重要的连续型随机变量的分布五、几个重要的连续型随机变量的分布统计学知识简介统计学知识简介4、F分布分布若随机变量若随机变量 2(n

18、1) ， 2(n2)，且，且与与相互独立，则称相互独立，则称21n/n/F为服从为服从第一个自由度为第一个自由度为n1、第二个自由第二个自由度为度为n2的的F分布，分布，记为记为F F(n1，n2)。易知，若易知，若F F(n1，n2)，则则1/F F(n2，n1)。x x0 0f(x)f(x)F F(n(n1 1,n,n2 2) )F分布的上侧分位数分布的上侧分位数六、正态总体的样本平均数和样本方差六、正态总体的样本平均数和样本方差统计学知识简介统计学知识简介(1)若总体服从若总体服从N(，2)，x1 , , xn为一个样本，则为一个样本，则) 1,0(Nn/x)n/,(Nx2，相互独立与，

19、且2222Sx) 1n(S) 1n() 1n( tn/Sx(2)若若x1 , , xn和和y1 , , yn是分别取自正态总体是分别取自正态总体N(1，12)、 N(2，22)的样本，则的样本，则) 1n,1n(F/S/SF2122222121其中，其中，S12、S22分别为两个样本的样本方差。分别为两个样本的样本方差。六、正态总体的样本平均数和样本方差六、正态总体的样本平均数和样本方差统计学知识简介统计学知识简介(3)中心极限定理中心极限定理：若随机变量：若随机变量x1 , , xn相互独立，相互独立，且服从同一分布，则且服从同一分布，则nnxyn1iin随机变量的极限分布的极限分布(n)为

20、标准正态分布，为标准正态分布，其中其中、2分别为分别为xi的均值和方差。的均值和方差。中心极限定理说明，中心极限定理说明，当样本容量当样本容量n充分大时，相互独立充分大时，相互独立随机变量和的分布将是正态的，即：随机变量和的分布将是正态的，即：)n/,(Nx)n,n(Nx22n1ii或七、估计量的评价标准七、估计量的评价标准统计学知识简介统计学知识简介1、无偏性无偏性)(E利用统计量的信息利用统计量的信息可以对未知参数进可以对未知参数进行估计，行估计， 作为作为的的估计量，其优劣有估计量，其优劣有一些评价的标准。一些评价的标准。2、有效性有效性3、一致性一致性若若 ，则称，则称 为为的无偏估计

21、量。的无偏估计量。通常称通常称 为为系统误差系统误差，无偏估计意味着无系统误差。，无偏估计意味着无系统误差。)(E22)S(E,)x(E如：若若 为为的所有无偏估计量中方差的所有无偏估计量中方差最小的，则称最小的，则称 为为的有效估计量。的有效估计量。的有效估计量是如：x若若 依概率收敛于依概率收敛于，即对任意，即对任意0，1)|)(|Plimn则称则称 为为的一致估计量。的一致估计量。通常把样本容量通常把样本容量n30的样本看做大的样本看做大样本，一致性在大样本时才起作用。样本，一致性在大样本时才起作用。的一致估计量为如：x在样本容量相同的情在样本容量相同的情况下，有效估计量的况下，有效估计

22、量的值在值在的附近最为集中的附近最为集中八、参数估计八、参数估计统计学知识简介统计学知识简介1、参数的点估计参数的点估计统计推断中包括参统计推断中包括参数估计和假设检验。数估计和假设检验。参数估计又分为点参数估计又分为点估计和区间估计。估计和区间估计。(1)矩估计法矩估计法选择一个适当的统计量选择一个适当的统计量 ，把其观测值作为未知参数，把其观测值作为未知参数的估计值，称为点估计。统计量的选取有不同的方法。的估计值，称为点估计。统计量的选取有不同的方法。随机变量随机变量x 的的r阶原点矩定义为阶原点矩定义为E(xr)，r阶中心矩定义为阶中心矩定义为E(x-E(x)r。特例：一阶原点矩为数学期

23、望特例：一阶原点矩为数学期望E(x)，二阶中心距为方差，二阶中心距为方差Var(x)，即，即E(x-E(x)2。矩估计法中，把矩估计法中，把样本矩作为对应总体矩的估计量样本矩作为对应总体矩的估计量，例如：，例如：n1i2in1ii)XX(1n1S,Xn1X八、参数估计八、参数估计统计学知识简介统计学知识简介1、参数的点估计参数的点估计统计推断中包括参统计推断中包括参数估计和假设检验。数估计和假设检验。参数估计又分为点参数估计又分为点估计和区间估计。估计和区间估计。(2)极大似然估计法极大似然估计法选择一个适当的统计量选择一个适当的统计量 ，把其观测值作为未知参数，把其观测值作为未知参数的估计值

24、，称为点估计。统计量的选取有不同的方法。的估计值，称为点估计。统计量的选取有不同的方法。设设x1 , , xn为由未知参数为由未知参数确定的总体的一个样本，确定的总体的一个样本，n1iin1),x(P),x,x(L对离散型随机变量，定义对离散型随机变量，定义对连续型随机变量，定义对连续型随机变量，定义n1iin1),x(f),x,x(L称称L为似然函数为似然函数。极大似然估计法中，把。极大似然估计法中，把使样本出现使样本出现概率最大的估计量作为所选概率最大的估计量作为所选，即，即关于关于极大化极大化L，得到，得到等价于极大化等价于极大化lnL，通过，通过lnL关于关于的一阶导数为的一阶导数为0

25、来求来求,。八、参数估计八、参数估计统计学知识简介统计学知识简介1、参数的点估计参数的点估计统计推断中包括参统计推断中包括参数估计和假设检验。数估计和假设检验。参数估计又分为点参数估计又分为点估计和区间估计。估计和区间估计。(3)最小二乘估计法最小二乘估计法选择一个适当的统计量选择一个适当的统计量 ，把其观测值作为未知参数，把其观测值作为未知参数的估计值，称为点估计。统计量的选取有不同的方法。的估计值，称为点估计。统计量的选取有不同的方法。已知一组样本观测值已知一组样本观测值(Xi ,Yi)(i=1,2,n)，要求样本回，要求样本回归函数尽可能地拟合这组值，即样本回归线上的点归函数尽可能地拟合这组值，即样本回归线上的点 与真实观测点与真实观测点Yi的的“总体误差总体误差”尽可能地小。尽可能地小。最小二乘法给出的判断标准是：最小二乘法给出的判断标准是：二者之差的平方和最二者之差的平方和最小小，即：，即：在给定样本观测值之下，选出的在给定样本观