数理统计基础知识课件

应用数理统计1应用数理统计1赵选民等，《数理统计》，科学出版社，2002

茆诗松等，《概率论与数理统计教程》，高等教育出版社，2004

中山大学数学系，《概率论与数理统计》，高等教育出版社，2001

吴翊等，《应用数理统计》，国防科技大学出版社，1995

参考书目2赵选民等，《数理统计》，科学出版社，2002

茆诗松等，《概

数理统计与概率论是两个有密切联系的学科，它们都以随机现象的统计规律为研究对象。但在研究问题的方法上有很大区别：概率论——已知随机变量服从某分布,寻求分布的性质、数字特征、及其应用；数理统计

——

通过对实验数据的统计分析,寻找所服从的分布和数字特征,从而推断整体的规律性。

数理统计的核心问题——由样本推断总体

3数理统计与概率论是两个有密切联系的学科，它们

统计学从方法上讲有两大类:描述性统计方法和数理统计方法(即抽样统计方法).

描述性统计方法:全部资料数理统计方法:部分资料

抽样统计方法4统计学从方法上讲有两大类:描述性统计方法和数

数理统计学是数学的一个分支，它研究怎样用有效的方法去收集、整理、分析带随机影响的数据，并在此基础上对所讨论的问题给出统计性的估计和推断。数理统计学的内容:概括为两大类

用有效的方法去收集数据。抽样理论和试验设计

有效地使用数据。中心内容—统计推断它包括参数估计，假设检验，回归分析，方差分析，多元统计分析等等。5数理统计学是数学的一个分支，它研究怎样用有效的有效性的含义

上述有效性有两个含义：可以建立一个在数学上便于处理的模型来描述所得的数据，数据中要包含尽可能多的与所研究的问题有关的信息。6有效性的含义上述有效性有两个含义：6关于统计推断由于统计推断中使用的仅仅是部分数据，且带有随机性，故所得结论只能做到尽可能而非绝对的精确可靠，而结论的正确性程度显然可以用概率来度量，因此概率论是数理统计的基础。统计方法的具体使用并不需要很高深的数学知识，但不具备较多较深的数学知识，这些方法的理论依据就说不清楚。本课主要介绍数理统计方法，也给出一些必要的数学推导，但不追求其严密性和完整性。7关于统计推断由于统计推断中使用的仅仅是部分数据，且带有随机性数理统计方法的应用

几乎在人类活动的一切领域中都能够不同程度地发现数理统计方法的应用。实验数据的处理离不开数理统计方法；在工农业生产中，最佳生产工艺的安排，最佳配方的确定，优良品种的对比试验，产品质量的控制管理，产品验收方案的制定，电子元器件寿命的计算等都要用到数理统计方法。8数理统计方法的应用几乎在人类活动的一在医药卫生领域，流行病的研究、新药的药效试验以及某种疾病的发病率与其它因素的关系的研究都是数理统计方法的用武之地。在生物遗传学、气象预报、地震研究、地质探矿等方面的研究中，数理统计方法是必备工具之一。数理统计方法在社会科学方面的应用也愈来愈广泛，教育学，人口学，社会保险业，各种社会问题的抽样调查，市场预测，民意测验等都有数理统计方法涉足。总之，只要安排试验和处理数据，就可以用数理统计方法。9在医药卫生领域，流行病的研究、新药的药效试验以及某种疾病的发数理统计学发展简史统计学的起源：统计学起源于古代，早在公元前3050年的古埃及就为建造金字塔进行过全国国力统计。到了16世纪，西欧各国政府对收集公民有关资料发生兴趣。Statistics（统计学）源于State.数理统计的正式诞生。在数学家建立了概率论后，才奠定了数理统计发展的理论基础。一般认为，它诞生于19世纪后期。10数理统计学发展简史统计学的起源：统计学起源于古代，早在公元前19世纪后期到20世纪四十年代。在这时期，英国人高尔顿、皮尔逊、费歇等作了大量开创性工作。尤其，费歇于1922年的一篇论文是数理统计学建立过程的一个里程碑，该文主要观点至今仍基本有效。到了四十年代，数理统计学已发展成为一个成熟的数学分支，它的重要标志是瑞典统计学家H.Cramer于1949年的著作《MathematicalMethodsofStatistics》1119世纪后期到20世纪四十年代。在这时期，英国人高尔顿、皮尔二战后。这时期的一个突出特点是计算机的发明和使用。它使人们能够处理大量的数据及其运算，把数理统计的研究引入到宏观世界和微观世界，又出现了一些新的分支。最后，特别提一下我国的许宝禄教授在极限理论、马氏过程、多元分析、正交设计、过程设计和判别函数等许多方面都有突出的贡献，他的许多研究成果都达到了世界先进水平。12二战后。这时期的一个突出特点是计算机的发明和使用。它使人们能第一章基础知识

经典的数理统计是以概率统计为基础的，概率论与数理统计的关系极为密切，为以后学习的方便，这里对概率论做一个简单的回顾。1、概率论的回顾2、数理统计简介13第一章基础知识经典的数理统计是以概率§1、概率论的回顾确定性现象和不确定性现象、随机现象概率论：研究和揭示随机现象的统计规律性的一个数学分支随机事件的定义、运算及运算律古典概型、几何概型、统计概型的定义及性质概率的公理化定义条件概率,乘法公式,全概率公式,贝叶斯公式(逆概率公式、后验公式），独立性14§1、概率论的回顾确定性现象和不确定性现象、随机现象14随机变量、分布函数及其性质随机变量函数的分布多维随机变量及其分布随机变量的数字特征：期望、方差、协方差、相关系数及其性质15随机变量、分布函数及其性质15条件数学期望定义设X是一个r.v.，且EX存在.则记称E(X|Y=y)为已知Y=y时X的条件期望.定义设g(y)=E(X|Y=y)，随机变量g(Y)就可记作E(X|Y),且称为已知Y时X的条件数学期望。16条件数学期望定义设X是一个r.v.，且EX存在.则记条件数学期望的性质如果X和Y独立,且EX存在,则E(X|Y)=EXE(h(Y)|Y)=h(Y)E(q(X,Y)|Y=y)=E(q(X,y)|Y=y)E(E(X|Y))=E(X)重期望定理17条件数学期望的性质如果X和Y独立,且EX存在,则E§2、随机变量的特征函数定义

称随机变量eitX的数学期望(t)=EeitX为X的特征函数。随机变量的特征函数(t)是实变量t的复值函数，总是存在的,且与随机变量一一对应。当X为连续型时，当X为离散型时， 18§2、随机变量的特征函数定义称随机变量eitX的数学期望特征函数基本性质19特征函数基本性质192020几个常见随机变量的特征函数21几个常见随机变量的特征函数21①非降的右连续函数；§3多元随机向量

一、多元随机的分布函数1、多元联合分布函数随机向量的概率分布函数定义为2、联合分布函数的性质22①②分布函数的取值范围为[0，1]，即③分布函数当变量取值为无穷大时，函数值收敛到1，即23②分布函数的取值范围为[0，1]，即二、两个常用的离散多元分布

1、多项分布

则称服从多项分布。24二、两个常用的离散多元分布

1、多项分布则称2、多元超几何分布

则服从多元超几何分布。252、多元超几何分布则

三、多元随机变量的概率密度函数

1、定义随机向量的联合分布函数可以表示为则称为连续型随机向量。称为的多元联合概率密度函数。

26三、多元随机变量的概率密度函数

1、定义随机向量若在点连续，则27若在点

四、边际分布

设有连续随机向量

不妨设是的前q个分量组成。则的分布为

28四、边际分布设有连续随机向量不妨设所以的边际密度为例有概率密度函数

试分别求的边际密度。29所以的边际密度为例3030五、条件分布1、问题的引入

若A和B是任意两个事件，且，则称为在B事件发生的条件下，事件A发生的条件概率。考虑随机向量，其中表示人的身高（单位：米），表示人的体重（单位：公斤），在身高为1.9米的人群中，体重的分布就再也不是原来的分布了。而是在的条件分布。31五、条件分布1、问题的引入若A和B是任2、条件分布连续随机向量

不妨设是的q个分量组成。是余下的n-q个分量组成。是条件下，的条件概率密度函数。322、条件分布不妨设

例设X=(X1,X2)’有概率密度函数试求条件密度函数f(x1|x2)和f(x2|x1)。33例设X=(X1,X2)’有概率密度函数试求条件密度所以先求

34所以先求34所以当时,当时,35所以当时,当时,353、设是n个随机向量，若

对一切成立，则相互独立。六、 独立性

1、定义设和是两个随机向量，若

对一切、成立，则称和相互独立。2、设和是两个连续随机向量，和相互独立，当且仅当

对一切、成立。363、设是n个

例设X=(X1，X2，X3)’的联合概率密度函数为试证X1，X2，X3相互独立。37例设X=(X1，X2，X3)’的联合概率密度函数为§4随机矩阵

一、数学期望1、定义是有随机变量构成的随机矩阵，定义X的数学期望为38§4随机矩阵一、数学期望1、定义是有随机变量构成的随

特别当时，便可得到随机向量的数学期望为2、性质

1）

设a为常数，则；2）设分别为常数矩阵，则3）设为n个同阶矩阵，则39特别当时，便可得到随机向量二、协方差矩阵

1、定义：设和分别为p维和q维随机向量，则其协方差矩阵为40二、协方差矩阵1、定义：设41412、性质

1）若和相互独立。则422、性质1）若

若的分量相互独立,则协方差矩阵，除主对角线上的元素外均为零，即43若的分量相互独立,2）随机向量X的协方差矩阵是非负定矩阵。证：设a为任意与X有相同维数的常数向量，则3）设A是常数矩阵，b为常数向量，则442）随机向量X的协方差矩阵是非负定矩阵。证：4)若和分别是p和q维随机向量，A和B为常数矩阵，则证明5）若是p个不全为零的常数，是相互独立的p维随机向量，则454)若

三、相关系数矩阵若和分别是p和q维随机向量，则其相关系数矩阵为46三、相关系数矩阵46§5随机向量的变换

一、一元随机变量的变换

设X具有概率密度函数fx(x)，函数y=(x)严格单调，其反函数x=(y)有连续导数，则Y=(X)的概率密度函数为

其中y的取值范围与x的取值范围相对应。47§5随机向量的变换一、一元随机变量的y的取值范围为(0,),则例设随机变量X服从均匀分布U(0,1),即密度函数

48y的取值范围为(0,),则例设随机变量X服从均匀分布

二、多元随机向量的变换

若有密度函数，有函数组其逆变换存在

则的概率密度函数为49二、多元随机向量的变换若

其中特别：若，其中为阶可逆常数矩阵，为维常数向量，则50其中特别：若，其中为阶可逆常§6、常见分布族分布族分布族多元正态分布族指数分布族51§6、常见分布族分布族51若连续型

r.vX具有概率密度其中均为正常数,分别称为形状参数和尺度参数。的分布,记作则称X服从参数为一、分布族这里是含参变量的广义积分。52若连续型r.vX具有概率密度其中均为正函数具有以下性质:(3)对自然数n,(1)(2)分布在水文统计、最大风速或最大风压的概率计算中经常要用到.53函数具有以下性质:(3)对自然数n,(1)(2)分布在当时,分布则是统计学中十分重要的分布,其概率密度为当时,分布即是参数为的指数分布;不少常见的重要分布是分布的特殊情形.54当时,性质1

设X~

(,)，则，它的数学期望与方差分别为：E(X)=/,D(X)=/2.

性质2

设X~

(,)，则它的特征函数为：

性质3

设Xi~

(i,)，i=1,2,…,n，且Xi相互独立，则X1＋X2+…+Xn~

(1+

2+…+n,)55性质1设X~(,)，则定义

若连续型r.vX具有概率密度其中均为正常数。的分布,记作则称X服从参数为二、分布族56定义若连续型r.vX具有概率密度其中性质2

设且相互独立，则（提示：作变量变换，求出（U，V）的联合密度函数。）性质1

设X~Be

(a,b)，则它的数学期望与方差分别为：E(X)=a/(a+b),D(X)=ab/[(a+a)2(a+b+1)].57性质2设二维正态随机变量的性质,

设则(1)(2)(3)服从正态分布,(4)X与Y独立X与Y不相关58二维正态随机变量的性质,设则(1)(2)(如果p维随机向量(随机变量)多元正态分布族定义(联合)概率密度函数为则称随机向量X为p维正态随机向量，其中称为均值向量，V为协方差矩阵(协差阵)，且59如果p维随机向量(随机变量)多元正态分布族定义(联合)概率(3)设，A是常数矩阵，b是m

维向量，若令Y=AX+b，则多元正态分布的性质（1）p维正态分布由其均值向量和协方差阵唯一确定，且特征函数为：（2）对于任一p维向量及p阶非负定矩阵V，必存在p维正态随机向量60(3)设，(5)设为多维正态随机向量，则X1与X2互不相关的充要条件是X1与X2相互独立。（6）若，且，则（4）X为p

维正态随机向量的充要条件为对任一p

维向量c，是一维正态随机变量。61(5)设为（8）设，则存在矩阵（7）

n个独立的p元正态随机向量的和仍服从p元正态分布,即若相互独立,且则使得其中。62（8）设指数分布族63指数分布族63应用数理统计64应用数理统计1赵选民等，《数理统计》，科学出版社，2002

茆诗松等，《概率论与数理统计教程》，高等教育出版社，2004

中山大学数学系，《概率论与数理统计》，高等教育出版社，2001

吴翊等，《应用数理统计》，国防科技大学出版社，1995

参考书目65赵选民等，《数理统计》，科学出版社，2002

茆诗松等，《概

数理统计与概率论是两个有密切联系的学科，它们都以随机现象的统计规律为研究对象。但在研究问题的方法上有很大区别：概率论——已知随机变量服从某分布,寻求分布的性质、数字特征、及其应用；数理统计

——

通过对实验数据的统计分析,寻找所服从的分布和数字特征,从而推断整体的规律性。

数理统计的核心问题——由样本推断总体

66数理统计与概率论是两个有密切联系的学科，它们

统计学从方法上讲有两大类:描述性统计方法和数理统计方法(即抽样统计方法).

描述性统计方法:全部资料数理统计方法:部分资料

抽样统计方法67统计学从方法上讲有两大类:描述性统计方法和数

数理统计学是数学的一个分支，它研究怎样用有效的方法去收集、整理、分析带随机影响的数据，并在此基础上对所讨论的问题给出统计性的估计和推断。数理统计学的内容:概括为两大类

用有效的方法去收集数据。抽样理论和试验设计

有效地使用数据。中心内容—统计推断它包括参数估计，假设检验，回归分析，方差分析，多元统计分析等等。68数理统计学是数学的一个分支，它研究怎样用有效的有效性的含义

上述有效性有两个含义：可以建立一个在数学上便于处理的模型来描述所得的数据，数据中要包含尽可能多的与所研究的问题有关的信息。69有效性的含义上述有效性有两个含义：6关于统计推断由于统计推断中使用的仅仅是部分数据，且带有随机性，故所得结论只能做到尽可能而非绝对的精确可靠，而结论的正确性程度显然可以用概率来度量，因此概率论是数理统计的基础。统计方法的具体使用并不需要很高深的数学知识，但不具备较多较深的数学知识，这些方法的理论依据就说不清楚。本课主要介绍数理统计方法，也给出一些必要的数学推导，但不追求其严密性和完整性。70关于统计推断由于统计推断中使用的仅仅是部分数据，且带有随机性数理统计方法的应用

几乎在人类活动的一切领域中都能够不同程度地发现数理统计方法的应用。实验数据的处理离不开数理统计方法；在工农业生产中，最佳生产工艺的安排，最佳配方的确定，优良品种的对比试验，产品质量的控制管理，产品验收方案的制定，电子元器件寿命的计算等都要用到数理统计方法。71数理统计方法的应用几乎在人类活动的一在医药卫生领域，流行病的研究、新药的药效试验以及某种疾病的发病率与其它因素的关系的研究都是数理统计方法的用武之地。在生物遗传学、气象预报、地震研究、地质探矿等方面的研究中，数理统计方法是必备工具之一。数理统计方法在社会科学方面的应用也愈来愈广泛，教育学，人口学，社会保险业，各种社会问题的抽样调查，市场预测，民意测验等都有数理统计方法涉足。总之，只要安排试验和处理数据，就可以用数理统计方法。72在医药卫生领域，流行病的研究、新药的药效试验以及某种疾病的发数理统计学发展简史统计学的起源：统计学起源于古代，早在公元前3050年的古埃及就为建造金字塔进行过全国国力统计。到了16世纪，西欧各国政府对收集公民有关资料发生兴趣。Statistics（统计学）源于State.数理统计的正式诞生。在数学家建立了概率论后，才奠定了数理统计发展的理论基础。一般认为，它诞生于19世纪后期。73数理统计学发展简史统计学的起源：统计学起源于古代，早在公元前19世纪后期到20世纪四十年代。在这时期，英国人高尔顿、皮尔逊、费歇等作了大量开创性工作。尤其，费歇于1922年的一篇论文是数理统计学建立过程的一个里程碑，该文主要观点至今仍基本有效。到了四十年代，数理统计学已发展成为一个成熟的数学分支，它的重要标志是瑞典统计学家H.Cramer于1949年的著作《MathematicalMethodsofStatistics》7419世纪后期到20世纪四十年代。在这时期，英国人高尔顿、皮尔二战后。这时期的一个突出特点是计算机的发明和使用。它使人们能够处理大量的数据及其运算，把数理统计的研究引入到宏观世界和微观世界，又出现了一些新的分支。最后，特别提一下我国的许宝禄教授在极限理论、马氏过程、多元分析、正交设计、过程设计和判别函数等许多方面都有突出的贡献，他的许多研究成果都达到了世界先进水平。75二战后。这时期的一个突出特点是计算机的发明和使用。它使人们能第一章基础知识

经典的数理统计是以概率统计为基础的，概率论与数理统计的关系极为密切，为以后学习的方便，这里对概率论做一个简单的回顾。1、概率论的回顾2、数理统计简介76第一章基础知识经典的数理统计是以概率§1、概率论的回顾确定性现象和不确定性现象、随机现象概率论：研究和揭示随机现象的统计规律性的一个数学分支随机事件的定义、运算及运算律古典概型、几何概型、统计概型的定义及性质概率的公理化定义条件概率,乘法公式,全概率公式,贝叶斯公式(逆概率公式、后验公式），独立性77§1、概率论的回顾确定性现象和不确定性现象、随机现象14随机变量、分布函数及其性质随机变量函数的分布多维随机变量及其分布随机变量的数字特征：期望、方差、协方差、相关系数及其性质78随机变量、分布函数及其性质15条件数学期望定义设X是一个r.v.，且EX存在.则记称E(X|Y=y)为已知Y=y时X的条件期望.定义设g(y)=E(X|Y=y)，随机变量g(Y)就可记作E(X|Y),且称为已知Y时X的条件数学期望。79条件数学期望定义设X是一个r.v.，且EX存在.则记条件数学期望的性质如果X和Y独立,且EX存在,则E(X|Y)=EXE(h(Y)|Y)=h(Y)E(q(X,Y)|Y=y)=E(q(X,y)|Y=y)E(E(X|Y))=E(X)重期望定理80条件数学期望的性质如果X和Y独立,且EX存在,则E§2、随机变量的特征函数定义

称随机变量eitX的数学期望(t)=EeitX为X的特征函数。随机变量的特征函数(t)是实变量t的复值函数，总是存在的,且与随机变量一一对应。当X为连续型时，当X为离散型时， 81§2、随机变量的特征函数定义称随机变量eitX的数学期望特征函数基本性质82特征函数基本性质198320几个常见随机变量的特征函数84几个常见随机变量的特征函数21①非降的右连续函数；§3多元随机向量

一、多元随机的分布函数1、多元联合分布函数随机向量的概率分布函数定义为2、联合分布函数的性质85①②分布函数的取值范围为[0，1]，即③分布函数当变量取值为无穷大时，函数值收敛到1，即86②分布函数的取值范围为[0，1]，即二、两个常用的离散多元分布

1、多项分布

则称服从多项分布。87二、两个常用的离散多元分布

1、多项分布则称2、多元超几何分布

则服从多元超几何分布。882、多元超几何分布则

三、多元随机变量的概率密度函数

1、定义随机向量的联合分布函数可以表示为则称为连续型随机向量。称为的多元联合概率密度函数。

89三、多元随机变量的概率密度函数

1、定义随机向量若在点连续，则90若在点

四、边际分布

设有连续随机向量

不妨设是的前q个分量组成。则的分布为

91四、边际分布设有连续随机向量不妨设所以的边际密度为例有概率密度函数

试分别求的边际密度。92所以的边际密度为例9330五、条件分布1、问题的引入

若A和B是任意两个事件，且，则称为在B事件发生的条件下，事件A发生的条件概率。考虑随机向量，其中表示人的身高（单位：米），表示人的体重（单位：公斤），在身高为1.9米的人群中，体重的分布就再也不是原来的分布了。而是在的条件分布。94五、条件分布1、问题的引入若A和B是任2、条件分布连续随机向量

不妨设是的q个分量组成。是余下的n-q个分量组成。是条件下，的条件概率密度函数。952、条件分布不妨设

例设X=(X1,X2)’有概率密度函数试求条件密度函数f(x1|x2)和f(x2|x1)。96例设X=(X1,X2)’有概率密度函数试求条件密度所以先求

97所以先求34所以当时,当时,98所以当时,当时,353、设是n个随机向量，若

对一切成立，则相互独立。六、 独立性

1、定义设和是两个随机向量，若

对一切、成立，则称和相互独立。2、设和是两个连续随机向量，和相互独立，当且仅当

对一切、成立。993、设是n个

例设X=(X1，X2，X3)’的联合概率密度函数为试证X1，X2，X3相互独立。100例设X=(X1，X2，X3)’的联合概率密度函数为§4随机矩阵

一、数学期望1、定义是有随机变量构成的随机矩阵，定义X的数学期望为101§4随机矩阵一、数学期望1、定义是有随机变量构成的随

特别当时，便可得到随机向量的数学期望为2、性质

1）

设a为常数，则；2）设分别为常数矩阵，则3）设为n个同阶矩阵，则102特别当时，便可得到随机向量二、协方差矩阵

1、定义：设和分别为p维和q维随机向量，则其协方差矩阵为103二、协方差矩阵1、定义：设104412、性质

1）若和相互独立。则1052、性质1）若

若的分量相互独立,则协方差矩阵，除主对角线上的元素外均为零，即106若的分量相互独立,2）随机向量X的协方差矩阵是非负定矩阵。证：设a为任意与X有相同维数的常数向量，则3）设A是常数矩阵，b为常数向量，则1072）随机向量X的协方差矩阵是非负定矩阵。证：4)若和分别是p和q维随机向量，A和B为常数矩阵，则证明5）若是p个不全为零的常数，是相互独立的p维随机向量，则1084)若

三、相关系数矩阵若和分别是p和q维随机向量，则其相关系数矩阵为109三、相关系数矩阵46§5随机向量的变换

一、一元随机变量的变换

设X具有概率密度函数fx(x)，函数y=(x)严格单调，其反函数x=(y)有连续导数，则Y=(X)的概率密度函数为

其中y的取值范围与x的取值范围相对应。110§5随机向量的变换一、一元随机变量的y的取值范围为(0,),则例设随机变量X服从均匀分布U(0,1),即密度函数

111y的取值范围为(0,),则例设随机变量X服从均匀分布

二、多元随机向量的变换

若有密度函数，有函数组其逆变换存在

则的概率密度函数为112二、多元随机向量的变换若

其中特别：若，其中为阶可逆常数矩阵，为维常数向量，则113其中特别：若，其中为阶可逆常§6、常见分布族分布族分布族多元正态分布族指数分布族114§6、常见分布族分布族51若连续型

r.vX具有概率密度其中均为正常数,分别称为形状参数和尺度参数。的分布,记作则称X服从参数为一、分布族这里是含参变量的广义积分。115若连续型r.vX具有概率密度其中均为正函数具有以下性质:(3)对自然数n,(1)(2)分布在水文统计、最大风速或最大风