概率论与数理统计(第三版)习题

汇报人：AA2024-01-19概率论与数理统计(第三版)习题目录概率论基本概念随机变量及其分布多维随机变量及其分布随机变量的数字特征大数定律及中心极限定理数理统计的基本概念参数估计假设检验01概率论基本概念Part事件的定义与分类事件是随机试验的结果，可以分为必然事件、不可能事件和随机事件。概率的定义与性质概率是描述随机事件发生的可能性的数值，满足非负性、规范性和可加性。古典概型与几何概型古典概型是指等可能概率模型，几何概型是指通过几何度量来计算概率的模型。事件与概率030201条件概率的定义与计算条件概率是指在某个事件发生的条件下，另一个事件发生的概率。可以通过定义或乘法公式来计算。事件的独立性如果两个事件的发生互不影响，则称这两个事件是相互独立的。独立事件的概率满足乘法公式。多个事件的独立性对于多个事件，如果其中任意两个事件都相互独立，则称这些事件是相互独立的。条件概率与独立性全概率公式与贝叶斯公式如果事件B能且只能与两两互斥的事件A1，A2，...，An中的一件同时发生，则事件B发生的概率为P(B)=P(B|A1)P(A1)+P(B|A2)P(A2)+...+P(B|An)P(An)。贝叶斯公式贝叶斯公式是描述两个条件概率之间关系的公式，也称为逆概率公式。具体表达式为P(Ai|B)=P(B|Ai)P(Ai)/[P(B|A1)P(A1)+P(B|A2)P(A2)+...+P(B|An)P(An)]。贝叶斯公式的应用贝叶斯公式在统计学、机器学习等领域有广泛应用，如朴素贝叶斯分类器、贝叶斯网络等。全概率公式02随机变量及其分布Part定义取值可数的随机变量，即可能取值的个数是有限的或可列的。概率质量函数描述离散型随机变量在各特定取值上的概率。常见离散型随机变量分布二项分布、泊松分布、几何分布等。离散型随机变量定义连续型随机变量取值充满某个区间（或若干个区间）的随机变量，可能取值的个数是无限的，且无法一一列举。常见连续型随机变量分布正态分布、均匀分布、指数分布等。描述连续型随机变量的概率分布情况，具有非负性和规范性。概率密度函数通过已知随机变量的分布，求解其函数的分布。一维随机变量的函数的分布涉及多个随机变量时，研究它们的函数的分布情况。多维随机变量的函数的分布通过变换已知随机变量的取值范围或概率密度函数的形式，得到新的随机变量的分布情况。变换法随机变量的函数的分布03多维随机变量及其分布Part定义设$X$和$Y$是两个随机变量，定义在同一概率空间$(Omega,mathcal{F},P)$上，称$(X,Y)$为二维随机变量。对于任意实数$x,y$，二元函数$F(x,y)=P{Xleqx,Yleqy}$称为二维随机变量$(X,Y)$的联合分布函数。如果存在非负可积函数$f(x,y)$，使得对于任意实数$x,y$，有$F(x,y)=int_{-infty}^{x}int_{-infty}^{y}f(u,v)dudv$，则称$(X,Y)$为连续型二维随机变量，函数$f(x,y)$称为$(X,Y)$的联合概率密度函数。联合分布函数联合概率密度函数二维随机变量边缘分布与条件分布边缘分布函数：二维随机变量$(X,Y)$关于$X$的边缘分布函数定义为$F_X(x)=F(x,+\infty)$，关于$Y$的边缘分布函数定义为$F_Y(y)=F(+\infty,y)$。边缘概率密度函数：如果$(X,Y)$是连续型二维随机变量，其联合概率密度函数为$f(x,y)$，则$(X,Y)$关于$X$的边缘概率密度函数为$fX(x)=\int{-\infty}^{+\infty}f(x,y)dy$，关于$Y$的边缘概率密度函数为$fY(y)=\int{-\infty}^{+\infty}f(x,y)dx$。条件分布函数：设$(X,Y)$是二维随机变量，对于固定的$y$，如果$P{Y=y}>0$，则称条件概率$P{X\leqx|Y=y}=\frac{P{X\leqx,Y=y}}{P{Y=y}}$为在$Y=y$条件下$X$的条件分布函数。同理可以定义在$X=x$条件下$Y$的条件分布函数。条件概率密度函数：如果$(X,Y)$是连续型二维随机变量，其联合概率密度函数为$f(x,y)$，且对于固定的$y$，有$fY(y)>0$，则在$Y=y$条件下，$X$的条件概率密度函数为$f{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}$。同理可以定义在$X=x$条件下，$Y$的条件概率密度函数。定义：设$(X,Y)$是二维随机变量，如果对于任意实数$x,y$，都有$P{Xleqx,Yleqy}=P{Xleqx}P{Yleqy}$，则称随机变量$X$与$Y$是相互独立的。性质：相互独立的随机变量具有以下性质$P{XinA,YinB}=P{XinA}P{YinB}$，其中$A,B$是任意事件；$E[XY]=E[X]E[Y]$；$D[XY]=D[X]D[Y]+(E[X])^2D[Y]+(E[Y])^2D[X]$；如果$(X,Y)$与$(U,V)$相互独立，且$(U,V)$与$(W,Z)$相互独立，则$(X,Y)$与$(W,Z)$也相互独立。相互独立的随机变量04随机变量的数字特征Part数学期望描述随机变量取值的“平均水平”，是概率加权下的平均值。对于离散型随机变量，数学期望是所有可能取值与其对应概率的乘积之和；对于连续型随机变量，数学期望则是通过积分计算得到。方差衡量随机变量取值的离散程度，即各数值与其平均数差值的平方和的平均数。方差越大，说明随机变量的取值越分散；方差越小，则说明取值越集中。数学期望与方差用于衡量两个随机变量的总体误差，表示两个变量在变化过程中是同方向变化还是反方向变化，以及变化程度的大小。如果两个变量的变化趋势一致，则协方差为正值；如果变化趋势相反，则协方差为负值；如果两个变量相互独立，则协方差为零。协方差用于衡量两个随机变量之间线性关系的强度和方向。相关系数的取值范围为[-1,1]，其中1表示完全正相关，-1表示完全负相关，0表示不相关。相关系数的绝对值越大，说明两个变量之间的线性关系越强。相关系数协方差与相关系数矩描述随机变量的分布形态，特别是偏态和峰态。一阶原点矩就是数学期望，二阶中心矩就是方差，三阶标准化矩描述分布的偏态，四阶标准化矩描述分布的峰态。协方差矩阵用于描述多个随机变量之间的线性相关程度。协方差矩阵的每个元素表示对应两个随机变量之间的协方差。对于多维随机变量，协方差矩阵是一个方阵，其对角线上的元素分别是各个随机变量的方差，非对角线上的元素则是对应两个随机变量之间的协方差。矩、协方差矩阵05大数定律及中心极限定理Part123揭示了算术平均值向数学期望收敛的性质。弱大数定律（辛钦大数定律）进一步指出算术平均值几乎必然收敛于数学期望。强大数定律在n重伯努利试验中，事件A发生的频率依概率收敛于事件A发生的概率。伯努利大数定律大数定律中心极限定理适用于随机变量序列不满足独立同分布的情况，但要求各随机变量的数学期望和方差存在且有限。李雅普诺夫中心极限定理指出当n足够大时，n个独立同分布的随机变量的标准化和近似服从标准正态分布。独立同分布的中心极限定理（林德伯格-列维定理）是二项分布的特例，指出当n足够大、p不接近0或1时，二项分布的标准化变量近似服从标准正态分布。德莫佛-拉普拉斯定理06数理统计的基本概念Part总体与样本总体研究对象的全体个体组成的集合，通常用一个随机变量$X$及其分布$F(x)$来描述。样本从总体中随机抽取的一部分个体组成的集合，用于推断总体的性质。样本量通常记为$n$，样本观测值记为$x_1,x_2,ldots,x_n$。统计量与抽样分布由样本观测值计算得到的用于描述样本特征的量，如样本均值、样本方差等。统计量不依赖于任何未知参数。统计量统计量的概率分布，描述了在不同样本下统计量的可能取值及其概率。常见的抽样分布有$chi^2$分布、$t$分布和$F$分布等。抽样分布0102样本均值$bar{X…所有样本观测值的算术平均数，其抽样分布近似于正态分布，当样本量足够大时。样本方差$S^2$用于描述样本观测值的离散程度，其抽样分布与$chi^2$分布有关。样本标准差$S$样本方差的平方根，用于衡量数据的波动性。样本$k$阶原点矩描述样本观测值相对于原点的分布情况，对于不同的$k$值有不同的意义。例如，$k=1$时为样本均值，$k=2$时为样本方差。样本$k$阶中心矩描述样本观测值相对于均值的分布情况，对于不同的$k$值有不同的意义。例如，$k=2$时为样本方差，$k=3$时为样本偏度，$k=4$时为样本峰度。030405常用的统计量及其分布07参数估计Part点估计矩估计法利用样本矩来估计总体矩，从而得到参数的估计值。最大似然估计法根据样本观测值出现的概率最大原则来估计参数。最小二乘法通过最小化误差的平方和来估计参数。枢轴量法构造一个包含未知参数和样本数据的统计量，使其分布已知，进而求得参数的置信区间。Bootstrap法通过重复抽样生成大量样本，利用这些样本的分布特性来估计参数的置信区间。置信区间按一定的置信水平，根据样本数据确定的包含未知参数的区间。区间估计010203单个正态总体均值的区间估计当总体方差已知时，利用标准正态分布的性质构造置信区间；当总体方差未知时，利用t分布的性质构造置信区间。两个正态总体均值差的区间估计当两总体方差已知时，利用标准正态分布的性质构造置信区间；当两总体方差未知但相等时，利用t分布的性质构造置信区间；当两总体方差未知且不等时，利用近似t分布或Welcht检验构造置信区间。正态总体方差的区间估计利用卡方分布的性质构造置信区间。正态总体均值与方差的区间估计08假设检验Part原假设与备择假设原假设通常是研究者想要推翻的假设，而备择假设则是研究者希望证实的假设。检验统计量与拒绝域检验统计量是根据样本数据计算出的用于判断原假设是否成立的统计量，而拒绝域则是检验统计量取值的范围，当检验统计量落入拒绝域时，我们拒绝原假设。显著性水平与第一类错误显著性水平是事先设定的用于判断原假设是否成立的标准，而第一类错误则是在原假设为真时错误地拒绝原假设的概率。假设检验的基本概念01当样本量较小且总体标准差未知时，可以使用单样本t检验对单个正态总体的均值进行假设检验。单样本t检验02当样本量较大或总体标准差已知时，可以使用z检验对单个正态总体的均值进行假设检验。z检验