吴赣昌编-概率论与数理统计

吴赣昌编_概率论与数理统计_2024-01-20目录CONTENTS概率论基本概念一维随机变量及其分布多维随机变量及其分布随机变量的数字特征大数定律与中心极限定理数理统计基本概念参数估计方法假设检验方法01概率论基本概念在一定条件下并不总是发生的现象。随机事件概率必然事件不可能事件描述随机事件发生的可能性的量度，取值范围在0到1之间。在一定条件下一定会发生的事件，其概率为1。在一定条件下一定不会发生的事件，其概率为0。随机事件与概率古典概型与几何概型古典概型又称等可能概型，具有有限性和等可能性两个特点。常用排列组合方法计算概率。几何概型试验的样本空间是一个区域，每个样本点对应区域中的一个点。概率通过面积、体积等几何度量来计算。条件概率与独立性在已知某一事件发生的条件下，另一事件发生的概率。用P(A|B)表示在B发生的条件下A发生的概率。事件的独立性如果两个事件的发生互不影响，则称这两个事件是相互独立的。对于独立事件A和B，有P(A∩B)=P(A)P(B)。乘法公式对于任意两个事件A和B，有P(A∩B)=P(A)P(B|A)。当A和B相互独立时，乘法公式简化为P(A∩B)=P(A)P(B)。条件概率02一维随机变量及其分布取值有限或可列的随机变量。离散型随机变量的定义描述离散型随机变量取各个值的概率，常用分布列表示。分布律二项分布、泊松分布、几何分布等。常见离散型随机变量分布离散型随机变量及分布律连续型随机变量的定义取值充满某个区间（或整个实数轴）的随机变量。常见连续型随机变量分布均匀分布、指数分布、正态分布等。概率密度函数描述连续型随机变量在某个确定取值点附近的可能性的函数。连续型随机变量及概率密度随机变量的函数的定义：设X是一个随机变量，g(X)是X的函数，那么g(X)也是一个随机变量。离散型随机变量函数的分布：通过分布律的变换得到。连续型随机变量函数的分布：通过概率密度函数的变换得到，需注意变换后的函数是否仍为概率密度函数。010203随机变量的函数的分布03多维随机变量及其分布二维随机变量的定义设$X$和$Y$是两个随机变量，则称$(X,Y)$为二维随机变量。联合分布函数对于任意实数$x$和$y$，二元函数$F(x,y)=P{Xleqx,Yleqy}$称为二维随机变量$(X,Y)$的联合分布函数。联合概率密度函数如果存在非负函数$f(x,y)$，使得对于任意实数$x$和$y$，有$F(x,y)=int_{-infty}^{x}int_{-infty}^{y}f(u,v)dudv$，则称$f(x,y)$为二维随机变量$(X,Y)$的联合概率密度函数。010203二维随机变量及联合分布边缘分布函数二维随机变量$(X,Y)$关于$X$的边缘分布函数定义为$F_X(x)=P{Xleqx}$，关于$Y$的边缘分布函数定义为$F_Y(y)=P{Yleqy}$。边缘概率密度函数设二维随机变量$(X,Y)$的联合概率密度函数为$f(x,y)$，则$(X,Y)$关于$X$的边缘概率密度函数为$f_X(x)=int_{-infty}^{infty}f(x,y)dy$，关于$Y$的边缘概率密度函数为$f_Y(y)=int_{-infty}^{infty}f(x,y)dx$。条件分布函数设二维随机变量$(X,Y)$的联合分布函数为$F(x,y)$，且对于固定的$x_0$，$P{X=x_0}>0$，则称条件概率$P{Yleqy|X=x_0}=frac{P{X=x_0,Yleqy}}{P{X=x_0}}$为在$X=x_0$条件下，$Y$的条件分布函数。边缘分布与条件分布随机变量的独立性判断独立性的方法可以通过判断联合概率密度函数是否等于边缘概率密度函数的乘积来判断两个随机变量是否独立。如果等于，则两个随机变量独立；如果不等于，则两个随机变量不独立。随机变量的独立性定义如果对于所有的$x$和$y$，都有$P{Xleqx,Yleqy}=P{Xleqx}P{Yleqy}$，则称随机变量$X$和$Y$是相互独立的。独立性的性质如果两个随机变量相互独立，则它们的任何函数也相互独立。此外，如果一组随机变量中任意两个随机变量都相互独立，则这组随机变量也相互独立。04随机变量的数字特征数学期望描述随机变量取值的“平均水平”，是概率加权下的平均值。对于离散型随机变量，数学期望是所有可能取值与其对应概率的乘积之和；对于连续型随机变量，数学期望则是通过积分计算得出。方差衡量随机变量取值与其数学期望的偏离程度，即波动性或分散程度。方差越大，说明随机变量的取值越分散；方差越小，则说明取值越集中。数学期望与方差衡量两个随机变量变化趋势的相似程度。如果两个随机变量同时向相反方向变化（即一个增大，另一个减小），则协方差为负值；如果两个随机变量同时向同一方向变化（即同时增大或同时减小），则协方差为正值；如果协方差接近于零，则说明两个随机变量之间可能不存在线性关系。协方差是协方差的标准化形式，用于消除量纲影响，更准确地反映两个随机变量之间的线性相关程度。相关系数的取值范围为[-1,1]，其中1表示完全正相关，-1表示完全负相关，0表示不相关。相关系数协方差与相关系数VS描述随机变量分布形态的特征数。一阶原点矩即为数学期望，二阶中心矩即为方差。高阶矩可以进一步描述分布的偏态和峰态等特征。协方差矩阵由多个随机变量的协方差组成的矩阵。对于二维随机变量，协方差矩阵是一个2x2的矩阵，其中对角线上的元素分别是两个随机变量的方差，非对角线上的元素则是两个随机变量的协方差。对于多维随机变量，协方差矩阵是一个nxn的矩阵，其中n为随机变量的个数。矩矩与协方差矩阵05大数定律与中心极限定理含义大数定律是概率论中的基本定理之一，它表明当试验次数足够多时，随机事件的频率将趋近于该事件的概率。种类常见的大数定律有伯努利大数定律、辛钦大数定律和切比雪夫大数定律等。应用大数定律在保险、金融、统计等领域有广泛应用，如用于评估风险、计算保费和进行投资决策等。大数定律中心极限定理中心极限定理在统计学中有广泛应用，如用于参数估计、假设检验和置信区间的构建等。同时，在自然科学、社会科学和工程领域也有许多应用实例。应用中心极限定理是概率论中的另一个基本定理，它表明当独立随机变量的数量足够多时，这些变量的和的分布将趋近于正态分布。含义常见的中心极限定理有林德伯格-列维中心极限定理和德莫佛-拉普拉斯中心极限定理等。种类06数理统计基本概念03样本容量样本中包含的个体数目，用n表示。01总体研究对象的全体个体组成的集合，通常用一个随机变量X表示。02样本从总体中随机抽取的一部分个体组成的集合，用于推断总体的性质。总体与样本样本的函数，用于描述样本的特征，如样本均值、样本方差等。统计量统计量的概率分布，用于推断总体参数的置信区间和假设检验。抽样分布正态分布、t分布、F分布、卡方分布等。常见抽样分布统计量与抽样分布无偏性估计量的期望值等于被估计的总体参数值。有效性对于同一总体参数的两个无偏估计量，方差较小的估计量更有效。一致性随着样本容量的增大，估计量的值逐渐接近被估计的总体参数值。充分性样本中包含关于总体参数的全部信息，没有信息损失。估计量的评价标准07参数估计方法矩估计法利用样本矩来估计总体矩，从而得到参数的估计值。最大似然估计法根据样本数据，选择使得似然函数达到最大值的参数值作为估计值。最小二乘法通过最小化误差的平方和来得到参数的估计值，常用于线性回归模型的参数估计。点估计方法置信区间法利用样本数据构造一个包含未知参数的区间，并给出该区间包含真实参数值的概率，即置信水平。枢轴量法通过构造一个包含未知参数和样本数据的统计量，并根据该统计量的分布性质来得到参数的置信区间。Bootstrap法通过重复抽样得到多个样本，并计算每个样本的统计量，从而得到参数的置信区间。该方法适用于样本量较小或总体分布未知的情况。区间估计方法08假设检验方法假设检验基本概念原假设与备择假设原假设通常是研究者想要推翻的假设，而备择假设则是研究者希望证实的假设。检验统计量与拒绝域检验统计量是用于判断原假设是否成立的统计量，而拒绝域则是检验统计量取值的范围，若检验统计量的值落在拒绝域内，则拒绝原假设。显著性水平与P值显著性水平是事先设定的一个概率值，用于判断原假设是否成立。P值则是实际计算出的概率值，若P值小于显著性水平，则拒绝原假设。单个正态总体均值的假设检验当总体服从正态分布且方差已知时，可以使用Z检验对单个正态总体均值进行假设检验。当总体方差未知时，可以使用t检验进行假设检验。单个正态总体方差的假设检验当总体服从正态分布时，可以使用卡方检验对单个正态总体方差进行假设检验。