概率论与数理统计

汇报人：AA2024-01-20概率论与数理统计目录CONTENTS概率论基本概念随机变量及其分布多维随机变量及其分布数理统计基本概念与方法方差分析与回归分析初步随机过程简介与马尔可夫链初步01概率论基本概念不可能事件空集，不包含任何样本点的事件。必然事件包含样本空间中所有样本点的事件，即S本身。基本事件只包含一个样本点的事件。样本空间所有可能结果的集合，一般用大写字母S表示。事件样本空间的子集，即某些可能结果的集合，一般用大写字母A、B等表示。样本空间与事件概率定义及性质概率定义在给定条件下，某一事件发生的可能性大小，一般用P(A)表示事件A发生的概率。概率性质非负性、规范性（必然事件的概率为1，不可能事件的概率为0）、可加性（互斥事件的概率和等于它们并的概率）。123在已知另一事件B发生的条件下，事件A发生的概率，记作P(A|B)。条件概率如果事件A的发生与否对事件B的发生概率没有影响，则称事件A与事件B相互独立。事件的独立性P(AB)=P(A)P(B|A)，若事件A与B相互独立，则P(AB)=P(A)P(B)。乘法公式条件概率与独立性如果事件B1、B2、...、Bn构成一个完备事件组，且都有正概率，则对任一事件A，有P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)。全概率公式在全概率公式的假定下，有P(Bi|A)=[P(A|Bi)P(Bi)]/P(A)，其中i=1,2,...,n。贝叶斯公式用于在已知某些条件下，更新某一事件的发生概率。贝叶斯公式全概率公式与贝叶斯公式02随机变量及其分布定义随机变量是定义在样本空间上的实值函数，它将样本空间中的每一个样本点映射到一个实数。分类随机变量可分为离散型随机变量和连续型随机变量。离散型随机变量的取值是有限个或可列个，而连续型随机变量的取值则是充满一个区间。随机变量定义及分类离散型随机变量分布律离散型随机变量的分布律可用分布列来描述，即列出随机变量所有可能取值及其对应的概率。分布列二项分布、泊松分布、几何分布等。常见离散型随机变量分布VS连续型随机变量的概率分布可用概率密度函数来描述，它表示了随机变量在某个确定取值点附近的可能性大小。常见连续型随机变量分布正态分布、均匀分布、指数分布等。概率密度函数连续型随机变量概率密度函数一维随机变量函数的分布通过已知随机变量的分布，可以求出其函数的分布。例如，已知X的分布，可以求出Y=g(X)的分布。要点一要点二多维随机变量函数的分布对于多维随机变量，可以研究其函数的分布。例如，已知二维随机变量(X,Y)的联合分布，可以求出Z=X+Y的分布。随机变量函数分布03多维随机变量及其分布联合分布函数描述二维随机变量$(X,Y)$在某一取值范围内的概率。联合概率密度函数对于连续型二维随机变量，其联合概率密度函数$f(x,y)$表示$(X,Y)$在点$(x,y)$处的概率密度。联合分布律对于离散型二维随机变量，其联合分布律$P{X=x_i,Y=y_j}$表示$X$取$x_i$且$Y$取$y_j$的概率。二维随机变量联合分布边缘分布函数由联合分布函数分别对$X$和$Y$积分得到，描述单个随机变量的分布情况。边缘概率密度函数对于连续型二维随机变量，其边缘概率密度函数分别为$f_X(x)$和$f_Y(y)$，表示$X$和$Y$各自的概率密度。条件分布在已知一个随机变量取值的条件下，另一个随机变量的分布情况。条件分布律和条件概率密度函数分别用于描述离散型和连续型二维随机变量的条件分布。010203边缘分布与条件分布定义如果两个随机变量的联合分布等于各自边缘分布的乘积，则称这两个随机变量相互独立。性质相互独立的随机变量之间没有关联，一个随机变量的取值不会影响另一个随机变量的取值。判断方法通过比较联合分布与边缘分布乘积是否相等来判断两个随机变量是否相互独立。相互独立随机变量多维随机变量函数的定义设$(X_1,X_2,ldots,X_n)$为$n$维随机变量，若存在函数关系$Z=g(X_1,X_2,ldots,X_n)$，则称$Z$为多维随机变量的函数。多维随机变量函数的分布通过求解多维随机变量函数的分布律或概率密度函数，可以得到多维随机变量函数的分布情况。具体方法包括变换法、卷积公式等。多维随机变量函数分布04数理统计基本概念与方法总体研究对象的全体个体组成的集合，具有共同的性质。个体组成总体的每一个基本单位。样本从总体中随机抽取的一部分个体组成的集合，用于推断总体性质。样本容量样本中包含的个体数目。总体与样本样本的函数，用于描述样本特征，如样本均值、样本方差等。统计量统计量的概率分布，描述了不同样本下统计量的可能取值及概率。抽样分布正态分布、t分布、F分布、卡方分布等。常用抽样分布统计量与抽样分布03评价估计量的标准无偏性、有效性、一致性等。01点估计用样本统计量的某个取值直接作为总体参数的估计值。02区间估计根据样本统计量的抽样分布，构造一个包含总体参数真值的置信区间，并给出该区间的置信水平。参数估计方法假设检验原理及步骤假设检验的基本原理：先对总体参数提出一个假设，然后利用样本信息判断该假设是否成立。假设检验原理及步骤0102031.提出原假设和备择假设；2.选择适当的检验统计量，并确定其拒绝域；假设检验的步骤假设检验原理及步骤013.根据样本观测值计算检验统计量的值；024.判断检验统计量的值是否落入拒绝域，若落入则拒绝原假设，否则接受原假设。假设检验中的两类错误：第一类错误（弃真错误）和第二类错误（取伪错误）。0305方差分析与回归分析初步方差分析原理及应用方差分析的基本原理通过比较不同组别数据的方差，判断各因素对结果的影响是否显著。方差分析的应用场景适用于多个总体均值是否相等的假设检验问题，如医学、农业、工业等领域的实验数据分析。方差分析的前提条件各总体应服从正态分布，且各组内的观察值相互独立。回归分析的基本原理通过建立自变量与因变量之间的回归方程，描述两者之间的依存关系，并进行预测和控制。回归分析的应用场景适用于研究变量间相关关系的问题，如经济学、社会学、医学等领域的预测和决策分析。回归分析的类型根据自变量的个数和回归方程的形式，可分为一元线性回归、多元线性回归、非线性回归等。回归分析原理及应用线性回归模型的检验利用F检验、t检验等方法，对回归方程和回归系数进行显著性检验，判断模型的拟合效果。线性回归模型的预测根据建立的线性回归模型，对新的自变量数据进行预测，得到相应的因变量估计值。线性回归模型的建立通过最小二乘法等方法，确定回归方程的参数，建立线性回归模型。线性回归模型建立与检验非线性回归模型的概念当自变量与因变量之间不满足线性关系时，需要建立非线性回归模型进行描述。非线性回归模型的检验与预测类似于线性回归模型，需要进行模型的显著性检验和预测分析。非线性回归模型的建立通过选择合适的非线性函数形式，利用最小二乘法等方法确定模型参数。非线性回归模型简介06随机过程简介与马尔可夫链初步随机过程是一族依赖于参数（通常是时间）的随机变量，用于描述随机现象随时间的演变。根据随机过程的性质，可以将其分为平稳过程、独立增量过程、马尔可夫过程等。随机过程的定义随机过程的分类随机过程定义及分类马尔可夫链的定义01马尔可夫链是一种时间和状态都是离散的随机过程，具有“无后效性”，即未来状态只与当前状态有关，而与过去状态无关。马尔可夫链的状态空间02马尔可夫链的状态空间是一个可数集，可以是有限集或无限集。马尔可夫链的转移概率03转移概率是描述马尔可夫链从一个状态转移到另一个状态的概率，通常表示为$p_{ij}(n)$，表示在时刻$n$处于状态$i$的条件下，在时刻$n+1$转移到状态$j$的概率。马尔可夫链基本概念状态转移矩阵是一个矩阵，其行和列分别对应马尔可夫链的状态空间中的状态，矩阵元素为转移概率$p_{ij}(n)$。状态转移矩阵的定义状态转移矩阵具有非负性和行和为1的性质，即每一行的元素都是非负的，且每一行的元素之和为1。