回归分析多元线性回归ppt课件

1、第二章,多元回归分析方法及其程序实现,2.1概述,2.1概述,2.1概述,人的身高与体重的关系,2.1概述,2.1概述,任务与目标： 建立数学模型 参数估计 假设检验 方差分析,回归分析方法就是在大量试验观测数据的基础上，找出这些变量之间的内部规律性，从而定量地建立一个变量或多个变量与其余变量之间的统计关系的数学表达式。 1、多元回归问题：考查一个变量与其余多个变量之间的关系 2、多因变量的多元回归问题：考查P个因变量与M个自变量的关系,2.2 多元线性回归数学模型建立,2.2 多元线性回归数学模型建立,2.1 多元线性回归数学模型建立,模型的建立 设随机变量 与 个自变量存在线性关系： （2

2、.1） 式（2.1）称为回归方程，其中 称 为回归系数。 为随机变量， 称为随机误差，它 可理解为 无法用 表示的其他各种 随机因素造成的误差,设有一组样本观测值数据 其中， 表示第 次试验或第 个样本关于变量 的观测值,2.2 多元线性回归数学模型建立,于是有 （2.2） 其中， 为 个待定参数， 为 个相互独立的且服从同一正态分布 的随机 变量，式（2.2）称为多元（m元）线性回归数学模型,超定方程组,2.2 多元线性回归数学模型建立,式（2.2）亦可写成矩阵形式，设,2.3,2.2 多元线性回归数学模型建立,因变量,自变量,误差,未知参数,1）参数估计,2）显著性检验,3）模型检查：即检

3、查对模型所作假设是否成立,4）预测和控制，及对实际问题的结构分析,2.2 多元线性回归数学模型建立,2.3 回归模型中参数的最小二乘估计,在回归模型式（2.1）中，只要 确定回归 模型实际上就确定了。该如何确定 呢? 这里我们采用最小二乘法来对回归模型式 （2.3）中的 作最小二乘估计。 设 分别是 的最小二乘估 计值，于是有 （2.4,式（2.4）中： 是 的一个最小二乘估计。 对于每一个试验数据 。由式（2.4），可得一个 ，即 。这里称 为实际 值 的回归值,2.3 回归模型中参数的最小二乘估计,显然，回归值 与实际值 有误差，即 当然我们希望 与 值偏离程度越小越好，这 样才能使回归值

4、 与实际值 拟合得最好。这 里 与 偏差越小是指每一个 与 的距离越 小,2.3 回归模型中参数的最小二乘估计,于是对全部观察值（试验值）有,2.3 回归模型中参数的最小二乘估计,多元函数求 极值问题,2.6,2.3 回归模型中参数的最小二乘估计,2.3 回归模型中参数的最小二乘估计,这里令,所以式（2.5）可用矩阵形式表示为 如果系数矩阵 满秩，则 存在，此时有,2.7,这里式（2.7）即为多元回归方程中参数的最 小二乘估计,2.3 回归模型中参数的最小二乘估计,正规方程组式（2.6）亦可表达为下述另一种 形式：如果记,2.3 回归模型中参数的最小二乘估计,则由式（2.6）中第一等式可解出,

5、2.8,再将式（2.8）代入式（2.6）其他各式中，经 化简整理可得,2.3 回归模型中参数的最小二乘估计,2.9,2.3 回归模型中参数的最小二乘估计,又由,如果记,2.3 回归模型中参数的最小二乘估计,则式（2.9）可以表示为 （2.10,2.3 回归模型中参数的最小二乘估计,式（2.10）称为正规方程组，解此方程组可得 ，再代入式（2.8）中则得 ，于是得回归方程,式（2.11）称为回归超平面方程,2.11,2.3 回归模型中参数的最小二乘估计,如果记式（2.10）的系数矩阵为 ，右端常数 项向量为 ，则 记 ，则式（2.10）的矩阵形式 为 再代回到式（2.8），则得,2.3 回归模型中参数的最小二乘估计,例2.1 某养猪场估算猪的毛重，测得14头猪的体长 ，胸围 与体重 的数据如表2.1所示，请建立 与 及