Matlab 数据分析 课件 康海刚 第6章 多元线性回归模型

Matlab数据分析第6章多元线性回归模型1）收集一组包含因变量和白变量的数据。2）选定因变量与白变量之间的模型，即一个数学式子，利用数据按照最小二乘准则计算模型中的参数。3）利用统计分析方法对不同的模型进行比较，找出与数据拟合得最好的模型。4）判断得到的模型是否适合于这组数据。5）利用模型对因变量作出预测或解释。常见的回归算法如下。（1）OLS线性回归1）工作原理：线性回归是一项统计建模技术，用来描述作为一个或多个预测自变量的线性函数的连续因变量。2）最佳使用时机：当需要易于解释和快速拟合算法时，线性回归可作为评估其他更复杂回归模型的基准。（2）非线性回归1）工作原理：非线性回归是一种有助于描述试验数据中非线性关系的统计建模技术。2）最佳使用时机：当数据有很强的非线性趋势，不容易转化成线性空间时，可适用于自定义模型与数据拟合。（3）高斯过程回归1）工作原理：高斯过程回归（GPR）模型是非参数模型，用于预测连续因变量的值。2）最佳使用时机：适用于对空间数据插值，如针对地下水分布的水文地质学数据、作为有助于优化汽车发动机等复杂设计的替代模型。（4）SVM回归1）工作原理：SVM回归算法类似于SVM分类算法，但经过改良，能够预测连续响应。2）最佳使用时机：适用于高维数据（将会有大量的预测自变量）。（5）广叉线性模型1）工作原理：广义线性模型是使用线性方法的非线性模型的一种特殊情况。2）最佳使用时机：当因变量有非正态分布时，如始终预期为正值的因变量。（6）回归决策树1）工作原理：回归决策树类似于分类决策树，但经过改良能够预测连续响应，如图6-6所示。应用案例预测能量负荷1）改进模型。2）特征选择。3）特征变换。4）训练模型。5）超参数调优。6.1概述6.1概述（1）拟合系数R2其定义为（2）模型的假定关于多元回归模型y=𝛽0+𝛽0x1+𝛽2x2+⋯+𝛽mxm+𝜀

中误差项𝜀的假定要注意以下儿点：1）误差项𝜀是一个随机变量，其均值或者期望值力0，即E（𝜀）=0。2）对于所有的白变量x1，x2，…，xm的值，𝜀的方差多是相同的。3）𝜀的值是互相独立的。4）误差项𝜀是一个服从随机正态分布的随机变量，它反映了y值和由𝛽0+𝛽0x1+𝛽2x2+⋯+𝛽mxm给出的期望值之间的离差。（3）显著性检验1）F检验6.1概述2）t检验。（4）多重共线性在回归分析中使用自变量来表示用于预测或解释因变量的任何变量，但是这个术语并不意味着自变量本身在统计意义上是独立的。（5）利用回归模型进行预测利用回归方程=𝛽0+𝛽0x1+𝛽2x2+⋯+𝛽mxm，给出一组具体的自变量的值，能得到对应的预测值的点估计。6.2一元曲线拟合6.2.1案例1—百货商场销售额步骤1准备数据，在命令窗口中输入以下代码：步骤2打开“CurveFitting”APP。步骤3在CurveFiting界面选择对应的数据，在“Xdata”下拉列表框中选择“x”，在“Ydata”下拉列表框中选择“y”，如图6-10所示。步骤4通过从“Degree”下拉列表框中选择“2”，可将拟合更改为二次多项式。步骤5修改“Fitname”为“poly2”。步骤6展示残差图，可选择“View—ResidualsPlot”菜单命令，用残差表示这一商业活动效果更佳。6.2一元曲线拟合步骤7添加新拟合以尝试其他库方程式。6.2一元曲线拟合6.2一元曲线拟合6.2一元曲线拟合6.2一元曲线拟合步骤8以同样方法添加新拟合，在图6-12所示的圆圈标记处单击下拉箭头。6.2一元曲线拟合步骤9以同样的方法创建幂函数（power）拟合，如图6-14所示。6.2一元曲线拟合6.2.2确定最优拟合6.2.3导出模型到工作空间6.2一元曲线拟合6.2一元曲线拟合6.3多元线性回归模型6.3.1案例2——牙膏的销售量6.3多元线性回归模型6.3多元线性回归模型1.分析与假设2.基本模型的建立与求解（1）基本模型的建立了大致分析y与x1和x2的关系，首先利用表6-1中的数据分别作出y对x1和x2的散点图（见图6-19）。6.3多元线性回归模型（2）基本模型求解直接使用Matla中的fitlm求解，代码保存在ex7_2中，代码如下：6.3多元线性回归模型6.3多元线性回归模型6.3多元线性回归模型3.基本模型的改进6.3多元线性回归模型6.3.2案例3——白变量含有分类变量的处理1.问题分析6.3多元线性回归模型2.模型的建立与求