《回归分析》 课件 第3章 多元线性回归

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归应用回归分析李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院1

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性目录多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院2

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性点球成金李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院3

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性电影《点球成金》讲述了奥克兰田径棒球队总经理比利·比恩（BillyBeane）如何利用分析技术组建一支有竞争力的球队的故事。这部电影是根据迈克尔·刘易斯2003

年出版的同名非小说类书籍《点球成金：赢得不公平游戏的艺术》改编1。1/

qinyn/BANA7038/moneyball.html李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院4

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性取因变量为回合数(runs,R),散点图y

轴为因变量，x

轴为各自变量2：2/

qinyn/BANA7038/moneyball.html李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院5

/

105中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质

模型推断化肥成分含量与农作物产出关系某种化肥含氮、磷和钾三种主要成分。为了研究该肥料三种成分不同含量对某种农作物产量的影响，对每亩农作物施用一定量的该种化肥，得到了该作物每亩收成以及该化肥各主要成分含量的数据，如表1所示。李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院6

/

105中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质

模型推断化肥成分含量与农作物产出关系表1:某农作物每亩收成与对应施用化肥中氮、磷和钾含量数据

氮含量（X1，单位：千克）磷含量（X2，单位：克）

0.798

10000.062钾含量（X3，单位：千克）

30.098作物收成（Y

，单位：千克/亩）332.6241.90510527.58032.130355.7912.16811053.39429.476352.4673.60811580.22132.402383.8593.31212104.94931.783386.8693.98712631.64134.154409.3873.56013157.67532.994413.1295.33013684.94135.203438.5384.26414209.86934.454440.7725.20314737.58933.058446.0856.12715263.56735.016468.6546.60715791.73134.251474.2626.78316316.15236.695496.3498.19816842.49438.940524.1048.05517368.23135.296511.2138.37617895.01539.075542.6278.49018421.73637.222542.0859.86318948.28640.972575.7918.91319475.25041.055583.57512.61020001.47039.361592.589李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院7

/

105中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质

模型推断化肥成分含量与农作物产出关系图1:氮、磷和钾含量数据与农作物产量三维图。其中，(a)图的自变量为氮、磷含量；(b)图的自变量为氮、钾含量；(c)图为磷、钾含量李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院8

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院9

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性引言李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院10

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性引言李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院11

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性模型简介李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院12

/

105

(1)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性模型简介李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院13

/

105称

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性模型假定李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院14

/

105

(4)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性模型假设李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院15

/

105正态性假定(5)从而有模型（3）满足(6)

(7)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性模型解释李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院16

/

105为了对多元线性回归模型以及对应的回归系数进行解释，使用服装销售研究中的员工薪资、宣传费用和流动资金三个变量对服装销售量的影响这一实例，给出回归方程的几何解释以及各回归系数的实际含义。(8)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性模型解释李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院17

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院18

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性最小二乘估计李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院19

/

105

(9)其中，

为离差平方和。(10)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性最小二乘估计李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院20

/

105利用式（10）对各参数求偏导并令其等于0，即(11)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性最小二乘估计李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院21

/

105有

(12)称

(13)为经验回归方程。多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性极大似然估计李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院22

/

105由式（7）有似然函数

取对数并分别对参数β

和σ2

求偏导，并令其等于0

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性极大似然估计李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院23

/

105

(14)

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.1李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院24

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性回归拟合值与残差李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院25

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性回归拟合值与残差李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院26

/

105

(18)称(19)

(20)为回归残差向量。

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性回归拟合值与残差李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院27

/

105由式（17）有

则(21)因而有(22)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性回归拟合值与残差李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院28

/

105由式（11）可知，残差满足

(23)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性估计性质李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院29

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院30

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院31

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院32

/

105由

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院33

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院34

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院35

/

105性质5

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院36

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性估计性质李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院37

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院38

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院39

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院40

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院41

/

105从而有

作变换，令

有故有

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院42

/

105

所以

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院43

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性引言李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院44

/

105

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质F

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院45

/

105

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质F

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院46

/

105类似于一元线性回归检验，这里仍使用总离差平方和的分解式，即简记为

(24)其中，进而构造F

检验统计量(25)

模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质F

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院47

/

105表2:方差分析表模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质F

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院48

/

105

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质t

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院49

/

105

(26)由性质（6）有

(27)

(28)模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质t

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院50

/

105

(29)其中，

模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质t

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院51

/

105

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质偏F

检验李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院52

/

105

(30)

(31)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性拟合优度李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院53

/

105类似于一元线性回归模型，可以定义关于多元线性回归模型的样本决定系数

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性拟合优度李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院54

/

105(33)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性置信区间李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院55

/

105由性质（6）及式（28），可得

(34)

(35)

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.2李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院56

/

105例3.1

中已经得到了某农作物每亩产量与某化肥氮、磷和钾含量之间的线性估计方程。这里将对模型以及各回归系数的估计结果分别进行F检验和t

检验，并计算相应的拟合优度。检验结果见表3。表3:参数估计以及模型推断结果模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.2李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院57

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院58

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性引言李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院59

/

105在多元线性回归模型的使用场景中，常常会遇到自变量之间具有不同度量单位的情形。例如，对于距离这一变量而言，有的数据记录采用的是以米为单位，而有的则可能是以千米为单位，再如对于商品价格而言，有的数据记录采用的是以人民币元为单位，也有的可能是以美元为单位。在分析类似数据时，得到的结果可能会不一致，对分析结果的比较也会带来影响，因此需要对数据进行预处理，例如：中心化（centralization）和标准化（normalization）。多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院60

/

105记(36)则经验回归方程（13）等价于

(37)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性图2:数据中心化效果示意图李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院61

/

105中心化称式（37）为中心化经验回归方程。中心化经验回归方程中的常数项为

0，中心化是将样本中心移到坐标原点，因而方程中没有截距项，而其他回归系数的最小二乘估计值则保持不变。显然，这是因为坐标的平移变换不会改变直线的斜率，图2为数据中心化处理的示意图。多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性标准化李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院62

/

105在多元线性回归模型中，由于自变量X1,·

·

·

,Xp

所用单位大多不同，数据的大小差异往往很大，这就不利于在同一标准上进行比较。对于中心化处理后的数据可以进一步进行标准化处理，从而消除变量量纲不同和数量级差异所带来的影响。样本数据标准化处理公式为(38)其中，

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性标准化李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院63

/

105标准化后的经验回归方程为

(39)

标准化回归系数与普通最小二乘回归系数之间存在如下关系式(40)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性标准化李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院64

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性标准化图3:数据标准化示意图.标准化处理使原数据的取值范围以及对应拟合直线斜率等信息都发生了改变李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院65

/

105模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.3李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院66

/

105观察例3.1中的数据（见下表）可以发现磷元素的含量从数值上看明显大于氮和钾的含量，这是由于单位不同引起的。

表4:某农作物每亩收成与对应施用化肥中氮、磷和钾含量数据模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.3李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院67

/

105表5:某农作物产量与对应施用化肥中氮、磷和钾含量标准化数据123模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.3李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院68

/

105利用多元线性回归模型再次对表5中标准化后的数据进行建模，得到经验回归方程

由此可以看出，标准化回归系数使变量的相对重要性具有了很好的可比较性。数据标准化处理过程中包含了数据中心化过程，这对应了利用标准化数据所得到的经验回归方程中没有截距项这一事实。多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院69

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性相关阵李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院70

/

105

(41)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性偏决定系数和偏相关系数李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院71

/

105

,

(42)

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性偏相关系数李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院72

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性偏相关系数与简单相关系数在此用一个例子来说明简单相关系数和偏相关系数的关系：一种商品的需求既受收入水平的影响又受其价格的影响。按照经济学理论，在一定收入水平下，该商品的价格越高，商品的需求量就越小。也就是说，需求与价格之间应当是负相关关系。可是，在现实经济生活中,由于收入和价格常常都有不断提高的趋势，如果不考虑收入对需求的影响，仅仅利用需求和价格的时间序列数据去计算简单相关系数,就有可能得出价格越高需求越大的错误结论。在多元回归中，简单相关系数只是衡量两个变量的局部相关性，而偏相关系数真正反映了因变量与自变量、自变量与自变量之间的相关性。在后续的逐步回归剔除某个自变量时，也可以综合偏相关系数来考虑。李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院73

/

105模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.4李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院74

/

105利用例3.1

中的数据计算氮、磷、钾元素含量和该农作物产量相关阵，并计算相应的偏决定系数和偏相关系数，结果见表6。表6:氮、磷、钾元素含量和某农作物产量相关阵模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.4李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院75

/

105

模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.4李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院76

/

105由以上分析，本例可得如下结论：由于氮、磷、钾含量分别与该农作物产量之间的相关系数都大于0.9，表明这些自变量与农作物产量具有显著的正的线性相关关系。由偏决定系数值可以看出，各自变量与因变量之间具有显著的线性相关关系，偏相关关系值表明各自变量与因变量之间具有显著的线性正相关性。由此可能发现，施用含氮、磷、钾元素的肥料越多该农作物的产量越高。多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院77

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性类别型自变量

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院78

/

105中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质

模型推断例3.5（两类别的定性协变量）

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院79

/

105模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.5反映性别属性的哑变量为

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院80

/

105

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.5

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院81

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多类别的定性协变量

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院82

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多类别的定性协变量再如,考虑建立个人受教育水平与个人教育支出之间的回归模型,若教育水平被分为高中以下、高中、大学及其以上三个层次,这时仅需要引人两个哑变量:

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院83

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多类别的定性协变量

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院84

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院85

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性分段线性回归在经济学中常有这样的情况，一些经济变量之间的关系会在解释变量达到某个临界值时发生突变。对于这类问题，研究者发现使用线性回归模型拟合后的残差不具随机性，其中仍存在系统性信息。研究者可以利用虚拟变量，通过分段线性回归进行处理。李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院86

/

105模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.6

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院87

/

105模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.6

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院88

/

105模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.6

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院89

/

105模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.6

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院90

/

105

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.6

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院91

/

105

模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型

参数的估计与性质例3.6

李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院92

/

105图5:日平均气温与居民生活用电量间的分段回归拟合直线多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性多元线性回归模型参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数类别型自变量分段线性回归实例分析小结与评注李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院93

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性实例分析本节以高性能水泥的混凝土抗压强度数据分析为例，对多元线性回归模型的一般步骤进行介绍。由于高性能混凝土的水泥含量、高炉渣含量、飞灰含量、水的含量、高效减水剂含量、粗骨料含量和细骨料含量等8个因素（单位：kg/m3）对高性能水泥的混凝土抗压强度有关。使用的数据共包含9

个变量1030

个样本观测值，变量由上述提到的8

个自变量以及1

个因变量（混凝土抗压强度）组成。使用的数据来自于叶怡成[2]的相关研究，可以从UCI

数据库中下载，网址为：/ml/datasets/

Concrete+Compressive+Strength。李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院94

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性实例分析

图6:高性能混凝土成对变量散点图李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院95

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性实例分析第二步是拟合模型。利用R软件采用多元线性回归模型拟合上述数据，拟合结果如下表9所示。从表中可以得到模拟方程为李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院96

/

105

多元线性回归模型

参数的估计与性质模型推断中心化与标准化相关阵与偏相关系数

类别型自变量

分段线性实例分析表9:多元线性回归模型拟合结果表李扬/林存洁/王菲菲/孙韬/廖军多元线性回归中国人民大学统计学院97

/

105多元线性回归模型

参数的估计与性质模型推断中心化与标准化

相关阵与偏相关系数

类别型自变量

分段线性实例分析第三步是模型诊断。若取显著性水平为α

=0.1，从表中可得Fstat

=204.300,其对应的

p

<2.00

×10−16

≪α