计量课件第三章-多元线性回归模型

1第三章多元线性回归模型一元线性回归模型的推广2

1、研究中国的GDP增长

a.影响GDP增长的因素有哪些（投资、消费、出口、货币供应量等）？

b.GDP与各种因素关系的性质是什么？（增、减）

c.各影响因素与GDP的具体的数量关系？

d.所作数量分析结果的可靠性如何？

e.今后的发展趋势怎么样？32、中国股票价格的波动●股票价格变动的情况怎样（股价指数）？●影响股票价格变动的因素是什么（资金、政策、利率等）？●股价与各种因素的关系是什么（利空、利多）？●各种因素影响的具体数量规律是什么？●所得结果可不可靠？●今后的发展趋势怎样？43、中国家庭汽车的市场●汽车市场状况如何（销售量）？●影响汽车销量的主要因素是什么（收入、价格、道路状况等）？●各种因素对汽车销量影响的性质怎样（正、负、无）？●各种因素影响汽车销量的具体数量程度？●以上分析所得结论是否可靠●今后发展趋势怎样？5

很明显，只用一个解释变量已很难分析,还需要寻求有更多个解释变量情况的回归分析方法。

6多元线性回归分析：研究因变量（被解释变量）与两个或两个以上自变量（解释变量）之间的回归问题，称为多元回归分析。线性回归自变量个数大于等于2多元线性回归7第三章多元线性回归模型第一节多元线性回归模型概述第二节多元线性回归模型的参数估计第三节多元线性回归模型的统计检验第四节非线性模型的线性化小结8一、多元线性模型

i=1,2,…,n

在这个模型中，Y由X1,X2,…XK所解释，其中，“斜率”βj的含义是其它变量不变的情况下，Xj改变一个单位对因变量所产生的影响，也称为偏回归系数。第一节多元线性回归模型及古典假定9二元线性回归模型（总体）样本回归模型10与简单线性回归分析一样，多元线性回归分析要解决的主要问题仍是：根据观测样本估计模型中的各个参数；对估计的参数及回归方程进行统计检验；利用回归模型进行预测和经济分析。11假定1：零均值假定假定2和假定3：同方差和无序列相关假定假定4：随机扰动项与解释变量不相关假定5:无多重共线性假定(多元中)

假定各解释变量之间不存在线性关系，或各个解释变量观测值之间线性无关。假定6：正态性假定up二、多元线性回归模型的基本假定12第二节

多元线性回归模型的参数估计本节基本内容:

●普通最小二乘法（OLS）●OLS估计式的性质●随机误差项方差的估计

思考题

up13一、普通最小二乘法（OLS）最小二乘原则剩余平方和最小：

求偏导,令其为0:14151617P47【经典实例】up18二、OLS估计式的性质

OLS估计式仍具有

1.线性性:2.无偏性:3.

最小方差性结论：在古典假定下，多元线性回归的OLS估计式是最佳线性无偏估计式

up19

三、随机误差项方差的估计

多元回归中的无偏估计为：

T分布变换为变换：

up20P58练习题3

建立高新技术企业销售额的计量经济模型：2122

（23.1525）（11.3088）（0.8191）t=(4.6783)(4.7781)(-3.6378)

23

思考一元线性回归模型与多元线性回归模型的基本假定是否相同？24

已知含有截距项的三元线性回归模型估计的残差平方和，样本容量为n=24，则随机误差项的方差估计量为()。A.33.33B.40C.38.09D.36.36

up25第三节

多元线性回归模型的检验本节基本内容:

●拟合优度检验●回归方程的显著性检验（F检验）●变量的显著性检验（t检验）up26

对于双变量线性模型

其中，=残差平方和我们有第一节拟合优度一、多重可决系数R227对于多元线性模型我们可用同样的方法定义，称为多重可决系数：对于多元线性模型28

残差平方和的一个特点是，每当模型增加一个解释变量，并用改变后的模型重新进行估计，残差平方和的值会减小。由此可以推论，拟合优度是一个与解释变量的个数有关的量：

解释变量个数增加

减小

R2

增大也就是说，人们总是可以通过增加模型中解释变量的方法来增大R2

的值。因此，用R2

来作为拟合优度的测度，不是十分令人满意的。为此，我们定义修正可决系数

29

二、

修正的可决系数

在样本容量一定的情况下，增加解释变量必定使得自由度减少，所以调整的思路是:将残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响:其中：n-k-1为残差平方和的自由度，n-1为总体平方和的自由度。K为解释变量个数。30如果模型增加一个没有解释能力的解释变量，模型的残差平方和RSS不会有多大的减小，却使模型待估参数的个数增加，此时修正的可决系数不会增加，反而减小了。而只有当模型引入有解释能力的解释变量时，修正的可决系数才会增加。31

变差来源平方和自由度归于回归模型归于剩余总变差方差分析表32

可决系数必定非负，但修正的可决系数可能为负值，这时规定

此外：

<三与可决系数的关系：33P47经典实例表3-1地产评估房产评估地产评估房产评估房地产编号销售价格Y（元/m2）（万元）（万元）159008103912247509002935340507304012440008003168597002000585164550800234574090800208986890596449794850900278010555095031441162001000395912116501800728313450085027321438008002986158300

2300477534回归结果VariableCoefficientStd.Errort-StatisticProb.C-32.27321569.4897-0.0566700.9557X11.3223620.5382232.4569050.0302X21.2052610.1990816.0541260.0001R-squared0.912514Meandependentvar5918.667AdjustedR-squared0.897932S.D.dependentvar2320.344S.E.ofregression741.3040Akaikeinfocriterion16.23156Sumsquaredresid6594379.Schwarzcriterion16.37317Loglikelihood-118.7367F-statistic62.58202Durbin-Watsonstat1.038164Prob(F-statistic)0.00000035求修正的可决系数36例.设n=20,k=3,R2=0.70求解：

下面改变n的值，看一看的值如何变化。我们有若n=10，则=0.55

若n=5，则=-0.2037思考多大才算通过拟合优度检验？up38

在多元回归中有多个解释变量，需要说明所有解释变量联合起来对应变量影响的总显著性,或整个方程总的联合显著性。对回归方程总显著性检验需要在方差分析的基础上进行F检验。39二、回归方程的显著性检验(F检验)

方程的显著性检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。

1、回归方程显著性的F检验

即检验模型

Yi=

0+1X1i+2X2i++kXki+uii=1,2,,n中的参数j是否显著不为0。

可提出如下原假设与备择假设：

H0：

1==k=0H1：

j不全为040

F检验的思想来自于总离差平方和的分解式：

TSS=ESS+RSS

如果这个比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。因此,可通过该比值的大小对总体线性关系进行推断。41

根据数理统计学中的知识，在原假设H0成立的条件下，统计量

服从自由度为(k,n-k-1)的F分布

给定显著性水平

，可得到临界值F

(k,n-k-1)，由样本求出统计量F的数值，通过

F

F

(k,n-k-1)或F

F

(k,n-k-1)来拒绝或接受原假设H0，以判定原方程总体上的线性关系是否显著成立。

42

F

(k,n-k-1)

F检验示意图up43P53【相关链接】根据表3-1，可计算出：TSS=75375973ESS=68781594RSS=6594379给定一个显著性水平=0.05，查分布表，得到一个临界值3.89。显然有F=62.5820＞3.89，所以拒绝原假设，可以认为地产评估价值和房产评估价值对房屋销售价格的共同影响是显著的。44P57练习：课后习题三、计算分析题1452、关于拟合优度检验与方程显著性检验关系的讨论

由可推出：与或F和R2同方向变化：当R2=0时，F=0

R2越大时，F值也就越大R2=1时，F为无穷大46

因此，F检验时所估计回归的总显著性的一个度量，也是R2的一个显著性检验。也就是检验H0：

1=2==k=0等价于:R2=0回答了前面的问题：

R2多大才能通过拟合优度检验up47根据某国19年进口贸易总额Yt（单位亿元）与个人消费支出X2、进口价格/国内价格X3的数据，得到下面的回归结果：Yt=-58.9+0.2X2-0.1X3SE(0.0092)(0.0840)=0.96，=0.95其中SE为参数估计量的标准差。（1）解释X2和X3系数的意义；（2）Y的总离差中被回归方程解释的部分所占比重，未被回归方程解释的部分所占的比重；（3）对回归方程进行整体显著性检验（4）对各参数进行显著性检验，并解释检验结果。48一、偏回归系数的显著性检验检验假设步骤:1.原假设:2.给出检验统计量;3.根据数据计算统计量值和根据表查理论值;4.比较理论值与实际值,做出结论

三、变量的显著性检验(t检验)

49P54【相关链接】VariableCoefficientStd.Errort-StatisticProb.C-32.27321569.4897-0.0566700.9557X11.3223620.5382232.4569050.0302X21.2052610.1990816.0541260.0001R-squared0.912514Meandependentvar5918.667AdjustedR-squared0.897932S.D.dependentvar2320.344S.E.ofregression741.3040Akaikeinfocriterion16.23156Sumsquaredresid6594379.Schwarzcriterion16.37317Loglikelihood-118.7367F-statistic62.58202Durbin-Watsonstat1.038164Prob(F-statistic)0.00000050对各个回归参数作假设检验提出假设H0：

1=0H1：

1不等于0构造t统计量T=2.4569>t0.025(12)=2.179拒绝原假设，说明

1不等于0同理2不等于051注意:在一元回归中F检验与t检验等价,

一元中：F检验：H0：

1=0

t检验：H0：

1=0但在多元回归中F检验与t检验作用不同。521、将某公司的广告费用(X)与销售额(Y)的建立起一元线性回归模型，计算的相关指标见表：变差平方和数值自由度回归平方和ESS（）（）残差平方和RSS1540（）总体平方和TSS6604219请回答以下问题：(1)样本个数是多少？(2)求ESS？(3)ESS和RSS的自由度分别是多少？(4)求可决系数，并说明代表的含义(5)检验假设：X对Y无影响，你用什么假设检验？在＝0.05的显著性水平下，请检验。(6)估计随机误差项的方差？53练习P57练习：课后习题三、计算分析题254补充习题55完成以下问题：1．写出需求量对消费者平均收入、商品价格的线性回归估计方程。2．解释偏回归系数的经济含义。3．对该模型做经济意义检验。4．估计调整的可决系数。5．在95%的置信度下对方程整体显著性进行检验。6．在95%的置信度下检验偏回归系数(斜率)的显著