第五章基本线性回归模型的OLS估计

第五章基本线性回归模型的OLS估计

回归分析是处理变量与变量之间关系的一种最为常用的统计分析方法，它的理论基础比较成熟，而且应用十分广泛。人类社会活动总是与许多变量相联系的，我们常常要研究这些变量之间的数量关系。对于变量之间的关系，一般分为两类：一是变量之间存在的确定性的函数关系，另一类是变量之间的非确定的依赖关系。而为了分析和利用变量之间的非确定的依赖关系，人们建立了各种统计分析方法，其中回归分析方法是最为常用的经典方法之一。回归分析的主要目的是研究自变量和因变量之间的数量关系，研究的主要内容包括建立回归模型探索变量之间的相关程度、利用回归模型估计和预测因变量的变化等等。其中，根据回归形式的不同，回归模型可以分为线性回归、非线性回归等多种回归分析方法，而本章将对最为基础和最为重要的线性回归模型的EVIEWS操作进行讲解。线性回归模型的OLS估计标准回归结果的解释及残差检验含虚拟变量的线性回归模型的OLS估计第五章基本线性回归模型的OLS估计

线性回归模型的OLS估计背景知识1.一元线性回归模型在实际应用中，最简单的情形就是研究两个变量之间的相关关系，即一元线性回归模型。（1）一元线性回归模型及假定。假设（X1,Y1）（X2,Y2）……（Xn,Yn）是取自总体（X,Y）的一组样本，其中X1,X2……Xn为自变量或解释变量（independentvariale）序列，Y1，Y2……Yn为因变量或被解释变量。于是，就可以建立一元线性回归模型：

。该模型的随机误差项必须满足的假设条件为：无偏性假定。即所有随机误差项的期望为0。同方差性假定。即所有随机误差项的方差相等。无序列相关性假定。即随机误差项之间无序列相关性。解释变量与随机误差性相互独立。即解释变量X为非随机变量。正态性假定。即随机误差项服从均值为0的正态分布。

第五章基本线性回归模型的OLS估计

（2）一元线性回归模型的最小二乘估计样本观测值Yi与估计值的残差e反应了样本观测值与回归直线之间的偏离程度。而最小二乘估计方法的原理就是让拟合的直线使残差平方和达到最小，依次为准则确定X与Y之间的线性关系。这就是著名的普通最最小二乘估计方法（OrdinaryLeastSquare,OLS）。第五章基本线性回归模型的OLS估计

2.多元线性回归模型（1）多元线性回归模型的形式假定影响因变量Y的自变量个数为P,并且记为X1，X2，……，Xn。多元线性回归模型为：

则多元线性回归模型的矩阵形式为：（2）多元线性回归模型的最小二乘回归

与一元线性回归模型一致，就是满足让拟合的直线使残差平方和达到最小，从何获得回归估计结果。第五章基本线性回归模型的OLS估计

线性回归模型OLS估计的Eviews操作1．回归模型主窗口的打开在Eviews主窗口的菜单栏中依次选择Quick|EstimateEquation命令，打开如图5.1所示的EquationEstimation对话框。EquationEstimation（方程回归）对话框的Specification选项卡是建立各种回归模型（如线性回归模型、ARMA模型、计数模型等）的主要设定窗口。除上述方法可以打开EquationEstimation对话框外，还可以是在主窗口的菜单栏中选择Quick|EstimateEquation；第三种是在工作文件窗口中选择Objec|Newobject，然后在新建对话框中选择Equation。第五章基本线性回归模型的OLS估计

2.设定模型中的变量任何模型估计前，首先要设定模型中解释变量和被解释变量。线性模型中变量的设定是在Estimationspecification输入框中进行的，而具体的设定方法有以下几种：（1）公式设定方法该方法是指在输入框中直接将模型方程写出来第五章基本线性回归模型的OLS估计

（2）排序设定方法模型变量设定中最常用的是排序方法，即按照被解释变量、回归因子（含常数项和解释变量）的顺序依次列出来，该方法又可分为三类：当模型中的变量都是工作文件中的已有变量时，可以在Estimationspecification输入框按照模型的被解释变量、解释变量的顺序依次列出，中间用空格隔开所有的变量，且不需要设定模型的随机项。当模型中的变量含有工作文件窗口中变量的滞后项时，可以在Estimationspecification输入框中输入该变量和小括号的组合来表示变量的滞后项，其中小括号中是负号和具体滞后的阶数。当模型中包含工作文件中变量的线性组合或者固定的函数形式，可以在Estimationspecification输入框中直接输入该变量的线性组合或函数形式，但变量的线性组合必须用小括号包裹。第五章基本线性回归模型的OLS估计

3.选择模型估计方法回归模型的估计中最为核心的就是根据设定模型的类别和假设选择合适的估计方法。估计方法的不同，回归的结果将会大相径庭。在Eviews中模型回归估计的方法是通过EquationEstimation对话框中Estimationsettings的Methord下拉列表框进行选择的。Methord下拉列表框提供了现代计量分析中几乎所有主流的模型估计方法，如图5.6所示。第五章基本线性回归模型的OLS估计

4.设定模型估计的样本区间模型回归中所需的样本范围是通过EquationEstimation对话框中的Sample输入框设定的。样本范围是在输入框中输入一前一后的两个数字，两个数字中间用空格隔开，其中开始的数字表示样本的开始时间，结尾的数字表示样本的结束时间。如我们的样本范围是1978年到2009年，但是我们希望在模型回归中用到是1978到2000年的样本观测值，正确的设定方法是在Sample输入框中输入：19782000。注意设定的样本的范围必须在工作文件的范围内，如果大于工作文件的范围，则系统将根据工作文件的范围进行回归。一般系统默认的回归区间为工作文件的范围。第五章基本线性回归模型的OLS估计

5.Options选项卡的设定在EquationEstimation对话框中点击Options选项卡，打开如图5.7所示对话框：Options选项卡里面的内容根据Estimationsettings的Methord下拉列表框中回归方法选择的不同而改变。其中，LS-LeastSquares（NLSandARMA）方法下相应的Options选项卡的设定是针对当模型回归的残存项存在异方差、自变量与随机项存在相关性时修正模型的，本书将此部分内容安排到第六章，具体设定可参见第六章第一节和第二节。

设置完毕后，可以点击“确定”按钮，就可以在Equation对象窗口得到线性回归模型OLS估计的结果。除可以点击“确定”按钮，还可以点击“取消”按钮，取消进行回归模型设定的操作，返回到workfile工作文件窗口。第五章基本线性回归模型的OLS估计

线性回归模型OLS估计的案例操作1．案例问题的描述与数据准备在现代经济周期理论中，固定资产投资周期是影响宏观经济周期波动的一个直接的、物质性的主导因素，固定资产投资也成为经济周期波动的物质基础。本节通过对山东省固定资产投资及国内生产总值的数据来拟合一元线性回归模型，分析山东省固定资产投资对山东省经济的拉动作用，并给出如何通过调节固定资产投资来发展经济的政策建议。数据文件记录了从1978年至2007年的山东省固定资产投资和山东省国民生产总值的相关数据为了准确衡量我国基础设施投资对经济增长的拉动作用，本文设定经典线性回归模型来分析这种拉动作用的大小。建立的总体回归模型如下式所示：

建立线性回归模型，利用上述数据完成对模型参数的估计。第五章基本线性回归模型的OLS估计

标准回归结果的解释及残差检验背景知识1.回归模型标准回归结果中的统计量第五章基本线性回归模型的OLS估计

统计量含义模型解释变量的估计值根据总体回归模型，利用OLS等回归方法计算的回归系数值估计值的标准差用于衡量回归系数值的稳定性和可靠性。如果标准差较小，表明该系数的稳定性就好；如果该标准差越大，则表明该系数的稳定性差。估计值的T值用于检验系数是否为零。通过查表可以得到相应的临界值：如果该值大于临界值，则该系数在相应的显著水平上是可靠的；如果该值小于临界值，则系数在相应显著水平上是不显著的。估计值显著性概率值表示在t分布下，t统计量的概率值。在5%显著性水平下，如果该概率值低于0.05，则认为该系数值在统计上是显著的。R方表示回归的拟合程度，就是被解释变量被所有解释变量解释的部分。R方的取值范围在0到1之间：如果R方等于零，则表示该回归并不比被解释变量的简单平均数预测的更好；如果R方等于1，则表示该回归拟合的最为完美。调整R方随着解释变量的增加，R方只会增加而不会减少。为对增加的解释变量进行“惩罚”，对R方进行调整模型回归的标准误差对回归的残差进行计算标准差，衡量残差的波动性。残差平方和该指标衡量残差的平方和，一般没有直接解释含义，用于作为其他统计量的计算对数似然估计值在假定回归残差服从正态分布下，对对数似然函数值的计算。D-W统计量用于衡量回归残差是否序列相关，该统计量如果严重偏离2则表明存在序列相关。被解释变量的均值表示被解释变量的平均数，等于被解释变量的样本取均值。赤池信息准则用于对回归方程的最优滞后项数目进行选择，选择标准是该值达到最小值即可。施瓦茨信息准则用于对回归方程的最优滞后项数目进行选择F统计量用于衡量回归方程整体显著性的假设检验2．模型回归残差的常用检验回归模型估计完毕后，通常研究者会对模型估计的残差进行检验，通过回归残差的性质来判断模型估计的效果。常用的检验有：Q检验和LM检验用来判断残差是否违背无相关假定、异方差检验用来判断残差是否违背同方差假定、正态性检验用于判断残差的分布。检验的一般程序（适用于绝大部分统计量检验）是计算相关统计量的原假设成立的概率P值，如果该概率P值小于某个设定显著水平（通常为5%）,则拒绝原假设，认为备择假设成立；反之，则不能拒绝原假设。第五章基本线性回归模型的OLS估计

残差检验统计量含义残差自相关的Q检验检验目的：Q统计量的全称是Ljung-BoxQ，该统计量一般用于检验序列是否存在自相关。检验假设：该统计量的原假设H0为：残差序列不存在自相关；备择假设H1为：残差序列存在自相关。残差自相关的LM检验LM检验是Breush-GodfreyLagrangeMultiplier的简称，主要用于检验残差序列是否存在高阶自相关的重要假设。该统计量的计算首先必须利用OLS估计出原模型的残差序列u；然后以u为被解释变量，以u的1到P阶滞后项为解释变量再次进行回归，同时记录该回归的拟合优度R方。LM检验统计量的原假设为H0为：残差序列直到P阶不存在自相关；备择假设H1为：残差序列P阶内存在自相关。残差的正态性检验检验目的：Histogram-NormalityTest检验主要是通过计算JB统计量实现的，JB统计量用来检验序列观测值是否服从正态分布，在零假设下，JB统计量服从χ2(2)分布。检验假设：该检验的原假设H0为：样本残差服从正态分布。备择假设H1为：残差序列不服从正态分布。残差的异方差检验检验目的：由于最小二乘方法是建立在残差同方差假设基础上的，一旦出现异方差就说明OLS方法就不可靠了，需要利用加权最小二乘方法进行纠正。异方差检验是利用辅助回归的方法进行的，该统计量服从卡方分布。检验假设：怀特异方差检验的原假设H0为：残差序列不存在异方差。备择假设H1为：残差序列存在异方差。Equation方程对象的EVIEWS操作在每次回归模型估计完毕后，Eviews将把模型回归的结果（系数估计值、模型估计的各种统计量）、残差序列、方差协方差矩阵等等保存到Equation（方程对象）中，以方便对模型的进一步检验（残差的LM检验等等）和模型预测、模拟等操作。对Equation对象中的关于模型回归的输出标准结果的解释、查看结果输出形式和保存等操作，以及模型残差的各种检验操作进行讲解。第五章基本线性回归模型的OLS估计

1．回归模型估计的标准结果的一般解释在Equation方程对象窗口菜单栏View|Estimationoutput，或者直接点击快捷操作按钮Statistics，打开如图5.13所示的方程对象窗口。该窗口主要有三部分：第一部分为模型估计的说明；第二部分为模型解释变量的估计结果；第二部分为模型整体估计的统计量。第五章基本线性回归模型的OLS估计

模型估计说明含义DependentVariable:G模型的被解释变量（该案例为G）Method:LeastSquares模型估计方法：最小二乘估计方法Date:Time:14:07模型估计的方法Sample:19782007模型估计的样本范围Includedobservations:30模型估计中的有效观测值的个数表5.3模型估计的说明模型解释变量的估计结果含义Variable模型的解释变量Coefficient模型解释变量的估计值Std.Error模型解释变量估计值的标准差t-Statistic模型解释变量估计值的T值Prob.

模型解释变量估计值显著性概率值模型估计统计量含义R-squared模型回归的R方AdjustedR-squared模型估计的调整R方S.E.ofregression模型回归的标准误差Sumsquaredresid残差平方和Loglikelihood对数似然估计值Durbin-WatsonstatD-W统计量Meandependentvar被解释变量的均值S.D.dependentvar被解释变量的标准差Akaikeinfocriterion赤池信息准则Schwarzcriterion施瓦茨信息准则F-statisticF统计量Prob(F-statistic)模型显著性的概率值2.Equation对象的快捷按钮操作“Print”按钮单击“Print”按钮，弹出如图5.14所示的Print打印对话框。Print打印对话框主要用于Equation方程对象的打印设置。其中Destination选项组用于选择与操作计算机连接的打印机；Text/Tableoptions选项组用于设定打印纸张的范围和大小；Printrange选项组用于设定Equation方程对象页面的打印范围。第五章基本线性回归模型的OLS估计

“Name”按钮单击Name（命名）按钮，打开如图5.14所示的ObjectName对象命名对话框。“ObjectName”对话框主要用于进行Equation方程对象的保存和命名操作，其中Nametoidentifyobject文本框用于输入要命名的方程对象的名称，该名称最大允许24个英文字母；Displaynameforlabelingtablesandgraphs文本框用于标记表和图的名称，研究者可以在该文本框中注释方程对象。由于方程对象的名称较短，所以该标签可以比较详细的注释方程对象。命名完毕后，单击OK按钮就可以将回归的结果（方程对象）保存到Eviews工作文件窗口。如果需要查看该方程对象，只要双击该工作文件中的该对象就可以打开该方程对象。第五章基本线性回归模型的OLS估计

“Freeze”按钮Equation方程对象界面内的标准回归结果不允许用户对回归结果进行更改操作，而单击Freeze快捷操作按钮可以将标准回归结果进入可编辑状态，从而给用户提供了进行更改操作的空间。

“Estimate”按钮该按钮主要是用于返回到标准回归结果界面的快捷工具按钮，单击该按钮可以在其他操作界面下转换到标准回归结果界面。“Forcast”按钮该按钮主要用于利用用户建立的回归模型进行预测的操作，对模型预测的具体讲解请参考本书第十四章预测专题，在此不再赘述。“Statistics”按钮单击该按钮可以快速打开本章第一节中的EquationEstimation对话框，便于用户根据回归结果进行重新设定模型变量及估计方法的操作。第五章基本线性回归模型的OLS估计

“Resids”按钮单击Resids按钮，打开如图5.14所示的Equation的Resids界面。Equation的Resids界面主要给用户展示因变量的观测值序列、拟合值序列及残差序列图。其中，Residual、Actual、Fitted分别表示观测值序列、拟合值序列及残差序列。第五章基本线性回归模型的OLS估计

3.Equation对象的下拉菜单按钮操作View下拉菜单按钮单击View按钮，可以打开如图所示的下拉菜单。该下拉菜单提供了一些便捷操作命令和残差检验、系数检验等重要检验操作命令。Representations命令用于展示回归模型的一般表达式；EstimationOutput命令用于切换到标准回归结果界面；ARMAStructure用于展示ARMA模型的结构，仅限于ARMA模型操作；CofficientTests和StabilityTest命令主要用于对系数和模型进行稳定性检验，具体参见本书第八章第三节。本节将重点介绍Actual,Fitted,Residual选项和ResidulTests选项以下命令：第五章基本线性回归模型的OLS估计

（1）Actual,Fitted,Residual选项选择View|Actual,Fitted,Residual命令，可以打开如图5.14所示的四个残差绘图操作命令：第五章基本线性回归模型的OLS估计

Actual,Fitted,ResidualTable命令，该命令可以实现输出如图5.15所示的残差拟合表。该窗口主要有四部分：第一部分为Actual（被解释变量实际观测值）列表；第二部分为Fitted（被解释变量的拟合值）列表；第三部分为Residual（拟合残差值）；第四部分为残差序列的图。Actual,Fitted,ResidualGraph命令、ResidualGraph命令、StandardizedResidualGraph命令与Actual,Fitted,ResidualTable命令输出的残存时序图的类似，只是在形式上有所不同。第五章基本线性回归模型的OLS估计

（2）ResidulTests选项选择View下拉菜单中的ResidualTests，可以打开五个残差检验操作命令：第五章基本线性回归模型的OLS估计

CorrelogramQ-statistics命令，主要用于对残差进行自相关的Q检验。点击该命令可以打开如图5.16所示的自相关的Q检验界面。图中Autocorrelation表示模型残差的自回归系数图，PatialCorrelation表示模型回归残差的偏相关函数图，AC、PAC分别表示残差的自相关系数值和偏相关系数值，Q-statistics表示Q统计量值，Prob表示Q统计量的显著性概率值。一般而言，当Prob概率值大于设定的显著性水平，认为残差序列不存在自相关；反之，其概率水平小于设定的显著性水平，认为残差序列存在自相关。第五章基本线性回归模型的OLS估计

CorrelogramSquaredResiduals命令，主要用于对残差的平方进行Q检验。点击该命令将输出与CorrelogramQ-statistics命令的自相关Q检验完全相同的界面，唯一的不同是CorrelogramQ-statistics命令检验的对象是残差序列，而CorrelogramSquaredResiduals命令检验的对象是残差的平方序列。SeriesCorrelationLMtest命令，主要用于进行残差自相关的LM检验。其中，LM检验是Breush-GodfreyLagrangeMultiplier的简称。点击该命令可以打开如图5.17所示的LM检验窗口。图5.17的上半部分是Breush-GodfreyLagrangeMultiplier的检验结果。其中，F-Statistics和ProbF表示辅助回归的F值和相应的概率值，该检验等价于LM检验；Obs*Rsquared和ProbChi-squared是LM值和相应的概率值。图5.14的上半部分是利用以u为被解释变量，以u的1到P阶滞后项为解释变量再次进行回归的标准结果。第五章基本线性回归模型的OLS估计

Histogram-NormalityTest命令，主要用于对残差进行正态性检验。单击该命令可以打开如图5.18所示的正态性检验界面窗口。Histogram-NormalityTest是对残差序列进行是否为正态分布的检验。图5.18的左侧显示的是该序列对象的直方图，为观测值的频率分布。右侧分三个部分，最上面显示的是序列对象的名称，样本的范围和样本数量。一般而言，当JB统计量计算的概率值大于设定的显著性水平，此时就不能拒绝原假设H0，认为残差序列服从正态分布；反之，其概率水平小于设定的显著性水平，此时可以拒绝原假设，认为残差序列不服从正态分布。第五章基本线性回归模型的OLS估计

Procdure下拉菜单按钮单击Procdure按钮，可以打开如图所示的下拉菜单。该下拉菜单主要提供了一些查看回归结果及预测的快捷命令，主要有以下几个常用的命令：Specify/Estimate命令用于返回到标准回归结果界面，单击该按钮可以在其他操作界面下转换到标准回归结果界面，与Estimate快捷按钮一致；Forcast命令用于利用用户建立的回归模型进行预测的操作，与工具栏的快捷按钮Forcast一致；MakeResidualSeries命令用于生成残差序列，点击该命令可以在工作文件窗口生成一个残差序列，系统命名为resid01；MakeRegressorGroup命令可以将所有回归因子（含因变量）以变量组的形式展示，同时提供命名保存操作；MakeModel命令用于打开回归模型并展示回归模型的基本函数形式；UpdateCoefsfromEquation命令用于从回归表达式中更新回归系数。第五章基本线性回归模型的OLS估计

Object下拉菜单按钮单击Object按钮，可以打开如图所示的下拉菜单。该下拉菜单主要提供了对回归结果保存、更新、命名等操作命令，主要有以下几个常用的命令：StoretoDB命令用于将回归结果保存到指定Eviews数据库中；UpdatefromDB命令用于从指定Eviews数据库中提取回归结果；CopyObject命令用于复制标准回归结果；Name命令用于对回归结果进行命名保存操作，与工具栏Name快捷命令作用一致；Delete命令用于删除选定的回归结果；FreezeOutput命令可以将标准回归结果进入可编辑状态，与工具栏Freeze快捷操作按钮作用一致；Print命令用于打开Print打印对话框，主要用于Equation方程对象的打印设置，与工具栏Print快捷操作按钮作用一致；ViewOptions选项提供了部分View下拉菜单命令，但在线性回归估计窗口不可用。第五章基本线性回归模型的OLS估计

线性回归模型OLS估计结果的案例解释与操作本节仍然沿用5.1节案例，对5.1节案例的回归结果进行详细的说明。1．回归结果的解释说明在EquationEstimation对话框设定完毕后，点击“确定”按钮可以得到如图所示的回归结果，将图5.10中案例一的标准回归结果制作为表格，如表所示。第五章基本线性回归模型的OLS估计

VariableCoefficientStd.Errort-StatisticProb.

F0.7800030.01979939.395530.0000C2.4794400.11580721.410170.0000R-squared0.982279

Meandependentvar6.954833AdjustedR-squared0.981646

S.D.dependentvar0.909297S.E.ofregression0.123190

Akaikeinfocriterion-1.285839Sumsquaredresid0.424921

Schwarzcriterion-1.192426Loglikelihood21.28759

F-statistic1552.008Durbin-Watsonstat0.563528

Prob(F-statistic)0.0000002．回归残差的检验操作与解释下面对5.1案例回归结果进行残差检验操作，其中多元回归结果的残差检验操作与一元回归的操作没有任何差别。（1）在Equation方程对象窗口工具栏中依次选择View|ResidulTests|CorrelogramQ-statistics，打开如图5.20所示的方程对象窗口。第五章基本线性回归模型的OLS估计

（2）在Equation方程对象窗口工具栏中依次选择View|ResidulTests|SeriesCorrelationLMtest，打开如图5.21所示的方程对象窗口。第五章基本线性回归模型的OLS估计

（3）在Equation方程对象窗口工具栏中依次选View|ResidulTests|Histogram-NormalityTest，打开如图5.22所示的方程对象窗口。第五章基本线性回归模型的OLS估计

（4）在Equation方程对象窗口工具栏中依次选View|ResidulTests|HeteroskedasticityTest，打开如