计量经济学PPT第二章古典回归模型.ppt

1、第一节 古典回归模型 第二节 回归模型的参数估计 第三节 回归模型的统计检验 第四节 非线型回归模型,第二章 回归模型,一、回归分析 二、模型的随机设定 三、古典回归模型的基本假定 练习题及参考资料 返回,第一节 古典回归模型,一、回归分析和回归模型 （一）相关分析和回归分析 1.相关分析 变量性质：都是随机变量且关系对等。 分析方法：图表法和相关系数。 分析目的：判定变量之间相关的方向和关系的密切程度。,第一节 古典回归模型,2. 回归分析,变量性质：自变量与因变量的关系不对等。 分析方法：建立回归方程。 分析目的：变量之间的数量依存关系，并根据 自变量的数值变化去推测因变量数值变化。,第一

2、节 古典回归模型,确定性变量,随机变量,举例说明： 假设一个总体由60户家庭组成，为了研究家庭消费支出Y与家庭收入X之间的关系，将这60户家庭按人均月收入划分成组内收入水平大致相同的10个组。表2-1列出了每组各个家庭的人均月消费支出和收入情况。,第一节 古典回归模型,表2-1 某总体的家庭收支情况 单位：元/月,第一节 古典回归模型,图2-1 不同收入水平的家庭消费支出散点分布图,第一节 古典回归模型,从图2-1的散点分布可以看出，虽然各个家庭的消费支出存在着差异，但各组家庭的平均消费支出随着收入水平的提高也在不断增加。,第一节 古典回归模型, 回归模型 1、总体回归模型,利用图2-1中的直

3、线可以分析家庭消费支出与家庭收入之间的相关关系。这条直线（即解释变量x取各个给定值时y均值的轨迹）称为总体回归直线，所对应的方程 E(yi) = (xi) = a +bxi,第一节 古典回归模型,称为总体回归方程， 常数a、b称为总体回归参数（或回归系数）。,回归分析的主要任务就是设法求出总体回归参数的具体数值，进而利用总体回归方程描述和分析总体的平均变化规律。,第一节 古典回归模型,2、样本回归模型,总体和样本的关系如下：,第一节 古典回归模型,总体是我们研究的目的，但是不能知道总体的全部数据 用总体中的一部分（样本）来推断总体的性质。,总体,例如，从表2-1的总体中随机抽取一个样本列入表2

4、-2： 表2-2 总体中的一个样本,根据这10组观察值绘制成散点图（图2-2）如下：,第一节 古典回归模型,图2-2总体回归直线与样本回归直线,第一节 古典回归模型,从图2-2的散点分布可以看出，散点分布仍然呈现出明显的线性趋势；现设法确定一条直线来较好地拟合这些样本观察值，称这条直线为样本回归直线，其对应的方程：,称为样本回归方程， 分别为总体回归参数a、b的估计。,第一节 古典回归模型,如果估计误差较小，即估计值与真实值比较接近，则可以用样本回归方程近似地代替总体回归方程，即利用样本回归方程近似地描述总体的平均变化规律。,注：在参数（或变量）字母上面加上符号“”，表示是该参数（或变量）的估

5、计值或估计量，以后将一直采用这种习惯表示方法。,第一节 古典回归模型,因此，回归分析的主要内容可以概括成： 根据样本观察值确定样本回归方程； 检验样本回归方程对总体回归方程的近似程度； 利用样本回归方程分析总体的平均变化规律。,第一节 古典回归模型,二、回归模型的随机设定,（一）随机误差项 从表2-1和图2-1都可以看出，单个家庭的消费支出yi与平均消费支出E(yi)之间存在着一定的离差，用i表示，即： iyiE(yi)yi(abxi),第一节 古典回归模型,相应地，若样本回归方程为 ，则实际值yi与估计值 的离差用ei表示，即：,其中i是一个不可观测的、可正可负的随机变量，称为随机误差项。

6、yiE(yi)iabxii 称为总体回归模型的随机设定形式。,第一节 古典回归模型,称ei为残差（或拟合误差），它可以作为随机误差i的估计。 而方程：,称为样本回归方程的随机设定形式 。,第一节 古典回归模型,（二）随机误差产生的原因,客观现象本身的随机性。 模型本身的局限性。 模型函数形式的设定误差。 数据的测量与归并误差。 随机因素的影响（如自然灾害等）,第一节 古典回归模型,三、古典回归模型的基本假定,1解释变量x为非随机变量。 2零均值假定：E(i ) = 0 3同方差假定：D(i) =2（常数） 4非自相关假定：Cov(i,j)=0（ij） 5解释变量与随机误差项不相关假定： Cov

7、(xi,i)=0（或E(xii)=0）,第一节 古典回归模型,6无多重共线性假定； 7i服从正态分布，即i N(0，2 )， yiN(a+bxi,2)。,第一节 古典回归模型,课外练习题及参考资料,一、练习题 1、总体回归方程与样本回归方程的区别。 2、随机误差产生的原因。 3、古典回归模型的基本假定包括哪些。 二、参考资料 1、经济计量学李长风编著，上海财大出版社，1997年版 2、经济计量学张保法编著，经济科学出版社，2000年版,一、最小二乘估计（OLS） 二、一元线性回归模型的参数估计 三、多元线性回归模型的参数估计 四、最小二乘估计的性质 五、系数的估计误差与置信区间 返回,第二节

8、回归模型的参数估计,一、最小二乘估计（OLS）,对于一元线性回归模型：yiabxii 假设从总体中获取了n组观察值（x1，y1），（x2，y2），（xn，yn）。对于平面中的这n个点，可以使用无数条曲线来拟合。 选择最佳拟合曲线的标准可以确定为：使总的拟合误差（即总残差）达到最小。,第二节 回归模型的参数估计,描述这一标准最常用的是普通最小二乘法（ Ordinary Least Square，OLS）：所选择的回归模型应该使所有观察值的残差平方和达到最小。即：,=最小,第二节 回归模型的参数估计,二、一元线性回归模型的参数估计,由于 是关 于 的二次函数并且非负，所以存在最小值。利用微分学中求

9、极值的方法，可以求得 的值。根据,第二节 回归模型的参数估计,从而得到：,第二节 回归模型的参数估计,解正规方 程组可得：,正规方程组,(2-1),其中，,由于式（2-1）是根据（普通）最小二乘法得到的，所以称 为参数的最小二乘估计，简记成OLS估计。,第二节 回归模型的参数估计,【例1】 我国税收预测模型。表2-3列出了我国19851998年期间税收收入Y和国内生产总值X的统计资料（时间序列数据），试利用EViews软件建立一元线性回归模型。,第二节 回归模型的参数估计,表2-3 我国税收与GDP统计资料 单位：亿元,第二节 回归模型的参数估计,（1）建立工作文件：,第二节 回归模型的参数估

10、计,启动EViews, 点击FileNewWorkfile，弹出工作文件对话框（图2-3），选择数据的时间频率、起始期和终止期。,时间频率,年度,半年,季度,月度,周,日,非时序数据,起始期,终止期,命令方式：在EViews命令窗口中键入 CREATE时间频率类型起始期终止期 例如：CREATE A 85 98,（2）输入统计资料： 在命令窗口键入数据输入/编辑命令 DATA Y X 将显示数组窗口（图2-4），此时可以按全屏幕编辑方式输入每个变量的统计资料。,第二节 回归模型的参数估计,图2-4数组窗口,第二节 回归模型的参数估计,（3）估计回归模型：,数组窗口中点击ProcsMake eq

11、uation，定义方程，点击OK，则弹出有关估计结果（右图）。,我国税收模型的估计式为：,常数和解释变量,参数标准差,T统计量值,双侧概率,判定系数,调整的判定系数,回归方程的标准差,残差平方和,似然函数的对数,德宾-瓦森统计量,被解释变量均值,被解释变量标准差,赤池信息准则,施瓦兹信息准则,F统计量,F统计量的概率,参数估计值,第二节 回归模型的参数估计,命令方式，键入： LS 被解释变量 C 解释变量 例如：LS Y C X,【例2】中国城镇居民消费函数。表2-5列出了我国城镇居民家庭1998年平均每人全年消费性支出Y和可支配收入X的统计资料（横截面数据，单位：元/年），试利用EViews

12、软件，通过在命令窗口中直接键入命令的方式建立城镇居民消费函数。,常数,第二节 回归模型的参数估计,表2-5我国城镇居民家庭1998年收支情况,第二节 回归模型的参数估计,依次键入： 建立工作文件： CREATE U 8 输入统计资料： DATA Y X 估计回归模型： LS Y C X,操作演示,右图是输出结果， 我国城镇居民的 消费函数为：,第二节 回归模型的参数估计,三、多元线性回归模型的参数估计,对于多元线性回归模型 利用OLS法，有：,第二节 回归模型的参数估计,第二节 回归模型的参数估计,分别求关于模型参数的一阶偏导数，并令其等于零，得到：,整理得：,（2-2）,同样称（2-2）式为

13、正规方程组。,第二节 回归模型的参数估计,第二节 回归模型的参数估计,若定义矩阵：,则正规方程组（2-2）式可以用矩阵表示成：,所以，参数的最小二乘估计为：,【例3】我国国有独立核算工业企业生产函数。根据生产函数理论，生产函数的基本形式为：Y=（t，L，K，）。其中，L、K分别为生产过程中投入的劳动与资金，时间变量t反映了技术进步的影响。具体统计资料见教材P37。试利用EViews软件建立线性生产函数： Y=b0+b1t+b2L+b3K+,第二节 回归模型的参数估计,在Eviews的命令窗口中输入以下命令: （1）建立工作文件： CREATE A 78 94 （2）输入统计资料： DATA Y

14、 L K （3）生成时间变量t：GENR T=TREND(77) （4）建立回归模型： LS Y C T L 操作演示 回归方程窗口如下图所示：,第二节 回归模型的参数估计,我国国有独立工业企业的生产函数为：,第二节 回归模型的参数估计,课外练习,1、如何理解OLS估计。 2、如何利用OLS法估计多元线性回归模型参 数，写出推导过程。 3、下次上机练习本节例题1、2、3。熟悉和掌握Eviews软件的使用。,1、经济计量学教程贺铿编著，中国统计大出版社，2000年版 2、 计量经济分析软件包使用指南刘建国等编，清华大学出版社，1991年版 3、回归分析与经济数据建模，中国人民大学出版社，1997

15、年版。,参考文献,第二节 回归模型的参数估计,四、最小二乘估计的性质,（一）参数估计量的评价标准 无偏性：E( )= 有效性（最小方差性）： D( )最小。 一致性：,（二）高斯马尔可夫定理 在古典回归模型的若干假定成立的情况下，最小二乘估计是所有线性无偏估计量中的有效估计量。 即OLS估计为“最佳线性无偏估计量”（Best Linear Unbiased Estimator BLUE）。,第二节 回归模型的参数估计,证明（以一元线性回归模型为例）：,1.线性 即参数估计量是 的线性函数。,其中：,第二节 回归模型的参数估计,2.无偏性,由 的定义容易证得：,从而有：,第二节 回归模型的参数估

16、计,则,同理可得,所以,3.有效性（最小方差性）,先推导 的方差：,（i与j不相关假定）,（同方差假定）,设 是b的另一个线性无偏估计量，由于,则有,而且,第二节 回归模型的参数估计,所以,（注意yi也是互不相关的）,（D(yi)= D(i)=2 ）,第二节 回归模型的参数估计,五、系数的估计误差与置信区间,1、OLS估计的概率分布,则,由于,假定,第二节 回归模型的参数估计,2系数的估计误差,平均误差（平方） = = =,其中，i的方差2采用无偏估计量：,参数估计量的平均误差为：,来估计2 ,第二节 回归模型的参数估计,并且用符号 表示系数b的估计误差：,同理a的估计误差为：,也称系数的标准

17、误差（标准差）。,第二节 回归模型的参数估计,3系数的置信区间,可以证明，统计量,所以，对于给定的置信度1-，由t分布表可以查得临界值t/2，使得：P(|t|t/2)=1-, 即：,第二节 回归模型的参数估计,所以系数b的100(1-)%置信区间为:,显然， 越小，置信区间越小。,对于多元线性回归模型，统计量,回归系数bi的100(1-)%置信区间为：,第二节 回归模型的参数估计,一、模型的拟合优度检验 二、模型的显著性检验 三、解释变量的显著性检验 返回,第三节 回归模型的统计检验,一、模型的拟合优度检验 1总平方和分解公式 设估计的多元线性回归模型为：,因为,在求解OLS估计过程中曾经得到

18、：,第三节 回归模型的统计检验,则,且,故,（2-6）,上式记成 TSS = ESS + RSS,总平方和,回归平方和,残差平方和,第三节 回归模型的统计检验,2判定系数R2,显然，0R21,R2的值越接近于1，则表明模型对样本数据的拟合优度越高。 经济含义：定量地描述了y的变化中可以用解释变量的变化来说明的部分，即模型的可解释程度。,第三节 回归模型的统计检验,第三节 回归模型的统计检验,调整判定系数：判定系数受解释变量X的个数k的影响，在k的个数不同的模型之间进行比较时，判定系数必须进行调整。,其它准则：,第三节 回归模型的统计检验,二、模型的显著性检验,检验模型对总体的近似程度F检验。

19、1F检验 对于,若原假设H0：b1=b2=bk=0 成立，则：,给定显著水平，查表得临界值F（单侧检验）：,第三节 回归模型的统计检验,若F F，拒绝H0，模型的线性关系是显著的； 若F F，接受H0，模型的线性关系不显著，回归模型无效。,检验通不过的原因可能在于： 解释变量选取不当或遗漏重要解释变量； 解释变量与被解释变量之间不存在线性相关关系； 样本容量n比较小； 回归模型存在序列相关(时间序列中,不同时期)。,第三节 回归模型的统计检验,2R2检验与F检验的关系,F是R2的单调增函数，F与 一一对应。,图2-7 F统计量与R2的关系,第三节 回归模型的统计检验,三、解释变量的显著性检验,

20、H0：bi=0 ， 即假设xi对y没有显著影响，则,给定，可由t分布表查得临界值t/2, 若|t| t/2 ，拒绝H0，xi 对y有显著影响； 若|t|t/2 ，接受H0，认为xi 对y影响不显著，应考虑将xi 从模型中剔除，重新建模。,第三节 回归模型的统计检验,【例4】 (见教材P50) 操作演示 在EViews软件输出的回归分析结果中，在每个t统计量值ti的右端还列出了一个概率值p（又称为p值），它表示: P（|t|ti）p 即给出了所谓“精确的显著水平”。,第三节 回归模型的统计检验,一、可线性化模型 二、不可线性化模型 三、回归模型的比较 练习题及参考资料 返回,第四节 非线性回归模

21、型,一、可线性化模型 1倒数变换模型（双曲函数模型）,设：,即可变换为线性。,模型,应用：平均固定成本曲线、商品成长曲线 菲利普斯曲线等,第四节 非线性回归模型,2双对数模型（幂函数模型）,则转换成线性回归模型：,设:,模型,其中 ：,弹性,第四节 非线性回归模型,3半对数模型 模型 y=a+blnx+ (对数函数模型) lny=a+bx+ (指数函数模型),对数函数模型中，,指数函数模型中，,第四节 非线性回归模型,4多项式模型,对于模型,设:,则:,模型转化成多元线性回归模型。,第四节 非线性回归模型,【例5】为了分析某行业的生产成本情况，从该行业中选取了10家企业，表2-10中列出了这些

22、企业总产量Y（吨）和总成本X（万元）的有关资料，试建立该行业的总成本函数和边际成本函数。 表2-10 某行业产量与总成本统计资料,第四节 非线性回归模型,根据边际成本的U型曲线理论，总成本函数可以用产量的三次多项式近似表示，即：,设:,EViews的命令操作： GENR X1=X GENR X2=X2 GENR X3=X3 LS Y C X1 X2 X3,变换即可,操作演示,第四节 非线性回归模型,对总成本函数求导数，得到边际成本函数的估计式为：,得到总成本函数估计式：,第四节 非线性回归模型,二、不可线性化模型,采用：高斯牛顿迭代法 1迭代估计法 模型,估计过程如下： （1）根据经济理论和所

23、掌握的资料，先确定一组数a0,b0,c0作为参数a,b,c的初始估计值； （2）将模型在点（a0,b0,c0）处展开成泰勒级数，并取一阶近似值；,第四节 非线性回归模型,（3）作变量变换，转化成线性回归模型,以利用OLS法估计模型，得到参数的第一组估计值,（4）将 代入线性回归模型取代参数的上一组估计值，计算出一组新观察值，进而得到a、b、c的第二组估计值。 （5）重复第（4）步，逐次估计，直到第t+1次估计值的估计误差小于事先取定的误差精度时为止。并以第t+1次的计算结果作为参数a、b、c的估计值。,第四节 非线性回归模型,2迭代估计法的EViews软件实现,(1) 设定待估参数的初始值 方

24、式1：PARAM命令，格式为： PARAM 1 初始值1 2 初始值2 方式2：在工作文件窗口中双击序列C，并在序列窗口中直接输入参数的初始值 (2)估计非线性模型 【命令方式】 键入命令：NLS 被解释变量=非线性函数表达式,第四节 非线性回归模型,如，对于非线性回归模型y=a(x-b)/(x-c)+，则 NLS Y= C(1)*(X-C(2)/(X-C(3),【菜单方式】 （1）在数组窗口中点击ProcsMake Equation； （2）在弹出的方程描述对话框中输入模型具体形式： Y= C(1)*(X-C(2)/(X-C(3)； （3）选择估计方法为最小二乘法后点击OK。,注：可设置最大

25、迭代次数和误差精度，初始值和精度得设定会影响估计结果。,第四节 非线性回归模型,【例6】 我国国有工业企业生产函数（例4续）。例4中曾估计出我国国有独立核算工业企业的线性生产函数，现建立C-D（Cobb-Dauglas）生产函数：,第四节 非线性回归模型,（1）转化成线性模型进行估计 lny=lnA+lnL+lnK+ 键入以下命令： GENRLNY = log(Y) GENRLNL = log(L) GENRLNK = log(K) LS LNY C LNL LNK,得到C-D生产函数的估计式为： 操作演示,即:,第四节 非线性回归模型,（2）利用迭代法直接估计非线性模型： 输入命令： Par

26、am 1 1 2 1 3 1 在主窗口中点击ObjectsNew Object，并选择Equation；,输入非线性模型的方程表达式： Y=C(1)*LC(2)*KC(3),如果要修改迭代次数或收敛的误差精度,可点击Options按钮进行设置。,第四节 非线性回归模型,点击OK后，系统将自动进行迭代运算并输出估计结果： 操作演示,报告迭代了13次后收敛,对应A，,第四节 非线性回归模型,三、回归模型的比较,1图形观察分析 （1）观察趋势图 变量的发展趋势是否一致？ 解释变量能否反映被解释变量的波动变化情况？ 变量发展过程中是否有异常点等问题。 （2）观察相关图 直观地判断两者的相关程度和相关类型。,第四节 非线性回归模型,2模型估计结果观察分析,（1）回归系数的符号、值的大小。 （2）改变模型形式之后是否使判定系数的值明显提高。 （3）各个解释变量t检验的显著性。 （4）系数的估计误差较小。 （5）自相关检