《线性回归模型2》教学课件

第2章一元线性回归模型(2)思考题：1、CLRM关于随机误差项的五个假设是什么？2、影响SRF中斜率估计量方差的两个因素是什么？3、OLS估计量具有哪两个优良性质？4、假设检验的根本原理是什么？5、显著性水平和第一类错误指的是什么？第2章一元线性回归模型(2)思考题：1思考题：6、对稻草人假设进展检验的标准是什么？7、拟合优度的含义和度量指标是什么？8、正态性检验的目的是什么？思考题：2复习第2章(1)思考题：1、回归分析中的变量有何特点？2、被解释变量的两个组成局部的含义是什么？3、刻划被解释变量的两个参数分别是什么？4、样本回归模型与总体回归模型有何区别？5、最小二乘估计法的核心思想是什么？6、回归模型参数的估计量是什么？复习第2章(1)思考题：3复习第2章(1)思考题：7、一元线性回归具有哪三个性质？8、如何解释回归模型参数的含义？复习第2章(1)思考题：4假设1、随机误差项与解释变量X之间不相关问题：回归分析的根本原理是什么？2.1古典线性回归模型〔CLRM〕假设1、随机误差项与解释变量X之间不相关2.1古典线5假设2、随机误差项具有零均值E(i)=0i=1,2,…,n如果假设2不成立：0

假设2、随机误差项具有零均值6假设3、随机误差项具有同方差Var(i)=2i=1,2,…,n

假设3、随机误差项具有同方差7假设4、各个随机误差项之间无自相关Cov(i,j)=0i≠ji,j=1,2,…,n

假设4、各个随机误差项之间无自相关8假设5、服从正态分布i~N(0,2)i=1,2,…,n如果假设5不成立:样本容量n>30中心极限定理被解释变量服从正态分布假设5、服从正态分布9Y=f(X)+µµ被称为随机误差项，代表所有其他影响因素的总和因此，Y是一个随机变量刻划随机变量的两个参数：①期望值②方差2.2普通最小二乘估计量的方差Y=f(X)+µ210计量研究目标1、X对Y的具体影响：2、其他因素对Y的平均影响幅度：Var〔Y〕＝Var〔µ〕＝σ²Y的标准差：σ计量研究目标1、X对Y的具体影响：111、随机误差项的方差2的估计2称为总体方差，反映了随机变量Y围绕其均值波动的平均幅度。Y的方差：Var〔Y〕＝Var〔µ〕＝σ²1、随机误差项的方差2的估计2称为总体方差，反映了随机12由于随机误差项i不可观测，只能从i的估计——残差ei出发，对总体方差进展估计。由于随机误差项i不可观测，只能从i的估计——残差e13理想但未知的总体回归模型近似但的样本回归模型理想但未知的总体回归模型近似但的样本回归模型14

可以证明，双变量模型中2的无偏估计量为可以证明，双变量模型中2的无偏估计量为15回归标准误：SER:SER＝RSSn－2回归标准误：SER:SER＝RSSn－216Eviews估计Salary的标准误Eviews估计Salary的标准误172、OLS估计量的方差2、OLS估计量的方差182、OLS估计量的方差2、OLS估计量的方差19斜率和截距估计量的方差斜率和截距估计量的方差20斜率和截距估计量的方差请解释斜率方差的决定因素斜率和截距估计量的方差请解释斜率方差的决定因素21斜率方差的决定因素1、解释变量的变化程度解释变量的变化程度越大，对斜率的估计越准确斜率方差的决定因素1、解释变量的变化程度22010123010124斜率方差的决定因素2、总体方差总体方差越小，对斜率的估计越准确斜率方差的决定因素2、总体方差25010126XYXY27斜率估计量的标准差斜率估计量的标准差28斜率估计量的标准误斜率估计量的标准误29

2.3OLS估计量的性质当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值。可从如下几个方面考察估计量的优劣性：〔1〕无偏性，即它的均值或期望值是否等于总体的真实值；〔2〕有效性，即它是否在所有线性无偏估计量中具有最小方差。说明：线性指估计量为随机变量Y的线性函数2.3OLS估计量的性质当模型参数估30估计量估计总体的公式总体均值的估计量：样本均值估计量估计总体的公式31估计量估计总体的公式总体均值的估计量：样本均值估计量估计总体的公式32估计量与估计值随机样本：无数个样本一个具体的样本：1、样本中每个随机变量都取定一个观察值2、根据估计量的公式计算估计值估计量与估计值随机样本：无数个样本33高斯—马尔可夫定理

给定CLRM的假设1-4，最小二乘估计量是具有最小方差的线性无偏估计量。高斯—马尔可夫定34《线性回归模型2》教学课件35无偏性成立的关键条件CLRM的假设1：µ

和Xi不相关无偏性成立的关键条件CLRM的假设1：µ和Xi不相关36案例分析学生的数学考试成绩被解释变量：在一次高中10年级标准化数学考试中通过学生的百分比解释变量：有资格承受联邦政府午餐补助学生的百分比math10=0+1lnchprg+1的含义1>0案例分析学生的数学考试成绩37EviewsMATH10=32.14－0.319*LNCHPRG请解释－0.319的含义其他影响因素：例如学生的贫穷率学生的贫穷率与受补助学生比例正相关，学生的贫穷率与数学考试通过率负相关EviewsMATH10=32.14－0.319*38线性：β帽是Y的线性函数线性：β帽是Y的线性函数391的正态分布2.4OLS估计量的概率分布1的正态分布2.4OLS估402.5假设检验不同的样本，得到不同的估计值，根据某一个具体样本得到的估计值质量如何？可以通过特定的检验指标来衡量2.5假设检验不同的样本，得到不同的估计值，41x(收入)y〔支出〕8010012014016018020022024026050100150200第一个样本回归直线第一个样本第二个样本第二个样本回归直线x(收入)y〔支出〕8010012014016018020042

显著性检验法

回归分析是要判断解释变量X是否是被解释变量Y的一个显著性的影响因素。

计量经计学中，主要是针对变量的参数真值是否为零来进展显著性检验的。稻草人假设：斜率参数为零显著性检验法回归分析是要判断解释变量X是43解释变量的显著性如果1等于零，那么X对Y没有影响1的估计值不等于零但是1真的不等于零吗？问题：如何说服我们相信你高考的数学成绩不是零分？解释变量的显著性如果1等于零，那么X对Y没有影响44

1、假设检验概述

假设检验采用的逻辑推理方法是反证法。先假定原假设正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否承受原假设。判断结果合理与否，是基于“小概率事件不易发生〞这一原理的。如果结果是个小概率事件，那我们认为这是不可能发生的。会发生不可能发生的事情，一定是假设前提错了。上述“小概率事件〞的概率被称为检验的“显著性水平〞，或者“犯第一类错误的概率〞〔拒绝了正确的虚拟假设〕1、假设检验概述假设检验采用的逻辑推理方法是反证法45问题显著性水平或犯错误概率在反证法推理中应当设定得越小越好，还是越大越好？问题显著性水平46t分布t分布47t分布t分布的均值为0t分布的方差为n/(n-2);n=30,1.07nnnt分布t分布的均值为0nnn48

2a(1-a)t分布t落在红色区域中的概率为5％|t|>2被认为是一个小概率事件02.5％-22.5％

2a(1-a)t分布t落在红色区域中的概率为5％|t|49假设检验的根本思想1、设计一个服从特定分布的随机变量，例如t2、选择一个取值范围，上述随机变量落在该取值范围内的概率很小，例如5％3、根据样本数据计算上述随机变量的数值4、判断该数值是否落在上述取值范围之内5、如果是，那么认为发生了不可能发生的事情。因此得出结论：假设前提错了假设检验的根本思想1、设计一个服从特定分布的随机变量，例如t50

2、解释变量的显著性检验

2、解释变量的显著性检验51斜率1的显著性检验在上述t统计量中假设1等于零，得到

t

=

斜率1的显著性检验在上述t统计量中假设1等于零，得到t52统计量t的解释t是一个随机变量，对应于不同的样本，t取不同的值给定一个具体样本，t是斜率的估计值和斜率的样本标准差的比率。被称为t比率

t

=

统计量t的解释t是一个随机变量，对应于不同的样本，t取不同的53

ca(1-a)t分布临界值c|t|>c的概率？在实践中，一般取α＝5％，确定一个小概率事件t~t(n-2)给定样本容量n和显著性水平α，就可以计算c0a/2(1-a)-ca/2

ca(1-a)t分布临界值c|t|>c的概率？在实践54yi=b0+b1xiµiH0:b1=0H1:b1

0c0a/2(1-a)-ca/2双侧检验拒绝域拒绝域+yi=b0+b1xiµiH0:b1=055双边检验的步骤〔1〕对总体参数提出假设H0：1=0，H1：10〔2〕以原假设H0构造t统计量，并由样本计算其值〔3〕给定显著性水平，查t分布表，得临界值c＝t/2(n-2)(4)比较，判断假设|t|>t/2(n-2)，那么拒绝H0，承受H1；假设|t|t/2(n-2)，那么拒绝H1，承受H0；双边检验的步骤〔1〕对总体参数提出假设〔2〕以原56简易判断法那么当n>30时，t分布近似于正态分布给定显著性水平为5％，临界值c约为2如果t的绝对值大于2，就可以拒绝稻草人假设，说明斜率b1显著地不等于零因此，解释变量X对被解释变量Y具有影响简易判断法那么当n>30时，t分布近似于正态分布57案例分析工资被解释变量：工资〔1976年每小时美元数〕解释变量：教育〔年数〕计量模型：wage=0+1educ+t＝10.17问题：如何对待稻草人假设？案例分析工资58关于5％202.5%95%-22.5%拒绝域拒绝域关于5％202.5%9559p值p值是给定t比率后，能拒绝稻草人假设的最小显著性水平(犯错误水平〕即给定显著性水平为p，根据样本计算的t比率刚好可以拒绝稻草人假设如果显著性水平大于p，那么仍然可以拒绝如果显著性水平小于p，那么不可以拒绝问题：对于计量研究而言，p值越大还是越小好？p值p值是给定t比率后，能拒绝稻草人假设的最小显著性水平(犯60案例分析工资被解释变量：工资〔1976年每小时美元数〕解释变量：教育〔年数〕计量模型：wage=0+1educ+p＝0.0000

案例分析工资61思考题假设p值为0.01，如果研究者采用的显著性水平为5％，我们能否拒绝虚拟假设？如果研究者采用的显著性水平为0.5％，我们能否拒绝虚拟假设思考题假设p值为0.01，62

2.6判定系数

拟合优度检验：对样本回归直线与样本观测值之间拟合程度的检验。

度量拟合优度的指标：判定系数R2

问题：采用普通最小二乘估计方法，已经保证了模型最好地拟合了样本观测值，为什么还要检验拟合程度？2.6判定系数拟合优度检验：对样本回归直线与63计算判定系数1.总离差平方和的分解我们知道：样本观测值〔xi,yi〕,i=1,2,…,n,的回归直线为：而观测值Yi可分解为：eYY计算判定系数1.总离差平方和的分解而观测值Yi可分解为：64x(收入)y〔支出〕eeeex(收入)y〔支出〕eeee65eeYYYYYY被解释变量围绕其均值的波动波动中被回归线所解释的局部波动中没有被回归线所解释的局部eeYYYYYY被解释变量波动中被波动中没有被66可以证明：其中总平方和〔TotalSumofSquares〕解释平方和〔ExplainedSumofSquares〕残差平方和〔ResidualSumofSquares〕TSS=ESS+RSS可以证明：其中总平方和〔TotalSumofSquar67TSS=ESS+RSSY的观测值围绕其均值波动的总平方和可分解为两局部：一局部来自回归线(ESS)，另一局部那么来自随机势力(RSS)。从解释平方和RSS与残差平方和ESS的意义可知，在TSS中ESS所占的比重越大，那么样本回归直线与样本观测值拟合程度就越好。TSS=ESS+RSSY的观测值围绕其均值波动682、判定系数R2称R2为〔样本〕判定系数/可决系数2、判定系数R2称R2为〔样本〕判定系数/可决系数69R²的解释:反映变量间的线性关系1、R²＝0Y和X没有线性关系2、R²＝1Y和X具有完全的线性关系含义：Y=b0+b1X1

R²的解释:反映变量间的线性关系1、R²＝070案例分析CEO的薪水被解释变量：CEO的薪水〔千美元〕解释变量：净资产回报率〔百分数〕样本回归函数：Salary＝963.191＋18.501roeEviewsR²＝0.013 因此，净资产回报率仅解释了薪水变化的1.3％案例分析CEO的薪水71案例分析选举结果两位候选人A和B被解释变量：选举结果〔得票百分数〕解释变量：竞选支出〔支出百分比〕样本回归函数：voteA＝26.81+0.46shareAEviewsR²＝0.86 因此，竞选支出的比例解释了竞选结果变化的86％案例分析选举结果722.7正态性检验：JB检验根本原理：JB统计量服从卡方分布2.7正态性检验：JB检验根本原理：JB统计量服从卡方分布73JB检验的步骤1、虚拟假设：随机误差项服从正态分布2、设定检验的显著性水平：5％3、计算p值4、拒绝标准：p<5％JB检验的步骤1、虚拟假设：随机误差项服从正态分布74Eviews1、完成模型的估计2、view\residualtests\normalitytestEviews1、完成模型的估计75案例分析CEO的薪水被解释变量：CEO的薪水〔千美元〕解释变量：净资产回报率〔百分数〕样本回归函数：Salary＝963.191＋18.501roeEviewsP=0.00案例分析CEO的薪水762.8预测移至第3章2.8预测移至第3章77第2章一元线性回归模型(2)思考题：1、CLRM关于随机误差项的五个假设是什么？2、影响SRF中斜率估计量方差的两个因素是什么？3、OLS估计量具有哪两个优良性质？4、假设检验的根本原理是什么？5、显著性水平和第一类错误指的是什么？第2章一元线性回归模型(2)思考题：78思考题：6、对稻草人假设进展检验的标准是什么？7、拟合优度的含义和度量指标是什么？8、正态性检验的目的是什么？思考题：79复习第2章(1)思考题：1、回归分析中的变量有何特点？2、被解释变量的两个组成局部的含义是什么？3、刻划被解释变量的两个参数分别是什么？4、样本回归模型与总体回归模型有何区别？5、最小二乘估计法的核心思想是什么？6、回归模型参数的估计量是什么？复习第2章(1)思考题：80复习第2章(1)思考题：7、一元线性回归具有哪三个性质？8、如何解释回归模型参数的含义？复习第2章(1)思考题：81假设1、随机误差项与解释变量X之间不相关问题：回归分析的根本原理是什么？2.1古典线性回归模型〔CLRM〕假设1、随机误差项与解释变量X之间不相关2.1古典线82假设2、随机误差项具有零均值E(i)=0i=1,2,…,n如果假设2不成立：0

假设2、随机误差项具有零均值83假设3、随机误差项具有同方差Var(i)=2i=1,2,…,n

假设3、随机误差项具有同方差84假设4、各个随机误差项之间无自相关Cov(i,j)=0i≠ji,j=1,2,…,n

假设4、各个随机误差项之间无自相关85假设5、服从正态分布i~N(0,2)i=1,2,…,n如果假设5不成立:样本容量n>30中心极限定理被解释变量服从正态分布假设5、服从正态分布86Y=f(X)+µµ被称为随机误差项，代表所有其他影响因素的总和因此，Y是一个随机变量刻划随机变量的两个参数：①期望值②方差2.2普通最小二乘估计量的方差Y=f(X)+µ287计量研究目标1、X对Y的具体影响：2、其他因素对Y的平均影响幅度：Var〔Y〕＝Var〔µ〕＝σ²Y的标准差：σ计量研究目标1、X对Y的具体影响：881、随机误差项的方差2的估计2称为总体方差，反映了随机变量Y围绕其均值波动的平均幅度。Y的方差：Var〔Y〕＝Var〔µ〕＝σ²1、随机误差项的方差2的估计2称为总体方差，反映了随机89由于随机误差项i不可观测，只能从i的估计——残差ei出发，对总体方差进展估计。由于随机误差项i不可观测，只能从i的估计——残差e90理想但未知的总体回归模型近似但的样本回归模型理想但未知的总体回归模型近似但的样本回归模型91

可以证明，双变量模型中2的无偏估计量为可以证明，双变量模型中2的无偏估计量为92回归标准误：SER:SER＝RSSn－2回归标准误：SER:SER＝RSSn－293Eviews估计Salary的标准误Eviews估计Salary的标准误942、OLS估计量的方差2、OLS估计量的方差952、OLS估计量的方差2、OLS估计量的方差96斜率和截距估计量的方差斜率和截距估计量的方差97斜率和截距估计量的方差请解释斜率方差的决定因素斜率和截距估计量的方差请解释斜率方差的决定因素98斜率方差的决定因素1、解释变量的变化程度解释变量的变化程度越大，对斜率的估计越准确斜率方差的决定因素1、解释变量的变化程度9901011000101101斜率方差的决定因素2、总体方差总体方差越小，对斜率的估计越准确斜率方差的决定因素2、总体方差1020101103XYXY104斜率估计量的标准差斜率估计量的标准差105斜率估计量的标准误斜率估计量的标准误106

2.3OLS估计量的性质当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值。可从如下几个方面考察估计量的优劣性：〔1〕无偏性，即它的均值或期望值是否等于总体的真实值；〔2〕有效性，即它是否在所有线性无偏估计量中具有最小方差。说明：线性指估计量为随机变量Y的线性函数2.3OLS估计量的性质当模型参数估107估计量估计总体的公式总体均值的估计量：样本均值估计量估计总体的公式108估计量估计总体的公式总体均值的估计量：样本均值估计量估计总体的公式109估计量与估计值随机样本：无数个样本一个具体的样本：1、样本中每个随机变量都取定一个观察值2、根据估计量的公式计算估计值估计量与估计值随机样本：无数个样本110高斯—马尔可夫定理

给定CLRM的假设1-4，最小二乘估计量是具有最小方差的线性无偏估计量。高斯—马尔可夫定111《线性回归模型2》教学课件112无偏性成立的关键条件CLRM的假设1：µ

和Xi不相关无偏性成立的关键条件CLRM的假设1：µ和Xi不相关113案例分析学生的数学考试成绩被解释变量：在一次高中10年级标准化数学考试中通过学生的百分比解释变量：有资格承受联邦政府午餐补助学生的百分比math10=0+1lnchprg+1的含义1>0案例分析学生的数学考试成绩114EviewsMATH10=32.14－0.319*LNCHPRG请解释－0.319的含义其他影响因素：例如学生的贫穷率学生的贫穷率与受补助学生比例正相关，学生的贫穷率与数学考试通过率负相关EviewsMATH10=32.14－0.319*115线性：β帽是Y的线性函数线性：β帽是Y的线性函数1161的正态分布2.4OLS估计量的概率分布1的正态分布2.4OLS估1172.5假设检验不同的样本，得到不同的估计值，根据某一个具体样本得到的估计值质量如何？可以通过特定的检验指标来衡量2.5假设检验不同的样本，得到不同的估计值，118x(收入)y〔支出〕8010012014016018020022024026050100150200第一个样本回归直线第一个样本第二个样本第二个样本回归直线x(收入)y〔支出〕80100120140160180200119

显著性检验法

回归分析是要判断解释变量X是否是被解释变量Y的一个显著性的影响因素。

计量经计学中，主要是针对变量的参数真值是否为零来进展显著性检验的。稻草人假设：斜率参数为零显著性检验法回归分析是要判断解释变量X是120解释变量的显著性如果1等于零，那么X对Y没有影响1的估计值不等于零但是1真的不等于零吗？问题：如何说服我们相信你高考的数学成绩不是零分？解释变量的显著性如果1等于零，那么X对Y没有影响121

1、假设检验概述

假设检验采用的逻辑推理方法是反证法。先假定原假设正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否承受原假设。判断结果合理与否，是基于“小概率事件不易发生〞这一原理的。如果结果是个小概率事件，那我们认为这是不可能发生的。会发生不可能发生的事情，一定是假设前提错了。上述“小概率事件〞的概率被称为检验的“显著性水平〞，或者“犯第一类错误的概率〞〔拒绝了正确的虚拟假设〕1、假设检验概述假设检验采用的逻辑推理方法是反证法122问题显著性水平或犯错误概率在反证法推理中应当设定得越小越好，还是越大越好？问题显著性水平123t分布t分布124t分布t分布的均值为0t分布的方差为n/(n-2);n=30,1.07nnnt分布t分布的均值为0nnn125

2a(1-a)t分布t落在红色区域中的概率为5％|t|>2被认为是一个小概率事件02.5％-22.5％

2a(1-a)t分布t落在红色区域中的概率为5％|t|126假设检验的根本思想1、设计一个服从特定分布的随机变量，例如t2、选择一个取值范围，上述随机变量落在该取值范围内的概率很小，例如5％3、根据样本数据计算上述随机变量的数值4、判断该数值是否落在上述取值范围之内5、如果是，那么认为发生了不可能发生的事情。因此得出结论：假设前提错了假设检验的根本思想1、设计一个服从特定分布的随机变量，例如t127

2、解释变量的显著性检验

2、解释变量的显著性检验128斜率1的显著性检验在上述t统计量中假设1等于零，得到

t

=

斜率1的显著性检验在上述t统计量中假设1等于零，得到t129统计量t的解释t是一个随机变量，对应于不同的样本，t取不同的值给定一个具体样本，t是斜率的估计值和斜率的样本标准差的比率。被称为t比率

t

=

统计量t的解释t是一个随机变量，对应于不同的样本，t取不同的130

ca(1-a)t分布临界值c|t|>c的概率？在实践中，一般取α＝5％，确定一个小概率事件t~t(n-2)给定样本容量n和显著性水平α，就可以计算c0a/2(1-a)-ca/2

ca(1-a)t分布临界值c|t|>c的概率？在实践131yi=b0+b1xiµiH0:b1=0H1:b1

0c0a/2(1-a)-ca/2双侧检验拒绝域拒绝域+yi=b0+b1xiµiH0:b1=0132双边检验的步骤〔1〕对总体参数提出假设H0：1=0，H1：10〔2〕以原假设H0构造t统计量，并由样本计算其值〔3〕给定显著性水平，查t分布表，得临界值c＝t/2(n-2)(4)比较，判断假设|t|>t/2(n-2)，那么拒绝H0，承受H1；假设|t|t/2(n-2)，那么拒绝H1，承受H0；双边检验的步骤〔1〕对总体参数提出假设〔2〕以原133简易判断法那么当n>30时，t分布近似于正态分布给定显著性水平为5％，临界值c约为2如果t的绝对值大于2，就可以拒绝稻草人假设，说明斜率b1显著地不等于零因此，解释变量X对被解释变量Y具有影响简易判断法那么当n>30时，t分布近似于正态分布134案例分析工资被解释变量：工资〔1976年每小时美元数〕解释变量：教育〔年数〕计量模型：wage=0+1educ+t＝10.17问题：如何对待稻草人假设？案例分析工资135关于5％202.5%95%-22.5%拒绝域拒绝域关于5％202.5%95136p值p值是给定t比率后，能拒绝稻草人假设的最小显著性水平(犯错误水平〕即给定显著性水平为p，根据样本计算的t比率刚好可以拒绝稻草人假设如果显著性水平大于p，那么仍然可以拒绝如果显著性水平小于p，那么不可以拒绝问题：对于计量研究而言，p值越大还是越小好？p值p值是给定t比率后，能拒绝稻草人假设的最小显著性水平(犯137案例分析工资被解释变量：工资〔1976年每小时美元数〕解释变量：教育〔年数〕计量模型：wage=0+1educ+p＝0.0000

案例分析工资138思考题假设p值为0.01，如果研究者采用的显著性水平为5％，我们能否拒绝虚拟假设？如果研究者采用的显著性水平为0.5％，我们能否拒绝虚拟假设思考题假设p值为0.01，139

2.6判定系数

拟合优度检验：对样本回归直线与样本观测值之间拟合程度的检验。

度量拟合优度的指标：判定系数R2

问题：采用普通最小二乘估计方法，已经保证了模型最好地拟合了样本观测值