计量经济学多元线性回归ppt课件

1、多元回归分析Multiple Regression Analysis y = b0 + b1x1 + b2x2 + . . . bkxk + u 4.进一步的问题本章大纲n数据的测度单位换算对OLS统计量的影响n对函数方式的进一步讨论n拟合优度和回归元选择的进一步讨论n预测和残差分析课堂提纲n重新定义变量的影响n估计系数nR 平方nt 统计量n函数方式n对数函数方式n含二次式的模型n含交叉项的模型重新定义变量n为什么我们想这样做？n数据测度单位变换经常被用于减少被估参数小数点后的零的个数，这样结果更美观一些。n既然这样做主要为了美观，我们希望本质的东西不改动。重新定义变量：一个例子n以下模型反

2、映了婴儿出生体重与孕妇吸烟量和家庭收入之间的关系：n(1)n思索如下单位变换：n(2) 出生体重单位由盎司变为磅n(3) 香烟的支数变为包数n估计结果列于下表n012minbwghtcigsfacTable 6.1Y (column) (1) bwght(2)bwghtlbs(3) bwghtX (rows)Cigs-0.4634 (0.0916)-0.0289 (0.0057)-Packs-9.268 (1.832)Faminc0.0927 (0.0292)0.0058 (0.0018)0.0927(0.0292)Intercept116.794 (1.049)7.3109 (0.0656)

3、116.974(1.049)Observations888R-squared0.02980.02980.0298SSR557,485.512177.5778557.485.51SER20.0631.253920.063改动被解释变量测度单位的影响n由于1磅16盎司，被解释变量被除以16。n比较第1列与第2列。n(1)中被估参数/16 (2)中被估参数n(1)中被估参数的规范差/16 (2)中被估参数的规范差n(1)和(2)中 t 统计量一样nR平方一样n(1)中SSR/16*16 (2)中SSRn(1)中SER(规范差)/16 (2)中SER012/16/16(/16)(/16)minbwgh

4、tcigsfac改动解释变量测度单位的影响n如今香烟数量单位变为包。n如今比较 第(1)列和第(3)列。n变量faminc系数和截距项的估计值和其规范差分析同上。npacks的系数估计值和规范差变为20倍。nt 统计量一样nR平方一样nSSR一样nSER一样012(*20)(/20)minbwghtcigsfac重新定义变量n改动变量y的测度单位会导致系数和规范差相应的改动，所以解释变量系数显著性和对其解释没有改动。n改动一个变量x的测度单位会导致该变量系数和规范差的相应改动，所以一切解释变量显著性和对其解释没有改动。n假设被解释变量以对数方式出现，改动被解释变量度量单位对任何斜率系数没有影响

5、。n来自log(cy)=log(c)+log(y)，改动y测度单位将改动截距，不改动斜率系数。Beta系数n思索如下方式的样本回归方程：n=200+20,000 x1 +0.2x2n我们能说x1是最重要的变量吗？n如今，查看以下各个变量的单位：ny单位：美圆nx1单位：美分nx2单位：千美圆Beta系数n上例提示了什么问题？n被估计系数的大小是不可比较的。n一个相关的问题是，当变量大小差别过大时，在回归中因运算近似而导致的误差会比较大。Beta系数n有时，我们会看见“规范化系数或“Beta系数，这些称号有着特殊的意义n运用Beta系数是由于有时我们把y和各个x交换为规范化版本也就是，减去均值后

6、除以规范离差。n系数反映对于一单位x的规范离差的y的规范离差。Beta系数j12k01 12 2yxy1 x2 xx., zz zzz.z(2)jikkijjiiiyxyjkjjyxxxxxyyyxzzbbbb样本回归方程的标准形式是标准化和 ，。现在将 向回归得到注意没有截距项现在，与的关系如何？Beta系数1122121212.,1,2,.,iiikikkkyyyykjjjyjijijyyxxxxxxbjkbxyb可以看到令传统上被称为标准化系数或 系数。意思是，如果 改变一单位标准离差，则 改变单位标准离差。例子 ustratiodistroomscrimenoxprice543210z

7、stratiozdistzroomszcrimeznoxceizpr270. 0235. 0514. 0143. 0340. 0函数方式nOLS也可以用在x和y不是严厉线性的情况，经过运用非线性方程，使得关于参数仍为线性。n可以取x，y一个或全部的自然对数n可以用x的平方方式n可以用x的交叉项对数模型的解释n假设模型是 ln(y) = b0 + b1ln(x) + unb1是y对于x的弹性n假设模型是ln(y) = b0 + b1x + unb1近似是，给定一单位x的改动，y的百分比变化，常被称为半弹性。为什么运用对数模型？n取对数后变量的斜率系数，不随变量测度单位改动。n假设回归元和回归子都

8、取对数方式，斜率系数给出对弹性的一个直接估计。n对于y0的模型，条件分布经常偏斜或存在异方差，而ln(y)就小多了，所以nln(y)的分布窄多了，限制了异常或极端观测值(outliers)的影响。一些阅历法那么n什么类型的变量经常用对数方式？n一定为正的钱数：工资，薪水，企业销售额和企业市值。n非常大的变量：如人口，雇员总数和学校注册人数等。n什么类型的变量经常用程度值方式？n用年丈量的变量：如教育年限，任务阅历，任期年限和年龄n可以以程度值或对数方式出现的变量：n比例或百分比变量：失业率，养老保险金参与率等。对数方式的限制n一个变量取零或负值，那么不能运用对数。n假设y非负但可以取零，那么有

9、时运用log(1+y)。n当数据并非多数为零时，运用log(1+y) 估计，并且假定变量为log(y)，解释所得的估计值，是可以接受的。慎重运用对数方式n留意到，当y取对数方式时，更难以预测原变量的值，由于原模型允许我们预测log(y)而不是y。01 1111111log( ).1log( )% exp( log( ) 1 100*(exp() 1) yxxyyxyyyyxy 考虑如果我们想知道时， 的百分比变化，我们不能只报告 ，因为，所以含二次式的模型n对于方式为y = b0 + b1x + b2x2 + u的模型，我们不能单独将b1解释为关于x，y变化的度量，我们需求将b2也思索进来，由

10、于20121212(1) (2) 2, so(3) 2yxxyxxyxx n假设感兴趣的是，给定x的初始值和变动，预测y的变化，那么可以直接运用1。n普通来说，我们可以运用x的平均值，中值，或上下四分位数来预测y，取决于我们感兴趣的问题。含二次式的模型122(0.35)(0.041)(0.0009)01 ，所以调整过的R2总比R2小。n参与一个解释变量有两个相反的效果。1SSR降低导致调整过的R2添加。2 (n-1)/(n-k-1) 添加导致调整过的R2降低。n调整过的R2能够是负的，发生在以下情况：一切解释变量使残差平方和下降的太少，缺乏以抵消因子(n-1)/(n-k-1)。n R2只需在过

11、原点回归中才能够为负。比较R2和Adjusted R2nR2和调整过的R2通知我们，解释变量能否很好地预测了，或“解释了，手头数据中被解释变量的值。nR2和调整过的R2并没有通知我们n被包含变量能否统计显著n解释变量能否是被解释变量变动的真正缘由n能否有脱漏变量偏误，或n能否选取了最适宜的解释变量组合R2和Adjusted R2 在决议某个变量能否应该被参与模型时，R2和Adjusted R2并非理想的工具。决议一个解释变量能否属于模型的要素应该是，该解释变量在总体中对y的部分效应能否为零。拟合优度和解释变量选择的进一步讨论拟合优度和解释变量选择的进一步讨论nAdjusted R-Square

12、d2/11/SSRSSR nRSSTSST n 2/(1)111/(1)1SSRnkSSRnRSSTnSST nk 2211 (1)1nRRnk n我们定义总体R2为：y的变异在总体中能被解释变量解释的比例，为n调整过的R2仍不是总体R2的一个无偏估计量，由于两个无偏估计量的比例不是一个无偏估计量。221/.uy拟合优度和解释变量选择的进一步讨论拟合优度和解释变量选择的进一步讨论n调整过的R2最根本的吸引力，在于它对向模型添加自变量的惩罚。n假设我们向回归模型参与一个新的解释变量，当且仅当新变量的t统计量的绝对值大于1时，调整过的R2添加。拟合优度和解释变量选择的进一步讨论拟合优度和解释变量选

13、择的进一步讨论利用调整的R2在两个非嵌套模型中进展选择n假设两个模型中任何一个都不是另一个的特例，那么两个模型是非嵌套的。nF统计量只允许我们检验嵌套的模型，由于有限制的模型是无限制模型的特例。n我们需求一些在无嵌套模型间进展选择的指点。n当变量有不同函数方式时，经过比较调整过的R2 ，在不同的解释变量的非嵌套组合中进展选择，是颇有价值的。n例如，一个模型是y= b0 + b1x1 + b2log(x2 ) ，n另一个是y= b0 + b1x1 +b2 x2+b3 x22 。n假设第一个模型调整过的R平方为0.3，而第二个为0.6，我们倾向于选择第二个模型利用调整的R2在两个非嵌套模型中进展选

14、择n 调整过的R2的限制：我们不能利用它在关于因变量函数方式不同的模型间进展选择利用调整的R2在两个非嵌套模型中进展选择预测分析：估计量01 112001 11001 1.c ,.,.( |,.,).kkkkkkkkyxxccccE y cccc设想我们有估计方程 。我们将自变量的具体数值代入其中时，得到y的一个预测值。例如，令分别代表k个自变量中每一个的具体值，想要估计的参数：。它的估计量是。0001 101110.().()kkkkkccyxcxcu如何得到 的标准误差？本质上讲，这是一个寻找OLS估计量的线性组合的标准误差的问题。因为 ，我们可以得到 。的标准误差就是新的回归截距项的标准

15、误差。预测分析：规范差预测分析：置信区间00000*( ), *( )c sec sec在得到估计量和相应的标准误之后，下一步比较直接的是估计 的置信区间：，其中 是给定显著性水平的临界值。预测分析：一个特殊y的置信区间0 10(|,.)kE y xxy我们刚刚定义，因此，我们可以为y的平均值建立一个置信区间。如何为总体中的一个特定的值， 建立置信区间呢？需要考虑进不可观察误差的变化。预测分析： y0的预测区间10 000010000yO LS y.,ey .E (e )0kkxxy令的回 归 线 为则 ， 预 测 误 差 为 ，容 易 证 明。000020000V(e )(y )()(y )

16、y*(e ),y*(e )VV uVc sec se我们也可以证明。现在预测区间为。预测分析： y0的预测区间10 000010000yO LS y.,ey .E (e )0kkxxy令的回 归 线 为则 ， 预 测 误 差 为 ，容 易 证 明。n有时，检验个体观测值来看它的因变量高于还是低于预测值是有用的。n也就是，检验个体观测值的残差。残差分析残差分析n例：将房价对一些可观测特点回归，得预测值，算出残差。残差为负那么阐明根据可观测要素房价偏低。负的程度最大值的大小阐明我们还没有控制要素的重要程度。可为改值建立预测区间。 y = b0 + b1x1 + b2x2 + . . . bkxk

17、+ u 5. Dummy Variables虚拟变量n 虚拟变量是一个取值为1或0的变量。n例: male (= 1 if are male, 0 otherwise), south (= 1 if in the south, 0 otherwise), etc.n虚变量也称二值变量。虚拟变量n思索只需一个解释变量(x)和一个虚拟变量(d)的简单模型。n y = b0 + d0d + b1x + un 该模型可以看做是一个截距的变化。This can be interpreted as an intercept shiftn假设d = 0, 那么 y = b0 + b1x + un 假设 d = 1, 那么y = (b0 + d0) + b1x + und = 0组为基组。Example of d0 0 xyd00y = (b0 + d0) + b1xy = b0 + b1xslope = b1d = 0d = 1例1 日本1985-1995年水稻产量与耕种面积的变化 年份产量10万吨Y耕种面积万公顷X19851162321986116228198710621219889920919891032081990105206199