第三二元回归最小二乘法学习教案

1、会计学1第三第三 二元回归二元回归(hugu)最小二乘法最小二乘法第一页，共54页。2第1页/共53页第二页，共54页。3第2页/共53页第三页，共54页。xxxxxxxxxxxyxyuuuxxxyyyuxyiiiiiiiiniiinnniiinnXXnXXXYXubaBXYBXYuYYuXBYba2221221212121111,111,模型：第3页/共53页第四页，共54页。xxxxxxxxxxxxxxxxyxyxyuuubbxxxxxxyyyuxbxbyiiiiiiiiiinniiiiinnnniiiinXXXYXuaBXYBXYuYYuXBYa222122121121222121211

2、12121212122211211212211111,111,模型：第4页/共53页第五页，共54页。6yxbxbxxxbxbxbayyxbxxbxxbxbxbayybxbxxbxbayxbxbayyyuyyuuyyxbxbyuxbxbyiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiaanaaiiMinaa2222121222211212211211122112221122112221122222112211000模型：第5页/共53页第六页，共54页。yyyyyyyaaanaxxbbxxxxxxxbxbxxxbxxbxyxxbxxbxxxxyxxbxxxxbxxx

3、bxbyxbxbxxxyxbxxbxxybxbxiiiiiiiiiiiiiiiiiiiiiiiiiii212122212121222212112211212221121221111222111112221122221212122112112211)8()7()6()5(324)4(1)3()2() 1 (简记为：）式，经整理得：）、（）式代入（将（）式解得：由（正规方程：第6页/共53页第七页，共54页。8YXXXBYXBXXanaanayxyxybbxxxxxxxxxxyxbxbxxxyxbxxbxxybxbxiiiiiiiiiiiiiiiiiiiiiiiiiiiiii12121222122

4、12112122221212122112112211)3()2() 1 (即：正规方程的矩阵表示为正规方程：第7页/共53页第八页，共54页。9)6()5(324)4(1) 3()2() 1 (2211222211211221122112222112222112222211112221221122221212122112112211xxxxxxxxyxxxxxxyxxxxbxxxxxxxxyxxxxxxyxxxxbxbxbyxbxbxxxyxbxxbxxybxbxiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiyyyyyaaana）式，经整理得：）、（）式代入

5、（将（）式解得：由（正规方程：第8页/共53页第九页，共54页。10离均差。请注意，这里使用的是的正规方程组：消去xbxbxxxxxxxxxxxbxxxxxxxxxxxbxxbbxxxxxxxbxbxxxbxxbxyayyYyyyyya221121212121212121221212121222121121212121212122221211221121)2() 1 (第9页/共53页第十页，共54页。xxyyxxyyyyxxyyyyayaxxxxxxxxxxxxxxxxxxxxxxbbxxxxxxxxxxxxxxxxbbxxxxxxxbxbxxxbxxbxxbxb21222211212212

6、1222212211222122212121121212222121212122222121211212122212121222212112211212211:1，并简记为代回去，消去）式解得：由正规方程（第10页/共53页第十一页，共54页。yxyYXnnXXnXXbaYXXXBYXXXXBXXXYXXBXXBXYXBBXXBYBXYYBXBBXYXBYYMinBXXBYXBYYYXBBXYBXXBYXBBXYYYBXYBXYuuXBYuXBYuuYYuXBYaiiiiiiiiiiiiiiiiiXnnXXXXnnXXXiiiiixxxxxxxxxuxyuuuuxbxby22121112213

7、31133111112221102222min2为例：以一元模型是一个数模型：第11页/共53页第十二页，共54页。13xxxxxxxxxxxxxxxxuuubbxxxxxxyyyuxbxbyiiiiiiiiiinnnnnniiiinXXXuaBXYuXBYa222122121121222121211121212122211211212211111111模型：第12页/共53页第十三页，共54页。14YXXXBYXBXXuuMinBXYuXBYyXXXuBXyyyYauxxbxxbyxxxxxxxxxxxxxxxxxxuuubbxxxxxxxxxxxxyyyuxbxbyiiiiiiiiiinn

8、nnnniiii122211122212121222222121112111121212222221211121111212211)()()(中心化原模型：第13页/共53页第十四页，共54页。xxxxxxxxxbxxxxxxxxxbxxxxxxxxxxxxuxxbxxbyxxxxxxxxxxxxxxxxxxiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiinnyyyyyyYXXXYXXXBYXBXXuuMinBXYuXBYyXXX2122221121221221222212211221212122221212121221122211122212121222222121112

9、1111)()()(第14页/共53页第十五页，共54页。16SALESADSPRICEyx1x213656.712.024863.99.034562.711.044059.713.053055.914.565668.79.576369.27.585365.511.096169.49.0106873.48.5116674.110.0126574.49.5obs第15页/共53页第十六页，共54页。17第16页/共53页第十七页，共54页。18第17页/共53页第十八页，共54页。19Estimation Command:=LS SALES ADS PRICE CEstimation Equat

10、ion:=SALES = C(1)*ADS + C(2)*PRICE + C(3)Substituted Coefficients:=SALES = 1.6097306*ADS - 1.3069856*PRICE - 40.313541第18页/共53页第十九页，共54页。20第19页/共53页第二十页，共54页。21第20页/共53页第二十一页，共54页。 110:100:21/2/120202221122221122222性为回归方程有意义的可靠整个如果远远地大于不成立零假设是一样的的分子与分母动项的作用没有区别即它们的作用与随机扰作用所有自变量对因变量无成立零假设统计量拟合优度FRHRH

11、RxbxbayyyyxbxbayyyyyyyyFFFFRSSnESSRSSFFTSSESSTSSESSTSSTSSRSSESSRSSRSSESSTSSiiiiiiiiiii第21页/共53页第二十二页，共54页。23成立成立，HFHssAerFFnESSRSSF,132022第22页/共53页第二十三页，共54页。24 观察(gunch)值个数n 方法 因变量是谁样本范围第23页/共53页第二十四页，共54页。25R-squared0.982691 Mean dependent var52.58333Adjusted R-squared0.978845 S.D. dependent var12

12、.73833S.E. of regression1.852775 Akaike info criterion 1.445687Sum squared resid30.89497 Schwartz criterion1.566913Log likelihood-22.70138 F-statistic255.4816Durbin-Watson stat1.473207 Prob(F-statistic)0112knESSknyyiiESSuyyiii22) 1/(/knESSkRSS112nTSSnyyi第24页/共53页第二十五页，共54页。26R-squared0.982691 Mean d

13、ependent var52.58333Adjusted R-squared0.978845 S.D. dependent var12.73833S.E. of regression1.852775 Akaike info criterion 1.445687Sum squared resid30.89497 Schwartz criterion1.566913Log likelihood-22.70138 F-statistic255.4816Durbin-Watson stat1.473207 Prob(F-statistic)0TSSRSSyyyyii22ESSuyyiii22) 1/(

14、/knESSkRSSnyyi第25页/共53页第二十六页，共54页。27Variable Coefficient Std. ErrorT-Statistic Prob. ADS1.6097310.13986411.509240PRICE-1.3069860.451096 -2.8973590.0177C-40.3135413.26641 -3.0387670.014b1 bVar1)(011bbVartxbxbya2211根据(gnj)前栏t值和自由度查出的概率第26页/共53页第二十七页，共54页。28Estimation Command:=LS SALES ADS PRICE CEstim

15、ation Equation:=SALES = C(1)*ADS + C(2)*PRICE + C(3)Substituted Coefficients:=SALES = 1.6097306*ADS - 1.3069856*PRICE - 40.313541第27页/共53页第二十八页，共54页。29n4残差与拟合值不相关002uui00,cov,uyiiuyii0,21uxuxiiiiCOVCOVyy第28页/共53页第二十九页，共54页。30第29页/共53页第三十页，共54页。2,22211222211122212221122211222211222221111222122211222,

16、2221122211,212211221122221122222111122212121211,12211,xxynCOVyyyiiixxxxnCOVyyiiiiiixxxxyxxxxyxxxxbxxxxxxxxxxxxyxxxxxxyxxxxbxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxyxxxxxxyxxxxbiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii第30页/共53页第三十一页，共54页。bbxxyxxxxxxyxxxxbxxxxxxyxxxxyxxxxbxbxbyxxyxxbxbyiiiiiiiiiiiiiiiii

17、iiiiiiiiiiyyCOVxxxxynCOVyayaiiii111121122211211112121,2,22211222211122212211112111110,01,2121时当中：在二元模型中：在一元模型第31页/共53页第三十二页，共54页。，自变量之间完全相关这就是所谓的多重共线，从而无法将估计出。分母时，当11,2121,2,2221122221112221xxxxynCOVyiiiixxxxyxxxxyxxxxbiiiiiiiii第32页/共53页第三十三页，共54页。34第33页/共53页第三十四页，共54页。35第34页/共53页第三十五页，共54页。36 Yi Xi

18、1 Xi2b1b1b2b2x1x2x1y带“”的表示“总的”作用(zuyng)=净作用(zuyng)+其它变量的间接作用(zuyng)x2x1y第35页/共53页第三十六页，共54页。37第36页/共53页第三十七页，共54页。38作用（净影响）作用（净影响）第37页/共53页第三十八页，共54页。39（它又是残差）注意：的剩余扣除0011221111222122222112121VVxxxxxVxxxxxxxxxxxxxiiiiiiiiiiiiiiiiidcddcdc第38页/共53页第三十九页，共54页。40建立关系。的作用）去与（已经扣除接下来用剩余注意：的剩余扣除yxVVVxxxxxV

19、xxxxxxxiiiiiiiiiiiiiiiiidcddcdc21112211112221212100第39页/共53页第四十页，共54页。41bxxxxyVVyVVVVyVVyVVxxxxxVgygyyggyfgfdciiiiiiiiiiiiiiiiiiii11121121111211111122111100欲证明分母分子注意：的剩余扣除第40页/共53页第四十一页，共54页。42xyxxxxxyxxyxxxxxxxxxxyxxxxxxxxxxyxxxxyxxyxxxxyiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiyyddyddyyyg22221221222222211

20、222112222211221122111111211分子分子其中分子分子分母分子第41页/共53页第四十二页，共54页。 xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxdxxxdxdxxxxxxxxyiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiyg222122221222221122221122222211222112222112222221122222222211221111222222221111222112221121121121122分母分母分子分 母第42页/共53

21、页第四十三页，共54页。xxyxxxxxxxxxxyxxxxyiiiiiiiiiiiiiyyyg2222222112221111211分子分母分子xxxxxxxxxxiiiii22222112222112分母bbxxxxxxxxxxxxxxxxxyxxxxxxxxyxxgyygiiyygiiiiiiiii1121222212212212222112222211222112211分母分子第43页/共53页第四十四页，共54页。45第44页/共53页第四十五页，共54页。46第45页/共53页第四十六页，共54页。47第46页/共53页第四十七页，共54页。48的增量。单位后对增加一个时，等于是在说明（旧）（新）个单位）：增加新的（不变化）：旧的（当yxxxbbyyxbxbyxbxbyxxxxbbxxiiiiiiiiiiiiiixxiixxiiCOVyaXaXCOVCOV1211122112211212, 121112, 1210,) 1(1110100,00,第47页/共53页第四十八页，共54页。49。影响的了表示的间接影响，其中包含进行通过表示表示直接影响，中在（旧）（新）（）（新）（旧），即变化，将引起变化