课件耀lwy chp简单回归模型

每月家庭可支配收入X（元YY XE(Y|Xi)=0+ X对于总体回归直线：E(Y|Xi)=0+1Xi，其中总体回归线（populationregressionline）：在给定解释变量Xi条件下被解释变量Yi的期望轨迹。也称总体回归曲线（populationregressionE(Y|Xif(Xi)称为（双变量）总体回归函数（populationregressionfunctionPRF）。观察值围绕它的期望值的离差（deviation），是一个不可观测的随量，称之为随机干扰项（stochasticdisturbance）或随机误差项ui= -y.E(y|x)=0+ . 给定收入水平Xi,个别家庭的支出可表示为两部 =Y|Xiui=0+1Xi+数据的欠缺（消费与收入、糟糕的替代变量（变量测量误差的影响y=0+1x+ 在简单回归模型y01xuy因变量（Dependent响应变量（ResponseVariable左边变量（Left-HandSide被解释变量（Exined回归子自变量（t右边变量（Right-HandSide解释变量（Exnatory回归元协变量控制变量（Control线性的含义：y和x之间并不一定存性关例如y=e0+1x+uwage=0+1educ+E(u)= y=(0+5)+1x+(u-由此E(u- 总可以通过调整常数现误差项的均值为零,因此该假定的限制性不E(u|xE(u)IfE(Y|X)=E(Y),thenCov(X,Y)=0[Infact,everyfunctionofXisuncorrelatedwithY.CovX,YCov(X,E[Y|X])Cov(X,E[Y])E(Y|f(X))E[E(Y|X)|f(X)]E[E(Y)|f(X)]E(Y由于已经假定了E(u)=0，因此有E(u|x)=E(u)=0. 在教育一例中，假定u代表内在能力，x代表教育年限，score=0+1attend E(u|attend)=score=0+1attend Whenstudentability,motivation,age,andotherfactorsinuarenotrelatedtoattendance,(2.6)wouldhold.Thisseemsunlikelytobethecase.由

E(y|x)=0+ 称总体回归直线，y的条件分布以它为。y

.

.E(y|x)=0+ x2若{(xi,yii=1,…,n是总体的一个yi=0+1xi+ yy E(y|x)=0+1 1

.. 由E(u|x)=E(u)= 可得Cov(x,u)=E(xu)= Cov(x,u)=Cov(x,E(u|x))=0=E(xu)–E(x)E(u)=uy0E(y–0–1x)= E[x(y–0–1x)]= 以上两个式称为总体的矩条件（momentE(y–0–1x)= E[x(y–0–1x)]=

ninnn

或

yˆ11

xxxyyˆ

x

xix

xn

2 ixixyyi则1

xix1Cov(x,y)/Var(x)

x

y

x

yii1 ii x xx y01xu0E(y)1E(x) 普通最小二乘法（methodofordinaryleastsquare,OLS）的基本思想：找到一组合适的参数估计值，ˆ

yy

ˆ

ˆ

} 拟合值ˆ def:iyiˆ uˆ2

yˆx

n(yˆˆx)

x(yˆˆx)

ˆyˆ

xxyy 1 xxi max)=(223,1281,14822).。N=209(estimatedsalary)=963.191+在例2.5中，若ShareA=60即60，预计候VoteA^=26.81+0.464 将shareA=60代入(2.28)得VoteA^=54.65.这并非不合理。如果候选人A花了竞选支出的60%，那么预测他将得到接近55%的选票。OLSOLS的样本残差平均值也为零 i(yix)

ˆ n in(xin

)(ˆiˆˆi

yˆˆ 每一次观测可以写成拟合值与残差之和yi

ˆ

n即：(

ˆ)(ˆiˆ

)ˆi

ˆiin(

y)ˆi

[ˆ(xxˆ iixuiˆ x ˆiixui

n

iˆˆn

xiˆin

ˆ

i2SST(yy 2i解释平方和(ExinedSumofSquares, SSE(ˆy)2ˆ2(xx i

残差平方和(ResidualSumofSquares,nSSRn

(yˆ)2

n n SSTSSRSSTy2yˆˆy2 uˆˆyySSR R2=SSE/SST=1–ExampleR2Example2.9竞选结果和活动开R2Theestimatedsampleregressionischangedfrom(estimatedsalarys)=963.191+18.501roe (estimatedsalarys)=963191+ nxixyiynˆ1

nn(estimatedsalary)=963.191+(estimatedsalary)=963.191+ 对于函数：ylog(x) 0xlog(x)log(x)

x xlog(x1x2)log(x1)log(x2)log(x1/x2)log(x1)log(x2)log(xc)clog(x)log(1x) xlog(x1)log(x0)(x1x0)/x0x/u0,(01educu)(01educ0u01log(wage)-log(wage0)(wagewage0)/log(wage)n

R2wˆgeR2自然对数的另一个重要用途是用于获得弹性为常log(salary)01log(sales)在CEO的薪水和企业销售额的例子中，常数弹性 P42）og(salary)n R2tInterpretationofyxyyLog-log(xy/y0log(y/y01x/误差u的关系可写作：y=0+1x+ {(xi SLR.3x不是一个不变的SLR.4给定解释变量的任何值，随机误差项的期望值都为零.E(u|x)0或 |xi)0(随机样本Eu|X0Xx1x2,xn它们的OLS估计量的期望值都等于它们各自的 Eˆ和Eˆ Xx1,x2,,xnˆ1

xixyynnxixii1 ˆxixyi,其中 xx1 分子xixyixix01xiuixix0xix1xixix xxixix11xix xx xxx xx ˆxix 记 xix,ˆ1SSTdu x 11

E

|X SSTx E |XE |x1,x2,,xnE |xi 101xuˆ110(1ˆ)x1故E(ˆ|X)E[(ˆ)x|X]E(u|X Using409Michiganhighschooldatafor1992–1993,weestimatedthatPredictedmath10=32.14-Predictedmath10=32.14-学考试的学生会减少3.2个百分点。可信吗？数学考试的学生会减少3.2个百分点。可信吗？实上，u包含着既影响学生成绩又与午餐项目资格高度AssumeSLR.5Var(u|x)=2 orVar(ui|xi)=2(Homoskedasticity)Var(y|x)=2orVar(yi|xi)=2

..=+.

.E(y|x)=0+ Var(u|x)=E(u2|x)-E(u|x022=E(E(u2|x))=E(u2)=称作误差方差（errorvariance）。E(y|x)=01xVar(y|x若工资方程满足同方差假设，即 若工资方程满足同方差假设，即 如果接受过高等教育的人的机会，收入的

X

x

x x

d2VaruX SSTx2

SST 2

d2221SST

x 2

x 2

SSTx 2widi/ wu

wE(u E(uu)E(u2/n)2/ wE(uu) w(2/n) yx ˆ(xu)ˆxu(ˆ Var(ˆ)Var(u)Var(ˆ)x22/n(2/SST)x22/n2x2/ 0 Var(ˆ)2[ /n0

n1 x2x2x2/ x2/SST SLR.1～SLR.5下，以样本值{x1,x2,…,xn}为条件有 和

|X)

nn (xix i (xi

x

|X 12nn12n

xn 1ni

x)2P uˆ2SSR/nn iiyiˆˆxui

0

1 ˆx ( ˆx1以上两式相减得：ˆi 1 i ˆ2(uu)2(ˆ)2(xx)22(ˆ)(uu)(x i i ˆ2(uu)2(ˆ)2(xx)22(ˆ)u( i E{(ˆ)2(xx)2}2iˆuˆu(xx)

(xx)2 (xx)2 u(xx)}22 定义：ˆ x已知：sdˆ1SST1x111seˆ1

1/2ˆ/

x212x1y 1

(

n

(

1 1

x2故1xiyi

1

2x = i x yi01xi 2 =xi(01xiui) xi 0xi

x2

xu

i

/

i +1

xiui/

i

2

条件于x可得：E(1)=0xi/xi + 11n当00时，这个偏差为零。当

1由(i)x1 Var(1) i VariVar(1) i Vari iVar(ui

x2

x2 2 x2

2x

=2

x

i i (2.57),Var(

(xi

)2n n 由于

x2

(xx)2Var(Var(ˆ n或

x)2

xi2n(x2 x0，它都小于xi

nxo2xoi11(x2的和被取定时)xˆ Var()0 ˆ ，x,和n的大小(以及 x2的大小) regressypredictyhat,predictSE,disyinvttail(8,generaow1=yhat-generategraphtwowaylfitciyx,stdp||scatteryx,msymbol(o)||,ytitle("Meancompositey")legend(off)xtitle("omex")title("Confidencebandsforconditionalmeans(stdp)")MeancompositeConfidencebandsforconditionalMeancomposite omeregressypredictyhat,predictSEyhat,disyinvttail(8, ow2=yhat-2.306*generatehigh2=yhat+2.306*graphtwowaylfitciyx,stdf||scatteryx,msymbol(o)||,legend(off)xtitle("omex")title("Confidencebandsforindividual-caseprediction(stdf)")0 0omegraphtwowaylfitciyx,stdp||scatteryx,||,ytitle("Meancompositey omex")title("Confidencebandsforconditionalmeans(stdp)")graphtwowaylfitciyx,stdf||scatteryx,msymbol(o)||,legend(off)xtitle("omex")title("Confidencebandsforindividual-caseprediction(stdf)")graphtwowaylfit