应用回归分析

1、第3章多元线性回归思考与练习参考答案3.1见教材P64-653.2讨论样本容量口与自变量个数p的关系，它们对模型的参数估计 有何影响？答：在多元线性回归模型中，样本容量n与自变量个数p的关系是： np。如果n=p对模型的参数估计会带来很严重的影响。因为：在多元线性回归模型中，有p+1个待估参数B,所以样本容量的 个数应该大于解释变量的个数，否则参数无法估计。解释变量X是确定性变量，要求rank(X) = p + 1vn，表明设计矩阵X中的自变量列之间不相关，即矩阵 X是一个满秩矩阵。若 rank(X) v p +1，则解释变量之间线性相关，(XX)-1是奇异阵，则p 的估计不稳定。3.3证明a

2、 2 = SSE。- p -1)随机误差项的方差Q2的无偏估计。证明：.6 2 = 1 SSE = 1 (efe) = 1 e2, n p 1n p 1n p 1 ii=1 TOC o 1-5 h z E(e2) = &(e ) = 62(1 h) e(1 h ) =n h) =gn p 1) iiiiiiiii=1i=1i=1i =1i=1 E(6 2) = E (e 2) =62 n p 1i=13.4 一个回归方程的复相关系数R=0.99，样本决定系数R 2=0.9801，我们能断定这个回归方程就很理想吗?答：不能。复相关系数R与样本决定系R 2数都是用来表示回归方程 对原始数据拟合程度

3、的好坏。样本决定系数取值在【0,1】区间内， 一般来说，R越接近1,即R2取值越大，说明回归拟合的效果越好。 但由于R2的大小与样本容量n和自变量个数p有关，当n与p的值 接近时，R容易接近1，说明R中隐含着一些虚假成分。而当样本 容量n较小，自变量个数p较大时，尽管R2很大，但参数估计效果 很不稳定。所以该题中不能仅仅因为R2很大而断定回归方程很理想。 3.5如何正确理解回归方程显著性检验拒绝H。，接受H0 ?答：一般来说，当接受假设H0时，认为在给定的显著性水平a之下，_m.X X xX X x目变量1, 2，p对因变量y尢显著性影响，则通过1, 2，p 去推断y就无多大意义。此时，一方面

4、可能该问题本应该用非线性模 型描述，我们误用线性模型描述了，使得自变量对因变量无显著影响; 另一方面可能是在考虑自变量时，由于认识上的局限性把一些影响因 变量y的自变量漏掉了，这就从两个方面提醒我们去重新考虑建模问 题。当拒绝H 0时，也不能过于相信该检验，认为该模型已经很完美。其 实当拒绝H时，我们只能认为该回归模型在一定程度上说明了自变量 X, X2,，Xp与因变量y的线性关系。因为这时仍不能排除我们漏掉 了一些重要自变量。此检验只能用于辅助性的，事后验证性的目的。（详细内容可参考课本P95P96评注。）3.6数据中心化和标准化在回归分析中的意义是什么？答:原始数据由于自变量的单位往往不同

5、，会给分析带来一定的困难;又由于设计的数据量较大，可能会以为舍入误差而使得计算结果并不 理想。中心化和标准化回归系数有利于消除由于量纲不同、数量级不同带来的影响，避免不必要的误差。, j -1,2, j证明：多元线性回归方程模型的一般形式为:y = P +B x + B x + + & x + 801 12 2p p4X HA 日口 壬早=4 4-1 y = P + P X + P X +.+X 其经验回归方程式为01122pp，又P = y-Bx -pP x -.-6 x ，0112 2p p故 y = y + P (x -x) + p (x -x) + .+p(x -x )，111222p

6、 p p中心化后，则有y -y = 6(x -x)+6(x -x)+.+6(x -x)，i111222p p p左右同时除以= （y厂y）2 i=1令L W (x -x )2,i = 1,2,.,n， j = 1,2,.，p jj =ij ji=1(x - x )Ld (x - x )Ld (x x )i1_1 X y_LL + P i22 X= + .+、11yy七 22yyO=B 产yy样本数据标准化的公式为-X ppLyy,y * = y y ,i = 1,2,.,n， j = 1,2,.,p i则上式可以记为y,* = P1X x* + P * 22 X x* + yy=P*X x *

7、+ P*X x *+ P*X x *1 i12 i 2p ipX x *ip则有、；L。；一L。j，j=1,2,* yy3.8验证3.9验证决定系数R2与F值之间的关系式:R 2 =F + (n - p -1)/ passr . / 1ASSE.F =SSE / | ?i - 7? - 1 | SSE j 就 一 p 一 11.，七知工 g x_而 F,.-=:;: :SSE j ._._ r =.由上两式可知，其考虑的都是通过潴归在总体中所占比例来衡量第j个因素的重要程度,因而F.与一是等价的.F + (n - p -1)/ p3.10验证决定系数R2与F值之间的关系式：r2 =证明:SSR / p F =,SSE /(n - p -1)* F SSE:.SSR =x pn - p