第6讲多元线性回归分析

1、1多元线性回归1 多元线性回归模型多元线性回归模型 2 回归方程的拟合优度回归方程的拟合优度3 显著性检验显著性检验22 回归方程的拟合优度多重判定系数多重判定系数估计标准误差估计标准误差3多重判定系数4多重判定系数回归平方和占总平方和的比例计算公式为因变量取值的变差中，能被估计的多元回归方程所解释的比例 SSTSSESSTSSRyyyyRniinii1121225修正多重判定系数(adjusted multiple coefficient of determination) 用样本容量n和自变量的个数p去修正R2得到 计算公式为避免增加自变量而高估 R2意义与 R2类似数值小于R211112

2、2pnnRRa6估计标准误差 Sy对误差项的标准差的一个估计值衡量多元回归方的程拟合优度计算公式为MSEpnSSEpnyySniiiy11127线性关系检验8 OLS 估计量的统计性质估计量的统计性质 可以证明两变量模型的最小二乘估计量同样具有如下性质： 在所有线性无偏估计量中，最小二乘估计量具有最小的方差 （证明略）的线性函数是YijjjE）（9 u项方差项方差 的无偏估计量的无偏估计量 定理：定理： 是是 的一个无偏估计量的一个无偏估计量 （证明略）（证明略）2u322neiu2u10回归系数检验和推断11回归系数的检验线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验究竟要对哪

3、几个回归系数进行检验，通常需要在建立模型之前作出决定对回归系数检验的个数进行限制，以避免犯过多的第一类错误(弃真错误) 对每一个自变量都要单独进行检验应用 t 检验统计量12 模型的统计检验模型的统计检验 我们研究的模型是：Y= 0+ 1X1+ 2X2+u 1.1.参数估计值的分布参数估计值的分布 )(000VarN，)(111VarN，222() )NVar，13 这里：2121)()(2222121212122222120 xxxxXXxxxXxXiinVariiiiiiu21)()(222212221xxxxxiiVariiiu21)()(222212122xxxxxiiVariiiu1

4、4 将上述方差中的 换为 计算得： j=0 ，1， 2 2. 变量的显著性检验（变量的显著性检验（t t检验）检验） （1 1）. .构造构造 t t 统计量统计量 由数理统计知识可以证明： t（n-3）其中其中j=0j=0，1 1 ，2 2 2u322neiu)()(jjVarS标准差()jjjtS15（2 2）. t. t检验的步骤检验的步骤： （i）提出提出原假设H0 ： j=0 备择假设H1 ： j 0 j=0，1，2 （ii）计算 t 统计量 （iii）给定显著性水平 ，查自由度为n-3的t分布表，得到临界值 (3)2nt16（iv）判断：（a）若 | t | 则在1- 水平下拒绝原

5、假设H0 ，即 j对应的变量xj是显著的； （b）若 | t | 则在1- 水平下拒绝原假设H0 ， 1 、 2 不同时为0，即模型的线性关系显著成立，模型是显著的； （ii）若 F 则在1- 水平下接受原假设H0 ，即模型的线性关系不是显著成立的，模型是不显著的。) 3, 2(nF(2,3)nF) 3, 2(nF20 4.4.样本决定系数样本决定系数 R R2 2 对两变量模型，同样有 ： 定义 ： = 为拟合优度的度量 越接近1，回归直线拟合样本点越好；越接近0，回归直线拟合样本点越差。 eyyiii222yyii22RXXY221.RXXY221. 对于回归直线的拟合优度：存在一个问题：

6、存在一个问题：R2的大小与解释变量的个数相关，要想改进R2使其接近1，只需增加解释变量的数目就可以了。 为了消除这种影响，定义修正的样本决定系数：yyxyxyxyyRiikikiiiiii22211222.11)1(122knnRR22说明：（1）n很大，k较小时（2）在k与n相比较时， 要考虑修正的样本决定系数 。（3）校正的判定系数即用自由度进行平均，用“单位”拟合误差进行比较，从而提高了可比性。（4）虽然非校正的判定系数总为正数，但校正的判定系数可能为负数。2RR22RR 22一般有：23 我们很容易可以得到 调整的R2 ， (1 R2)(n 1) / (n k 1), 大部分的软件会同

7、时给出 R2 和 调整的R2。 可以通过比较调整的R2 来比较两个模型（同一个y）的拟合程度。 但是不能通过调整的R2 来比较两个被解释变量不同的模型（如： y 与 ln(y) ）24 重要的是不要过于关注调整的R2 而忽略了理论和经济常识本身 如果经济理论清楚地预计某个变量应当被包括进来，那么就加入这个变量 不要加入影响对所关注的变量进行合理解释的变量；切记多元回归含意之一是控制了其它因素。255. F与R2的关系这两个统计量同方向变动。也就是说如果模型对样本有较高的拟合优度，则一般F检验都能通过。 1122knRkRF26实际应用中不必过分苛求R2值的大小，重要的是考察模型的经济意义是否合理。若n=17 k=3 n-k-1=13查表可得显著性水平为1的F统计量=5.74，而R2却只为0.5678。27变量的数量限制 受分析目的的限制 受观测数据量的限制 28多元回归模型、回归方程、估计方程多元回归模型、回归方程、估计方程回归方程的拟合优度回归方程的拟合优度显著性检验显著性检验用用 Excel Excel 进行回归分析进行回归分析29眼 光 真正的发现之旅， 不是为了寻找 全新的景色， 而是为了拥有 全新的眼光。30 瀑布 是江河走投无路时 创造的 奇迹。31 宁可失败在 你所喜欢的工作中； 也不要成功在 你所憎恶的事情上。32 最快的脚步， 不是跨越， 而是继续； 最慢的