2011-06-多元回归分析_75780290.ppt

1、袁克虹 办公电话：26032453 办公地点:L楼305B 邮件： 2011.04.26,多元线性回归模型,2,主要内容,多元线性回归模型的一般形式 参数估计（ OLS估计） 假设检验 预测,3,一. 多元线性回归模型,问题的提出 解析形式 矩阵形式,4,问题的提出,现实生活中引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。 例如，产出往往受各种投入要素资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。 所以在一元线性模型的基础上，提出多元线性模型解释变量个数 2,5, 对人均国民生产总值（Y）的 影响因素（X）有： 人口变动因素、固定资产数、货币供给

2、量、 物价指数、国内国际市场供求关系等 对汽车需求量（Y）的 影响因素（X）有： 收入水平、汽车价格、 汽油价格等,社会经济现象的复杂性 ！,6,多元线性回归模型表示方法,多元回归模型:含两个以上解释变量的回归模型 多元线性回归模型:一个应变量与多个解释变量之间设定的是线性关系 多元线性回归模型一般形式为：,7,多元线性回归模型的假设,解释变量 Xi 是确定性变量，不是随机变量；解释变量之间互不相关，即无多重共线性。 随机误差项具有0均值和同方差 随机误差项不存在序列相关关系 随机误差项与解释变量之间不相关 随机误差项服从0均值、同方差的正态分布,8,多元模型的解析表达式,9,多元模型的矩阵表

3、达式,10,矩阵形式,11,二. 参数估计(OLS),参数值估计 参数估计量的性质 偏回归系数的含义 正规方程 样本容量问题,12,2.1参数值估计(OLS),要使误差最小，因而须有偏导为0,13,得到下列方程组,求参数估计值的实质是求一个k+1元方程组,14,正规方程,变成矩阵形式,15,正规方程,矩阵形式,16,最小二乘法的矩阵表示,17,最小二乘估计量的性质,（1）线性（估计量都是被解释变量观测值的线性组合） （2）无偏性（估计量的数学期望=被估计的真值） （3）有效性（估计量的方差是所有线性无偏估计中最小的）,18,OLS估计量的性质（续）,19,线性,20,无偏性,21,有效性,22

4、,OLS回归线的性质,完全同一元情形：,23,注解：k与k+1,凡是按解释变量的个数为k的，那么共有k+1个参数要估计。而按参数个数为k的，则实际有k-1个解释变量。总之两者相差1而已！要小心所用的k是什么意思！ 所以如果本来是用解释变量个数的k表示的要转换成参数个数的k则用k-1代换原来的k就可以了！,24,偏回归系数的意义,多元回归模型中的回归系数称为偏回归系数 某解释变量前回归系数的含义是，在其他解释变量保持不变的条件下，该变量变化一个单位，被解释变量将平均发生偏回归系数大小的变动,25,样本容量问题,样本是一个重要的实际问题，模型依赖于实际样本。 获取样本需要成本，企图通过样本容量的确

5、定减轻收集数据的困难。 最小样本容量：满足基本要求的样本容量,26,最小样本容量 n k+1,(XX)-1存在| XX | 0 XX 为k+1阶的满秩阵 R(AB) min(R(A),R(B) R(X) k+1 因此，必须有nk+1,27,满足基本要求的样本容量,一般经验认为： n 30或者n 3(k+1)才能满足模型估计的基本要求。 n 3(k+1)时，t分布才稳定，检验才较为有效,28,多元线性回归模型的检验,本节主要介绍： 3.1 拟合优度检验（判定系数及其校正） 3.2 回归参数的显著性检验（t检验） 3.3 回归方程的显著性检验（F检验） 3.4 拟合优度、t检验、F检验的关系,29

6、,拟合优度检验,目的：构造一个不含单位，可以相互比较，而且能直观判断拟合优劣的指标。 类似于一元情形，先将多元线性回归作如下平方和分解：,30,对以上自由度的分解的说明,31,判定系数,判定系数的定义： 意义：判定系数越大，自变量对因变量的解释程度越高，自变量引起的变动占总变动的百分比高。观察点在回归直线附近越密集。 取值范围：0-1,32,校正判定系数,为什么要校正？ 判定系数随解释变量个数的增加而增大。易造成错觉：要模型拟合得越好，就应增加解释变量。然而增加解释变量会降低自由度，减少可用的样本数。并且有时增加解释变量是不必要的。 导致解释变量个数不同模型之间对比困难。 判定系数只涉及平方和

7、，没有考虑自由度。 校正思路： 引进自由度校正所计算的平方和。,33,校正判定系数 （续）,34,回归方程的显著性检验,35,回归方程的显著性检验,检验的目的：检验Y与解释变量x1，x2，xk之间的线性关系是否显著。,检验的目的,36,回归方程的显著性检验,检验的步骤,第一步，提出假设：,原假设：H0：b1=b2=bk=0,备择假设：H1：bi不全为0 （i=1，k）,37,回归方程的显著性检验,检验的步骤,第二步，计算统计量：,或：,（10-8）,38,回归方程的显著性检验,第三步，查表，得：,检验的步骤,39,回归方程的显著性检验,检验的步骤,第四步，做检验：,拒绝H0， 回归方程显著,接受H0， 回归方程不显著,检验 法则,40,回归系数的显著性检验,回归方程显著，并不意味着每个解释变量对因变量Y的影响都重要,因此需要进行检验：,回归系数检验的必要性,回归方程显著,每个回归系数都显著,41,回归系数的显著性检验,回归系数检验的步骤,第一步，提出假设：,原假设：H0： bi=0 (i=1，2，k),备择假设：H1：bi0 (i=1，2，k),42,回归系数的显著性检验,回归系数检验的步骤,第二步，构造并计算统计量 ：,43,回归系数的显著性检验,回归系数检验的步骤,第三步，查表得 ：,44,回归系数的显著性检验,回归系数检验的步骤,第四步，做检验：,接受H0,检验 法则,拒