计量经济学-中-3-多元线性回归

多元线性回归统计学11.1 多元线性回归模型一 . 多元回归模型与回归方程二 . 估计的多元回归方程三 . 参数的最小二乘估计多元回归模型与回归方程多元回归模型(multiple regression model) 一个因变量与两个及两个以上自变量的回归 描述因 变量 y 如何依赖于自变量 x1 ， x2 ， ， xp 和误差项 的方程，称为多元回归模型 涉 及 p 个自变量的多元回归模型可表示为 b0 ， b1， b2 ， ， bp是参数是参数 是被称为误差项的随机变量是被称为误差项的随机变量 y 是是 x1,， x2 ， ， xp 的线性函数加上误差项的线性函数加上误差项 包含在包含在 y里面但不能被里面但不能被 p个自变量的线性关个自变量的线性关系所解释的变异性系所解释的变异性多元回归模型(基本假定 ) 误 差项 是一个期望值为 0的随机变量 ， 即E( )=0 对于 自变量 x1， x2， ， xp的所有值， 的方差 2都相同 误 差项 是一个服从正态分布的随机变量，即 N(0, 2)， 且相互独立多元回归方程(multiple regression equation) 描 述因变量 y 的平均值或期望值如何依赖于自变量 x1， x2 ， ， xp的方程 多 元线性回归方程的形式为E( y ) = 0+ 1 x1 + 2 x2 + p xp b1， b2， ， bp称为偏回归系数称为偏回归系数 bi 表示假定其他变量不变，当表示假定其他变量不变，当 xi 每每变动一个单位时，变动一个单位时， y 的平均变动值的平均变动值二元回归方程的直观解释二元二元 线性回归模型线性回归模型(观察到的观察到的 y)回归面回归面 0 ix1yx2(x1,x2)估计的多元回归方程估计的多元回归的方程(estimated multiple regression equation) 是是 估计值估计值 是是 y 的估计值的估计值 用样本统计量 估计回归方程中的 参数 时得到的方程 由最小二乘法求得 一般形式为参数的最小二乘估计参数的最小二乘法2. 求求 解解 各回归参数的标准方程如下各回归参数的标准方程如下1. 使使 因变量的观察值与估计值之间的离差平方和因变量的观察值与估计值之间的离差平方和达到最小来求得达到最小来求得 。 即即参数的最小二乘法(例题分析 )【 例例 】 一家大型商业银行在多个地区设有分行，一家大型商业银行在多个地区设有分行，为弄清楚不良贷款形成的原因，抽取了该银行为弄清楚不良贷款形成的原因，抽取了该银行所属的所属的 25家分行家分行 2002年的有关业务数据。试建年的有关业务数据。试建立不良贷款立不良贷款 (y)与贷款余额与贷款余额 (x1)、 累计应收贷款累计应收贷款(x2)、 贷款项目个数贷款项目个数 (x3)和固定资产投资额和固定资产投资额 (x4)的的线性回归方程，并解释各回归系数的含义线性回归方程，并解释各回归系数的含义 用用 Excel进行回归进行回归 11.2 回归方程的拟合优度一 . 多重判定系数二 . 估计标准误差多重判定系数多重判定系数(multiple coefficient of determination) 回归平方和占总平方和的比例 计算公式为 因变量取值的变差中，能被估计的多元回归方程所解释的比例 修正多重判定系数(adjusted multiple coefficient of determination) 用样本容量 n和自变量的个数 p去修正 R2得到 计算公式为 避免增加自变量而高估 R2 意义与 R2类似 数值小于 R2Excel 输出结果的分析输出结果的分析估计标准误差 Sy 对误差项 的标准差 的 一个估计值 衡量多元回归方的程拟合优度 计算公式为Excel 输出结果的分析输出结果的分析11.3 显著性检验一 . 线性关系检验二 . 回归系数检验和推断重要的和不重要的不管你是否准备好，有一天一切都会结束。不再有旭日东升，不再有灿烂白昼，不再有一分一秒的光阴。你收藏的一切，不论是弥足珍贵的还是已经忘记的，都将留给别人。你的财富、名望和世俗的权利都变成细枝末节的事情，不管你拥有的还是亏欠的，都不再重要。你的嫉恨、冤仇、挫败和妒忌之心中将消失。同样，你的希望、雄心、计划和未竟之事都将终止。曾经无比重要的的成败得失也将退色。你来自哪里，用什么方式生活都不再重要了。你的貌美如花还是才华横溢也不重要了。你的性别、肤色、种族都无关紧要了。那么什么变得重要了呢？你有生之日的价值怎么来衡量呢？重要的不是你所买到的，而是你所创造的。重要的不是你所得到的，而是你所付出的。重要的不是你的能力，而是你的性格。重要的不是你的成就，而是你的追求。线性关系检验线性关系检验 检验因变量与所有自变量之间的是否显著 也被称为 总体的显著性 检验 检验方法是将回归离差平方和 (SSR)同剩余离差平方和 (SSE)加以比较， 应用 F 检验 来分析二者之间的差别是否显著n 如果是显著的，因变量与自变量之间存在线性关系n 如果不显著，因变量与自变量之间不存在线性关系线性关系检验 提出 假设n H0： 1 2 p=0 线性关系不显著n H1： 1， 2， ， p至少有一个不等于 02. 计算计算 检验统计量检验统计量 F3. 确定确定 显著性水平显著性水平 和分子自由度和分子自由度 p、 分母自由度分母自由度 n-p-1找出临界值找出临界值 F 4. 作出作出 决策：若决策：若 FF ， 拒绝拒绝 H0 Excel 输出输出结果的分析结果的分析回归系数检验和推断回归系数的检验 线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验 究竟要对哪几个回归系数进行检验，通常需要在建立模型之前作出决定 对回归系数检验的个数进行限制，以避免犯过多的第一类错误 (弃真错误 ) 对每一个自变量都要单独进行检验 应用 t 检验统计量回归系数的检验(步骤 ) 提出假设n H0： bi = 0 (自变量 xi 与 因变量 y 没有线性关系 ) n H1： bi 0 (自变量 xi 与 因变量 y有线性关系 ) 计算检验的统计 量 t3. 确定显著性水平确定显著性水平 ，并进行决策，并进行决策 t t ， 拒绝拒绝 H0； t t ， 不拒绝不拒绝 H0Excel 输出输出结果的分析结果的分析回归系