统计学第十一章 相关分析和回归分析

1、第第 11章章 相关分析和回归分析相关分析和回归分析相关和回归分析 是研究事物的相互关系，测定它们联系的紧密程度，揭示其变化的具体形式和规律性的统计方法，是构造各种经济模型、进行结构分析、政策评价、预测和控制的重要工具。主要内容相关分析相关分析 (Correlation Analysis) 回归分析回归分析 (Regression Analysis) 相关分析 相关的概念 变量之间关系变量之间关系函数关系函数关系相关关系相关关系因果关系因果关系互为因果关系互为因果关系共变关系共变关系确定性依存关系确定性依存关系随机性依随机性依存关系存关系一元相关一元相关多元相关多元相关负负 相相 关关正正 相

2、相 关关线性相关线性相关曲线相关曲线相关y正 相 关y负 相 关y曲线相关xy不 相 关 相关的种类xxx 简单线性相关 相关分析的步骤相关分析的步骤 相关系数相关系数 测定两变量是否线性相关yxxy定义式定义式：搜集资料整理资料绘制相关图相关关系的测定yxnyyxxr)(未分组未分组：已分组已分组： 2222)()(yynxxnyxxynr)()()(2222yyxxyxxyfyfynfxfxnfyfxfyxnr 协方差与相关系数协方差与相关系数 皮尔生的相关系数是对协方差标准化处理的结果，是对协方差的改进。 相关系数的显著性检验相关系数的显著性检验|r|=0 不存在线性关系； |r|1 完

3、全线性相关0|r|0 正相关；r0 负相关H0 : p=0, H1 : p0直接查相关系数检验表检验统计量212|rnrt一元线性回归模型 基本概念 1 回归分析：研究变量间依存关系 2 回归与相关关系 3 回归模型的种类 相关分析相关分析回归分析回归分析联联系系 *研究变量间的不确定性关系，存在相关才能回归研究变量间的不确定性关系，存在相关才能回归 *相关系数与回归模型中的参数相互换算相关系数与回归模型中的参数相互换算区区别别*变量地位对等变量地位对等*都是随机变量都是随机变量*侧重相关的密切程度和变侧重相关的密切程度和变 化方向化方向*分为因变量与自变量分为因变量与自变量*因变量为随机变量

4、因变量为随机变量*侧重建立模型预测或估计侧重建立模型预测或估计因变量因变量 一元线性回归模型(Regression Analysis) 1 总体回归模型 2 样本回归模型txy)( )(总体回归直线xyExy随机误差项: )(YEY 0),cov( 3 0 2Markov-(Gauss j)(i 0)(),cov(0)E( 1tt2t2jtxNjii），（条件）：残差样本回归线 Y-Y )b , ()(ttteabxay 参数估计参数估计（Least Squares Principle） )()()(xnyx-xyb)(nya 00,)(minQ )()( )(222121212xxyyxxb

5、xnxbyanxbbQaQbabxaybxayyybxayyyniiniiniiii求导数并令其为零。、分别对理，根据微分学中求极值原令xyxyxy 拟合优度检验拟合优度检验 判定系数r2 估计标准误 2222 ,)()(rryyyyr总偏差回归偏差回归偏差剩余偏差总偏差 )() ()(222yyyyyy22) (22XYnyxbyaynyyS 显著性检验显著性检验 回归系数检验回归系数检验 回归模型整体检验回归模型整体检验)0()0(0H 0 :1:0bbbtbZH小样本：大样本：2222 : 1:01)2(2/)(1/)(0H 0 rnrnyyyyFH,)()Var( )(:) 0( 2

6、: 222222XXSEoxeeneSSXYbiiitttt满足的条件下可以证明，在标准假定可由下式给出的无偏估计，大小，数学上可以证明：反映理论模型误差的总体随机误差 应用回归方程进行估计应用回归方程进行估计 点估计点估计 区间估计区间估计 bxay220)2(200220)2(200222000000)()(11y )()(1y )()()(1),(y ,xxxxnStYxxxxnStYExxxxnbxaNbxayxXYnXYn小样本情况下且有可以证明，对固定的yXX1X2X3y 多元线性回归模型（Multiple Regression) 回归模型的确定回归模型的确定 总体回归模型 样本回

7、归模型 参数估计参数估计 OLSE 回归模型拟合度检验回归模型拟合度检验 判定系数r2 修正的判定系数ra2nnXXXY.2211022110XbXbbY01 , 11)1 (1) 1/()() 1/(1 )(12222222222，但未必都大于小于aattattrrrknnrnyYkneryYer 估计标准误差 回归方程的显著性检验回归方程的显著性检验 回归系数检验 回归模型检验 3y 3) (2211022)(2, 1nyxbyxbybnyySxxy1,2)(i 0 H 0i:1 :0ibiibtH)1 (2)3(r )3/() 2/)0 H 0222221: 121 : 0rnnyyyy

8、FHj（不为至少有一个偏回归系数、 相关分析相关分析 复相关复相关 偏相关偏相关 * 与简单线性相关系数的关系 自变量之间的相关关系自变量之间的相关关系 防止多重共线性22212)()(yyyyrry212211212)1(2212221221)2(1)(1)(1)(1)(1rrrrrrrrrrrryyyyyyyy 应用回归模型的估计应用回归模型的估计2221122221122112201102112220222211001)() 3(200)() 3(2002211)()()()()( 2)()()()(1CY )E(Y 2 102, 102, 1XXXXXXXXXXXXXXXXXXXXXXXXnStYStYXbXbbyCXXYnCXXYno区间估计：点估计：*二元相性回归模型与一元线性回归模型的比较二元方程精度更高，拟合优度更好二元方程精度更高，拟合优度更好* 回归元数的确定逐步增元法逐步增元法逐步减元法逐步减元法选择判定系数最大（或估计标准误差最小）的模型非线性回归模型 基本思想基本思想非线性关系非线性关系转化为线性关系转化为线性关系按线性方程步骤求解按线性方