多元线性回归基础知识

1、多元线性回归分析预测法，多元线性回归分析法)多元线性回归分析预测法（ Multi factor line regression method多元线性回归分析预测法概述在市场的经济活动中，经常会遇到某一市场现象的发展和变化取决于几个影响因素的情况，也就是一个因变量和几个自变量有依存关系的情况。 而且有时几个影响因素主次难以区分， 或者 有的因素虽属次要，但也不能略去其作用。例如，某一商品的销售量既与人口的增长变化有关，也与商品价格变化有关。这时采用 一元回归分析预测法 进行预测是难以奏效的，需要采用多元回 归分析预测法。多元回归分析预测法，是指通过对两上或两个以上的自变量与一个因变量的 相关分析

2、，建立预测模型进行预测的方法。当自变量与因变量之间存在线性关系 时，称为多元线性回归分析。多元线性回归的计算模型 一元线性回归是一个主要影响因素作为自变量来解释因变量的变化，在现实问题研究中， 因变量的变化往往受几个重要因素的影响，此时就需要用两个或两个以上的影响因素作为自变量来解释因变量的变化，这就是多元回归亦称多重回归。当多个自变量与因变量之间是线性关系时， 所进行的回归分析就是多元性回归。设y为因变量，；丨为自变量，并且自变量与因变量之间为线性关系时，则多 元线性回归模型为：y = 6()+ b住 1 + &22 丨+ bkXk + e其中，bo为常数项，巧 d '沈为回

3、归系数，bi为' 固定时，X1每增加一个单位对y的效应，即Xi对y的偏回归系数；同理 b2为"個定时，X2每增加一 个单位对y的效应，即，X2对y的偏回归系数，等等。如果两个自变量X1,X2同一个因变量y呈线相关时，可用 二元线性回归模型 描述为：y = b)+ feiXi + &2X2 丨+ bkxk + e其中，bo为常数项， ' '为回归系数，bi为固定时，X2每增加一个单位对y的效应，即X2对y的偏回归系数，等等。如果两个自变量 Xi,X2同一个因变量y呈 线相关时，可用 二元线性回归模型 描述为：y = bo + biXi + b2X2 +

4、e，应首先注意自建立多元性回归模型时，为了保证回归模型具有优良的解释能力和预测效果 变量的选择，其准则是：(1) 自变量对因变量必须有显著的影响，并呈密切的线性相关；(2) 自变量与因变量之间的线性相关必须是真实的，而不是形式上的；(3) 自变量之彰应具有一定的互斥性，即自变量之彰的相关程度不应高于自变量与因变量之 因的相关程度；(4) 自变量应具有完整的 统计数据，其预测值容易确定。多元性回归模型的 参数估计，同一元线性回归方程一样，也是在要求误差平方和(二. ")为最小的前提下，用 最小二乘法求解参数。以二线性回归模型为例，求解回归参数的标准方程组 为工 =讷0 +加工I b迄矶

5、 刀工19 =治刀叼+ %刀听+血刀巧叼 刀叼0 =町刀2 I加刀S I伦刀叱解此方程可求得bo,bi,b2的数值。亦可用下列矩阵法求得b =££21 211T- XTP1 EEm9-).'2-2w 1 21 , 多元线性回归模型的检验多元性回归模型与一元线性回归模型一样，在得到参数的最小二乘法的估计值之后，也需要进行必要的检验与评价，以决定模型是否可以应用。1、拟合程度的测定与一元线性回归中可决系数 r2相对应，多元线性回归中也有多重可决系数r2,它是在因变量的总变化中，由回归方程解释的变动 （回归平方和）所占的比重，R2越大，回归方各对样本数据点 拟合的程度越强

6、，所有自变量与因变量的关系越密切。计算公式为：2=刀®讪2Uy-y）2.Z（y-y）2=: E（y-y）2其中，E（期 一 y）2 =、？一（悅 £ 站 + % £ xy + &2 y?叼y + + 加 珥甘）口 y -yf = !/2 -补（工界I r2. 估计标准误差估计标准误差，即因变量y的实际值与回归方程求岀的估计值之间的标准误差，估计标准误差越小，回归方程拟合程度越程。ly-y）2n k 1其中，k为多元线性回归方程中的自变量的个数。3. 回归方程的 显著性检验回归方程的显著性检验，即检验整个回归方程的显著性，或者说评价所有自变量与因变量的线性关

7、系是否密切。能常采用F检验，F统计量的计算公式为：刀（0 一 V）2/ky-yy/n-k-1f/k(l-7?2)/n-fr-l根据给定的显著水平a,自由度（k,n-k-1）查F分布表，得到相应的临界值Fa,若F > Fa,则回归方程具有显著意义，回归效果显著；F < Fa，则回归方程无显著意义，回归效果不显著。4. 回归系数的显著性检验在一元线性回归中，回归系数显著性检验（t检验）与回归方程的显著性检验（F检验）是等价的，但在多元线性回归中，这个等价不成立。t检验是分别检验回归模型中各个回归系数是否具有显著性，以便使模型中只保留那些对因变量有显著影响的因素。检验时先计算统计量ti；

8、然后根据给定的显著水平a,自由度n-k-1查t分布表，得临界值ta或ta / 2,t > t - a或ta / 2，则回归系数bi与0有显著关异，反之，则与0无显著差异。统计量t的计算公式为：其中，Cj是多元线性回归方程中求解回归系数矩阵的逆矩阵（x'x）- 1的主对角线上的第j个元素。对二元线性回归 而言，可用下列公式计算：Ch =其中,Sn = $2(叼一©尸=521 一 ；(”31尸f £S22 =工（助_场尸=工甥一丄（工3护Jr l>Svz = 刀（衍一听）（叼一场）=21Jr £5. 多重共线性判别若某个回归系数的 t检验通不过，可

9、能是这个系数相对应的自变量对因变量的影平不显著所 致，此时，应从回归模型中剔除这个自变量，重新建立更为简单的回归模型或更换自变量。也可 能是自变量之间有共线性所致，此时应设法降低共线性的影响。多重共线性是指在多元线性回归方程中，自变量之彰有较强的线性关系，这种关系若超过了因变量与自变量的线性关系，则回归模型的稳定性受到破坏，回归系数估计不准确。需要指岀的 是，在多元回归模型中，多重共线性的难以避免的，只要多重共线性不太严重就行了。判别多元 线性回归方程是否存在严惩的多重共线性，可分别计算每两个自变量之间的可决系数r2,若r2 >R2或接近于R2，则应设法降低多重线性的影响。亦可计算自变量

10、间的相关系数矩阵的特征值的条件数k=入/ pQ入为最大特征值，k为最小特征值）,k<100，则不存在多重点共线性；若100< k< 1000则自变量间存在较强的多重共线性，若k>1000，则自变量间存在严重的多重共线性。降低多重共线性的办法主要是转换自变量的取值，如变绝对数 为相对数或平均数，或者更换其他的自变量。6. D.W检验当回归模型是根据动态数据建立的，则误差项e也是一个 时间序列，若误差序列诸项之间相互独立，则误差序列各项之间没有相关关系，若误差序列之间存在密切的相关关系，则建立的 回归模型就不能表述自变量与因变量之间的真实变动关系。D.W检验就是误差序列的自

11、相关检验。检验的方法与一元线性回归相同。编辑多元线性回归分析预测法案例分析案例一:公路客货运输量多元线性回归预测方法探讨2一、背景公路客、货运输量的 定量预测，近几年来在我国 公路运输领域大面积广泛地开展起来，并有 效的促进了公路运输经营决策的科学化和现代化。关于公路客、货运输量的定量预测方法很多，本文主要介绍多元线性回归方法在公路客货运输量预测中的具体操作。根据笔者先后参加的部、省、市的科研课题的实践，证明了多元线性回 归方法是对公路客、货运输量预测的一种置信度较高的有效方法。二、多元线性回归预测线性回归分析法是以相关性原理为基础的相关性原理是预测学中的基本原理之一。由于公路客、货运输量受社

12、会经济有关因素的综合影响。所以，多元线性回归预测首先是建立公路客、 货运输量与其有关影响因素之间线性关系的 数学模型 。然后通过对各影响因素未来值的预测推算 出公路客货运输量的预测值。三、公路客、货运输量多元线性回归预测方法的实施步骤1. 影响因素的确定影响公路客货运输量的因素很多，主要包括以下一些因素：(1) 客运量影响因素人口增长量裤保有量、 国民生产总值 、国民收入 工农业总产值， 基本建设投资 额城乡居民储 蓄额铁路和水运客运量等。(2) 货运量影响因素人口货车保有量 (包括拖拉机 )，国民生产总值 ，国民收入 、工农业总产值， 基本建设投资 额， 主要工农业产品产量， 社会商品购买力

13、 ， 社会商品 零售总额铁路和水运货运量菩。上述影响因素仅是对一般而言，在针对具体研究对象时会有所增减。因此，在建立模型时只 须列入重要的影响因素，对于非重要因素可不列入模型中。若疏漏了某些重要的影响因素，则会 造成预测结果的失真。另外，影响因素太少会造成模型的敏感性太强反之，若将非重要影响因 素列入模型，则会增加计算工作量，使模型的建立复杂化并增大 随机误差 。影响因素的选择是建立预测模型首要的关键环节，可采取定性和定量相结合的方法进行 影 响因素的确定可以通过 专家调查法 ，其目的是为了充分发挥专家的聪明才智和经验。具体做法就是通过对长期从事该地区公路运输企业和 运输管理 部门的领导干部、

14、 专家、工作 人员和行家进行调查。可通过组织召开座谈会也可以通过采访，填写 调查表 等方法进行，从中 选出主要影响因素为了避免影响因素确定的随意性，提高回归模型的精度和减少预测工作量， 可 通过查阅有关 统计资料 后，再对各影响因素进行相关度 (或关联度 )和共线性分析，从而再次筛选 出最主要的影响因素 所谓相关度分析就是将各影响因素的时间序列与公路客货运量的时间序列 做相关分杯事先确定 个相关系数 ，对相关系数小于的影响因素进行淘汰 关联度是灰色 系统理 论中反映事物发展变化过程中各因素之间的关联程度 ，可通过建空公路客 、货运量与各影响影响 因素之间关联系数矩阵，按一定的标准系数舍去关联度

15、小的影响因素 所谓共线性是指某些影响 因素之问存在着线性关系或接近于线性关系由于公路运输经济自身的特点，影响公路客，货运 输量的诸多因素之问总是存在着一定的相关性，持别是与国民经济 有关的一些价值型指标。我们研究的不是有无相关性问题而是共线性的程度，如果影响因素之间的共线性程度很高，首先会降低参数估计值的精度 。其次在回归方程建立后的统计检验中导致舍去重要的影响因素或 错误的地接受无显著影响的因素，从而使整个预测工作失去实际意义。关于共线性程度的判定， 可利用逐步分析 估计法 的数理统计 理论编制计算机程序来实现。或者通过比较rij 和 R2 的大小来判定。在预测学上，一般认为当rij >

16、; R2 时，共线性是严重的，其含义是，多元线性回归方程中所含的任意两个自变量Xi,xj之间的相关系数rj大于或等于该方程的样本可决系数R2时，说明自变量中存在着严重的共线性问题。2. 建立经验线性回归方程利用最小二乘法原理寻求使误差平方和达到撮小的经验线性回归方程：" I I '-1 ! .;.y 预测的客、货运量g 各主要影响因数3. 数据整理对收集的历年客、货运输量和各主要影响因素的统计资料进行审核和加工整理是为了保证预 测工作的质量。资料整理主要包括下列内容：(1) 资料的补缺和推算。(2) 对不可靠资料加以核实调整对查明原因的异常值加以修正。(3) 对时间序列中不可

17、比的资料加以调整和规范化；对按当年价格计算的价值指标应折算成按统。4. 多元线性回归模型的参数估计在经验线性回归模型中，瓷；左】.，沦R込.：是要估计的参数，可通过数理统计理论建立模型来确定。在实际预测中，可利用多元线性回归复相关分析的计算机程序来实现5.对模型参数的估计值进行检验。此项工作的目的在于判定估计值是否满意、可靠。一般检验工作须从以下几方面来进行。经济意义检验关于经济预测的数学模型，首先要检验模型是否有经济意义，y若参数估计值的符号和大小与公路运输经济发展以及经济判别不符合时，这时所估计的模型就不能或很难解释公路运输经济的一般发展规律就应抛弃这个模型需要重新构造模型或重新挑选影响因

18、素。统计检验统计检验是数理统计理论的重要内容，用于检验模型估计值的可靠性。通常，在公路客、货运量预测中应采用的统计检验是：拟合度检验所谓拟合度是指所建立的模型与观察的实际情况轨迹是否吻合、接近，接近到什么程度。统 计学是通过构造统计量 R把估计岀来的模型用于样本以外某一时间的实际预测，并将这个预测值与实际的观察值 作一比较，然后检验其差异的显著性。来量度的，R2可由样本数据计算得出。若建立的模型愈接近于实际， 则RA2愈接近于1。回归方程的显著性检验回归方程的显著性检验是通过方差分析构造统计量F来进行的，统计量 F是通过样本数据计算得出的。当给定某一置信度后，可以通过查阅F表来确定回归模型从总

19、体效果来看是否可以米纳。参数估计值的标准差检验估计值的标准差是衡量估计值与真实参数值的离差的一种量度。参数的标准差越大，估计值的可靠性也就越小；反之，如果标准差越小，那么估计值的可靠性也就越大。参数值标准差的检 验，可以通过构造大统计量来进行量度。当给定某一置信度后，可以通过查表来确定模型中某个 参数估计值的可靠性。应当强调指出统计检验相对于经济意义检验来说是第二位的。如果经济意义检验不合理， 那么即使统计检验可以达到很高的置信度，也应当抛弃这种估计结果，因为用这样的结果来进行经济预测是没有意义的。6. 最优回归方程的确定经过上述的经济意义和统计检验后，挑选出的线性回归方程往往是好几个、为了从

20、中优选出用于进行实际预测的方程，我们可以采用定性和定量相结合的办法。从数理统计的原理来讲，应挑选方程的剩余均方和S-E较小为好但作为经济预 删还必须尽量考虑到方程中的影响因素更切合实际和其未来值更易把握的原则来综合考虑。当然、有时也可以从中挑选岀好几个较优的回归方程通过预测后，分别作为不同的高、中、低方案以供决策 人员选择。7. 模型的实际预测检验在获得模型参数估计值后，又经过了上述一系列检验而选岀的最优(或较优)回归方程，还必须对模型的预测能力加以检验。不难理解、最优回归方程对于样本期间来说是正确的，但是对用 于实际预测是否合适呢 ？为此，还必须研究参数估计值的稳定性及相对于样本容量变化时的

21、灵敏度，也必须研究确定估计岀来的模型是否可以用于样本观察值以外的范国，其具休做法是：(1) 采用把增大样本容量以后模型估计的结果与原来的估计结果进行比较，并检验其差异的 显著性。8. 模型的应用公路客、货运输量多元线性回归预测模型的研究目的主要有以下几个方面。(1) 进行结构分析，研究影响该地区的公路客、货运输量的主耍因素和各影响因素影响程度 的大小，进一步探讨该地区公路运输经济理论。(2) 预测该地区今后年份的公路客、货运输量的变化，以便为公路运输市场、公路运输政策及公路运辅建设 项目投资 作出正确决策提供理论依据。另外，还可以通过公路客货运输量与公路交通量作相关分析来对公路的饱和度发展趋势

22、进行预测。从而为公路的新建、 扩建项目的投资提供决策分析。(3) 模拟各种经济政策下的经济效果，以便对有关政策进行评价。四、经调查分析，影响某地区旅客运输量的因素为。Xi国民收入X2工农业总产值X3社会总产值X4 人口X5 客车保有量X6城乡居民储蓄存款经计算得下列相关系数表：XiX2X3X4X5X6Y0.94390.92 87O.90 430.99140.96700.7021Z0.97 3 60.961 4O.932 6O.8645O.93210.6678丫客运盈Z旅客周转量若令a = 0.85,则可以舍去X6这个影响因索，也就是认为城乡居民储蓄存款”不能作为响旅客运输量的主要因素。2.经调查分析、影响某地区旅客运输量的因素为:xi国民收入X2工农业总产值X3社会总产值X4人口X5客车保有量X6国民生产总