第3章 回归分析的性质和基本概念

第三章回归分析的基本概念◆学习目的

理解回归分析的性质和双变量回归分析的一些基本概念。第三章回归分析的基本概念第一节回归分析释义第二节经济变量之间的关系第三节符号术语数据第四节总体回归函数第五节随机干扰项第六节“线性”一词的含义第七节样本回归函数“回归”的历史溯源：

“回归”一词最先由弗朗西斯•高尔顿（FrancisGalton）提出。高尔顿发现一个趋势：父母高，儿女也高；父母矮，儿女也矮。但给定父母的身高，儿女辈的平均身高却趋向于或者“回归”到全体人口的平均身高。换言之，尽管父母都异常高或异常矮，但儿女的身高却有走向人口平均身高的趋势。换句话说，尽管父母都异常矮或异常高，但儿女的身高却有走向人口总体平均身高的趋势。——普遍回归定律（lawofuniversalregression）一、概述第一节回归分析释义高尔顿的朋友卡尔.皮尔逊(KarlPearson)证实了他的观点，它收集了1000名成员的身高记录发现，对于一个父亲高的群体，儿辈的平均身高低于父辈的身高；而对于一个父亲矮的群体，儿辈的平均身高则高于其父亲的身高。用高尔顿的话说，这是“回归到中等”(regressiontomediocrity)。

回归的定义

回归分析是关于研究一个叫做因变量的变量对另一个或多个叫做解释变量的变量的依赖关系，其用意在于通过后者（在重复抽样中）的已知或设定值，去估计和（或）预测前者的（总体）均值。例

高尔顿的普遍回归定律现代的观点关心的是给定父辈身高的情形下找出儿辈平均身高的变化。即，一旦知道父辈的身高，怎样预测儿辈的平均身高。考虑如下散点图（scatterdiagram）：对应于任一给定的父亲身高，都有儿子身高的一个分布范围。父亲身高增加，儿子的平均身高也增加。回归线勾画一条通过这些散点图的直线，以表明儿子的平均身高是怎样随父亲的身高增加而增加。这条线叫做回归线(regressionline)。如下图是不同年龄处测度的男孩身高的总体分布。身高随着年龄增加而增加，通过给定年龄平均身高画一条线。例

菲利普斯曲线下图给出了历史数据所表现的散点图，图中的曲线是把货币工资变化率同失业率联系起来的菲利普斯曲线(Phillipscurve)之一例。该散点图可预测在给定的某个失业率下货币工资的平均变化。例通货膨胀率由货币经济学中得知，其他条件不变，通货膨胀率π越高，人们愿意以货币形式保存的收入比例k越低。如下图。可预测在各种通货膨胀率下人们愿意以货币形式保存的收入比例。经济学家想研究个人消费支出对可支配个人收入的依赖关系。这种分析有助于估计边际消费倾向（MPC），也就是实际收入每元价值的变化所引起的消费支出的平均变化。一位能设定价格或产出的垄断商，想知道产品需求对价格变化的实际反应，通过定价实验能估计出产品需求的价格弹性（priceelasticity），即产品需求对价格变化的灵敏程度，从而有助于确定最有利可图的价格。其他例子其他例子公司的销售部主任想知道人们对公司产品的需求与广告费开支的关系。这种研究在很大程度上有助于计算出相对于广告费支出的需求弹性，即广告费预算每变化百分之一时需求变化的百分比。有助于制定“最优”广告费预算。农业经济学家想研究作物（如小麦）收成对气温、降雨量、阳光量和施肥量的依赖关系。这种依赖关系分析能使他对给定的解释变量进行信息预测或预报作物的平均收成。

计量经济研究是对经济变量之间关系的研究，针对某一具体经济问题展开研究时，首先需要考察的就是相关经济变量之间有没有关系、有什么样的关系。确定的函数关系不确定的相关关系经济变量之间的关系

第二节经济变量之间的关系函数关系

指某一经济变量可直接表示为其他经济变量的确定的函数，函数表达式中没有未知参数。1)某一商品的销售收入Y与单价P、销售数量Q之间的关系Y=PQ2)某一农作物的产量Q与单位面积产量q、种植面积S之间的关系Q=qS例如:

相关关系

指不同经济变量的变化趋势之间存在某种不确定的联系，某一或某几个经济变量的取值确定后，对应的另一经济变量的取值虽不能唯一确定，但按某种规律有一定的取值范围。

居民消费C与可支配收入Y之间的关系，可支配收入的取值确定后，消费的取值虽不能唯一确定，但有一定的取值范围，0<C<Y，遵循边际消费倾向递减的规律。居民消费C与可支配收入Y之间的关系可表示为C=

+

Y，

、

为待估参数。例如:

相关关系的表达式一般表示为含有未知参数的函数形式，需要进行参数估计。第三节符号术语数据因变量（Dependentvariable）解释变量（Explanatoryvariable）被解释变量(Explainedvariable)自变量(Independentvariable)预测子(Predicted)预测元(Predictor)回归子(Regressand)回归元（Regressor）响应（Response）刺激变量(Stimulus)内生(Endogenous)外生(Exogenous)结果(outcome)共变(Convariate)被控变量(Controlledvariable)控制变量(Controlvariable)

如果我们研究一个变量对一个解释变量的依从关系，如消费支出对实际收入的依赖，则称这种研究为简单（simple）或双变量回归分析(two-variableregressionanalysis)。

如果我们研究一个变量对多个解释变量的依赖性，如农作物收成依赖降雨、气温、阳光和施肥一例，则称它为复回归分析(multipleregressionanalysis)。

换句话说，在双变量回归中只有一个解释变量，在复回归中则有多于一个解释变量。符号

字母Y一律指因变量，而一律指解释变量。Xk代表第k个解释变量。Xki

指对变量Xk

的第i次观测值。N或T指总体中的观测值的总个数，n或t指样本中观测值总个数。惯例：

将下标i用于横截面数据(cross-sectionaldata)（即在一个时间点上收集的数据）;

将小标t用于时间序列数据(timeseriesdata)(即在一段时间点上收集的数据)。数据1）时间序列数据；2）横截面数据；3）面板数据；1）时间序列数据；TableI.1DataonY(PersonalConsumptionExpenditure)andX(GrossDomesticProduct),1982-1996)allin1992billionsofdollars19823081.54620.319833240.64803.719843407.65140.119853566.55323.519863708.75487.719873822.35649.519883972.75865.219894064.6606219904132.26136.319914105.86079.419924219.86244.419934343.66389.6199444866610.719954595.36742.119964714.16928.4特点：可以在有规则的时间间隔收集Example：每日（股票价格）、每周（联邦储备委员会提供的货币供给数字）、每月（失业率、消费者价格指数CPI）、每季（如GNP）、每年（政府预算）、每5年（制造业普查资料）、每10年（人口普查资料），有些数据每季和每年都有公布，如GDP和消费者支出数据。极短时间的数据也可以搜集，如股票价格数据，可以得到连续数据（实时牌价）。1）时间序列数据；一个时间序列是对一个变量在不同时间取值的一组观测结果。平稳的时间序列数据如果一个时间序列的均值和方差不随时间而系统的变化，那它就是平稳的。随时间推移，M1货币供给稳定上升。不是平稳的。1）时间序列数据；2）横截面数据；对一个或多个变量在同一时间点上收集的数据。Example:1990年和1991年美国50个州的劳工会蛋产量和蛋价格，对每一年份50个州的数据构成一个横截面数据样本。下表中有两个横截面数据样本。3）面板数据；在面板数据中兼有时间序列和横截面数据的成分。1973-1985年每个国家的通货膨胀率构成一个时间序列，而对某一年说，7个国家的通货膨胀率又构成一个横截面。数据来源互联网，e.g.国家统计局，Bloomberg,Wind咨询实验数据，e.g.评价肥胖对血压的影响时，研究者要在人们饮食、烟酒习惯都不变的情况下收集数据。数据的准确性大部分社会科学数据是非实验性质的，存在观测误差。问卷型调查中，非应答问题十分严重。获取数据的抽样方法可能变化很大，要比较不同样本得来的结果通常很困难。通常获得宏观数据（如GDP，就业，通货膨胀，失业），无法告知个人或微观单位的情况。由于保密性质，某些数据只能加总形式公布。如企业普查，不允许公布任何厂家的生产、人员雇佣、能源消耗、研究与开发费用，要研究厂际差异是困难的。变量的测量尺度比率尺度（ratioscale）

对于一个变量X，取其两个值X和X，比率X/X和距离（X-X）都是有意义的量。大多数经济变量都属于这一类，问今年的GDP与去年的GDP相差多少是有意义的。区间尺度（intervalscale）

两个时期之间的距离（如2000-1995）是有意义的，但两个时期的比率（2000/1995）是无意义的。序数尺度（ordinalscale）

只存在自然顺序。如考试分数(A、B、C)，无法相减或相除。如无差异曲线(indifferencecurves)，每条更高的无差异曲线标志着更高的效用水平，但不能量化到底高多少。名义尺度（nominalscale）

不具备比率尺度的任何特征。如性别(男，女)，婚姻状况（已婚、未婚、离婚、分居）。适合于比率尺度的计量方法不适合于名义尺度。1．总体回归曲线第四节总体回归函数例3-1表中数据指的是一个假想的经济社会中，构成总体的60个家庭及其周收入（X）和周消费支出（Y）的数量。这60个家庭被分成10个收入组（从80美元到260美元），各组中每个家庭的月支出都列在表中。因此，我们就有10个固定的X值和与每个X相对应的Y值，可以说，有10个Y的子总体。每个收入组的周消费支出都有相当大的变化，尽管如此，看平均值，周消费支出随着收入的上升而上升。条件期望值(conditionalexpectedvalues)

：给定X值下Y的期望值。取决于条件变量X的给定值。注意区分条件期望和无条件期望：1.问：一个家庭周消费支出的期望值是多少？答：如果我们将总体中所有60个家庭的消费支出加总除以60，得到121.20（7272/60）美元，这就是周消费支出的无条件均值或无条件期望值。得到该数字并不关心各个家庭的收入水平。2.问：一个月收入为140美元的家庭的周消费支出的期望值是多少？答：101美元（条件均值）。因此，对收入水平的了解能使我们更好的预测消费支出的均值，这可能正是回归分析的本质。总体回归线（populationregressionline,PRL）

几何意义上，总体回归曲线就是解释变量取给定值时因变量的条件均值或期望值的轨迹。图中的黑圆点表示了不同X值下Y的条件均值，将这些均值连起来，就得到所谓的总体回归线或称为总体回归曲线。如下图：现实中，一个总体可能有许多个家庭。图中对于每个X（收入水平）都有周消费支出Y值的一个总体，假定这些Y值均匀分布在其条件均值左右，并且回归线穿过这些条件均值。条件均值2.总体回归函数从上图中我们清楚的看出，每个条件均值是的一个函数，用符号表示：该方程称为条件期望函数(conditionalexpectationfunction)或总体回归函数（populationregressionfunction,PRF）。它说明了Y的均值或平均对应值是怎样随X而变化的。

采取什么函数形式？比如假定消费支出与收入有线性关系，假定PRF是的线性函数：其中β1

和β2

为未知但固定的参数，称为回归系数(regressioncoefficients).该方程称为线性总体回归函数或简称线性总体回归。

这里所说的线性回归模型（linearregressionmodel）和通常意义下的线性函数不同，“线性”回归指参数是线性的，即参数都只