定性数据的建模分析课件

2023/2/6ncutstat1第八章定性数据的建模分析

目录上页下页返回结束

§8.1对数线性模型基本理论和方法§8.2对数线性模型分析的上机实验§8.3Logistic回归基本理论和方法§8.4Logistic回归的方法与步骤2023/2/6ncutstat2第八章定型数据的建模分析

目录上页下页返回结束

第三章我们曾讨论过定性数据的列联表分析，对数线性模型是进一步用于离散型数据或整理成列联表格式的数据的统计分析工具。它可以把方差分析和线性模型的一些方法应用到对交叉列联表的分析中，从而对定性变量间的关系作更进一步的描述和分析。2023/2/6ncutstat3列联表分析无法系统地评价变量间的联系，也无法估计变量间交互作用的大小，而对数线性模型是处理这些问题的最佳方法。当被解释变量是非度量变量时，可以用判别分析。然而当被解释变量只有两组时，Logistic回归由于多种原因更受欢迎。

首先，判别分析依赖于严格的多元正态性和相等协差阵的假设，这在很多情况下是达不到的。Logistic回归没有类似的假设，而且这些假设不满足时，结果非常稳定。2023/2/6ncutstat5§8.1对数线性模型基本理论和方法

目录上页下页返回结束

本节将利用2×2维的交叉列联表来说明对数线性模型的基本理论和方法，同时利用SPSS软件对真实的经济定性数据作分析。从2×2维的交叉列联表的概率表，介绍对数线性模型的基本理论和方法。2023/2/6ncutstat6§8.1对数线性模型基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat7§8.1对数线性模型基本理论和方法

目录上页下页返回结束

对上面三式各取其平均数为：

该式的结构与有交互效应，且各水平均为二的双因素方差分析模型的结构相似，因此模仿方差分析，可以有如下关系式：

2023/2/6ncutstat9§8.1对数线性模型基本理论和方法

目录上页下页返回结束

(8.2)

2023/2/6ncutstat10§8.1对数线性模型基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat11§8.1对数线性模型基本理论和方法

目录上页下页返回结束

在实际分析中，概率表中各项值，以交叉列联表计算得的频率表的对应项为无偏估计值。公式表示为：2023/2/6ncutstat13§8.2对数线性模型分析的上机实践

目录上页下页返回结束

可以使用SPSS软件来实现对数线性模型分析。这里举一个例子是3×2维的交叉列联表的分析。我们用SPSS软件中的Loglinear模块实现分析。【例8.1】某企业想了解顾客对其产品是否满意，同时还想了解不同收入的人群对其产品的满意程度是否相同。在随机发放的1000份问卷中收回有效问卷792份，根据收入高低和满意回答的交叉分组数据如表8-1：2023/2/6ncutstat14§8.2对数线性模型分析的上机实践

目录上页下页返回结束

表8.1.

满意不满意合计高533891中434108542低11148159合计5981947922023/2/6ncutstat15§8.2对数线性模型分析的上机实践

目录上页下页返回结束

首先要准备数据，上面的交叉列连表的数据要输入到spss的表格里去，具体应当是入下：频数收入情况满意情况5311434211113138121082248322023/2/6ncutstat17§8.2对数线性模型分析的上机实践

目录上页下页返回结束

按上面的形势输入数据后，还不能马上进行对数线性模型分析，必须先激活频数，即让频数有效。具体步骤是：使用SPSS软件，从主菜单中，以Data→WeightCases...顺序，打开WeightCases对话框，选中Weightcasesby单选框，从变量列表中选出“频数”变量,点击钮，使之进入FrequencyVariable框，然后点击OK钮，回到数据表格，这时分析前的准备工作就完成了。这一步很重要，如果频数没有被激活，对数线性模型的模块仍会执行命令，但是得出的结果是错误的，所以使用时一定要小心。2023/2/6ncutstat18§8.2对数线性模型分析的上机实践

目录上页下页返回结束

数据准备工作完成后，就可以进行下一步的分析了。从主菜单中，按Analyze→Loglinear→ModelSelection...的流程可打开ModelSelectionLoglinearAnalysis对话框，从左侧变量栏里选中“收入情况”，点击钮使之进入Factor(s)框，这时该框下面的DefineRange...钮就会从灰色变为黑色，点击弹出LoglinearAnalysis:DefineRange对话框，可以定义变量的范围，即该变量的水平范围，本例中“收入情况”共有三种类型，代号分别是1、2、3，所以在Minimum处键入1，在Maximum处键入3，2023/2/6ncutstat19§8.2对数线性模型分析的上机实践

目录上页下页返回结束

点击Continue钮，返回ModelSelectionLoglinearAnalysis对话框；按同样方法，把“满意情况”变量选入，并定以其范围为1、2；然后选中“频数”变量，点击钮使之进入CellWeight框；最后，点击Options...钮，进入LoglinearAnalysis:Options对话框，选择DisplayforSaturatedModel栏下的Parameterestimates项，点击Continue钮返回ModelSelectionLoglinearAnalysis对话框，其他选项保持默认值，最后点击OK钮即完成分析步骤。2023/2/6ncutstat21§8.2对数线性模型分析的上机实践

目录上页下页返回结束

首先显示系统对792例资料进行分析，这792例资料可分为6类（3×2）。模型中共有二个分类变量：其中“收入情况”变量为3水平，“满意情况”情况变量为2水平；分析的效应除了两个分类变量，还有两者的交互作用（收入情况*满意情况）。系统经1次叠代后，即达到相邻二次估计之差不大于规定的0.001。2023/2/6ncutstat22§8.2对数线性模型分析的上机实践

目录上页下页返回结束

2023/2/6ncutstat23§8.2对数线性模型分析的上机实践

目录上页下页返回结束

2023/2/6ncutstat25§8.2对数线性模型分析的上机实践

目录上页下页返回结束

2023/2/6ncutstat26§8.2对数线性模型分析的上机实践

目录上页下页返回结束

为了唯一地估计参数，系统强行限定同一分类变量的各水平参数之和为0，故根据上表结果可推得各参数为：2023/2/6ncutstat29§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat30§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat31§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat32§8.3Logistic回归基本理论和方法

目录上页下页返回结束

Logistic回归不同于一般回归分析的地方在于它直接预测出了事件发生的概率。尽管这个概率值是个度量尺度，Logistic回归与多元回归还是有着很大的差异。概率值可以是0~1之间的任何值，但是预测值必须落入0~1的区间。这样，Logistic回归假定解释变量与被解释变量之间的关系类似于S形曲线。而且，不能从普通回归的角度来分析Logistic回归，因为这样做会违反几个假定。2023/2/6ncutstat33首先，离散变量的误差形式服从贝努里分布，而不是正态分布，这样使得基于正态性假设的统计检验无效。其次，二值变量的方差不是常数，会造成异方差性。Logistic回归是专门处理这些问题的。它的解释变量与被解释变量之间独特的关系使得在估计、评价拟合度和解释系数方面有不同的方法。2023/2/6ncutstat34§8.3Logistic回归基本理论和方法

目录上页下页返回结束

估计Logistic回归模型与估计多元回归模型的方法是不同的。多元回归采用最小二乘估计，将解释变量的真实值与预测值差异的平方和最小化。而Logistic变换的非线性特征使得在估计模型的时候采用极大似然估计的叠代方法，找到系数的“最可能”的估计。这样在计算整个模型拟合度的时候，就采用似然值而不是离差平方和。2023/2/6ncutstat35§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat36§8.3Logistic回归基本理论和方法

目录上页下页返回结束

前面已提到Logistic回归在估计系数时，是用的极大似然估计法。就象多元回归中的残差平方和，Logistic回归对模型拟合好坏通过似然值来测量。（实际上是用－2乘以似然值的自然对数即－2Log似然值，简记为－2LL）。一个好的模型应该有较小的－2LL。如果一个模型完全拟合，则似然值为１，这时－2LL达到最小，为0。Logistic回归对于系数的检验采用的是与多元回归中t检验不同的统计量，称为Wald统计量。有关Logistic回归的参数估计和假设检验详见参考文献[8]。2023/2/6ncutstat37§8.3Logistic回归基本理论和方法

目录上页下页返回结束

一、分组数据的Logistic回归模型针对0-1型因变量产生的问题，我们对回归模型应该做两个方面的改进。

第一，回归函数应该改用限制在[0，1]区间内的连续曲线，而不能再沿用直线回归方程。限制在[0，1]区间内的连续曲线有很多，例如所有连续型随机变量的分布函数都符合要求，我们常用的是Logistic函数与正态分布函数。Logistic函数的形式为（8.4）

Logistic函数的中文名称是逻辑斯谛函数，或简称逻辑函数。这里给出几个Logistic函数的图形。见图8-1、图8-2。2023/2/6ncutstat38§8.3Logistic回归基本理论和方法

目录上页下页返回结束

图8-1的图形

2023/2/6ncutstat39§8.3Logistic回归基本理论和方法

目录上页下页返回结束

图8-2的图形

2023/2/6ncutstat40§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat41§8.3Logistic回归基本理论和方法

目录上页下页返回结束

【例8.2】在一次住房展销会上，与房地产商签定初步购房意向书的共有n=325名顾客中，在随后的3个月的时间内，只有一部分顾客确实购买了房屋。购买了房屋的顾客记为1，没有购买房屋的顾客记为0。以顾客的年家庭收入（万元）为自变量x，对如下的数据，建立Logistic回归模型2023/2/6ncutstat42§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.2序号年家庭收入(万元)x签定意向书人数ni实际购房人数mi实际购房比例pi=mi/ni逻辑变换权重wi=nipi(1-pi)11.52580.320000-0.753775.44022.532130.406250-0.379497.71933.558260.448276-0.2076414.34544.552220.423077-0.3101512.69255.543200.465116-0.1397610.69866.539220.5641030.2578299.59077.528160.5714290.2876826.85788.521120.5714290.2876825.14399.515100.6666670.6931473.3332023/2/6ncutstat43§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat44§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat45§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat46§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat47§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.32023/2/6ncutstat48§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat49§8.3Logistic回归基本理论和方法

目录上页下页返回结束

得年收入8万元的家庭预计实际购房比例为58.5%，这个结果与未加权的结果很接近。以上的例子是只有一个自变量的情况，分组数据的Logistic回归模型可以很方便的推广到多个自变量的情况，在此就不举例说明了。分组数据的Logistic回归只适用于大样本的分组数据，对小样本的未分组数据不适用。并且以组数c为回归拟合的样本量，使拟合的精度低。实际上，我们可以用极大似然估计直接拟合未分组数据的Logistic回归模型，以下就介绍这个方法。二、未分组数据的Logistic回归模型2023/2/6ncutstat50§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat51§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat52§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat53§8.3Logistic回归基本理论和方法

目录上页下页返回结束

2023/2/6ncutstat54§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.4：序号性别年龄月收入序号性别年龄月收入10188500151201000020211200016125120003023850117127130004023950118128150005028120011913095016031850020132100002023/2/6ncutstat55§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.4（续）703615001211331800080421000122133100009046950123138120001004812000241411500011055180012514518001120562100126148100001305818001271521500114118850028156180012023/2/6ncutstat56§8.3Logistic回归基本理论和方法

目录上页下页返回结束

依次点选SPSS软件的Statistics-Regression-Logistic命令，进入Logistic回归对话框，选入变量，点选OK运行，以下表8-5是部分运行结果.表8.52023/2/6ncutstat57§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.5中SEX（性别）、AGE（年龄）、X2（月收入）是3个自变量，Wald是回归系数检验的统计量值，（8.16）

Sig是Wald检验的显著性概率，R是偏相关系数。可以看到，X2（月收入）不显著，决定将其剔除。用y对性别与年龄两个自变量做回归，输出结果见8-6.2023/2/6ncutstat58§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.6可以看到，SEX、AGE两个自变量都是显著的，因而最终的回归方程为：2023/2/6ncutstat59§8.3Logistic回归基本理论和方法

目录上页下页返回结束

以上方程式表明，女性乘公共汽车的比例高于男性，年龄越高乘车的比例也越高。SPSS软件没有给出Logistic回归的标准化回归系数，对于Logistic回归，回归系数也没有普通线性回归那样的解释，因而计算标准化回归系数并不重要。如果要考虑每个自变量在回归方程中的重要性，不妨直接比较Wald值（或Sig值），Wald值大者（或Sig值小者）显著性高，也就更重要。当然这里假定自变量间没有强的复共线性，否则回归系数的大小及其显著性概率都没有意义。2023/2/6ncutstat60§8.4Logistic回归的方法与步骤

目录上页下页返回结束

鉴于Logistic回归与判别分析的相似性，我们可以对比两种方法的相似性和不同点。Logistic回归的自变量可以是定量变量或定性变量（需要编码），这样可以检验自变量对于Logistic回归模型的贡献、自变量的显著性以及Logistic模型的判别精度。Logistic回归一般有以下几个步骤。（1）选择自变量和因变量。这里因变量为分组变量（限于篇幅，我们仅介绍因变量分两组的情况），自变量可以是定量变量和定性变量。Logistic回归对于资料数据有较强的稳健性(robustness)，无须各组自变量的协差阵相等的假定。2023/2/6ncutstat61§8.4Logistic回归的方法与步骤

目录上页下页返回结束

（2）将一部分样品