第8章定性数据的建模分析

11三月2024第8章定性数据的建模分析*中国人民大学六西格玛质量管理研究中心2第八章定性数据的建模分析

目录上页下页返回结束

第三章我们曾讨论过定性数据的列联表分析，对数线性模型是进一步用于离散型数据或整理成列联表格式的数据的统计分析工具。它可以把方差分析和线性模型的一些方法应用到对交叉列联表的分析中，从而对定性变量间的关系作更进一步的描述和分析。列联表分析无法系统地评价变量间的联系，也无法估计变量间交互作用的大小，而对数线性模型是处理这些问题的最佳方法。当被解释变量是非度量变量时，可以用判别分析。然而当被解释变量只有两组时，Logistic回归由于多种原因更受欢迎。首先，判别分析依赖于严格的多元正态性和相等协差阵的假设，这在很多情况下是达不到的。*中国人民大学六西格玛质量管理研究中心3第八章定性数据的建模分析

目录上页下页返回结束

Logistic回归没有类似的假设，而且这些假设不满足时，结果非常稳定。其次，即使满足假定，许多研究者仍偏好Logistic回归，因为它类似于回归分析。两者都有直接的统计检验，都能包含非线性效果和大范围的诊断。因为这些和更多技术原因，Logistic回归等同于两组的判别分析，在很多情况下更加适用。再者，Logistic回归对于自变量没有要求，度量变量或者非度量变量都可以进行回归，这样，本章仅介绍定性数据建模的对数线性模型和Logistic回归方法。*中国人民大学六西格玛质量管理研究中心4§8.1对数线性模型基本理论和方法

目录上页下页返回结束

本节将利用2×2维的交叉列联表来说明对数线性模型的基本理论和方法，同时利用SPSS软件对真实的经济定性数据作分析。从2×2维的交叉列联表的概率表，介绍对数线性模型的基本理论和方法。*中国人民大学六西格玛质量管理研究中心5§8.1对数线性模型基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心6§8.1对数线性模型基本理论和方法

目录上页下页返回结束

对上面三式各取其平均数为：

该式的结构与有交互效应，且各水平均为二的双因素方差分析模型的结构相似，因此模仿方差分析，可以有如下关系式：

*中国人民大学六西格玛质量管理研究中心7§8.1对数线性模型基本理论和方法

目录上页下页返回结束

若记其中移项，可得与有交互效应的双因素方差分析数学模型极为相似的关系式：*中国人民大学六西格玛质量管理研究中心8§8.1对数线性模型基本理论和方法

目录上页下页返回结束

(8.2)

*中国人民大学六西格玛质量管理研究中心9§8.1对数线性模型基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心10§8.1对数线性模型基本理论和方法

目录上页下页返回结束

在实际分析中，概率表中各项值，以交叉列联表计算得的频率表的对应项为无偏估计值。公式表示为：*中国人民大学六西格玛质量管理研究中心11§8.1对数线性模型基本理论和方法

目录上页下页返回结束

将以上三式代入公式（8.3）即可得的估计值。实际分析中，二维数据表并不是每个因素都是双水平的，在分析中，把公式的的取值上限调整即可。*中国人民大学六西格玛质量管理研究中心12§8.2对数线性模型分析的上机实践

目录上页下页返回结束

可以使用SPSS软件来实现对数线性模型分析。这里举一个例子是3×2维的交叉列联表的分析。我们用SPSS软件中的Loglinear模块实现分析。【例8.1】某企业想了解顾客对其产品是否满意，同时还想了解不同收入的人群对其产品的满意程度是否相同。在随机发放的1000份问卷中收回有效问卷792份，根据收入高低和满意回答的交叉分组数据如表8-1：*中国人民大学六西格玛质量管理研究中心13§8.2对数线性模型分析的上机实践

目录上页下页返回结束

表8.1.

满意不满意合计高533891中434108542低11148159合计598194792*中国人民大学六西格玛质量管理研究中心14§8.2对数线性模型分析的上机实践

目录上页下页返回结束

首先要准备数据，上面的交叉列连表的数据要输入到spss的表格里去，具体应当是入下：频数收入情况满意情况531143421111313812108224832*中国人民大学六西格玛质量管理研究中心15§8.2对数线性模型分析的上机实践

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心16§8.2对数线性模型分析的上机实践

目录上页下页返回结束

按上面的形势输入数据后，还不能马上进行对数线性模型分析，必须先激活频数，即让频数有效。具体步骤是：使用SPSS软件，从主菜单中，以Data→WeightCases...顺序，打开WeightCases对话框，选中Weightcasesby单选框，从变量列表中选出“频数”变量,点击

钮，使之进入FrequencyVariable框，然后点击OK钮，回到数据表格，这时分析前的准备工作就完成了。这一部很重要，如果频数没有被激活，对数线性模型的模块仍会执行命令，但是得出的结果是错误的，所以使用时一定要小心。*中国人民大学六西格玛质量管理研究中心17§8.2对数线性模型分析的上机实践

目录上页下页返回结束

数据准备工作完成后，就可以进行下一步的分析了。从主菜单中，按Analyze→Loglinear→ModelSelection...的流程可打开ModelSelectionLoglinearAnalysis对话框，从左侧变量栏里选中“收入情况”，点击

钮使之进入Factor(s)框，这时该框下面的DefineRange...钮就会从灰色变为黑色，点击弹出LoglinearAnalysis:DefineRange对话框，可以定义变量的范围，即该变量的水平范围，本例中“收入情况”共有三种类型，代号分别是1、2、3，所以在Minimum处键入1，在Maximum处键入3，*中国人民大学六西格玛质量管理研究中心18§8.2对数线性模型分析的上机实践

目录上页下页返回结束

点击Continue钮，返回ModelSelectionLoglinearAnalysis对话框；按同样方法，把“满意情况”变量选入，并定以其范围为1、2；然后选中“频数”变量，点击

钮使之进入CellWeight框；最后，点击Options...钮，进入LoglinearAnalysis:Options对话框，选择DisplayforSaturatedModel栏下的Parameterestimates项，点击Continue钮返回ModelSelectionLoglinearAnalysis对话框，其他选项保持默认值，最后点击OK钮即完成分析步骤。*中国人民大学六西格玛质量管理研究中心19§8.2对数线性模型分析的上机实践

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心20§8.2对数线性模型分析的上机实践

目录上页下页返回结束

首先显示系统对792例资料进行分析，这792例资料可分为6类（3×2）。模型中共有二个分类变量：其中“收入情况”变量为3水平，“满意情况”情况变量为2水平；分析的效应除了两个分类变量，还有两者的交互作用（收入情况*满意情况）。系统经1次叠代后，即达到相邻二次估计之差不大于规定的0.001。*中国人民大学六西格玛质量管理研究中心21§8.2对数线性模型分析的上机实践

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心22§8.2对数线性模型分析的上机实践

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心23§8.2对数线性模型分析的上机实践

目录上页下页返回结束

这是对模型是否有交互效应和高阶效应进行检验，原假设是高阶效应为0，即没有高阶效应。检验结果认为拒绝原假设，存在交互效应和高阶效应。在Note里，表示对饱和模型的观测单元进行了变换。*中国人民大学六西格玛质量管理研究中心24§8.2对数线性模型分析的上机实践

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心25§8.2对数线性模型分析的上机实践

目录上页下页返回结束

为了唯一地估计参数，系统强行限定同一分类变量的各水平参数之和为0，故根据上表结果可推得各参数为：*中国人民大学六西格玛质量管理研究中心26§8.2对数线性模型分析的上机实践

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心27§8.2对数线性模型分析的上机实践

目录上页下页返回结束

参数值为正，表示正效应；反之为负效应；零为无效应。分析提供的信息是：（1）为正值，说明接受调查了的多数顾客对其产品还是满意的；（2）<<，说明各收入阶层的顾客对其产品的满意程度是不同的，其中，高收入的顾客满意程度最低，而中层收入的顾客满意程度最高；（3）通过对企业顾客的收入情况和满意情况交互效应的研究，为负值表示高收入与对产品的满意程度是负效应的，为正表示中等收入者与对其产品的满意程度是正效应的，同理，低收入人群对其产品的满意程度也是负效应的。该企业的产品主要的消费阶层是中等收入者，同时中等收入者对其产品的满意程度也最好。*中国人民大学六西格玛质量管理研究中心28§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心29§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心30§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心31§8.3Logistic回归基本理论和方法

目录上页下页返回结束

Logistic回归不同于一般回归分析的地方在于它直接预测出了事件发生的概率。尽管这个概率值是个度量尺度，Logistic回归与多元回归还是有着很大的差异。概率值可以是0~1之间的任何值，但是预测值必须落入0~1的区间。这样，Logistic回归假定解释变量与被解释变量之间的关系类似于S形曲线。而且，不能从普通回归的角度来分析Logistic回归，因为这样做会违反几个假定。首先，离散变量的误差形式服从贝努里分布，而不是正态分布，这样使得基于正态性假设的统计检验无效。其次，二值变量的方差不是常数，会造成异方差性。Logistic回归是专门处理这些问题的。它的解释变量与被解释变量之间独特的关系使得在估计、评价拟合度和解释系数方面有不同的方法。*中国人民大学六西格玛质量管理研究中心32§8.3Logistic回归基本理论和方法

目录上页下页返回结束

估计Logistic回归模型与估计多元回归模型的方法是不同的。多元回归采用最小二乘估计，将解释变量的真实值与预测值差异的平方和最小化。而Logistic变换的非线性特征使得在估计模型的时候采用极大似然估计的叠代方法，找到系数的“最可能”的估计。这样在计算整个模型拟合度的时候，就采用似然值而不是离差平方和。*中国人民大学六西格玛质量管理研究中心33§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心34§8.3Logistic回归基本理论和方法

目录上页下页返回结束

前面已提到Logistic回归在估计系数时，是用的极大似然估计法。就象多元回归中的残差平方和，Logistic回归对模型拟合好坏通过似然值来测量。（实际上是用－2乘以似然值的自然对数即－2Log似然值，简记为－2LL）。一个好的模型应该有较小的－2LL。如果一个模型完全拟合，则似然值为１，这时－2LL达到最小，为0。Logistic回归对于系数的检验采用的是与多元回归中t检验不同的统计量，称为Wald统计量。有关Logistic回归的参数估计和假设检验详见参考文献[8]。*中国人民大学六西格玛质量管理研究中心35§8.3Logistic回归基本理论和方法

目录上页下页返回结束

一、分组数据的Logistic回归模型针对0-1型因变量产生的问题，我们对回归模型应该做两个方面的改进。第一，回归函数应该改用限制在[0，1]区间内的连续曲线，而不能再沿用直线回归方程。限制在[0，1]区间内的连续曲线有很多，例如所有连续型随机变量的分布函数都符合要求，我们常用的是Logistic函数与正态分布函数。Logistic函数的形式为（8.4）

Logistic函数的中文名称是逻辑斯谛函数，或简称逻辑函数。这里给出几个Logistic函数的图形。见图8-1、图8-2。*中国人民大学六西格玛质量管理研究中心36§8.3Logistic回归基本理论和方法

目录上页下页返回结束

图8-1的图形

*中国人民大学六西格玛质量管理研究中心37§8.3Logistic回归基本理论和方法

目录上页下页返回结束

图8-2的图形

*中国人民大学六西格玛质量管理研究中心38§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心39§8.3Logistic回归基本理论和方法

目录上页下页返回结束

【例8.2】在一次住房展销会上，与房地产商签定初步购房意向书的共有n=325名顾客中，在随后的3个月的时间内，只有一部分顾客确实购买了房屋。购买了房屋的顾客记为1，没有购买房屋的顾客记为0。以顾客的年家庭收入（万元）为自变量x，对如下的数据，建立Logistic回归模型*中国人民大学六西格玛质量管理研究中心40§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.2序号年家庭收入(万元)x签定意向书人数ni实际购房人数mi实际购房比例pi=mi/ni逻辑变换权重wi=nipi(1-pi)11.52580.320000-0.753775.44022.532130.406250-0.379497.71933.558260.448276-0.2076414.34544.552220.423077-0.3101512.69255.543200.465116-0.1397610.69866.539220.5641030.2578299.59077.528160.5714290.2876826.85788.521120.5714290.2876825.14399.515100.6666670.6931473.333*中国人民大学六西格玛质量管理研究中心41§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心42§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心43§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心44§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心45§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.3*中国人民大学六西格玛质量管理研究中心46§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心47§8.3Logistic回归基本理论和方法

目录上页下页返回结束

得年收入8万元的家庭预计实际购房比例为58.5%，这个结果与未加权的结果很接近。以上的例子是只有一个自变量的情况，分组数据的Logistic回归模型可以很方便的推广到多个自变量的情况，在此就不举例说明了。分组数据的Logistic回归只适用于大样本的分组数据，对小样本的未分组数据不适用。并且以组数c为回归拟合的样本量，使拟合的精度低。实际上，我们可以用极大似然估计直接拟合未分组数据的Logistic回归模型，以下就介绍这个方法。二、未分组数据的Logistic回归模型*中国人民大学六西格玛质量管理研究中心48§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心49§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心50§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心51§8.3Logistic回归基本理论和方法

目录上页下页返回结束

*中国人民大学六西格玛质量管理研究中心52§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.4：序号性别年龄月收入序号性别年龄月收入1018850015120100002021120001612512000302385011712713000402395011812815000502812001191309501603185002013210000*中国人民大学六西格玛质量管理研究中心53§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.4（续）70361500121133180008042100012213310000904695012313812000100481200024141150001105518001251451800112056210012614810000130581800127152150011411885002815618001*中国人民大学六西格玛质量管理研究中心54§8.3Logistic回归基本理论和方法

目录上页下页返回结束

依次点选SPSS软件的Statistics-Regression-Logistic命令，进入Logistic回归对话框，选入变量，点选OK运行，以下表8-5是部分运行结果.表8.5*中国人民大学六西格玛质量管理研究中心55§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.5中SEX（性别）、AGE（年龄）、X2（月收入）是3个自变量，Wald是回归系数检验的统计量值，（8.16）

Sig是Wald检验的显著性概率，R是偏相关系数。可以看到，X2（月收入）不显著，决定将其剔除。用y对性别与年龄两个自变量做回归，输出结果见8-6.*中国人民大学六西格玛质量管理研究中心56§8.3Logistic回归基本理论和方法

目录上页下页返回结束

表8.6可以看到，SEX、AGE两个自变量都是显著的，因而最终的回归方程为：*中国人民大学六西格玛质量管理研究中心57§8.3Logistic回归基本理论和方法

目录上页下页返回结束

以上方程式表明，女性乘公共汽车的比例高于男性，年龄越高乘车的比例也越高。SPSS软件没有给出Logistic回归的标准化回归系数，对于Logistic回归，回归系数也没有普通线性回归那样的解释，因而计算标准化回归系数并不重要。如果要考虑每个自变量在回归方程中的重要性，不妨直接比较Wald值（或Sig值），Wald值大者（或Sig值小者）显著性高，也就更重要。当然这里假定自变量间没有强的复共线性，否则回归系数的大小及其显著性概率都没有意义。*中国人民大学六西格玛质量管理研究中心58§8.4Logistic回归的方法与步骤

目录上页下页返回结束

鉴于Logistic回归与判别分析的相似性，我们可以对比两种方法的相似性和不同点。Logistic回归的自变量可以是定量变量或定性变量（需要编码），这样可以检验自变量对于Logistic回归模型的贡献、自变量的显著性以及Logistic模型的判别精度。Logistic回归一般有以下几个步骤。（1）选择自变量和因变量。这里因变量为分组变量（限于篇幅，我们仅介绍因变量分两组的情况），自变量可以是定量变量和定性变量