非抽样误差抽样调查理论与方法

关于非抽样误差抽样调查理论与方法美国《文学摘要》对于1936年美国总统选举进行了预测，当时大多数观察家认为罗斯福会轻易获胜，而《文学摘要》根据自己的抽样断定兰登与罗斯福的获胜比率将是57％和43％。然而却是罗斯福以62％比38％的绝对优势坐上了总统宝座。与事实完全相悖的预测断送了这家原本颇有名气的杂志的前程，不久它只得停刊就此“关门大吉”。美国《文学摘要》发出了1000万张调查表，收回了200万张，花费了那么大的精力，收集了那么多的数据，怎么会出那么大的错误呢？主要原因就是抽样框的选取。原来它是按照电话簿和俱乐部成员的名单发出调查表的，由此选取的样本明显地排斥穷人！因为当时一般穷人很少拥有私人电话或隶属于哪个俱乐部（1936年，美国大约有1100万部住宅电话）。众所周知，经济地位在很大程度上影响着政治态度：穷人压倒多数地倾向于罗斯福而有钱人则偏向于兰登。《文学摘要》的样本反映不出这个社会现实从而犯了致命的错误。第2页,共27页，星期六，2024年，5月设计带来非抽样误差有很多表现在抽样框出了问题，第一章中所述的《文学摘要》的抽样框明显地偏向于某一部分人而忽略了另一部分人，从中产生的非抽样误差使得抽样结果不能反映总体（全体选民）的意见。这种致命的错误来源于抽样框“丢失”了总体中占有一定比例的单元，如果这一部分被“丢失”的群体在调查关心的参数方面有其独特的一面，那么这种“丢失”引起的非抽样误差使推断或估计带有明显的偏性。

如果我们的抽样方案是分层抽样，分层抽样不太可能按照关心的总体参数去实施，而常常根据若干辅助信息来进行，当然这些辅助信息与调查变量应当有较强的相关程度。倘若这些辅助变量资料不健全，不准确甚至借用这些辅助变量本身属于判断失误，由此引起的非抽样误差可能会严重威胁到估计的准确性。第3页,共27页，星期六，2024年，5月有时候陈旧的抽样框将带来我们所不希望看到的非抽样误差，因为陈旧的抽样框会造成总体单元的“丢失”现象，一般地它还难以反映近期有关变量的一些变化。以上所述的非抽样误差属于在抽样之前的设计方案工作及编制抽样框中需要认真对待的。本章就抽样过程中产生的非抽样误差进行详尽的讨论。§2无回答现象在设计方案相当合理，编制的抽样框令人十分满意的情况，无回答现象的发生是非抽样误差表现的主要形式之一。无回答类型通常可归结为：（1）遗漏。由随机抽样所确定的调查单位出现“找不到”现象，或者由于客观存在的一些困难，诸如交通极端不便，气候异常恶劣等而无法找到确定要去访问的对象。第4页,共27页，星期六，2024年，5月（2）被调查对象不在家。有时候可以请家庭中其他人甚至就近换一家进行访问，这样的做法虽然方便，但是在一定程度上破坏了随机性。有时候为了确保抽样的随机性，“不在家”就造成了“无回答”。（3）不能回答。某些被访问者对于问卷中的若干问题缺乏有关资料或者出于各种各样的原因而不愿意回答。（4）坚决拒绝调查。这是由于各种原因造成的，尤其是有些问题涉及到个人隐私等等，由此产生的偏差一般较难消除。造成无回答现象的原因有许许多多，但一般地，由政府部门出面组织的抽样调查常常能得到被调查者的友好合作，这种情况下无回答现象的比例相对地较少，然而对于一般的市场信息调查等非政府组织的抽样调查无回答现象比例非常的高。随着我国社会主义市场经济的发展和完善，这种情况正在逐步得到改善。第5页,共27页，星期六，2024年，5月其实调查人员的素质，调查问题的拟定，被调查人员的文化素质等等都对无回答率有一定影响。每件抽样调查，我们需要力求低比率的无回答现象，从目前来看，完全避免无回答现象是不可能的。对于无回答现象产生的非抽样误差我们关心的是：1、问卷的回收率调查报告一般要求列出回收率，尤其是通过邮寄方式进行的调查，更需如此。因为回收率的高低将有力地论证调查的成功与否。对回收率的分析将有助于在无回答现象较严重的情况下进行数据分析，同时也有助于分析出哪些对象是可以再访问从而采取多次访问的手段尽量减少无回答率。2、如何进行数据分析第6页,共27页，星期六，2024年，5月设抽样容量为n,无回答个数为,那么我们的实际调查量为。根据个有效数据分析将比原定的计划少了很多信息。如果这个访问到的对象是从原定的对象中随机无放回地抽取的，那么推断的结果只是精度上的损失，至于估计量的一些良好性质，例如无偏性等仍然保留。然而事情并非这样地如意，无回答者常常拥有某些特征以致对调查的问题持有特定的态度，因此依据个回答数据所作出的推断往往带有偏性。以总体平均数的估计为例，我们面临的情况相当于总体中N个单元划分为两部分：——回答者，——无回答者。倘若抽样方式是简单随机的，那么与的比例理应相当于与的比例。这两部分的平均数分别记为和，于是总体平均数为：(12.1)第7页,共27页，星期六，2024年，5月根据“回答者”部分的平均数是的无偏估计，用估计显然会产生偏倚：(12.2)这个偏倚中，与是可以利用调查得到的数据进行估计的，但是由于“无回答”，是根本无法获知其信息的，因此要对估计量给于“纠偏”，其难度极大，尤其是在较大时也就是“无回答者”占有相当大比例时，连的置信限都难于得到。在有些实例中，人们只能对偏倚作出一些猜测，这些猜测有时候可以根据一些历史的资料作出，有一定的参考价值；但是有时候凭主观作出的猜测无法证实其正确性，因此利用它来“纠偏”缺乏依据也缺乏精确度，这显然归因于无回答现象带来的恶果。第8页,共27页，星期六，2024年，5月（1）对某些问题无回答的数据以该问题回答数据的平均数来代替；（2）从对某问题回答的个数据中作次随机有放回的抽样，以填补个无回答者的数据。然而在用计算机处理抽样数据时，不单单是简单地用去代替或者最多给出一定量的纠偏。众所周知，抽样调查一般不止问一个问题，我们的问卷经常围绕调查的目的而设置一系列问题，我们遇到的无回答现象经常表现为：全部问题无回答或部分问题无回答。在部分问题无回答者中，将会呈现回答问题的多少以及哪些问题无回答的复杂情况，这给计算机处理及整体推断带来一定的困难。有些学者提出对于这样的“丢失”数据能否人为地补缺，如果对无回答对象一无所知的情况下，我们可以采取下述措施：第9页,共27页，星期六，2024年，5月上述做法还是相当于从个回答者的数据出发对总体作出推断，但是在计算机上整体考虑来说是作为个样本来处理的，给整体全面的推断带来某种方便，且也具有一定合理性，因为我们的抽样调查本身是要求个均有回答的。然而这样的处理在精度上如何计算，或者说新构成的估计量方差如何估计，国外的一些统计学家曾作过研究与进一步的探索。3、多次访问为了缩小无回答所引起的偏差，减少无回答的数量，有必要采取一些措施，例如对访问者的培训，对敏感问题的适当处理以消除被访问者的疑虑，调查前作好充分的准备工作等等，采用多次访问是个有效的方法。当然，对于那些“坚决拒绝回答者”来说，多次访问很难奏效，但是对于那些“不在家”或“不能回答”原因的无回答者应当有不小的作用。第10页,共27页，星期六，2024年，5月实际工作表明，多次访问的确能做到减少无回答率，随之而引出的问题是承担的费用问题。一般地，抽样方案设计中会留下一部分经费用于“再访问”以便提高回答率。所谓多次访问不可能“许多次”，因为随着访问次数的增加，每次的回收率将随之减少，因此“许多次”是不必要的。另外在再次访问时，最好的办法是换一个访问员独立地对前一次无回答者进行访问，这样常常可以收到很好的效果。4、Polize—Simmons较正如果由于条件的限制，只能进行一次调查，如何较正由于无回答而引起的误差呢？Polize—Simmons对总体平均数提出的建议对我们有一定的参考价值。假定所有访问者均是在除周日以外的6个晚上进行，对于每一个实际被调查者在答完问卷以后再附带询问一个问题：“除周日之外，您在今晚以前的5个晚上有几天在家？”这个问题的如实回答实际上告诉了访问员关于他晚上在家第11页,共27页，星期六，2024年，5月的频率的一个大致估计：（其中是被调查者回答的天数）。根据调查的结果可以将被访问人分为6部分，即。设每个部分含有个人。显然，越大，就越大，对应此的组入样的可能性就越大，这样该部分的平均数在估计总体平均数的过程中应当赋予与该组在家频率相适应的权。这种思想实质上类似于不等概率抽样时的平均数估计。按照这种加权平均的思想，我们将原先的样本平均数（当然是基于被调查到的样本）调整为所谓Polize-Simmons估计量:(12.3)第12页,共27页，星期六，2024年，5月Polize-Simmons较正在直观上有合理的解释：某些调查指标——诸如生活费用的平均年收入或年支出——与被调查者是否容易找到是较强相关的两个因素。如果不采用加权平均数而采用被调查者的平均数，那么所得到的估计就相对地突出了那些容易被找到的人的影响，而掩盖了另一部分不容易找到的人的影响。P-S较正采用加权平均对偏差作了一定程度上的较正。当然所利用的权本身是通过抽样调查的数据估算出来的，它将无可质疑地影响到估计量的方差（增大），对估计的精度付出代价，但是我们毕竟不要再花费时间、精力和费用去作多次访问并达到纠偏的作用。第13页,共27页，星期六，2024年，5月§3计量误差计量误差是又一种重要的非抽样误差。由于计量工具的不够精确，或由于调查人员工作的粗糙失误，或者是数据处理人员的马马虎虎，都有可能造成调查所得数据与真值之间的不一致。这样的计量误差（或称调查误差）将严重地威胁到抽样推断。本节还要简略讨论到另一种调查误差，那就是人为的“虚假”数据，数据的伪造与虚假干扰了我们的调查与推断，有时候会发生不堪设想的严重后果。1、设计引起的误差因为方案以及问卷的设计引起偏差的问题，我们已经在第一章中较为详尽地阐述过，本节稍稍谈论由此引起的计量方面的误差。在调查咨询方面取得极大成功的盖洛普十分强调问卷设计中的用词，用词欠妥有可能引起调查结果在计量方面显著的不同，足以例证的当推Rugg试验：第14页,共27页，星期六，2024年，5月问题甲：“您认为美国应当禁止反对民主的公开言论吗？”其结果是54％的人赞成。问题乙：“您认为美国应该允许反对民主的公开言论吗？”结果是75％的人不赞成。两个问题表示美国多数以上的人不同意在美国有公开反对民主的言论，但比例为54：75，相距甚远。既然人们倾向于不允许反对民主的公开言论，但“禁止”两字使不少人感到这与“民主及言论自由”有相悖之处。这里面涉及到美国的国情、美国人的心理承受等各种因素。当然，要想完全避免问题设计引起的计量上的误差很难做到，因此我们主张有时候可以做些小范围的试调查，从而调整我们的各种用词。第15页,共27页，星期六，2024年，5月2、调查员误差对于一个对象的访问，如果不存在调查员方面的问题，照理调查所取得的数据与真值之间只有随机误差，因此从理论上讲，只要对该对象多次访问再取平均数则可以基本上“抵消”随机误差的影响。然而由于调查员方面引起的误差（通常称为系统误差）不可能通过多次访问而抵消。调查员误差常常归因于：（1）调查员本身的素质，倘若一个调查员工作粗糙、登录马虎等，则会引起不必要的差错。有些调查员只在调查中将对象提供的以前的或公开的资料照抄，殊不知这些以前的或公开的数据与现在要调查得到的数据之间有时是存在差异的，这样的误差当然是由调查员而引起的。（2）调查员的诱导引起的调查误差。调查员为了将问题展开下去，常启发被调查人员，或做一些示范暗示，做一些比喻，言语与动作之间常带有调查员本身的一些想法第16页,共27页，星期六，2024年，5月愿望等，只要回答的结果不对被调查人员的生活及其他带来不利影响的话，有些被调查人员就会自然地顺着调查员的思路回答问卷。（3）调查员按照被调查人员给自己留下的初步印象而推测填写问卷。不能否认，调查员本身是生活在社会中的一员，对许多事情有自己的思想，会作出自己的判断。被调查人员的年龄、性别、社会职业、家庭收入，以及一进门就可看到的家庭摆设、卫生状况，甚至被调查人员的容貌等都会给调查人员一个较深刻的印象，在问卷中有些不清楚的问题，或者需要被调查人员讲述一些观点而由调查员记录下来的内容，都有可能由于调查员认为这样的人必定如何回答该问题的印象而引起误差。或者调查员根据先前对其他人的访问留下的印象，比如对某问题持赞成者多，那么这种印象也很有可能成为他采访下一个对象时已经形成初步结论。第17页,共27页，星期六，2024年，5月以上这些调查员误差都是属于系统误差，称为偏差，不可能通过大量访问或多次访问加以克服。要尽可能地避免或减少调查员误差就必须挑选合格称职的调查员，并且对调查员预先进行培训，讲清楚注意点，尤其是要向调查员反复强调职业道德。另外抽样调查的督导十分重要，督导的作用是检查调查质量，并从中抽取少部分进行核查访问以评估调查的质量。核查通常采用电话方式，若上门核查则常常采用调查员之间交叉核查的办法。3、被调查人员误差被调查人员误差虽然需要“防治”，但有些是可以原谅的，例如被调查者对问题的理解发生差错就是一例，当然如果是调查员上门访问，那么这种差错就容易及时更正，但如果是邮寄问卷等则无法纠正了。另外，有不少事情是需要被调查人员回忆后再回答的，它不像“什么时侯出生”、“何地出生”、“家中有几口人”等这些问题既简单且不易发生差错。第18页,共27页，星期六，2024年，5月有些事情，时间比较长且又比较复杂，回忆有一定的困难，差错也是难免的。对于这种类型的差错，一般要求调查员有耐心地等待，给予一定的回忆时间。倘若被调查人员身体不适、情绪欠佳，或者调查环境使人烦躁等都会引起回答误差。另一类由被调查人员引起的调查误差是不可原谅的，那就是被调查人员“谎报军情”提供虚假数据。这里面有一部分人因为牵涉到一些敏感性问题而不愿如实回答，对于敏感性问题的巧妙处理将在下一节进行讨论。但是，在我国的确存在着虚报瞒报、篡改统计数据等现象，使国家统计局掌握统计信息，反映我国国民经济发展及社会运行状况工作遇到人为麻烦。因此，广泛宣传统计法，加强对统计法执行的力度已经刻不容缓。关于样本数据是否虚假，存在一个发现与判断的问题，往往只有比较样本数据的整体变化才有可能确定，或者可以利用历史样本以及经验进行判断。第19页,共27页，星期六，2024年，5月例如，如果我们发现某村申报小麦亩产量为500公斤，从该村历史上的小麦亩产量以及周围地区的小麦亩产量的抽样数据，也许我们会很果断地判定它的虚假性。一般来说，抽样调查总是调查一批数据，是多参数的，各参数之间存在一定的相关，根据历史资料等有时可以估算到相关程度，即使是粗略估计也能有助于我们及时发现虚报数据.在数值上利用计算机作出判断是人们感兴趣的研究课题，它其实与对抽样的质量评估紧密地联系在一起。简单地说，设为抽样获得的数据，从这几个对象中随机选取一个子集进行再调查，两次调查的数据分别记为和。（1）比较这两组数据之间的差异，它在某种程度上可以鉴别真伪性，同时也对整个抽样的质量进行适当评估。第20页,共27页，星期六，2024年，5月（2）利用，对总体参数的估计量为，利用对总体参数相应的估计量记为，与之间的差异可以评估抽样推断的质量，同时也可以检测即使有虚假数据存在可能是否会影响到整体的估计。在处理数据过程中，一旦发现虚假数据，通常采用的处理手段是：删去或重新调查。删去数据必须小心谨慎，如果确定是虚假数据，那么毋庸置疑地剔除。但是在实际情况中有些数据看起来相当“异常”，而且在历史资料中似乎也从未发生过，大有“虚假”之嫌，而它也许是真实的。例如某县遭到史无前例的天灾，那么在该年该县的农产量便会呈现极度异常值，像这样的虽异常但真实的数据是不应该轻易剔除的，因为每一个数据为我们提供了一定的信息，轻易地丧失信息将严重地威胁到估计的精度。第21页,共27页，星期六，2024年，5月§4敏感性问题的调查在社会经济调查中经常会出现一些敏感性的或高度私人绝密的问题。例如对于青少年吸毒问题的调查，吸毒是个敏感性问题，几乎没有一个吸毒的青少年会向公安部门或政府机构的调查者袒露自己的吸毒行为。又如科技人员的流向或有关流向意愿，国家人事部门为了掌握有关人才流动信息曾作过抽样调查，但是被调查者未必愿意在正式流动之前表白自己的意向，否则也许会在原工作单位造成不必要的麻烦。调研工作者很希望设计一种办法既使被调查者不担心暴露隐私，又使调查者获得正确的资料，这就是本节所要介绍的两种处理敏感问题的方法。1、Warner装置针对有些问题仅有“是”或“否”两种回答而我们的目的是获取总体中“是”的比例这样的调查，Warner设计了一种随机化装置，基本想法如下：第22页,共27页，星期六，2024年，5月对于n个对象中的每一个以概率P与1-P就关心的敏感性问题提出两个截然相反的回答，例如“我赞成某事”或“我不赞成某事”，任何一个对象面对任何一个回答只需回答“是”或“否”。Warner装置的巧妙之处在于调查人员无法知道被调查人员回答了哪个问题，要做到这一点并不困难，只要准备几张无差异的折叠纸条，以概率P与1-P在纸条上写上述两个问题。被调查者随机地摸出一张纸条打开，但是调查员不允许查看纸条上书写哪个问题，被调查者针对他所摸到的那个问题如实回答，若回答“是”，则以红球投进一密闭口袋，若回答“否”，则投之于白球，整个投球过程也不让调查员看到，调查员唯有在整个过程结束后打开口袋查点红白球个数。这种装置使被调查者确信不会泄漏自己的态度从而如实投球。第