信度和效度测量

信度和效度测量第一页，共38页。测量理论信度效度信度与效度的关系信度与效度的分类及Stata计算信度与效度的影响因素提高信度与效度的途径主要内容第二页，共38页。测量理论第三页，共38页。信度(Reliability)正如很多教科书所说：信度是指测试方法不受随机误差干扰的程度，反映测试结果的一致性和稳定性(consistency,andstability)。第四页，共38页。效度(Validity)它反映测试的准确性(accuracy)，即在多大程度上测量了想要测的内容。T第五页，共38页。信度和效度的关系可以证明：第六页，共38页。总而言之，信度和效度相互排斥又相互依存；没有信度就不可能有效度；没有效度，信度就毫无意义；高信度可能带来低效度；高效度也可能带来低信度。举例来说第七页，共38页。信度分类及计算信度主要分为四大类：重测信度(Test-retestReliability)复本信度(Alternate-formReliability)内部一致性系数(InternalConsistencyReliability)评分者信度(ScorerReliability)第八页，共38页。重测信度——kappa系数重测信度反映两次测量结果的相关程度。对于分类变量，可采用Cohen'skappa系数来测量：BA好坏合计好20525坏101525合计302050第九页，共38页。将上表恢复为原始数据集后，采用Stata的kappa命令可得如下结果：Kappa系数大于0.75表示重测信度很好,在0.4～0.75表示较好,而低于0.4表示较差。如果结果显示某个问卷(量表)项目的Kappa系数低于0.4,则要考虑修改或删除该项目。第十页，共38页。重测信度——ICC系数对于连续变量，可采用RonaldFisher(1954)提出的ICC(IntraclassCorrelationCoefficient)系数来测量：两种相关系数的本质区别在于均值和方差计算不同。在计算连续变量的重测信度时，应采用rFisher系数更准确。一般来说,ICC大于0.75表示极好,ICC在0.6～0.75表示较好。通常的相关系数：第十一页，共38页。Stata命令：Forrpearsoncorrvar1var2ForrFisherloneway

var1var2第十二页，共38页。复本信度复本信度是指用母本和复本两次等值测评结果的一致性程度。它的计算与重测信度相似，即计算母本和复本测评数据的相关性。当测评结果为分数或数值时，用rPearson法或rFisher计算；当测评结果为等级或名次时，用斯皮尔曼等级相关系数(SpearmanRankCorrelation)。这些方法的适用性和差异见下表：第十三页，共38页。从表中数字可以看出，工人的考试成绩愈高其产量也愈高，二者之间的联系程度较一致，rPearson=0.691；并不算太高，这可能由于它们之间的关系并不是线性的。如果分别按考试成绩和产量高低变换成等级(见上表第3、4列)，则可以计算它们之间的斯皮尔曼等级相关系数为1。计算斯皮尔曼等级相关系数可以将数据变换成等级以后用原有的相关系数公式计算，也可以先算出每一对样本的等级之差di，结合样本量n；再用下列公式计算：上例中由于等级完全一致，所有di=0，所以r-spearmanrank

=1

。第十四页，共38页。Stata命令：Forr-spearmanrank

spearman

var1var2第十五页，共38页。内部一致性系数——折半信度第十六页，共38页。第十七页，共38页。内部一致性系数——Cronbach系数Cronbach’sα系数越大表示问卷项目间相关性越好,内部一致性信度越高。一般而言,α大于0.8表示内部一致性极好,α在0.6～0.8表示较好,而低于0.6表示内部一致性较差。在实际应用上,Cronbach’sα值至少要大于0.5,最好能大于0.7(Nunnally,1978)。第十八页，共38页。Stata命令：ForrCronbach

alpha

var1var2第十九页，共38页。评分者信度——

Kendall系数当评分者为两人时，评分者信度是通过对同一组被试测评分数之间的相关系数来鉴定，可使用积差相关(rPearson,rFisher)法或等级相关法(rspearmanrank)。当评分者为两人以上，并用等级计分(其他形式的分数要转化为等级)，则用肯德尔和谐系数来测量评分者信度。第二十页，共38页。Stata命令：ForrKendallktau

var1var2第二十一页，共38页。应聘者评等级面试官一二三四五六A312546B213456C321546D412635E312645F42153619811312334361641219615291156例题：6名面试考官对6名应聘者的综合素质进行了测评，评分经等级转换如下表所示，试分析评分者信度。第二十二页，共38页。应聘者评等级面试官ABCDEF甲142.5562.5乙231564丙1.531.545.55.54.51051417.51220.2510025196306.25144例题：3名面试考官对6名应聘者的综合素质进行了测评，评分经等级转换如下表所示，试分析评分者信度。第二十三页，共38页。效度分类及计算信度主要分为三大类：内容效度(ContentValidity)抽样效度(SamplingValidity)表面效度(FaceValidity)效标关联效度(Criterion-RelatedValidity)

同时效度(ConcurrentValidity)预测效度(PredictiveValidity)构思效度(ConstructValidity)收敛效度(ConvergentValidity)区分效度(DiscriminantValidity)第二十四页，共38页。内容效度在招聘和甄选过程中，通常涉及内容效度和效标关联效度。内容效度是指测评内容反映测量目标(如知识、技能和行为等)的程度。一个测验要具备较好的内容效度必须满足以下两个条件：一、要确定好内容范围，并使测验的全部项目均在此范围内(抽样效度)。它既可以是具体知识或技能，也可以是复杂行为。二、测验项目应是已界定的内容范围的代表性样本(表面效度)。也即选出的项目能包含所测的内容范围的主要方面，并且使各部分项目所占比例适当。

第二十五页，共38页。确定测验内容效度常用的方法是由专家对测验项目与所涉及的内容范围进行符合性判断，这是一种定性分析的方法。这个效度产生的过程是：首先进行职务分析，确定完成该职位任务所需进行的工作，需具备的技能和能力；其次，确定衡量这些特征的测试题目。最后，请相关领域专家就这些测试题目是否涵盖了有效地内容进行评估和筛选。第二十六页，共38页。效标关联效度效标关联效度是指问卷(量表)测量结果和效度标准(被假设或定义为有效的某种外在标准)之间的一致程度。根据效度标准获取的时间可分为:同时效度和预测效度。同时效度和预测效度的大小直接反映了问卷(量表)效标关联效度的高低。第二十七页，共38页。同时效度(1)同时效度(ConcurrentValidity),即同时在研究对象中进行测评和效度标准测量得到的结果之间的相关程度,其效度系数通常较低,多在0.20～0.60之间,很少超过0.70,一般以0.4～0.8之间较理想。例如：在招聘应届毕业生时，可将应聘大学生的面试和笔试综合分数与其在校综合测评成绩(效标)进行相关性分析。第二十八页，共38页。预测效度(2)预测效度(PredictiveValidity),它是指问卷(量表)测量结果经过一段时间后与未来实际结果予以相关性分析,两者之间的吻合程度。例如：对于被录用者，可以将招聘测试分数与一段时间(半年或一年)之后的工作业绩考核结果进行比较。若这些人的工作绩效和招聘测试分数呈现密切相关关系时，说明招聘方法是有效的，可以推广到人员甄选与选拔中去。第二十九页，共38页。分析效标关联效度的通常作法是对问卷(量表)测量结果与有效标准进行相关分析,相关系数越大表示问卷(量表)的效标关联效度越好,一般认为相关系数在0.4～0.8比较理想。若为连续型变量，计算Pearson或Fisher相关系数,若为分类变量，则计算Kendall或Spearman等级相关系数。一般而言,相关系数在0.4～0.8比较理想。第三十页，共38页。第三十一页，共38页。构思效度(略)常被翻译为：架构效度，构想效度和结构效度等等。它是指测评所能衡量到理论上期望的特征的程度,即问卷(量表)所要测量的概念能显示出科学的意义并符合理论上的设想,它是通过与理论假设相比较来检验的,因此也被称为理论效度。构思效度比较复杂，超出了本科生人力资源管理专业学生的学习范围，故省略之。第三十二页，共38页。信度的影响因素被试方面主试方面施测情景方面测量工具方面两次施测的时间间隔第三十三页，共38页。提高信度的途径适当增加测验的长度。使测试题难度分布接近正态分布，并控制在中等水平。努力提高测验试题的区分度。选取适当的被试团体，提高测验在同质性较强的亚团体上的信度。主试严格执行实测规程，评分者严格按标准给分。实测场地按测验手册要求布置，减少无关因素的干扰。第三十四页，共38页。效度的影响因素测验的构成测验的实施过程接受测验的被试第三十五页，共38页。提高效度的途径精心编制测验量表，避免出现较大的系统误差。妥善组织测验，控制随机误差。创设标准的应试情景，让每个被试都能充分发挥正常水平。选择正确的效标，定好恰当的效标测量，正确地使用有关公式。第三十六页，共38页。作业自己练习运用Stata软件计算信度和效度请学生预习以下三篇文献：[1]徐蔼婷.德尔菲法的应用及其难点[J].中国统计,20