当前位置:文档之家› 党委党建结构化面试信度和效度的实证分析

党委党建结构化面试信度和效度的实证分析

党委党建结构化面试信度和效度的实证分析
党委党建结构化面试信度和效度的实证分析

三一文库(https://www.doczj.com/doc/ad2908471.html,)/党建教育/党委党建

结构化面试信度和效度的实证分析

结构化面试信度和效度的实证分析

结构化面试信度和效度的实证分析——对新录用公务员试用期表现的跟踪调查结构化面试是一种以行为描述方法为主的,并按测量要求事先拟定提问内容和顺序的面试。它具有测试要素结构化、面试程序结构化和评分标准结构化三大特点。自实施国家公务员制度十年来,它已经被广泛地应用到各级公务员录用考试中。考试的科学性是考试录用制度的生命线,而面试的公正与客观更是社会关注的热点。结构化面试的信度是测试过程本身的可靠程度,即可信度;结构化面试的效度是测试结果达到预期目标的程度。结构化面试的信度和效度究竟如何?我们曾尝试通过对新录用公务员试用期表现的跟踪调查,应用量表测评和数理统计的方法对结构化面试的信度和效度进行实证分析。现将有关调查情况综述如下:一、调查的组织今年8月,我们对20xx年新录用的国家公务员和机关工作人员的试用期表现,分别采用量表测评和民主评议的方式进行跟踪调查。(一)确定测评要素与评分标准。根据县级市机关国家公务员和机关工作人员职位的共性特

点和任职条件,采用与20xx年录用面试同结构的测评要素和评分标准,编制了《新录用人员试用期能力评估表》(表一)。(二)组织评估。我们专门下发了《关于对20xx年新录用国家公务员和机关工作人员试用期情况进行调研的通知》,要求各有关部门按照领导评鉴和群众测评相结合的原则,组织主管领导和群众对每个新录用公务员在试用期间的政策水平与综合分析能力、计划与组织能力、社会感知与协调能力、记忆和理解能力和文化素养与心理素质等六个方面的能力评估后,填报《新录用人员试用期能力评估表》。(三)复核和评价。为了做好新录用公务员试用期能力评估结果的复核,我们还要求各部门采用领导、本人和群众“三结合”的调查方式,通过对被测评人在试用期表现和工作环境的全面评价,复核能力评估的结果。复核结论反映评估结果基本符合新录用人员的实际情况。二、调查结果的分析通过新录用结构化面试成绩和试用期跟踪测评成绩的相关分析,研究结构化面试的信度和效度。(一)编制相关表,判断相关关系。将20xx年37位考试录用国家公务员和机关工作人员的面试成绩和试用期跟踪测评成绩,按面试成绩的高低排列,编出相关表,如表二所示。从上述相关表中可以看出,随着录取成绩的降低,测评成绩也有下降趋势,但不明显。(二)画出相关图,分析相关趋势。以x轴代表新录用公务员结构化面试成绩(自变量),y 轴代表新录用公务员试用期跟踪调查的测评成绩(因变量),将新录用公务员上述两项成绩的对应数值在座标图上用点画出来,

结构化面试信度和效度的实证分析-最新范文

结构化面试信度和效度的实证分析 结构化面试信度和效度的实证分析——对新录用公务员试用期表现的跟踪调查结构化面试是一种以行为描述方法为主的,并按测量要求事先拟定提问内容和顺序的面试。它具有测试要素结构化、面试程序结构化和评分标准结构化三大特点。自实施国家公务员制度十年来,它已经被广泛地应用到各级公务员录用考试中。考试的科学性是考试录用制度的生命线,而面试的公正与客观更是社会关注的热点。结构化面试的信度是测试过程本身的可靠程度,即可信度;结构化面试的效度是测试结果达到预期目标的程度。结构化面试的信度和效度究竟如何?我们曾尝试通过对新录用公务员试用期表现的跟踪调查,应用量表测评和数理统计的方法对结构化面试的信度和效度进行实证分析。现将有关调查情况综述如下:一、调查的组织今年8月,我们对2002年新录用的国家公务员和机关工作人员的试用期表现,分别采用量表测评和民主评议的方式进行跟踪调查。(一)确定测评要素与评分标准。根据县级市机关国家公务员和机关工作人员职位的共性特点和任职条件,采用与2002年录用面试同结构的测评要素和评分标准,编制了《新录用人员试用期能力评估表》(表一)。(二)组织评估。我们专门下发了《关于对2002年新录用国家公务员和机关工作人员试用期情况进行调研的通知》,要求各有关部门按照领导评鉴和群众测评相结合的原则,组织主管领导和群众对每个新录用公务员在试用期间的政策水平与综合分析能力、计划与组织能力、社会感知与协调能力、记忆和理解能力和文化素养与心理素质等六个方面的能力评估

后,填报《新录用人员试用期能力评估表》。(三)复核和评价。为了做好新录用公务员试用期能力评估结果的复核,我们还要求各部门采用领导、本人和群众“三结合”的调查方式,通过对被测评人在试用期表现和工作环境的全面评价,复核能力评估的结果。复核结论反映评估结果基本符合新录用人员的实际情况。二、调查结果的分析通过新录用结构化面试成绩和试用期跟踪测评成绩的相关分析,研究结构化面试的信度和效度。(一)编制相关表,判断相关关系。将2002年37位考试录用国家公务员和机关工作人员的面试成绩和试用期跟踪测评成绩,按面试成绩的高低排列,编出相关表,如表二所示。从上述相关表中可以看出,随着录取成绩的降低,测评成绩也有下降趋势,但不明显。(二)画出相关图,分析相关趋势。以x轴代表新录用公务员结构化面试成绩(自变量),y轴代表新录用公务员试用期跟踪调查的测评成绩(因变量),将新录用公务员上述两项成绩的对应数值在座标图上用点画出来,以表明相关点的分布状况,如图一所示。图一中的两条直线分别代表自变量数列的平均线(即新录用公务员结构化面试的平均成绩:x(—)=70.34分)和因变量数列的平均线(即新录用公务员试用期跟踪测评的平均成绩:y(—)=78.30分)。以这两条平均线为标准就可以清楚地看出:有25位新录用公务员的两项成绩呈正相关(x>x(—)时对应的y>y(—)或xx(—)时对应的yy(—))。加总的结果∑(x>x(—))(y实施方案。三要切实抓好考官的选拔和培训,建立起一支素质好、业务精、作风正的考官队伍。四要吸收国内外面试新技术,不断创新和完善与考试录用公务员相匹配的结构化面

信度与效度的关系

研究信度与效度的关系 一、信度与效度的定义 信度即可靠性,它指的是采取同样的方法对同一对象重复进行测量时,其所得结果相一致的程度,或者说,信度是指测量结果的一致性或稳定性。 效度即准确度,它是指测量工具或测量手段能够准确测出所要测量的变量的程度,或者说能够准确、真实地度量事物属性的程度.二、信度与效度的关系 (一)教育科学研究中信度与效度的关系 信度是研究结果所显示的一致性、稳定性程度,也是对研究结果一致性和稳定性的评价标准。一个具有信度的研究程序,不论其过程是由谁操作,或进行多少次同样的操作,其结果总是非常一致的.效度是一个研究程序的性质和功能,也是对研究结果正确性的评价标准,一个有效度的研究程序,不仅能够明确地回答研究的问题和解释研究结果,而且能够保证研究结果在一定规模的领域中推广。把两者的作用结合起来看,信度和效度是一项教育科学研究活动和结果具有科学价值和意义的保证。研究的信度是研究的效度的一个必要的前提,没有信度,效度不可能单独存在,也就是说,一项研究不可能没有信度却具有效度。 (二)人力资源招聘信度与效度的关系 影响测评信度的因素有很多,主要是系统误差和随机误差.包括测评者的专业性和素质、被测评者本人的心理、侧评工具的稳定性、

环境的稳定性等都会影响测评的可信度。影响测评的效度因素也有很多,如测评工具、测评过程及测评者因素、被测评者状态、效标因素和信度因素等。在实际招聘与录用评估过程中要把握各相关方面,不仅要有专业的测评人员,同时也要在稳定的环境中为被测评者提供一个放松真实的氛围。信度和效度是人才侧评与选拔质量的重要指标.图形形式表现分析得出的信度和效度的三种关系,则会是以下这些样式,如图8—l .图8-2和图8—3所示。所以,:高信度是高效度的必要条件,但非充分条件.即信度高不一定其效度就高,但要想获得较高的测评效度,其信度必定要高, (三)用结构式问卷来测量家长“溺爱孩子”的行为中信度与效

如何保证人才测评的信度和效度

如何保证人才测评的信度和效度 人才测评的主要工作是通过各种方法对被试者加以了解,从而为企业组织的人力资源管理决策提供参考和依据。经过长期的发展和适应不同情况的需要,形成了多种人才测评方法。而人才素质测评作为一项重要的人事技术,已经为越来越多的企业人力资源部门所接受,而如何保证能力素质测评中的信度和效度,也越来越受到关注。下面,就具体案例讲讲如何保证能力素质测评的信度和效度。 一、案例背景 N公司是一家外资工程管理公司,成立于1998年,总部设在上海。随着WTO的开放和工程项目的增多,工程公司在国内如雨后春笋般成长起来,就此拉开了人才竞争的序幕。尤其是上海,工程项目管理人才的争夺十分激烈,N公司老总越来越感觉到市场的压力和人才的短缺。为了应对市场压力,保留现有中高层骨干人才,并让他们“适人适位”,N公司请来了北大纵横管理咨询公司,希望通过专业评估解决这个问题。 二、建立人才能力素质模型并实施测评 (一)中高层能力素质模型及测评方法的确定 鉴于本次测评的对象是N公司的中高层管理人才和精英人物,测评的目的是为了保留人才、适人适岗,因此经过双方共同探讨,项目组在北大纵横经理人能力素质指标体系的基础上,结合N公司的实际情况,选择个人驱动力、判断能力、分析能力、决策能力和水准、创新能力、客户服务能力、影响力、项目管理能力、任务分配能力等作为测评因素。同时,采用广泛用于企业人员素质测评、方案比较、科学技术成果评比等方面的层次分析法,来确定各测评因素在管理素质和业务素质上的权重。 通过向N公司老总介绍人才测评的方法及工具,大家一致选定评价中心技术进行本次人才测评,并主要运用三类测评工具:心理测验、深度面谈和情景模拟测验。 (二)测评实施程序 1、设计测评题目。咨询顾问和N公司相关人员一起,围绕测评因素,结合N公司实际情况进行测试题目的设计,并给出评分标准和评分参考。本次心理测试采取16PF人格要素测试,人机对话;深度面谈设计了20个题目,涵盖了测评的各个维度;情景模拟采用案例分析和主题演讲两种测评工具,其中案例分析题库包含12题,主题演讲题库包含15题,被测人员可以从各题库中抽取一题进行测试。 2、成立测评小组。其中,测评小组成员由N公司内部专家、外部专家,以及北大纵横项目组组成。在测评实施前,对测评小组进行培训,使大家能全面了解测评的程序、评分标准及方法。 3、实施测评。深度面谈和情景模拟测试是由测评小组根据测试题目对被测评人进行提问,被测评人根据提问回答问题,与测评小组进行双向沟通后,由测评小组根据评分标准对被测评人的表现现场打分,填入评分表;16PF人格要素测试要求被测试人进行40分钟的人机对话,由测评小组保存有效答卷。 由于不同的测评者其衡量的尺度会存在差异,为保证各个被试者成绩排序的正确性,在测评时,向测评者提供“成绩比较表”,供其记载各个被试者的各项测试的评分,便于他们进行比较。 4、分析测评结果并统计成绩。采用肯德尔和谐系数法对每个被测评者在各个测评要素上的得分进行评分者信度分析,并结合各测评要素在管理素质和业务素质方面的权重,计算出被测评人在业务素质和管理素质上的得分。测评结束后,测评小组对被测人员进行了问卷调查,了解他们对测评效果的看法。 三、测评为保证信度和效度所采取的措施 (一)保证测评信度采取措施分析 1、16PF测试采取的是计算机标准化题目的方式,计算机答题、计算机处理结果。被测试人员全部独立进行测试,并在规定时间内完成了测试。 2、深度面谈使用了20个题目,围绕测评因素的各个维度对被测评者进行考察。面谈进行顺利,被测人员都能较积极配合回答问题,和主试人进行较好的双向交流。 3、情景模拟采用案例分析和主题演讲两种测评工具,被测人员从两个题库中各抽取1题,测评小组根据其表现进行现场评估。测评得到了被测人员的积极配合,都能就问题提出自己的见解。 4、为增加评分者信度,本次测评工作专门成立了测评小组,并在测评前熟悉了整个测评程序和操作;各类能力素质附有评分标准,各类试题附有评分参考,力图对被测试者的表现进行量化分析;测评中,向测评者提供“成绩比较表”,

SPSS与测验信度、效度、及项目分析

SPSS在测验信度、效度、及项目分析中的应用 李鹏 云南师范大学教育科学与管理学院 在SPSS中,专门用来进行测验信度分析的模块为Scale下的Reliability Analysis;使用Data Reduction之下的Factor模块,可以利用因素分析的方法来进行测验的建构效度检验;至于项目分析则没有专门的模块可以之间进行计算分析,但是却可以利用Summarize下的Frequencies、Correlate下的Bivariate 和Compare Mean下的Independent-Samples T Test来计算几个常用的项目分析指标。 一、信度分析 Reliability Analysis模块主要功能是检验测验的信度,主要用来检验分半信度、库李及a系数以及Hoyt信度系数值。至于重测信度和复本信度,只需将样本在二次(份)测验的分数的数据合并到同一数据文件之后,利用Correlate 之下的Bivariate求其相关系数,即为重测或复本信度;而评分者信度则就是使用的Spearman等级相关及Kendall和谐系数。 表1 Reliability Analysis模块的Model选项的参数及对应中文术语 关键字功能 Alpha Cronbach a系数 Split-half 分半信度,n是第二分量表的题数 Guttman Guttman最低下限真实信度法 Parallel 各题目变异数同质时的最大概率(maximum-likelihood)信度Strict parallel 各题目平均数与变异数均同质时的最大概率信度 表2 Reliability Analysis模块的Statistics部分选项的参数及对应中文术语 关键字功能 F test Hoyt信度系数 Friedman Chi Friedman等级变异数分析及Kendall和谐系数 Cochran Chi Cochran’s Q检验,适用于答案为二分(如是非题)的量表

正式反馈提高结构化面试的信效度

正式反馈提高结构化面试的信效度 结构化面试由于其相对较高的信度与效度,被各类企事业单位广泛应用于人员招聘与选拔过程中。面试官在评价应聘者时存在个体差异,直接表现为宽大效应或严格效应,这对雇佣决策提出了严峻挑战。本文分析了正式反馈对提高结构化面试有效性的积极作用,提出了优化结构化面试的对策与建议。 近些年来,人员测评在新员工甄选中发挥越来越大的作用,测评的科学性与实用性得到更多的关注。结构化面试是根据对职位的分析,确定面试的测评要素,在每一个测评的维度上预先编制好面试题目并制定相应的评分标准;面试过程遵照一种客观的评价程序,对被试者的表现进行数量化的分析;给出一种客观的评价标准,不同的评价者使用相同的评价尺度,以保证判断的公平合理性。 已有研究表明,结构化面试的效度仅次于评价中心,高于工作抽样、能力测验、个性测验等方法。在人才选聘面试结束后,面试官(评分者)之间对候选人的打分千差万别,往往导致合并的分数无法使用。如何使结构化面试中面试官的评分更加有效,成为员工甄选过程中面临的现实问题。 一、结构化面试的信度与效度 结构化面试强调面试内容与工作相关、面试流程标准化、评分结构化。结构化面试中,面试官的评分直接决定了最终的录用结果。结构化面试依靠面试官专业、准确的评分来实现,关键在于克服面试官评分的随意性与主观性。

结构化面试信度是指不同的面试官(评分者)面试同一个被试得出结论的一致性程度。面试信度低,意味着面试官评分一致性低,面试结果就不可靠。结构化面试的信度包括两个方面:一是面试要素内部信度,是指面试测评要素之间的一致性;二是评分者间的信度,即评分者之间评分的一致性。 结构化面试的效度是指面试测量的准确性,即面试所测评到的结果与所考察内容的相符程度。结构化面试的效度一般采用预测效度,即面试结果能否预测应聘者未来实际工作绩效水平。总体来看,结构化面试平均效度系数是非结构化面试的两倍,提高面试效度最好的方法是提高结构化程度。 二、结构化面试信度与效度的影响因素 结构化面试是一种表现性评价方式,其评价结果的信度是进行有效推论和决策的前提。在结构化面试中通常由多个面试官进行打分,而面试官之间评价的不一致是影响评价结果应用的重要因素。尽管可以通过明晰评分细则、优化结构化面试题目等方式予以控制,但是评分者之间的不一致性难以避免。 面试信度与效度存在情景特异性与考官特异性。结构化面试误差主要来源包括:面试题目有效性、面试评委培训、评分维度设定、面试实施环节等。其中由于面试官带来的评分误差主要包括:与我相似效应、对比效应、第一印象偏差、晕轮效应、刻板印象、顺序效应等,其结果是个别考官的评分偏高或者偏低于其他面试官的评分。当评价的结果高于应聘者的实际得分时称为宽大效应,低于应聘者实际得分时称为严格效应。 结构化面试的效度与信度提高措施包括以下四项: 一是关注面试内容,标准化信息获取内容、提高面试结构化程度与提问的一致性、提问限制与工作内容相关等; 二是重视考官的培训,通过培训使考官了解可能的评分误差,降低实际操作中的各种误差;

如何保证能力素质测评的信度和效度

如何保证能力素质测评的信度和效度 人才测评的主要工作是通过各种方法对被试者加以了解,从而为企业组织的人力资源管理决策提供参考和依据。经过长期的发展和适应不同情况的需要,形成了多种人才测评方法。而人才素质测评作为一项重要的人事技术,已经为越来越多的企业人力资源部门所接受,而如何保证能力素质测评中的信度和效度,也越来越受到关注。下面,就具体案例讲讲如何保证能力素质测评的信度和效度。 一、案例背景 N公司是一家外资工程管理公司,成立于1998年,总部设在上海。随着WTO的开放和工程项目的增多,工程公司在国内如雨后春笋般成长起来,就此拉开了人才竞争的序幕。尤其是上海,工程项目管理人才的争夺十分激烈,N公司老总越来越感觉到市场的压力和人才的短缺。为了应对市场压力,保留现有中高层骨干人才,并让他们“适人适位”,N公司请来了北大纵横管理咨询公司,希望通过专业评估解决这个问题。 二、建立人才能力素质模型并实施测评 (一)中高层能力素质模型及测评方法的确定 鉴于本次测评的对象是N公司的中高层管理人才和精英人物,测评的目的是为了保留人才、适人适岗,因此经过双方共同探讨,项目组在北大纵横经理人能力素质指标体系的基础上,结合N公司的实际情况,选择个人驱动力、判断能力、分析能力、决策能力和水准、创新能力、客户服务能力、影响力、项目管理能力、任务分配能力等作为测评因素。同时,采用广泛用于企业人员素质测评、

方案比较、科学技术成果评比等方面的层次分析法,来确定各测评因素在管理素质和业务素质上的权重。 通过向N公司老总介绍人才测评的方法及工具,大家一致选定评价中心技术进行本次人才测评,并主要运用三类测评工具:心理测验、深度面谈和情景模拟测验。 (二)测评实施程序 1、设计测评题目。咨询顾问和N公司相关人员一起,围绕测评因素,结合N公司实际情况进行测试题目的设计,并给出评分标准和评分参考。本次心理测试采取16PF人格要素测试,人机对话;深度面谈设计了20个题目,涵盖了测评的各个维度;情景模拟采用案例分析和主题演讲两种测评工具,其中案例分析题库包含12题,主题演讲题库包含15题,被测人员可以从各题库中抽取一题进行测试。 2、成立测评小组。其中,测评小组成员由N公司内部专家、外部专家,以及北大纵横项目组组成。在测评实施前,对测评小组进行培训,使大家能全面了解测评的程序、评分标准及方法。 3、实施测评。深度面谈和情景模拟测试是由测评小组根据测试题目对被测评人进行提问,被测评人根据提问回答问题,与测评小组进行双向沟通后,由测评小组根据评分标准对被测评人的表现现场打分,填入评分表;16PF人格要素测试要求被测试人进行40分钟的人机对话,由测评小组保存有效答卷。 由于不同的测评者其衡量的尺度会存在差异,为保证各个被试者成绩排序的正确性,在测评时,向测评者提供“成绩比较表”,供其记载各个被试者的各项测试的评分,便于他们进行比较。

试题的难度、区分度、信度和效度

试卷的难度、区分度、信度和效度 一.试卷的难度 (一)什么是难度 难度是指试卷的难易程度,是评价考试的一个非常重要的一个指标。一个题目,如果大部分考生都能答对,那么这个题目的难度就小;如果大部分考生都不能答对,那么这个题目的难度就大。 客观题难度计算公式:P(难度指数)=试卷答对人数/考生人数;主观题难度计算公式:P=试卷平均得分/试卷满分。试卷难度计算公式:P=为平均分,K 为试卷满分值。易、中、难的标准为:易:P≥0.7,中:0.4≤P≤0.69,难:P≤0.39;P值越大,难度越低,P值越小,难度越高。一般来说,难度值平均在0.5最佳,难度值过高或过低,都会降低测验的信度。 (二)难度的计算 (1)客观性试卷难度P(这时也称通过率)计算公式: P=k/N(k为答对该题的人数,N为参加测验的总人数) (2)主观性试卷难度P计算公式: P=X/M(X为试卷平均得分;M为试卷满分) (3)适用于主、客观试卷的计算公式: P=(P H +P L )/2(P H 、P L 分别为试卷针对高分组和低分组考生的难度值) 步骤为:①将考生的总分由高至低排列;②从最高分开始向下取全部试卷的27%作为高分组;③从最低分开始向上取全部试卷的27%作为低分组;④计算。 (三)试卷难度的一般要求 就高考来说,难度以适中为宜,单个试卷的难度以0.3--0.7之间为好,整卷以0.5--0.6之间为最佳。一般将难度值大于和等于0.7的试卷定为容易题;大于0.4和小于0.7的定为中档题;小于和等于0.4的试卷定为难题。命题时难度一般要按一定比例分配,如3:6:1或3:5:2。 二.试卷的区分度 (一)什么是区分度 区分度是指考试卷目对考生心理特征的区分能力。区分度高的试卷能将不同水平的考生区分开来,水平高的考生得高分,水平低的考生得低分。区分度高的

面试测评的效度研究综述

面试测评的效度研究综述 安徽大学 摘要:面试是一种重要人事测评工具,被广泛应用于各类人员招聘及选拔中,因此测评的有效性有着重要的理论与实践意义。本文从面试测评的效度及提高面试测评效度的方法与途径的角度,阐述了已往研究的发现。 关键词:面试测评测评效度效度的提高方法 引言:面试作为一种重要的人员选拔技术,已被越来越多的企业所运用,它主要是通过主试与被试双方面对面地观察、交谈等双向沟通方式,了解应聘人员的素质状况、能力特征及求职应聘动机等特点。这种测试手段可以直观地、机动灵活地考察应聘者多种能力,在预测应聘者将来的工作绩效等方面非常有效。 面试是应用最为广泛的一种人才甄选方法,少有组织不经过面试就进行录用决定。Casio等人(2005/2006)认为,作为一项人事甄选技术,面试主要有两大功能:第一,可以弥补其他甄选技术所存在的信息缺陷;第二,可以用于评价只有通过面对面互动才能测量到的个人特征(例如个性、动机、仪表、谈吐风度及行为特点等)。面试作为一项重要的人才甄选方法,很自然地,研究者对其效度十分关心,并且在这一方面做出了很多研究。 1 关于面试测评的信度、效度研究 1.1 面试测评的信度研究 面试信度指不同评委面试同一个应聘者得出结论的一致性程度。面试信度低,意味着评委评价的一致性低,这样的面试就没有可靠性,所以,面试信度是有效面试的必要条件(刘远我,2007)。面试信度主要包括两个方面:一是面试要素内部信度,指面试测评要素之间的一致性程度;二是评委间信度,即评委之间评价的一致性程度。早期有关面试测评的综述一致认为面试的信度较低(May-field,1964)。然而,近年来研究表明,面试是具有一定信度的,只是不同面试研究的测量信度差异很大:信度从0.15~0.80不等(刘远我,2007)。尤其是Conway等(1995)对111个评委间信度系数和49个面试要素内部信度系数进行元分析,发现评委间信度为0.70,结构化面试要素内部信度为0.59,无结构面试要素内部信度为0.37。他们的研究还表明,研究设计(单独面试和集体面试)、评委培训和面试结构化程度(问题的标准化、评分的标准化等)是影响评委间信

提高结构化面试的信度和效度

结构化面试的信度与效度 结构化面试由于其相对较高的信度与效度,被各类企事业单位广泛应用于人员招聘与选拔过程中。面试官在评价应聘者时存在个体差异,直接表现为宽大效应或严格效应,这对雇佣决策提出了严峻挑战。本文分析了正式反馈对提高结构化面试有效性的积极作用,提出了优化结构化面试的对策与建议。 近些年来,人员测评在新员工甄选中发挥越来越大的作用,测评的科学性与实用性得到更多的关注。结构化面试是根据对职位的分析,确定面试的测评要素,在每一个测评的维度上预先编制好面试题目并制定相应的评分标准;面试过程遵照一种客观的评价程序,对被试者的表现进行数量化的分析;给出一种客观的评价标准,不同的评价者使用相同的评价尺度,以保证判断的公平合理性。 已有研究表明,结构化面试的效度仅次于评价中心,高于工作抽样、能力测验、个性测验等方法。在人才选聘面试结束后,面试官(评分者)之间对候选人的打分千差万别,往往导致合并的分数无法使用。如何使结构化面试中面试官的评分更加有效,成为员工甄选过程中面临的现实问题。 一、结构化面试的信度与效度 结构化面试强调面试内容与工作相关、面试流程标准化、评分结构化。结构化面试中,面试官的评分直接决定了最终的录用结果。结构化面试依靠面试官专业、准确的评分来实现,关键在于克服面试官评分的随意性与主观性。 结构化面试信度是指不同的面试官(评分者)面试同一个被试得出结论的一致性程度。面试信度低,意味着面试官评分一致性低,面试结果就不可靠。结构化面试的信度包括两个方面:一是面试要素内部信度,是指面试测评要素之

间的一致性;二是评分者间的信度,即评分者之间评分的一致性。 结构化面试的效度是指面试测量的准确性,即面试所测评到的结果与所考察内容的相符程度。结构化面试的效度一般采用预测效度,即面试结果能否预测应聘者未来实际工作绩效水平。总体来看,结构化面试平均效度系数是非结构化面试的两倍,提高面试效度最好的方法是提高结构化程度。 二、结构化面试信度与效度的影响因素 结构化面试是一种表现性评价方式,其评价结果的信度是进行有效推论和决策的前提。在结构化面试中通常由多个面试官进行打分,而面试官之间评价的不一致是影响评价结果应用的重要因素。尽管可以通过明晰评分细则、优化结构化面试题目等方式予以控制,但是评分者之间的不一致性难以避免。 面试信度与效度存在情景特异性与考官特异性。结构化面试误差主要来源包括:面试题目有效性、面试评委培训、评分维度设定、面试实施环节等。其中由于面试官带来的评分误差主要包括:与我相似效应、对比效应、第一印象偏差、晕轮效应、刻板印象、顺序效应等,其结果是个别考官的评分偏高或者偏低于其他面试官的评分。当评价的结果高于应聘者的实际得分时称为宽大效应,低于应聘者实际得分时称为严格效应。 结构化面试的效度与信度提高措施包括以下四项: 一、关注面试内容,标准化信息获取内容、提高面试结构化程度与提问的一致性、提问限制与工作内容相关等; 二、重视考官的培训,通过培训使考官了解可能的评分误差,降低实际操作中的各种误差; 三、极小化各组中同一专业面试官的数量,以及极小化各组中面试官数量与

数学教学质量评估量表信度和效度分析

数学教学质量评估量表信度和效度分析 摘要:数学教学质量评估是教学管理的重要手段。根据高职院校特征,设计了数学教学评估量表,通过测试发现该量表具有较好的信度和效度,适合于对高职院校数学教学课堂质量评估。 关键词:教学评估;数学;信度;效度 数学教学质量评估是指依照一定的标准对数学教师教学质量进 行观察,并做出价值判断的过程。教学质量评估的结果将是被评价者提高自己各项技能和相关部门决策的重要依据。目前各个大专院校都将教学质量评估作为教学管理的一项重要内容。 一、研究方法 根据国内外研究者对教学质量评估的研究资料,提炼出符合高职院校的数学教学质量评估量表,并在本校各个专业367人进行测试,其中男生191人,女生176人。数学质量评估量表为选择题,当场测试并收卷,回收的数据用spss软件进行统计和处理。 二、因素分析 因素分析是处理多变量数据的一种统计方法,它可以揭示多变量之间的关系,因素分析的目的是通过寻找或者确定几个较少的假设“因子”来反映多个观察变量中蕴含的大部分信息,从而浓缩或化简观察数据。浓缩后的因子代表了数据间的基本结构,通过得到的因子估计值使研究者更方便地掌握数据的本质特质以及因子和观 察变量之间的关系。统计可以看出特征值大于1的因子共有5个,

累计贡献率为62.783%。因此可以抽取5个因素。5个因素中,变量的最高负荷值为0.835,最低的最高负荷值为0.307。第一个因素包括4个变量:上课熟练、准备充分、按时上下课、有责任心,称为教学态度;第二个因素包括4个变量:讲述准确、重难点突出、进度适宜、针对性强,称为教学内容;第三个因素包括3个变量:善于启发、方法恰当、深入浅出,称为教学方法;第四个因素包括3个变量:板书整洁、逻辑思路清晰、语言精炼,称为教学能力;第五个因素包括2个变量:效果明显、学生兴趣浓厚,称为教学效果。 三、信度检验 使用量表来度量人们的意见和看法时,为了判断得到的结果是否准确、可靠、是否有适用性,这需要对评价量表进行信度和效度检验。信度(reliability)即可靠性,是指采用同一种方法对同一对象进行调查时,问卷调查结果的稳定性和一致性,也就是该量表能否稳定地测量所测事物或者变量。信度指标多以相关系数表示,用信度系数来表示信度的大小。信度系数越大,表明测量的可信程度越大。究竟信度系数要多少才算有高的信度。一般认为其值为0.60~0.65为最好;0.65~0.70是最小可接受值;0.70~0.80表示相当好;0.80~0.90表示非常好。由此,一份信度系数好的量表或问卷,最好在0.80以上。若分量表的内部一致性系数在0.60以下或者总量表的信度系数在0.80以下,应考虑重新修订量表或增

什么是测试的信度和效度,如何保证测试的信度和效度

什么是测试的信度和效度,如何保证测试的信度和效度 棋盘中小张倩倩 在教育研究中,信度与效度是很常见的两个概念。但每次看到或听到这两个名词,我的脑袋老反应不过来,看来基础就是不扎实。我在这里就谈谈我浅显的认识。 一、信度 所谓的信度,是指使用相同指标或测量工具重复测量相同事物时,得到相同结果的可能性。如果说某个指标或测量工具的信度高,那它提供的测量结果就不会因为指标、测量工具或测量设计本身的特性而发生变化;反之亦然。根据测量过程中不同的误差来源,可分为再测信度、复本信度和折半信度。 再测信度,是用同一测量工具在不同的时间对同一群受试者前后测量两次,然后计算两次测量分数的相关系数,相关系数越大说明两次测量的一致性越高。相隔的时间不应该太长。 复本信度,是用两个完全等值的(平行的)复本对同一群受试者进行测试,计算两种复本测量分数的相关系数,相关系数越大说明两个复本构成带来的变异越小。如考试中使用的A、B卷 折半信度,只用一个测量工具对同一群受试者实施一次测量,但将奇数题和偶数题分开计分,再计算奇数试题和偶数试题分数之间的相关系数。 二、效度 所谓的效度,是指测量工具能够测出其所要测量的特征的正确性程

度。效度越高,即表示测量结果越能显示其所要测量的特征。如果说根据某项特征能够区分人、物或事件,那么说某个测量该特征的测量工具是有效的,就是指它的测量结果能把具有不同特征的人、物或事件进行有效的区分。常用的有变面效度、内容效度和效标效度。 表面效度是指测量效果和人们头脑中的印象或学术界形成的共识之间的吻和程度,吻合程度高,表面效度就高。 内容效度是指测量在多大程度上涵盖了被测量概念的全部内涵,测量工具代表概念定义的内容越多,内容效度就越高。 效标效度是指测量结果与一些标准之间的一致性程度,这些标准能够精确表示被测概念。 三、信度与效度的关系 信度是效度的必要条件,但不是充分条件。一个测量工具要有效度必须有信度,没有信度就没有效度;但是有了信度不一定有效度。 信度低,效度不可能高。因为如果测量的数据不准确,也并不能有效地说明所研究的对象。 信度高,效度未必高。例如,如果我们准确地测量出某人的经济收入,也未必能够说明他的消费水平。 效度低,信度很可能高。例如,即是一项研究未能说明社会流动的原因,但它很有可能很精确很可靠地调查各个时期各种类型的人的流动数量。 效度高,信度也必然高。

评估测评的信度与效度

评估测评的信度与效度 案例 一、案例背景 N公司是一家外资工程管理公司,成立于1998年,总部设在上海。随着WTO 的开放和工程项目的增多,工程公司在国内如雨后春笋般成长起来,就此拉开了人才竞争的序幕。尤其是上海,工程项目管理人才的争夺十分激烈,N公司老总越来越感觉到市场的压力和人才的短缺。为了应对市场压力,保留现有中高层骨干人才,并让他们“适人适位”, N公司请来了北大纵横管理咨询公司,希望通过专业评估解决这个问题。 二、建立人才能力素质模型并实施测评 (一)中高层能力素质模型及测评方法的确定 鉴于本次测评的对象是N公司的中高层管理人才和精英人物,测评的目的是为了保留人才、适人适岗,因此经过双方共同探讨,项目组在北大纵横经理人能力素质指标体系的基础上,结合N公司的实际情况,选择个人驱动力、判断能力、分析能力、决策能力和水准、创新能力、客户服务能力、影响力、项目管理能力、任务分配能力等作为测评因素。同时,采用广泛用于企业人员素质测评、方案比较、科学技术成果评比等方面的层次分析法,来确定各测评因素在管理素质和业务素质上的权重。 通过向N公司老总介绍人才测评的方法及工具,大家一致选定评价中心技术进行本次人才测评,并主要运用三类测评工具:心理测验、深度面谈和情景模拟测验。 (二)测评实施程序 1、设计测评题目。咨询顾问和N公司相关人员一起,围绕测评因素,结合N公司实际情况进行测试题目的设计,并给出评分标准和评分参考。本次心理测试采取16PF人格要素测试,人机对话;深度面谈设计了20个题目,涵盖了测评的各个维度;情景模拟采用案例分析和主题演讲两种测评工具,其中案例分析题库包含12题,主题演讲题库包含15题,被测人员可以从各题库中抽取一题进行测试。 2、成立测评小组。其中,测评小组成员由N公司内部专家、外部专家,以及北大纵横项目组组成。在测评实施前,对测评小组进行培训,使大家能全面了解测评的程序、评分标准及方法。 3、实施测评。深度面谈和情景模拟测试是由测评小组根据测试题目对被测评人进行提问,被测评人根据提问回答问题,与测评小组进行双向沟通后,由测

前测数据分析--信度和效度分析

第二节信度和效度分析 一、信度分析 与预测试数据分析方法一样,为了确保问卷的可靠性,先进行信度分析,信度检验指标在前面已详细述,在此不再述。问卷信度分析如表4-2所示: 表4-2:量表信度检验结果 - . -优质文档

经过SPSS24.0数据统计软件分析得知个变量Cronbach's α均大于0.6,且 组合信度在0.792以上,说明所有问卷都具备可靠性,能够较好的反应变量的真实情况。 二、效度检验 (一)容效度 为了确保调研问卷容的有效性,问卷量表通过文献研究先初步圈定问卷容,所用量表大多采用国外已经开发出的成熟量表,对于这部分量表,本文给予直接采用的方式,其余量表则是在前人研究的基础上,根据本文的研究目的和方向进行谨慎的拟定。因此,本问卷具有容效度。 (二)结构效度 在测量结构效度时,通常采用探索性因子分析。在进行因子分析时,通常采用主成分分析法,主成分分析的目的在于利用变量间的线性组合来解释每个层面的方差,变量的第一个线性组合可以解释最大的变异量,以此类推,所以主成分分析法的步骤是,选取特征值大于1的因子,然后利用方差最大旋转法进行旋转,使得旋转后题目在各个因子的负荷量大小出现明显差异,大部分题目在每个公共 因子中有一个差异较大的因子负荷量出现。但在因子分析之前需要进行KMO值- . -优质文档

和Bartlett球形检验,只有当KMO>0.5且Bartlett球形检验的Sig.值小于0.05时,问卷才具有结构效度,才能够进行因子分析。本研究中对三个量表进行的结构效度分析具体情况如下。 (1)虚拟品牌社群价值的效度检测 1.1虚拟品牌社群价值的KMO值和Bartlett球形检验 在对虚拟品牌社群价值做因子分析之前,先做KMO值和Bartlett球形检验,检测结果如表4-3所示: 表4-3:虚拟品牌社群价值的KMO值和Bartlett检验 取样足够度的Kaiser-Meyer-Olkin度量.901 Bartlett的球形度检验近似卡方4892.820 df 186 Sig. .000 通过对虚拟品牌社群价值量表的14个题项进行KMO检验和Bartlett球形检验,发现虚拟品牌社群价值量表的KMO值为0.901,表明各个变量之间的相关系数非常高,适合做因子分析,同时Sig.值为0.000<0.05,达到显著性水平,综上可以得出虚拟品牌社群价值量表适合做因子分析。 1.2虚拟品牌社群价值因子分析 通过KMO值和Bartlett球形检验可知,虚拟品牌社群价值适合做因子分析,运用主成分提取法进行因子旋转后得到以下数据,如:表4-4所示: 表4-4:虚拟品牌社群价值旋转因子负荷值 - . -优质文档

教师备考技巧五 信度和效度的区别与联系

教师备考技巧五 信度和效度的区别与联系 在教学这章中涉及了信度和效度这一知识点,这既是我们考试的重点也是难点。很多同学都分不清什么是信度和效度,信度和效度有着怎样的区别和联系呢?教师备考网课一年无限学https://www.doczj.com/doc/ad2908471.html,/R1otLuc 一、信度和效度的区别 测验的信度:又称测验的可靠度,是指一个测验经过多次测量所得结果的一致性程度,以及一次测量所得结果的准确性程度。信度主要是指测量结果的可靠性、一致性和稳定性,即测验结果是否反映了被测者的稳定的、一贯性的真实特征。 测验的效度,指一个测验能测出它所要测量的属性或特点的程度。效度是指所测量到的结果反映所想要考察内容的程度,测量结果与要考察的内容越吻合,则效度越高;反之,则效度越低。学业成绩检查是要测量所学的学科基本知识技能,作为测量工具的试题就应和要检查的目标相关。效度分为三种类型:内容效度、准则效度和结构效度。 总体来说,效度是对测量的准确性程度的估计,而信度则是对测验的一致性或可靠性程度的估计。 二、信度与效度的联系 我们可以通过下图进一步了解信度和效度: 以打靶为例,打中目标才算是高效度。 第一个图,弹痕非常分散,代表不稳定,随机误差高,信度就低,另外大部分都是打偏了,所以效度也不高。 第二个图,很稳定地打偏了,稳定性高,就是信度高,但是却完全没有击中目标,偏离很多,所以就是效度低

第三个图,很稳定地正中靶心,那就是信效度都很高。 对于信度与效度的联系,我们可以用一句话来概括:信度是效度的必要不充分条件。有效度一定有信度,但是有信度不一定有效度。 下面,我们通过几个真题加深对信度和效度的理解: 1.开学考试成绩能够预测学生入学后的学业成绩,这说明该测验具有较高的()。 A.信度 B.难度 C.效度 D.区分度 答案:C 2.在测验学生英译汉的技巧时,由于所选的短文中词汇量较大,学生受到词汇量的障碍而难以发挥翻译技巧,测验的结果在很大程度上说明了学生掌握词汇量的多少,然而并没有确切说明学生的翻译技巧,这样的测验()不高。 A.难度B.效度C.信度D.区分度 答案:B 3.某学校采用性格量表来测量学生,分别在一年的3月、8月、12月测量,其结果基本相当,测验结果如此相同,说明其()。 A.信度高 B.效度高 C.区分度高 D.平衡度高 答案:A 4.如果一个测验基本达到了测验目的,测出了它所要测出的东西,那么这个测验()。 A.信度较好 B.效度较好 C.难度适中 D.区分度较好 答案:B 教师备考网课一年无限学https://www.doczj.com/doc/ad2908471.html,/R1otLuc

调查表的的信度与效度评价方法

调查表的的信度与效度评价方法 问卷调查法是教育研究中广泛采用的一种调查方法,根据调查目的设计的调查问卷是问卷调查法获取信息的工具,其质量高低对调查结果的真实性、适用性等具有决定性的作用。为了保证问卷具有较高的可靠性和有效性,在形成正式问卷之前,应当对问卷进行试测,并对试测结果进行信度和效度分析,根据分析结果筛选问卷题项,调整问卷结构,从而提高问卷的信度和效度。 一、信度分析 信度(Reliability)即可靠性,是指采用同一方法对同一对象进行调查时,问卷调查结果的稳定性和一致性,即测量工具(问卷或量表)能否稳定地测量所测的事物或变量。信度指标多以相关系数表示,具体评价方法大致可分为三类:稳定系数(跨时间的一致性),等值系数(跨形式的一致性)和内在一致性系数(跨项目的一致性)。信度分析的方法主要有以下四种: 1、重测信度法 同样的问卷,对同一组访问对象在尽可能相同的情况下,在不同时间进行两次测量。两次测量相距一般在两到四周之内。用两次测量结果间的相关分析或差异的显著性检验方法,评价量表信度的高低。 2、折半法。折半法是将上述两份问卷合成一份问卷(通常要求

这两份问卷的问题数目相等),每一份作为一部分,然后考察这两个部分的测量结果之间的相关性。 3、折半信度法折半信度法是将调查项目分为两半,计算两半得分的相关系数,进而估计整个量表的信度。折半信度属于内在一致性系数,测量的是两半题项得分间的一致性。这种方法一般不适用于事实式问卷(如年龄与性别无法相比),常用于态度、意见式问卷的信度分析。在问卷调查中,态度测量最常见的形式是5级李克特(Likert)量表。进行折半信度分析时,如果量表中含有反意题项,应先将反意题项的得分作逆向处理,以保证各题项得分方向的一致性,然后将全部题项按奇偶或前后分为尽可能相等的两半,计算二者的相关系数(rhh,即半个量表的信度系数),最后用斯皮尔曼-布朗(Spearman-Brown)公式: 求出整个量表的信度系数(ru)。 4、α信度系数法 Cronbach α信度系数是目前最常用的信度系数,其公式为: 其中,K为量表中题项的总数,为第i题得分的题内方差,为全部题项总得分的方差。从公式中可以看出,α系数评价的是量表中各题项得分间的一致性,属于内在一致性系数。这种方法适用于态度、意见式问卷(量表)的信度分析。 二、效度分析 效度(Validity)即有效性,它是指测量工具或手段能够准确测出所需测量的事物的程度。效度分为三种类型:内容效度、准则效度

测量工具的信度和效度分析.

测量工具的信度和效度分析 常用的测量工具主要有调查问卷和量表,它们都是对个人行为和态度的一种测量技术,是测量答卷者对问卷题目主观认识的个体差异的工具,也是研究者用来搜集资料的一种技术。一般情况下,编制一份量表必须做效度和信度评价,而调查问卷则不是必须的。对于有些调查问卷,其包含了类似量表性质对答卷者客观指标测量的题目,对这部分题目需要进行效度和信度的评价。 第一节信度分析概述 一、信度的概念 信度是指测量工具的可靠性和稳定性的程度,或是指使用某测量工具所获得结果的一致程度或准确程度。 测量工具的信度包含2层含义:一是相同的个体在不同时间,以相同的测量工具测验或以复本测验,或在不同的情景下测验,是否能得到相同的结果,即测量工具的测验结果是否随时间和地点等因素而变化;二是能否减少随机误差对测量工具测验结果的影响,从而反映测量工具所要测量的真实情况,即测量工具是否具有稳定性、可靠性和可预测性。 信度的三个特征是:稳定性、内部一致性和等同性。一个好的测量工具必须是稳定可靠,且多次测验结果应前后一致。 信度本质上是一个统计学概念,是用于估计测量误差大小的尺度,主要说明测量工具测验结果中测量误差所占的比例。实际应用中主要通过构建平行测验来计算测量工具的信度。 二、信度的评价方法 信度研究的是测量工具测验结果的可靠性与稳定性,这种可靠性与稳定性可以从4个不同的角度来评价:①在相同条件下所得测量工具测验结果一致程度; ②不同研究者用同一种测量工具同时测验所得结果的一致程度;③同一研究者用同一种测量工具在不同时间内测验所得结果的一致程度;④同一答卷者在不同时间内对同一种测量工具测验的稳定程度。 根据研究角度不同,信度分为外在信度(external reliability)与内在信度(internal reliability)两大类。外在信度是指不同时间测量时测量工具测量的一致性程度。内在信度是指测量工具是否测量的是单一概念,同时也表明测

测试效度和信度

福建省中考英语试卷的预测效度研究 一以泉州市德化八中为个案分析 A Study on the Predictive Validity of Senior High School Entrance English Test in Fujian Province Evidence Based on Dehua No.8 Middle School ⑴2000-2009年上海市高考英语完型填空效度研究 The Study on the Validity of the Cloze Test in Shanghai Matriculation English Test ①文献综述:语言测试学的发展历史完型填空效度 ②研究的内容与实施:巴克曼关于交际语言能力的学说/中学英语课程标准 上海市高考英语完型填空试题的内容效度历时分析:文本材料分析 考点效度分析 上海市高考英语完型填空调整前后对比分析:完型填空与语法、阅读理解相关分析 完型填空推理因素分析 上海市高考英语完型填空的特点:选文特点、设空特点、干扰项特点 上海高考英语完型填空对教学的启示:高考完型填空对学生能力的要求、语境中的词汇教学、完型填空对语篇教学的启示 ⑵高中英语阅读测试选择题型的效度分析 A Validity Analysis of Multiple Choice Questions in Senior High School Reading Comprehension Tests ⑶中文摘要 Abstract 第一章前言 第一节研究背景 第二节研究目的和意义

第三节论文框架 第二章文献综述 第三章 第一节关于语言测试的研究 第二节试卷效度的研究 第三节小结二 第三章理论基础 第一节效度的定义 第二节效度的分类 第三节预测效度及其验证 第四节小结 第四章研究设计 第一节研究问题 第二节研究对象 第三节研究方法 第四节数据分析方式. 第五章分析与讨论. 第一节初中英语课程标准和高中英语课程标准对比分析. 第二节中考英语和高考英语的考试大纲及考试说明对比分析第三节问卷调查结果与分析 第四节部分学生高中三年的学业情况及高考成绩的数据分析第五节中考英语成绩和高考英语成绩的相关性分析

相关主题
文本预览
相关文档 最新文档