登陆注册
4855900000028

第28章 评鉴中心的准确性(1)

关键内容:评鉴中心的效度;为什么说评鉴中心有效;成本收益分析。

前面几章详细介绍了评鉴中心方法的几个关键要素。我们已经讨论了如何选择测评指标以及怎样设计测评项目以产生与测评指标相关的行为;总结了单个测评师如何观察和评价行为,测评师团队如何形成一致、准确的评判;我们还谈到了高层管理人员如何在测评信息的帮助下做出组织决策,测评对象及其上级如何利用这些信息提高他的管理和专业技能。

现在,让我们从细节讨论中跳出来。以整体的眼光再度审视评鉴中心。在我们回答评鉴中心是不是一种有效的人力资源管理工具的时候,必须提到下面几个问题:

评鉴中心测量什么?

为什么说评鉴中心有效?

与其他测评方法相比,评鉴中心有什么优缺点?

实施一个评鉴中心要花多少成本?

评鉴中心效用如何,即收益能否弥补(超过)成本?

测评参与者如何看待评鉴中心?

其实,这些问题的核心就是评鉴中心的效度(validity)。这里的效度是指评鉴中心在多大程度上能够实现其既定目标。从技术上讲,任何测评工具都有可能在一定程度上实现人们的目标。而我们所关注的是,所有的证据加起来能不能满足本书对评鉴中心提出的3个要求:界定高级管理岗位所需要的潜能、诊断与工作相关的各种技巧和资质、提供管理培训。

实际上,在前面几章里,我们已经回答了这些问题。例如,在第七章里我们已经说过,评分标准从整体上揭示了管理取得成功所需要的潜能。

各测评指标上的得分准确地诊断出个人的优劣势,这也就在另一方面构成了培训发展的基础。现在,让我们讨论一些更加深入、更加困难的问题。

评鉴中心的各种效度

要回答“评鉴中心测量什么”,必须从经验主义的研究中寻找答案。

我们不能根据一次相关检验或一次文献研究的结果就得出“评鉴中心有/没有价值”的结论。我们必须仔细回顾大量的文献,这些文献的研究内容包括:测评数据与各种参数(包括工作绩效)的关系;不同测评工具对测评结果的影响;时间对测评结果的影响;性别、种族、年龄、评分模式对测评结果的影响等。

为了更好地理解评鉴中心的效度,我们不妨把他们简单分为三类:一是内容效度(contentvalidity);二是效标效度(criteriavalidity);三是建构效度(constructvalidity)。

内容效度

与内容效度相关的信息包括各种测评活动。这里有两个要点:(1)测评材料能否代表员工在现实工作中遇到的情况;(2)在测评过程中应该表现出来的能力是不是现实工作中所要求的。典型的内容效度检测过程就是由专家来评估这两个要求是否得到了满足。检测过程不必涵盖所有的工作内容,只要考察那些重要的和主要的工作范围即可(工业与组织心理学协会,1987)。

在讨论应用于私人企业的评鉴中心的效度问题时,最通常的做法是判断测评演练材料与实际的工作情景的相似性(Gaugleretal.,1990)。扞卫评鉴中心的企业通常都会说:(1)他们在工作分析的基础上选取了测评指标;(2)测评演练活动代表了经常发生的重要工作场景;(3)在测评演练活动中表现出来的行为能够被归入相应的测评指标(当然,这些测评指标都与工作业绩相关);(4)测评师都经过培训,他们能够准确一致地观察测评对象的各种行为表现。收集证据来验证内容效度并不是一件容易的事情。1987年,Sackett指出,在验证评鉴中心的内容效度的时候,我们不能只关注前面这几点,以下内容也得重视:向测评对象介绍的各种背景信息;测评时使用的评分系统;测评结果的解释方法等。之所以要强调这些内容,是因为它们会对评分产生影响。

如果人们希望通过测评来了解测评对象的知识技能水平,内容代表性就可能很高。因此用于诊断当前培训发展需求的评鉴中心(比如,第2章提到的金波利兄弟制造厂)和用于衡量候选人工作能力的评鉴中心的内容效度相对较高。

《评鉴中心操作指南和伦理问题》(TaskForce,1989,参见附录)所设计的评鉴中心充分考虑了内容效度问题。这篇文章的作者是研究和应用评鉴中心的顶尖高手。他们代表了这个领域的最新进展。这篇文章向我们介绍了评鉴中心应有的操作规范,尽管早期的评鉴中心——甚至包括某些最近实施的评鉴中心,有许多都并没有这样做。评鉴中心的设计人员在设计时遵循以下工作步骤显得至关重要:详细的工作分析,界定测评指标,设计能够体现出相应测评指标的演练情境,培训测评师,建立评分系统,最后是设计信息整合系统。这些步骤对于内容效度是至关重要的。

Sackett(1987)对评鉴中心用于测量管理潜能时的内容效度检验程序提出了质疑,随后,又有人站出来反对他的观点(如,Norton,1981)。在我看来,要检验内容效度就必须先了解评鉴中心的操作过程。况且,统计研究的结果也表明,评鉴中心能够准确预测对象未来的管理业绩。

预测效度

即使是最严厉的批评者也不能否认,总的来说评鉴中心的测评结果能够预测未来的管理成就。表9.1总结了若干关于测评总结果预测效度的研究结果。其中,最早的是1970年Byham发表在《哈佛商业评论》上的一篇研究论文,最晚的是1987年Gaugler,Rosenthal,Thornton和Bentson发表的的一份统计分析报告。

总而言之,对测评总结果预测效度的评价为0.40。这就表明,在评鉴中心里得分较高的人通常会在工作中比较成功,而得分较低的人则反之。表9.2清楚地说明了评鉴中心的预测效度。1965年起的研究表明,测评结果认为能够升到中层管理岗位的大学毕业生里,有48%的人的确坐到了这个位置上;测评结果认为不能升到这种岗位的大学毕业生里,只有11%的人升到了这个位置。在未接受大专院校教育的人群里,这两个数字OAR能够找出那些步步高升的管理者。从测评结果来看,成功管理者的得分高于不成功的管理者。OAR与业绩的相关系数范围从0.27到0.64。

OAR与业绩的相关系数为0.33,与潜能的相关系数为0.63,与职业晋升的相关系数为0.40。

OAR能够预测职业晋升情况、业绩水平等。

统计分析的结果表明OAR与工作业绩的相关系数为0.43。

统计分析的结果表明OAR与一系列才能指标的相关系数为0.41。

统计分析的结果表明OAR与晋升、工作业绩评价等的相关系数为0.37。

更加戏剧化:分别为32%和5%。8年甚至16年后,预测效果愈加显得准确,也就是说,越来越多的据说能够升到中层管理岗位的人被说中了。当然,16年后,也有许多原来不被看好的大学毕业生得到了提拔。

这里纯粹是对预测效度的研究。在研究过程中,测评结果并未泄漏给任何企业,也从没有人根据它来制定人员晋升决策。

这些数据清楚地说明了评鉴中心是有效的,换句话说,测评总结果与现实成就高度相关。需要说明的是,上面用到的研究结果有的已经公开出版了,有的则没有;有些研究是出于纯粹的学术研究目的,有的是出于个别企业的使用目的;某些研究还包括了许多因素,既有管理级别的提升情况,也有培训效果或工作业绩的评价,甚至还有独立研究人员对工作效率的观察和研究。因此,我们无需怀疑这些研究的代表性和公正性。

评鉴中心效度差异研究

并不是所有的评鉴中心都具有相同的预测效度水平。现在,人们还无法确定究竟是什么原因使得评鉴中心显得比其他测评方法更加有效。1987年,Gaugler等人对评鉴中心效度的统计研究给我们提供了非常有价值的信息。正如我们在第7章中讲到的,测评结果的预测效度为0.37,这里充分考虑了不同的研究方法以及统计方法(如样本量)带来的影响。需要着重强调的是,有效水平在0.37上下浮动的空间很大:有的仅仅0.25或0.15,也有的高达0.55或0.65,标准差(standarddeviation)为0.12。标准差是对相关系数差异的研究,它表明相关系数在多大程度上偏离了0.37这一平均值。我们在0.37周围建了一个置信区间(confidenceinterval)。例如,下限0.21与上限0.53之间确立出90%的置信区间。这就意味着,我们可以在90%的程度上相信测评结果与实际成就的相关系数不低于0.21。

如果评鉴中心设计得好,我们可以认为它的准确性达到0.53,甚至更高。

我们可以从上述事实中总结出两点结论。一是对测评总结果的预测效度的肯定,换言之,我们可以通过研究大量的评鉴中心来得出这种测评方法有效的结论;二是从过去的研究结果来看,测评总结果的预测准确度差异很大。这表明,影响评鉴中心预测准确度的主要因素并不是研究方法本身。

那么,究竟是什么因素影响了评鉴中心的准确性呢?1987年,Gaugler等人深入地研究了这个问题。他研究了与效度相关的各种变量(当然,某些变量很难研究清楚)。从图9.1可以看出,随着演练项目数量的增加,评鉴中心的整体效度水平也有所上升。这种趋势非常明显。当然了,即使评鉴中心采用了多种演练形式,其效度水平似乎还是不太让人满意。

大量研究表明,评鉴中心的若干特征都与它的效度有关。用到的测评手段越多,评鉴中心就越有效。由心理学家和管理人员共同担任测评师,或者在测评中包含同级评价,都会提高其有效性。这些研究结果既能够告诉我们哪些因素会影响到评鉴中心的效度,又指出了评鉴中心之所以有效的原因。

另外,Schmitt等人在1990年发表的研究报告中说,情境变量也会影响到评鉴中心的效度。他们研究了一个用评鉴中心在某行政区域(由若干个分区构成)范围内选拔中学校长的案例。这项研究指出,评鉴中心的执行质量对效度有重要影响。具体地说,在本案例中,下列做法都有助于提高评鉴中心的效度:更多地由校长而不是大学教授担任测评;把测评的实施放在几个而不是一个分区内进行;尽量避免与测评对象有过密切工作关系的人担任测评师等。

建构效度

考察建构效度就是要了解测评工具是否反映了企业利益的心理学特征(AmericanEducationalResearchAssociation,1985)。尚没有人对测评内容进行专门的研究,但是,为了揭示测评分数所代表的实际含义,我们还是要回顾大量的相关研究文献。目前能够找到的任何关于测评内容代表性问题和预测准确性问题的研究以及我们在第六、七章已经介绍过的研究成果都是我们要考虑的对象。

读者或者还记得,在第六章里我们说过,测评师要观察测评对象在测评时表现出来的各种行为现象,并把这些行为归入相应的测评指标范围。

任何测评师个人就某一项测评指标在单项测评演练工具的基础上做出的评价都可能不准确。不可否认,用同一个测评演练工具测量不同的指标,所得到的分数难免会相互影响,而且这种影响程度往往会超过我们的心理预期。测评师在各项指标上的打分很容易被“这个人表现不错”或“不好”

的总印象左右。这种情况之所以会发生是由于我们要求测评师在单项测评演练活动结束后就给出分数。这种做法正是行为报告法所不取的。

相反地,如果测评师在完成若干项测评演练活动后才进行打分,其准确性和一致性都会高很多。进一步说,在第七章里我们已经讨论过,测评师之间经过信息汇总和讨论,他们给出的分数就更加趋于一致,也更加准确。最终,我们就会发现,综合了所有测评师在全部测评项目中的意见以后,测评总结果就能准确地预见到未来的管理业绩和晋升情况。

现在,让我们考虑这样一个基本问题:“为什么说评鉴中心有效”。这个问题是Klimosli和Briskner在1987年提出来的。对它的回答可以帮我们清楚地界定下面要讨论的问题。Klimosli和Briskner指出,由于评鉴中心能够预测未来,于是人们就普遍地认为它很有效。但是,为什么这么有效呢?

除了传统的解释,Klimosli和Briskner又总结出了5条理由。

传统的解释:测评师判断出哪些测评指标与工作相关,然后得出一个总的测评结果,这一结果能准确预测未来的管理业绩。

现实的效标污染:评鉴中心花费不菲,于是人们就会想尽一切办法利用现有的发现。测评总结果不可能一直不公布,这些结果需要成为现实工作中的决策依据。各种管理决策,比如晋升、薪,甚至业绩评估都要参考测评结果。如此一来,就人为地提升了测评结果与实际业绩的相关性。

潜在的效标污染:由于测评师常常又是企业管理人员,他们往往和那些搞绩效评估的管理人员持有相同的看法或偏见。测评师或许做出了错误的评价,搞绩效评估的人评价的也许并不是真正的工作业绩。所以,预测效度的计量就难免受到“污染”,以至于这一效度被拔高了。

自我证明:那些被挑出来参加评鉴中心的人多少觉得自己有能力,所以才被选中。他们在测评的时候通常都发挥得很好,接下来又获得了正面的反馈。于是,他们会在工作中进一步提高自己的管理才能,从而证实了测评师当初的判断。

业绩持续性:这里有两种观点。一种观点认为,测评师从测评对象背景资料中获知其过去的业绩信息,这些信息能够预测预测未来的业绩状况。另一种观点是,测评时可以通过测评对象在工作样本中的表现来预测未来的业绩水平。因此,我们完全可以舍弃那些抽象的概念,比如测评指标之类。

管理智力:测评结果反映了测评对象的智力水平,并不是对管理业绩指标的衡量。

评鉴中心有效性的几种解释

接下来,我们要逐一讨论Klimosli和Briskner对评鉴中心有效性的各种解释。同样,也有人反对他们的观点,拥护传统的解释。

现实的效标污染

同类推荐
  • 百年:如何建立一个伟大并长盛不衰的公司

    百年:如何建立一个伟大并长盛不衰的公司

    这是一本严肃思考和探索企业如何永续发展(百年企业)的、打通理论与实践的、融合现实和未来的、兼具理论深度与可读性的著作。改革开放30余年后,中国企业(尤其是民营企业)在继续创造财富的同时,也到了面临代际传承、转型发展、突破创新的关键时刻,政商学界开始普遍探索如何构建百年企业的话题,本书分别从百年企业发展的时空之谜、复杂之谜和生命之谜这三大终极问题进行百年长考。
  • 消费心理分析

    消费心理分析

    本书共分15章,内容包括:认识消费心理分析、消费者的心理需要与动机分析、消费者的购买决策与行为分析等。
  • 销售要懂微表情

    销售要懂微表情

    作为销售人员,如果能够学会从客户的“微表情”“微行为”中判断出客户的真实想法,就可以摆脱无所适从的困惑,提高辨别客户的能力,顺利地窥探出客户的情感变化,找寻出令客户迟疑的真正原因,从而让成交变得轻而易举。本书教给销售人员如何通过观察客户的微表情、微行为来感受客户的思维、感觉和意愿,如何运用自身细微的肢体语言来向客户传达信息,从而实现有效沟通,促成交易。
  • 古今商贾智慧谋略文库

    古今商贾智慧谋略文库

    本书内容共十部分,包括:市场调查、市场开发篇、市场竞争篇、企业形象篇、产品决策篇、价格决策篇、产品促销篇、营销网络篇、营销管理篇、营销服务篇。
  • 特许经营案例集

    特许经营案例集

    本书精选了取具代表性、经营非常成功的、零售、餐饮、服务三大行业的中外十大特许体系进行分析,解析其结构、发展模式、成功所在等。
热门推荐
  • 梦神珠

    梦神珠

    一笑红颜万古灰,如梦似幻千万年。请关注面包的新书【梦神珠】
  • 天穹之神意

    天穹之神意

    遥远的星垣大陆上,存在着神秘莫测的灵术与灵术师。这是一个机械与灵术交锋的时代,在猜忌与权谋的逐杀中一个少年因为一块石头起死回生。也因为这块石头,世界的真实也将在他的面前展开。你有一个可以挽回一切的机会,失去东西都可以回来,代价是世间将没有你,你愿意么?“是啊!你永远都是那么高高在上,你眼中所见的只有你的皇位。所以你永远也体会不到,你的女儿抱着她母亲的半截尸体痛哭的时候是什么滋味。我已经不是什么小孩子了父皇,所以只要我还活着一天,我就会不惜一切代价毁掉这国,让你感受一下最在乎的东西在自己眼前烟消云散是什么滋味。”少年冷冷地说。
  • 魑魅烙铭

    魑魅烙铭

    上世纪末,在江南一带的丛山之中,一个小村庄在午夜突发变故,山顶滚落的巨石压塌了一间土屋,村民自发挖掘救援,却发现死者在房屋倒塌前就已遇害,而尸体死状诡异,令人作呕…时过境迁,在一个位于江南的沿海小城,一起变态至极的碎尸案将当年命案牵出,幕后元凶逐渐浮出水面,人类对未知的恐惧,又再一次笼罩整座城市......附;我只想尽心,为读者书写一个简单的悬疑故事。因为我是第一次创作,如果故事有逻辑上的错误和漏洞,甚至错字,希望您能指出,我一定及时修改补漏。最后感谢您能百忙之余阅读我的作品,真的十分感谢。
  • 孩子的青春你懂吗?

    孩子的青春你懂吗?

    本书共分为五章,分别从青春期青少年生理心理的发展、如何构建充满爱的家庭环境、如何打造美丽的校园生活、如何构建健康的性心理发展及如何发展良好的人际关系等几个角度着笔,详细分析了青春期青少年特有的一些心理困惑和问题,以及每个问题的心理根源。针对这些问题与困惑,作者主要从青少年心理问题成因及心理问题解决两个方面来阐述,并着重讲解了成人应该如何面对青少年的各种问题及进行有效沟通的技巧等。
  • 名侦探柯南之与我同行

    名侦探柯南之与我同行

    偶然穿越到柯南时间,后来发现自己居然是另外一个世界远古时期人物的转世。与柯南一起破案,日常暧昧
  • 什么样的教育算成功

    什么样的教育算成功

    《什么样的教育算成功》从多侧面围绕一个大主题进行阐释。前两章拨开乌云见月明,让我们了解到教育的目的和本质;最后两章柳暗花明又一村,让我们在领略大师经典教育理念的同时,能及时规避教育中存在的错误;中间几章,则详细介绍了成功教育的九个方面,让家长从多个角度培养自己的孩子:学会生存的技能,拥有乐观的心态、负责的勇气、学习的能力、创造性的思维及投资理财的意识等,不一而足。
  • 醉酒一生

    醉酒一生

    背负着灭门之仇的江湖杀手,原本是一个门派首领收养的孩子。为了向那个鼓动朝廷剿灭他们的人复仇,以赏金猎人的身份潜伏了七年。终于,当时机成熟谋划已久的复仇将要实行的时候,偶遇门派首领流落在外的私生子。这个变数使原本的计划被彻底打乱……
  • 修仙笑传:这对仙侣很腹黑

    修仙笑传:这对仙侣很腹黑

    他,一代强者身负血仇,侥幸逃生却身染重病,传说浩瀚宇内,他的毒唯有她一人可解。她,一朝穿越成为神女,世恶道险强者为尊,机缘巧合走向一条通往强者的不归路。当他与她相遇,当腹黑撞上腹黑,便开启了一场强者恒强,逆天改命的惊世传奇!若干年后…“休得耍赖,你的毒不是早就解了吗”某男勾唇邪笑扑向赵晗伊“剩下的余毒,你一辈子都解不完……”【本文:爆笑升级又励志,甜宠撒糖又欢脱。欢迎各位新老读者前来跳坑。猫大人书友群群号:62116441】
  • 森林王子

    森林王子

    这是关于一只小老虎的冒险和成长故事。 为了保护红霞大山的动物们,也为了寻找自由,动物园刚出生不久的小老虎力力和妈妈力雅决定到森林里生活。 不料,坏家伙却把力力从动物园里偷出来,准备卖给马戏团。在路上,力力逃脱了坏人们的魔爪,不小心掉进了老爷爷的奶桶里。老爷爷以为力力是只小猫,把力力带回家。农场里的动物也以为它是只猫。但是,力力一直坚信自己是只老虎。 随着力力一天天长大,寻找妈妈和寻找自由的念头越来越强烈。最终,力力决定离开农场到森林里去生活。 力力在寻找的过程中由迷茫、轻信慢慢变得勇敢、睿智啊,成为真正的森林王子。
  • 鬼王无奈:天才鬼妃太倾城

    鬼王无奈:天才鬼妃太倾城

    代号为夜露幽豹,夜魅妖狐和夜云残狼三个世界顶级杀手逃出了他们呆了十多年的组织:“夜”。他们厌倦了被追杀的生活,和“夜”同归于尽了。夜魅妖狐死后,发现自己来到了星圣大陆,并意外得到了超强完美系统。且看她怎样斗二奶,训神兽,打男主!!此文已弃