多项选择题的问题广泛应用于临床教育。通常,学生必须马克唯一正确答案从一组5个备选方案。在自愿的考试,最后一个义务药理学考试,我们测试了一个格式,多一种选择可能是正确的(
笔试采用多项选择题(MCQ)现在在医学教育在世界各地广泛使用。这些测试是在心理学的研究目的e . l .桑代克约1900 (
MCQ-based考试的优点是快速、廉价、客观,使测试抽样广泛的课程。他们可以在一个非常标准化的形式,可以有很高的统计有效性。理想情况下,测试也应该是敏感的和具体的。MCQ-based考试现在经常电子标记,结果在数学上可以处理给主考官和学生定量反馈质量,可靠性和有效性的测试。关注在这个测试格式总是它真的是多么有效。换句话说,它测试所使用的技能和知识在临床实践中?是敏感到足以区分哪些是适合临床实践和学生应该保持练习?因此,国家医学考试委员会的美国和其他测试机构以及医疗能力也不断改变,适应,试图改善他们的多项选择题形式。
争议是否MCQ只有评估低水平的知识像召回孤立的事实,鼓励知识的轻视,或者借给死记硬背
a类型的问题是第一个,“一个正确的项目五项”格式。虽然这种简单的形式通常被称为一个多项选择题的问题(
第一我们的研究的目的是研究一种新型的有用性问题有以下属性:(1)超过一个(
第二我们的研究的目的是测试的不同实现回答这个格式先生(图的关键
系统化的问题类型。
我们进行了三项研究连续三年(2012 - 14)总体设计,表
研究设计的概述,,模式的问题和参与。
| 一年 | 一般的问题 | R5 | MC | MTF | R4 | 奖金 |
|---|---|---|---|---|---|---|
| 2012年 | 60 |
|
− | − | − | − |
| 2013年 | 60 | − |
|
|
|
− |
| 2014年 | 60 | − | − | − |
|
+ |
:今年考试了;奖金:+,-表示加分是否有增加学生参与/动机;
学生总是单独坐着,教育者在讲堂的测试了。定期的考试,准备在四组相同的版本(不同的随机序列的问题)。随机测试版本有班上,整个考试,考生收到的只有一个版本。在期中考试只包含30个问题项从研讨会和讲座到应该知道时间。期末考试包含30个问题属于整个课程。在期中和期末考试中问题设计后常见的指南[a类型问题
仅供评分,结果被认为是在常规期中和期末考试。因为每个考试由30同样加权问题,我们计算简单的分数总和(max。30分)。学生通过这门课的时候达到至少60%的这两个考试的综合得分。这意味着36从30个问题给出正确答案的期中考试和期末考试中给出的30个问题。因此,通过课程需要参加考试。
额外的问题都给出了随机一起定期检查表开始前考试。这些问题已经在之前用于其a类型格式军团,被选为显示困难从0.34到0.96和测试歧视(从0.21到0.58),遵循经典测试理论(例如,Kubinger和沙尔
本研究可以被理解为一种自愿的调查。没有相关的数据收集。因此,伦理语句没有必要这种自愿的调查。然而,研究符合任何适用的个人数据保护法规。学生们了解这个项目的考试前几周。参与者把他们的同意,填写考试。这些额外的自愿考试后直接写的考试但是不属于常规课程的过程中,和参与对通过的考试没有影响。
意义的相关性进行了测试使用费舍尔的之间的区别
作为第一步,我们希望评估的格式与广告评级关键先生(R5)执行与传统SC格式。因为所有的问题都来自相同的池用于定期考试,我们预期这两种格式的性能时应该差不多每一个选择是在先生的格式。然而,我们预期大幅降低分数在R5格式问题作为一个整体得分,因为只有一个不正确的回答选择将使整个问题错误和其他成本这个问题的正确答案。
为了测试我们新的R5格式的有效性,我们让两组学生马克十个问题在传统SC在R5格式或马克十修改同行评级格式后,常规的期末考试。一个典型的例子如图额外的问题
SC和R5的问题类型的例子。样题与他们在2012年五个备选方案和相应的关键。左面板(a):问题是以前的考试SC格式要求检查唯一真正的替代和离开错误的选择空白。(b)右面板:同样的问题稍微修改杆允许多个真实的选择。学生被要求在5范围内每个替代率(R5)。
一半的学生获得了额外的项目原来的SC格式和一半的学生在新调整评级格式先生5点量表(R5)。等级量表是一个古典乐器(“李克特量表”)教育研究[
考生,
额外的问题,不同的计分方法被应用于两组。SC组类似的得分总和计算额外的十个问题的定期考试。的正确选择的五个答案收到一个点(max。10分),达到至少60%的分数被认为是假想的传递这些问题。
R5组,每个50替代品的得分分别如下:选择得分为正确的,收到了一个点,如果(a)一个正确选择所得到的回答是:“绝对正确”或“也许正确”和(b)另一个不正确的回答了“完全错误”或“很可能错误的。“在所有其他情况下,选择得分是不正确的。和分数然后计算所有备选方案(max。50分)或所有问题(问题点都规定只有在选择这些问题回答正确;max。10分SC组)。
由于猜的概率增加
十个额外的物品没有分级,仅用于研究目的。学生们没有收到良好的性能在这个测试的加分。
第二步,我们要评估的三种不同的键(图先生格式
其他问题,我们不同的关键同样的问题在三组:多项选择(MC),多个是非题(MTF)和评级格式(R4)。一个典型的例子如图额外的问题
MC的例子,MTF, R4问题类型。样本问题的五个选择,三个关键的实现中使用2013(所有)和2014(只有面板)。(c):学生被要求检查真的选择离开错误的选择空白(MC,面板(a)),为每个替代指示是否正确或错误(MTF,面板(b)),或对每个替代分制评分(R4,面板(c))。
三分之一的学生获得了额外的物品在MC实现中,三分之一在MTF的实现,最后第三R4的实现。标志着其他问题是自愿的,学生没有收到额外的信贷在回答其他问题。学生事先不知道什么类型的额外问题他们期望。然而,所有组了解所需的正确答案在一个封闭的文本。
一起考试的问题,我们分发问卷调查经验的学生在回答其他问题。学生被要求回答这些问题在完成额外的问题。一些(少于5%)学生呆在考场到规定时间结束。
学生的经验和意见收集新问题后立即使用问卷测试。问卷包含十个问题容易回答其他问题如何,是否适合考试或网上准备测试,如果学生希望更频繁地使用它们,如果另一个不self-experienced键可能会更好。
考生是一年级临床医学的学生
这个数字的学生中,只有数据的
2013年,50个替代品的十个额外的物品单独再次得分。MC组,选择得分是正确的,收到一个点(a)一个正确的选择是否检查和(b)一个不正确的选择是留空。MTF组,选择得分是正确的,收到一个点(a)一个正确的选择是否回答“true”和(b)一个不正确的选择所得到的回答是:“假的。“R4组,选择得分是正确的,收到一个点(a)一个正确的选择是否回答“绝对真实”或“可能真的”和(b)一个不正确的选择所得到的回答是:“绝对假”或“可能错误的。“在所有其他情况下,选择得分是不正确的。和分数然后计算备选方案(max。50分)。由于想当得分选择概率增加
十个额外的物品没有分级,仅用于研究目的。学生们没有收到良好的性能在这个测试的加分。
作为最后一步,我们希望评估如果动机是更好的性能的关键因素在其他问题MC格式。为了实现这一点,考生收到额外的奖金,今年信贷MC回答问题的格式。我们预计这一措施能够减少辍学和/或引起更好的性能。
今年,只有R4主要被用于其他问题于2013年被完全一样,但学生了解考试前三个半月哪些类型的问题他们期望,运用评分法和良好的性能,他们可以获得加分。这些信息是通过一个单独的指示表包含在宣布考试。
所有学生获得了额外项目的格式与R4关键先生。标志着其他问题是自愿的;然而,第一次,今年,学生提前熟悉什么类型的额外问题他们期望和接收两个加分的常规考试表现良好时额外的问题。
我们告诉学生,为了计算加分,以下评分法将应用:如果(a)一个正确选择所得到的回答是:“绝对没错,”三个点被授予,所得到的回答是:“可能真的,”两个点被授予,并回答了“可能错误的,”被授予,和(b)另一个不正确的回答了“绝对假的,”三个点被授予,所得到的回答是:“可能错误的,”两个点被授予,并回答了“可能真的,”一个点被授予(表
概述得分2014额外的另一个问题。相同的表(在德国)是提供给学生三个半月前考试。
| 另一个选择,你收到点所示,如果… | ||
|---|---|---|
| 另一种选择是正确的,… | 另一种是不正确的… | |
| 你马克 |
3点 | 0点 |
| 你马克 |
2点 | 1点 |
| 你马克 |
1点 | 2点 |
| 你马克 |
0点 | 3点 |
考生是一年级临床医学的学生
这个数字的学生中,只有数据的
在2014年,只有R4格式是用于所有考生又全部50个替代品之前得分分别为(max。50分)。进一步,我们为每个替代计算得分从0到3分奖励加分如上所述。然后我们也计算分数在所有备选方案(max。150分)。这种评分方法可能被视为一个新的密钥,我们将报告的完整性和术语BP“加分得分”从这里。再一次,至少75%的分数要求假设通过额外的问题。
三组没有差异(SC、R5和做)关于年龄,
而95.9%的学生通过了两个普通考试相结合,SC组中78.3%通过了额外的问题和R5组中只有50.8%的人通过了其他问题时得分替代品或74.6%通过得分作为一个整体(表的问题
摘要在2012年定期考试中的表现和额外的问题。给定的值(除了
|
|
最小值 | 马克斯 | 的意思是 | SD | 通过率 |
|
|
||
|---|---|---|---|---|---|---|---|---|---|
| 期中考试 | 245年 | 50.0 | 93.3 | 78.9 | 8.5 | 97.6 | 0.774 |
0.402 |
|
| 期末考试 | 245年 | 16.7 | 96.7 | 70.5 | 11.9 | 86.9 | 0.891 |
1 | |
| 综合考试 | 245年 | 35.0 | 91.7 | 74.7 | 8.6 | 95.9 | 1 | 0.891 |
|
| 额外的问题 | SC组 | 129年 | 0 | One hundred. | 68.3 | 21.2 | 78.3 | 0.359 |
0.308 |
| R5集团(选择) | 59 | 0 | 98.0 | 64.0 | 23.0 | 50.8 | 0.365 |
0.417 |
|
| R5集团(问题) | 59 | 0 | 90.0 | 34.1 | 23.5 | 74.6 | 0.253 |
0.335 |
|
2012年学生的表现。2012 SC组的性能(面板(a))和R5组得分时的替代品(面板(b))和整个问题(面板(c))结合常规考试和额外的性能问题。每个点代表一个考生的得分点在右上角矩形的通过了考试。虚线表示传递所需的分数。直线表示线性适合数据。
四组之间没有差异(MC、MTF R4,)关于年龄,
所有进一步的计算,重要的是要注意,总体综合考试的通过率只有69.4%,远远低于在2012年联合考试,通过率是95.9%。在期中考试的通过率已经低于前2012年(78.0%比93.3%),期末考试的通过率,回答更多的问题后,把更多的2012年(48.8%比86.9%)。这可能有偏见的所有进一步的结果。同时仍然有69.4%的学生通过了两个结合定期考试,其他问题的通过率很低在所有组:MC组5.2%,10.7% MTF组,10.4%在R4组(表会通过额外的问题
摘要在2013年定期考试中的表现和额外的问题。给定的值(除了
|
|
最小值 | 马克斯 | 的意思是 | SD | 通过率 |
|
|
||
|---|---|---|---|---|---|---|---|---|---|
| 期中考试 | 209年 | 33.3 | 96.7 | 68.6 | 12.6 | 78.0 | 0.837 |
0.404 |
|
| 期末考试 | 209年 | 16.7 | 83.3 | 57.2 | 12.6 | 48.8 | 0.839 |
1 | |
| 综合考试 | 209年 | 28.3 | 83.3 | 62.9 | 10.6 | 69.4 | 1 | 0.839 |
|
| 额外的问题 | MC集团 | 58 | 44.0 | 78.0 | 58.5 | 8.1 | 5.2 | 0.343 |
0.316 |
| MTF集团 | 56 | 38.0 | 88.0 | 61.6 | 10.1 | 10.7 | −0.061 | −0.054 | |
| R4集团 | 48 | 46.0 | 80.0 | 63.7 | 8.0 | 10.4 | −0.028 | 0.138 | |
2013年学生的表现。2013 MC组的性能(面板(a)), MTF组(面板(b))和R4集团(面板(c))结合常规考试和额外的性能问题。每个点代表一个考生的得分点在右上角矩形的通过了考试。虚线表示传递所需的分数。直线表示线性适合数据。
2013年评估。意思是协议在三组底部的面板所示的语句。
2013年的主观评价。考生被要求考虑另外两个不self-experienced键然后表示将对他们多么容易回答同样的问题,这样的一个关键。
R4和组之间没有差异,关于年龄,
进一步计算,重要的是要注意,虽然整体通过率结合考试再次增加相比,2013年(今年的84.6%和2012年78.0%,2013年为93.3%),期末考试的通过率只有44.8%,比2013年更低(48.8%),比2012年要低得多(86.9%)。这是可能会进一步影响了所有的结果,作为额外的期末考试(表后问题都回答了
摘要在2014年定期考试中的表现和额外的问题。给定的值(除了
|
|
最小值 | 马克斯 | 的意思是 | SD | 通过率 |
|
|
||
|---|---|---|---|---|---|---|---|---|---|
| 期中考试 | 201年 | 40.0 | 96.7 | 84.2 | 13.6 | 93.0 | 0.848 |
0.301 |
|
| 期末考试 | 201年 | 23.3 | 90.0 | 56.1 | 11.1 | 44.8 | 0.761 |
1 | |
| 综合考试 | 201年 | 36.7 | 91.7 | 70.2 | 10.0 | 84.6 | 1 | 0.761 |
|
| 额外的问题 | R4得分 | 194年 | 44.0 | 88.0 | 68.4 | 8.9 | 24.2 | 0.031 | 0.087 |
| 英国石油(BP)得分 | 194年 | 47.3 | 84.0 | 66.6 | 7.8 | 16.5 | 0.023 | 0.053 | |
2014年学生的表现。2014 R4组替代的性能得分(面板(a))和奖金点得分(面板(b))结合常规考试和额外的性能问题。每个点代表一个考生的得分点在右上角矩形的通过了考试。虚线表示传递所需的分数。直线表示线性适合数据。
在文献中有争论哪种书面问题类型对医学教育是最好的。历史上,第一次写项目被分成两个的问题,即“真/假。“这被批评,因为语言问题的项目可能会模糊(不清楚,解释,或缺乏细节如病人的年龄)或者年级之间可能存在异议是否完全错误的或完全错误的答案
另一项研究比较不同的项目格式和计算可靠性系数研究项目在每个格式。他们发现425 a类型的问题都需要获得一个约0.90但是只有275选n的可靠性问题部分信用得分相同的可靠性(
一项有趣的研究用一种不同的方法来研究对医学生的信心。作者在药理学课程给a类型MCQ初级(第三年)和高级学生(第五年)和信心提出了四点量表(从我非常确定我猜)。他们注意到更高级别的医学生缺乏自信回答但表现出更高的正确性。他们得出的结论是,向毕业,医学专业的学生获得更多的知识和更怀疑这可能是一个有效的目标在医学教育
尽管所有三个实现我们的新类型的问题需要相同的知识集,一组不同的“测试聪明”似乎需要成功地回答这些问题。而组没有在他们的分数差异分级考试,只有MC实现了与这些成绩显著相关。此外,学生回答R4实现得分最高的,尽管评级这个实现是最苛刻的。
尽管在许多机构和国家,中央授权测试给医学生依赖于明确的MC单一选择格式,和能力往往是自由选择自己喜欢的格式在他们的课程考试。我们建议MC问题正确答案的随机数增加MC的力量来评估学生的知识,也可能提供的机会提高他们解决问题的能力,换句话说可以达到更高的水平在布鲁姆的分类,实际上至少在美国生物学教学本科生更高的知识水平是衡量MCQ开花[
我们指出,性能问题相关的考试是更好的比我们更多的自愿测试给出研究目的是没有后果最终评分。可能,这是由于学生动机期望更好的评分增加动力,因此性能测试。
当提供分级响应类别从“千真万确”到“当然假”最好是提供一个偶数的选项。一个中立的类别(“我不知道”)可能不是语义定义良好的,因此可能腐败的答案选择学生。
不同的问题格式由不同的猜测概率抱愧蒙羞。使结果可比对之间的整体性能测试,需要应用适当的修正公式。这只适用如果猜测概率的假设是正确的。在研究1中,我们看到了两种情况下:猜测校正工作在猜测得分情况但没有单一的得分情况。
研究2和3显示的重要性,熟悉格式的问题。显然,我们多响应格式,特别是信心尺度最初陌生的,这一事实给学生带来困难。因此似乎明智的引入任何新问题格式给新的考试前风格(换句话说:在类)的开始。因此,学生可以了解到新的格式,可以设计出最佳的回答策略,可能熟悉新的评分系统给他们背后的逻辑。
总之,真正的多响应比单一选择问题更难以回答的问题。多响应问题考官提供更大的灵活性来测试学生的知识,而且在某些话题,这种格式更容易构建问题与临床的相关性。等级量表(我相信和我不自信)提供的可能性考官问题的课程,发现错误的概念,和检测的主题没有覆盖在工作。因此,评定量表的问题可能是一个有用的工具提高教学课程形成性测试。
使用的数据来支持本研究的发现可以从相应的作者。
作者宣称没有利益冲突。
作者要感谢医学院的网络学习发展集团”HaMeeL-Hallesches Medizinisches网络学习”和multimedia-enhanced教学中心(@LLZ)的马丁·路德大学Halle-Wittenberg。作者也承认金融支持开放获取出版基金的马丁·路德大学Halle-Wittenberg。