APP下载

高校课程机考改革的信效度研究
——以会计电算化课程为例

2018-09-10武汉工程大学管理学院湖北武汉430205

商业会计 2018年14期
关键词:区分度信度效度

(武汉工程大学管理学院湖北武汉430205)

近年来,随着高校考试改革的推进,传统的笔试模式由于在考查学生应用能力方面存在局限性,逐渐受到师生诟病。机考作为一种与时俱进的考试模式在越来越多的高校中受到青睐,主要应用于高校英语考试和部分专业课考试。这种考试形式以自动组卷、自动阅卷、无纸化为特征实现教考分离,在很大程度上保证了考试的公平有效,减少了舞弊行为,且节省人力物力,绿色环保。作为会计学科专业课程的会计电算化课程强调的是学生对财务软件的应用能力,对该课程的考试形式进行改革已迫在眉睫。信度与效度是衡量一项考试最重要的指标,对信度与效度进行评估是推出机考这种新型考试形式首先需要关注的问题。

一、研究设计与结果分析

(一)被试对象。会计电算化机考的被试对象是高校会计专业学生。笔者采取整群抽样的方法,集中抽取了武汉工程大学某级会计专业的学生共142人,其中男生21人,女生121人。由于会计专业女生居多,该测试及调查结果具有普遍性,能够代表会计专业学生对会计电算化课程机考改革的认知,故以下研究不对测试成绩做性别差异检验。

(二)数据收集。会计电算化机考试题采用的是用友教考平台考试系统,该系统提供了10套测试题,本次机考选择了其中与课程教学内容及大纲相匹配的一套试题对被试对象进行测试。试题由四部分构成:(1)企业背景资料;(2)系统初始化;(3)业务处理与会计核算;(4)报表编制与财务指标分析。其中第一部分企业背景资料是为测试提供基础信息和指定业务处理具体规则,不作为研究内容。测试结束后,通过问卷的形式调查了被试者对本次机考的感受与意见。

(三)数据结果与分析。

1.测试难易度分析。本文使用难度系数L表示难易度,计算公式为:

其中,X:所有测试者平均分,W:试卷总分(100分)。一般来说,计算结果L>0.3说明试题略难,L<0.2说明试题略易,0.2<L<0.3说明试题难度适中。根据所有被试对象的成绩计算出的L为0.21,故本次机考测试难度适中。

2.测试区分度分析。区分度可以反映测试对不同受试者水平的鉴别程度,计算公式为:

其中,Xh:高分组平均得分,Xl:低分组平均得分。高分组是指把成绩由高到低排序后,前面50%的那一部分;低分组是指后面50%的那一部分。一般来说,D>0.25说明区分度较好,D<0.2说明区分度较差,D在0.20—0.25之间说明区分度适中。根据所有被试对象的成绩计算出的D为0.58,说明本次机考测试有着很高的区分度。

3.测试的效度分析。美国教育研究协会制定的“教育与心理测验标准”把效度区分为三种类型:内容效度、结构效度、校标关联效度。其中内容效度主要适用于成绩测验,该测验主要测量被试对象掌握会计电算化知识和技能的程度。通过对比本次机考的测试题目与课程内容范围发现,二者具有较高的吻合度,即上文所述考试系统的第2至第4部分测试完整覆盖了课程教学大纲内容,并能抓取重点经济业务处理和报表编制,说明本次机考测试具有可靠的内容效度。笔者同时收集了上届考生的笔试成绩,计算得到二者的相关系数为0.802,即总体上,以笔试成绩为校标,本次机考的校标关联效度较好。

4.测试的信度分析。本文在肯定机考效度的同时,对机考信度也做了测算。笔者用再测法即用同一组被试对象对同一种测验前后两次施测的测验得分的相关系数表示信度,测算得到的信度系数为0.83,即该机考结果具有较高的一致性、稳定性和可靠性。

二、对参加机考学生的问卷调查与分析

测试结束后,笔者通过纸质问卷的形式调查了被试对象对会计电算化课程采用不同考试形式的偏好以及其他相关方面的感受与意见。

(一)调查问卷。针对学生对机考形式的感受与建议,由会计专业本科学生采用不记名方式回答问卷。本次调查共发放问卷142份,收回问卷140份,剔除部分无效问卷,剩余有效问卷136份。部分调查内容见下表:

关于会计电算化课程考试改革的调查问卷(部分)

(二)问卷分析。问卷第1项调查中,认为机考形式合理的占比85%,说明大多数学生认识到该课程实践性较强,认可这种考试形式改革;问卷第2项调查中,认为机考可以减少作弊,提升成绩公平度的比例最高,达到了90%以上,说明学生对机考公平度的认知较统一;问卷第3项认为机考测试的可信度很高和较高的比例合计为82%,表明学生对机考信度的满意度较高,这与前文测算的信度系数高,机考结果具有较高的一致性、稳定性和可靠性的结论相一致;问卷第4项对于机考效度的调查,回答很有效和比较有效的比例为80%,也验证了前文关于机考效度高的分析,说明该课程的机考效度是被学生所接纳的。对于试题难易度的回答比较分散,该项调查感受主要取决于被试对象个人的学习能力和对知识的掌握程度。

三、目前高校推行机考存在的问题

(一)考务实施难度较大。机考形式对场地、机房硬件、软件、网络建设和维护都提出了较高要求。由于机房设备有限,而考生人数众多,服务器端压力较大,通常会出现试题下载速度缓慢、死机、试卷无法提交等各种问题。期末进行集中大规模测试有一定难度,若各专业课程同时开展机考测试则更难实现。能否解决网络拥堵问题,保证服务器的正常运行,是机考能否顺利开展的先决条件。

(二)题库建设是瓶颈。目前各高校采用的机考软件大多是外购商品化软件,试题是随软件一同购买或赠送的。因此这些试题已经固化统一,不能完全适应不同学校、不同层次、不同学时和不同教学计划的考试需求,缺乏灵活性。

(三)自动评分技术亟需完善。会计电算化机考软件中的一个操作可对应一个或者多个评分点,评分点是评分约定中的一个采分点。在一个评分点中可以有多个评判对象,只有多个评判对象都满足预定义的结果时,该评分点才能得分。有时考生正确完成了经济业务处理,但操作过程或步骤与评分系统预设置的标准不完全一致,不是所有评判对象都满足预定义结果,此时不能得分,这显然不符合会计电算化机考的应用初衷,也在一定程度上降低了测评的公正性。

四、结论与建议

本研究重点关注的是会计电算化课程机考的信度、效度、公平度等方面,研究结果表明:本次机考难度适中,区分度较高,具有较好的信度、内容效度和校标关联效度。虽然这种考试形式改革有其先进性和合理性,并且在近年来的考试形式改革中成为主流趋势,但对存在的问题也不可忽视,本文建议如下:

(一)增强考试实施的灵活性,降低组织难度。高校可设置专门的考试改革项目,建立激励机制并投入专项资金,定期更换硬件设备和更新软件,并安排专人维护,以保障期中、期末的大规模集中测试需要;亦可采取更灵活的考试安排,即确定若干考试时间,由学生根据自身需要预约,如此可以对考试时间进行分散,降低一次考试规模。

(二)实行试题差异化,完善自动评分技术。目前市场上的机考软件质量良莠不齐,因此可由高校通过市场需求倒逼软件开发商提高题库质量和灵活性,开发可由教师自主编辑、组题、确定分值的试题库,通过计算机系统实现对试题的智能化组织,而不仅仅是提供一套套固化的“成品”试题。甚至可以由教师在服务器上通过组卷等操作控制使相邻座位的考生试题差异化,杜绝舞弊以达到更高的公平性。具有这种题库制作甚至是二次开发功能的软件通常对使用者要求较高,可由软件销售方提供售后服务,对高校教师进行培训,使教师掌握题库制作和完善评分系统的方法,以适应不同层次不同学时的考核要求。

猜你喜欢

区分度信度效度
图形推理测量指标相关性考察*
谈高效课堂下效度的提升策略
巧用模型法提高科学课堂教学的效度
大学生积极自我量表初步编制
浅观一道题的“区分度”
论高职英语多元化综合评价模式的效度与信度
利用垂直平分线的定义巧解题
计算机辅助英语测试研究
墨子论度
无机化学推断题与框图题解法