大数据文摘出品
作者:Caleb
说到作弊,可谓是道高一尺魔高一丈的典型了。
2017年一部《天才枪手》就把作弊这一看似十分“普遍”的学生行为拍出了新花样,甚至有网友表示,“作弊才是学生时代的主题”。
此前受到疫情等诸多因素影响,全球范围内的线上考试也被迫提上日程,而紧随其后的便是各种防作弊措施。
但是过了这么久了,这些反作弊软件真的发挥了它们应有的作用吗?
最近一项调查发现,被世界各地学校使用的反作弊软件Proctorio并不能有效检测出环境中的作弊者,尽管它们声称对此有着十分高的把握。
研究论文:https://ris.utwente.nl/ws/portalfiles/portal/275927505/3e2a9e5b2fad237a3d35f36fa2c5f44552f2.pdf
荷兰特文特大学的研究人员做了一个十分形象的比喻,他说该软件就像是在服用安慰剂:它有一些积极影响,不是因为它有效,而是因为人们相信它有效,或者它可能有效。
Proctorio到底有多不靠谱?
在此之前,我们还是有必要了解一下Proctorio。
作为一个AI系统,必须承认的一点是Proctorio解放了监考人员的人力资源,相反它主要使用软件来监控学生,检测和报告考试其阿金出现的任何可疑行为。
这就要求学生们在自己的电脑上安装一个浏览器扩展程序或一个应用程序,以更好地跟踪学生的眼球运动与肢体语言。学生还必须上传自己的学生照和身份证,以便系统更好地进行面部识别。
另一方面,Proctorio则主要通过记录学生电脑的视频和音频片段,捕捉学生的按键,记录电脑屏幕数据,在学生移动头部、眼睛或身体时进行标记,并对他们在进行考试时访问的网站进行分类等来进行监考。
2021年4月,这项研究首先在第13届国际计算机辅助教育会议上提出,试图证明该软件是否有效。
为此研究人员从大学的计算机科学课程中找到了30名学生志愿者,并让其中6人在Proctorio监考的一次考试中作弊,另外有5人被告知不要作弊,但要表现得很可疑,其余人则诚实地参加考试。
至于怎么作弊,研究人员把这项权利交还给了学生,让他们自己来决定要以怎样的形式进行,以最好地欺骗系统。
从结果上看,Proctorio并不擅长发现作弊者,该系统没有将任何作弊者标记为作弊。
有人使用虚拟机,这是Proctorio系统的一个已知的漏洞。研究报告写到,该软件确实将这些学生标记为“违规”,但也将其他诚实的学生标记为同样的违规行为。与此同时,一些作弊者使用音频通话,但Proctorio没有将他们的音频标记为异常,但却将学生在嘈杂环境中进行测试的音频标记为异常。
一份独立的人工审查数据和录像只发现了六名作弊者中的一人,主要原因是由于摄像头的角度和可选的“房间扫描”功能,他们无法知道学生胸部以下的东西具体是什么,以及学生们的行为。
Proctorio的发言人David Lux介绍了另外三项关于“在线监考的有效性”的研究,这些研究是“多学科的,并且有更强大的样本量”。作者承认特文特大学的研究存在缺陷。然而,这三项研究都不是受控实验。相反,他们要么使用调查,要么使用回归模型来估计作弊率和学生对在线监考的态度。
这些研究不仅是不同的研究设计,而且针对的根本不同的问题,毕竟它们都没有试图证明在线监考软件是否能有效地抓住作弊者。
清华推出AI鹰眼系统
除了Proctorio外,国内的线上监考技术也在稳步跟进中。
今年3月,清华大学研发“AI鹰眼”数位监考防弊系统,可监测人脸偏移、视线离开等异常状况并示警,且不需事先下载APP,预计明年起开始使用。
清华大学教学发展中心主任周秀专表示,AI鹰眼数位监考系统是目前唯一可做到不需要事先下载软件、考生不需交出电脑控制权、支援手机答题、支援所有浏览器,且适用百人以上大班监考的防弊系统。
AI鹰眼数位监考系统的核心在于应用人脸辩识及眼动追踪技术,让一般家用电脑的视讯镜头或手机镜头,即具备扫描眼球视线轨迹的功能,并结合滑鼠轨迹、音讯等AI人工智能深度学习系统,精准判断考生是否舞弊。
对此,AI鹰眼系统将作弊行为分为了“人脸偏移”“人脸离开”“视线离开”“开启分页”等4类异常现象,并统计异常次数,提醒考生和监考者注意,监考者也可要求考生开启通话功能,来确定现场状况。
清华表示,AI鹰眼系统将在今年小规模试行,搜集更多样本和资料,持续精进并提升系统的准确率,目标于明年正式使用。
线上监考应该怎么做?
其实在国内,线上监考这个事也已经有过实践了。
今年5月,北京市丰台区初中学考“一模”考试就采用了线上线下相结合等多种方式进行。
首先是对考试环境的要求。参与线上考试的同学们必须保证桌面清空,学生面前一部笔记本电脑,身后45度方向有一部手机,两个设备的摄像头从不同角度拍摄学生的作答状态,保证监考员视角完整清晰进行全程监控。
北京市赵登禹学校教务主任沈磊表示,除了每个考场配备了一名监考员之外,学校教学干部、年级组长、班主任都通过线上进入考场进行巡查,“每一场次会有至少5遍到6遍巡查,查看学生的摄像头角度方位是否规范,查看每一名学生的答题状态是否认真”。
“一模”考试首日结束后,学校还针对此次线上监考提出了一些优化方案。比如一屏无法完全显示所有考生的实时状态,需要翻页。对此,丰台二中提出了优化:除了监考员之外,班主任也进入会场,两台设备同时监考,就可以一目了然地看到所有同学的作答情况。
目前大部分的线上监考系统都或多或少符合特文特大学研究的核心观点,即软件对一些过于明目张胆的作弊行为,比如学生在一起考试并实时讨论,这类行为有着威慑作用。
但毕竟每场考试学校可能还会下血本在监考系统上,还有危害学生隐私的风险,或者说,是不是应该让一个监考老师在所有人都开着摄像头的情况下来进行考试,这似乎又增加了一些变量。