作者对GenAI在教育领域的应用表示担忧,认为学生可能会变得懒惰,依赖GenAI生成看似高水平的报告但缺乏实际知识。同时,GenAI存在“幻觉”问题,会捏造信息。作者列举了GenAI在学生作业中可能出现的10个迹象,并建议在测试中禁止使用GenAI,以鼓励真正的学习和实践。
面对 GenAI,我为未来的教育感到绝望。不管你喜不喜欢,我们很可能会进入一个表面学习的世界,一些学生只需点击一个按钮就能生成看起来像博士论文的报告。这将是一个令人悲伤的世界,我们将不会积累知识,而是在学习的艰苦工作中变得懒惰。这将是一个我们把别人的(GenAI 的)工作据为己有的世界。
为此,我们将对 "抄袭" 一词有一个新的定义,我们过去用来检测抄袭作品的所有方法都将失效。但是,当我们确实发现它时,对于那些伪造作品的人,以及那些允许它发展的人(例如教师、编辑和审稿人)来说,这将是令人尴尬的。
虽然 GenAI 作为一种工具,可以作为一种很好的教育 "副驾驶",但当它不知道某事的答案时,它经常会产生幻觉。例如,你知道我发明了 虚拟机监控器 吗?
如果我真的发明了 虚拟机监控器,我就会非常富有。而且,我还创造了一种完全虚构的加密方法,叫做"Aontacht" ...
而且,我们看到的幻觉的兴起,不仅仅是在学术界,政府报告也越来越倾向于使用 GenAI [ 这里]:
多年来,学术界一直存在抄袭问题,学生们基本上可以从其他来源复制,而不必用自己的话来表达。学生们有时也会抄袭彼此的作品。所有这些通常都是通过自动抄袭软件,或者通过一双能够记住以前批改过的作品的慧眼来检测到的。但是 GenAI 正在给课程作业的提交带来巨大的变化,在单个实例中,可以在不需要做任何研究、实践或评估的情况下创建一个完整的课程作业。
总的来说,你通常可以判断出完整的课程作业是由 GenAI 编写的,虽然它与主题有一些联系,但它完全偏离了随机的轨道,并且对于要求来说过于冗长。在我最近审查的一个例子中,参考文献最终看起来像是 IEEE 期刊论文中的参考文献,例如:
而且,大多数学生不可能有时间阅读这些论文,并且能够......。但最明显的迹象是,大多数参考文献要么定义得很差,要么是错误的,要么根本不存在。对于第一个:
如果我们转到 URL,我们会发现一篇完全不同的论文:
事实上,Bunz, Fisch 和 Boneh 从未写过关于 ZK-Friendly Cryptographic Hash Functions 的论文:
对于第二个参考文献:
同样,GenAI 正在产生幻觉(或者可能是故意打乱,以便可以被检测到)。现在它将 Spooner 添加到作者列表中,并删除了 Virza,同时弄错了期刊:
对于第三个参考文献:
没有关于参考文献的实际细节,这只是一个完全虚构的参考文献,指向找不到的作者,并且与创建 ZKProof 系统无关。然后:
我们有一篇根本不存在的论文:
我可以继续浏览这些参考文献,但没有一个有合理的参考文献。就我个人而言,如果我检测到课程作业的整个评估区域是由 GenAI 生成的,我会给一个 F 评分。
所以这里是我总结的应对 GenAI 的十大迹象:
你知道我发明了 虚拟机监控器 吗?
如果你有兴趣,我将有几次关于 AI 和网络安全的演讲,下一次是为博士生准备的:
SICSA 博士生会议 \ \ 我们很高兴邀请你提名 SICSA 2025 年度最佳导师。一位支持性的博士生导师可以成就……\ \ sicsaconf.org
- 原文链接: medium.com/asecuritysite...
- 登链社区 AI 助手,为大家转译优秀英文文章,如有翻译不通的地方,还请包涵~
如果觉得我的文章对您有用,请随意打赏。你的支持将鼓励我继续创作!