你是否知道我发明了虚拟机监控器和学生课程作业中的幻觉？

你知道我发明了 虚拟机监控器 并在学生课程作业中出现了幻觉吗？

我们是否正在变成懒惰的学习者？

面对 GenAI，我为未来的教育感到绝望。不管你喜不喜欢，我们很可能会进入一个表面学习的世界，一些学生只需点击一个按钮就能生成看起来像博士论文的报告。这将是一个令人悲伤的世界，我们将不会积累知识，而是在学习的艰苦工作中变得懒惰。这将是一个我们把别人的（GenAI 的）工作据为己有的世界。

为此，我们将对 "抄袭" 一词有一个新的定义，我们过去用来检测抄袭作品的所有方法都将失效。但是，当我们确实发现它时，对于那些伪造作品的人，以及那些允许它发展的人（例如教师、编辑和审稿人）来说，这将是令人尴尬的。

虽然 GenAI 作为一种工具，可以作为一种很好的教育 "副驾驶"，但当它不知道某事的答案时，它经常会产生幻觉。例如，你知道我发明了 虚拟机监控器 吗？

如果我真的发明了 虚拟机监控器，我就会非常富有。而且，我还创造了一种完全虚构的加密方法，叫做"Aontacht" ...

而且，我们看到的幻觉的兴起，不仅仅是在学术界，政府报告也越来越倾向于使用 GenAI [ 这里]：

GenAI 报告

多年来，学术界一直存在抄袭问题，学生们基本上可以从其他来源复制，而不必用自己的话来表达。学生们有时也会抄袭彼此的作品。所有这些通常都是通过自动抄袭软件，或者通过一双能够记住以前批改过的作品的慧眼来检测到的。但是 GenAI 正在给课程作业的提交带来巨大的变化，在单个实例中，可以在不需要做任何研究、实践或评估的情况下创建一个完整的课程作业。

总的来说，你通常可以判断出完整的课程作业是由 GenAI 编写的，虽然它与主题有一些联系，但它完全偏离了随机的轨道，并且对于要求来说过于冗长。在我最近审查的一个例子中，参考文献最终看起来像是 IEEE 期刊论文中的参考文献，例如：

而且，大多数学生不可能有时间阅读这些论文，并且能够......。但最明显的迹象是，大多数参考文献要么定义得很差，要么是错误的，要么根本不存在。对于第一个：

如果我们转到 URL，我们会发现一篇完全不同的论文：

事实上，Bunz, Fisch 和 Boneh 从未写过关于 ZK-Friendly Cryptographic Hash Functions 的论文：

对于第二个参考文献：

同样，GenAI 正在产生幻觉（或者可能是故意打乱，以便可以被检测到）。现在它将 Spooner 添加到作者列表中，并删除了 Virza，同时弄错了期刊：

对于第三个参考文献：

没有关于参考文献的实际细节，这只是一个完全虚构的参考文献，指向找不到的作者，并且与创建 ZKProof 系统无关。然后：

我们有一篇根本不存在的论文：

我可以继续浏览这些参考文献，但没有一个有合理的参考文献。就我个人而言，如果我检测到课程作业的整个评估区域是由 GenAI 生成的，我会给一个 F 评分。

我总结的 GenAI 的十大迹象

所以这里是我总结的应对 GenAI 的十大迹象：

• 缺乏任何人类风格，只是通用的内容胡乱堆砌。
• 大量的项目符号。不管你喜不喜欢，GenAI 喜欢总结事物，并且经常以大量的项目符号结尾。在大多数学术写作中，项目符号的使用应保持在最低限度（因为读者通常不阅读项目符号）。在我见过的一些 GenAI 来源的课程作业中，我们可以发送一个充满项目符号的完整文献综述。
• 缺乏整合的参考文献。
• 跑题的讨论。
• 注意大段的通用文本。
• 确保课程作业中有一个实践要素，以及某种形式的实践评估（例如在代码上运行测试）。
• 在测试中，不允许使用任何 GenAI。如果你每次都依赖 ChatGPT，那么学习东西有什么意义呢？
• 得到一些看起来和读起来像 IEEE Transactions 论文的东西，但实际上是大一学生的课程作业。
• 不断引用的内容远远超出了学生的理解水平。
• 大段的文本，没有新的中断或图表，并且文本中缺乏图表的整合。

结论

你知道我发明了 虚拟机监控器 吗？

如果你有兴趣，我将有几次关于 AI 和网络安全的演讲，下一次是为博士生准备的：

SICSA 博士生会议 \ \ 我们很高兴邀请你提名 SICSA 2025 年度最佳导师。一位支持性的博士生导师可以成就……\ \ sicsaconf.org

• 原文链接： medium.com/asecuritysite...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～