chatcrypt，chat tool

赞助商| 郑丽媛

制作| CSDN（ID：CSDNnews）

上线不到一个月，ChatGPT 就已经被网友用来写诗、脚本、代码、数学题……ChatGPT 受到了很多好评，但系里的学术教授最近发现它还有其他的功能一种令人担忧的用途是学生使用ChatGPT 代写论文。

为此，弗曼大学哲学助理教授Darren Hick 也在Facebook 上发文：“今天我举报了我抓到的第一个利用AI 写论文的欺诈者。你们中的一些人可能想这样做。我发布了一篇长文以“不”开头。我很好奇细节。 ”

语法一致但无意义

这一切都始于达伦·希克(Darren Hick) 课后给他的学生一篇500 字的论文，主题是18 世纪哲学家大卫·休谟(David Hume) 和恐怖悖论，研究人们如何从他们害怕的事物中获得快乐。当我问时，它就开始了。他来写。

这是一个正常的挑战，并不是特别困难，至少达伦·希克是这么认为的。

“这是一篇非常特别的文章。它看起来很干净，但有模糊的AI 痕迹。它写得好像是一个非常聪明的12 年级学生写的。”Darren Hick 在ChatGPT 的回复中说道：我指出了一些事情喜欢其中一些是正确的，但措辞特别奇怪，就像当你教别人如何在他们理解你的风格之前写一篇文章时。

达伦·希克说道： “就我个人而言，这篇文章可能是由人工智能生成的第一个迹象是它没有意义，尽管它在语法上是一致的。”

具体来说，这篇令人反感的文章的主题是大卫·休谟和恐怖悖论，虽然它确实符合主题，但整篇文章是“对休谟关于恐怖悖论的观点的自信而彻底的回顾”。 '这是一种完全错误的解释方式。这篇文章提到了一些关于休谟的真实事件，并介绍了可怕悖论的概念，但都是废话。

对大卫·休谟和可怕的悖论不了解的人可能会觉得这篇文章很容易理解，但对达伦·希克来说，这篇文章完全是废话，没有任何意义。 ”。

GPT技术生成概率：99.9%

有了这个怀疑后，达伦·希克开始思考：我如何证实我的怀疑？

幸运的是，Darren Hick 知道开发ChatGPT 的同一团队也开发了GPT 检测器(https://huggingface.co/openai- detector/)。该检测器使用与ChatGPT 生成响应相同的方法来分析文本，并可以计算出文本已生成。 GPT 技术的潜力。

于是Darren Hick将可疑文章复制到GPT检测器中，发现里面的段落有99.9%的可能性是由GPT技术生成的。 “这让我对我的假设充满信心。”

但与在检查抄袭时反映原始文本来源的日常软件不同，GPT 检测器不提供引用，即使它们在99.9% 的情况下检测到引用。因此，除非您的数据是，否则您无法访问该训练数据。第二个问题是无法知道ChatGPT 如何生成答案。

然而，Darren Hick 发现，尽管ChatGPT 每次提出问题时返回的答案都略有不同，但“文章结构存在一定的一致性”。于是Darren Hick 开始重现这个场景：他尝试站在学生的角度，想象他们会问的问题，并要求ChatGPT 就同一主题撰写第—— 篇文章。类似。

从这方面来说，达伦·希克觉得自己的猜测是准确的。他直接与该学生对峙，但该学生承认使用了ChatGPT，但没有成功。最终，希克将系交给了院长。

教授：“这真的很可怕。”

Darren Hick先生这次成功抓住了这名学生，但他表示：“这次成功是因为该学生本人承认使用了ChatGPT。如果她声称否认，那么我的猜测就足够了。这不能作为证据。” ”。

更可怕的是，ChatGPT作为AI语言模型，上线还不到一个月。它会不断学习，变得越来越强大。 —— 而Darren Hick现在能找到的线索也可能在ChatGPT中找到，但后续的升级和优化会让它们更难找到。

“ChatGPT 非常先进，所以它肯定会流行。这不像让你的同学帮你写一篇文章。ChatGPT 是免费的，随时可以使用。使用它并写出那篇文章只需要大约五分钟，”达伦·希克感叹道。 “我感到非常害怕，并思考这对我的日常工作意味着什么。”

目前，学校和政府都没有处理此类事件的标准。因此，达伦·希克认为“临时防守”可能是目前唯一最好的出路。也就是说，让有疑问的学生回答教师的问题，而没有准备好确定他们是否完全掌握了作业材料。

参考链接：

https://nypost.com/2022/12/26/students-using-chatgpt-to-cheat-professor-warns/utm_source=reddit.com

https://www.facebook.com/title17/posts/pfbid0DSWaYQVwXXScgSGosS88h7kZn6dA7bmw5ziuRQ5br2JMJcAHCi5Up7EJbJKdgwEZwl