以防作弊，ChatGPT 遭美国教育部「拉黑」：师生禁用！
来源：FUTURE远见
选编：FUTURE | 远见 闵青云
CSDN（ID：CSDNnews） 文
上个月，弗曼大学哲学助理教授 Darren Hick 逮到一个用 ChatGPT 写论文的作弊者后，就感慨：「ChatGPT 太先进了，它肯定会（在学生中）流行起来的。」
可能是他分享的经历引起了人们的关注，也或许的确有越来越多的学生开始用 ChatGPT 来完成作业，总之本周美国纽约市教育部正式宣布：纽约市的学生和教师，无法再在教育部设备或互联网上访问 ChatGPT。
一句话概括就是：火爆全网的 ChatGPT，被纽约教育部「拉黑」了。
01 禁用理由：出于对「内容安全性和准确性」的担忧
Darren Hick 说，ChatGPT 的免费和即时，及其超强的自然语言处理能力，令很多学生动了「歪脑筋」：有关文字写作的作业，就让 ChatGPT 来完成——最可怕的是，如不仔细推敲，很难分辨出它们是由 AI 生成的还是学生自己写的。
近来，《纽约时报》组织了一批作家和教育工作者，向他们同时展示了由 ChatGPT 写作的文章和人类学生写的文章，其中包括一位四年级老师、一位专业写作辅导员、一位斯坦福大学教育教授以及一位儿童作家。而他们，都无法精准地将二者区分开来。
对此，报道记者调侃道：「能看出这是一个四年级学生写的还是新聊天机器人写的文章吗？如果你分辨不出来，不用惊讶，因为四年级老师也不能。」
或许就是基于这些事实，才令纽约教育部做出了「禁用 ChatGPT」的决定。该教育部发言人 Jenna Lyle 出面解释：「由于担心对学生学习的负面影响，以及对内容安全性和准确性的担忧，我们将限制在纽约市公立学校的网络和设备上访问 ChatGPT。」
具体来说，虽然 ChatGPT 能提供快速简便的问题答案，但纽约教育部方面认为，这样的 ChatGPT 并不能「培养批判性思维和解决问题的能力」，而这些技能对于学生「在学术上的成就和终身成功」至关重要。
不过，这并不意味着纽约教育部全盘否定了 ChatGPT 的一切。其发言人指出，如果有个别学校计划研究 ChatGPT 背后的技术，仍可以向教育部申请访问该网站。除此之外，这条禁令的范围仅限于「纽约市公立学校的网络和设备」，师生仍可以在非教育部设备或互联网上访问 ChatGPT。
目前，除了纽约教育部对 ChatGPT 发出禁令，美国当地还没有其他城市对 ChatGPT 做出类似处理。不过许多业内人士认为，纽约作为美国第一大城市，它的带头很可能会影响其他地区的决定。
02 现阶段的 ChatGPT，并非无所不能
实际上，自 OpenAI 于 2022 年 11 月发布 ChatGPT 后，它就引起了很多争议，各种事实也证明，至少现阶段的 ChatGPT 还没有传说中的那么无所不能：
12 月，Stack Overflow 称 ChatGPT 答案的正确率很低，对整个网站以及寻求正确答案的用户来说有害，宣布禁用 ChatGPT；
国内的微信也限制 ChatGPT 小程序；
甚至 OpenAI 首席执行官 Sam Altman 自己也发推表示：「ChatGPT 目前能力还非常有限，但因为在某些方面足够优秀，所以会给人留下一种误导性的伟大印象。现在依靠它来做任何重要的事情都是不妥的。」
如今教育界对 ChatGPT 的担忧及排斥也正是如此。除了其回答的准确性不能保证，担心会给学生造成误导，ChatGPT 还能利用机器学习结合过往对话，对用户提问给出类似风格且语句通顺的回答——这一功能显然容易让学生「心生邪念」，对于习惯用作业来评估学生理解和批判性思维能力的教育工作者来说，也是一个很棘手的问题。
因此，在看到越来越多利用 AI 作弊的事件后，一名普林斯顿大学计算机科学专业的学生 Edward Tian 也自发创建了一个应用程序 GPTZero，它可以正确检测文章是否由 ChatGPT 生成——据了解，GPTZero 一经上线就非常受欢迎，还一度「由于出乎意料的高流量」而崩溃。
03 「当事人」 ChatGPT 对禁令的看法
针对纽约教育部发布的这条禁令，许多人对此发表了自己的看法。
部分网友十分认同此禁令的实施意义：「习惯了别人把答案喂到嘴里，渐渐地就会失去思考能力。比方说有些短视频，看着看着会发现自己只是机械地看着，大脑其实是没有思考的，人家说什么就觉得是什么。」
但同时也有人指出，希望 ChatGPT 的存在，能「有效倒逼老师不再布置一些形式化的作业」。
一位纽约市的历史教师 Adam Stevens 也认为，限制 ChatGPT 并不是真正的解决方法，重点是要让学生学会探索值得了解的事情：「15 或 20 年前，当学生可以『在 Google 上找到答案』时，人们对谷歌也说了同样的话。」
对此，最近深陷舆论风波的马斯克也不忘煽风点火：「欢迎来到新世界，再见了家庭作业！」
有趣的是，针对这条禁令，外媒 VICE 还询问了「当事人」 ChatGPT 的看法，而它给出了较为公正的回答：「重要的是，要考虑在教育中使用 ChatGPT 的潜在风险和好处，并在做出决定之前进行仔细权衡。此外，还必须听取所有利益相关者的观点和关切，包括教育工作者、学生和家长，以便做出明智和公平的决定。」