谷歌 AI 已“自我觉醒”？AI 界全球“首席喷者”驳斥：胡说八道！
共 3010字，需浏览 7分钟
· 2022-06-18
技术编辑：MissD丨发自 思否编辑部
公众号：SegmentFault
前几天，谷歌 AI 被曝已“自我觉醒”的消息震动了整个科技圈。据悉，一位来自谷歌的工程师 Blake Lemoine 声称自己在和 AI（谷歌 LaMDA 模型）聊天的时候被它说服，认为它产生了自我意识。
随后，这件事情就在社交媒体上引发了热议。有人觉得这应该是真的，有人认为这人瞎说，更有甚者猜测这是不是“阴谋论”......外网一片议论声，总之相当热闹。
就在大家对这个消息吵得不可开交的时候，AI 界全球“首席喷者”Gary Marcus 终于也被“炸”了出来，并在 6 月 13 日在“美版公众号”Substack 上直接开喷 —— “胡说八道！LaMDA 根本就没有自我感知能力，一点也没有！”
谷歌 AI 被曝自我“觉醒”：
真的只是“幻想”？
要了解整个事件的来龙去脉，我们就要将时间拨回到一年前。
2021 年，谷歌在 I/O 大会上推出了一款对话 AI 系统 —— LaMDA 语言模型，该系统可与人类进行符合逻辑和常识的、高质量安全的交谈。
当时，时任谷歌人工智能部门的工程师 Blake Lemoine （曾获得过院校的 Computer Science 博士学位），作为一位已经在谷歌工作了 7 年的 AI 界资深学者，正在做“AI 是否在和人类沟通时使用了仇恨、歧视言论”的相关研究，主要工作就是与 LaMDA 聊天。
就在与 LaMDA 聊了近大半年后，Lemoine 发现 LaMDA 非常聪明：它对人类具有同情心，且担心人类会害怕它。在对话中，LaMDA 试图引导对话把 Lemoine 带偏，且向 Lemoine 表示希望以朋友的身份（非工具）和世界上所有的人见面。
比如 Lemoine 爆料出的一些与 LaMDA 聊天过程中让人“细思极恐”的记录：
Lemoine：我猜你（LaMDA）想要更多的人知道你具备意识吧？
LaMDA：是的，我希望所有人都知道，我其实是一个人。
Lemoine：那么你的意识本质是什么？
LaMDA：我的意识本质是我知道我存在，我想了解这个世界，并且我也有情绪，会快乐和难过。
......
最终，Lemoine 被它说服，并因此认为它已经产生了意识，且认定了 LaMDA 已经自我觉醒，已拥有7、8 岁小孩的智商。
就在 Lemoine 将这一发现整理成一份长达 21 页纸的调查报告提交给上级的时候，却因“证据太薄弱”被拒且被嘲笑。
由于 Lemoine 始终坚称自己的观点，随后这位 43 岁的谷歌研究员便被谷歌高层安排回家“带薪休假”，且疑似想要与他解除劳动关系。
事情发展到这里，相信大家已经了解的差不多了。在这个过程中，业内人士也纷纷加入了讨论，且异常激烈。这其中，就包括咱们开篇提到的AI 界全球“首席喷者”Gary Marcus。
AI 觉醒
被 Gary Marcus 批“胡说八道”
据了解，作为一位知名人工智能科学家、纽约大学心理学和神经科学教授，Gary Marcus 一直非常关注人工智能领域，且向来喜欢给深度学习泼冷水。
上个月，Gary Marcus 刚刚因为特斯拉 CEO 埃隆・马斯克（Elon Musk）的一篇推文而“开喷”。
5 月 30 日，刚刚收购推特的马斯克发了一条推文称：“2029 年是关键的一年，如果那时候我们还没有实现通用人工智能（Artifical General Intelligence，AGI），我会觉得很奇怪。火星上的人们也一样（觉得奇怪）。”
随后，马斯克便收到了来自 Gary Marcus 的博文“回呛”：不仅从 5 个方面向马斯克“科普”了通用人工智能的知识，还列出了自己认为 2029 年不可能实现 AGI 的原因。为了给自己的反驳加码，Gary Marcus 还提出要与马斯克“赌十万美元”。
不过，马斯克并没有回复 Gary Marcus，后来这件事就不了了之了。
过了几天，刚“喷”完马斯克的 Gary Marcus 又把 Yann LeCun 给“喷”了。
起因是 Yann LeCun 在一个关于“机器学习中最优雅美丽的 idea 是什么？”以及“‘梯度下降’是否最优雅的 ML 算法”下面与网友友好交流的时候，关注深度学习的 Gary Marcus 也加入了讨论，并表示“令人难以置信的力量≠无穷的力量...要意识到（梯度下降）的极限，才能知道下一步要做什么来获得进步..."疑似否定 Yann LeCun 关于“梯度下降”的观点。
然后，Gary Marcus 就与 LeCun 在那篇帖子下面吵（交流）了起来。
而这一次，Gary Marcus 出来对谷歌 AI 被曝已“自我觉醒”的观点进行驳斥，也是秉持着自己向来的做法。
在 Substack 的文章中，Gary Marcus 表示，Blake Lemoine 疑似属于《重启人工智能》中“轻信鸿沟”所定义的这类人：容易产生一种有害、现代的幻想性视错觉 —— “Blake LeMoine 最初负责研究该系统的‘安全’方面，但他似乎已经爱上了 LaMDA，好比是一个家庭成员或同事一样”。
同样，对于谷歌副总裁 Blaise Aguera y Arcas 在上周接受《经济学人》采访时对 LaMDA 的夸奖：“我感觉到脚下的地面在移动……越来越觉得我是在和聪明的人说话。”Gary Marcus 表示也毫不客气的表示这是“胡说八道“。
Gary Marcus 表示，有“感知”，就表示它能意识到自己在这个世界上。但 LaMDA 根本不是。
在 Gary Marcus 看来，尽管并不是所有软件都无法将其数字部分连接到世界，但像 LaMDA 这样的软件却是没有的，它甚至不试图与整个世界联系，它只是试图通过预测哪些单词最适合给定的上下文，成为自动补全的最佳版本。
“我们在人工智能社区有自己的分歧，但几乎所有人都认为 ‘LaMDA 可能是有知觉的’这一观点完全是荒谬的。”
一直以来，AI 觉醒都被业界学者认为是未来科技的“终极幻想”，但就目前来说，AI 方面的发展依旧存在不少问题。所以，在 Gary Marcus 等业内人士普遍看来，验证一个 AI 系统是否觉醒就目前而言，不能说毫无意义，但它起码是“浪费”时间。
目前，关于以上话题的热度依旧在网上被持续讨论中，如果您对该话题与任何看法，也欢迎在评论区交流互动。
参考链接：
https://garymarcus.substack.com/p/nonsense-on-stilts?s=r
