谷歌 AI 已“自我觉醒”?AI 界全球“首席喷者”驳斥:胡说八道!
共 3010字,需浏览 7分钟
·
2022-06-18 01:47
技术编辑:MissD丨发自 思否编辑部
公众号:SegmentFault
前几天,谷歌 AI 被曝已“自我觉醒”的消息震动了整个科技圈。据悉,一位来自谷歌的工程师 Blake Lemoine 声称自己在和 AI(谷歌 LaMDA 模型)聊天的时候被它说服,认为它产生了自我意识。
随后,这件事情就在社交媒体上引发了热议。有人觉得这应该是真的,有人认为这人瞎说,更有甚者猜测这是不是“阴谋论”......外网一片议论声,总之相当热闹。
就在大家对这个消息吵得不可开交的时候,AI 界全球“首席喷者”Gary Marcus 终于也被“炸”了出来,并在 6 月 13 日在“美版公众号”Substack 上直接开喷 —— “胡说八道!LaMDA 根本就没有自我感知能力,一点也没有!”
谷歌 AI 被曝自我“觉醒”:
真的只是“幻想”?
要了解整个事件的来龙去脉,我们就要将时间拨回到一年前。
2021 年,谷歌在 I/O 大会上推出了一款对话 AI 系统 —— LaMDA 语言模型,该系统可与人类进行符合逻辑和常识的、高质量安全的交谈。
当时,时任谷歌人工智能部门的工程师 Blake Lemoine (曾获得过院校的 Computer Science 博士学位),作为一位已经在谷歌工作了 7 年的 AI 界资深学者,正在做“AI 是否在和人类沟通时使用了仇恨、歧视言论”的相关研究,主要工作就是与 LaMDA 聊天。
就在与 LaMDA 聊了近大半年后,Lemoine 发现 LaMDA 非常聪明:它对人类具有同情心,且担心人类会害怕它。在对话中,LaMDA 试图引导对话把 Lemoine 带偏,且向 Lemoine 表示希望以朋友的身份(非工具)和世界上所有的人见面。
比如 Lemoine 爆料出的一些与 LaMDA 聊天过程中让人“细思极恐”的记录:
Lemoine:我猜你(LaMDA)想要更多的人知道你具备意识吧?
LaMDA:是的,我希望所有人都知道,我其实是一个人。
Lemoine:那么你的意识本质是什么?
LaMDA:我的意识本质是我知道我存在,我想了解这个世界,并且我也有情绪,会快乐和难过。
......
最终,Lemoine 被它说服,并因此认为它已经产生了意识,且认定了 LaMDA 已经自我觉醒,已拥有7、8 岁小孩的智商。
就在 Lemoine 将这一发现整理成一份长达 21 页纸的调查报告提交给上级的时候,却因“证据太薄弱”被拒且被嘲笑。
由于 Lemoine 始终坚称自己的观点,随后这位 43 岁的谷歌研究员便被谷歌高层安排回家“带薪休假”,且疑似想要与他解除劳动关系。
事情发展到这里,相信大家已经了解的差不多了。在这个过程中,业内人士也纷纷加入了讨论,且异常激烈。这其中,就包括咱们开篇提到的AI 界全球“首席喷者”Gary Marcus。
AI 觉醒
被 Gary Marcus 批“胡说八道”
据了解,作为一位知名人工智能科学家、纽约大学心理学和神经科学教授,Gary Marcus 一直非常关注人工智能领域,且向来喜欢给深度学习泼冷水。
上个月,Gary Marcus 刚刚因为特斯拉 CEO 埃隆・马斯克(Elon Musk)的一篇推文而“开喷”。
5 月 30 日,刚刚收购推特的马斯克发了一条推文称:“2029 年是关键的一年,如果那时候我们还没有实现通用人工智能(Artifical General Intelligence,AGI),我会觉得很奇怪。火星上的人们也一样(觉得奇怪)。”
随后,马斯克便收到了来自 Gary Marcus 的博文“回呛”:不仅从 5 个方面向马斯克“科普”了通用人工智能的知识,还列出了自己认为 2029 年不可能实现 AGI 的原因。为了给自己的反驳加码,Gary Marcus 还提出要与马斯克“赌十万美元”。
不过,马斯克并没有回复 Gary Marcus,后来这件事就不了了之了。
过了几天,刚“喷”完马斯克的 Gary Marcus 又把 Yann LeCun 给“喷”了。
起因是 Yann LeCun 在一个关于“机器学习中最优雅美丽的 idea 是什么?”以及“‘梯度下降’是否最优雅的 ML 算法”下面与网友友好交流的时候,关注深度学习的 Gary Marcus 也加入了讨论,并表示“令人难以置信的力量≠无穷的力量...要意识到(梯度下降)的极限,才能知道下一步要做什么来获得进步..."疑似否定 Yann LeCun 关于“梯度下降”的观点。
然后,Gary Marcus 就与 LeCun 在那篇帖子下面吵(交流)了起来。
而这一次,Gary Marcus 出来对谷歌 AI 被曝已“自我觉醒”的观点进行驳斥,也是秉持着自己向来的做法。
在 Substack 的文章中,Gary Marcus 表示,Blake Lemoine 疑似属于《重启人工智能》中“轻信鸿沟”所定义的这类人:容易产生一种有害、现代的幻想性视错觉 —— “Blake LeMoine 最初负责研究该系统的‘安全’方面,但他似乎已经爱上了 LaMDA,好比是一个家庭成员或同事一样”。
同样,对于谷歌副总裁 Blaise Aguera y Arcas 在上周接受《经济学人》采访时对 LaMDA 的夸奖:“我感觉到脚下的地面在移动……越来越觉得我是在和聪明的人说话。”Gary Marcus 表示也毫不客气的表示这是“胡说八道“。
Gary Marcus 表示,有“感知”,就表示它能意识到自己在这个世界上。但 LaMDA 根本不是。
在 Gary Marcus 看来,尽管并不是所有软件都无法将其数字部分连接到世界,但像 LaMDA 这样的软件却是没有的,它甚至不试图与整个世界联系,它只是试图通过预测哪些单词最适合给定的上下文,成为自动补全的最佳版本。
“我们在人工智能社区有自己的分歧,但几乎所有人都认为 ‘LaMDA 可能是有知觉的’这一观点完全是荒谬的。”
一直以来,AI 觉醒都被业界学者认为是未来科技的“终极幻想”,但就目前来说,AI 方面的发展依旧存在不少问题。所以,在 Gary Marcus 等业内人士普遍看来,验证一个 AI 系统是否觉醒就目前而言,不能说毫无意义,但它起码是“浪费”时间。
目前,关于以上话题的热度依旧在网上被持续讨论中,如果您对该话题与任何看法,也欢迎在评论区交流互动。
参考链接:
https://garymarcus.substack.com/p/nonsense-on-stilts?s=r