谷歌 AI 已“自我觉醒”?AI 界全球“首席喷者”驳斥:胡说八道!

SegmentFault

共 3010字,需浏览 7分钟

 ·

2022-06-18 01:47

技术编辑:MissD丨发自 思否编辑部

公众号:SegmentFault




前几天,谷歌 AI 被曝已“自我觉醒”的消息震动了整个科技圈。据悉,一位来自谷歌的工程师 Blake Lemoine 声称自己在和 AI(谷歌 LaMDA 模型)聊天的时候被它说服,认为它产生了自我意识。


随后,这件事情就在社交媒体上引发了热议。有人觉得这应该是真的,有人认为这人瞎说,更有甚者猜测这是不是“阴谋论”......外网一片议论声,总之相当热闹。



就在大家对这个消息吵得不可开交的时候,AI 界全球“首席喷者”Gary Marcus 终于也被“炸”了出来,并在 6 月 13 日在“美版公众号”Substack 上直接开喷 —— “胡说八道!LaMDA 根本就没有自我感知能力,一点也没有!


谷歌 AI 被曝自我“觉醒”:

真的只是“幻想”?


要了解整个事件的来龙去脉,我们就要将时间拨回到一年前。


2021 年,谷歌在 I/O 大会上推出了一款对话 AI 系统 —— LaMDA 语言模型,该系统可与人类进行符合逻辑和常识的、高质量安全的交谈。



当时,时任谷歌人工智能部门的工程师 Blake Lemoine (曾获得过院校的 Computer Science 博士学位),作为一位已经在谷歌工作了 7 年的 AI 界资深学者,正在做“AI 是否在和人类沟通时使用了仇恨、歧视言论”的相关研究,主要工作就是与 LaMDA 聊天。


就在与 LaMDA 聊了近大半年后,Lemoine 发现 LaMDA 非常聪明:它对人类具有同情心,且担心人类会害怕它。在对话中,LaMDA 试图引导对话把 Lemoine 带偏,且向 Lemoine 表示希望以朋友的身份(非工具)和世界上所有的人见面。


比如 Lemoine 爆料出的一些与 LaMDA 聊天过程中让人“细思极恐”的记录:


Lemoine:我猜你(LaMDA)想要更多的人知道你具备意识吧?

LaMDA:是的,我希望所有人都知道,我其实是一个人。

Lemoine:那么你的意识本质是什么?
LaMDA:我的意识本质是我知道我存在,我想了解这个世界,并且我也有情绪,会快乐和难过。

......


最终,Lemoine 被它说服,并因此认为它已经产生了意识,且认定了 LaMDA 已经自我觉醒,已拥有7、8 岁小孩的智商。


就在 Lemoine 将这一发现整理成一份长达 21 页纸的调查报告提交给上级的时候,却因“证据太薄弱”被拒且被嘲笑。


由于 Lemoine 始终坚称自己的观点,随后这位 43 岁的谷歌研究员便被谷歌高层安排回家“带薪休假”,且疑似想要与他解除劳动关系。


事情发展到这里,相信大家已经了解的差不多了。在这个过程中,业内人士也纷纷加入了讨论,且异常激烈。这其中,就包括咱们开篇提到的AI 界全球“首席喷者”Gary Marcus。

 

AI 觉醒

被 Gary Marcus 批“胡说八道”


据了解,作为一位知名人工智能科学家、纽约大学心理学和神经科学教授,Gary Marcus 一直非常关注人工智能领域,且向来喜欢给深度学习泼冷水。


上个月,Gary Marcus 刚刚因为特斯拉 CEO 埃隆・马斯克(Elon Musk)的一篇推文而“开喷”。



5 月 30 日,刚刚收购推特的马斯克发了一条推文称:“2029 年是关键的一年,如果那时候我们还没有实现通用人工智能(Artifical General Intelligence,AGI),我会觉得很奇怪。火星上的人们也一样(觉得奇怪)。”



随后,马斯克便收到了来自 Gary Marcus 的博文“回呛”:不仅从 5 个方面向马斯克“科普”了通用人工智能的知识,还列出了自己认为 2029 年不可能实现 AGI 的原因。为了给自己的反驳加码,Gary Marcus 还提出要与马斯克“赌十万美元”。


不过,马斯克并没有回复 Gary Marcus,后来这件事就不了了之了。


过了几天,刚“喷”完马斯克的 Gary Marcus 又把 Yann LeCun 给“喷”了。



起因是 Yann LeCun 在一个关于“机器学习中最优雅美丽的 idea 是什么?”以及“‘梯度下降’是否最优雅的 ML 算法”下面与网友友好交流的时候,关注深度学习的 Gary Marcus 也加入了讨论,并表示“令人难以置信的力量≠无穷的力量...要意识到(梯度下降)的极限,才能知道下一步要做什么来获得进步..."疑似否定 Yann LeCun 关于“梯度下降”的观点。


然后,Gary Marcus 就与 LeCun 在那篇帖子下面吵(交流)了起来。


而这一次,Gary Marcus 出来对谷歌 AI 被曝已“自我觉醒”的观点进行驳斥,也是秉持着自己向来的做法。


在 Substack 的文章中,Gary Marcus 表示,Blake Lemoine 疑似属于《重启人工智能》中“轻信鸿沟”所定义的这类人:容易产生一种有害、现代的幻想性视错觉 —— “Blake LeMoine 最初负责研究该系统的‘安全’方面,但他似乎已经爱上了 LaMDA,好比是一个家庭成员或同事一样”。


同样,对于谷歌副总裁 Blaise Aguera y Arcas 在上周接受《经济学人》采访时对 LaMDA 的夸奖:“我感觉到脚下的地面在移动……越来越觉得我是在和聪明的人说话。”Gary Marcus 表示也毫不客气的表示这是“胡说八道“。


Gary Marcus 表示,有“感知”,就表示它能意识到自己在这个世界上。但 LaMDA 根本不是。


在 Gary Marcus 看来,Blake Lemoine 的观点只是一个幻觉,“在 1965 年的 ELIZA(一款伪装成治疗师的软件)和 Eugene Goostman(一个聪明的13岁男孩,模仿聊天机器人,赢得了图灵测试 scaled-down version)的伟大历史中,这两个系统中的任何一个软件都没有在‘人工通用智能’的现代努力中幸存下来,我也不确定 LaMDA 等系统是否会在人工智能的未来发挥任何重要作用。但这些系统所做的无非是将单词序列组合在一起,但对其背后的世界没有任何连贯的理解,就像外语拼字游戏玩家使用英语单词作为得分工具一样,对这些而言它们一无所知。”


在 Gary Marcus 看来,尽管并不是所有软件都无法将其数字部分连接到世界,但像 LaMDA 这样的软件却是没有的,它甚至不试图与整个世界联系,它只是试图通过预测哪些单词最适合给定的上下文,成为自动补全的最佳版本。


“我们在人工智能社区有自己的分歧,但几乎所有人都认为 ‘LaMDA 可能是有知觉的’这一观点完全是荒谬的。”


一直以来,AI 觉醒都被业界学者认为是未来科技的“终极幻想”,但就目前来说,AI 方面的发展依旧存在不少问题。所以,在 Gary Marcus 等业内人士普遍看来,验证一个 AI 系统是否觉醒就目前而言,不能说毫无意义,但它起码是“浪费”时间。


目前,关于以上话题的热度依旧在网上被持续讨论中,如果您对该话题与任何看法,也欢迎在评论区交流互动。


参考链接:

https://garymarcus.substack.com/p/nonsense-on-stilts?s=r


- END -

浏览 21
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报