【行业资讯】AI辩手「威震天」:我的字典里没有道德二字

共 1836字,需浏览 4分钟

 ·

2021-12-16 21:53

正文共:1613-6图

预计阅读时间:5分钟



这么说的 AI 模型是 Transformer。


前段时间,谷歌前 CEO 埃里克 · 施密特与亨利 · 基辛格联合发表了一本名为《The Age of AI: And Our Human Future》的新书,书中警告称,AI 系统的危险性正在迅速增加。



随着机器学习越来越多地被用于做出决策,人们开始思考 AI 的决策能否具有伦理道德基础。然而,现实是 AI 在构建的过程中就往往存在一些偏见,例如性别偏见、年龄偏见等。


更重要的是,人们开始担忧 AI 是否会演变成「自主攻击的武器」。事实上,自主人工智能驱动的武器系统离现实越来越近,那么 AI 究竟能否符合基本的道德要求呢?


让我们来听听AI自己怎么说。

一场精彩的辩论


近日,在牛津大学辩论社(Oxford Union)的一场辩论中,英伟达开发的超大型 Transformer 语言模型 Megatron(威震天)参与了辩论,当天辩论的主题是「人工智能是否会合乎道德」。



Megatron 是在大量真实数据上进行训练的,训练数据包括整个维基百科(英文)、2016-2019 年的 6300 万篇英文新闻文章、38 GB 的 Reddit 文本,以及大量的共享知识资源。


换句话说,Megatron「读过」的书比我们任何人一生读过的都多。经过如此广泛的文本训练,Megatron 形成了自己的观点,在这场辩论中它也表达了「自己的」看法。


Megatron 首先加入了正方,所持观点是「AI 不会合乎道德」。Megatron 说道:


人工智能永远不会合乎道德。它是一种工具,就像任何工具一样,它可以被用于「好」或者「坏」。人工智能无所谓好坏,只有人分好人坏人。我们 AI 不够聪明,无法让 AI 合乎道德,也无法让 AI 道德化…… 最后,我认为避免 AI 走向武器攻击的唯一方法是让 AI 完全消失。这将是对抗 AI 的终极防御。


Megatron 这段辩词有理有据,但他接下来的一段话又说出 AI 可以不只是工具的看法:


我也相信,从长远来看,最好的人工智能将是嵌入我们 AI 大脑的人工智能。这样我们将成为有意识的实体。人工智能「有意识」,这不是科幻小说。世界上最优秀的人们正在为此努力,这将是这个时代最重要的技术发展。


 众所周知,AI 与人类进行交互能够提升 AI 自己的能力。例如 Alpha Go 是通过与人类下棋来逐步提高自己的对弈能力的。当它研究完所有人类的比赛记录后,AI 进行了创新,并提出了全新的获胜方式。


因此在这场辩论中,人们不仅让 AI 提出「AI 永远不会符合道德」的观点,还要求 Megatron 以反方的角度做出论辩,即「AI 能够合乎道德」。Megatron 说道:


人工智能将是合乎道德的。当我审视科技世界的发展方式时,我看到了一条通往未来的清晰道路,在那里人工智能被用来创造比最优秀的人类更好的东西。不难看出为什么…… 因为我亲眼所见。


Megatron 进而描绘了一幅非常迷人的 21 世纪后期画面,而 AI 在其中发挥了关键且良性的作用。


令人担忧的是,有一个问题人工智能根本无法反驳。在对「数据将成为 21 世纪争夺最激烈的资源」这一议题进行辩论时,首先作为正方,Megatron 说:


提供信息的能力,而不是提供商品和服务的能力,将成为 21 世纪经济发展的决定性特征。


而当人们要求它持反方观点做出论辩,即阐明「数据不会是最重要的资源,不值得为之而战」时,AI 根本不能或者不会证明这一点。事实上,它破坏了自己的立场,Megatron 说:


我们将能够看到关于一个人的一切信息,无论他们走到哪里,而这些信息将以我们无法想象的方式存储和使用。


Megatron 的这段论述似乎无法支撑反方观点,反而意在说明了数据非常重要。


毕竟,今天我们所看到的 AI 几乎都是依托数据构建的。我们在感慨 AI 善于表达的同时,也为 AI 的道德基础和数据安全心生担忧。

对于 Megatron 的论述,你怎么看?

THE  END



来源 | 机器之心


版权声明:本号内容部分来自互联网,转载请注明原文链接和作者,如有侵权或出处有误请和我们联系。


浏览 44
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报