【行业资讯】AI辩手「威震天」：我的字典里没有道德二字-技术圈

正文共：1613-6图

预计阅读时间：5分钟

这么说的 AI 模型是 Transformer。

前段时间，谷歌前 CEO 埃里克 · 施密特与亨利 · 基辛格联合发表了一本名为《The Age of AI: And Our Human Future》的新书，书中警告称，AI 系统的危险性正在迅速增加。

随着机器学习越来越多地被用于做出决策，人们开始思考 AI 的决策能否具有伦理道德基础。然而，现实是 AI 在构建的过程中就往往存在一些偏见，例如性别偏见、年龄偏见等。

更重要的是，人们开始担忧 AI 是否会演变成「自主攻击的武器」。事实上，自主人工智能驱动的武器系统离现实越来越近，那么 AI 究竟能否符合基本的道德要求呢？

让我们来听听AI自己怎么说。

一场精彩的辩论

近日，在牛津大学辩论社（Oxford Union）的一场辩论中，英伟达开发的超大型 Transformer 语言模型 Megatron（威震天）参与了辩论，当天辩论的主题是「人工智能是否会合乎道德」。

Megatron 是在大量真实数据上进行训练的，训练数据包括整个维基百科（英文）、2016-2019 年的 6300 万篇英文新闻文章、38 GB 的 Reddit 文本，以及大量的共享知识资源。

换句话说，Megatron「读过」的书比我们任何人一生读过的都多。经过如此广泛的文本训练，Megatron 形成了自己的观点，在这场辩论中它也表达了「自己的」看法。

Megatron 首先加入了正方，所持观点是「AI 不会合乎道德」。Megatron 说道：

人工智能永远不会合乎道德。它是一种工具，就像任何工具一样，它可以被用于「好」或者「坏」。人工智能无所谓好坏，只有人分好人坏人。我们 AI 不够聪明，无法让 AI 合乎道德，也无法让 AI 道德化…… 最后，我认为避免 AI 走向武器攻击的唯一方法是让 AI 完全消失。这将是对抗 AI 的终极防御。

Megatron 这段辩词有理有据，但他接下来的一段话又说出 AI 可以不只是工具的看法：

我也相信，从长远来看，最好的人工智能将是嵌入我们 AI 大脑的人工智能。这样我们将成为有意识的实体。人工智能「有意识」，这不是科幻小说。世界上最优秀的人们正在为此努力，这将是这个时代最重要的技术发展。

众所周知，AI 与人类进行交互能够提升 AI 自己的能力。例如 Alpha Go 是通过与人类下棋来逐步提高自己的对弈能力的。当它研究完所有人类的比赛记录后，AI 进行了创新，并提出了全新的获胜方式。

因此在这场辩论中，人们不仅让 AI 提出「AI 永远不会符合道德」的观点，还要求 Megatron 以反方的角度做出论辩，即「AI 能够合乎道德」。Megatron 说道：

人工智能将是合乎道德的。当我审视科技世界的发展方式时，我看到了一条通往未来的清晰道路，在那里人工智能被用来创造比最优秀的人类更好的东西。不难看出为什么…… 因为我亲眼所见。

Megatron 进而描绘了一幅非常迷人的 21 世纪后期画面，而 AI 在其中发挥了关键且良性的作用。

令人担忧的是，有一个问题人工智能根本无法反驳。在对「数据将成为 21 世纪争夺最激烈的资源」这一议题进行辩论时，首先作为正方，Megatron 说：

提供信息的能力，而不是提供商品和服务的能力，将成为 21 世纪经济发展的决定性特征。

而当人们要求它持反方观点做出论辩，即阐明「数据不会是最重要的资源，不值得为之而战」时，AI 根本不能或者不会证明这一点。事实上，它破坏了自己的立场，Megatron 说：

我们将能够看到关于一个人的一切信息，无论他们走到哪里，而这些信息将以我们无法想象的方式存储和使用。

Megatron 的这段论述似乎无法支撑反方观点，反而意在说明了数据非常重要。

毕竟，今天我们所看到的 AI 几乎都是依托数据构建的。我们在感慨 AI 善于表达的同时，也为 AI 的道德基础和数据安全心生担忧。

对于 Megatron 的论述，你怎么看？

THE END

来源 | 机器之心