对话微软 & OpenAI CEO：人工智能对抗赛的黎明时分
共 6919字，需浏览 14分钟
·
2023-08-31 16:46
大数据文摘出品
在过去很长时间，微软一直是家喻户晓的品牌，三十多年来，它利用Windows、Word、Excel、PowerPoint等生产力工具，彻底改变了我们的工作方式，这些工具让这家公司成为“大科技”的代名词。
现在微软通过对OpenAI的巨额投资狠狠的抓住了人工智能革命的前沿。微软现在是OpenAI的主要商业合作伙伴，通过提供高性能的服务器和巨额资金，换取了使用ChatGPT的权利，从而为公司内一些原本陷入停滞的产品，特别是搜索引擎（bing），注入了新活力。当然，这个过程也有其不尽如人意的地方。
YouTube地址：https://www.youtube.com/watch?v=6ydFDwv-n8w
近日，彭博社在《The Circuit》栏目中，与微软CEO 萨蒂亚（Satya Nadella）和OpenAI CEO萨姆・奥特曼（Sam Altman）进行了同时对话。对话内容涉及AI如何正在改变搜索引擎的竞争格局、这波科技浪潮的重要性为什么不亚于网络浏览器或者iPhone等等。这次对话的内容，彭博社定义为：“Dawn of the AI Wars（人工智能对抗赛的的黎明时分）”。
当谈到哪些公司可能“威胁”到OpenAI现有的竞争优势时候，萨姆・奥特曼表示：更担心的是那些还未进入视线的创新团队。换言之，目之所及，一个“能打”的都没有。另外，奥特曼表示，在AI浪潮中，初创企业有巨大的成长潜力，毕竟OpenAI几年前也是小企业，他也没想到有一天能和谷歌、DeepMind等巨头“扳手腕”。
此外还谈到了OpenAI的未来，以及会不会把企业卖给微软等等。下文是精彩内容，文摘菌做了不改变原意的编辑。
对话微软CEO 萨蒂亚·纳德拉
从自动驾驶到元宇宙，再到人工智能，科技公司总是不缺话题。微软对OpenAI进行了大量投资，期望将AI融入到业务中，能否成功其实是个未知数，而微软的CEO萨蒂亚·纳德拉则认为必定能够成功。
从自动驾驶到元宇宙，再到人工智能，科技公司总是不缺话题。微软对OpenAI进行了大量投资，期望将AI融入到业务中，能否成功其实是个未知数，而微软的CEO萨蒂亚·纳德拉则认为必定能够成功。
主持人：微软在AI领域的研究历史悠久，聊天机器人也并不是什么新概念，但现在突然成了大家关注的焦点。你为何认为现在才是AI真正“出彩”的时刻？
萨蒂亚：其实，AI不是新鲜事物，它早已成为主流技术的一部分。从搜索引擎到新闻推荐，再到YouTube、电子商务和TikTok等，都是AI技术的应用场景。但值得注意的是，现有的AI像黑盒子，“偷摸”的自动化运行，左右着我们的注意力和选择。与此不同，未来最值得期待的转变可能是AI从一个全自动的“驾驶员”转变为一个“副驾驶”，能更多地与人类互动和协作。
主持人：你觉得这项技术将对我们工作的方式产生何种程度的影响？
萨蒂亚：我觉得商务聊天将是最大的变革点。目前，每个公司最重要的数据资产通常都存在于不同的生产力软件中，而这些数据通常是相互孤立的。但现在，我可以直接询问：“我即将会见这位客户，能告诉我上一次见他是什么时候吗？还能把与这个客户有关的所有文件总结一下，以便我为会面做好充分准备吗？”
主持人：怎么确保这不会成为一个让人讨厌的“Clippy 2.0”，而是一个实用而愉悦的工具？
萨蒂亚：只要我管理，我有信心它们会“长成”我预期的样子。事实上，从过去的“Clippy”到现在的多种智能助手，我们确实有许多教训要吸取。这些例子教会我们，这些都不过是工具，关键在于我们如何合理地使用它们。比如，当使用AI工具或其他技术产品时，我们应该以一种审慎和负责任的态度来对待它们，就像在处理人们发送给我们的文档草稿一样，不直接接受，需要仔细审查。这正是我们在使用这些新工具时也应该持有的态度和方法。
主持人：在1995年，比尔·盖茨预见了互联网将改变一切的力量，并认为这对微软的每个业务都至关重要。那么AI也有同样的影响力吗？
萨蒂亚：绝对有。我觉得ChatGPT的出现有点像1993年第一个网页浏览器Mosaic出现时的感觉。对我来说，这确实像是比尔·盖茨在1995年说过的那样。
主持人： 所以，AI与互联网一样具有变革性的力量？
萨蒂亚：我认为其潜力确实巨大，尽管科技行业总爱过度吹嘘事物。但我个人的动力在于，我想通过这项技术让更多人受益。
主持人：你认为微软能在搜索市场上从谷歌手中夺取多少份额？
萨蒂亚：我们在搜索领域还是小角色，但我非常期待能有所突破。
主持人：现在谷歌也在将AI应用到他们的Google Docs、Sheets和Gmail等产品中。是否意味着你和桑达尔·皮查伊（Sundar Pichai）会在AI领域展开激烈竞争？
萨蒂亚：竞争激发了创新，这对于消费者和整个行业都是有益的。至于Google，是一个非常具有创新能力的公司，我们对他们抱有很高的尊重，我预计在未来的多个方面，我们都将与他们展开激烈的竞争。
主持人：近期有报道称，微软解散了一个致力于研究AI伦理和责任的专门团队。另外，人类科技中心也警告说，目前人工智能的发展竞赛有些鲁莽。您怎么看这个问题？
萨蒂亚：AI在微软中已经不是一个可有可无的附属项目了。无论是从设计、安全性，还是从伦理角度来看，都跟产品的质量和性能同样重要。所以，我不能把关注AI安全的团队当作是次要，应该把它纳入主流的组织架构之中。并且，我认为对于创新速度、它对社会是否真正有益的各种讨论和审查都是非常重要的。我非常欢迎这种公开的辩论。我们应该更多地了解AI在我们生活中的具体应用，然后研究如何能更安全、更有针对性地利用这些技术。
主持人：我常想，AI能无限陪伴我的孩子，但也可能进行“不健康”的互动。作为家长，你有没有担心过这一点？
萨蒂亚：我认为让AI从“全自动”转向“辅助模式”可以让有更多的主导权，对家长，对孩子亦是如此。这一代的AI和聊天机器人不仅能吸引我们，还可能赋予我们更多的选择权和学习机会。
主持人：我想探讨一下AI对就业的影响。微软制造的软件无疑是为了助人完成工作，但加入AI技术是否会导致某些职位被淘汰呢？Sam Altman认为，AI有望创造一个理想世界，在这里可以产生大量财富，足以给每个人提供一笔不小的收入，但这也意味着一些工作岗位将被消除。你对这个观点有何看法？
萨蒂亚：实际上，从经济学家凯恩斯到Sam Altman，很多人都提出过每周只需工作两天的想法，我个人也很期待这种变化。但不可否认的是，随着技术的发展，某些工作岗位将面临变革，这或许会给工资带来一定的压力。然而，由于生产效率的提高，也会出现工资增加的机会。对于这一系列变化，我们需要有全面而清晰的认识，尤其是要警觉可能出现的就业流失问题。
对话OpenAI CEO 萨姆・奥特曼
奥特曼认为，AI将为我们带来一种理想化的未来，但也没忘记提醒我们要注意潜在的危险，甚至在关于灭绝风险的声明上签了名。不过，许多人还是难以相信AI能带来这么多好处。由于担心AI会替代人类工作，好莱坞的作家和演员甚至发起了长时间的罢工行动。而像ChatGPT这样的系统，其实还不能写出高质量的故事。
奥特曼认为，AI将为我们带来一种理想化的未来，但也没忘记提醒我们要注意潜在的危险，甚至在关于灭绝风险的声明上签了名。不过，许多人还是难以相信AI能带来这么多好处。由于担心AI会替代人类工作，好莱坞的作家和演员甚至发起了长时间的罢工行动。而像ChatGPT这样的系统，其实还不能写出高质量的故事。
主持人：你最近一直在全国各地“跑”，那么你如何平衡生活和工作。
奥特曼：在整个旅程中，我几乎没有时间进行冥想或瑜伽，也很少锻炼，这点让我有点难受。但我睡眠还算正常。
主持人：这次“周游世界”的目的是什么？收集信息or宣传？
奥特曼：其实更多的是听取不同声音。但实际上，我们发现自己花了更多时间去解释和讲解，特别是和多位世界领导人会面讨论全球AI监管时。不过，倾听的过程非常有价值，我甚至手写了大约一百页的笔记。
主持人：你通常怎么处理这些笔记呢？
奥特曼：我把这些笔记总结成50条重点，并让“它”指导我们的下一步工作。其实，当你面对面或者在更轻松的场合与人交流时，他们通常会给出非常坦率、直接的反馈，这对我们来说是非常宝贵的。
主持人：你似乎没有前往中国或俄罗斯？
奥特曼：对，我在中国通过远程方式进行了一次演讲，没有和俄罗斯进行交流。
主持人：ChatGPT对你的日常行为有何影响？
奥特曼：在日常生活中，我发现ChatGPT在很多小地方都很有帮助。例如，在我的旅行中，它的翻译功能给了我很大帮助。我还会用它来帮助我写东西，这让我写作变得更加流畅，思维更加清晰。
主持人：你觉得人们会与AI建立情感连接吗？你怎么看待这一点？
奥特曼：我发现很多人跟语言模型，比如聊天机器人，建立了情感联系。这让我有些复杂的感觉。对我来说，这样的互动是很不寻常的，而且我也不希望自己产生这种依赖。虽然我不想告诉人们应该如何使用这项技术，但我认为在与机器人建立情感联系时，大家需要谨慎行事。
主持人：你经常参与一些令人印象深刻的讨论，最近有什么特别令你印象深刻的时刻吗？
奥特曼：离开旧金山后，我发现全球各地人们对一些核心问题有着相似的担忧，当然也有差异。普遍来说，人们都觉得变化速度快，这会对经济产生复杂的影响。这种变化自然会让人们感到不安。
主持人：现在有很多关于AI的恐惧和焦虑，有人甚至把它与核武器或生物武器相提并论。你觉得这种比较合适吗？
奥特曼：更多人还是对AI充满激动和期待。任何具有巨大潜力的新技术，如合成生物学、核能和AI，都带有一定的风险。我们需要妥善管理这些风险以享受其潜在的好处。我预见AI的正面影响会非常巨大，但也需要有效的管理风险。
主持人：最近有关于“紧急停机键（kill switch）”或“大红按钮（big red button.）”的热议。
奥特曼：我希望大家能明白，这只是个玩笑。如果真的需要，我们当然有办法关闭系统。
主持人：现在AI领域的竞争越来越激烈。OpenAI现在走在前列，有没有其他公司或者团队让你们警觉？
奥特曼：这个环境不仅竞争激烈，而且可能是现在最具竞争性的科技领域。我们在关注所有可能的竞争者。但因为我的创业背景，我更担心的是那些还未进入我们视线的创新团队。
主持人：你和萨蒂亚萨蒂亚·纳德拉关系如何？有没有收购的可能？
奥特曼：我非常确定的说，公司不会被出售。我们与微软有非常好的合作关系，这是少数几个大科技公司之间成功合作的例子。我们非常珍惜这种合作。
主持人：你私下和埃隆·马斯克有沟通吗？如果有的话，你们都聊些啥？
奥特曼：是的，我们聊过各种各样的话题，有的很重要，有的则相当琐碎。
主持人：你有没有想过为什么他对AI或OpenAI有点不满？
奥特曼：你去问他，让他自己回答。
主持人：在我们的日常生活中，有没有某个领域你认为AI不应涉足？
奥特曼：我母亲常说：“永远不要说永远，也不要说总是。”这是个很好的建议。如果我现在作出预测，未来可能会证明我错了。我认为AI将会在很多方面影响我们的生活，但也有可能某些方面意外地保持不变。这样的预测很难做，也很容易出错。
主持人：你觉得现在的年轻一代需要学习哪些技能或知识？
奥特曼：他们应该注重培养适应力、韧性、快速学习和创造性，并且应熟悉现代工具。主持人：那么，孩子们是否还应该学习编程？我听说有观点认为，编程已经不那么必要了。
奥特曼：我个人非常喜欢编程，所以我认为学习编程是有价值的。学习编程不仅是学习一种技能，而是一种培养思考能力的途径。即使编程的形式将会发生变化，它仍然是未来的一个重要技能。
主持人：当我们的很多工作都被机器取代，人们将如何度过他们的时间？
奥特曼：我认为人们总会找到事情去做的。就算现代社会的工作在过去看起来不像“工作”，我们总是能找到新的目标和新的方式来实现自己和对社会有用。这种趋势不会停止。
主持人：你内心深处认为，科技将会使世界变得更加公平吗？
奥特曼：我确实这样认为。科技有可能是促进平等的重要因素，当然，这需要社会和制度的配合。从宏观角度来看，我觉得未来十年，获取智力（intelligence）和能源的成本将大幅下降，这将造福所有人，并提高社会的基础生活水平。
主持人：你下一步打算如何发展OpenAI？
奥特曼：我们计划不断优化和扩大我们的AI模型，同时也更广泛、更低成本地将其推向市场。
主持人：对于整个AI领域，你有什么看法？
奥特曼：这是一个多人参与的领域，我们不能单独决定其发展方向。但我们为自己能对这个领域有所贡献而感到自豪。当然，我们也在探索新的可能。
主持人：在这个环境中，初创公司还有生存的空间吗？
奥特曼：绝对有，毕竟不久前我们也是一个初创公司。每个公司都是从初创开始的，当时我也有过自我质疑，是否有可能与Google和DeepMind这样的巨头竞争。
主持人：你签署了一份22字的声明，警告关于AI的风险。它是这样写的："减轻人工智能带来的灭绝风险应成为全球优先级，与其他社会规模的风险如流行病和核战争并列。"能解释一下从聊天机器人到可能导致人类灭绝，这之间的逻辑吗？
奥特曼：我们经常与有危险潜力的强大技术打交道。过去几十年里，我们已经在多个领域建立了有效的安全措施，尽管并不完美。对我来说，这项技术最重要的一点是它正处在一个快速增长的指数曲线上，而人们通常很难直观地理解这种增长速度。所以，即使GPT-4没有什么风险，但我们如何确保GPT-9也是如此呢？即使有一小概率它可能会出问题，我们也必须非常谨慎。
主持人：如果有那么一点可能出现风险，那我们为什么还要继续呢？直接停止不是更好吗？
奥特曼：有多个原因，这项技术有巨大的潜力，不仅能提升全球教育质量和医疗水平，还有助于消除贫困。但这些优势也带有风险，需要谨慎管理。鉴于其经济和社会价值，现在没有公司能停止它的发展。
主持人：你现在因为AI掌握巨大的权力。我们为什么应该相信你？
奥特曼：实际上，你们不应该单纯地信任我。你认识我很长时间了，你也知道，我更喜欢在办公室工作而不是公开发表意见。但在这个特定时期，人们有权提出尽量多的问题，我也会尽我所能回应。更进一步说，这里没有哪个个体值得被完全信任。即使是我，也可以被董事会解雇。我觉得，随着时间的推移，董事会应该逐步向全人类开放，让每个人都有发言权。有多种方式可以做到这一点。我们觉得这项技术及其带来的利益、获取方式和管理，都应该是全人类的共同财富。如果这项技术真的如我们所期望的那样有效，那么它是非常强大的，绝不应该只由一个公司或一个人来掌控。
