马斯克怒斥Sam Altman“变心”,发起诉讼,网友:OpenAI AGI计划...-技术圈

整理 | 苏宓
出品 | CSDN（ID：CSDNnews）

树大招风的 OpenAI 因脚步太快，纷争不断。

2024 年 2 月的最后一天，特斯拉 CEO 埃隆·马斯克对刚回归正轨不久的 OpenAI 又丢了一枚“深水炸弹”，向旧金山法院提交了一份 46 页的诉讼报告，宣布起诉 OpenAI 及其 CEO Sam Altman、还有 OpenAI 的联合创始人和总裁 Greg Brockman。

山雨欲来风满楼，面对这一趋势，OpenAI 倒是显得很淡定。据外媒报道，OpenAI 首席战略官 Jason Kwon 在内部的一份备忘录中写道，“我们认为，这起诉讼中的说法可能源于埃隆对如今不再参与公司事务的遗憾…。”

身为 CEO 的 Sam Altman 则在 X 平台上发了两句富有哲学性的话：

飓风的速度越来越快，但飓风眼却非常平静
这一切都发生过，这一切都会再次发生。

然而，表面虽是如此，却有网友根据收集到的蛛丝马迹推断，“OpenAI 或因此将创建 AGI 的计划推迟到了 2027 年”，为此还附上了一个 56 页的 PDF 文件来详细说明。

OpenAI 本是因为担心 AGI 落入“坏人”之手而存在

如果说去年 3 月马斯克等数千名对人工智能领域关注的学者、企业家、教授因担心大模型对社会和人类存在潜在风险而发起的一封公开信呼吁“暂停训练比 GPT-4 更强大的系统，期限为六个月”只是言语上的劝解，那么这一次的诉讼便是从行动上的干预。

回看 OpenAI 的诞生，其本是为了遏制 AGI 领域一家独大、落入有心人之手的举措，马斯克在其发展初期也起到了关键作用。如今亲证一家非营利机构变为估值达到 860 亿美元的公司（彭博社 2 月份报道），想必马斯克心中也五味杂陈。

众所周知，马斯克一直以来都是“AI 威胁论”的深度支持者，也不止一次地苦谏众人，“AI 对人类将会是最大的威胁之一”。

所以 2014 年在 Google 收购了专注于深度学习的研究机构 DeepMind 前夕，因担心 AI 技术会掌握在一个人或一家商业公司的手中，对人类带来风险，马斯克和 PayPal 的联合创始人 Luke Nosek 试图筹集资金抢先收购 DeepMind。

遗憾的是，此次拦截失败。

DeepMind 不仅被 Google 成功收购，后来还快速推出了 AlphaZero 算法，即程序通过与不同版本的软件对抗来学习下棋。没过多久，Alphazero 也成为世界上最强的国际象棋 AI 系统。

有了 DeepMind 团队的加持，Google 立刻在 AGI 的竞争中拔得头筹。

马斯克对这一事态发展深感不安。

他始终坚信：在 Google 这样一家封闭的营利性公司手中，AGI（通用人工智能）会对人类构成特别严重和有害的威胁。

其在诉讼书中写道，“2014 年，在核心业务领域想要与 Google 竞争已经很困难了，Google 从搜索、电子邮件和图书馆里的几乎每一本书中收集了大量独特的数据。尽管如此，在这一点上，每个人都有潜力通过卓越的人类智慧和辛勤工作与 Google 竞争。但 AGI 将使竞争变得几乎不可能。”

自此，马斯克开始主张通过自己的手段，讨论如何对抗 Google，促进 AI 的安全。

马斯克：OpenAI 违背了创始协议，“变心了”

也在那时，马斯克遇见了志同道合的 YC（Y Combinator，美国最成功的创业孵化机构）总裁 Sam Altman。

二人对 AGI 可能构成的威胁观点一拍即合，所以在 Sam Altman 提出自己的思考：

“是否有可能阻止人类发展 AI。我想答案几乎是否定的。如果这件事真的要发生的话，似乎除了 Google，其他人先做这件事也不错。我们可以通过某种非营利组织来构建它，让技术属于全世界，但如果成功了，研究它的人会得到类似创业的补偿。”

马斯克回答道，“也许值得一谈。”

在这次诉讼书中，马斯克还附上了当时他发给 Sam Altman 的一封秘密邮件，涉及创立 AI Lab 的使命、团队规模、治理结构、监管等等。

经过后续的沟通，2015 年，一个非营利性的 AI 实验室 OpenAI 诞生了，马斯克取得名字，并承诺会提供资金支持。

除了 Sam Altman 之外，一起参与新实验室共建计划的还有现任 OpenAI 联合创始人兼总裁的 Greg Brockman。几个人也在这家实验室成立初期达成了一个《创始协议》，其中必须遵循的规则包括：

它将是一个非盈利的机构，开发 AGI 为人类造福，不适用于追求股东利润最大化的营利性公司；
它将是开源的，只平衡抵消性的安全考虑，不会出于专有商业原因对其技术进行封闭和保密。

根据《创始协议》，OpenAI 的主要目标将是与谷歌/DeepMind 在 AGI 赛道上竞争，并成为一股重要的制衡力量，但这样做是为了造福人类，而不是成为一家私人盈利公司(更不用说世界上最大的科技公司之一了)。

OpenAI 落地之后，马斯克在此机构成立的最初几年贡献了不少力量：

其一是招聘人才。要知道当时作为领头羊的 Google /DeepMind，提供的薪水也都是行业顶尖水平，OpenAI 作为一家初出茅庐的机构，仅是在招人一个环节上就面临了巨大的挑战。马斯克利用自己的关系网招募了一些世界领先的科学家和工程师为这家非营利企业工作，其中包括首席科学家Ilva Sutskever。
其二是资金支持。据起诉书显示，从 2016 年到 2020 年 9 月，马斯克总共为 OpenAI 公司贡献了超过 4400 万美元。

另外，马斯克还为 OpenAI 的研究方向、公司管理架构、运营提供了不少的建议。

一定程度上也可以解读为没有马斯克的创始贡献和早期领导，就不会有 OpenAI 公司。

不过，由于算力、成本消耗巨大，2017 年，Brockman 等人建议将 OpenAI 从一家非营利公司转为营利性公司。

这显然是马斯克无法接受的，甚至扬言道，“要么自己去做一些事情，要么继续让 OpenAI 作为一个非营利组织。我不会再资助 OpenAI 了，除非你们做出坚定的承诺或者我就是个傻子。”

最终也如众人知晓的那样，2018 年，马斯克辞去 OpenAI 联席主席的职位。OpenAI 公司在 2019 年宣布创建一个盈利性子公司——OpenAI LP。

这便违背了马斯克最初想要构建一个非营利性机构的初衷。

此外，诉讼书指出，起初 OpenAl 的研究是在开放的环境下进行的，提供了对设计、模型和代码的免费和公开的访问。

当时 OpenAl 研究人员发现，最初由 Google 发明的“Transformers”算法，无需任何明确的培训，就可以完成许多自然语言任务，整个社区如雨后春般涌现，这也增强和扩展 OpenAl 发布的模型。

然而，2020 年 9 月 22 日，OpenAI 宣布与微软达成协议，将其 GPT-3 语言模型开放许可给微软。OpenAI 发表了一篇详细的论文，描述了 GPT-3 的内部结构和训练数据，使社区能够自己创建类似的模型。最关键的是，微软的许可证只适用于 OpenAl 的 pre-AGI 技术（未实现 AGI 之前的技术）。微软没有获得 AGI 的任何使用权利。

至于 OpenAI 是否达到了 AGI，是由 OpenAI 公司的董事会来决定的。反向理解就是，无论 OpenAI 的技术领先成什么样，只要该董事会不对外承认达到了 AGI，那么就不算到达。

值得注意的是，2023 年 3 月， OpenAI 发布了迄今为止最强大的语言模型 GPT-4，无论是在推理，还是在很多律师、口语、数学等考试中，均获得了不错的成绩。

但是，GPT-4 的设计一直没有公开对外，相当于闭源了。这样的做法让马斯克觉得这种保密出于商业考虑，而不是从安全维度考虑。

此外，因为微软研究人员在一篇《AGI 火花》的论文中写道，“从 GPT-4 功能的广度和深度来看，我们认为它可以被合理地视为 AGI 系统的早期版本”，正是因为这句话，被马斯克抓到了“把柄”。

其认为，这明确超出了微软在 2020 年 9 月时与 OpenAI 签署的独家许可的范围， OpenAI 在商业利益面前没有停止 AI 技术的相关使用。

OpenAI “宫斗”也是源于 AGI？

另外一个方面，去年 11 月，在时任 OpenAI 首席科学家兼联合创始人、OpenAI 董事会成员 Ilya Sutskever 的推动下，OpenAI 内部发生了“宫变”：

因为 Sam Altman 对董事会并不一直坦诚，导致 Sam Altman 被踢出局。

而后 Sam Altman 与微软合作，利用微软对 OpenAl 公司的重大影响力，迫使 OpenAI 公司董事会的大多数成员辞职，也包括了 Ilya Sutskever。Sam Altman 于 11 月 21 日被重新任命为 OpenAI CEO。新的董事会成员由 Sam Altman 亲自挑选，并得到了微软的祝福。新的董事会成员缺乏大量的人工智能专业知识，他们在设计上准备不足，无法独立决定 OpenAl 是否以及何时达到了 AGI，因此何时开发了 AGI。

时至今日，OpenAI 公司的网站仍然宣称其章程是确保 AG I 造福全人类。但实际上，OpenAI 公司已经转变为世界上最大的技术公司微软的一个封闭源代码的子公司。在新董事会的领导下，微软不仅在开发，而且实际上还在改进 AGI，以使微软的利润最大化，而不是为了人类的利益。

与此同时，让马斯克深感好奇的是：当时的 Ilya Sutskever 到底是看到了什么，才让他鼓足勇气发动了“宫变”。

时至今日，OpenAI 也未给出明确的解释，只是让众人猜测纷纷的最大原因就是：OpenAI 的 AGI 计划。

在这次诉讼中，马斯克也透露出，OpenAI 内部还有一个正在开发的模型，叫做 Q*（Q 星），这对 AGI 有更强的要求。

另外正如文章伊始所提及的，也有网友透露：

“OpenAI 在 2022 年 8 月开始训练一个 125 万亿参数的多式联运模型。第一阶段是 Q*。该模型在 2023 年 12 月完成了训练，但由于高推理成本而取消了发布。这是原计划在 2025 年发布的 GPT-5。不过，现在 GPT-4.5 已经更名为GPT-5，因为原来的 GPT-5 已经取消。

Q* 的下一阶段，最初是 GPT-6，但后来更名为 GPT-7(原定于 2026 年发布)，现在由于马斯克的诉讼而被搁置。

Q*2025(GPT-8)计划于 2027 年发布，实现全面的 AGI ”

来源： https://drive.google.com/file/d/1xlRDbMUDE41XPzwStAGyAVEP8qA9Tna7/view?pli=1