搜索

AI大模型开源英雄！因LLaMA泄露遭国会质问，小扎：习惯了

新智元

共 3324字，需浏览 7分钟

 ·

2023-06-19 21:06


  新智元报道  

编辑：润
【新智元导读】扎克伯格又被国会议员质询了，但这次整个AI开源社区都站在了他这边。他也在访谈节目中大谈AI开源的意义和对未来AI发展的看法。
小扎最近又摊上大事了。
两位国会议员Richard Blumenthal（国会隐私，技术和法律委员会主席）和 Josh Hawley（国会隐私，技术和法律委员会成员）给小扎写了一封措辞严厉的质询函。

两议员写信严厉质问小扎关于LLaMa的泄露事件

要求小扎针对之前LLaMa模型在4chan被泄露这一事件，在15号之前回答几个关键问题。
其中最严重的是这三个：
  • 在发布LLaMa之前，Meta有没有对泄露等情况做过风险评估？
  • 在发布LLaMa之后，Meta有没有采取任何措施防止模型泄露，或者减少模型泄露之后的危害？
  • Meta是否使用了用户的数据来训练模型或者进行AI技术的研究？
整封信措辞非常强硬，通篇都在说因为LLaMa的泄露可能会引发的犯罪，网络欺诈和各种负面情况。
信中提到：
「我们对 Meta 的 AI 模型的泄漏感到担忧，非常担心Meta AI (LLaMA) 及其在垃圾信息、欺诈、恶意软件、侵犯隐私，骚扰以及其他不当行为中的被滥用的可能性和造成的伤害」
「选择以这种不受限制和不负责任的方式分发 LLaMA 引发了重要而复杂的问题：何时以及如何公开发布复杂的AI模型是合适的」
仿佛就是在暗示以后如果出大事，你小扎必须吃不了兜着走。
而且信里对于OpenAI和它的产品ChatGPT，却塑造成了一个「伟光正」的正面形象。
「OpenAI的ChatGPT会根据其道德准则拒绝该请求。相比之下，LLaMA会提供所要求的信件，以及涉及自残、犯罪和反犹太主义的其他答案。」
这位Richard Blumenthal就是前段时间Sam Altman在国会接受质询时最重要的提问者和主持人。
当时他对Altman的态度可是相当的和颜悦色。
再相比之前小扎的质询会议上，他不但打断小扎的发言，还针锋相对地举了牌子，上面写了小扎道歉的集锦，质问他为啥只会认错却不知悔改。

同样是科技领袖，咋待遇差别就那么大呢？
明明自己的模型开源给AI研究社区使用，推动了AI的对齐和透明度等安全技术的发展，还要被国会的老头老太太们天天盯着质询。
竞争对手的开源和训练数据的合法性问题却被监管无视，还被奉为座上宾。
再加上质询信中对OpenAI和Meta的拉踩，看得出来监管层对于小扎和Meta真的意见很大。
技术落后可以通过努力来追赶，被监管层戴着有色眼镜挑刺，那以后真的就麻烦大了。
此时小扎心里应该是一万个LLaMA大模型跑过。

AI开源英雄——扎克伯格

但就发布LLaMa这件事情上，小扎和Meta却是真的得到了行业和公众的一致认可。
在质询信主要作者Richard Blumenthal自己的推特上，他转发了自己写的信，还对自己的行为进行了一番义正词严地叙述。
但是下面的回复却几乎被网友一边倒的质疑甚至是攻击。
网友反应
开源的代码是受第一修正案保护的。只要开源Meta没办法阻止对于公众使用，所以你提出这些问题让我怀疑你动机。
到底是谁给了你权力认为AI是的危险的？人民对于你阻止AI技术开源和免费这事情投过票吗？作为人民的代表你已经越界了！
Meta开源了，不涉及商业利益，那么「Commerce Clause」就管不了啦！它被Meta之外的人泄露你去找Meta有什么用呢？
议员，你真的没有权力监管AI的发展，现在没有以后也没有。而且对于一个全球所有人都能接入公众网络服务，怎么可能被完全管控起来呢？
请用你的立法权力保证你的议员工作不会被取代。
希望你以后被大家选下去。
LLaMa只是一个注脚。阿联酋的Falcon直接商业开源了，之后会有更多的项目基于这些开源的模型。所以请不要为了追求一些不可能达到的目的而抑制美国的创新能力和关键的开源技术。
没有必要责怪FB,这样会让本想开源的公司被迫闭源，这样我们追求的技术透明度就更加难以实现了。这是非常危险的情况。
让Meta承担对于AI滥用的后果是没有意义的，Meta没有能力也没有责任承担这个，就像不能要求枪械，锤子和棒球棍的厂家来承担这些东西滥用的后果是一个道理。
在他的这条推文下面的110个回复中，几乎找不到支持他写这封信的留言。
看得出来，留言的大部分网友都在帮小扎辩解说LLaMa的发布和对大语言模型的开源正在推动行业和技术的进步。
因为对于AI行业来说，开源可能是让公众能彻底了解这项技术并且保证AI技术安全服务人类的最重要的途径。
如果有朝一日真的要因为AI安全问题追责小扎或者Meta，背后的逻辑就像是哥谭要通过追责蝙蝠侠来确保哥谭的治安一样荒谬。
所以议员的这封问责信，自然就站在了公众的对立面，不得人心。
Meta在LLaMa上获得的支持，除了来自公众以外，更来自开源社区。
有人甚至把LLaMa的开源比作Linux的发布。
因为正是有了Linux这个开源的操作系统，网络初创公司的门槛才被有效地降低。
数据中心才能在商业硬件和软件上运行，为云技术的诞生提供必要的条件。
而正是随着LLaMa在4chan上的泄露，才催生了今年3月份的「羊驼大爆发」。
赋予了AI开源社区的模型与微软和谷歌这种闭源科技巨头竞争的可能性。
如果像当初的软件行业一样，我们把现在的AI行业分为开源和闭源两个阵营。
那小扎所领导的Meta就是开源阵营的领袖。

小扎的AI野望

就在前几天，小扎和硅谷著名的科技访谈节目主持人Lex Fridman进行了一场接近3个小时的访谈。
在访谈中，他充分分享了自己对于AI技术和行业的愿景。
从中也许我们能窥探出他为什么要把Meta AI的未来押宝在开源和开源社区之上。
未来的AI需求决定了开源是解决问题的答案
在小扎看来，未来用户将与许多不同的 AI 进行互动，就像现在你希望使用各种不同的 APP 来完成不同的任务，也
像在生活中与不同的人建立有不同的情感联系一样。
在商业领域也存在这种需求，全球每家企业都将希望拥有一个 AI。
就像你在 Instagram、Facebook、WhatsApp 或其他平台上拥有自己的主页，你希望将人们引导到可以与之互动的 AI 上。
这样 AI 就会向用户推荐更多自家产品，而不是竞争对手的产品。
所以，未来单一AI不可能解决所有问题，因为它可能与每个特定企业的利益不一致。
这就是为什么小扎认为市场和生活中肯定存在对不同 AI 的明确需求。
而为了满足未来人们对于多元化，定制化的AI的需求，开源就是最好的答案。
阐明了为什么要开源，小扎进一步分享到：
开源在生态系统内可以产生更多的创新，使Meta产品变得更好，并为Meta提供安全性的宝贵反馈，这对于Meta打造一个良好的系统非常重要。
另一个原因是开源软件往往更安全，因为有更多人审查就更容易发现其中的漏洞。
在目前的AI规模下，通过AI开源更容易实现对齐和理解。
这些都是AI开源的会给AI行业和Meta自身带来的好处。
AGI时代面临新的选择
从还未到达AGI阶段的视角来看，在更开放的环境中，开源相较闭源来说是更好的选择。
但在接近AGI或者是超级人工智能的时代，这个问题就需要重新思考和探讨。
小扎认为世界上已经存在了超越人类智能的组织和结构。
比如说公司作为一个实体，有自己独特的品牌。
Meta作为一个公司能体现出超越个人的智能。
类似于公司的网络系统，会将多个人的智能融合在一起，或者将多个人和技术的智能融合在一起，形成一个比世界上任何个人都聪明得多的实体，并且能够以一种积极的方式利用这些系统对社会产生影响。
没人知道什么时候 AGI 会出现，但从历史中我们能认识到，这种更加智能的系统是一种推动人类进步有益现象。
某种程度上，个体的AI系统使个体人类和其他人之间的相互作用变得更加智能，这样集体智能也更加智能。
在分享的最后，小扎还不忘自嘲一把。
说「人生中经历了太多失败和尴尬的我，忍受失败和尴尬已经成了我的核心竞争力」。

参考资料：
https://venturebeat.com/ai/senators-send-letter-questioning-mark-zuckerberg-over-metas-llama-leak/




浏览 17
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
LLaMA大语言模型
LLaMA 语言模型全称为 "Large Language Model Meta AI"，是 Met
LLaMA大语言模型
LLaMA语言模型全称为"LargeLanguageModelMetaAI"，是Meta的全新大型语言模型（LLM），这是一个模型系列，根据参数规模进行了划分（分为70亿、130亿、330亿和650亿
AI大模型开源与闭源
向AI转型的程序员都关注公众号 机器学习AI算法工程文章目录开源大模型GPT-3（OpenAI）BERT（Google）T5（Google）GPT-Neo和GPT-J（EleutherAI）BLOOM（BigScience）优势挑战闭源大模型GPT-4（OpenAI）Bard（Google
Llama中文社区,最好的中文Llama大模型,完全开源可商用
机器学习AI算法工程
0
【今日报名截止】北京,Llama 2 开源大模型技术论坛
以 Llama 2 为首的开源大模型快速进化，带来了一众繁荣的 LLM 开源模型生态，这对大模型技术
Chinese-LLaMA-Alpaca中文 LLaMA & Alpaca 大模型
Chinese-LLaMA-Alpaca包含中文LLaMA模型和经过指令微调的Alpaca大型模型。这些模型在原始LLaMA的基础上，扩展了中文词汇表并使用中文数据进行二次预训练，从而进一步提高了对中
Chinese-LLaMA-Alpaca中文 LLaMA & Alpaca 大模型
Chinese-LLaMA-Alpaca 包含中文 LLaMA 模型和经过指令微调的 Alpaca
Code Llama基于 Llama 2 的 AI 代码生成大模型
Code Llama基于 Llama 2 的 AI 代码生成大模型
0
Code Llama基于 Llama 2 的 AI 代码生成大模型
CodeLlama是基于Llama2的AI代码生成大模型，可根据代码和自然语言提示生成代码和有关代码的自然语言，支持多种主流编程语言，包括Python、C++、Java、PHP、Typescript(
扎心了！5.33亿Facebook用户数据又遭泄露！
数据分析1480
0
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报