图灵奖得主Yann LeCun发推道歉!Google AI黑人女科学家批其种族歧...
新智元
共 3069字,需浏览 7分钟
· 2020-06-27
新智元原创
编辑:鹏飞,永上
【新智元导读】BLM运动已经延伸至AI界。Yann LeCun此前发推称当数据有偏差时,ML系统就会有偏差。在白人为主的数据集训练后,生成的人脸偏白;在黑人为主的数据集训练后偏黑。遭到网友声讨。LeCun随后向提出质疑的黑人女科学家道歉。
而同时在美国如火如荼进行的,还有BLM运动。这场运动已经从民间上升到了政界,渗透进商业界,如今已经深入到了AI界。
最近,图灵奖得主、人工智能标杆人物Yann LeCun,因为一则言论被群攻,迫不得已出来道歉。而这起事件的导火索,正是最近突然爆火的PULSE算法。
该算法由杜克大学推出,可以将模糊的照片秒变清晰,效果出奇的好。这项研究在CVPR 2020上发表,论文标题为《PULSE:通过对生成模型的潜在空间探索实现自监督照片上采样(PULSE:Self-Supervised Photo Upsampling via Latent Space Exploration of Generative Models)》。
正当大家兴致勃勃的把玩的时候,谁料PULSE竟莫名闯了祸。
一张照片引发AI社区大争议,Yann LeCun发推先解释后道歉
有人发现,将一张奥巴马的模糊照片,用PULSE洗出来以后,变成了一个白人!真•洗白? 这下美国网民不干了,纷纷将斗争的矛头指向了人工智能。 一向敢说的Yann LeCun,就这张照片发推表示:「ML结果的偏差,原因在于数据的偏差。为什么PULSE会出现奥巴马被洗白的情况?因为它是在FlickFaceHQ上进行预训练,这个数据集里基本都是白人照片。如果换成来自塞内加尔的数据集,训练完全相同的系统,那必然是每个人都看起来像非洲人。」 这下很多AI研究人员、从业者也不干了,纷纷将斗争的矛头指向了LeCun。 斯坦福AI Lab成员、Google AI科学家Timnit Gebru,对LeCun表示「失望」。她直接回复Yann LeCun:「Yann,我建议你看看我和Emily的教程,或者这方面专家学者的东西。你不要只是将罪魁归结为数据集偏见,听听我们这些来自边缘化社区的人的说法」
Deborah Raji,纽约大学AI Now研究所的技术研究员,目前在MIT媒体实验室Joy Buolamwini创立的 「算法正义联盟」(Algorithmic Justice League)工作。
她指出,人工智能中的偏见受到更广泛的社会不公正和偏见的影响,仅仅使用「正确」(完美的、没有偏见)的数据并不能解决更大的不公正问题。将AI学术问题,上升到了社会伦理层面。 她甚至在Timnit Gebru的推下面提及Yann LeCun,直呼:「恶心!」
最终,Yann LeCun公开发推,向Timnit Gebru表示道歉:「我非常钦佩你在人工智能道德伦理和公平方面的工作。我非常关心如何确保偏见不会被人工智能放大,我很抱歉我在Twitter的讨论成为了这一议题的话题事件。」
在「最黑暗的时代」依然坚持深度学习研究,如今被拉下「神坛」
Yann LeCun,当今世界人工智能领域,甚至被有些人奉为「神一样的人物」。他是卷积神经网络之父,图灵奖得主,与Geoffrey Hinton、Yoshua Bengio并称「深度学习三巨头」。在人工智能领域,这三巨头也被称为「人工智能教父」,他们共同发展了深度神经网络,奠定了深度学习基础。 一直以来,Yann LeCun都以直言不讳著称。他活跃在社交网络上,经常批评别人对AI技术的无端恐惧。由于他在AI领域的地位,他的评论因此极具份量。 他致力于开发人工智能的现代方法,使用卷积神经网络来分析计算机视觉技术的核心视觉数据。横跨学术界和产业界,是纽约大学数据科学中心创始主任,纽约大学研究中心Silver Professor称号获得者,只有为纽约大学做出突出贡献的人,才有资格得到Silver Professor这一荣誉称号。同时他也是Facebook首席人工智能科学家。这也是他敢说「研究人员应该(专心科研)少关心数据偏见,而应该交给工业界去操心」的底气所在。 他是AI技术的积极倡导者,更看重AI行业的积极、正向的前景。正是因为这份信念和坚持,Yann LeCun专注于技术研究,走过了深度学习最黑暗的时代,熬过寒冬,拿到图灵奖,终被「封神」。 但人,终究不是神,LeCun最终还是为自己的言论道歉了。不过,虽然LeCun道歉了,可并非所有人都觉得LeCun错了。
网友:这种问责很可能造成寒蝉效应,研究人员不再公布完整的来源
its_a_gibibyte表示有点儿懵:「我到现在都没整明白LeCun说错啥了?他不就解释了导致AI的偏见的原因和造成的结果吗?」 WittyKap0跟its_a_gibibyte解释:「这条推是没错啦。但是在随后的一条推中,他把这个问题扔给了业界,称这不是研究人员应该关注的问题,而是应该由业界做部署的工程师去解决的。结果Pytorch之父就不干了,源头没做好指望下游给你收拾烂摊子吗?顺便还讽刺了LeCun在FB工作。」 nonotan看不下去了:「我懂,研究人员至少应该提供某种程度的证据,证明他们的工作在实验中的情况,并给出更多的传统绩效指标。这将是一个很好的方向,没有任何问题。但归根结底,研究者的工作不是提供市场上可用的产品啊!难道那不是ML工程师的工作吗?作为一个ML工程师,你说『我只是从网上随便抓了一些模型,作为我的生产流水线的一部分使用,没有任何验证或监督。如果出了问题,就怪作者没有阻止我这个白痴』这是人话吗?而且这种问责很可能造成一种寒蝉效应,研究人员为了尽量不担责任,不愿意公布完整的来源/训练过的权重/等等。坦率地说,如果你按字面意思来理解他所写的东西我认为完全没有问题。我觉得只是因为人们发现LeCun没有重视或者支持他们的事业而感到不满。」 Deto提出了一个非常有意思的观点:「他是不是觉得人们只是扫了一眼这篇文章(而不是实际阅读——说实话,真没几个人能认真读完),然后可能会错误地认为种族主义意图被研究人员以某种方式,有意地编码到这些模型中?所以他想直接澄清这个细节。」 Shams在Twitter上发表评论,认为LeCun没有支持不公正事件的发生,不需要道歉。「你的立场很明确,而且是基于已经发表的科学研究。我不知道你为什么被卷进一件你明显反对的事件中。我希望对方能够坚持学术论调。」Kaelen为LeCun鸣不平,认为他正在为自己没做过的事情道歉,而没有其他选择。
Yamen Ali表示「看了上周的讨论,我不认为道歉是必要的。我从你那里读到过一系列关于机器学习中偏见的解释。我只想看他们对你观点的科学反对意见,而不是把意识形态带入科学讨论中,这不会带给我们任何结果」。
Alastair认为是对方煽动了这场对话「你的内容十分准确,你的讨论语气也没有问题。你指出了最可能也是最重要的偏见。如果说有任何问题的话,那就是「她」煽动了这场对话。你没有做错什么,却受到了这样的网络暴力」。
Crypto同情LeCun的处境「你为什么要为自己的正确而道歉?你的道歉对人工智能界是一种伤害。当你不得不一遍又一遍地解释1 + 1 = 2时,这不是一个健康的讨论。不是每个人都聪明到能够理解它,但这没什么关系」。
评论
AI论文写作工具和生成器(一)
随着人工智能和大模型的迅猛发展,AI对研究人员和学生提供了极大的写作便利。本文将介绍市面上常用的AI论文写作工具,帮助你提高论文写作效率并遵循学术道德。请仅将AI论文生成器视为辅助参考手段,切勿直接挪用全文。XPaper AlXPaper AI是由点击式创作工具晓语台推出的一款论文写作生成平台,只需
IQ前端
0
“渣女”怎样抵抗收入暴跌,去杭州找大厂程序员“接盘”
一位好友给我分享了一张图片,看过之后,我直呼毁三观。不知是哪位大厂员工蒙在鼓里多年,被“渣女”耍的团团转。这也难怪外面传“要嫁就嫁程序员,钱多话少死得早。”敢情成为了某些“心机女”的接盘侠。我不由得想起了曾经轰动一时的“程序员苏享茂事件”,被前妻翟欣欣索要千万跳楼自杀。我在网上详细查了这个案件资料。
Python涨薪研究所
0
奇域AI,最懂新中式美学的AI绘画神器
「奇域AI」是一款非常适合驾驭新中式审美的AI绘画工具。作为国内首个主打新中式插画的AI绘画产品,它提供了上百种新中式美学风格模型,包括新中式插画、笔墨水彩、新铅油画等,为用户提供了丰富的选择。这款工具在「网页版」和「小程序」上都可以使用,只需输入你想要的画面,就能生成出符合新中式审美的作品。奇域A
IQ前端
0
【第127期】推荐常用的国内外AI大模型
概述 多个国内外的AI大模型及其特点。以下是一些被提及的AI大模型和平台:全球大模型:ChatGPT:由OpenAI开发,支持多种语言,包括中文。Claude:由Anthropic开发,擅长深层次语言模式和复杂推理。Gemini:由Google Research开发,擅长自然语言理解和生成。Mis
前端微服务
0
Stability AI开放Stable Diffusion 3 API,在线免费使用
「Stability AI」宣布开放其最新文本到图像生成模型「Stable Diffusion 3」的API接口,供开发者和企业使用。该模型采用创新的多模态扩散转换器架构,在字体、细节还原、提示理解等方面表现优异,评测结果超越了业内其他顶尖系统。与DALL-E 3和Midjourney v6等最先进
IQ前端
0
【第126期】效地利用AI辅助编程并提高编程效率
概述 AI可以在编程的多个环节中提供帮助,从而显著提高编程效率。同时,也要注意AI工具的选择和使用,确保它们能够真正提升你的工作效率,而不是成为额外的负担。通过这些工具通过不同的方式辅助编程,包括代码生成、错误检测与修复、代码审查、自动化测试、性能优化等,旨在提高编程效率和代码质量。开发者可以根据
前端微服务
0
上门按摩的女技师们,要IPO了
不刮骨疗毒,怎么两袖清风?冲击万店,汉堡界能跑出下一个蜜雪冰城吗?拥有2.5万上门按摩女技师的东郊到家,要IPO了。消息源于东郊到家创始人汤帆在重庆首届O2O行业发展大会上的发言。汤帆表示,截至2023年底,东郊到家完成了部分IPO的规划实施及合规准备工作,并称东郊委托的上市中介机构是第一梯队的品牌
亿欧网
0
AI智能视觉检测技术在工业级测量领域的创新应用--AMB Tube-Q导管数字化测量系统
技术背景在深度学习算法出来之前,对于视觉算法来说,大致可以分为以下5个步骤:特征感知,图像预处理,特征提取,特征筛选,推理预测与识别。早期的机器学习中,占优势的统计机器学习群体中,对特征是不大关心的。深度学习是机器学习技术的一个方面,由人工神经网络提供支持。深度学习技术的工作原理是教机器通过实例学习
机器视觉
0