你在交友软件“右滑”了一个人,可能受到了推荐算法的鼓励
https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0249454
算法正在潜移默化地影响我们的选择
算法正在潜移默化地影响我们的选择
她们设计并进行了一系列4个实验,在Twitter和调查平台Prolific召集到了参与者,根据实验的不同,共有218到441人参与其中。
在这些实验中,参与者被明确告知,他们正在与一个算法互动,该算法会根据互动判断他们的个性。
但实际上,这只是个模拟算法,也就是说,这个“算法”并不会进行智能判断,无论参与者给予的信息是怎样的,算法都以同样的方式做出反馈。
在参与者回答了模拟算法的问题后,算法随即向他们展示了他们可能约会的对象,以及他们可能会投票支持的政治领导人照片。
有时候,该模拟算法还会明确地鼓励参与者选择照片上的一个人。例如,它可能会说,经过计算后发现,用户与照片中的潜在对象或政治家之间有90%的兼容性匹配。
在其他情况下,该算法会通过频繁地展示某一个人的照片来进行这样的暗示。
随后,当这些参与者被问及,在展示的照片中他们更喜欢谁时,在绝大多数的情况下,他们会选择模拟算法推荐的政治人物,也更希望与那些被推荐的对象约会。
“也许我们会倾向于认为算法是客观、中立和高效的,毕竟它们总是以数字和规则的形式展示出来”,Agudo说,至于为什么人们会更喜欢算法推荐的对象,“这是一个不涉及感情的决定”。
出于这个原因,当涉及到内心选择的问题时,我们可能需要去倾向于质疑算法的建议。
“作者提出了一个真正重要和可怕的观点,即人工智能、大数据和广泛的用户群给私人公司提供了前所未有的机会,以完善他们对说服力的理解和应用。”剑桥大学的Ella McPherson说。
英国布里斯托尔西英格兰大学的Steven Buckley表示:“这项研究加强了对Facebook和谷歌等平台的呼吁,要求它们对自己的算法更加透明。”
让现实社会和数字世界都朝着更公平的方向发展
让现实社会和数字世界都朝着更公平的方向发展
说到这里,相信还有不少朋友记得日本推出的AI婚配计划。
如此看来,日本的这个AI系统似乎要显得更“理智”一些,但从另一个角度讲,这在一定程度上进一步佐证了上述实验的结论。
不只是在交往方面,AI在塑造我们的行为、选择,甚至是想法上,都有着潜移默化的作用。
其中,近年来饱受诟病的当属算法偏见的问题了。最为人印象深刻的当属去年杜克大学科学家发表了能够将模糊照片清晰化的算法PULSE,但是当输入美国前总统奥巴马的模糊照片后,系统处理生成的却是一张清晰的白人图片。
正如一位MIT研究员Joy Buolamwini表示,“人工智能是基于数据的,而数据是我们历史的反映”。但是每个人的历史却是无法被简单地用数据来概括和总结的,就如上述实验一样,在选择交往对象时,我们更多是凭借的“感觉”。
在美剧《老爸老妈浪漫史》中,AI告诉男主角,有一个女孩和他的匹配度是95%,和未婚夫的匹配度只有90%。但男主角和女孩并没有因此而在一起。
如果我们就以算法偏见为例,归根结底,算法背后是人,算法偏见背后其实就是人的偏见,算法的选择也就是在大数据处理之后人的选择。在针对此进行批评时,我们也需要关注现实世界中存在的偏见,保持内省,然后在能力范围之内,让现实社会和数字世界都能朝着更公平的方向发展。
这对我们每个人来说,都极为重要。