MIT 团队的新测试,将 AI 推理与人类思维进行比较
来源:ScienceAI 本文约1800字,建议阅读5分钟
潜在的研究领域可能是自动估计 AI 结果中的不确定性。
人工智能获得洞察力和做出决策的方式通常是神秘的,这引发了人们对机器学习的可信度的担忧。现在,在一项新研究中,研究人员揭示了一种新方法,用于比较人工智能软件的推理与人类推理的匹配程度,以便快速分析其行为。
随着机器学习越来越多地在现实世界中得到应用,了解它如何得出结论以及它是否正确变得至关重要。例如,人工智能程序可能似乎准确地预测了皮肤病变是癌性的,但它可能是通过关注临床图像背景中不相关的印迹来做到这一点的。
「众所周知,机器学习模型难以理解。」麻省理工学院计算机科学研究人员、一项关于人工智能可信度的新研究的主要作者 Angie Boggust 说,「知道一个模型的决定很容易,但知道这个模型为什么做出这个决定却很难。」
文献链接:
http://shared-interest.csail.mit.edu/
评论