深度学习不可信？大脑建模先驱有话说

​

来源：ScienceAI

编辑：萝卜皮

在过去的 20 年里，深度学习通过一系列有用的商业应用主导了人工智能的研究和应用。但在耀眼的背后是一些根深蒂固的问题，威胁着技术的提升。

例如，典型的深度学习程序无法在一项以上的任务上表现良好，这严重限制了该技术在严格控制的环境中的特定任务的应用。更严重的是，有人声称深度学习是不可信的，因为它无法解释——并且不适合某些应用程序，因为它可能会经历灾难性的遗忘。

说得更直白一点，如果算法确实有效，可能无法完全理解其中的原因。虽然该工具正在慢慢学习一个新的数据库，但其学习记忆的任意部分可能会突然崩溃。因此，在任何生死攸关的应用程序（例如医疗应用程序）上使用深度学习可能是有风险的。

现在，在一本新书中，IEEE 研究员 Stephen Grossberg 认为需要一种完全不同的方法。《Conscious Mind, Resonant Brain: How Each Brain Makes a Mind 》描述了基于 Grossberg 几十年来一直在进行的认知和神经研究的生物和人工智能的替代模型。他将他的模型称为自适应共振理论 (ART)。

Grossberg 是波士顿大学认知和神经系统、数学和统计学、心理和脑科学以及生物医学工程方面的知名教授，他基于他关于大脑如何处理信息的理论来构建 ART。

「我们的大脑学会在一个充满意外事件且不断变化的世界中，识别物体和预测事件。」他说。

基于这种动态，ART 使用有监督和无监督学习方法来解决模式识别和预测等问题。使用该理论的算法已被包含在大规模应用中，例如对声纳和雷达信号进行分类、检测睡眠呼吸暂停、推荐电影以及基于计算机视觉的驾驶辅助软件。

Grossberg 说，ART 可以放心使用，因为它是可以解释的并且不会经历灾难性的遗忘。他补充说，ART 解决了他所谓的稳定性-可塑性困境：大脑或其他学习系统如何能够自主快速学习（可塑性）而不会经历灾难性遗忘（稳定性）。

​

Grossberg 于 1976 年制定了 ART，是建模大脑如何变得智能的先驱。他是波士顿大学自适应系统中心的创始人和主任，也是教育、科学和技术学习卓越中心的创始主任。这两个中心都试图了解大脑如何适应和学习，并根据他们的发现开发技术应用。

由于 Grossberg「对理解大脑认知和行为以及通过技术对其进行仿真的贡献」，他获得了 2017 年 IEEE Frank Rosenblatt 奖，该奖以康奈尔大学教授的名字命名，被一些人认为是「深度学习之父」。

Grossberg 试图在他近 800 页的书中解释「我们称之为大脑的一小块肉」如何产生思想、感觉、希望、感觉和计划。特别是，他描述了试图解释这是如何发生的生物神经模型。这本书还涵盖了阿尔茨海默病、自闭症、健忘症和创伤后应激障碍等疾病的根本原因。

「了解大脑如何产生思想对于设计计算机科学、工程和技术领域的智能系统（包括人工智能和智能机器人）也很重要。」他写道，「许多公司已经应用了本书在多种工程和技术应用中总结的那种受生物启发的算法。」

他表示，书中的理论不仅有助于理解大脑，还可以应用于能够自主适应不断变化的世界的智能系统的设计。总之，这本书描述了使人们变得聪明、自主和多才多艺的基本过程。

艺术之美

Grossberg 写道，大脑进化是为了适应新的挑战。他说，有一套共同的大脑机制可以控制人类如何在不忘记他们已经学到的东西的情况下保留信息。

「我们保留对过去经历的稳定记忆，这些事件序列存储在我们的工作记忆中，以帮助预测我们未来的行为。」他说，「人类有能力在他们的一生中继续学习，而新的学习不会冲走我们之前学到的重要信息的记忆。」

了解大脑如何产生思想对于设计计算机科学、工程和技术领域的智能系统（包括人工智能和智能机器人）也很重要。

他说，经典人工智能面临的问题之一是，它经常使用可以从内省和常识中得出的概念和操作来建立大脑如何工作的模型。

「这种方法假设你可以用人们用来描述日常生活中的物体和行为的概念和词语来内省大脑的内部状态。」他写道，「这是一种吸引人的方法，但其结果往往不足以建立生物大脑如何真正运作的模型。」

他说，当今人工智能的问题在于它试图模仿大脑处理的结果，而不是探索产生结果的机制。Grossberg 说，由于大脑中有专门的回路，人们的行为会“即时”适应新的情况和感觉。他补充说，人们可以从新情况中学习，意外事件被整合到他们收集的知识和对世界的期望中。

他补充说，ART 的网络源自关于人和动物如何与环境互动的思想实验。「ART 电路作为多种环境限制的计算解决方案出现，人类和其他陆生动物已成功适应……」 这一事实表明，ART 设计可能以某种形式体现在所有未来的自主自适应智能设备中，无论是生物的还是人工的。

「技术和人工智能的未来将越来越依赖于这种自我调节系统。」格罗斯伯格总结道，「这已经在设计自动驾驶汽车和飞机等努力中发生了。当对大脑设计的更深入见解被纳入资金雄厚的工业研究和应用中时，想想还能取得多少成果，这是令人兴奋的。」

原文链接：https://spectrum.ieee.org/deep-learning-cant-be-trusted