使用认知心理学解释深度神经网络

    原标题：使用认知心理学解释深度神经网络：DeepMind新研究破解AI黑箱问题

    近日，DeepMind在其官方博客上发表了一篇题为《Interpreting Deep Neural Networks using Cognitive Psychology》的文章，试图通过认知心理学来解决深度神经网络中的「黑箱问题」，随着神经网络被广泛应用于实际问题，这一问题正变得越发重要；并且在已被ICML收录的DeepMind最新论文《Cognitive Psychology for Deep Neural Networks: A Shape Bias Case Study》中，其证明了认知心理学工具能够揭示DNN背后隐藏的计算特性，同时也为人类学习语言提供了一种计算模型。机器之心对博客文章和论文摘要进行了编译。原文链接见文中。

深度神经网络已经学会去处理一些令人感到惊奇的任务——从图像识别和推理物体，到在 Atari 游戏和围棋上超越人类。由于这些任务和网络结构正在变得更复杂，神经网络学习的解决方案也会变得更加难以理解。

这就是「黑箱」问题，而且它正在变得越发重要，因为神经网络正在被应用于越来越多的实际应用当中。

在 DeepMind，我们正在努力去扩展用于理解和解释这些系统的工具包。在我们最新的论文中（最近被 ICML 收录），提出了一种解决此种问题的新方法，即利用认知心理学的方法去理解深度神经网络。认知心理学通过判断行为表现来推断认知层面的机理，并且涵盖大量的详述这些机理的资料和实验论证。由于我们的神经网络在一些特定任务中可以接近人类的水平，因此认知心理学方法与黑箱问题之间的关系也正在变得越来越紧密。