2024 年 10 月,为表彰辛顿在神经网络和深度学习领域做出的贡献,瑞典皇家科学院决定将 2024 年度的诺贝尔物理学奖授予辛顿。尽管不少科学家认为凭借“利用计算机和人工智能技术帮助各个领域的物理科学取得突破”这样的理由被颁授诺贝尔物理学奖多少显得有些牵强,但学术界几乎无一人对辛顿的学术水平提出过质疑。从此,辛顿成为继“通才”司马贺之后人类历史上第二位同时获得图灵奖和诺贝尔奖的双料得主。
7.6 深度神经网络
自掀起深度学习热潮以来,短短几年时间,大量不同的基于深度神经网络的模型竞相争艳,其中有一些是已有悠久历史的模型,封尘多年终于在这波热潮中迎来大展身手的机会,有一些则是近几年最新的研究成果,新的方法和模型在一些之前未能很好解决的问题上有良好的表现。
2016 年,国外网站 asimovinstitute.org 整理了一份当时 24 种常见的神经网络类型和它们的用途简介<sup>○</sup>,笔者稍加整理,放在本节供读者作为技术词典之用,如表 7-2 所示。后面笔者还会对其中的卷积神经网络和循环神经网络这两种比较具有代表意义的深度神经网络模型进行更详细的介绍。
表 7-2 常见的神经网络类型及其用途简介
一、感知机和前馈神经网络
第 7 章 深度学习时代
283
○一 资料来源:http://www.asimovinstitute.org/neural-network-zoo/。