于是在第二层将中间层计算的结果当作输入变量，重新进行“线性组合+激活函数”的操作，最终得到输出值。这样一个2层的神经网络的计算过程就完成了。
7.1.3 深度神经网络
神经网络可以有多个隐藏层，当我们使用更多的层数时，实际上就是在构造所谓的深度神经网络。在实际应用中，我们会使用几十个甚至几百个隐藏层。并且事实证明，让网络变得更深层确实会提高模型的准确率。几百层的结构的确会比简单的几层网络表现得更优秀。
我们再来看深度神经网络的结构。每个隐藏层可以有任意数量的神经元，可以大于、小于或等于输入层变量个数，但一般至少要有2个，每层的数量也可以各不相等。图7-7是一个2个隐藏层的神经网络案例。在每一层一般使用同一个激活函数，不同层之间的激活函数可以不相同。
在介绍神经网络的训练前，我们要先弄明白一件事。前面所提到的神经网络的层数、每层的神经元节点数以及每个地方激活函数的选择都是预先指定的，而不是被训练的，也就是说，它们是神经网络模型的超参数。
神经网络由神经元、网状结构和激活函数构成。图7-7中的每一个节点都是一个神经元，神经网络通过网状结构将每一层的信息传递给下一层。而信息传递的方式正是前文描述的通过线性组合生成新的神经元的形式。神经网络看似复杂，但简单来说，其实只干了三件事：
（1)对输入变量施加线性组合。
(2) 套用激活函数。
(3) 重复前两步。
人工智能与大数据技术导论
196