为了应对多于一个神经元被激活的实际情况，神经元输出不再适合简单地以“是否激活”的离散形式来判断，这里需要将 M-P 神经元的阈值比较这部分改进一下，修改为输出一个代表神经元“被激活的强度”的连续值，然后把各个神经元的激活强度值都放入网络后方的 Softmax 归一化函数 （此处仅以Softmax 函数为例，也可以选择其他函数）中进行处理，以便抑制概率小的、增强概率大的数字分类。因此，真正可用于实际数字识别场景的神经网络模型将如图 4-13 所示。
以上便是感知机和神经网络应用于机器视觉识别的工作原理，在简单介绍了感知机的原理之后，我们再回到罗森布拉特和感知机的故事中。
在 IBM 704 主机中软件模拟成功两年以后，罗森布拉特成功地制造出了世界上第一台硬件感知机“ Mark-1”，就是本书第 1 章中展示过的得到美国海军高度评价的那台机器。Mark-1 的输入端是一个 20×20 的感光单元矩阵，以此将英文字符的光学信号转化为电信号，再通过物理线缆连接的方式将其与后面字母分类的神经元层相连。Mark-1 的训练方法是使用电动马达来调整连接线的电压计，以电压值来表示连接的权重。如果读者看懂了前面的感知机工作原理，那以今天神经网络有了长足发展后的眼光来看，这台感知机的原理并没有任何复杂之处，但是以当时的电气水平来说，真的把这样一台机器制造出来，场面还是颇为“壮观”的。读者可以通过如图 4-14 所示的这张实物图片来感受一下直接用物理连接来实现神经网络的 Mark-1 感知机的“复杂”程度。
第 4 章 连接主义学派
125
○一 归一化是指将有量纲的表达式转换为无量纲的表达式，成为标量。这里是通过 Softmax函数对向量进行归一化，在数字集中凸显其中最大的值并抑制低于最大值的其他分量，以加大最大的数值与其他数值的区分度。