$$
1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
$$
图 4-9 字符的数组表示
为了让计算机“看明白”图片中的数字是什么,必须让它先从训练集的多张图片中学习,学习的目标是找出训练集中每一张图片属于某个数字的特征。这些特征往往是模糊的,难以用语言精确表达,虽然人很难描述出来,但人类大脑却能毫不费力地认出图片属于某个数字的证据,这说明人类大脑其实是知道这些特征的。
按照神经网络解决问题的一贯思路,提取特征的办法是对图片的各个像素值进行加权求和,将训练集中的样本和标注数字进行对比,如果某个像素具有很负面的证据说明这张图片不属于某个数字的话,就把这个像素在该数字下相应的权重设置为负数,相反,如果这个像素拥有有力的证据说明这张图片属于某个数字,那么该像素的权重是正数。这不难理解,不管手写体还是印刷体,每个数字都有一些属于它们自己的特征,譬如对于数字“0”对应的图片,在图片中心的位置肯定不应该出现黑色像素(浮点值为 1),如果出现了就是负面证据,将降低这张图片属于数字“0”的概率。经过训练集中多张数字图片的校准之后,0 至 9 各个数字对应的像素权重分布情况大致如图 4-10 所示。
接下来,我们把图片到 0 至 9 这 10 个数字的分类过程,转化为 10 个 M-P神经元的工作过程,每个 M-P 神经元对应一个数字。每个 M-P 神经元有 196(14×14)个像素值的输入项,对应存储数字图片的 14×14 二维数组的每一个像素值。经过训练之后得到的各个像素值在该数字下的权重数据就作为该神经元的 196 个输入项的加权值,由此构成了一个由 10 个神经元共 1960 个带权重的连接线组成的神经网络。
第 4 章 连接主义学派
123