“分类”是今天机器学习中最常见的应用之一,下一章会详细探讨这个问题。这里不妨先简化一下,按照最简单的 0-1 分类来理解,分类是指经过神经网络处理后,对符合特定特征的输入数据输出为 1,不符合的输出为 0。
逻辑与、或、非运算本身也可以视为一种最基本的分类操作,因此,即使对于仅由单个 M-P 神经元构成的感知机而言,也具备分类能力。例如,以图 4-16 所示的 M-P 神经元为例,通过调节连接线权重,切换成不同的逻辑运算,便可以对输入数据进行 0-1 分类。
● 令 $w _ { 1 } = w _ { 2 } = 1$ ,阈值 = 2,则 $y = f \left( \ 1 \times x _ { 1 } + \ 1 \times x _ { 2 } - 2 \ \right)$ ),仅在 $x _ { 1 } = x _ { 2 }$ 时才有 $y = 1$ ,否则 $y = 0$ ,即“逻辑与”的效果。
● 令 $w _ { 1 } = w _ { 2 } = 1$ ,阈值 = 0.5,则 $y = f \left( \ 1 \times x _ { 1 } + \ 1 \times x _ { 2 } { - } 0 . 5 \ \right)$ ,仅在 $x _ { 1 } = 1$ 或者 $x _ { 2 } = 1$ 时才有 y = 1,否则 $y = 0$ ,即“逻辑或”的效果。
● 令 $w _ { 1 } = - 0 . 6 , w _ { 2 } = 0$ ,阈值 = -0.5,则 $y = f \left( - 0 . 6 \times x _ { 1 } + 0 \times x _ { 2 } + 0 . 5 \ \right)$ ,在$x _ { 1 } = 1$ 时有 $y = 0$ ,在 $x _ { 1 } = 0$ 时有y = 1,即“逻辑非”的效果。
而对于更一般的情形,由多个 M-P 神经元组成的单层感知机可以将输入数据集中两类线性可分的数据,以一个超平面<sup>○一</sup>划分开来<sup>○二</sup>。上面的单个 M-P 神经元分割数据的例子,只是其中最简单的一个特例,相当于二维平面上的数据被一条直线分割成两个区域。
第 4 章 连接主义学派
129
○一 超平面是二维平面中的直线、三维空间中的平面在N维欧氏空间中的推广。
○二 讽刺的是,“感知机相当于以超平面划分数据”这个命题的严格数学证明并不是罗森布拉特给出的,而是明斯基和派普特在《感知机:计算几何学导论》中完成的。