PDF 物理页索引 80
文件中的第 81 页 · 印刷页码:未识别
图1-3(B)展示了一个用于识别“8”的感知机。该感知机具有324(18×18)个输入,每个输入对应于网格中的一个像素。给定如图1-3(A)所示的一个图像,则感知机的每个输入都被设置为对应像素的像素强度,同时,每个输入都有自己的权重。
注:18×18像素图像中的每个像素对应感知机的一个输入,该感知机共有324(18×18)个输入。
学习感知机的权重和阈值
与我之前描述的符号化的通用问题求解器不同的是:感知机中没有任何对其需要执行的任务进行描述的明确规则,感知机中的所有“知识”都被编码在由数字组成的权重和阈值中。罗森布拉特在他的多篇论文中,都展示了在给定正确的权重和阈值的情况下,图1-3(B)中的感知机可以很好地完成感知任务,例如,识别简单的手写数字。但是,我们如何为一个给定的任务准确地设定正确的权重和阈值呢?罗森布拉特再次给出了一个受大脑启发的答案:感知机应该通过自己的学习获得这些数值。
PDF 物理页索引 81
文件中的第 82 页 · 印刷页码:未识别
那么,它应该如何学习获得正确的数值呢?与当时流行的行为心理学理论一样,罗森布拉特的观点是:感知机应该通过条件计算(conditioning)来学习。这是受到了行为主义心理学家伯勒斯·斯金纳(Burrhus F. Skinner)的启发,斯金纳通过给老鼠和鸽子以正向和负向的强化来训练它们执行任务,罗森布拉特认为感知机也应该在样本上进行类似的训练:在触发正确的行为时奖励 而在犯错时惩罚。 如今,这种形式的条件计算在人工智能领域被称为监督学习(supervisedlearning)。在训练时,给定学习系统一个样本,它就产生一个输出,然后在这时给它一个“监督信号”,提示它此输出与正确的输出有多大偏离,然后,系统会根据这个信号来调整它的权重和阈值。
监督学习的概念是现代人工智能的一个关键部分,因此值得更详细的讨论。监督学习通常需要大量的正样本(例如,由不同的人书写的数字8的集合)和负样本(例如,其他手写的、不包括8的数字集合)。每个样本都由人来标记其类别——此处为“8”和“非8”两个类别,这些标记将被用作监督信号。用于训练系统的正负样本,被称为“训练集”(trainingset),剩余的样本集合,也就是“测试集”(test set),用于评估系统在接受训练后的表现性能,以观察系统在一般情况下,而不仅仅是在训练样本上回答的正确率。
PDF 物理页索引 82
文件中的第 83 页 · 印刷页码:未识别
也许,计算机科学中最重要的一个术语就是算法了,它指的是计算机为解决特定问题而采取的步骤的“配方”。罗森布拉特对人工智能的首要贡献是他对一个特定算法的设计,即感知机学习算法(perceptron-learning algorithm),感知机可以通过这一算法从样本中得到训练,来确定能够产生正确答案的权重和阈值。下面,我们来介绍它的工作原理。最初,感知机的权重和阈值被设置为介于-1和1之间的随机数。在我们的案例中,第一个输入的权重可被设置为0.2,第二个输入的权重被设置为-0.6,而阈值则被设置为0.7。一个名为随机数生成器(random-number generator)的计算机程序可以轻松生成这些初始值。
接下来就可以开始训练了。首先,将第一个训练样本输入感知机,此时,感知机还不知道正确的分类标记。感知机将每个输入乘以它的权重,并对所有结果求和,再将求得的和与阈值进行比较,然后输出1或0,其中,输出1代表它的输入为8,输出0代表它的输入不是8。接下来,将感知机的输出和人类标记的正确答案(“8”或者“非8”)做比较。如果感知机给出的答案是正确的,则权重和阈值不会发生变化,但是如果感知机是错误的,其权重和阈值就会发生变化,以使感知机在这个训练样本上给出的答案更接近于正确答案。此外,每个权重的变化量取决于与其相关的输入值,也就是说,对错误的“罪责”的分配取决于哪个输入的影响更大或更小。例如,在图1-
PDF 物理页索引 83
文件中的第 84 页 · 印刷页码:未识别
3(A)的“8”中,强度较低的像素(这里为黑色)影响较大,而强度为255的像素(这里为纯白色)则不会有任何影响(对此感兴趣的读者,可以查阅我在注释中介绍的一些数学细节 <sup>17</sup>)。
下一个训练将重复上述整个过程。感知机会将这个训练过程在所有的训练样本上运行很多遍,每一次出错时,感知机都会对权重和阈值稍做修改。正如斯金纳在训练鸽子时发现的:通过大量试验循序渐进地学习,其效果更好,如果在一次试验中,权重和阈值的改动过大,系统就可能以学到错误的东西告终。例如,过度关注于8的上半部分和下半部分的大小总是完全相等的。在每个训练样本上进行多次重复训练之后,(我们希望)系统最终将获得一组能够在所有训练样本上都能得出正确答案的权重和阈值。此时,我们可以用测试样本对感知机进行评估,以观察它在未曾训练过的图像上的表现。
如果你只关心数字8,那么这个“8”探测器就很有用,但若要识别其他数字呢?其实很简单,我们只需将感知机扩展到10个输出,每个输出对应一个数字就可以了。给定一个手写数字样本,与该数字对应的输出应该是1,而其他所有输出都应该是0。这个扩展的感知机可以使用感知机学习算法来获得其所有的权重和阈值,只需为它提供足够多的训练样本即可。
罗森布拉特等人证明了感知机网络能够通过学习执行相对简单的感知任务,而且罗森布拉特在数学上证明了:对于一个特定(即便非常有限)的任务类别,原则上只要感知机经过充分的训练,就能学会准确无误地执行这些任务。至于感知机在更一般的人工智能相关任务中会如何表现,我们尚不清楚。然而,这种不确定性似乎并没有阻止罗森布拉特和他在海军研究实验室的资助者对他们的算法做出荒唐的乐观预测。《纽约时报》对罗森布拉特于1958年7月组织的一次新闻发布会的报道,做出了如下说明:
PDF 物理页索引 84
文件中的第 85 页 · 印刷页码:未识别
今天,美国海军公布了一款预计能走路、说话、看东西、写字、自我复制,并能够意识到自我存在的电子计算机的雏形。据估计,感知机不久后就将能够识人,并叫出他们的名字,还能将一种语言的语音即时翻译成另外一种语言的语音和文字 <sup>18</sup> 。
是的,即便是刚出现的时候,人工智能就已在面临炒作的问题。稍后我将多讨论一些由这种炒作造成的不好的结果。现在,我想用感知机来强调人工智能的符号方法和亚符号方法之间的主要区别。
感知机的“知识”由它所学到的权重和阈值这对数值组成,这一事实,意味着我们很难发现感知机在执行识别任务时使用的规则。感知机的规则不是符号化的,不像通用问题求解器的符号,如“LEFT-BANK”“MISSIONARIES”“MOVE”等。感知机的权重和阈值不代表特定的概念,这些数字也很难被转换成人类可以理解的规则。这一情况在当下具有上百万个权重的神经网络中变得更加复杂。
有人可能会将感知机和人脑做一个粗略的类比。如果我能打开你的大脑,并对其中上千亿个神经元中的一部分进行观察,我可能并不能清楚你的想法或者你做某个特定决定时所用的规则。然而,人类的大脑已经产生了语言,它允许你使用符号(单词和短语)来向我传达你的想法,或者你做某件事的目的。从这个意义上说,我们的神经刺激可以被认为是亚符号化的,而以它们为基础的我们的大脑不知何故却创造了符号。类比于大脑中的亚符号化的神经网络,感知机以及更复杂的模拟神经元网络,也被称作“亚符号”派。这一派的支持者认为:若要实现人工智能,类似语言的符号和控制符号处理的规则,不能像在通用问题求解器中那样直接进行编程,而必须以类似于智能符号处理从大脑中涌现的方式,从类似于神经元的结构中涌现出来。
PDF 物理页索引 85
文件中的第 86 页 · 印刷页码:未识别
感知机是一条死胡同
在1956年的达特茅斯会议之后,符号人工智能阵营占据了人工智能的主导地位。20世纪60年代初,当罗森布拉特正积极投身于感知机的研究工作时,人工智能的四大创始人,也是符号人工智能阵营的伟大信徒,都各自创建了颇具影响力且资金充足的人工智能实验室:明斯基在麻省理工学院;麦卡锡在斯坦福大学;西蒙与纽厄尔在卡内基梅隆大学。值得注意的是,这三所大学至今仍然位于研究人工智能最负盛名的机构之列。明斯基认为,罗森布拉特以大脑为灵感的亚符号人工智能研究方法就是一条死胡同,而且正从更有价值的符号人工智能的研究中“窃取”研究资金 <sup>19</sup> 。1969年,明斯基和他在麻省理工学院的同事西摩·佩珀特(Seymour Papert)出版了一本名叫
PDF 物理页索引 86
文件中的第 87 页 · 印刷页码:未识别
《感知机》(Perceptrons ) <sup>20</sup> 的书,书中给出了一个数学证明,表明感知机能够完美解决的问题类型非常有限,因为感知机学习算法随着任务规模的扩大需要大量的权重和阈值,所以表现不佳。
明斯基和佩珀特指出,如果一个感知机通过添加一个额外的模拟神经元“层”来增强能力,那么原则上,感知机能够解决的问题类型就广泛得多 <sup>21</sup> ,带有这样一个附加层的感知机叫作多层神经网络。多层神经网络构成了许多现代人工智能技术的基础,下一章我将对其展开详细论述。在这里我要指出的是:在明斯基和佩珀特的书出版后,多层神经网络并没有得到广泛的研究,很大程度上是由于缺乏类似于感知机学习算法那样的对权重和阈值进行学习的通用算法。
明斯基和佩珀特对简单感知机的局限性的证明已广为该领域的人们所熟知 <sup>22</sup> 。罗森布拉特本人对多层感知机做了大量的研究工作,并意识到了训练多层感知机的困难 <sup>23</sup> 。研究者放弃对感知机的进一步研究,其主要原因并不是明斯基和佩珀特的数学证明,而是他们对多层神经网络的推测。
感知机有很多引人关注的特性:它的线性特征、有趣的学习定理,以及它作为一种并行计算而具有的明显的范式简洁性,但没有理由认为其中任何一个优点可以延展到多层神经网络。无论如何,我们的直觉判断是:这些延展是“不育的” <sup>24</sup> ,而如何阐明或驳斥我们的这一判断是一个重要的研究课题。
PDF 物理页索引 87
文件中的第 88 页 · 印刷页码:未识别
用现在的行话来说,最后一句可被称为“被动攻击”。这样消极的推测至少是造成20世纪60年代末神经网络研究经费枯竭的部分原因,而与此同时,符号人工智能则在挥霍着政府的资助。1971年,年仅43岁的罗森布拉特丧生于一次划船事故。没有了最杰出的倡导者,并且没有太多政府资金来支持,研究者对感知机和其他亚符号人工智能研究方法的相关探索基本上停止了,只有少数几个孤立的学术团体还在苦苦挣扎。
泡沫破碎<sub>,</sub>进入人工智能的寒冬
与此同时,符号人工智能的倡导者正在撰写拨款提案,并承诺将在语音和语言理解、常识推理、机器人导航,以及自动驾驶汽车等领域取得突破。到了20世纪70年代中期,虽然有几个聚焦面狭窄的专家系统得到了成功部署,但之前承诺过的更通用的人工智能突破并未实现。
资助机构也注意到了这一点。两份分别由英国科学研究理事会和美国国防部征集的报告,对人工智能研究的进展和前景的评价均非常消极。英国的报告特别指出:“面向高度专业化的问题领域的专家系统,只有当其编程非常充分地借鉴了人类经验和人类智能在相关领域的知识时,才有前景,但得出的结论是,迄今为止的结果,对通用问题求解器试图在更广泛的领域内模仿人类(大脑)活动来解决问题而言,彻底令人沮丧。这样一个通用目标程序,似乎仍然和以往一样,离人工智能领域梦寐以求的长期目标相当遥远。” <sup>25</sup> 这份报告导致了英国政府对人工智能研究的资助骤减,同样,美国国防部也大幅削减了对美国基础人工智能研究的资助。
PDF 物理页索引 88
文件中的第 89 页 · 印刷页码:未识别
这是人工智能领域的泡沫不断产生又破灭这种循环的一个早期例子。这一循环是这样运转的:
· 第一阶段,新想法在研究领域得到了大量的支持。相关研究人员承诺人工智能即将取得突破性的成果,并被新闻媒体各种炒作。政府资助部门和风险投资者向学术研究界和商业初创公司注入大量资金。
· 第二阶段,曾经承诺的人工智能突破没有如期实现,或者远没有当初承诺的那么令人满意。政府资助和风险资本枯竭,初创公司倒闭,人工智能研究放缓。
研究人工智能的群体已经熟悉了这一模式:先是“人工智能的春天”,紧接着是过度的承诺和媒体炒作,接下来便是“人工智能的寒冬”。从某种程度上来说,这一现象以5~10年为周期在不断上演。当我在1990年研究生毕业时,这一领域正处在一个寒冬,并且形成了一个非常恶劣的氛围,以至于有人甚至建议我在求职申请中避免使用“人工智能”这个词。
看似容易的事情其实很难
人工智能的寒冬给该领域的从业者带来了许多重要的经验和教训。达特茅斯学院研讨会举办50年后,麦卡锡总结出了最简单的一个教训:“人工智能比我们认为的要难。” <sup>26</sup> 明斯基指出,事实上,对人工智能的研究揭示了一个悖论:“看似容易的事情其实都很难。”人工智能计算机的最初目标是:计算机能够以自然语言与我们进行交谈,描述它们通过摄像头“眼睛”看到的事物,在看到几个例子之后就可以学会新的概念。这些小孩子做起来都很容易的事情,对人工智能来说却是比诊断复杂疾病、在国际象棋和围棋中击败人类冠军,以及解决复杂代数问题等更加难以实现的事情。正如明斯基所言:“总的来说,我们完全不清楚我们的心智最擅长什么。” <sup>27</sup> 创造人工智能的尝试,最起码帮助阐明了我们人类的心智是多么复杂和微妙。
PDF 物理页索引 89
文件中的第 90 页 · 印刷页码:未识别