PDF 物理页索引 1930
文件中的第 1931 页 · 印刷页码:未识别
PDF 物理页索引 1931
文件中的第 1932 页 · 印刷页码:未识别
这种基于特征的识别方法存在的问题,不仅在于针对世界上数万种不同物体开发特征检测器是非常耗费人力的,而且即便使用最精确的特征检测器,被部分遮挡住的物体的图像也会产生歧义,这使得识别混乱场景中的物体成了计算机所面临的一项艰巨任务。
20世纪60年代,没有人能想到我们要花上50年,计算机的运算能力需要提升100万倍,才能让计算机视觉达到人类的水平。当时有一种带有误导性的直觉,认为编写计算机视觉程序很容易。这种直觉是基于我们认为很简单的行为,例如看、听、四处走动——但这些行为是经过了几百万年的自然进化才实现的。让早期AI先驱十分懊恼的是,他们发现计算机视觉问题非常难以解决。相比之下,他们发现通过编写程序让计算机证明数学定理要容易得多——这个过程曾被认为需要最高水平的智能——因为计算机处理逻辑问题的能力比人类要强得多。逻辑思维是进化后期的产物,即便对于人类,也需要接受从逻辑命题到得出严谨结论的长期训练。然而,对于大多数我们所面临的生存问题,从以往经验中总结出的解决方案,在大部分时间都能发挥作用。
PDF 物理页索引 1932
文件中的第 1933 页 · 印刷页码:未识别
早期人工智能发展缓慢
20世纪七八十年代流行的人工智能专家系统,被开发用以通过遵循一套规则来解决医学诊断等问题。因此,一个早期的专家系统MYCIN,被开发用于识别导致感染性疾病如细菌性脑膜炎的细菌。<sup>[4]</sup>根据专家系统方法,MYCIN的开发者首先要收集由传染病专家提供的事实和规则,以及病人的症状和病史,然后将信息输入系统中的计算机,最后通过编写程序让计算机使用逻辑进行推理。然而,开发者在收集专家提供的事实和规则时遇到了麻烦,尤其是在更复杂的领域,最好的诊断医师并不依赖规则,而是依靠难以编码的基于经验的图案识别,<sup>[5]</sup>而且他们的系统必须随着新发现的诞生和旧规则的过时而不断更新。开发者在收集和输入病人的症状和病史信息时遇到了更多的困难。录入每个病人的信息需要花上半小时或更长的时间,忙碌的医生们根本腾不出这么多时间。因此,MYCIN从未被应用于临床是预料之中的事。尽管有许多针对其他应用的专家系统被开发了出来,例如有毒物质泄漏管理、自动驾驶车辆的任务规划,以及语音识别等,但如今,这些系统在实际生活中很少被用到。
研究人员在人工智能发展早期尝试了许多不同的方法,这些方法通常都很巧妙,但并不实用。他们不仅低估了现实世界问题的复杂性,而且提出的解决方案无法进行大规模应用。在复杂的领域中,规则的数量可能会非常庞大,并且随着新的事实的出现而不断被添加,跟踪所有规则的例外情况并与之互动变得十分不切实际。例如,道格拉斯·勒奈(Douglas Lenat)在1984年启动了一个名为“Cyc”的项目,想要将常识代码化,这在当时似乎是一个好主意,但实际操作起来却成了一场噩梦。<sup>[6]</sup>我们对世界上的大量事实都觉得理所当然,其中大部分都是基于经验。例如,从40英尺的高度落下的猫可能会毫发无损,<sup>[7]</sup>但是从同一高度坠落的人就不同了。
PDF 物理页索引 1933
文件中的第 1934 页 · 印刷页码:未识别
早期AI进展得如此缓慢的另一个原因是,数字计算机还处于非常原始的阶段,并且以今天的标准来看存储器成本十分高昂。但是由于数字计算机在逻辑运算、符号操作和规则应用方面非常高效,这些计算原语在20世纪会受到青睐并不令人惊讶。这也促使了卡内基–梅隆大学(Carnegie Mellon University)的两位计算机科学家艾伦·纽维尔(Allen Newell)和赫伯特·西蒙(Herbert Simon)于1955年写成了一套名为“逻辑理论家”的计算机程序,它可以证明 《数学原理》(Principia Mathematica)一书中的逻辑定理。《数学原理》是阿尔弗雷德·怀特海德(Alfred North Whitehead)和伯特兰·罗素(Bertrand Russell)尝试把所有的数学知识系统化的一套书。这一时期,人们对于智能电脑即将到来寄予了厚望。
那些试图编写具有人类智能的计算机程序的AI先驱,本身并不太关心大脑是如何实现智能行为的。我问艾伦·纽维尔其中的缘由,他告诉我,他本人对大脑研究的见解持开放态度,但当时根本没有足够的相关信息可以借鉴。大脑功能的基本原理在20世纪50年代才慢慢开始被揭开,相关领域的带头人包括艾伦·霍奇金(Alan Hodgkin)和安德鲁·赫胥黎(Andrew Huxley),他们解释了大脑信号是如何通过神经中的电脉冲来实现远距离传送的,而另一带头人伯纳德·卡茨(Bernard Katz)则发现了这些电子信号如何经突触转化为化学信号来实现神经元间的通信。<sup>[8]</sup>
PDF 物理页索引 1934
文件中的第 1935 页 · 印刷页码:未识别
到了20世纪80年代,人们对大脑的了解日益增加,并且在生物学领域以外对大脑的接触也变得更加广泛,但对于新一代的AI研究人员来说,大脑本身已经变得无关紧要了。他们的目标是编写一个程序,使其拥有和大脑一样的功能。在哲学里,这种立场被称为“功能主义”,对许多人来说,这是一个可以忽略生物学中杂乱细节的绝佳说辞。但是一小群不属于主流群体的AI研究人员认为,受大脑生物学启发的那些被称为“神经网络”、“连接主义”和“并行分布处理”的AI实现方法,会最终解决困扰基于逻辑的AI研究的难题。我正是那一小群人中的一个。
从神经网络到人工智能
1989年,MIT计算机科学实验室主任迈克尔·德图佐斯(MichaelDertouzos)邀请我到MIT做一个有关我在基于神经网络的人工智能领域采用的开拓性研究方法的“杰出学者讲座”(图2–4)。到场后,我受到了德图佐斯的热情接待。乘电梯时他告诉我:“MIT有个传统,杰出学者讲座的演讲者需要在午餐时用5分钟的时间与教师和学生一起讨论他的讲座话题。”“而且,”当电梯门打开时,他补充道,“他们挺反感你在做的事情。
PDF 物理页索引 1935
文件中的第 1936 页 · 印刷页码:未识别
房间里挤满了差不多一百人,德图佐斯也很意外。科学家们站成一个圈,足足有三层:高级教员在第一层,第二层是初级教员,学生在最后一层。我走到圆圈的中心,正对着自助餐的主菜。我要在这5分钟里说些什么,才能让那些讨厌我工作的人改变想法呢?
PDF 物理页索引 1936
文件中的第 1937 页 · 印刷页码:未识别
我开始即兴发挥,“食物上这只苍蝇的大脑只有10万个神经元;它大概重1毫克,要消耗1毫瓦的能量,”我边说边驱赶苍蝇,“苍蝇能看,能飞,可以自己确定飞行方向,还能觅食。但最不可思议的是,它可以通过繁殖来进行自我复制。MIT拥有一台价值1亿美元的超级计算机:它消耗的能量是兆瓦级的,并需要一台巨型空调进行冷却。但是,超级计算机的最大成本是要消耗大量人力,也就是说程序员要满足它对程序的巨大需求。这台超级计算机不能看,不能飞,虽然它能与其他计算机交流,但它不能交配或自我复制。看得出这个场景描述里有什么问题吗?”
在一段长时间的沉默之后,一位高级教员说道:“因为我们还没有编写视觉程序。”(美国国防部最近向其战略计算计划注入了6亿美元,这项计划在1983—1993年间运行,但是缺少了为自动驾驶坦克创建的视觉系统)。<sup>[9]</sup>我的回答是“祝你好运”。
在座的有杰拉德·苏斯曼(Gerald Sussman),他为用人工智能解决现实世界的问题做出了几个重要的应用,其中包括高精度轨道力学积分系统,为MIT致敬图灵经典杰作的AI实现方法挽回了尊严(图灵曾证明图灵机,即一个思维实验,可以计算任何可计算的函数)。“那需要多长时间?”我问。“你最好算快一点,否则就要有麻烦了。”我补充道,然后走到房间另一头给自己倒了一杯咖啡。我与教员的对话就这样结束了。
“这个场景出了什么问题?”是我实验室的每个学生都能回答的问题。但是在午餐时间,前两排观众都被难倒了。最后,第三排的一名学生这样回答:“数字计算机是一种通用设备,它可以被编程来计算任何东西,虽然效率很低,但苍蝇是一种专用计算机,可以看和飞,但无法平衡我的账户收支。”这就是正确答案。苍蝇眼中的视觉网络进化了数亿年,其视觉算法嵌入了它本身的网络。这就是为什么你可以利用苍蝇眼神经回路的布线图和信息流对视觉系统进行逆向工程,以及为什么你不能在数字计算机上这样做,因为硬件本身需要软件来指定要解决什么问题。
PDF 物理页索引 1937
文件中的第 1938 页 · 印刷页码:未识别
我认出了在人群中微笑的罗德尼·布鲁克斯(Rodney Brooks)。我曾经邀请他参加在马萨诸塞州鳕鱼角的伍兹霍尔市(Woods Hole)举办的计算神经科学研讨会。布鲁克斯是澳大利亚人,20世纪80年代,他是MIT AI Lab的初级教员。那段时间他使用不依赖数字逻辑的构架搭建了爬行昆虫机器人。他后来成了实验室主管,随后又创建了打造出Roombas的公司iRobot。
那天下午我做演讲的房间很大,挤满了本科生,新生代想要展望未来,而不是徘徊在过去。我谈到了一个学习如何玩西洋双陆棋的神经网络,这是一个与伊利诺伊大学香槟分校(the University ofIllinois in Urbana-Champaign)复杂系统研究中心(Center forComplex Systems Research)的物理学家杰拉德·特索罗(GeraldTesauro)合作的项目。西洋双陆棋是两名玩家之间的比赛,棋子根据掷骰子的点数向前移动,在途中可以跳过对方的棋子。与具有确定性的国际象棋不同,西洋双陆棋是由偶然因素控制的:每次掷骰子的不确定性都使得对特定棋步结果的预测更加困难。这是一款在中东地区非常受欢迎的游戏,其中一些人以玩高赌注的比赛为生。
考虑到有10<sup>20</sup>个可能的西洋双陆棋棋盘摆法,基于逻辑和试探法编写程序来处理所有可能的摆法将会是一个不可能完成的任务。于是,我们让神经网络观看教师对局,通过模式识别来学习下棋。<sup>[10]</sup>杰拉德后来让西洋双陆棋网络通过跟自己下棋进行学习,创建了第一个世界冠军级别的西洋双陆棋程序(第10章会详细讲述这个故事)。
演讲结束之后,我听说那天早上《纽约时报》有一篇关于政府机构如何大幅削减人工智能资金投入的头版文章。虽然对主流AI研究人员来说,寒冬已经来临,但它并没有影响到我和我的研究组成员,对我们来说,神经网络的春天才刚刚到来。
PDF 物理页索引 1938
文件中的第 1939 页 · 印刷页码:未识别
然而我们新的AI实现方法需要25年的时间才能在视觉、语音和语言方面提供实际应用。即使在1989年,我也知道这需要很长时间。1978年,我还在普林斯顿大学读研究生时就在想,按照摩尔定律,计算机的运算能力会呈指数级增长,每18个月翻一番,那达到大脑的计算能力需要多长时间?我的结论是,到2015年会实现。幸运的是,这并没有阻止我继续探索。我对神经网络的信仰是基于我的直觉,即如果大自然解决了这些问题,我们也应该能够从大自然中学习到同样的解决方法。而我不得不耐心等待的这25年,与自然界的数亿年相比,它仅仅只是一个瞬间。
在视觉皮层内部,神经元呈多层次排列结构。随着感官信息在皮层间层层传递,对世界的呈现也变得越来越抽象。几十年来,随着神经网络模型层数的增加,其性能也在不断提高,直到最终达到了一个临界点,让我们能够解决在20世纪80年代只能幻想却无法解决的问题。深度学习可以自动找出能区分图像中不同物体的优质特征的过程,这就是今天的计算机视觉比5年前好得多的原因。
到2016年,计算机的运行速度已经快了上百万倍,计算机内存也从兆字节升级到了太字节(terabytes)。与20世纪80年代只有数百个单元和数千个连接的网络相比,现在模拟出的神经网络具有数百万个单元和数十亿个连接。尽管按照拥有数千亿个神经元和千万亿个突触连接的人类大脑的标准来看,这个数字仍然很小,但现有神经网络的规模已经可以在有限领域中进行原理的证明。
基于深度神经网络的深度学习已经出现了,但在有深度网络之前,我们必须学习如何训练浅层网络。
[1] 虽然直到1970年才正式成立,麻省理工学院人工智能实验室(MIT AI Lab)于1959年就开始了相关的研究项目,并于2003年跟麻省理工学院计算机科学实验室(LCS)合并,组建了麻省理工学院计算机科学与人工智能实验室(CSAIL)。为了保持简洁和一致性,我把该机构统称为“MIT AI Lab”。
PDF 物理页索引 1939
文件中的第 1940 页 · 印刷页码:未识别
[2] 参 阅 Seymour A. Papert, “The Summer Vision Project,” AI Memo AIM-100, July 1, 1966, DSpace@MIT, https://dspace.mit.edu/handle/1721.1/6125。根据麻省理工学院2016级毕业生Michaela Ennis的说法:“有关麻省理工学院本科生被安排将‘计算机视觉’作为暑期研究项目的故事,帕特里克·温斯顿(Patrick Winston)教授每年都会拿到课堂上讲,他还说过这个本科生就是杰拉德·苏斯曼(Gerald Sussman)。 ,