智慧的疆界 从图灵机到人工智能

“人工智能领域的每个人都在追求某种逻辑推理系统、遗传计算系统、统计推理系统或神经网络系统，但无人取得重大突破，原因是它们过于简单。这些新理论充其量只能解决部分问题，而对其他问题无能为力。我们不得不承认，神经网络不能做逻辑推理。例如，在计算概率时，它无法理解数字的真正意义是什么。”

在明斯基看来，人工智能应当类似于人脑，由有着不同功能和结构的区域去完成视觉、情感、思维、记忆、运动等不同类型的任务。他希望能实现《情感机器》一书中描述的思维体系结构，使人工智能在各种思维方式间切换。

4.8 人工智能的繁荣与寒冬

从 1956 年诞生起至 20 世纪 70 年代初这段时间，人工智能这门新兴学科一直与政府、学术界、工业界（还有风投资本家）处于“蜜月期”之中。在这20 年中，人工智能确实取得了一些成果和进展，不过在政府、媒体、科学界等各方的推波助澜下，人工智能也过早地向社会尤其是这个学科的资助者许下了太过浮夸的诺言，哪怕是学科里那些真正了解人工智能、真正潜心从事学术研究的学者，也过于乐观地估计了这门科学的发展进程。典型的诺言如 1957 年司马贺曾这样公开宣告：

“我的目标不是使你们惊讶或者震惊—我能概括的最简单的表述方式就是现在世界上已有机器能够思考、学习和创造，而且它们做这些事情的能力还将快速提升，直到可预见的未来，它们能够处理的问题范围将会扩展至人类思想所能企及的全部范围。”

在这种充斥着激进、盲目和乐观思潮的气氛下，类似的预言和承诺数不胜数，历史上有名的、出自这个领域几位大师之口的还有以下这些：

● 1958 年，纽厄尔和司马贺：“10 年之内，数字计算机将成为国际象棋世界冠军。”“10 年之内，数字计算机将发现并证明一个重要的数学定理。”

第 4 章 连接主义学派

135

● 1965 年，司马贺：“20 年内，机器将能完成人能做到的一切工作。”

● 1967 年，明斯基：“一代之内……创造‘人工智能’的问题将获得实质的解决。”

● 1970 年，明斯基：“在三到八年的时间里我们将得到一台具有人类平均智能的机器，这样的机器能够读懂莎士比亚的著作，会给汽车上润滑油，会玩弄政治权术，能讲笑话，会争吵，总之，它的智力将会无与伦比。”

这些预言在今天看来非常可笑，大师们“立下的 Flag”全以被现实啪啪打脸收场。可是在立下这些预言的那段时间里，这些预言和承诺确实促使许多社会资源集中到了人工智能研究上来。

1963 年 6 月，麻省理工学院从美国刚刚建立的高级研究计划局（ARPA，即后来的 DARPA，国防高级研究计划局）获得了 220 万美元的研究经费，用于资助开展历史上有名的“ MAC 工程”（Project on Mathematics AndComputation）。这个工程的主要研究方向之一便是人工智能，具体工作由明斯基和麦卡锡五年前建立的人工智能研究小组^○一承担。从此以后，ARPA 每年都为麻省理工学院提供 300 万美元针对人工智能的几乎无条件、无约束的专项经费，既不定具体方向，也不求具体产出。用时任 ARPA 主任的罗宾特·利克里德（Robnett Licklider，1915—1990）自己的话来说就是：“应该资助人，而不是具体的项目。”所以这些经费才能“佛系”到如此程度，允许研究者去做任何感兴趣的方向上的研究，这样的资助形式在政府对学术界的各种资助中是极不常见的。ARPA 的无条件资助一直持续至 20 世纪 70 年代才终止，这些经费促使麻省理工学院形成了无拘无束的研究氛围及其特有的“Hacker文化”。除了麻省理工学院以外，ARPA 还对纽厄尔和司马贺在卡内基梅隆大学的人工智能工作小组以及斯坦福大学的人工智能项目（由麦卡锡于 1963 年从麻省理工学院跳槽到斯坦福大学后创建）提供了类似的资助，当时世界上还有最后一个重要的研究机构是由唐纳德·米契（Donald Michie，1923—2007）于 1965 年在英国爱丁堡大学建立的人工智能实验室。在接下来的许多年，乃至今日，上述四所研究机构一直是全球人工智能领域领先的研究中心，也是经费汇集的中心。

136

第二部分 学派争鸣

○一 1970 年，在这个人工智能研究小组的基础上组建了麻省理工学院人工智能实验室，2003年，该实验室与计算机科学实验室合并，组建了当今世界上人工智能和计算机科学领域的顶级研究机构 CSAIL（MIT Computer Science and Artificial Intelligence Laboratory）。

不过好景不长，可能只是因为人工智能的研究者对其课题难度没有能够做出正确的判断，也有可能是想再一次证明盛极必衰是自然界的铁律，总之，过于乐观的估计令全社会的资源蜂拥而至，也使人们的期望变得过高，时光荏苒，当大家发现关于人工智能的承诺无法兑现时，虚幻的泡沫便注定要破灭。研究经费的走向是最直接的体现，对人工智能提供资助的各种机构，如英国、美国政府、国防高级研究计划局和美国国家科学研究委员会（National ResearchCouncil，NRC）等，都不约而同地终止了对没有明确方向和实用价值的人工智能研究的资助。随后，类似“人工智能即使不是骗局也是庸人自扰的想法”的情绪和言论迅速从政府、研究机构蔓延到全社会，整个社会对人工智能的前景从盲目乐观又转变为一种极度悲观和过分不信任的态度。这个阶段，在人工智能历史上被称为“第一次人工智能的寒冬”。

在寒冬之前，其实就已经出现过一些线索，预示了这一局面即将来临。最 早 在 1966 年， 自 动 语 言 处 理 顾 问 委 员 会（Automatic Language ProcessingAdvisory Committee，ALPAC）提交给美国政府的一份报告中，就对机器翻译的进展提出了充满批评和警告意味的评价^○一。这其实真怪不得别人批评，当时人工智能的自然语言处理能力确实难登大雅之堂。罗斯·奎利恩（Ross Quillian）在给听众演示他在自然语言方面的研究成果时，只能采用一个仅含 20 个单词的词汇表进行演示，因为当时的计算机内存只能容纳这么点词汇！还有不少关于人工智能的历史材料中记录着这样一个当时机器翻译的测试场景：翻译过程中，机器把“心有余而力不足”（The spirit is willing but the flesh is weak）的英文句子译成俄语再译回来之后竟然变成了“酒是好的，肉变质了”。美国自动语言处理顾问委员会的这份报告，后来导致美国国家科学研究委员会在为机器自然语言处理方面的研究累计拨款 2000 万美元后，最终不得不在没有获得任何有价值的成果的情况下停止了资助。

在大西洋的彼岸，1973 年英国数学家詹姆士·莱特希尔（James Lighthill，

第 4 章 连接主义学派

137

○一 报告具体内容地址：http://www.mt-archive.info/ALPAC-1966.pdf。

1924—1998）针对英国人工智能研究状况，发表了赫赫有名的《莱特希尔报告》，这篇公开的报告是一份具有广泛影响力的、直接“刺破”人工智能乐观思潮泡沫的调查文件，被视作人工智能寒冬开启的导火索。报告中严厉地批判了人工智能领域里的许多基础性研究，尤其是机器人和自然语言处理等几个热门子领域，并给出了明确的结论：“人工智能领域的任何一部分都没有能产出符合当初向人们承诺的、具有主要影响力的成果。”此外，报告特别指出人工智能的研究者并没有解决将人工智能应用于真实世界里必然会遇到的“组合爆炸”问题^○一。整份报告充满了对人工智能研究在早期兴奋期过后的全面悲观。《莱特希尔报告》不仅导致了英国人工智能研究的全面低潮，并且其影响很快扩散到了美国及其他人工智能的研究之中，到了 1974 年，各国政府的资助预算清单上已经很难再找到对人工智能项目的资助了。接下来长达十年的时间里，人工智能经历了历史上的第一次寒冬，一些几年前还在愈演愈烈的自吹自擂中狂欢的人工智能从业者，不得不纷纷锯短他们的鼻子^○二，转向其他领域去谋生。

回望历史，人工智能的低潮发生过不止一次，而在进入寒冬之前的几年，都有一些相似的征兆：学术界奋力地发表论文，学术明星获得万众追捧；所有擦边专业的学生纷纷转行搞起人工智能，市场给这类“人才”开出令人咋舌的高薪；企业、研究机构和学者做出一个又一个预测和承诺，媒体连篇累牍报道人工智能的进展；大众睁着一双双无辜的眼睛，好奇而惊恐地注视着他们不理解而又不敢不关注的一切。已经过去的寒冬，让今天处于温暖如春环境之中阅读此书的你我，都不得不去思考：这一次人工智能热潮，是真的引爆了奇点，抑或只是历史的另一个轮回？

其实，即使这次人工智能热潮仍然是一个历史轮回也不见得是一件多么可怕的事，每一个时代的技术浪潮都有这个时代的条件，有这个时代的使命。20 世纪 50 年代至 70 年代经历的第一次人工智能热潮里，不只有浮夸，也隐藏着不少真正的技术进步。例如卡内基梅隆大学的“语音理解研究”（Speech

138

第二部分 学派争鸣

○一 组合爆炸（Combinatorial Explosion）：随着优化问题规模的不断增加，决策变量取值的不同组合量、可行解数量以及寻找最优解时所需要考虑的组合量会迅速大幅增加，且往往呈指数级增加，最终导致无法从中找到最优解。

○二 格林童话《木偶奇遇记》中的主角匹诺曹，只要一撒谎鼻子就会变长。

Understanding Research）计划，当时甚至被 DARPA 评价为“一场骗局”，但是这个研究所开发出来的“隐马尔可夫模型”这样的“黑科技”，在数十年后成为计算机语音识别技术领域的一块重要基石，参与其中的研究者大多成为这个领域的一代宗师。寒冬过去之后，这些被时代尘灰所埋没的成果终会发出耀眼的光芒。

4.9 本章小结

本章是关于连接主义学派创建及其成果的一些故事，虽然故事带有悲剧色彩，但从今天大小企业各类职业的人员都在谈论神经网络就可以得知，连接主义并未在 20 世纪 70 年代初的人工智能寒冬中彻底死去，它仿佛武侠小说里面那些掉下山崖的侠客一般，总有奇遇，并凭此逆袭，终成主角，至少迄今为止它在人工智能领域都是主角。

沉寂十年后，人工智能在 20 世纪 80 年代开始再度爆发，引领这波浪潮的力量是符号主义，主要是知识工程和专家系统。而连接主义和神经网络也在 1982 年开始出现缓慢复苏的迹象，如 1982 年物理学家约翰·霍普菲尔德（John Hopfield，1933—）提出的“ Hopfield 网络”、1985 年特里·谢泽诺斯基（Terry Sejnowski）和杰弗里·辛顿（Geoffrey Hinton，1947—）共同发明的“玻尔兹曼机”（Boltzmann Machine）、1986 年辛顿提出的可以训练多层神经网络的“误差反向传播学习算法”（Back-Propagation）等都是连接主义中不可忽视的进步。不过，在 2006 年前后，虽然多层神经网络的训练问题已被初步解决，但由于神经网络建模的天生限制，也由于数据量和运算能力的限制，神经网络的效果一直不能算好，利用当时的计算机也难以实现大规模的神经网络，因此，当人工智能的第二次热潮在 20 世纪 90 年代逐渐退却时，神经网络又受到了冷落，自此，以“支持向量机”（Support Vector Machine，SVM）、“隐马尔可夫模型”（Hidden Markov Model，HMM）等为代表的统计学习方法“唱”了十多年的主角，直到 2006 年辛顿提出深度信念网络（Deep Belief Network，DBN）以后，神经网络真正具有统治力的时代—深度学习时代才真正来临，这部分内容和它的故事，留待第 7 章再进行介绍。

第 4 章 连接主义学派

139

第 5 章

行为主义学派

When God calculates and exercises his thought, the world is created.

上帝思考并实现其想法之时，便是世界被创造之时。

—戈特弗里德·莱布尼茨（Gottfried Leibniz），《创造世界》，1667 年

5.1 概述

人类是最具智慧的物种，但智慧到底是潜藏于人类的大脑之中，还是寄居于身体之内，这是一个长期悬而未决的哲学问题。图灵在他 1948 年写给英国科学院的论文《智能机器》^○一里面，就把研究智能的方向划分成了“具身智能”（Embodied Intelligence）和“非具身智能”（Disembodied Intelligence）两类^○二。关于“非具身智能”的研究，演进成我们今天传统的基于计算（Computationalism）的认知科学，符号主义学派所主张的观点便是追寻这类智能的具体表现。以非具身智能的角度来看，所谓智能即符号操作，起始于大脑的输入，终止于大脑的输出，智能和认知只关注这个符号操作过程。而“具身智能”的观点则认为智能、认知都是与具体的身体和环境密切相关的，它们之间存在内在的和本质的关联，智能和认知两者必须以环境中的具体的身体结构和身体活动为基础。智能是基于身体和涉及身体的，智能始终是具体身体的智能，而不能仅仅存在于脑海之中。

○一 当时并未发表，直至 1992 年图灵文集出版才得以公开。

○二 “ Embodied”和“ Disembodied”这两个单词没有特别权威的中文翻译方法，这里笔者采用的是哲学和认知科学中常用的译法，“具身”的通俗解释为“需要依赖具体的身体”。

前两章着重介绍了非具身智能的进展和成果，关于具身智能的研究同样在人工智能中成长发酵，形成了本章的主角—“行为主义学派”（Actionism），这是我们接触到的人工智能三大学派中的最后一个。“行为主义”在人类心理学领域已出现过，在人工智能领域里，这个学派是以《控制论》出版发行为起源标志的，因此又常被称为“控制论学派”（Cyberneticsism），根据其学派特点，有时候也被称作“进化主义学派”（Evolutionism）。

对控制论，部分人的潜意识中总是有种倾向，认为：“控制论的终点是完美的机械自动化，而自动化再完美，始终是规则集合的组合与重复，没有灵性与创造力，再完美的自动化与真正的智能化之间也始终存有不可逾越的鸿沟。”这种观念可能是不少人对控制科学、控制论的普遍误解，本章会谈到这种误解的来源。控制论诞生之初，它的目标就不仅仅是研究机器的理论，更是研究大脑的理论，我们不能通过一个章节了解控制论的全貌，但是应该了解清楚它的梗概与核心的逻辑。

另外还有一个现象值得注意，当今行为主义学派本身的应用及成果其实已经非常广泛，并不比另外两个学派差，甚至可以说建树颇多、成绩斐然了。但人工智能的圈子里对这个学派的研究、讨论却一直不温不火，其主要原因是大量相关的研究并没有归入人工智能范畴，而是放到了控制科学、人工生命、机器人学等与人工智能有密切关系的交叉学科之中。在本章，我们不囿于具体某个学科范畴，尽量系统性地介绍行为主义学派的人物、背景、观点和成果等全面的内容，这一切不妨先从“控制论之父”维纳说起。

5.2 引言：昔日神童

1894 年 11 月 26 日，诺伯特·维纳（Norbert Wiener，1894—1964）出生在美国密苏里州哥伦比亚市的一个犹太人家庭，他的父亲莱奥·维纳（Leo Wiener，1862—1939）是俄罗斯和波兰血统的犹太人，只有初中学历，18 岁从白俄罗斯孤身一人来到美国，不仅靠着自己的双手生存，还靠着自学成才。维纳出生时，他的父亲已是哈佛大学的语言学教授。

第 5 章 行为主义学派

141

维纳属于早慧孩子，3 岁时不仅能独立阅读《格林童话》《天方夜谭》这类儿童读物，还对许多在他那个年龄本应无法理解的科普作品产生了浓厚兴趣。可能是不想辜负儿子的天分，也可能是为了弥补自己年轻时未能接受良好教育的遗憾，维纳的父亲在维纳小时候，对他的教育就极为严格，按维纳自己的话说就是“发疯一样地要把自己培养成天才神童”。过于严厉的早期教育确实让维纳在智商和学业上有超乎常人的突出表现，但也在维纳内心留下了强烈而持久的心理阴影。维纳自己回忆这样的童年场景：

“在饭桌上，在朋友面前，父亲总是反复诉说我的某些幼稚、可笑的行为，使我如坐针毡，受尽精神折磨，他还经常向我提到祖父的一些缺点，这些缺点不久就会在我身上展露出来。

童年的经历令维纳患上了抑郁症，而且终身都没有治愈，以至于在他心中长期萦绕着莫名的背叛感，甚至多次产生自杀的念头。日后维纳在与政府、军方、媒体和其他学者交往时表现出来的不安全感，还有其他性格上的缺陷都可以解释为由此引发。严苛的教育还让维纳从小就患上深度近视，后来发展到必须扶着墙才能走路的程度。这些童年的往事，都在维纳自己撰写的自传《昔日神童：我的童年和青年时期》（Ex-Prodigy:My Childhood and Youth）中被一一记录了下来。

在父亲的高压、天才式培育下，维纳直接跳过了初等教育阶段，9 岁时便进入了高中就读，未满 12 岁就进入塔夫茨大学，14 岁获得数学学士学位。维纳不仅在所学的数学专业上有所建树，在生物、物理、逻辑、哲学这些领域的素养也非常高。获得学士学位之后，维纳首先在哈佛大学当了一年动物学的研究生，随后转到康奈尔大学研修哲学，一年之后又回到哈佛大学攻读数理逻辑，其间还抽空跑到英国剑桥大学师从罗素学习逻辑与哲学，又到德国哥廷根大学跟随希尔伯特学习数学，最后，18 岁的维纳在哈佛大学选择以哲学博士学位毕业。维纳的聪明与才华毋庸置疑，不过由于性格等，他的留校申请没有得到批准，只能转去麻省理工学院求职。1919 年起，维纳开始在麻省理工学院任教（见图 5-1），从此正式开始了他的学术生涯，并在那里工作和生活至去世。

142

第二部分 学派争鸣

维纳一生发表论文 240 多篇，著作 14 部，内容涵盖数学、物理、工程、生物和哲学等多个领域。其中最重要的成果，毫无疑问是在 1948 年出版的《控制论》（Cybernetics）一书，这是一部对近代科学影响深远的著作，开创了一个全新的学科“控制科学”（Control Science），也开创了人工智能中的行为主义学派。现在每当大家提及维纳时，都总是冠以“控制论之父”的头衔。

5.3 自动机对抗自动机

第二次世界大战期间，维纳接受了一项与防空火力控制系统有关的工作^○一。在这场人类历史上规模最大的战争期间，出现了许多对战争进程有着决定性影响的科学研究，而战争也推动科学向前跨越了一大段距离。二战同样是控制科

第 5 章 行为主义学派

143

○一 维纳的研究其实对战争并没有什么帮助，许多介绍控制论的资料对这部分都以春秋笔法一带而过。他承接的其实是一项研究经费只有 2000 多美元，用于预测德军飞机在空战中规避防空炮火行为的研究。而维纳提交了一份 100 多页的报告，其中只提到了两次“空战”和“防空”，其余都是满篇的公式和推导，被军方训斥为毫无作用的“黄色灾祸”，这件事情也成为后来维纳与军方交恶，转变为一个彻底的极端反战人士的导火索。

学诞生的一个关键机缘。

我们先把时间拨回到这门学科诞生前的 1940 年，这年 8 月，为了迫使英国尽快投降，纳粹空军决定对英国各大城市展开空袭，二战中规模最大的空战“大不列颠战役”拉开了序幕。8 月 13 日，超过 200 架德国轰炸机在重型战斗机的护航下向英国利物浦发动首轮轰炸，由此开始了对英伦三岛持续一年多的空中打击。10 月 15 日，纳粹空军向伦敦派出了 235 架轰炸机，英国的地面防御系统在此战中的表现极为难堪，地面守军用了 8326 枚高射炮弹，仅仅摧毁了两架德军轰炸机。持续到 12 月，英军地面炮火仅击落了 14 架德军飞机，而伦敦在轰炸中几乎沦为一片火海。

可是从地面角度来看，防空问题的确令人苦恼，仅是能够观察到敌机已经是一件相当不容易的事情了。德军的“容克 Ju 88 轰炸机”（Junkers Ju 88）速度很快，一旦它进入炮手的视线，再向其开火基本上就已经为时已晚，对敌机的有效观察必须依靠雷达系统才可能实现。除了需要雷达提高感知侦测能力之外，如何通过雷达反馈回来的信息计算好拦截的位置也是一个大问题，155 毫米防空高射炮射出的炮弹从射击开始算起，直到炮弹抵达纳粹容克轰炸机的飞行高度，需要在空中飞行整整 20 秒，其间容克轰炸机可飞跃 2.5 英里^○一，另外还有气流、风向、引力等因素需要修正，这涉及大量的数学计算才能找到准确的射击提前量。然后，精确地操控那些复杂的枪炮进行瞄准也是同样重要的问题，二战时期英军一门高射炮的不同部件之间可能会相距几百英尺^○二，中间通过电话线路相连，各个部件都需要不同人员协同操作，使用人工电话通话来传递信息。从地面的角度来看，用 8000 多枚炮弹就能够击毁两架来犯的容克轰炸机，已经称得上是足够“幸运”了。

军方给工程师下达的任务是尽最大可能提升防空火力的可用性，讨论方案时，工程师常使用“猎人狩猎”来比喻高射炮射击过程：有经验的猎人看到飞行的鸟，他的眼睛通过神经将视觉信息传送到大脑，大脑计算出提前量，找到步枪射击的合适位置，用手臂调整步枪的方位，预测小鸟的飞行轨迹并提前锁定目标，随着步枪扳机扣下，信息反馈和射击控制两个独立的过程同时完成。

144

第二部分 学派争鸣

○一 1 英里约等于 1.61 千米。

○二 1 英尺约等于 0.3 米。