智慧的疆界 从图灵机到人工智能

“在我们面前有两条通向智能的路，一条是模拟人脑的结构，条是模拟人类心智，但我相信这两条路最终是殊途同归的。”

从历史发展看，皮茨的总结非常有预见性，70 年来，人工智能的探索历程就是“结构派”和“心智派”^○一交替提出新理论和新发现，交替占据主流地位。

以皮茨的划分方式，图灵本人应该算是“心智派”的代表人物，他寻找能实现智能的抽象模型这项工作，直至去世都没有成功，其他科学家也尝试着另外的途径去寻找人工智能。从实践角度来看，“结构派”的思路似乎更为可行，至少可以模仿生物结构，道路更为“有迹可循”一些。与许多来自仿生学灵感启发的发明一样，人们直接想到了从模拟人类大脑功能结构出发来寻找智能。笔者在这里简要地列举这个过程中的一些里程碑事件，涉及的具体理论和知识，会在后面关于神经网络和机器学习的章节里详细介绍：

● 1904 年，西班牙病理学家拉蒙·卡哈尔（Ramon Cajal，1852—1934）提出了人类大脑包含大量彼此独立而又互相联系的神经细胞的神经元学说。

● 1943 年，心理学家沃伦·麦卡洛克（Warren McCulloch，1898—1969）和皮茨在《数学生物物理学通报》上发表论文《神经活动中内在思想的逻辑演算》（“ A Logical Calculus of The Ideas Immanent in NervousActivity”），文中讨论了理想化、极简化的人工神经元网络，以及它们如何形成简单的逻辑功能，首次提到了人工神经元网络的概念及数学模型，从而开创了通过人工神经网络模拟人类大脑的研究时代。后来人们将这种最基础的神经元模型命名为“M-P 神经元模型”。

第 1 章 洪荒年代

25

○一 “结构派”和“心智派”便是后来人工智能三大经典学派中的“符号主义学派”和“连接主义学派”。

● 1949 年，心理学家唐纳德·赫布（Donald Hebb，1904—1985）在《行为组织学》（The Organization of Behavior）这部著作中提出了基于神经元构建学习模型的法则。他认为神经网络的学习过程最终发生在神经元之间的突触部位，突触的联结强度随着突触前后神经元的活动而变化，变化的量与两个神经元的活性之和成正比。该方法被称为“Hebb 法则”（Hebb’s Law）。

● 1952 年，IBM 的 程 序 员 阿 瑟· 塞 缪 尔（Arthur Samuel，1901—1990）在 IBM 700 系列计算机上开发了一款西洋跳棋的程序。该程序并不是由开发人员将下棋的方法通过算法编程的方式直接赋予计算机，而是通过算法赋予计算机一定的学习能力，使之能够观察位置并学习一个隐式模型以在后一步棋中获得更好的策略。塞缪尔用该程序下了许多盘棋，发现经过训练的程序最后能比人下得更好。这款西洋跳棋程序有力地反驳了当时认为机器不能超越所写的代码并学习人类的策略模式这一观点。到 1959 年，这款程序打败了塞缪尔本人，在 3 年之后，甚至打败了州跳棋冠军，这是塞缪尔本人所无法做到的。塞缪尔还创造了“机器学习”这一概念，并将其定义为：“在没有明确指令的情况下赋予计算机能力的一个研究领域。”

● 1957 年， 心 理 学 家 弗 兰 克· 罗 森 布 拉 特（Frank Rosenblatt，1928—1971）首先将 Hebb 法则用于模拟人类感知能力，并提出了“感知机”（Perceptron）的概念模型，希望这个模型能够作为承载智能的基础模型。罗森布拉特在康奈尔大学航空实验室的 IBM 704 计算机上完成了感知机的仿真后，成功申请到了美国海军的资助，并于两年后成功制造出一台能够识别英文字母的基于感知机的神经计算机—Mark-1。Mark-1 在 1960 年 6 月 23 日向美国公众展示，本章开头引言部分所引用的《纽约时报》那段海军高度评价的主角就是 Mark-1，如图 1-8所示。

感知机之后，结构派还有很多值得记录的里程碑事件，大多和机器学习有关，笔者不打算在第 1 章里继续列举了。从今天我们还没有真正走进智能化时代这个现实结果可以得知，结构派的尝试同样没有成功，但与心智派所处的困境不同，结构派所面临的许多困难是由于训练数据不足、计算能力不足所导致的，更多是工程可行性上的困难。如果不考虑工程可行性，单纯从理论可行性来说，很多实验和机器都是可以实际建造和验证的（这里的“建造”，既包括真实的感知机和芯片，也包括在今天的计算机上通过算法逻辑搭建）。所以说结构派没有成功却也没有失败，只是受限于当时的计算能力，无法得出可实用化的结果罢了。随着今天计算能力（尤其是 GPU 这种多核强并行计算的硬件的出现，正适合模拟神经元的激发过程）的发展，基于机器学习的方法确实完成了很多以前代表人类智能的工作，如下棋、对话、视觉识别、辅助决策等。

26

第一部分 以智慧创造智慧

不过，鉴于人类大脑是地球上最复杂的系统工程，我们对大脑进行的反向工程目前还暂处于“盲人摸象”的状态。欧盟脑计划和美国脑计划这类项目建立了开放式的合作机制来收集海量、全面的大脑数据，但缺乏对等的合作机制来探究统一、基本的大脑理论。今天计算机硬件也已经出现了一些模仿人类大脑的神经形态芯片项目，譬如 IBM 的 TrueNorth，还有高通的 Zeroth，虽然它们都声称已经成功开发出了非冯·诺依曼的新型计算机架构，然而就背后对应的非图灵机的新型计算模型而言，仍是毫无头绪。

图灵已经找到了计算能力的基石，但寻找智慧的基石这项工作，仍然没有见到成功的曙光，世界在等待着下一个“图灵”的出现。

第 1 章 洪荒年代

27

1.10 机器拟人身

关于寻找智能的途径，除了“心智派”和“结构派”之外，还有一种主流的观点，认为智能应该是由具体行为表现出来的，智能和认知都与具体的身体、环境密切相关，它们之间存在内在的和本质的关联，必须以一个处于特定环境中的具体的身体结构和身体活动为基础。智能是基于身体和涉及身体的，始终是具体身体的智能，而不能仅仅存在于脑海之中。

图灵也考虑过这种智能的形式，他在 1948 年的论文《智能机器》（“ Intelligent Machinery”）中，把研究智能的方向划分成了“具身智能”（Embodied Intelligence）和“非具身智能”（Disembodied Intelligence）两大类。图灵和香农的研究主要走的是非具身智能这条路，而具身智能则以提出控制论的维纳为代表，著有《自复制自动机理论》（“ Theory of Self-ReproducingAutomata”）的冯·诺依曼也是探索这方面的先驱者之一。

对于非具身智能的研究，无论是“心智派”还是“结构派”，都是从人类大脑和心智开始的，而对于具身智能的研究，则没有把目光聚焦在具有高级智能的人类身上，而是首先关注比人类低级得多的生物，譬如昆虫。即使是简单的昆虫也能够展现出机器无法企及的智能行为，灵活摆动身体、快速而稳定地行走、聪明地避开障碍物、躲避捕食者的攻击这些行为，尽管对于人类或者绝大部分动物来说都是刻在骨子里头的本能反应，但是对于机器而言，要表现出类似的行为，则存在着极大的困难，这里涉及的控制技巧和能力非常复杂，将这些在人类看来再普通不过的行为视作机械智能行为的一种也毫不为过。对于这条探索智能的道路，我们不妨称为“行动派”。

如果说心智派在研究模拟智能的软件，结构派在研究模拟智能的硬件，那行动派就是在研究模拟智能生物的身体了。与心智派、结构派互相竞争不同，行动派的学者和经典人工智能学术圈总是保持着若即若离的关系，后续发展出来的成果也大多体现在控制科学、机器人学这些来自人工生命的领域之中，反而不喜欢被烙上“人工智能”的标签。

在人工智能真正成为一门学科之后，我们所说的心智派、结构派和行动派也有了自己严谨的理论和学说，分别发展成人工智能中的三大经典学派：符号主义学派、连接主义学派和行为主义学派。在本书的第二部分，笔者将会用三章的篇幅，深入地讲解这三个学派的学说理论和发展成果。

28

第一部分 以智慧创造智慧

1.11 本章小结

本章以 1956 年为界，介绍了达特茅斯会议之前人工智能还处于洪荒混沌时期的关键事件和理论学说。关于历史的介绍会贯穿全书，笔者希望除了纪念图灵等人工智能先驱所做的探索和努力外，还能普及一些基础概念、理论、模型和算法产生的背景、用途，以及历史上对这些新事物有过怎样的思考和争论。我们研究人工智能，必须站在巨人的肩膀上看世界，如果不了解“智能”这样基础的概念，不了解前人是如何思考、定义和判别的，一开始就从“深度学习”等当前热门的几个细分人工智能分支入手的话，会很容易陷入管中窥豹的困境。

本章时间线到 20 世纪 50 年代初期为止的另一个关键原因是“主角”图灵因同性恋问题在 1952 年受到惨无人道的迫害。出于军事保密等原因，图灵的贡献和成就并没有为他提供应有的庇护，他被判处执行长达一年多的化学阉割。1954 年，图灵不堪折磨，选择吞食涂有氰化物的苹果结束了他传奇的一生^○一。直至二战结束 30 多年后，图灵的贡献才逐渐向公众公开。在无数人的抗议和争取下，英国政府受到了极大的压力，2013 年 12 月 24 日英国女王伊丽莎白二世破例（首次对逝者赦免）宣布赦免已去世将近 50 年的图灵，2017 年 1月 31 日，《图灵法案》生效，历史上与图灵有类似经历的约 49000 位因同性恋定罪者都被赦免。

1966 年，美国计算机协会（Association for Computing Machinery，ACM）以图灵的名字设立了“图灵奖”（A. M. Turing Award），用于纪念图灵对计算机科学所做的卓越贡献。图灵奖现在已成为像自然和人文科学界的诺贝尔奖、数学界的菲尔兹和沃尔夫奖一样的计算机科学、信息科学和人工智能科学界的最高荣誉和奖项。

第 1 章 洪荒年代

29

○一 有传闻说图灵是乔布斯一生的偶像，苹果公司选择被咬了一口的苹果作为 LOGO 是为了纪念图灵，但是苹果公司并没有承认这一点。

第 2 章

迈向人工智能

Our purpose is not to guess about what the future may bring; It is only to try to describe and explain what seem now to be our first steps toward the construction of Artificial Intelligence.

我们的目的并不是去猜测未来会出现什么，而仅仅是尝试去描述并解释清楚我们应该如何迈出通向人工智能的第一步。

—马文·明斯基（Marvin Minsky），《迈向人工智能》，1961 年

2.1 概述

现在一说起人工智能的起源，公认是 1956 年的达特茅斯会议，原本学术圈之外听说过这个会议的人并不多，但随着人工智能在近几年来再次成为科技界乃至全社会的焦点，达特茅斯会议也逐渐为公众所了解。由于人工智能一词天生的神秘色彩，这个会议似乎也附带上了一道朦胧而神秘的光环。通过学习本章，我们将了解这个会议的诸多细节，了解人工智能这门学科诞生的历史背景，以及人工智能这门学科建立后与之相关的一系列学者、学说的竞争。

新学科的诞生通常意味着打破一些旧的观念和枷锁，所以新学科的出现需要有旧学科无法解决的问题被提出，需要有开创者去思考和动手解决问题，需要有与旧理论、旧观念斗争的勇气和力量，也许还需要有一点机缘巧合的运气，这个过程中必将出现很多传奇的人物和故事，也必将产生很多令人惊叹的成果。

2.2 引言：不经意间改变世界

1953 年夏天，普林斯顿大学数学系的一位博士研究生决定把他博士生涯的最后一个暑假用在和他的师兄一起去贝尔实验室勤工俭学上。尽管以学生标准而言，这两位年轻人都已算是出类拔萃的优等生了，但按计算机学者的标准来说，他们还只是两个初出茅庐、籍籍无名的学术界新人。在他们进入贝尔实验室的时候，连他们自己都不可能想到人工智能这门新兴学科甚至整个信息科学和计算机科学，会由于他们不经意间的一次勤工俭学而发生改变。这位即将毕业的博士生的名字叫马文·明斯基（Marvin Minsky，1927—2016），和他一起去贝尔实验室当“临时工”的师兄^○一叫约翰·麦卡锡（John McCarthy，1927—2011），如图 2-1 所示。

第 2 章 迈向人工智能

31

○一 麦卡锡和明斯基同岁，因为在加州理工学院读本科时跳了两级，所以他的博士学位比明斯基早两年多获得。

第 1 章里，笔者讲述了 1943 年香农和图灵在贝尔实验室的自助餐厅中围绕“机器与智能”的一系列讨论，当时埋了一个伏笔：图灵和香农分开后，各自的研究工作都引发了一系列人工智能史上极为重要的事件的发生。图灵的研究工作我们已经介绍过了，本章我们就从香农的研究工作说起。

距离和图灵讨论“机器与智能”问题过去了 10 年时间，香农仍然没有解答出当时讨论的焦点问题—图灵机能否作为智能的抽象模型，但他也没有放弃对这个问题的思考。当香农看到那两个新进贝尔实验室的年轻人简历上的研究方向^○一时，他立即决定把他们安排到自己身边工作。此时的香农在贝尔实验室已经不是当年那位数学组的小研究员了，在 1948 年《信息论》公开发表后，人们逐渐意识到香农这部著作的巨大价值，谈论信息论甚至成为当时科学界（是整个科学界，而不仅仅是信息科学）的一种潮流。香农的学术地位越来越高，他被誉为信息学的奠基人之一，在星光璀璨的贝尔实验室也是一位绝对的领头人物，找两位年轻实习生参与自己的研究是轻而易举的事情。

对于香农研究的问题，麦卡锡给出一个非学术的建议：“这个问题恐怕仅靠咱们几个搞不定，三个臭皮匠赛过一个诸葛亮，不如我们来汇编一部关于机器模拟智能的文集，让全世界做智能研究的学者都来投稿，贡献一下智慧吧。”香农稍加考虑之后同意了麦卡锡的这个提议^○二，但是他一贯低调，不喜欢使用“机器模拟智能”这类过于吸引眼球的名字，因此决定将这部文集定名为《自动机研究》（Automata Studies）。

这部文集的汇编工作很快开始，但进展并不顺利，以至于不足 300 页的文集耗费了三年时间才公开出版发行。不顺利的原因倒不是没有学者愿意投稿，以当时香农在学术界的吸引力不太需要担心这一点，实际上投来的稿件的确不少，而且入选的几乎都是大师的文章，除了香农自己提供的两篇关于通用图灵机研究的文章外，还有如马丁·戴维斯（Martin Davis，1928—，与图灵一样是邱奇的学生，《可计算性与不可解性》《逻辑的引擎》的作者）、斯蒂芬·克莱尼（Stephen Kleene，1909—1994，也是邱奇的学生，《元数学导论》的作者）、冯·诺依曼、威廉·艾什比（William Ashby，1903—1972，《设计大脑》的作者，控制论学派的代表人物之一）等人的文章被收录进去，当然明斯基和麦卡锡也有文章被收录进去了。这部文集的出版之所以不顺利，主要是因为它拟定的主题如同它的名字“自动机研究”一样，太过于笼统，以至于投稿来的大量文章与图灵机和机械智能都没有什么关系，这就偏离了发起人当时决定汇编这部文集的初衷^○一。图 2-2 是《自动机研究》原稿展示。

32

第一部分 以智慧创造智慧

○一 关于研究方向，明斯基的博士论文题目是《神经网络和脑模型问题》（“ Neural Nets andThe Brain Model Problem”），是较早的神经网络研究之一，麦卡锡的博士论文也是关于机器模拟智能的。

○二 有说法是汇编这部文集的想法是由普林斯顿大学的另一位研究生杰里·雷纳（JerryRayna）提议的，麦卡锡只是向香农转达了这个想法。文中麦卡锡说的话肯定是笔者杜撰的，原话怎么说的不重要，大家意会即可。

1955 年夏天，麦卡锡又到 IBM 公司去干临时工，虽然在一年前（1954 年）他就已经受聘为达特茅斯学院（Dartmouth College）数学系的助理教授了，但是美国的教授和中国的不一样，暑假是不发工资的，因此即便已经不是学生了，麦卡锡还是逃不掉“勤工俭学”的日子。

这次麦卡锡“勤工俭学”的老板是纳撒尼尔·罗切斯特（NathanielRochester，1919—2001），他是 IBM 公司信息中心主任，也是第一代通用商用计算机“IBM 701”的主设计师。在 IBM 做 700 系列商用计算机的研发人员中很多都对机械智能感兴趣，譬如其中就有前文提到的写过有自学习能力的西洋跳棋的那位 IBM 第一代程序员塞缪尔。罗切斯特自己也对机械智能研究极感兴趣。当麦卡锡和他谈到这个话题时，两人一拍即合，决定共同发起一场与机器和智能领域有关的活动，并且给这个活动设定了七个明确的讨论范围和希望解决的问题：

第 2 章 迈向人工智能

33

○一 根据麦卡锡的自述：“香农不喜欢华而不实的术语堆砌。他整理的卷宗为《自动机研究》。但其中收集到的文章让我很失望，有关智能的内容并不多。所以在 1955 年开始筹备达特茅斯计划时，我希望开门见山，使用了‘人工智能’这一术语，目的是让参与者弄清楚我们是在干什么。”

1）自动计算机：所谓“自动”是指可编程的计算。

2）编程语言：这里并不同于今天的 Java、C、C++ 等编程语言，而是“如何为计算机编程使其能够使用人类语言”的意思。

3）神经网络。

4）计算规模理论（Theory of Size of a Calculation）：这个议题说的是如何衡量计算设备和计算方法的复杂性。

5）自我改进：这个议题就是说机器学习。

6）抽象概念：这里是说令计算机可以理解和存储那些人类可以轻易判别但是难以精确定义的概念。

7）随机性和创造性。

当时麦卡锡和罗切斯特的计划是通过这个会议，召集一群计算机、通信、心理学、数学等领域的学者，用两个月左右的时间交流讨论，至少解决这些问题中的一个甚至几个，进而逐步解决如何令机器拥有智能这个大问题。

从这个目标我们就可以看出当时计算机科学家的想法，他们更多的是把人工智能或者说如何令机器拥有智能当作一个新兴的学术问题去研究，而不是作为一门新兴学科来看待。只是在研究的过程中，大家很快就发现这个问题是“无底天坑”，牵扯到的新旧知识和理论越来越多，不同理论学说之间还常常有争论和摩擦，进而形成新的理论，就这样，人工智能逐渐由一个学术问题发展为一门学科。

2.3 达特茅斯会议

吸取了策划《自动机研究》的教训，麦卡锡在深思熟虑之后，给这个活动起了个别出心裁的名字：“人工智能夏季研讨会”（Summer Research Project onArtificial Intelligence）。然后他拉上当时已经毕业，在哈佛大学做助理研究员的明斯基一起，给洛克菲勒基金会写了一份项目计划书^○一。麦卡锡的项目计划书考虑得十分周全：为了方便吸引与他们有类似情况的大学教师和研究员参加，活动时间定在了第二年（1956 年）的夏天；麦卡锡向洛克菲勒基金会申请了13500 美元的资助（后来实际批了 7500 美元），以便支付参会者两个月的薪水，也相当于为自己解决了明年暑假的“勤工俭学”；为了组织方便和节省经费，地点就定在麦卡锡执教的达特茅斯学院，如图 2-3 所示；为了活动的号召力和权威性，他又说服香农成为会议的组织发起者之一，实际上香农并没有参与这个会议的任何具体工作，最多就是做了一些“点赞和转发”（是指让麦卡锡以他的名义寄送一些会议邀请）之类的事情，但项目计划书中所列的“第一发起者”（Originators of This Proposal）就是香农。

34

第一部分 以智慧创造智慧