智慧的疆界 从图灵机到人工智能

与图灵同时代的另外两位天才则把计算机下棋这件事情理论化了，冯·诺依曼在 1944 年与经济学家奧斯卡·摩根斯顿（Oskar Morgenstern）合著的《博弈论》中首次提出两方对弈的“ Minimax 算法”，这是一种零和算法，主要思路是一方要在可选的分支中选择将其优势最大化的路径，另一方则选择令对手优势最小化的路径，两者的对弈过程就构成一棵博弈树。今天很多计算机系的大学生都会用这个算法来编写“井字过三关”之类的游戏程序，但是这个算法相对于博弈树的深度而言是指数级时间复杂度解决方案，所以没有办法直接处理较深的搜索规模，如果不加优化的话就只能用来做井字棋这样的小玩意了。达特茅斯会议上麦卡锡分享的“ α-β 剪枝”搜索就是对 Minimax 算法树的深度进行控制的一种有效的优化手段，多数情况下在走到叶子节点前就可以判断出是否有必要把该分支搜索完，直至今天它还在各种棋类程序上被广泛使用。也就是最近几年，计算机终于敢挑战下围棋这种即使摩尔定律再稳定运行个几千年都无法靠硬计算和剪枝完成搜索的终极棋类游戏了，基于概率搜索剪枝的蒙特卡洛树搜索^○才成为计算机棋界的新宠。

香农在 1950 年发表了论文《程序实现计算机下棋》（“ Programming aComputer for Playing Chess”），开启了计算机下棋的理论研究。他把棋盘定义为二维数组，然后从数学角度给出了一个棋类游戏复杂度的评估方法。以前我们只是知道围棋要比国际象棋难，国际象棋要比跳棋难，这是一个定性的结论，根据香农的这篇论文，我们终于可以定量地回答到底计算机攻克国际象棋要比攻克跳棋难多少，而攻克围棋又要比攻克国际象棋难多少这样的问题了。

从此之后，大多数棋类程序，从塞缪尔的西洋跳棋程序（见图 2-10）、纽厄尔和司马贺的国际象棋程序，到战胜人类国际象棋冠军的 IBM 深蓝，都是在香农、冯·诺依曼和麦卡锡他们总结的理论和算法之上运作的，多年来的改进主要集中在硬件的进步和小范围的技巧优化上，直至基于深度学习和概率的评估函数等新方法得到应用实践的证明，计算机下棋在理论层面才算有了较大的进步。

第 2 章 迈向人工智能

55

○一 概率在人工智能上的应用很早就出现了，在麦卡锡的达特茅斯会议计划书中就出现了“蒙特卡洛方法”来简化大脑思维模型的建议。这里写的“最近几年”是指在人工智能研究的后期这种方法的价值才被真正发现。

在这个时期值得一提的事件还有麦卡锡对象棋的贡献，麦卡锡在 1959 年到麻省理工学院创建 MAC 项目时，就找了几位本科生在他的指导下开始研究计算机下棋，其中一位名为阿兰·科托克（Alan Kotok）的学生所写的国际象棋程序在 IBM 最新的 7090 大型机的支持下终于击败了一些国际象棋的初学者，后来麦卡锡跳槽到斯坦福大学，还对这个程序不断改进，然后将其命名为“ Kotok-McCarthy”。这个国际象棋程序在历史上非常有名，出名的原因是1966 年美苏冷战从军事竞争转到了其他相对温和的竞争方式，两国决定举行世界上第一场棋类的“网络对战”（那时候自然没有互联网，是通过电报完成的），美方出战的“选手”就是这位计算机“棋手”Kotok-McCarthy，经过历时近五个月的鏖战，美国还是以 1∶3 不敌苏联。击败美国 Kotok-McCarthy 的苏联程序是“KAISSA”（象棋女神）的前身，KAISSA 的来头更大，它是 1971 年世界上第一次和人类职业棋手战平的那个国际象棋程序^○一，这样看麦卡锡即便输了也算得上是虽败犹荣。

56

第一部分 以智慧创造智慧

○一 KAISSA 和传奇大师鲍里斯·斯帕斯基（Boris Spassky）赛了两局，结果一负一和，虽然没有胜利，但逼平世界冠军一盘这个战绩震动了棋界。

2.6.2 模式识别

第二项关于机器定理证明和问题求解方面的内容，由于前文介绍“逻辑理论家”时已经简单地提到了一些，并且下一章讲解符号主义学派的理论时仍然会有相关内容，这里就暂且跳过，直接来看第三项成果：模式识别（PatternRecognition）。

“模式识别”这个词听起来很专业，如果要严格纠结它的精确定义^○一，确实也麻烦。笔者以通俗的方式来解释一下：譬如你现在看到这句由一连串汉字所组成的话，无论你目前看的是印刷书籍、电子书、扫描出来的图片 PDF 还是手抄的读书笔记，它们可能材质、大小、颜色、亮度、线条都有差异，却完全不影响你理解每一个字的意思，因为你的大脑在不自觉间就将这些不同的线条图像（数据样本）根据你上学时老师教的汉语知识和汉字形状（特征）映射到了一个个具体的汉字（分类）上，你的大脑自动完成的这个过程就叫作模式识别。

人类的模式识别能力天生就是极为强大的，我女儿 4 岁时仅在幼儿园绘本和电视早教节目上看过大象的卡通形象，当我第一次带她去动物园见到真正的大象时，她就可以毫不费力地建立“这个动物就是大象”的认知，哪怕这个动物真正的样子和它的卡通形象差异极其巨大。而计算机要完成模式识别却是极为困难的，不信的话，读者思考几分钟看看如何给“大象”下一个特征定义，让计算机程序可用这个定义分辨出一个物体是不是大象。

1958 年，塞弗里奇在《魔宫：一种学习范式》（Pandemonium: A Paradigmfor Learning）一书中提出第一个模式识别的特征匹配模型，他将其称为“魔鬼城堡”模型。按照塞弗里奇的说法，这个模型有四个层次（或者叫阶层等级系统），每个层次上有“魔鬼”（Demon）执行着某个特定的任务，并依次工作，直到最终实现模式识别。这四个层次由低到高依次命名为“印象鬼”（ImageDemon）、“特征鬼”（Feature Demon）、“认知鬼”（Cognitive Demon）和“决策鬼”（Decision Demon)。塞弗里奇虽然是以一种奇幻的风格，用四层的魔鬼城堡来描述这个模型，但如果我们以神经网络的观点来看，这个模型其实相当于一个四层神经网络，逐层特征提取的思想就是现在卷积神经网络的精髓（我们将在第 7 章讲这部分内容）。1957 年罗森布拉特完成的能识别英文字母的感知机Mark-1 本质上就是基于神经网络来完成的，不过罗森布拉特的感知机是一个单层网络，与塞弗里奇的“魔鬼城堡”模型并无直接关系。

第 2 章 迈向人工智能

57

○一 模式识别在维基百科上的定义是“通过计算机用数学技术方法来研究模式的自动处理和判读”。此处举的是文字识别的例子，实际并不限于文字，语音波形、地震波、心电图、脑电图、图片、照片、文字、符号、生物传感器等任何数据源都可以进行有意义的模式识别。

1959 年，塞弗里奇完成了一个实用化的能识别“手工印刷体”（Hand-Printed）英文字符的模式识别程序，操作者扫描印刷的内容后，程序就会自动处理掉页边留白、字体粗细这类印刷干扰，然后完成噪点消除、边缘增强等处理，并将处理后的结果存储在一个 32×32 的数组中，每个数组元素用 0和 1 分别表示黑色和白色，最后对这个二维数组进行识别并输出结果^○一。同年，IBM 公司也发布了一个光学字符识别程序，提出了“光学字符识别”（OpticalCharacter Recognition，OCR）的概念，计算机模式识别从最简单的印刷体字符识别开始了商业应用的初步尝试。

1962 年，IBM 在西雅图世界博览会上还发布了一款名为“ Shoebox”的语音识别机器，如图 2-11 所示。这部机器可理解 16 个英文单词，分别是 0到 9 这十个数字的英文，以及六个操作指令（Minus、Plus、Subtotal、Total、False、Off），操作者使用语音说出想要计算的内容，机器便会打印出计算结果，Shoebox 可能是最早具有实用价值的模式识别成果。

58

第一部分 以智慧创造智慧

○一 资料来源是尼尔斯·佩雷利（Nils Nilsson）的 The Quest for Artificial Intelligence（2009）。

2.6.3 自然语言处理

在人工智能的第一个快速发展期中，还有一项较大的成果诞生在自然语言处理领域，实现了人机对话、机器翻译从无到有的突破。人与机器使用自然语言而不是纸带、指示灯、屏幕、键盘进行交互，一直是人们想象中智能机器必须具备的基本能力，在此基础上，机器完成自动翻译、秘书助理等应用就是顺理成章的事情。

在人工智能有了突破的同一时间，语言学界也出现了革命性的变化。20 世纪前半段，美国语言学界的主流语法理论是伦纳德·布鲁姆菲尔德（Leonard Bloomfield，1887—1949） 建 立 的“结 构 主 义 语 法”（StructuralGrammar），这种理论认为一种语言中的有意义的形式排列就构成这种语言的语法，反对根据语义来分类。而乔姆斯基（他已在前文中被提及几次，这位大师的学术影响横跨语言学、心理学、计算机学等多门学科，并且影响十分巨大）在 1957 年发表的名著《句法结构》（Syntactic Structure）里提出了一个革命性的观点，他认为语言能力是人类心智的一种基本功能，人类大脑中天生就有处理语言的“模块”存在。由于人脑结构的一致性，人类最根本的语言处理机制是一致的，这种机制就是人类一切语言所共有的特点，可以视为一种“通用语法”（Universal Grammar），各种语言的具体语法可以由通用语法来转换生成。乔姆斯基提出的这种语法被命名为“转换生成语法”（Transformational-Generative Grammar）。

转换生成语法首先被应用在计算机科学领域，并获得了极大成功。这里还必须提到的是乔姆斯基在 1956 年提出的著名的“乔姆斯基层级”（ChomskyHierarchy）。该层级包含四个层次的语法：0 型语法描述的是递归可枚举语言，对应的自动机是图灵机；1 型语法是上下文有关语法；2 型语法是上下文无关语法；3 型语法描述的是正则语言，对应的是有限状态自动机。如果看到这段话的读者是非计算机或者语言学专业的人士，可能会感觉这是一连串陌生的专业名词，但如果是计算机专业的读者，就会清楚这些是编译原理课程中最基础的知识和概念。简单来说，乔姆斯基在计算机语言上的贡献是为高级程序设计语言和编译器的设计提供了语言学的理论基础，使得从一种形式语言转换生成另一种更基础的语言成为可能。如果没有乔姆斯基的贡献，也许现在程序员还不得不使用与机器指令一一对应的汇编语言来开发程序，一边查指令表一边敲代码。

第 2 章 迈向人工智能

59

不过，转换生成语法在自然语言上虽然掀起了一场语言学的认知革命，但仅从结果来看，并没有获得在计算机语言上那样的成功，毕竟计算机语言与自然语言的复杂度不可同日而语。自然语言的歧义性（如“打击力度”就是名词短语，但“打击盗版”就是动词短语）和语法规则不确定性（常用规则可能只有几十条，但是算上非常用的语法规则就几乎无法穷举，甚至有些规则还互相矛盾）都是其复杂性的来源。而且从学术理论的角度来看，经过一系列学说大辩论，语言学逐步发展后，今天主流的语言学界并不认同乔姆斯基的观点。但是无论如何，对于 20 世纪 50 年代刚刚开始“自然语言处理”（NaturalLanguage Processing，NLP）领域研究的学者而言，终于有一套可以被计算机操作的理论进行指导了。直至 20 世纪 80 年代之前，NLP 的主要思路都是按照“短语结构语法”（Phrase Structure Grammar，PSG，是转换生成语法的一个分支）的理论进行分析的。

如图 2-12 所示，1965 年出现了世界上第一个真正意义上的聊天机器人程序，即麻省理工学院计算机实验室的约瑟夫·维森鲍姆（Joseph Weizenbaum）开发的程序：ELIZA。

60

第一部分 以智慧创造智慧

以今天的眼光来看，ELIZA 的语言处理能力极为简陋，仅是用符合语法的方式将问题在语料库中匹配到的答案复述一遍，丝毫没有智能可言。不过当时媒体截取了一些刻意构造的人机对话，将 ELIZA 评论成一个很聪明的机器人。现在看来，与其说 ELIZA 聪明，不如说人很笨，因为 ELIZA 只存储了几十条规则，如表 2-1 所示。

由于媒体对 ELIZA 的广泛渲染，后来在人工智能领域还出现了一个名词—“伊莉莎效应”（ELIZA Effect）^○一，这个词的意思是说人可以过度解读机器的结果，读出原来根本不具有的意义。

类似 ELIZA 这种人机对话的处理形式，后来还继续发展壮大，形成了所谓的“人工智能标记语言”（Artificial Intelligence Markup Language，AIML）。在大量人工语料库的支持下，基于 AIML 的聊天机器人 Alice^○二号称自己甚至能够通过图灵测试。

现在来看这种依赖于堆砌语料库的机器人完全没有什么技术含量可言，但在生成式语言模型被提出以前，纯靠“人工”令机器获得“智能”的做法是建造对话机器人的主流方案，当时业内有不少号称研发对话机器人的公司靠着这种方式博取眼球来获得投资。在 BERT 和 GPT 出现后，类似于 AIML 的语料库方案迅速被扔进了历史的垃圾堆中。关于生成式人工智能的内容是近几年的重要成就，笔者将在第 8 章专门展开介绍。

本节笔者介绍了人机对弈、模式识别和自然语言处理三个领域的人工智能早期成果，在这些领域的探索刚刚开始时，大多数人工智能学者都有相似的期盼：也许实现了这些目标，机器就能算拥有智能，至少能算找到探索机器智能的路径了。在人工智能发展了 60 多年后的今日，以上问题终于获得了较为完美的回答：人机对话在 ChatGPT 出现之后进入了具有较强实用性的阶段；人机对弈方面，随着计算量最大的围棋被攻克，计算机在这个领域已经全面碾压了人类；模式识别方面，在某些特定领域，计算机已经超过了人类眼睛（具体案例在第 7 章介绍 ImageNet 比赛的时候会提到）。

第 2 章 迈向人工智能

61

○一 伊莉莎效应：https://en.wikipedia.org/wiki/ELIZA\_effect。

○二 Alice 网站：http://www.alicebot.org。

在本节即将结束之时，笔者再提一个当年曾被提出过并引起了不少讨论的问题：计算机能够根据人类的问题检索并生成符合人类思维逻辑的答案，能够在象棋或围棋的棋盘上碾压人类世界冠军，那它算是拥有智能了吗？绝大多数人的答案肯定是不算，而且会给出一些理由，譬如计算机下赢人类，是靠特定的算法或者数据训练出来的模型来实现的，与人类下棋过程中的思考方式根本不一样，又或者计算机能在下棋上下赢人类，依然有其他很多不如人类的领域，不能将下棋的技能迁移到各种领域就不算拥有智能的特征……随着科技的发展，类似人机对话、人机对弈这种被计算机完全解决的问题在日后还会越来越多，只是上至复杂的生成和决策系统，下至家里的扫地机器人，某项工作一旦被计算机攻克了，人们了解了这些行为背后的原理之后，它立刻就变得代表不了智能，归入可机械化的任务了。我们人类定义的“智能”范围，似乎随着人工智能的发展成果而不断变窄，业界将这个趋势称为“ AI 效应”^○一，这一点也是大家总觉得人工智能还很遥远的心理原因之一。用麦卡锡对 AI 效应的一句很著名的评语“ As soon as it works，no one calls it AI anymore”结束本节。

2.7 本章小结

在本章小结中，笔者引用一段 AI@50 会议总结报告与各位读者共勉：

“想要确定某个学科确切的起源时间通常是很困难的，但是 1956 年的达特茅斯会议被公认为人工智能成为一个新研究领域的开端。麦卡锡当时是达特茅斯学院的一名数学教授，组织这次会议源于他对自己与香农合作的论文集

62

第一部分 以智慧创造智慧

○一 AI 效应：https://en.wikipedia.org/wiki/AI\_effect。

Automata Studies 不理想而感到失望，因为其中收录的论文并未提到多少计算机实现智能的可能性。因此，在麦卡锡、明斯基、香农和罗切斯特为 1956 年达特茅斯会议所写的计划书中，进一步明确了‘人工智能’这个概念，麦卡锡也被认为是‘人工智能’这个专业名词的创造者，为这个领域的研究指明了方向。设想一下，如果当时采用‘计算智能’或者其他任何一种可能的词，现在人工智能领域的研究会不会有所不同？”

—AI@50 会议总结报告

大会主席詹姆斯·摩尔（James Moor）

第 2 章 迈向人工智能

63