智慧的疆界 从图灵机到人工智能

统一直运作至今，其他各个领域的著名专家系统如表 3-1 所示。

第 3 章 符号主义学派

95

到了 20 世纪 80 年代初期，社会舆论中甚至还出现了对各个领域的专家系统都建设完善后，将会引起许多行业被计算机代替，导致人员大规模失业的担忧，情况与 20 世纪 50 年代控制论盛行，社会上担忧机器人代替人类工作，还有今天机器学习盛行，大量媒体、文章鼓吹人工智能最终代替人类思考的情景相似。现在看来，当年人们担忧的场景并没有成为现实，专家系统确实在特定领域取得了不小的成功，计算机代替领域专家完成了一部分工作，部分缓解了组织里专家稀缺的问题，但专家系统遇到的最大困难也恰恰体现在领域业务专家的稀缺和不可代替的价值上。建设任何软件系统都离不开相应的业务专家，但是在建设专家系统这个问题上尤其突出，所有存储于系统知识库的知识都要依赖专家去输入、配置、维护和更新，这极大地限制了专家系统建设的效率，甚至动摇了其建设的可行性。当专家系统中知识的积累速度落后于领域知识的更新速度时，这个系统的价值就会逐渐降低，系统也将渐渐趋于死亡、淘汰。20 世纪 80 年代中后期，日本在经济最为发达的时候，曾经尝试过倾全国之力去建设被其称为“第五代机”的专家系统，但最终因设定的目标过高而以失败告终，这是人工智能发展史上的一大挫折。

3.5 从演绎到归纳

在知识系统的研发和建设过程中，人们就已经认识到了获取知识将会是这种系统的最大瓶颈，依赖人类专家给机器灌输知识，在某个专业领域还有些许可行性，但对于多数领域而言，靠人类专家是无论如何都不可能跟上知识膨胀的速度的。因此，随着知识系统研究的深入，人工智能学界重点关注的问题，又回到了“如何让机器有自我学习改进的能力”上，这个时期便是符号主义的“学习期”。

为什么是“又回到”呢？学习能力、记忆能力、思考能力既是人类智能的内在基础，也是人类智能行为的外在表现，这三项能力对应到计算机上，以符号主义学派的观点来看就是计算机“通过学习获取知识改进系统自身”“通过形式化手段描述并存储知识”“通过逻辑推理基于已有知识产生出新的知识”。还记得最初图灵那篇论文《计算机器和智能》中提出的“学习机器”吗？人工智能的探索就是从“如何让机器拥有自我学习改进的能力”，即从关注学习能力开始的，后来才转变到关注思考能力的“推理期”和关注记忆能力的“知识期”，所以这里才说是“又回到”了关注学习能力的阶段。

96

第二部分 学派争鸣

20 世纪 50 年代开展的最原始的机器学习研究，是从今天被大家称为“机械式机器学习”的学习方法开始的，这个学习方法在许多文档中采用了一个更通俗的名字—“死记硬背的机器学习”。说白了就是将样本都输入计算机，处理问题时直接匹配特征，如果计算机中有能匹配上的就有答案，如果匹配不上就没有答案。这个最原始的“机器学习方法”今天并没有被淘汰，反而变得更为常用，出现在几乎所有的信息系统中，只不过改了个名字叫“数据库查询”罢了，大家也不再认可这种死记硬背的做法是属于学习的范畴。塞缪尔的那个能自我学习提升棋力的跳棋程序，靠的就是“死记硬背”了 17 万个不同棋局的应对方法，最终打败了美国跳棋的州冠军，算是机械式机器学习“大力出奇迹”的典范。

20 世纪 70 年代后期，在机器学习重新成为符号主义学派主流研究方向的时候，其学习过程就不能再是简单的“死记硬背”了，这个时期的机器学习追求的目标是从大量样本数据中自动总结、提炼出隐藏在数据背后的知识，得到这些知识的形式化描述。换句话说，此时机器学习的目的是寻找隐藏在样本数据背后的规律（Rule）。因此，这个阶段的机器学习被称为“基于符号的机器学习”或者“基于规则的机器学习”。

基于符号的机器学习是从样本中总结得出知识，而前文提到在推理期科学家希望从少量最基础、最本质的知识推导出其他知识，这两个思路正好对应了人类认知世界的两种手段：演绎和归纳^○一。在逻辑学中更重视演绎^○二，但在现实生活中，归纳却是人类认知世界更常用的工具。笔者相信一个正常人知道苹果会从果树上掉下来，绝对不是根据万有引力定律演绎推理得出的结论，而是见过许许多多物品下落过程之后归纳出来的认知。以此类比，机器要获取智能，当仅依靠演绎推理搞不出成果时，那改试一下归纳推理就是自然而然的选择。

第 3 章 符号主义学派

97

○一 演绎是指从一般性的原理、原则中推演出个别性的知识，其思维过程是由一般到个别；归纳则是由个别或特殊的知识概括出一般性的结论，其思维过程是由个别到一般。

○二 狭义的逻辑是企图用一套一般性的原则来把保真的推理与不保真的推理区分开，所以狭义的逻辑只研究演绎推理，不研究归纳和类比，因为这两种推理方式不保真。广义的逻辑则承认任何被人类广泛使用的推理方式都必定有其合理性，需要追究这种合理性的来源和基础，因此广义的逻辑研究一切可能的推理方式，不限于演绎、归纳、类比等手段。

基于符号的机器学习算法中最成功、应用最为广泛的非“决策树学习”莫属。决策树是一种树结构，树的每个非叶节点表示一个特征属性上的测试活动，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放着一个分类类别。使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶节点，将叶节点所代表的分类类别作为决策结果。这个过程其实不复杂，但听起来还是有些拗口，我们通过一个生活中的例子^○一来说明一下决策树是如何工作的。假设一个场景是“有一位女孩的母亲要给这个女孩介绍男朋友”，她们的对话是这样的：

女儿：多大年纪了？

母亲：26。

女儿：长得帅不帅？

母亲：挺帅的。

女儿：收入高不？

母亲：不算很高，中等情况。

女儿：是公务员不？

母亲：是，在税务局上班呢。

女儿：那好，我去见见。

这个女孩决定是否要去相亲的决策过程，就是典型的决策树算法。她做出决策的心理历程相当于根据年龄、长相、收入和是不是公务员将男人分为两个类别：“见”和“不见”。假设这个女孩认为可以见面的筛选规则是 30 岁以下、长相中等以上并且是高收入或者中等以上收入的公务员，那么可以用图 3-7 表示女孩的决策逻辑。

98

第二部分 学派争鸣

○一 本例来源于网上文章，没有任何根据，也不代表任何女孩的择偶倾向。

生活中类似的决策过程有很多，常见的如去医院看病，医生也是根据不同的检查数据，将病人的症状与疾病对应起来形成诊断结果，哪些症状可能由哪些疾病引发，是靠以前的病例总结归纳而来的。决策树学习算法的核心是从训练集中自动归纳出一组分类规则，使得这组规则不仅能适应已知的训练样本，对于与样本同分布的未知新数据也有一致的泛化性能。说白了，就是让计算机通过若干训练数据，自动构建出一棵分类规则最合理的决策树。

对于如何从训练数据自动归纳出规则，即构建决策树的过程，目前已总结出一些成熟可行的算法，如 ID3 算法、C4.5/C5.0 算法、CART 算法、CHAID算法等，这些算法层面的内容对于本章来说过于具体了，等后面介绍机器学习时再讲，读者也可以很容易地在网上和教科书上找到这些经典算法的讲解，这里仅介绍一下这些算法构建决策树的共同思路。

无论是 ID3、C4.5，还是其他决策树的构建算法，都有一个总的原则，即在每一步选择一个最好的属性来分裂树。此处“最好”的定义是：针对这个属性分裂出分支后，会使得各个分支节点中的训练集拥有尽可能高的纯度。

第 3 章 符号主义学派

99

不同的算法可以使用不同的指标来定义“纯度”的高低，如“信息熵”（Information Entropy）、“基尼不纯度”^○一（Gini Impurity）、“错误率”（Error Rate）等都是可根据情况选择的指标。以信息熵为例，信息熵是香农在信息论中创造出来用于描述传输数据不确定程度的概念，数据的不确定性越大，信息熵也越大（这里数学公式和证明就不列了，读者可自行查阅相关内容）。香农在《信息论》中证明了只有不确定的数据才能携带信息，如果数据都是确定的，信息熵即为零，那这些数据也就无法携带任何信息了。对于构建决策树的场景而言，可以选择的分裂准则就是让按选定的属性分裂树之后划分到每个分支数据的信息熵最低，即纯度最高，决策树学习方法中把这个分裂过程称为“信息增益”。举个现实的例子，假设训练样本中有 10 个球，黑色、白色各 5 个，此时熵是1，这是最高的熵，表示任意取一个球的颜色的不确定性是最大的，而当使用颜色作为分裂树的属性后，得到的两个分支分别有 5 个黑球和 5 个白球，那两个分支各自的熵都是零，因为这时任意取一个球的颜色都是确定的。

对于数据集的样本数量小、样本的属性少的情况，构建决策树是很容易的，连人类手工都可以轻易完成，但是在面对大量样本和属性的时候，要构建一棵最优的决策树则是非常困难的，因为每一个节点选择的分类属性都对以后所有分支中的数据集有全局性的影响，通过样本训练出最优的决策树已经被证明是一个“NP 完全问题”^○二。由于此限制，实际应用决策树学习时，其训练过程通常采用启发式搜索算法来达到局部最优而不追求得到全局最优解。

对比现在最热门的基于神经网络的机器学习，以决策树学习为代表的基于符号的机器学习有一个很好的性质：它生成的模型是一个白盒模型，输出结果的含义很容易通过模型的结构来解释，而神经网络输出的是一个黑盒模型，最终结果往往是模型确实可以解决问题，甚至工作得非常好，但是人类无法根据模型去解释为什么会如此。可解释性是符号主义思想先天决定的，这也是基于规则的学习算法相比现在流行的基于神经网络的学习算法的一个巨大优势。

100

第二部分 学派争鸣

○一 基尼不纯度是指从数据集中随机抽两个样本，两者不一致的概率。基尼不纯度越小，数据集纯度越高。

○二 证明的相关论文地址：http://ieeexplore.ieee.org/document/1522531/。

3.6 符号主义的现状和未来

20 世纪 80 年代，人工智能研究的方向在经历了“关注机器如何实现自动推理”“关注知识”，最后转变成“关注机器如何实现学习和自我改进”之后，仍然没有见到通向终极智能的曙光。学术界对符号主义的热情开始逐渐变冷，随着符号主义进入最后一个阶段—“学习期”，它也逐渐丧失了在人工智能这门学科中的主导地位。究其衰落原因，笔者认为并不是符号主义的理论、方法被证伪，也不是出现了其他理论、方法比符号主义更为先进合理。

符号主义面临的主要困难有两点。一是“智能”实在是太过于复杂、抽象，人类的大脑能够解决的问题可以说无所不包，虽然其中的某些问题可以被形式化，特定问题可以找到支撑的科学原理，但是更多问题往往无法被形式化，也不清楚背后的运作机制，以至于利用在其他科学里一直行之有效的“根据具体现象，总结一般规律”“根据客观规律，推理未知现象”的研究方法研究智能，都显得有点无从下手。正是因为对智能的研究无法做到透过现象见本质，所以才有了后面基于统计和概率的、基于连接的、基于群体智能的新型研究方法的兴起，科学家选择其他这些方法，多少有些符号没有办法直达智能的本质，不得不退而求其次的无奈。

二是符号主义中的主要理论实现起来始终受到“ NP 完全问题”的困扰，即使很多理论上可行、至少值得去试一试的研究方法，也都因为最后被证明是“ NP 完全问题”，无法逃脱指数级别时间的增长而无法不打折扣地应用于智能的探索实践。“ NP 完全问题”虽然说到底算是算力大小的问题，但它是无法靠摩尔定律去突破的，若要以发展运算能力去应对的话，势必要等计算机体系结构发生重大变革，抛弃图灵机和冯·诺依曼架构，譬如生物计算机、量子计算机成熟之后才可能看到希望。

1986 年， 美 国 哲 学 家 约 翰· 海 格 兰（John Haugeland，1945—2010） 出版了一本名为《人工智能：非常想法》（Artificial Intelligence: The Very Idea）的书，书中将“用原始人工智能的逻辑方法解决小领域范围的问题”定义为“ GOFAI ”， 即“有 效 的 老 式 人 工 智 能”（Good Old-Fashioned ArtificialIntelligence）的英文缩写，这个定义很快就被学界广泛采纳，成为新旧人工智能的分界线。所以读者如果看到一些人工智能书籍中出现了“新的”“先进的”“现代的”这种形容词，并不一定是广告词，有可能是表明这本书会重点涉及 GOFAI 之后才成为主流的人工智能方法。典型的如彼得·诺维格（PeterNorvig） 的《人 工 智 能： 一 种 现 代 方 法》（Artificial Intelligence: A ModernApproach）、 尼 尔 斯·佩雷利（Nils Nilsson）的《人工智能：一个新的综述》（Artificial Intelligence: A New Synthesis）等书。

第 3 章 符号主义学派

101

符号主义从 20 世纪 80 年代末开始沉沦，一直持续到今时今日还处于低谷中，它到底是从此一蹶不振，还是另有再兴之日？对符号主义学派未来的预测，笔者不去下结论，但在这里可以引用一段中国科学院陆汝钤院士的看法^○一供读者参考：

对于符号主义学习的未来，有三种可能的回答：一是符号主义学习应该退出历史舞台了，二是今天主流的单纯的统计学习已经走到了尽头，再想往前走就要把统计学习和符号主义学习结合起来。三是事物发展总会有“三十年河东，三十年河西”的现象，符号主义学习还有“翻身”的日子。

第一种观点我没有听人明说过，但是恐怕有可能已经被许多人默认了。第二种观点我曾听王珏教授多次说过。他并不认为统计学习会衰退，而只是认为机器学习已经到了一个转折点，从今往后，统计学习应该和知识的利用相结合，这是一种“螺旋式上升”进入更高级的形式，否则，统计学习可能会停留于现状止步不前。至于第三种观点，恰好我收到老朋友—美国人工智能资深学者、俄亥俄大学Chandrasekaran 教授的来信，他正好谈起符号智能被统计智能“打压”的现象，并且正好表达了河东河西的观点。

信件全文如下：“最近几年，人工智能在很大程度上集中于统计学和大数据。我同意由于计算能力的大幅提高，这些技术曾经取得过某些令人印象深刻的成果。但是我们完全有理由相信，虽然这些技术还会继续改进、提高，但总有一天这个领域（指人工智能）会对它们说再见，并转向更加基本的认知科学研究。尽管钟摆摆回还需要一段时间，但是我相信一定有必要把统计技术和对认知结构的深刻理解结合起来。”

102

第二部分 学派争鸣

○一 引自陆汝钤院士为周志华教授《机器学习》一书所写的序言，文字略有调整。

3.7 本章小结

仅用一章来讲述人工智能发展中统治时间最长的一个学派的理论是肯定无法做到面面俱到的，由于篇幅所限，笔者只能尽量在本章把符号主义的主旨思想说清楚，很多涉及算法和技术细节的地方都没有深入甚至没有提及，笔者撰写本书的目的也并不在此。如果读者对符号主义的理论感兴趣（说实话，现在人工智能是基于统计和连接方法的天下，笔者认为对符号感兴趣的人并不会太多），可以寻找一些 2006 年深度学习提出之前的高校人工智能教材来阅读，这些书中对符号主义相关方法的讲解仍然占主要篇幅。

符号主义现在还不能简单地以“是否过时”“是否正确”来判断，这个学派的理论还处于一个等待未来给历史定论的状态，但是无论它最终的结果是东山再起还是就此沉寂，都是之前人工智能学者艰辛探索过的道路。明斯基在 2006年的 AI@50 大会总结报告中提到了他对当前人工智能研究的一些看法：

“当下太多人工智能研究只是想做那些最流行的东西，也只发表那些成功的结果。我认为人工智能之所以能成为科学，是因为之前的学者不仅发表那些成功的结果，也发表那些失败了的结果。”

这一段评价所指的虽然不一定是符号主义，但是放在本章结尾，用来诠释符号主义的意义却显得极为合适。

第 3 章 符号主义学派

103

·Chapter ·第 4 章

连接主义学派

For the first time in the history of science we know how we know and hence are able to state it clearly.

我们知道了我们是怎么知道的，这是科学史上的第一次。

—沃伦·麦卡洛克（Warren McCulloch），《走出形而上学的领域》，1948年

4.1 概述

自从图灵发表《计算机器和智能》一文，启发科学界开始严肃思考“机器是否可以拥有智能”这个问题以来，关于如何模拟实现出智能的探索就一直存在两种不同的观点：一派人的思想直接继承自图灵，他们主张从功能角度出发，让机器去模拟人类心智表现，而不去追求与人类一样的思维过程；另一派人主要来自研究人类大脑神经网络结构的学者，他们主张从生物结构角度出发，让机器先去模拟人脑构造，再从中获得智能。前文中，笔者曾分别用“机器拟人心”和“机器拟人脑”来形容这两种观点，经过上一章对符号主义学派理论的阐述，相信读者对“机器拟人心”的基本观点已有了概念，在本章，我们的主角自然就是持另外一个观点—“机器拟人脑”的研究者，在人工智能的历史上，他们被称为“连接主义学派”。