智慧的疆界 从图灵机到人工智能

我们先来介绍图灵测试，与当年和香农争论“智能该如何定义”这个问题时的思路不同，经过几年时间的探索，图灵意识到在当时的学术积累下强行定义智能将是适得其反的。因此，图灵在《计算机器和智能》的开篇就直接说明了他不会正面地明确定义何谓“智能”，而是先假定智能可以被机器所模拟，然后对机器是否拥有智能给出了一个侧面的判定途径：

“如果人类由于无法分辨一台机器是否具备与人类相似的智能，导致无法分辨与之对话的到底是人类还是机器，那即可认定机器存在智能。”

第 1 章 洪荒年代

15

这个简单的机器对人类的“模仿游戏^○一”便是现今举世闻名的图灵测试。图灵在提出图灵测试的时候，并未想到会对后世产生如此深远的影响。大概从1998 年互联网兴起开始，每隔一段时间就有企业或机构出来声称自己研制的机器人通过了图灵测试，这几乎都是商业操作和宣传的噱头，无一例外都是特定条件下，如“在 5 分钟或者 20 句的对话中，成功令若干个受测者认为与他对话的机器是个 13 岁的孩子”这一类型的“通过测试”。而图灵所定义的图灵测试，更接近于一个思想实验，并未规定参加测试的机器要和人对话多长时间，要骗过受测者中的多少人，参加测试的人的智力、年龄等应该在什么样的水平，机器应该模仿一个年龄多大的人等^○二（论文中倒是列举了很多可能提的问题和计算机回答的场景来进行论述，但并未对测试加以任何条件限制）。图灵测试中所指的人，更多是一个泛称，而非特定的某类人或某个个体。

迄今为止，包括 ChatGPT 在内^○三，还没有任何智能机器能够通过真正意义上的图灵测试。有趣的是，因为机器在图灵测试上一次又一次的失败，人类基于机器通过这种测试的困难度，反而创造出图灵测试最广泛的应用场景，这种应用在网络上随处可见—图形验证码。验证码的英文单词“ Captcha”其 实 就 是“通 过 图 灵 测 试 来 完 全 自 动 地 分 辨 出 计 算 机 和 人 类”（CompletelyAutomated Public Turing test to tell Computers and Humans Apart）这句话的英文首字母缩写。

1.6 智能与人类的界限

今天主流的人工智能研究中，直接以创造出能通过图灵测试的人造智能机械为目标的研究项目其实极为罕见。这一方面是因为图灵测试的难度实在太高，难以出成果；另一方面是因为图灵测试所提出的目标其实已经超过了人类自身的需要，就好比人类不断地制造更好的飞机肯定是为了更快、更舒适地旅行，而不是为了它飞得更像鸽子以至于能欺骗其他鸟类。

16

第一部分 以智慧创造智慧

○一 图灵的论文中对该测试的命名就是“模仿游戏”，“图灵测试”是后人为纪念图灵而定的名字。

○二 图灵只是在论文中做了一个预测：“大概 50 年以后（即 2000 年），一台拥有 1GB 内存（预测挺准确的）的计算机，可以在 5 分钟左右的询问后，让 70% 的人无法判断它是不是一台机器。”

○三 在加州大学圣迭戈分校发表的论文“ Does GPT-4 pass the Turing test”中，GPT-4 取得了迄今为止所有智能模型中最高的置信度（41%），但距离通过图灵测试依然遥远。

通过一个简单的集合关系，我们可以以更严谨的方式来理解“人类所需的智能”和“能够模仿人类通过图灵测试的智能”这两个问题的差别。如图 1-6所示，我们定义了两个集合：“全部智能行为”和“全部人类行为”，以及两者的交集—属于人类范畴的“智能行为”。

● 属于全部智能行为可以回答的问题：“围棋规则中执黑需要贴目多少才能确保公平？”

● 属于全部人类行为可以回答的问题：“周志明和周杰伦谁唱歌比较好听？”

● 属于人类范畴的智能行为可以回答的问题：“菠菜 3 元一斤，买 3 斤需要多少钱？”

显而易见，图灵测试所判定的“智能”是能够模拟全部人类行为的智能，但是全部人类行为的范围内并非都是属于人类范畴的智能行为，也并非全部人类行为都有让计算机代替人类去完成的必要，如你没必要让计算机替你分辨出“榴梿到底是不是一种好吃的水果”，觉得榴梿是否好吃这种问题也不会用来衡量回答者有没有智能或者作为判断智商的高低的依据，对吧？

今天学术界对人工智能研究的主流是机器从事人类范畴的智能行为（当然，机器天生就可以完成一部分人类之外的智能行为，譬如速算，所以要研究的问题是机器还完成不了的人类范畴的智能行为）这部分内容，而笔者相信现在绝大部分人都很容易接受人工智能的研究定位在人类范畴的智能行为是合理的。

第 1 章 洪荒年代

17

但是当时的主流学者并不都这么认为，在 1950 年以及之后的一二十年里，人们对机械实现智能的难度估计普遍都表现出极为乐观的态度，很多的投入是花费在“意识”（Consciousness）、“心智”（Mind）、“自我”（Self）这类今天划归于强人工智能范畴的研究之中，以至于在 20 世纪 80 年代大家终于接受快速实现人工智能的愿望不切实际这个现实后，出现了一系列关于人工智能前途的大讨论，如“技术奇异点^○一”的讨论、“中文房间”实验^○二、强弱人工智能之分等都是这个时期提出的。

1.7 机器能思考吗

图灵测试仅是论文的一部分，定义完图灵测试之后，图灵开始论证该文中提出的最重要的观点，即论文开篇第一句就提出的问题：“机器能思考吗？（Canmachines think?）”

这里首先要消除“思考”（Think）一词的歧义，哲学观点认为思考是一种人类独有的活动，即使机器能充满智能地行动，将思维属性赋予机器其实也是没有意义的。结合前文介绍过的图灵与香农对智能定义的争论以及论文本身所论证的内容，可以明确此处图灵所指的“思考”，是一种可在外部观察到的行为，是指机器通过学习而获得某项技能，并能够将这项技能表现出来的能力。所以在论文中，图灵重点论证的是建造“学习机器”（Learning Machines） ○三的可行性，更具体地说，是论证机器依靠学习进化而最终通过图灵测试的可能性。

图灵首先反驳了“机器可以具有智能”的一系列对立观点，这些观点在今天仍然是很多人认为人工智能不可能实现的主要论据。图灵给出的解释虽然并没有说服持反对观点的一方，甚至在后来有人还出版了《计算机不能做什么：

18

第一部分 以智慧创造智慧

○一 1982 年，弗诺·文奇在卡内基梅隆大学召开的美国人工智能协会年会上首次提出“技术奇异点”这一概念。

○二 该实验出自约翰·希尔勒的论文《心灵、大脑和程序》（“ Minds, Brains, and Programs”）中，发表于 1980 年的《行为与脑科学》。

○三 这是该论文最后一章的标题，和现在的“机器学习”（Machine Learning）并不是一回事，读者请勿混淆。

人工智能的局限》^○一这样专门批判人工智能可能性的书籍，但起码说明了对于许多现代还在提及的反对人工智能的观点，图灵都是系统性地认真考虑过的。图灵反驳的大部分观点与“科学”的距离较远，笔者不一一细说，仅列举如下。

● 神学的反对意见：“思考来自人类灵魂，而灵魂是上帝赋予的。”

●“鸵鸟”式的反对意见：“机器有思维的后果太令人恐惧了。”

● 能力受限论的反对意见：“机器可以完成任何你刚才提到的事情，但机器永远不可能有某行为。”

● 差错论的反对意见：“机器永远不可能出错，而思维的关键则来自出错的不确定性。”

● 规则论的反对意见：“机器永远按照预设的规则来工作，而人类总能碰到未知的情况。”

上面这些都是涉及哲学甚至神学的问题，而另外一类—主要是两个观点，对于不研究哲学的人也有比较宽松的探讨空间，笔者想介绍一下图灵对这两个问题的看法。

一个是来自数学的观点，机器拥有智能在数学上的反对意见主要来自哥德尔不完备定理，该定理证明了一个反科学直觉的结论：

“如果一个形式系统是不含矛盾的，那就不可能在该系统内部证明系统的不矛盾性。”

哥德尔不完备定理对机械智能的限制是：它决定了无论人类造出多么精致、复杂的机器，只要它还是机器，就将对应一个形式系统^○二，就能找到一个在该系统内不可证的公式而使之受到哥德尔不完备定理的“打击”，机器不能把这个公式作为定理推导出来，但是人却能看出公式是真的。因此这台机器不可能是承载思维的一个恰当模型^○一。或者通俗一点说，如果可以通过图灵测试的智能是基于某种能够承载该形式系统的运算器（譬如基于图灵机）来实现的话，那在进行图灵测试时，就一定能找到一个问题是这个机器必定回答不了的，这就成悖论了。

第 1 章 洪荒年代

19

○一 这本书出版于 1972 年，作者是加利福尼亚大学伯克利分校的哲学教授休伯特·德雷福斯。这本书还处在论文阶段时的名字是《炼金术与人工智能》（这名字够埋汰人的吧？），正式出版时变成了文中这个名字，在 1986 年翻译引进中国。在最近第三次再版时名字听起来更温和了一些，改成了《计算机仍然不能做什么：人工智能理性批判》。

○二 形式系统（Formal System）是数理逻辑中的概念，是指包含字母、字的集合及由关系组成的有限集合。典型的如编程语言就是一种形式系统。

图灵对这个问题的看法是：尽管哥德尔不完备定理可以证明任何一台特定的机器的能力都是有极限的，但是并没有证据说明人类智能就没有这种局限性。这句话的隐含意思是，没有证据证明人类智能不是某个特定形式系统（如图灵机或者其他系统模型）所能抽象概括的，就这样，图灵把“不能解决所有问题”的锅从机器甩回给了人类。

提出哥德尔不完备性定理的库尔特·哥德尔（Kurt Godel，1906—1978），曾经于 1951 年在布朗大学的演讲中谈及了这个问题^○二，他认为以下结论是不可避免的：

“要么无论机器多么复杂，人类的思维都将在理论上无限地超越任何机器；要么对人类而言，一定存在着一个人类绝对无法解决的问题。”

但与图灵不同的是，他倾向于接受这个结论前半句的可能性，而否定后半句。关于哥德尔不完备定理对机械智能的限制，其实最终回到了问题的原点，即图灵与香农最初探讨的问题：人类智能能否被某种模型所抽象？如果能，那必将存在着人类智能绝对无法解决的问题；如果不能，那人类就很难制造出能够拥有人类思维的机械智能。这个问题在科学界、哲学界的讨论经久不衰，至今仍没有找到答案。

另一个反对观点是思维来自情感和意识。至今，人们普遍认为机器在情感和意识上明显是无能为力的。图灵论文中摘录了一段斐逊教授在 1949 年的演讲内容，如下：

20

第一部分 以智慧创造智慧

○一 此观点来自美国哲学家卢卡斯于 1961 年发表的文章《心、机器、哥德尔》，此时图灵已经逝世，但他在 1950 年的论文中就已经预见性地反驳了这个观点。

○二 以下论文记录了哥德尔演讲的部分内容：https://math.stanford.edu/\~feferman/papers/dichotomy.pdf。

“若要我们承认机器与大脑一样，除非机器能够因为感受到了思想和感情，而不是用符号推理去写出十四行诗^○一或者协奏曲来。也就是说它不仅仅写了，而且必须意识到自己确实这样做了。任何机器都感受不到成功与喜悦，也不会因困难而沮丧，因奉承而沾沾自喜……”

图灵对这个问题干脆利落地回应道：这是典型的“唯心主义”思维（原文是 Representational Theory of Mind）。他认为如果要去肯定一台机器拥有思维，必须要能感受到那台机器的思维活动的话，那人类同样也属于“没有思维”的范畴。因为你要了解一个人的思维状况，不可能把你自己变为那个人来感受^○，必然是根据那个人的外在表现，譬如他的表情、动作、所说出的话语来得知。如果是这样，问题就绕回图灵测试上来了，一个通过图灵测试的机器，将意味着可以在所有的外在表现上跟人类行为一致。

对意识理解的局限性，是今天很多人理解人工智能的一个思想误区，总觉得机器必须实现和人类一样的自我意识的思考才是真正的人工智能。2015 年3 月，语言和认知学家诺姆·乔姆斯基（Avram Chomsky，1928—）和物理学家克劳斯有过一场对话，乔姆斯基再次被问到了“机器能思考吗？”这个问题，他反问道：“潜艇能游泳吗？^○三如果机器实现了意识的外现的结果，但是意识的内涵（原文使用的是潜意识‘ Preconsciousness’这个词）和人类的不一样，那机器可以被认为是有意识的吗？”如果非要让机器具备人类思维所定义的意识，乔姆斯基直接引用了图灵对这个问题所说的话来反驳：“这没有讨论的意义。”关于机器与意识之间的关系，从图灵的论文开始，到 1980 年约翰·希尔勒的中文房间思想实验引发的大讨论之后，学界才算有了比较统一的主流结论。

第 1 章 洪荒年代

21

○一 十四行诗是一种文体，和中国古诗的五言绝句、七言律诗性质一样。

○二 这在哲学知识论中称为“他心猜想”（Problem of Other Minds），是一个讨论了上千年的老梗了，中国战国时期也有类似的“濠梁之辩”，就是那个“子非鱼，安知鱼之乐”的故事。

○三 “潜艇能游泳吗”这句话是乔姆斯基对荷兰计算机科学家艾兹赫尔·迪杰斯特拉（EdsgerDijkstra）的著名引述，迪杰斯特拉的原话是：“关于一台机器能否思考的问题，与关于一艘潜艇能否游泳的问题几乎同样有趣。”

1.8 机器拟人心

反驳了诸多与机器可以具有思维相对立的观点的同时，图灵也正面地给出了机器获得思维的一种可能途径。在 20 世纪，人们已经对脑科学有了初步的了解，知道了人类大脑的思维是由脑皮层中的大量神经元相互连接实现的。虽然神经元具体产生智能和思维的过程尚不明确，但如果把思维和脑科学的研究比喻成剥洋葱皮的话，当人们发现一些脑部的机制可以通过物理方式解释时，就把它像洋葱皮一样剥除掉，这时候又会发现一层新的秘密在里面需要剥除，一直这样下去，我们会否看见一个人类科学无法解释的“灵魂”存在？还是会发现洋葱皮最后一层里面什么都没有了，所有大脑创造智能的过程都能够用物理和化学现象来解释？世界上大至宇宙、星系，小至分子、原子都遵从物理定律，这是现代科学界普遍接受的思想，很难让人唯心地相信在人类大脑里会有无法使用物理定律解释的神秘现象出现^○一，认同这一点的人，也应该能认同思维的存在必将是被物理定律所约束的。如果确实有一个或多个能够解释思维的定律或理论存在的话，就非常有可能找到能承载智慧的抽象模型，然后通过机械来实现它。

必须承认，直接设计一个拥有等同于成年人思维的机械智能无疑是困难而复杂的，因为一个成年人的大脑，除了出生时初始的生物状态之外，他所接受的教育及那些经历的不能称为教育的事情，都会导致他大脑中的各种细节发生变化。那能否将问题简化，先尝试设计一个等同于初生婴儿大脑的机械智能呢？这个机械智能可以没有任何预置的知识，对世界的认知可以如同白纸一般，它只需要具有学习进化的能力即可。如果将这个智能定义为“学习机器”（Learning Machines），那创造人工智能的过程就可以分解为建造一部学习机器与对这部机器的教育过程两个部分。

1950 年人工智能尚未形成一门真正的科学，碍于当时的历史局限性，图灵不可能给出一部拥有自主进化能力的学习机器的详细设计，因为其中涉及细节问题，几乎每一项都成为日后人工智能中的一门学术分支，解决这些问题所要付出的努力是当时根本无法想象的，其中部分能力列举如下：

22

第一部分 以智慧创造智慧

○一 现代科学中，有一种理论认为这里应该引入量子力学的不确定性原理，以提供随机和概率方面的考量。

● 接受外界信息的能力：如机器视觉、语音识别、语义理解等。

● 存储和使用知识的能力：如知识表示、知识工程、自动推理等。

● 改进自身的能力：如基于统计、概率、符号、连接的各类机器学习模型等。

● 反馈外界的能力：如自然语言处理、语音合成技术、运动平衡技术等。

退一步说，即使有人声称已经做出来了一台学习机器，如何保证对机器的正确教育和评估也是一个很大的问题。这台机器肯定不可能像人类那样靠生活、上学这样的经历来成长进化，人们也无法在短时间内就评估出不同学习机器的效果优劣。

对于如何教育学习机器的问题，我们可以尝试通过计算机模拟，使用遗传算法^○一（Genetic Algorithm）来解决，把学习机器的进化和生物进化论中物竞天择的思想联系起来。将学习机器假设为一种生物，在机器有符合人类行为的正确响应时给予奖励，在发生不恰当行为时给予惩罚。获得更多奖励的机器，将会有更好的生存环境，能存活更久，更容易产生后代。每一代都在遗传上一代特征基因的基础上随机进化，在若干代进化之后所得到的族群，肯定是更符合我们所设定目标的学习机器。可以通过一个简单的实验来模拟这种思想：假设有一种“生物”由 250 个不同颜色、不同透明度的三角形组成，这种生物以“是否长得像蒙娜丽莎”为优胜劣汰的判定标准（逐个像素比较相似度），如果更像蒙娜丽莎的话就可以存活更久，产生更多后代，后代也会继承前一代的基因基础。从实验结果可以看到，如图 1-7 所示，第 100 万代时这种生物的样子已经进化到和蒙娜丽莎的样子几乎没有什么区别，这甚至有可能是只能用 250个透明三角形来模拟蒙娜丽莎的最优解了^○二。

第 1 章 洪荒年代

23

○一 https://zh.wikipedia.org/zh-hans/ 遗传算法。

○二 有 兴 趣 的 读 者， 可 以 自 己 在 这 个 遗 传 算 法 的 介 绍 网 站 上 在 线 完 成 该 例 子：http://alteredqualia.com/visualization/evolve/。

图灵关于学习机器的描述是最早出现的关于计算机遗传算法思想的文献记录，使用计算机来模拟学习机器的进化在 1950 年肯定只能是个假想，完全不具备实践可能性。但谁也没有预料到几十年后会有互联网这样的黑科技出现，从此在数十亿网民的共同积累下，制造出了一个无比庞大的几乎包含了所有人类行为的知识库。学习机器完全有可能通过这个知识库去判断哪些行为是人类行为中概率更高的行为。有了判定标准，学习机器也就有了学习进化的方向，这种方案的实践可能性也就慢慢变大。关于机器通过互联网学习知识从而进化出智能和意识的故事情节，近年来多次出现在科幻小说和电影之中^○一，许多精英学者，如天体物理学家史蒂芬·霍金（Stephen Hawking，1942—2018）、人工智能学家斯图尔特·拉塞尔（Stuart Russell，1962—）也都向公众预警过存在这种可能性，虽然他们同样无法给出严谨的证据来证明或者证伪。机器进化获得智能是否会变成现实，答案恐怕只能留待时间来回答，留待未来去见证了。

1.9 机器拟人脑

自图灵提出学习机器（Learning Machine）的概念后，学习机器很快成为人工智能学者研究的热门领域。1955 年，在美国洛杉矶举行了一个“学习机器讨论会”（Session on Learning Machine），神经元模型的发明者、数理逻辑学家沃尔特·皮茨（Walter Pitts，1923—1969）在做会议总结时说道：

24

第一部分 以智慧创造智慧

○一 如电影《超能查派》（2015 年）中的 Chappie。