人工智能哲学

(读者应把这与“有关各种缺陷的论点”一节中的观点协调起来。)由学习得到的过程不会产生一个百分之百的必然结果，如果能产生，这些过程倒是不能不学习的。

明智的做法可能是在学习机中设置一个随机单元。在我们搜索某个问题的解时，随机单元是相当有用的。例如，假定我们要在50到200)之间寻找一个数字，这个数字与它数位之和的乎方相等，我们可以从51开始，然后试52，并继续下去，直到找到那个有效的数字。换一种方式，我们也可以随机地选出数字，直到选出那个正确的数字。这个方法的优点是，不需要记录已经试过的值，而缺点是同一数字可能试两次，但是在有几个解的时候，这就无所谓了。而系统方法的缺点是，可能不得不先去试探很大一片根本没有解的区域。现在，学习过程可以看作是寻找一种让老师(或某种别的判据)得到满足的行为形式。既然可能有非常之多的合乎要求的解存在，随机方法看来比系统方法更好一些。应该看到，在模拟进化过程中，用的就是这个方法。但是那里不可能用系统方法。人们怎么可能将已试验过的不同基因组合全都记录下，以避免再做重复的试验呢？

我们或许期待着，有一天，机器能够在所有纯智能的领域中同人类竞争。但是从哪里起步最好呢？甚至这也是一个困难的抉择。许多人认为，非常抽象的活动，比如下棋，可能是最好的。也有人认为，最好是给机器配备能买得到的最好的感觉器官，然后教它懂英语，并讲英语。这个过程可以像通常教孩子那样，指着东西，说出它们的名字，等等。我还是不知道正确答案是什么，但是我认为两种方法都应该试一试。

我们的目光所及，只能在不远的前方，但是可以看到，那里有大量需要去做的工作。

人工智能哲学

72

3 心灵、大脑与程序

J·R·塞尔\*

我们应当怎样评价近来计算机在模拟人类认知能力方面的成果所具有的心理学和哲学的意义呢？在回答这个问题时，我发现，将我称之为“强”AI的东西与“弱”AI或“审慎的”AI加以区别是有益的。就“弱”AI而言，计算机在心灵研究中的主要价值是为我们提供了一个强有力的工具。例如，它能使我们以更严格、更精确的方式对一些假设进行系统阐述和检验。但是就“强”A1而言，计算机不只是研究心灵的工具，更确切地说，带有正确程序的计算机确实可被认为具有理解和其他认知状态，在这个意义上，恰当编程的计算机其实就是一个心灵。在强AI中，由于编程的计算机具有认知状态，这些程序不仅是我们可用来检验心理解释的工具，而且本身就是一种解释。

我不反对弱AI的论断，至少就本文来说是如此。我这里的讨论针对的是上面定义为强AI的那种论断，特别是这样的论断：恰当编程的计算机确实具有认知状态，因而程序就是对人类认知的解释。我以后提到AI时，都指这个强版本，如上面两种论断表达的那样。

我将考察R·尚克和他的耶鲁同事们的工作(Schank and Abelson1977)，因为与其他类似的论断比起来，我对此更为熟悉，同时在我想要考察的这类工作中，它可作为一个很清楚的例子。但是以下内容并不拘泥于尚克程序的细节。这些论证同样适用于威诺格拉德的SHRD-LU(Winograd 1973)，魏曾鲍姆的 ELIZA(Weizenbaum 1965)，当然还有图灵机对人类心理现象的各种模拟。

73

抛开各种细节，简单地说，尚克的程序可描述如下：程序的目的是模拟人类理解故事的能力。人类理解故事的能力具有这样的特点：在回答有关故事的问题时，即使所给信息从未在故事中直接提到，他们也有能力回答。举例来说，假如你听到这样一个故事：“一个人走进一家餐馆，要了一份汉堡包。汉堡包送上来时，已被烤焦，这个人生气地冲出餐馆，没有付账，也没有留下小费。”现在，如果问你：“这个人吃汉堡包了吗？”你会根据推测回答：“不，他没有吃。”同样，你听了下面的故事：“一个人走进一家餐馆，要了一份汉堡包。汉堡包送上来时，他感到很满意，离开餐馆时，在付账之前，他给了女服务员一大笔小费。”再问你这问题：“这个人吃汉堡包了吗？”根据推测，你会回答：“是的，他吃了汉堡包。”现在，尚克的机器可以用同样的方式对有关餐馆的问题作出类似的回答。为了做到这一点，这些机器具有人类所具有的那种关于餐馆信息的“表述”，它能使机器在听到这类故事后，作出如上的回答。先给机器一个故事，然后让它回答问题，机器打印出来的正是人类听了同样故事之后会作出的那种回答。强AI一派的人断言，在这种一连串的问答中，机器不仅仅是在模拟人类的能力，同时：

1. 完全可以说机器理解这个故事，并为许多问题提供了答案；并且，

1. 机器和它的程序所完成的工作，是对人类理解故事和就故事回答问题的能力的解释。

在我看来，尚克的著作1全然未证实这两个论断，下面我来说明这

人工智能哲学

\*J·R·塞尔，“心灵、大脑与程序”，引自《行为和大脑科学》3(1980)，第417—424页，剑桥大学出版社，1980。剑桥大学出版社允许作者重印。

J·R.塞尔(John R. Searle)，加利福尼亚大学(伯克利)哲学教授。

[1]当然，我不是说尚克本人提出了这两个论断。

74

一点。

无论对于什么心灵理论，检验它的方法，就是问一问自己，如果我们的心灵实际按照这一理论所说的那种所有心灵都采用的原则去工作，将会出现什么样的情况。我们就通过下面要讲到的思想实验，将这种检验应用于尚克的程序。假定我被锁在一间屋子里，并给了我一大批中文文本；而且，假定我对中文一窍不通(事实也是如此)，既不会写，也不会说，甚至我也没有把握，在辨认中文文本时能否把中文文本同日文文本或无意义的曲线区分开来。对我来说，中文文本和许多无意义的曲线简直一模一样。再假定，在第一批中文文本之后，接着又给了我第二批中文脚本，并带有一套规则，使第二批与第一批发生联系。规则是用英文写的，我和其他以英文为母语的人一样是理解这些规则的。用这些规则，我可以把一组形式符号与另一组形式符号联系起来，这里“形式”的意思只是说，我根据这些符号的形状就完全可以确认它们。现在，假定又给了我第三批中文符号，同时还有一些指令，仍是英文的，这些指令使我可以把第三批的元素同前两批联系起来，并指示我怎样送回某种特定形状的中文符号，作为对第三批中送给我的那些特定形状符号的响应。给我所有这些符号的人，我并不认识，他们把第一批符号叫“脚本”，第二批符号叫“故事”，第三批符号叫“问题”，而且把我送回响应第三批文本的符号叫作“对问题的回答”，同时，把他们给我的那套英文规则叫作“程序”。现在，让故事变得稍微复杂一点，设想这些人又给了我一些我所理解的英文故事，然后他们用英文问了我一些关于这些故事的问题，我也用英文回答他们。又假定，经过一段时间，我变得擅长遵循指令来处理中文符号，同时程序员也变得擅长编写程序，以致从外部来看，也就是据我被关屋外的那些人来看，我对问题的回答与讲中文母语的人的回答毫无区别。凡是看过我的回答的人，谁也不会知道我一个中文字也讲不了。让我们再假定，我对英文问题的回答，与其他讲英文母语的人也没有区别，这当然是毫无疑问的，理由很简单，我本来就是一个以英文为母语的人。从外部来看，也就是在那些读了我的“回答”的人看来，我对中文问题和英文问题回答得同样好。但是与英文的情况不同，在中文的场合，我是通过处理不理解的中文符号而得出答案的。对中国人来说，我的行为简直像是一台计算机。我是根据形式上规定好的元素来执行计算操作的。就中国人的目的而言，我不过例示了一个计算机程序。

3心灵、大脑与程序

75

强AI所作的论断是，编程的计算机理解这些故事，同时，这个程序在某种意义上解释了人类的理解。现在我们要做的是，根据我们的思想实验来审视这些论断。.

1. 关于第一个论断，我认为，从我丝毫不理解中文故事的例子来看，这一点已经相当清楚。我的输入和输出，与讲中文母语的人没有区别，而且你想要任何形式的程序，我都可以有，但我仍旧什么也不理解。根据同样的理由，任何故事，无论它们是中文的，英文的，或是其他文字的，尚克的计算机一概都不理解，因为在中文的情况下，计算机就是我，在计算机不是我的情况下，与我什么都不理解的情况相比，它同样地无知。

1. 关于第二个论断，即程序解释了人类的理解，我们不难看到，计算机及其程序并没有提供理解的充分条件，因为计算机和程序正在运行，这中间不存在理解。但是它是否为理解提供了必要条件或重要帮助呢？强AI的支持者们作出的论断之一是，在我理解英文故事时，我所做的，恰恰与我处理中文符号时所做的相同，或者说相同的成分较多。在英文场合，我的确是在理解，在中文场合则不然，区别这两者的，只不过是更高形式的符号处理。我尚未证明这个论断是错误的，但是从上面的例子来看，它显然是不能令人信服的。这个论断貌似有理，完全出于这一假定：我们能够构造出一个程序，它的输入输出同讲母语的人完全一样；此外还由于假定讲话者具有某个描述层次，在这一层次上他们也是一个程序的例示。基于这两个假定，我们假定，即使尚克的程序不是对理解的完整叙述，至少也是部分叙述。那么我设想它是一种经验的可能性，但是迄今为止没有任何一点理由能让我们相信这是真的，因为上述例子表明(当然不是证明)，计算机程序与我对故事的理解完全是两码事。在中文场合，我具有人工智能能以程序方式输人给我的每样东西，而我什么也不理解；在英文场合，我理解每样东西，但迄今为止尚无任何理由认为：我的理解与计算机程序，即与在由纯形式说明的元素上进行的计算操作有什么关系。只要程序是根据在由纯形式定义的元素上进行的计算操作来定义的，这个例子就表明了，这些操作本身同理解没有任何有意义的联系。它们当然不是充分条件，也没有任何一点理由认为它们是必要条件，或者它们对理解作出了重要贡献。请注意，这一争论的要点不能简单地归结为，不同的机器在根据不同的形式原理运作时，可以具有相同的输入和输出，这根本不是争论的实质。相反地，无论你把什么样的纯形式原理放入计算机，它们对理解来说都不是充分的，因为人类能够在毫不理解的情况下遵循这些形式原理。没有任何理由认为：这样的原理在理解中是必要的，甚至是有帮助的，因为毫无理由认为：我在理解英文的时候，是在用什么形式程序进行操作。

人工智能哲学

76

那么在英文句子场合，我所具备的，而在中文句子场合，所不具备的，是什么呢？显而易见的回答是：我懂得前者的意思，而对后者的意思丝毫不知。但是这到底是什么？而且不管它是什么，为什么我们不能把它给予一台机器呢？这个问题后面再谈，现在先接着讨论上面的例子。

我曾在一些场合把这个例子讲给几个做人工智能研究的人听，有意思的是，他们对这一问题的正确答案似乎有不同的意见。我得到的各种答复之多令人吃惊，所以接下来我想讨论其中那些最普遍的说法(根据它们的地点来源分门别类)。

但是我首先要阻挡一些对于“理解”的普遍误解，因为在许多这种讨论中，人们看到的是关于“理解”一词的一大套高超的手腕。我的批评指出：存在着许多不同的理解程序；“理解”不是一个简单的二元谓词，甚至存在着许多不相同的理解类型和层次，即使排中律也往往不能直接应用于“X理解Y”这种形式的陈述；在很多情况下，究竟X是否理解Y，是一个需要判断的问题，而不是一个简单的事实；如此等等。对所有这些观点，我要说的是：没有问题，当然是这样。但是它们与所争论的观点毫无关系。在一些情况下，“理解”这个词显然确实是适用的，而在另一些情况下，则显然不适用，这两种情况都是我论证时所需要考虑的。1]我理解英文故事；我能在较低的程度上理解法文故事；在更低的程度上理解德文故事；根本不理解中文故事。另一方面，我的汽车和我的加法机，什么也不理解：它们对这种事不在行。我们常常运用比喻和比拟的手法，把“理解”和其他认知属性赋予汽车、加法机和其他人造物，但是这种赋予不能说明什么问题。我们说，“门知道什么时候应该打开，因为它带有光电管”，“加法机知道怎样(理解怎样，并且能够)做加减法，但对除法则不然”，“恒温器能感觉到温度的变化”。我们这样做的原因很有意思，它肯定与我们把自己的意向性2]推广到人造物之中这一事实有关。我们的工具是我们的目的的扩展，所以用比喻的方式将意向性赋予它们，是很自然的事。但是我认为，这些例子在哲学上不起任何作用。自动门因带有光电管而“理解指令”的意义，与我理解英文的意义根本不同。如果认为尚克那台编程计算机理解故事的意义，只是就门能理解那种比喻的意义而言，而不是就我理解英文的意义而言，那么这个问题就没有讨论的价值。但是纽厄尔和西蒙(Newell and Simon 1963)写道，他们认为计算机的认知类型，与人类的别无二致。我喜欢这个论断的坦率性，这种论断正是我打算进行考察的。我将论证：从严格的意义上讲，编程计算机所理解的，正是汽车和加法机所理解的，就是说，恰恰什么都不理解。计算机的理解并不只是(像我对德语的理解那样)局部的或不完全的，而是零。

3心灵、大脑与程序

77

人工智能哲学

[1]此外，“理解”既指拥有心理(意向的)状态，也指这些状态的真实性(效力，成功)。鉴于这讨论的宗旨，我们只考虑拥有状态。

[2]根据定义，意向性是某种心理状态的特征，由于这种特征，心理状态指向或是涉及世界中的客体和事物状态。例如，信念、欲望和意图是意向性状态，焦虑和抑郁的无指向形式则不是，进一步的讨论见塞尔(Scarlc1976b)。

78

现在来看对我那个例子的种种应答：

1. 系统应答(来自伯克利)

“虽然锁在屋中的个体的人不理解故事是真的，但是事实上他只不过是整个系统的一部分，而这个系统确实是理解故事的。这个人面前有一张很大的明细表，上面写着规则，他有大量的草稿纸和铅笔，可以做演算，他还有多组中文符号数据库’。这样，就不能把理解看成仅是他个人的事，而应看成是他作为一部分的那一系统整体的事。”

对干这种系统理论，我的回答十分简单：让个体使系统的所有这些元素内化。他要牢记明细表中的规则，和中文符号数据库，并且在自己的头脑中做所有演算。于是个体就收纳了整个系统，把这个系统内的东西全都包罗进来。我们甚至可以摆脱房间，设想他在室外工作。然而一切如故，他还是一点也不理解中文，更不用说，系统也不理解，因为个体中不存在的东西，在系统中仍然不存在。如果个体未作出理解，就不存在系统能够作出理解的方式，因为系统只是个体的一部分。

事实上，甚至对系统理论做这种回答我都觉得有点难堪，因为在我看来，这个理论从一开始就是不合理的。其思想是，在一个人不理解中文的时候，这个人和一些纸张的结合，或许能以某种方式理解中文。我很难想象，一个人如果不掌握某种思想体系，怎么会觉得这种思想当真可信。可是，我认为许多信奉强AI思想体系的人，最终会倒向与之非常相似的说法，所以我想就此进一步作些讨论。这个观点的一种版本是，内化系统例子中的那个人不理解中文，是相对于讲中文母语的人理解中文而言的(例如，就像他不知道这个故事与餐馆和汉堡包有关一样，等等)，然而，“这个人作为一个形式符号处理系统”，是的确理解中文的。这个子系统属于作为中文形式符号处理系统的人，不应当与英文子系统混淆。

3心灵、大脑与程序

79

所以在这个人身上确实有两个子系统，一个理解英文，另一个理解中文，同时“这两个系统之间没有什么联系”。但是我要回答说，它们之间不仅几乎没有什么联系，它们简直毫无共同之处。理解英文的子系统(假定我们可以暂时使用“子系统”这个行话来谈论)知道那些故事是关于餐馆和吃汉堡包的，也知道自己正在接受关于餐馆的提问，并且正在根据故事的内容做各种推理，尽力而为地回答问题，等等。但是中文系统对此一无所知。英文系统知道“汉堡包”表示汉堡包，而中文子系统只知道“甲”的后面是“乙”。他知道的仅仅只是，在一端，各种各样的形式符号被引入，根据用英文写成的规则进行处理，然后在另一端，另一些符号被送出。而我的那个例子的全部作用就是要论证：这种符号处理本身，对于任何真正意义上的中文理解来说，都不可能是充分的，因为这个人只会在“甲”后面写出“乙”，而非用中文理解任何东西。在人体内假定一些子系统，并不足以证明这个论点，因为子系统的处境，比起前面那个人来，也强不了多少。它们所具有的东西，仍然与讲英文的人(或子系统)所具有的东西毫无共同之处。的确，在所描述的这一情况中，中文子系统只是英文子系统的一部分，一个根据英文规则进行无意义的符号处理的部分。

首先，我们来问问自己，为了达到系统应答的目的，作出了什么假定，也就是说，在这一应答中，为了说明在当事人的内部必然有一个真正理解中文故事的子系统，要假定哪些独立的根据？就我所知，仅有的根据是，在这个例子中，我与讲中文母语的人有完全一样的输人和输出，和一个能从一种语言到另一语言的程序。但是，纵观这些例子，不过是证明了：这种情况不足以提供在我理解英文故事意义上的理解，因为一个人也好，组成一个人的一组系统也好，可以把输入、输出和程序正确地结合起来，但是在与我理解英文相称的真正意义上，依然什么也不理解。说我内部必然有一个理解中文的子系统的惟一起因，是我有一个程序，并且我通过了图灵检验，我可以骗过讲中文母语的人。但是争论点之一恰恰是图灵检验的恰当性。这个例子表明，可以有两个“系统”，它们都通过了图灵检验，但是其中只有一个系统理解。如果说，因为两者都通过了图灵检验，所以它们必然都能够理解，这根本构不成反对该观点的论据。因为这一论断不能满足我身上那个理解英文的系统大大超出那个只会处理中文的系统的论据。简单说，系统应答相当武断，在缺乏论据的情况下坚持认为该系统必定理解中文。

人工智能哲学

80

进而言之，系统应答看来会导致交相影响的混乱结果。如果我们根据我具备某种类型的输入和输出，以及处于中间的程序，就下结论说，我身上必然有认知存在，那就好像所有非认知类型的子系统都将变成认知类型的。例如，我的胃在一定描述层次上进行信息加工，它就是不计其数的计算机程序的一个例示，但是我认为我们不应该说它有任何理解力(参阅Pylyshyn1980)。但是，如果我们接受系统应答，那么就难以明白，我们怎么能避免说胃、心脏、肝脏等等都是具有理解力的子系统，因为根本就不存在一种原则的方式，可以把说中文系统理解与说胃理解的缘由区别开来。还可以指出，说中文系统以信息作为输入输出，而胃以食物和食物生成物作为输入输出，并不是对这个问题的回答，因为从当事人来看，也就是从我来看，无论在食物里，还是在中文里，都没有信息—中文只不过是许多没有意义的曲线。在中文的场合，信息只存在于程序员和翻译者的眼中。同时也没办法阻止他们把我的消化器官的输入输出看成是信息，如果他们想要这样做的话。

这最后一点与强AI中的一些独特的问题有关，因此有必要暂时扯开去把它解释一下。如果强AI要成为心理学的一个分支，它必须能够区别真正的心理系统与非心理系统。它也必须能够区别心灵的工作原理与非心灵系统的工作原理，否则它不能向我们解释什么是关于心理的特殊心理成分。心理与非心理的区分不能仅仅存在于观看者的眼中，它必须是系统所固有的。否则会出现这样的情况：一个观看者可以根据他的喜好，把人看作是非心理的，而把例如飓风看作是心理的。但是在AI文献中，这种区分常常以某些方式被抹煞了，这种做法最终对认为AI是认知探索的主张产生出恶劣的影响。例如，麦卡锡写道：

3心灵、大脑与程序

81