人工智能哲学

“一些机器，即使像恒温器那样简单，也可以看作是有信念的，而有信念，看来是大多数能够表现出问题求解能力机器的特点。”（McCarthy1979)每一个认为强AI有可能作为一种心灵理论的人，都应当对这个评论的含义进行深思。有人要我们把这种看法作为强AI的一个发现：墙上那块用来调节温度的金属板有信念，与我们以及我们的配偶和孩子们有信念，具有完全等同的意义，不仅如此，房间里“大多数”其他机器——电话、录音机、加法机、电灯开关，也在这种真正的意义上具有信念。本文的目的不是与麦卡锡的观点进行争论，所以我不加论证地直接提出如下看法。心灵研究是以人类具有信念，而恒温器、电话和加法机没有信念这些事实作为起点的。如果你提出一个理论否认这一点，你已经给这理论提供了一个反例，从而这理论就是错误的。我们的印象是，在AI中，有这类观点的人，以为他们能混过去，因为他们并没有真正严肃地思考过它，同时他们认为别的人也不会严肃地思考它。我提议，至少用片刻时间，对它严肃思考一下。用一点时间努力想一想，必须用什么来证实那边墙上的那块金属板具有真正的信念，这种信念有适从方向、命题内容和满足条件；这些信念可能是强信念也可能是弱信念；紧张、焦虑或安全的信念；武断、理性或迷信的信念；盲目信任或优柔寡断；以及任何一种信念。恒温器不是候选者，胃、肝脏、加法机或电话也不是候选者。但是，既然我们严肃地对待这一思想，就应当注意到，要使强AI论断成为一门心灵科学，这一思想的真实性是至关重要的，因为现在到处都是心灵。我们要知道的是，使心灵与恒温器和肝脏区别开来的是什么。即使麦卡锡是正确的，也不要指望强AI会告诉我们这一点。

1. 机器人应答（来自耶鲁）

“设想我们编写了一个与尚克程序类型不同的程序，同时，我把一台计算机放入机器人中，这台计算机不只是接收形式符号作为输入，发送形式符号作为输出，它实际上是在操作机器人，通过操作，使机器人做出与感知、步行、走来走去、钉钉子、吃东西、饮水十分相像的事情一以及你希望的任何事情。例如，机器人配有一台摄像机，它就能‘看见’，有了手臂和腿，它就能‘动作’，而这一切都由计算机大脑’来控制。这种机器人与尚克的计算机不同，具有真正的理解力和其他心理状态。

人工智能哲学

82

关于机器人应答，首先应注意的是：由于这个应答增加了一套与外部世界的因果联系，它不言而喻地承认了，认知并不仅仅是一个形式符号处理的问题(参阅Fodor1980)。但是，我对机器人应答的回答是：增加了这种“感知”和“运动”能力，没有特别地在理解方面或者一般地在意向性方面给尚克原来的程序增加什么东西。为了看清这一点，应注意到同样的思想实验也适用于机器人的情况。假定你不是把计算机放进机器人中，而是把我放进房间里，像原先读中文的例子那样，你给了我更多的中文符号，以及更多的英文指令，让我把这些中文符号彼此匹配起来，并向外反馈中文符号。假定在我不知道的情况下，给我的某些中文符号来自机器人所带的摄像机，而我送出的另一些中文符号能使机器人中的发动机驱动机器人的腿或手臂。强调这一点是重要的：我所做的一切都是处理形式符号——除此而外，我对其他事实一无所知。我从机器人的“感知”装置接收“信息”，向它的动力装置发送“指令”，而对这两种事实都不知情。我是机器人中的小精灵，但与传说中的小精灵不同，我不知道正在发生什么事。除了符号处理规则之外，我什么也不理解。我想通过这个例子说明：机器人根本没有意向状态，它只是受电路和程序支配简单地来回运动而已。而且，如程序例示的那样，我也没有任何相关类型的意向状态。我做的一切，不过是遵循有关处理形式符号的指令而已。

3心灵、大脑与程序

83

1. 大脑模拟者应答（来自伯克利和麻省理工学院）

“假定我们设计一个程序，它并不表述我们具有的外部世界的信息，如尚克脚本中的那些信息，但是它模拟一个讲中文母语的人在理解中文故事和对故事作出回答时在他大脑突触上的神经元激发的实际顺序。这台机器接收中文故事和有关故事的问题作为输入，模拟实际懂中文的大脑在加工这些故事时所具有的形式结构，并以中文回答作为输出。我们甚至可以设想，这台机器运作时，用的不是单一串行程序，而是并行运作的整组程序，也就是我们认为实际人类大脑在加工自然语言时采用的那种操作方式。毫无疑问，在这种情况下，我们不得不说，机器理解这些故事。如果我们拒绝承认这一点，我们是不是也要否认讲中文母语的人理解这些故事呢？在突触层次上，计算机程序和懂中文大脑的程序会有、或者能有什么差别呢？”

在反驳这一应答之前，我想扯开去指出，任何人工智能(或功能主义等)派别作出这样的应答是不近情理的，因为我认为强AI的全部思想就是：要了解心灵是怎样工作的，并不需要了解大脑是怎样工作的。这一基本假设是，或据我的猜想是：存在着一个心理运作层次，它是由形式元素上的计算过程组成的，这些过程构成了心灵的本质，并能通过所有不同类型的大脑过程来实现，正如任何计算机程序都可以通过不同的计算机硬件来实现一样。根据强AI的假定，心灵之于大脑，犹如程序之于硬件，这样，我们就可以不经神经心理学来理解心灵了。如果为了实现AI，必须知道大脑是怎样工作的，那么我们就不必为AI而烦心了。然而，即使我们使AI接近于大脑的运作方式，仍然不足以产生理解。为了看清这一点，我们设想让那个只懂一种语言的人去操作一套复杂的带有连接阀门的水管，而不是在房间里摆弄符号。这个人接收到中文符号时，就在用英文写成的程序内查找，看看应当打开和关闭哪些个阀门。每一段水流的连接都对应于懂中文的大脑中的一个突触，整个系统装配起来，使得在全部应有的激发产生后，也就是在所有正确的开关都打开后，中文答案就会在管道系统的输出端冒出来。

人工智能哲学

84

那么，这个系统的理解在哪儿呢？它以中文作为输入，它模拟懂中文大脑神经突触的形式结构，并且它给出中文作为输出。但是毫无疑问，这个人是不理解中文的，水管系统也一样。同时，如果我们打算采纳我认为荒谬的观点，即以为人和水管的结合在作某种理解的观点，那么别忘记，从原理上讲，人能够内化水管的形式结构，并在他的想象中完成所有的“神经元激发”。与大脑模拟者有关的问题是，它模拟的不是大脑的正确东西。只要它模拟的仅仅是突触上神经元激发序列的形式结构，它就没有模拟到大脑的要害问题，也就是大脑的因果特性，大脑产生意向状态的能力。形式特性不能充分说明因果特性，这一点已通过水管的例子得到证明，因为我们可以把全部形式特性与相关的神经生物的因果特性分离开来。

1. 联合应答（来自伯克利和斯坦福）

“虽然前述三个应答中的每一应答单独作为中文屋的反例进行反驳可能没有绝对的说服力，但是如果把这三者结合起来，就会共同形成大得多的说服力，其至起到决定性作用。我们设想一个机器人，它的头盖骨腔中放着一台大脑形状的计算机，再设想，这台计算机的程序是根据人类大脑的全部突触编成的，同时机器人的整个行为也无法与人的行为相区别，现在把所有这些看作一个统一的系统，而不仅仅是带有输入输出的计算机。在这种情况下，我们当然不得不认为这个系统具有意向性。

我完全同意，如果我们对此没有更多了解的话，在这种情况下，我们会认为接受机器人有意向性的假设是合理的，也是难以抗拒的。的确，除了外表和行为，结合体的其他部分实在是无足轻重的。如果我们能制造出一个机器人，它的行为与人的行为在一个很大的范围内都没有区别，我们就可以认为它具有意向性，而不去考虑某个相反意见的理由。我们并不需要事先知道，它的计算机大脑是人类大脑形式上的模拟。

3心灵、大脑与程序

85

但是，我实在看不出这对于强AI论断有什么帮助。其原因是，根据强AI的观点，例示带有正确输入和输出的形式程序，就是意向性的充分条件—实际是构成意向性的充分条件。正如纽厄尔(Newell1979)所指出的，心理的本质是对物理符号系统的操作。但是在这个例子中，我们为机器人建立的意向性属性，与形式程序是毫无关系的。它们只是基于这样的假定：如果机器人的举止行为和我们人类充分相似，那么在没有其他相反证据的情况下，我们就认为它必然有像我们一样的心理状态，这种心理状态引起行为发生，又通过行为表现出来，所以机器人必然有一个能够产生这种心理状态的内部机制。如果我们另外知道，不作这种假定时怎样解释它的行为，特别是如果我们知道它有一个形式程序，我们就不会将意向性赋予它了。而这正是我在前面答复第二种反对意见时的观点。

假定我们知道，机器人的行为完全取决于这一事实：在它之中，有一个人正在从它的感觉接收器接收未经解释的形式符号，并把未经解释的形式符号送到它的动力装置，这个人是根据一整套规则来作这种符号处理的。进而再假定，这个人一点也不了解有关机器人的这些事实，他只知道，根据何种无意义的符号，进行何种操作。在这种情况下，我们可以把机器人看成一个精巧的机器傀儡。由此作出这个傀儡有心灵的假设是缺乏真凭实据的，也是没有必要的，因为现在再没有任何理由把意向性赋予机器人，或是赋予它所属的那个系统(当然这不包括人在处理符号时的意向性)。形式符号处理在继续，输入和输出得以正确匹配，但是意向性仅有的真正居所是人，而人对相关的意向状态毫不知情，例如，他看不到进入机器人眼睛的是什么，他也并不打算使机器人

人工智能哲学

86

的手臂运动，他也不理解对机器人讲了什么，或者机器人讲了什么。
由于前述种种原因，由人和机器人组成的系统，也是什么都不知道。

为了弄清这个观点，可以把这个情况同另一些情况作对比，在那些情况下，我们觉得，把意向性赋予某些别的灵长类动物，像猿和猴子，以及家畜，像狗，是很自然的事。我们所以觉得这是自然的，粗略地说，有两点理由：如果不把意向性赋予这些动物，我们就不能理解它们的行为，同时，我们都知道禽兽是由和我们类似的材料构成的一这是眼睛，这是鼻子，那是皮肤，等等。已知动物的行为具有协调一致性，并假定它是以同样的因果特性材料为基础的，我们就可以作两点假定：动物必然有作为其行为基础的心理状态，同时，产生该心理状态的机制必然是用与我们的材料一样的材料构成的。虽然我们在没有相反理由的情况下确实可以对机器人作类似的假定，但是一旦我们知道这个行为是形式程序的结果，而与物理实体的实际因果特性无关，我们就会放弃意向性的假定(见多个作者1978)。

对于我的例子还有另外两种回答，它们经常被提到(所以有必要讨论)，然而它们实际上是误解了我的观点。

1. 他人心灵应答（来自耶鲁）

“你怎么知道其他人理解中文，或是别的什么呢？仅仅根据他们的行为。现在，计算机能够(原则上)像那些人一样地通过行为测试，所以如果你要把认知属性赋予那些人，那么原则上，你也必须把认知属性赋予计算机。”

这种反对意见实在不值得花费多少笔墨去回答。这里讨论的问题，并不是我们如何知道别人有认知状态，而是我把认知状态赋予他们时，我是在把什么样的属性赋予了他们。该论证的要点是，认知不可能只是计算过程及其输出，因为在没有认知状态的情况下，计算过程及其输出也可以存在。对这一论证采取视而不见的态度，并不是对它的回答。在“认知科学”中，人们预先假定了心理的实在性和可知性，正像在物理科学中人们不得不预先假定物理对象的实在性和可知性一样。

3心灵、大脑与程序

87

1. 多重套间应答（来自伯克利）

“你的整个论点预先假定AI仅仅与模拟计算机和数字计算机有关。但这恰巧只是当前的技术状况。无论你认为作为意向性本质方面(假定你是正确的)的这些因果过程是什么，我们最终都能制造出具备这些因果过程的装置，而这就是人工智能。所以从你的论点决不会推出人工智能有产生和解释认知的能力。”

对于这一应答，我的确无可反驳，我只能说，由于把强AI重新定义为任何人工产生和解释认知的过程，它原先的目标实际上已变得无关紧要。原先为人工智能所作出的那个论断之所以有价值，是因为它是一个精确的、定义完善的论题：心理过程是以形式定义的元素上的计算过程。我曾经关注过对这一论题的质疑。如果该论断重新定义，它就不再是这样的论题，我的反驳也不再适用，因为适用我反驳的可以检验的假设已经不存在了。

现在，我们返回去看看那个我曾经允诺要设法回答的问题：在我原来那个例子中，假定我理解英文，而不理解中文，从而假定机器既不理解英文，也不理解中文。然而，我之所以理解英文，必然是由我身上的某种因素造成的，同时，我不理解中文，也是因为我身上缺少某种相应的因素，那么，不管这些因素是什么，为什么我们不能把它们给予机器呢?

我明白，从原理上讲，并没有理由说我们不能把理解英文或理解中文的能力赋予机器，因为从某个重要的意义上说，我们带有大脑的身体恰恰就是这样的机器。但是，我也完全清楚，有强有力的证据表明，我们不可能把这种东西给予机器，因为机器的运作完全是根据以形式定义的元素的计算过程确定的。也就是说，机器的运作被定义为计算机程序的例示。我之所以能理解英文，并且具有其他形式的意向性，并不是因为我例示了一个计算机程序(我想，我是不计其数的计算机程序的例示)，而就我们所知，这是因为我是某种有机体，具有某种生物结构(即化学和物理结构)，在一定条件下，这个结构能够以因果的方式产生感知、行动、理解、学习以及其他意向性现象。本文论点的要点之一就是，只有具有这些因果能力的东西，才可能具有意向性。也许别的物理和化学过程能够产生出完全一样的效果，比如说，火星人也可能有意向性，但是他们的脑是用不同的材料构成的。这是一个经验主义的问题，与光合作用是否能够由化学性质不同于叶绿素的某种物质完成的问题，有其相似之处。

人工智能哲学

88

然而，本文论点的中心思想是，从没有一种纯形式模型，足以凭借其自身产生意向性，因为形式特性自身不能构成意向性，同时它们自身也没有因果能力，它们的能力不过是在例示过程中随着机器运行而产生下一步的形式体系。形式模型的特殊实现方式所具有的任何其他因果特性，与形式模型无关，因为我们总能把同样的形式模型放入显然不存在那些因果特性的别的实现方式中。纵然出现奇迹，讲中文的人精确地实现了尚克的程序，我们也可以把完全相同的程序交给讲英文的人、水管或计算机，尽管它们有程序，它们之中却没有一个理解中文。

在大脑操作中起作用的，并不是突触序列投下的形式影子，而是这些序列的实际特性。我所见到的所有关于人工智能强版本的论点，都主张围绕认知投下的影子画出轮廓，然后断言这些影子是真实的东西。

我想以总结的方式来阐明包含在这个论点之中的某些一般的哲学观点。为清楚起见，我试以问答的方式来进行，并以这个陈旧的问题作为开始：

“机器能够思维吗？”

3 心灵、大脑与程序

89

很显然，回答是“能够”。我们正是这样的机器。

“好的。但是一个人工制品、一台人造的机器能够思维吗？”

假定有可能由人工造出一台带有神经系统的机器，神经元上有轴突和树突，以及其余所有部分，与我们的充分相像，那么对这个问题的回答看来显然仍旧是“能够”。如果你能够精确地复制原因，你就能够复制结果。而且的确有可能使用某种其他种类的化学原理，而不是人类所使用的那些化学原理，产生出意识、意向性，以及其余所有东西。正如我说过的，这是一个经验主义的问题。

“很好。但是一台数字计算机能够思维吗？”

如果所谓“数字计算机”不是指别的，就是指任何具有某种描述层次的东西，在这个层次上，可以正确地把它描述为例示了一个计算机程序，那么回答当然再一次是能够，因为我们就是不计其数的计算机程序的例示，而我们是能够思维的。

“但是，某个东西仅仅因为它是一台带有那类程序的计算机，就能够思维、理解，和做诸如此类的事情吗？例示一个程序，当然是正确的程序，这本身能够作为理解的充分条件吗？”

我认为，这个问题提得很恰当，虽然它常常同前面的一个或几个问题相混淆。对于这个问题的回答是不能。

“为什么不能？”

因为它们本身所做的形式符号处理没有任何意向性；它们是全然无意义的；它们甚至不是符号处理，因为这些符号什么也不代表。用语言学的行话来说，它们只有句法，而没有语义。那种看来似乎是计算机所具有的意向性，只不过存在于为计算机编程和使用计算机的那些人心里，和那些送进输入和解释输出的人的心里。

中文屋例子的目的就是试图说明这一点，它说明只要我们把某些东西放入那个真正具有意向性的系统(一个人)中，同时给他配以形式程序，就能看清形式程序并没有携带任何新增的意向性。例如，它没有给一个人理解中文的能力增加任何东西。

人工智能哲学

90

确切地说，AI那个看来如此引人的特征—区分程序与实现方式，对于断言模拟可以作为复制来说，原来是至关重要的。区分程序与它在硬件中的实现方式，似乎可以与区分心理操作层次与大脑操作层次相提并论。如果我们可以把心理操作层次看作形式程序，那么我们似乎不必通过内省心理学或大脑神经生理学，就可以说明什么是心灵的本质。但是“心灵之于大脑，犹如程序之于硬件”这个等式，在好几点上不能成立，其中的三点如下：

第一，区分程序与实现方式会造成这种结果：同一程序可以用不具有任何意向性形式的各种稀奇古怪的方式来实现。例如，魏曾鲍姆(Weizenbaum1976：ch.2)详细地说明了怎样用一卷卫生纸和一堆小石子来构造一台计算机。类似地，可以把中文故事理解程序编入一套水管、一组风机或一个只会讲英文的人中，这些事物中没有一个因之而获得对中文的理解。首先，对具备意向性来说，石头、卫生纸、风和水管的材料种类不对头—只有具备与大脑完全一样的因果能力的东西才能够具备意向性，而讲英文的人虽然具有这种对意向性来说是恰当的材料，但不难看出，他并没有因牢记这个程序而获得任何额外的意向性，因为牢记程序这件事不会教他学中文。

第二，程序是纯形式的，但是就这种意义而言意向状态不是形式的。意向状态是根据它们的内容，而不是根据它们的形式定义的。例如，正在下雨的信念不是定义为某种形式外形，而是定义为满足条件的某种心理内容、适从方向(参见Searle1979a)，等等。的确，像这样的信念在句法意义上甚至连形式外形也没有，因为同一个信念在不同语言系统中可能有个数不定的不同句法表达式。

第三，正像我前面提到的，心理状态和心理事件确实是大脑运作的产物，但是程序不是同样方式下的计算机的产物。

“好吧，如果程序全然不构成心理过程，为什么有那么多的人持有相反的看法呢？这至少需要作出某种解释吧。”

对此，我真不知道该如何回答。首先，认为计算机模拟可能是真事的思想本该值得怀疑，因为计算机其实并不限于模拟心理操作。没有人认为紧急火警的计算机模拟会烧毁邻居的家，或者暴风雨的计算机模拟会把我们大家淋得湿透。可是为什么竟有人会认为对理解的计算机模拟就是真正地理解某个事物呢？有时听到这种说法：要让计算机感觉疼痛，或是堕入情网，是极其困难的事情，但是恋爱和疼痛，既不比认知或什么别的事情困难，也不比它们容易。对于模拟来说，你需要的只是正确的输入和输出，以及处在中间把前者转化为后者的程序。这就是计算机在做任何事情时所具有的一切。把模拟和复制混为一谈，不管是疼痛，恋爱，认知，火警，还是暴风雨，都是犯了同样的错误。

3心灵、大脑与程序

91