人工智能哲学

此外，AI的确曾经看起来(也许不少人现在仍然是这样看)以某种方式再现了心理现象，因而也就解释了心理现象。造成这些错误看法的原因有好几个，我相信，在充分探讨这些原因之前，我们是很难消除这些看法的。

第一，也许是最重要的，是关于“信息加工”这一概念的混乱：在认知科学中，很多人相信，人类大脑及其心灵在做着某种叫作“信息加工”的事情，它可以类比于计算机及其程序所做的信息加工；但另一方面，火警和暴风雨却根本不做信息加工。因此，虽然无论何种过程的形式特征，计算机都能模拟，但是它与心灵和大脑处在一种特殊关系之中，因为在计算机正确编程之后，就理想地带有和大脑一样的程序，在这两种情况下，信息加工是完全等同的，而这样的信息加工确实就是心理的本质。但是这个论点的问题出在“信息”概念的歧义上。如果“信息加工”的意思是，当人们比如在思考算术题时，或者在阅读故事并回答有关它的提问时，所做的事是“信息加工”，那么，编程计算机所做的事就不是“信息加工”，而是处理形式符号。程序编制者和计算机输出解释者使用符号来替代现实中的物体，这个事实完全是计算机范围之外的事。我要重复一遍，计算机只有句法，而没有语义。因此，如果你在计算机上敲入“2加2等于几？”它就打出“4”，但它根本不知道“4”意味着4，或是意味着其他任何东西。关键问题并不在于它缺少关于解释它的一阶符号的某种二阶信息，而是对计算机来说，它的一阶符号也没有任何解释。计算机具有的只是更多的符号。因此，引入“信息加工”概念的结果，产生了一种二难推理：或者我们把“信息加工”的概念解释为是指意向性参与了这一过程，或者不这样认为。如果是前者，那么编程计算机就没有做信息加工，它只是在处理形式符号。如果是后者，那么虽然计算机做了信息加工，但是它不过是在与加法机、打字机、胃、恒温器、暴风雨以及飓风做信息加工相同的意义上这样做的。也就是说，它们具有这样一种描述层次，在这层次上，我们可以把它们描述为，在一端接收信息，对信息进行转换，并产生作为输出的信息。但是在这种情况下，外部观察者就必须在通常的意义上把输入和输出解释成信息。无论根据何种信息加工的相似性，在计算机和大脑之间都不可能建立起相似性关系。

人工智能哲学

92

第二，在许多AI中都存有残余的行为主义和操作主义。由于恰当编程的计算机能具备与人类相似的输入输出模式，我们就试图设定在计算机中有与人类相似的心理状态。但是，我们一旦看到，在某个根本不存在意向性的领域中，一个系统也可以在概念上和经验上具有像人类一样的能力，我们就会克服这种冲动。我的台式加法机具有计算能力，但是并没有意向性。我在本文中也努力证明了，一个系统可能复制讲中文母语的人所具有的那种输入输出能力，但是仍然不理解中文，不管程序是怎样编制的。图灵检验代表了那种赤裸裸的行为主义和操作主义的传统，而我相信，如果AI研究者们完全与行为主义和操作主义断绝关系，存在于模拟与复制之间的许多混淆就会消失。

第三，这种残余的操作主义是同残余的二元论形式联在一起的；的确，强AI之所以成立，是由于这样的二元论假定：在与心灵有关的地方，大脑是无关紧要的。在强AI中(同样也在功能主义中)，重要的东西是程序，而程序又独立于它们在机器中的实现方式。的确，就AI而言，同一程序可以由电子机械实现，也可以由笛卡尔的心理实体或是黑格尔的宇宙精神来实现。我认为实际的人类心理现象很可能取决于实际人类大脑的实际物理化学特性，而我的这个思想令很多AI研究者震惊不已—这是我在讨论这些问题时得出的一个最出乎意料的发现。但是，如果对此稍加考虑，就会看到，我本不该有出乎意料之感，因为如果不接受某种形式的二元论，强AI的计划就无指望实现。这个计划是要通过设计程序来再现和解释心理。但是，只有当心灵不仅在概念上、并且在经验上独立于大脑时，才能实现这个计划，因为程序是完全独立于任何实现方式的。只有相信心灵既在概念上、也在经验上可以同大脑相分离—二元论的强形式，才能希望用编写和运行程序的方式再现心理，因为程序必须独立于大脑，或是任何其他特殊形式的实现方式。如果心理操作在于用形式符号进行计算操作，那么其结论则是这些操作与大脑没有任何令人感兴趣的联系。惟一的联系是，大脑恰巧是数目不定的许多能例示这一程序的机器类型之一。这种二元论形式并不像传统笛卡尔派断言的那样存在着两类实体，但是它在这种意义上是笛卡尔式的：它坚持认为，有关心灵的特殊心理内容与大脑的实际特性没有固有联系。由于AI文献中常常包含着对“二元论”的强烈谴责，使我们难以看清这种深层二元论的真正面目；看来那些作者们并不知道，他们的立场预设了一个二元论的强版本。

3 心灵、大脑与程序

93

“机器能够思维吗？”我个人的观点是，只有一种机器能够思维，实际上只有一些类型非常特殊的机器，即大脑和那些与大脑具有相同因果能力的机器，能够思维。而这正是强AI在思维问题上几乎没有告诉我们任何东西的主要原因，因为关于机器它没有什么可告诉我们的。根据强AI自己的定义，它是关于程序的，而程序不是机器。无论意向性是别的什么东西，它都是一种生物现象。同时，它很可能像泌乳、光合作用或任何其他生物现象一样，与生成它的特定生物化学特性具有因果相关性。谁也不会认为，我们可以通过对泌乳和光合作用中的形式序列进行计算机模拟而得到牛奶和糖类。但是在与心灵有关的地方，由于根深蒂固的二元论，很多人都宁愿相信这样的神话：他们所认为的心灵，其实质是形式加工，它不像牛奶、糖类那样不能独立于非常专门的物质因果关系，它是保持独立的。

人工智能哲学

94

为了捍卫这个二元论，人们常常表示出这样的希望：大脑是一台数字计算机(顺便指出，早期的计算机常被称为“电脑”)。但这无济于事。当然，大脑是一台数字计算机，既然每一样东西都是数字计算机，大脑也不例外。问题是，大脑产生意向性的那种因果能力，并不存在于它例示计算机程序的过程中，因为无论你想要什么程序，都能够由某种东西来例示这个程序，而它并不具有任何心理状态。无论大脑在产生意向性时所做的是什么，都不可能存在于例示程序的过程中，因为没有一个程序凭借自身而对于意向性来说是充分的。1]

3心灵、大脑与程序

[1]我同很多的人就这些问题展开过讨论，他们耐心地试图克服我对人工智能的无知，为此我深表感谢。我特别要感谢N·布洛克、H·德雷福斯、J·豪格兰、R·尚克、R·威伦斯基和T·威诺格拉德。

95

4 逃出中文屋

M·A·博登\*

J·塞尔在他的文章“心灵、大脑与程序”(Searle1980)中论证道：心理学中的计算理论基本上是没有价值的。他作出的两个主要论断是：计算理论因其本质上是纯形式的，所以根本不可能有助于我们理解心理过程；同时，计算机硬件也不同于神经蛋白，显然缺乏生成心理过程所需的恰当的因果能力。我要阐明的观点是：这两个论断都是错误的。

·他的第一个论断认为如下的流行(形式主义)假定是当然成立的：计算机科学中研究的“计算”是纯句法的，可以(用同样适合于符号逻辑的术语)把它们定义为应用形式规则，对抽象符号进行的形式处理。他又说，因此形式主义的论述虽然在解释计算机中无意义的“信息”加工或“符号”处理方面是恰当的，但是不能解释人类心灵是怎样运用信息的，或正确地说，是怎样运用所谓符号的。意义或是意向性是不能用计算术语来解释的。

这里，塞尔的观点并不是认为任何机器都不能够思维。人类能够思维，而人类也是机器—他接受这一说法。他甚至采用唯物主义的信条，认为只有机器才能够思维。他也没有说人类和程序是完全不可通约的。他假定，在某一高度抽象的描述层次上，人和任何其他东西一样，都是数字计算机的例示。应该说，他的观点是：任何东西不可能仅仅凭借它例示出计算机程序而思维、表意或理解。

96

为了让我们接受这一观点，塞尔运用了一个别出心裁的思想实验。他想象自己被锁进一间屋子，屋里有各种各样的纸片，上面有一些涂划。通过窗口，人们可以再递给他有涂划的纸片，他也可以通过窗口把纸片递出。他从一本(英文的)规则书中得知，怎样为这些涂划配对，而这些涂划总是以它们的形状或形式来确认的。塞尔在屋里时，就把他的时间消磨在根据规则去处理这些涂划上。

例如，一条规则指示他；给他递进“甲”时，他应当送出“乙”。规则书中还规定了许多更为复杂的涂划配对序列，但是只有在第一步和最后一步上才涉及到把纸片传递入和传送出房间。在见到某个直接指示他递出一个纸片的规则之前，他也许得找到涂划“丙”，并把它同涂划“丁”加以比较，在这种情况下，正是这一比较的结果决定着他所递出的涂划的性质。有时，在见到一个规定他递出什么东西的规则之前，他必须在屋中进行多次这样的涂划与涂划的比较，并完成最后的涂划选择。

就屋中的塞尔而言，“甲”和“乙”只是一些无意义的涂划。可是他不知道，它们都是中文字符，屋外是中国人，他们能对涂划作出中文解释。此外，据中国人的理解，从窗口递进递出的模式分别是问题和答案，因为规则恰好使得大多数问题直接或间接地与他们认为是合理的回答相配对。但是(屋中的)塞尔本人对此一无所知。

根据塞尔的意思，“屋中的塞尔”显然可作为计算机程序的例示，即：他正在完成对未经解释模式的纯形式处理：他完全是句法的，而非语义的。

涂划配对规则等价于如果-那么规则，或是“产生式”规则，（例如)在专家系统中通常就是这样使用的。某些内部涂划比较，可以等价于AI研究者在自然语言加工中所说的脚本，例如R·C·尚克和R·P·阿贝尔森(Schank and Abelson1977)描述的餐馆脚本。在该例中，屋中的塞尔传递纸片的行为，本质上可与尚克的“问题回答”文本分析程序相比较。但是“问题回答”并非是问题回答。屋中的塞尔并非真的在回答问题：既然他无法理解这些问题，怎么可能回答呢？实习也无济于事(除了可能提高做涂划配对的速度)，因为屋中的塞尔一旦逃出，与他先前被锁进去时一样，对中文仍一无所知。

4 逃出中文屋

\* M·A·博登，“逃出中文屋”，摘自《心灵的计算机模型》第8章(1988)。剑桥大学出版社允许重印。

M·A·博登(Margaret A. Boden)，苏塞克斯大学认知与计算科学学院哲学与心理学教授。

97

当然，屋外的中国人可能认为，供给屋中的塞尔食物和水是有用的，正像在现实生活中，我们愿意花大笔资金建立计算机“咨询”系统一样。但是下面的事实却又是另一回事：已经具备理解力的人，会使用一个原本无意义的形式主义计算系统，来提供那些被他们解释(原文如此)为问题、答案、指称、解释或符号的东西。只有当他们能够从外部说明该形式体系和他们感兴趣的事物之间的映射关系时，他们才会这样做。从原理上讲，同一个形式体系可以映射到几个不同的领域中去，所以(人们)就可以用它回答有关其中任一领域的问题。然而就其本身而言，它可能是无意义的，就像从屋中的塞尔的观点来看，中文符号是无意义的一样。

塞尔论证道，因此没有一个系统仅仅凭借它例示了计算机程序就能够对某个事物进行理解。因为假如这是可能的，那么屋中的塞尔就能理解中文了。因此，理论心理学以计算概念为基础不可能是正确的。

塞尔的第二个论断关系到对理解的正确解释是什么样的。根据塞尔的看法，应该承认有意义的符号必须由某种具有对生成理解力或意向性来说是“恰当的因果能力”的东西来实现。他说大脑显然具有这种因果能力，而计算机不具有。由于可以在计算机中模拟大脑的组织形式，所以更确切地说，是神经蛋白具有这种能力，而金属和硅不具有：大脑物质的生物化学特性成为关键所在。

广泛引用的A·纽厄尔关于“物理符号系统”的定义(Newell

人工智能哲学

98

1980))，遭到塞尔的反对，因为按照这个定义，某种材料只要能够完成形式主义计算，就能够以它来实现符号，而这些计算，公认是能由计算机完成的。在塞尔看来，任何电子计算机都不可能真的处理符号，也不可能真的指称或解释任何东西—不管是什么因果相关性将它的内在物理模式同它的行为连接起来的。(这个关于意向性的强实在论观点与D·C·丹尼特(Dennett1971)的工具主义恰成对照。根据丹尼特的说法，一个意向性系统是这样的：只要赋予它信念、目标和推理能力，我们就可以解释、预见和控制它的行为。根据这个判据，某些现存的计算机程序就是意向性系统，更不用说科幻小说构想出来的那些通人性的机器人了。）

塞尔声称意向性是一个生物学现象。因此它就像光合作用和泌乳一样，只取决于作为其基础的生物化学性。他承认神经蛋白可能不是宇宙中惟一能够承载精神生活的物质，正像除叶绿素之外，许多别的物质(或许在火星上)也可能催化碳水化合物的合成一样。但是他否认金属或硅作为替代物的潜在可能，在火星上也不例外。他问道：难道一台用旧啤酒罐制成的计算机有可能产生理解吗？对于这个夸张的问题只能响亮地回答：“否！”简言之，塞尔认为，用来制造(当今的)计算机的无机物质，根本不可能承载心理功能，这在直觉上是显而易见的。

为了评价塞尔对计算心理学所作的两点尖锐的批评，我们先来看看他的这一观点：意向性必须以生物特性为基础。我们不妨称之为肯定性论断。与此成对照的是他的否定性论断：纯形式主义理论不能解释心理特性。然而，这单所作的假定超出了应有的程度，因为它的解释力是虚妄的。塞尔提出的生物学类比是一种误导，同时，他所求助于的直觉也是靠不住的。

塞尔告诉我们，大脑产生意向性可与光合作用相比较，情况真是这样吗？我们可给光合作用的生成物下定义，把碳水化合物总类中的各种糖类和淀粉清楚地区别开来，并说明它们与其他生物化学产物如蛋白质有何不同。此外，我们不仅知道是叶绿素支持着光合作用，同时也理解它是怎样完成这个过程的(以及为什么其他各种化学物质不能完成)。我们知道它只是一种催化剂，而不是原料；我们可以详细说明，它的催化作用在什么时刻，经由什么亚原子过程来完成。至于大脑和理解力，情况就全然不同了。

4 逃出中文屋

99

我们关于意向性是什么的理论(不管它是怎样产生的)是无法与我们关于碳水化合物的知识相比的，仅就意向性是什么而言，在哲学上也还是有争议的。我们甚至不能完全有把握地说，看到它时就能将它识别出来。一个得到普遍认同的看法是，命题态度是意向性的，感觉和知觉则不是；但是，关于情感的意向性，尚缺乏清晰的一致意见。

为了表征意向性，并区分它的亚种作为不同的意向状态(信念、欲望、希望、意向及类似的东西)，已经做过种种尝试。从塞尔早期关于言语行为的著作(Searle1969)，到近期对于意向性的总的论述(Searle1983)，他本人对此作出过许多重要贡献。（由布伦塔诺在19世纪采用，同时也被塞尔采用的)一个通用判据是心理学判据。用布伦塔诺的话来说，意向状态使心灵指向一个对象；用塞尔的话来说，它们具有内在的表述能力，或是“所指内容”；无论何种情况，它们都把心灵同这个世界、乃至种种可能的世界联系起来。但是有一些作者是用逻辑术语来定义意向性的(Chisholm1967)。至于逻辑定义和心理学定义是否精确地在范围上相对应，也不甚清楚(Boden1970)。总之，没有一个意向性理论像关于碳水化合物的化学理论那样，是在没有问题的情况下被接受的。

至于大脑对意向性的生物化学“合成”，就显得更加神秘了。我们有很充分的理由相信是这样：神经蛋白承载着意向性，但是作为神经蛋白，它是怎样具备这种能力的，我们却一无所知。

就我们对这些事情的理解而言，我们关注的是在神经元和突触中实现的某些信息功能(如信息传递、助长、抑制)的神经化学基础。例如，细胞壁上的钠泵怎样使一个动作势能沿着轴突传播开来；电化学变化怎样使神经元进入不应期，或从中恢复；或者神经元國值怎样能被神

人工智能哲学

100

经递质如乙酰胆碱改变。

例如，对于一个视觉细胞来说，一个至关重要的心理学问题可能是：它是否能够具备检测强度梯度的功能。如果神经生理学家能够告诉我们，哪些分子能完成这一任务，情况就会好得多。但是从心理学的观点来看，重要的并不是生物化学性本身，而是建立在它之上的担负信息的功能。〔塞尔显然同意这种观点，因为他说：“对大脑中意向状态的实现方式类型所作的描述，可以在比有关神经元的特定生物化学性高得多的功能层次上进行。”(Searle1983:272))

正如“计算机视觉”研究所表明的，金属和硅毫无疑问能够承载视觉中含有的二维至三维映射所要求的某些功能。此外，它们还能实现用作识别强度梯度的特定数学功能(即做高斯差分计算的“狗侦探”)，这种功能似乎存在于许多生物视觉系统中。应该承认，可能金属和硅不能承载包含在正常视觉中或一般理解过程中的全部功能。也许只有神经蛋白才能做到这一点，所以只有作为“地球生物”一员的人，才能够享有意向性了。但是目前，并没有特别的理由支持这种想法。在这种背景下，最重要的是，即使将来我们有理由这样想，那也必须是建立在经验发现的基础上，直觉是无济于事的。

如果有人问，哪些心-物依存关系从直觉上看是合理的，答案必然是：一个也没有。没有一个对(与动作电位相对立的)意向性苦苦思索的人说过：“钠—当然是它！”钠泵“显而易见”不合理的程度并不比硅片少，电极性“显而易见”不相关的程度也不比旧啤酒罐少，乙酰胆碱令人感到意外的程度几乎与啤酒一样。这三对中每对的前一部分在科学上都是令人信服的，但这种情况并没有使它们哪一个可从直觉上作出理解：我们最初都是感到惊异的。

我们的直觉也许会随着科学的进步而变化，可能有一天我们终将看到神经蛋白(也许还有硅)显然能实现心灵，正像我们现在明白一般生物化学物质(包括叶绿素)显然能产生出另一些这类物质一样，然而在尿素合成之前，即使对化学家来说，这种直觉也并非是显而易见的。无论怎样，眼下谈论意向性的物质基础时，我们的直觉是毫无用处的。塞尔的“肯定性”论断，即他假定的对意向性的一种替代解释，从最好处说，不过是一个承诺性的注释，从最坏处说，只是在兜售神秘主义而已。

4 逃出中文屋

101