人工智能哲学

终端状态

$$
\mathbf { \frac { i } { \hbar \mathbf { \hat { y } } } } \mathbf { \hat { y } } \mathbf { \hat { \Pi } } _ { \mathbf { i } _ { \uparrow } } ^ { \mathbf { i } _ { \parallel } } \left[ \begin{array} { l l l } { \mathbf { q } _ { 1 } \mathbf { q } _ { 2 } \mathbf { q } _ { 3 } } & { } & { } \\ { \mathbf { q } _ { 2 } } & { \mathbf { q } _ { 3 } } & { \mathbf { q } _ { 1 } } \\ { \mathbf { q } _ { 1 } } & { \mathbf { q } _ { 2 } } & { \mathbf { q } _ { 3 } } \end{array} \right]
$$

输出信号，作为内部状态惟一的外部可见指标(灯光)，可由下表描述：

状态 ${ \bf q } _ { 1 }$ ${ \bf q } _ { 2 }$ q3

$$
\widehat { \sf { H } } \widehat { \sf { H } } \stackrel { { } } { \bot } \quad { \sf { O } } _ { 1 } , \quad { \sf { O } } _ { 1 } , \quad { \sf { O } } _ { 1 } , \quad { \sf { O } } _ { 1 }
$$

这是离散状态机的一个典型例子。若是离散状态机的可能状态数只是有限的，就可以通过这种表来描述它们。

看来，一旦确定机器的初始状态和输入信号，就总是可以预见所有未来的状态。这使我们想起拉普拉斯的观点：从宇宙在某一时刻由它的所有粒子的位置和速度所描述的完整状态出发，就可以预言出所有的未来状态。然而，同拉普拉斯所作的预言相比，我们拟议中的预言更具可行性。“宇宙整体”系统有这种特点：初始条件中微小的错误，在其后的时间中，会产生出势不可挡的效果。一个单个的电子在某一时刻发生十亿分之一厘米的位移，就可能造成一个人一年后被雪崩杀死还是死里逃生这样重大的区别。这种现象不会在我们称之为“离散状态机”的机械系统中发生，这是该系统的基本特性。即使我们考虑的是实际的物质机器，而不是理想化的机器，在某一时刻对于某一状态的足够准确的知识，在其后任何数量的步骤上，仍能产生出足够准确的知识。

如前所述，数字计算机属于离散状态的机器类别。但是这种机器所能有的状态数一般是相当大的。例如，现在在曼彻斯特工作的那台机器，其状态数大约是2165)，也就是约105)。把它和上述例子中有三个状态的棘轮加以比较，不难看出其状态数为什么会如此巨大。计算机中有存储器，它相当于人类计算机使用的纸张。必须有可能把写在纸上的任何一种符号组合写入存储器。为简单起见，假定只使用从0到9的数字作为符号，各种手写体不予考虑。假定计算机可接受100张纸，每张纸有50行，每一行有30个字的位置。那么状态数就是10)100×5u×30，即10)15(。这约等于三台曼彻斯特机并在一起的状态数。状态数以2为底的对数通常称为机器的“存储容量”。这样曼彻斯特机的存储容量大约是165000，而我们例子中的那个轮机的容量大约是1.6。如果把两台机器并到一起，它们的容量必须相加，才能得到合成机的容量。这种情况可能导致这样的陈述：“曼彻斯特机含有64个磁道，每一磁道的容量是2560，还有8个电子管，每个容量为1280，其他各项的存储量大约是300，这样总计就是174380)。

人工智能哲学

52

一旦有了和离散状态的机器相对应的表，就可以预言它将要做什么。完全有理由说，可以用数字计算机来执行这样的演算。如果数字计算机干得足够快，它就能够模仿任何离散状态机的行为。那么，如果用当前的机器(作为B)和模仿数字计算机(作为A)来表演模仿游戏，提问者是无法把它们区分开来的。当然数字计算机不仅要工作得足够快，还要有足够的存储容量。此外，必须对每一台要进行模仿的新机器重新编程。

由于数字计算机具有能模仿任何离散状态的机器这一特殊性能，它们被说成是万能机器。存在着具有这种特殊性能的机器的意义是重大的：如果排除速度因素，就没有必要为完成各种不同的计算过程，而去设计各种不同的新机器。所有计算都可以用一台数字计算机来完成，在每一种情况下只要配以适合的程序即可。由此可以认为，在一定意义上，所有数字计算机都是等价的。

现在我们再来看看第3节结尾处提出的那个观点。我们曾经试探性地提出“机器能够思维吗？”这个问题，可否代之以“存在着可以想象得到的能够在模仿游戏中干得出色的数字计算机吗？”如果我们愿意的话，我们可以使这问题看起来更具一般性，即问：“存在着能够干得出色的离散状态的机器吗？”但是从普适性的角度出发，我们认为上述两个问题都与下述问题等价：“我们只讨论一台特定的数字计算机C。如果经过改进，使这台计算机具备合乎要求的存储，动作速度也相应提高，同时还为它提供了恰当的程序，那么在模仿游戏中，由人担任B的角色，C就能够令人满意地扮演A的角色，这有可能成为事实吗？”

2 计算机器与智能

53

1. 对主要问题的反对意见

现在我们可以考察一下这个已经得到澄清的基础，并准备就我们的问题“机器能够思维吗？”以及上一节结束时提到的该问题的转换形式进行辩论。我们不能完全放弃这个问题的原有形式，因为在替换形式恰当与否的问题上，存在不同见解，我们至少应该听一听与之有关的意见。

如果我先就这一问题谈谈我自己的意见，对读者来说，情况可能会更加明了。首先来看一下这一问题的较精确的形式。我认为，在大约50年的时间里，有可能对具有约10”存储容量的计算机进行编程，使得它们在演示模仿游戏时达到这样出色的程度：经过5分钟提问，一般提问者作出正确判断的机会，不会超过70%。我认为，原来的问题“机器能够思维吗？”意义太不明确，因而不值得讨论。但是我认为，到本世纪末，在使用词以及由教育形成的一般见解方面将会发生很大变化，使得人们在谈论机器思维的问题时，可以不再担心有矛盾发生。我还进一步认为，把这些意见隐蔽起来，对任何有用的目标都是不适宜的。有一种流行的观点认为，科学家坚持不懈地沿着从确认的事实到确认的事实的路线前进，而从不受任何有改进的猜想的影响，这观点是相当错误的。假如澄清了什么是已经证明的事实，什么是猜想，不会产生什么害处。猜想是极其重要的，因为它们可以为研究提供有用的思路。

下面就来看看那些与我的见解相反的意见。

神学反对意见

思维是人类不朽灵魂的一种机能。上帝把不朽的灵魂给了每个男人和女人，而没有给任何其他动物和机器。所以任何动物和机器都不54

人工智能哲学

能思维。[]

我完全不能接受这种说法，但是我愿意用神学方式来寻求回答。我觉得，把动物和人归入同一类，这样的论点更令人信服，因为在我的思想中，典型的有生命之物和无生命之物之间的区别，要比人和其他动物之间的区别更大些。如果我们考虑到其他宗教群体成员对待这个问题的态度，这一正统观点的武断性就会显得更加清楚。穆斯林认为女人没有灵魂，对于这个观点，基督徒是怎样想的呢？但是让我们撇开这一点不谈，言归正传。在我看来，上面引用的论点中隐含着对全能上帝无限权力的一种严重的限制。应该承认，有些事情上帝无法做到，比如让1等于2，但是难道我们不应该相信上帝有这样的自由：他如果认为合适而把灵魂给予一头大象吗？我们或可认为，上帝只在结合着能给大象一个恰当改进的脑以满足灵魂需要的基因突变的情况下才运用这一权力。对机器来说，也可以作出形式上完全相似的论证。其不同之处也许是后者更难以“下咽”。但是这实际上只不过意味着，我们认为，上帝是不大会考虑哪些环境是适合于赋予灵魂的。这里谈到的情况将在本文的其他部分讨论。在打算构造这种机器的时候，我们不应当比我们在繁衍后代时更加不敬地僭越上帝创造灵魂的权力，不管就这两种情况的哪一种而言，我们都不过是上帝意志的工具，是为他所创造的心灵提供住所而已。

然而这只不过是一种臆想。至于神学论点，无论它们可以用来支持什么，都不会给我留下深刻印象。历史上，像这样无法使人满意的论点屡见不鲜。在伽利略时代，人们认为教科书上的“太阳仍站在那里……整个白天里它都不急于落下”（《约书亚记》10：13)和“上帝为地球安放了基础，任何时候它都不会移动”（《诗篇》105：5)是反驳哥白尼理论的充分理由。从今天的知识来看，这样的论点毫无价值。当一种知识失效之后，人们的印象就大不相同了。

2 计算机器与智能

[1]这一观点也可能被指为异端。圣·托马斯·阿奎那〔《神学大全》，引自B·罗素(Russell1945：458)〕指出，上帝不能不给人以灵魂，但这并不是对上帝权力的真正限制，而仅仅因为人的灵魂是不朽的，从而是无法毁灭的。

55

“把头埋在沙中”的反对意见

“机器思维的后果太可怕了，我们希望并且相信机器做不到这一点。”

如此坦白的论点实属难得。但是大部分认真思考这一问题的人，都受到它的影响。我们愿意相信，人类以某种微妙的方式优于其他生物。如果能够证明人类必然优越，那是再好不过的，这样，人类就没有失去其居高临下地位的危险。神学论点的流行显然与这种情感有关。在知识阶层中，这种情感似乎十分强烈，因为他们比别的人更加看重思维的能力，并且更倾向于把他们有关人类优越性的信念建立在这种能力的基础上。

我认为这个论点没有多大价值，不值一驳，给一点安慰可能更恰当些，这种安慰也许应该从灵魂轮回说中去找。

数学上的反对意见

数理逻辑的许多结果都可以用来证明：离散状态机器的能力是有限度的。这些结果中最著名的就是所谓的哥德尔定理(Godel1931)，它表明，在任何功能充分的逻辑系统中，都可以形成一些陈述，它们在系统内部既不能被证明，也不能被证伪，除非是这种情况：系统本身不一致。还有一些在某些方面与之类似的结果，它们来自丘奇(Church1936)，克利恩(Kleene1935)，罗素和图灵(Turing1937)。后一结果研究起来最方便，因为它直接涉及机器，而其他的只能用于较为间接的论证，例如使用哥德尔定理时，必须增加一些用机器描述逻辑系统以及用逻辑系统描述机器的方法。该结果所涉及的机器本质上属于有无限容量的数字计算机式的类型。这一结果认为存在着这种机器做不到的某些事情。如果像在模仿游戏中那样，使装备好的机器回答问题，就会出现这样的后果：对某些问题或是作出错误回答，或是根本无法回答，尽管回答的时间不受限制。这样的问题无疑有很多，这一台机器不能回答的问题，另一台机器也许能作出令人满意的回答。当然，我们暂且假定，问题属于只需作出“是”或“不是”这种回答的类型，而不是像“你对毕加索有什么看法？”这样的问题。我们知道这些机器肯定无法回答属于这种类型的问题：“假如对机器作如下详细说明……这机器对任何问题都回答是’吗？”省略号将代之以对某一机器所作的标准形式的描述，有可能像§5中使用的那种形式。当所述机器与接受提问的机器具有某种比较简单的关系时，可以证明，或是作出错误回答，或是无法回答。这是一个数学结论：经论证，证明机器是有能力缺陷的，而人类智能不比机器逊色。

人工智能哲学

56

对这个论点的简单答复是，虽然已经证明了任何一台特定机器的能力都是有限的，但在没有任何一种证据的情况下，所阐明的只是：对于人类智能，这种限度是不适用的。但是我认为这个观点不可能如此轻易地驳倒。只要向一台这样的机器提出恰当的难以回答的问题，当它给出一个确定的答案时，我们知道这个答案必然是错误的，这样我们就产生了某种优越感。这种感觉是虚幻的吗？它无疑是真实的，但是我认为不必过分看重这一点。我们因证明机器易犯错误而沾沾自喜，这是没有道理的，因为我们自己在回答问题时出的错是够多的了。进一步说，我们之所以产生优越感，是因为在和一台机器打交道时，取得了优于它的小小胜利。当然，也有可能是同时战胜所有机器。那么简言之，可能有一些人比任何现有的机器都聪明，但是另一方面，也可能有另一些比人更聪明的机器，如此等等。

据我看，那些持有数学论点的人，大都愿意接受模仿游戏作为讨论的基础。那些相信前两种反对意见的人，很可能对任何判据都不感兴趣。

有关意识的论点

杰斐逊教授在1949年的利斯特讲演中将这个论点表达得淋漓尽

2 计算机器与智能

57

致，我引用其中一段：

“除非机器能够做到因为有思想、懂感情而不是通过符号的偶然来临去写十四行诗或创作协奏曲，否则我们不能认为机器与大脑是等同的—也就是说，不仅把它写出来，而且知道已经把它写出来了。任何机器都不可能感觉到(不仅是人为地发出信号而已，这种设计是简易的)成功时的愉悦和电子管烧毁时的悲伤，也不会因听到奉承而兴奋，因犯错误而苦恼，因见到异性而着迷，在愿望实现不了时发怒或沮丧。

看来，这个论点否定了我们试验的有效性。从这个观点的最极端的形式来看，确认一台机器能否思维的惟一办法，就是变成这台机器，并感受到自己在思维。然后可以向世人描述这些感受，但是，毫无疑问，任何人所做的任何介绍都不能被认为是正确的。同样，根据这一观点，得知一个人会思维的惟一方法，就是变成这个特定的人。这实际上是唯我论的观点。这也许是可能持有的最符合逻辑的观点，但是它使思想交流发生困难。A倾向于认为“A会思维，而B不会思维”，B却认为“B会思维，而A不会思维”。我们不再就这一观点继续争论，出于礼貌习惯，一般认为每个人都可以思维。

可以肯定，杰斐逊教授并不想采取极端的、唯我论的观点，他可能十分愿意接受模仿游戏作为试验。这个游戏(在没有参与者B的情况下)在实际运用时往往叫作口试，目的是了解某个人是真正懂得某个事物，还是“死记硬背”。让我们听一段这样的口试：

提问者：你的十四行诗的第一行为“让我把你比作夏日”，是不是同样可以用“春日”，甚至更好些？

参试者：这样不合韵律。

提问者：“冬日”怎么样？这完全合乎韵律。

参试者：是的，但是没有人愿意被比作冬日。

人工智能哲学

58

提问者：你是不是认为匹克威克先生让你想起圣诞节？

参试者：多少有一点。

提问者：但是圣诞节是一个冬日，我想匹克威克先生是不会反对这种比较的。

参试者：我认为你不够认真。冬日的意思是一个有冬天特征的日子，而不是一个像圣诞节那样的特殊的日子。

如此等等。如果写作十四行诗的机器在口试中能够作出这样的回答，杰斐逊教授会说什么呢？我不知道他是否还会认为机器的回答“只不过是人为地发出信号”，但是如果回答能像上段中那样令人满意，并且滔滔不绝，我认为他就不会把机器说成是“一种简易的设计”。我想，这个短语所指的不过是这种装置：在机器中装入一段某个人阅读十四行诗的记录，再加上一个恰当的开关，可随时打开它。

总之，我认为可以说服大多数支持意识论观点的人放弃这一论点，而不是把他们推向唯我论的立场。这样的话，他们也许就愿意接受我们的试验。

我不希望给人以我认为意识与神秘性无关的印象。例如，某种悖论的内容就与把神秘性限制在一定范围内的企图有关。但是我认为，在我们能回答本文所涉及的那些问题之前，我们不一定非得将这些神秘性弄清楚。

有关各种能力缺陷的论点

这些论点是这样的：“就算你真的能够让一台机器完成你提到的所有那些事情，但是你决不可能让一台机器做到X。”这里X的特征很多，下面只是其中的一部分：

要仁慈，机智，漂亮，友好，有首创精神，有幽默感，能辨别是非，会犯错误，会坠入情网，爱吃草莓冰淇淋，能让别人爱上自己，会从经验中学习，用词得当，能成为自己思想的主题，像人一样行为多变，做出某件全新的事情。

2 计算机器与智能

59

一般情况下，这些说法是无根据的。我认为，它们主要建立在科学归纳原理的基础上。人在一生中见过成千上万的机器，他从在机器身上所看到的东西中，得出许多一般性结论：它们又粗又笨，每台机器只能用于非常有限的目标，目标稍有变化，它们就变得毫无用处，无论何种机器，行为变化都非常之少，等等。他自然得出这样的结论：这些是机器一般的必要特性。在这些局限性中，许多与大多数机器存储容量过小有关。(我假定将存储容量的概念以某种方式扩展到离散状态机以外的那些机器上去。准确的定义并不重要，因为在当前的讨论中并不要求数学上的精确性。)几年前，很少听说过数字计算机，如果只谈它们的特点，而不讲它们的构造，那就很可能对它们产生许多疑惑。这大概是由于类似地运用了科学归纳原理，当然，这原理的这些运用在很大程度上是无意识的。挨过烧的孩子怕火，并且通过躲避火表现出他怕火，这时，我就可以说他是在运用科学归纳。（当然，我也能用许多别的方式来描述他的行为。)人类的工作和习惯看来不大适合作为科学归纳的素材。要获得可靠的结果，必须在相当大的时空范围中进行研究，否则，我们有可能(像许多英国儿童那样)判断说，人人都讲英语，学法语真傻。

然而，针对前面提到的许多能力缺陷，有一些专门评论。没有品尝草莓冰淇淋的能力，在读者看来，是无足轻重的。造一台能品尝这种美味的机器并非不可能，但是试图使人们这样做，近乎白痴。重要的是，这种能力缺陷会引起另一些能力缺陷，比如难于在人与机器之间形成像白人和白人或黑人与黑人之间那样的友谊。

“机器不会出错”这种断言显得有点奇特，有人甚至反驳说“这样是不是更糟呢？”但我们还是采取较为赞同的态度，看一看它真正的意义是什么。我想，可以通过模仿游戏来解释这个批评。有一种看法是，提问者只要让人和机器做一些算术题，就可以把两者区分开来。机器会暴露，因为它太准确了。对此作答复并不困难。(为做游戏而配有程序的)机器不必力求对算术问题作出正确回答，它可以在演算方式中有意制造一些错误，来迷惑提问者。由于对算术错误类型选择不当，机器的失误也会自己暴露出来。即使这样来解释这一批评，其赞同的程度仍不够充分。但是我们进一步发展的余地已经不大了。在我看来，这种批评其实是混淆了两种类别的错误。我们可以称其为“功能性错误”和“结论性错误”。功能错误是由于有某种机械的或电的问题，使机器不能按照设计方式运行。在哲学讨论中，人们倾向于忽略这种错误的可能，因而所讨论的是“抽象机器”。这些抽象机器是数学构想，而不是物理对象。根据定义，它们不会造成功能性错误。在这个意义上，我们确实可以说“机器从不出错”。结论性错误只有在机器的输出信号具有某种意义时才会出现。例如机器可能打印出数学方程或英语句子。如果机器打出一个错误的命题，我们就说它犯了结论性错误。显然没有任何理由说机器不会造成这种错误。它也可能除了反复地打出“0=1”以外什么也不做。举一个较合常理的例子，它可能运用通过科学归纳得出结论的方法。我们一定会估计到，这种方法偶尔也会产生错误的结果。

人工智能哲学

60

这种看法认为，机器不可能成为自己思想的主题。要对此作出回答，当然只有证明机器对某种题材具有某个思想。然而“机器运算的题材”看来必然意味着什么东西，至少对有关的人来说是如此。举例说，如果机器试图解方程 $\mathbf { x } ^ { 2 } - 4 \mathbf { x } - 1 1 = 0$ ，就不妨认为，在这一刻这个方程就是机器的题材。在这种意义上，机器毫无疑问地可以是自已的题材。它可以用来协助机器编自己的程序，或是预测它自己结构变化后的结果。通过观察自己行为的结果，机器可以修改自己的程序，以便更有效地实现某种目标。这些都有可能在不久的将来实现，而不是乌托邦式的梦想。

那种批评机器不可能有丰富多采的行为的说法，等于在说机器不可能有丰富的存储容量。直至最近，甚至一千个数字的存储容量还是很罕见的。

我们这里提到的种种批评，常常以意识论点的形式伪装起来。通常只要知道了机器能够做出一件这样的事情，并对机器可能使用的那种方法加以描述，人们就不会依赖于印象了。大家都认为，方法(不管它可能是什么，因为它必然是机械的)的确是相当低级的。我们可以比较一下前面引用的杰斐逊讲演中括号内的文字。

2 计算机器与智能

61