人工智能哲学

洛夫莱斯夫人的反对意见

有关巴比奇分析机的最详细资料，来自洛夫莱斯夫人的回忆录(Lovelace1842)。她在回忆录中写道：“分析机无权说它创造出什么新的东西。它所能做的都是那些我们知道怎样命令它去执行的事情。”（着重号为她自己所加)哈特里(Hartree1949)引用了这一陈述，并补充说：

这并不表明，没有可能建造一台这样的电子装置：它会“为自已着想”，或者用生物学术语说，人们能在其内部建立条件反射，以此作为“学习”的基础。这在原理上是否可能，是一个刺激人和令人兴奋的问题，某些新近的发展已经暗示出这一点。但是，看来那个时代制造或设计的机器并不具有这种特性。

在这一点上，我与哈特里完全一致。应当看到，他并不是认为所讨论的机器没有得到这种特性，而是认为洛夫莱斯夫人所能获得的证据没有使她相信机器具有这种特性。从某种意义上说，这种机器得到这一特性的可能非常之大，因为我们可以设想某一离散机器具有这种特性。分析机是一种普适的数字计算机，所以只要有相适应的存储容量和速率，就可以通过适合的程序，用来模仿我们所讨论的机器。伯爵夫人或巴比奇不大可能提出这种观点。无论如何，他们并没有责任断言所有能够断言的东西。

这个问题将在以“学习机”为题的一节中完整地加以考虑。

洛夫莱斯夫人反对意见的另一种说法是，机器“从来不能做任何全新的事情”。我们可以暂时用谚语来对答：“太阳底下没有新东西。”谁能断言他所做的“原创性工作”不过是由老师在他身上播下的种子生长而成的呢？或者不过是从众所周知的一般原理中得到的结果。这种反对意见还有一种较好的说法：机器永远不会“使我们出乎意料”。这一说法是一种更直截了当的挑战，也可以直截了当地与之交锋。机器让我出乎意料的时候非常之多。这在很大程度上是因为我没有对于要确定期待机器做什么作出充分的演算，或者毋宁说是因为虽然我做过演算，但是演算得有点匆忙、马虎，有点冒险。我也许对自己说：“我假定这儿的电压应当和那儿的一样，反正这样假定就是了。”毫不奇怪，我会经常出错，得到出乎意料的结果，因为在实验做完时，我已经忘记了这个假定。这些自供会招致人们对我不良作风的谴责，但是人们不会怀疑我所说的意料之外体验的真实性。

人工智能哲学

62

我并不指望这个答复会使批评我的人保持缄默。他可能会说，那种出乎意料是由于我身上的某种创造性心理活动造成的，并不能为机器增光。这样，我们又被带回出自意识的论点，而远离出乎意料的这一概念。我们应该认为这种争论已经结束，但是也许值得指出，把某一事物评价为出乎意料的，同样需要“创造性心理活动”，无论出乎意料的事是源自一个人、一本书、一台机器，或是其他什么东西。

我相信，机器不可能让人出乎意料的观点起因于哲学家和数学家们特别容易持有的一个谬见。它假定：一旦事实呈现于心灵，这个事实的全部后果就会与之同时涌人心灵之中。在很多场合，这是一个很有用的假定，但是人们太容易忘掉它错误的一面。这样做的自然结果是人们就此假定，仅仅从数据和一般原理推出结论，是没有什么价值的。

有关神经系统连续性的论点

神经系统肯定不是一台离散状态的机器。神经脉冲冲击神经元时，有关它大小的信息方面出现一个小小的错误，就可能造成输出脉冲大小的巨大差别。可以认为，如果这样，就不能指望用离散状态系统

2 计算机器与智能

63

模仿神经系统的行为。

诚然，离散状态的机器肯定不同于连续机，但是如果我们遵照模仿游戏的条件，提问者也无法从这种不同中得到什么好处。如果我们考虑另外一台较为简单的连续机，情况就会更加清楚。微分分析机就很合适。(微分分析机是用于某些演算的一种非离散状态型的机器。)有些微分分析机用打印方式给出答案，所以适合于做这个游戏。一台数字计算机虽然不可能精确地预言微分分析机怎样回答一个问题，但是它完全可以给出答案的正确类型。例如，如果需要求出π的值(实际值约为3.1416)，合理的做法是在3.12，3.13，3.14，3.15，3.16各值中任意选取，它们的概率分别是(比如说)0.05，0.15，0.55，(.19，0.06。在这种情况下，提问者很难把微分分析机与数字计算机区别开来。

有关行为的非形式特性的特点

建立一组规则，以说明一个人在所有情况下应该做什么，这是无法办到的事情。例如，有这样一个规则，看到红色交通灯时应该停下来，看到绿灯时可以行进，但是，若由于某种故障，两灯同时亮起来，该怎么办？人们可能会作出判断：停下来最安全。但是某个新的难题又会随之而来。想要为所有的突发性事件提供指导规则，即使就交通灯的情况来说，也是办不到的。我完全同意这一点。

由此，就论证了我们不可能是机器。我想重新提出这个论点，只是担心有欠公允。也许可以采用这样的说法：“如果每个人都有一套确定的制约他的生活的指导规则，人就并不比一台机器更强；但是这样的规则是不存在的，所以人不可能是机器。”这里最醒目的是不周延中项。我认为这个论点从未这样提出过，但是我相信这毕竟是一个曾经使用过的论点。然而，“指导规则”与“行为规律”之间可能有某种混淆，致使这个问题模糊不清。我所谓的“指导规则”指的是像“看到红灯即停”这样的条例，人们可以根据它来行动，也能意识到它的存在。而所谓“行为规律”则是指适用于人体的自然规律，例如“如果你刺痛他，他就会尖叫起来”。如果我们用“制约他的生活的行为规律”来替换上述论点中的“制约他的生活的指导规律”，那么不周延中项就不再是不可逾越的。因为我们相信，受到行为规律制约，就意味着是某种机器(虽然不一定是离散状态的机器)，这是正确的，不仅如此，反过来，是这种机器，就意味着受到行为规律的制约，这也是正确的。然而，我们不能像认为完备的指导规则不存在一样，简单地认为完备的行为规律也不存在。就我们所知，发现这种规律的惟一方法是科学观察，我们当然也明白，在任何情况下，都无法说：“我们的搜寻已经很充分，并没有这样的规律。”

人工智能哲学

64

我们可以作出更为有力的证明：任何这种形式的陈述都是未经证实的。让我们假定，如果这种规律存在，我们就有把握找到它。那么，如果有一台离散状态的机器，就完全有可能在一个合理的时间段内，比如说在一千年里，由对它的充分观察得到的发现，来预见它未来的行为。但是看来事情并非如此。我在曼彻斯特计算机上装了一个小程序，仅用了1000个存储单元，然后，给这台机器一个16位数，它在两秒钟内就用另一个16位数作出答复。我会认为，没有人因熟知这些对程序来说是充分的答复，而能够预言任何对未经试验的值所作的答复。

有关超感知觉的论点

我假定读者对超感知觉的思想是熟悉的，也熟悉它所指的四个方面，即：心灵感应、视力穿透、预知未来和远距离致动。这些令人眼花缭乱的现象，似乎是对我们所有常规科学思想的否定。我多么希望证明这些都是假的！遗憾的是，至少对心灵感应，统计学提供了强有力的证据。让人们改变思想，接受这些新的事实，是十分困难的。人们一旦接受了这些思想，似乎离相信鬼怪也就不远了。作为第一步，我们先来看看这种思想：我们的身体是直接根据已知的物理定律，以及另一些尚未发现、但也多少有些类似的定律运动的。

2 计算机器与智能

65

我认为这是一个很有分量的论证。人们可以回答说，许多科学理论尽管与超感知觉相抵触，在实践中看来仍是行之有效的。还可以说，如果忘记超感知觉，事实上是可以过得很好的。这是一种没有什么作用的安慰，人们所担心的是，思维恰恰是那种与超感知觉有特殊联系的现象。

在超感知觉的基础上，可能出现下面这种较为特别的论点：“我们来做模仿游戏，作为参试者的是一个擅长接受心灵感应的人和一台数字计算机。提问者可以问这样的问题：我手上的这张牌属于什么花色？’这个人通过心灵感应或视力穿透，在400张牌中作出正确回答130)次。机器只能任意猜测，可能有104次正确，于是提问者就能作出正确判断。”这里出现的是一个值得注意的概率，假定数字计算机带有随机数字发生器，自然会用它来决定作出什么回答。但是随机数字发生器也可能受到提问者远距离致动作用力的影响。这种远距离致动有可能使机器猜对的次数多于由概率估算的次数，所以提问者还是不能作出正确判断。另一方面，提问者也有可能根本不作提问，而是通过视力穿透作出正确的猜测。对于超感知觉来说，任何事情都可能发生。

如果承认有心灵感应，我们的试验必须严加控制。可以认为这情况类似于：提问者正在自言自语，一个参赛者把耳朵贴在墙上倾听。只有把参赛者关在“防心灵感应室”内，才能完全符合要求。

1. 学习机

读者可能早就想到了，我无法从肯定的角度作出非常有说服力的论证来支持我的观点。如果能拿出的话，我就不用这样煞费苦心地列举反面观点中的错误了。不过我还是有一点证据，现在就来谈一谈。

此刻我们再回到洛夫莱斯夫人的反对意见上，这个意见认为机器只能做我们叫它去做的事情。有的人说，人能够把一个思想“注入”机器，机器也会在一定程度上作出反应，然后回归静止，就像钢琴弦被小锤敲了一下那样。另一种比喻是小于临界尺寸的原子反应堆：注入的思想像一个从外面进入反应堆的中子。每一个这样的中子都会引起一定扰动，最后再归于沉寂。然而，反应堆的尺寸增加到一定程度，这个侵入中子引起的扰动就很可能继续进行，不断增大，直到整个反应堆被摧毁。对心灵来说，有类似的现象存在吗？对机器来说呢？对人类心灵来说，确乎有这样的现象。大多数心灵状态看来是“亚临界的”，即相当于这一比喻中所说的低于临界尺寸的堆。一个出现在这种心灵中的思想，所引起的思想响应平均起来还不到一个。超临界的情况所占比例甚小。一个出现在这种心灵中的思想，有可能引发整个“理论”，其中包含着第二层、第三层和更远距离的思想。动物的心灵看来毫无疑问是亚临界的。从这种比喻出发，我们要问：“可以使机器成为超临界的吗？”

人工智能哲学

66

“洋葱皮”比喻也有助于我们的理解。在考虑心灵或大脑功能时，我们发现某些运算可以用纯机械方式来解释。这种情况不能代表真正的心灵，它是一种表皮，如果我们要找到真正的心灵，就必须把它剥掉。但是在剩余的部分中，我们又会发现新的要剥去的表皮，这种做法可继续下去。照此进行，我们是抵达了“真正”的心灵呢，还是最终只看到一层内中空空如也的皮？如果是后者，整个心灵就是机械的。(然而它不是一台离散状态机器，这一点我们已讨论过。)

以上两段算不上令人信服的论证，把它们看作是“抛砖引玉”也许更为得当。

能够对第6节开始时谈到的那个观点提供真正令人满意的根据，恐怕要等到本世纪末了，那时将由上述实验来说话。但是在这期间，我们能说些什么呢？如果要使这实验成功，我们现在应采取什么步骤呢？

正如我已经解释过的那样，这主要是一个编程问题。工程方面的改进也是必要的，但看起来还能适应要求。估计大脑的存储容量在10到105个二进制数字之间。我倾向于较低的值，并且认为用于较高级思维的只是其中的一小部分。它们之中的大部分可能是用于保留视觉印象的。如果成功表演模仿游戏所需的容量超过 $1 0 ^ { 9 }$ ，我会感到吃惊，至少与盲人的情况不符。（注：第11版《大不例颠百科全书》的容量是 $2 \times 1 0 ^ { 9 }$ 。)即使采用目前的技术，也完全有可能实现 $1 0 ^ { 7 }$ 的存储容量。也许根本没有必要提高机器的运算速率。那些可当作神经细胞对应物的现代机器部件，它们的工作大约比神经细胞快一千倍。这样就有了一个“安全裕度”，可以弥补各种情况引起的速率损失。于是我们的问题就是弄清楚该怎样为这些机器编制做这个游戏的程序。根据我目前的工作速度，我大概一天能编一千个数字的程序，所以如果不出现失误，大约60)个人员，持续工作50年，才有可能完成这项工作。看来需要某种更迅捷的方法。

2 计算机器与智能

67

在试图模仿成人心灵的过程中，我们必须对那个把心灵带入它所处状态的过程作大量的思考。我们应当注意三个因素：

1. 心灵的初始状态，比如说出生时的状态；

1. 所受教育；

1. 心灵经历的、但不能看作是教育的其他经验。

与其试图编制模拟成人心灵的程序，为什么不代之以编制模拟儿童心灵的程序呢？如果让儿童的大脑经历适当的教育过程，就能获得成人的大脑。可以假定儿童的大脑多少有点像刚从文具店买来的笔记本，它的机制很少，但有大量空白页。(根据我们的观点，机制和书写差不多是同义的。)我们希望的是，儿童大脑的机制非常之少，很容易为类似的东西编制程序。作为初步近似，我们可以假定，对其实施教育的工作量，与教育人类儿童所用的一样多。

这样，我们就把问题分作两部分：儿童心灵程序和教育过程。这两个部分的联系十分密切。我们不能指望在初次尝试中就得到性能良好的儿童机。我们必须对一台像这样的机器进行教学实验，看一看它学习得如何，然后再试另一台机器，看它比前一台是好还是差。这一过程和进化显然存在联系，如下列等式所示：

人工智能哲学

68

$$
\cup \{ \exists x \in \ O ^ { * } \} \cup \{ \ O ^ { * } \} \mathcal { Z } _ { \cdot \mathrm { H } } ^ { \pm \pm } \# \mathcal { Z } = \ O ^ { * } \ O ^ { * } \{ \ O ^ { * } \mathcal { Z } _ { \cdot \mathrm { H } } ^ { \mp } \} \cup
$$

$$
u = 0 . 5 6 \div 5 \times 6 = 3 0 \div 5 \times 6 = 3 0 0 ( c m )
$$

$$
{ \bf \widehat { x } } \cdot \cong \lVert \dot { y } \rVert = \lVert \dot { y } \rVert = \lVert \dot { y } \rVert \lVert \dot { y } \rVert = \lVert \dot { y } \rVert \lVert \dot { y } \rVert = \lVert \dot { y } \rVert \lVert \dot { y } \rVert
$$

然而，人们也许希望这个过程能比进化更迅捷。用适者生存作为衡量优势的方法太缓慢。通过智能练习，实验者有可能使进度加快。实验者不受随机突变的限制，这个事实也同样重要。如果能够追踪某个弱点的原因，实验者就有可能设计出一种突变来改进它。

教机器学习的过程，不可能与教普通儿童的完全相同。例如，没有给机器安上腿，所以不能要求它到外面去把煤斗装满。它也可能没有眼睛。尽管这些缺陷可以由精巧的技术工艺来弥补，但是把这个杰作送到学校去，不会不引起其他孩子对它的大肆取笑。必须对它作某种个别辅导。我们不必过分看重腿、眼睛什么的，海伦·凯勒小姐的例子表明，只要能够用这种或那种方法在老师和学生之间实现双向交流，教育就能够实现。

我们通常把惩罚和奖励与教育过程结合起来。有些简单的儿童机可以根据这种原理构造或编程。机器必须构造得使那些在出现惩罚信号前不久发生的事件不大可能再次发生，而奖励信号则能提高导致这信号的事件的重复概率。这些规定并没有预先假定机器部件有任何感知方式。我曾在一台这样的儿童机上做过一些实验，成功地教会它一些事情，但是教授方法太不正规了，所以这个实验还不能算是真正成功的。

采用惩罚和奖励充其量只能是教学过程的一部分。粗略地说，如果教师没有其他与学生沟通的方法，那么能教给学生的信息量，不会超过所施奖励和惩罚的总数。在儿童学会重复“Casabianca”这个词时，如果其内容只能通过“二十问”的技巧获知，儿童很可能感到十分痛苦，因为每一个“否”字都是一次打击。所以必须有某种别的“非情感”交流渠道。如果有这种渠道存在，就有可能通过奖惩方式教机器学会服从用某种语言，例如符号语言下达的命令。这些命令是经过

2 计算机器与智能

69

“非情感”渠道传递的。使用这种语言，将会大大减少所需的奖惩次数。

至于何种复杂程度适合于儿童机，有各种不同的见解。可以尝试使它尽可能地简单，只要不违背一般原理即可。另一种做法则是，可以用一个完全的“嵌入”“1逻辑推理的系统。在后一情况下，存储主要被定义和命题所占据。命题状况类型各异，例如：完全确认的事实、猜想、由数学证明的定理、权威的意见、具有逻辑命题形式而不具有置信值的表达式。某些命题可以看作是“命令”。机器应按这种方式构造：只要一个命令被归入“完全确立”一类，就会有恰当的动作自动发生。为了说明这一点，假定老师对机器说，“现在做你的家庭作业。”这样，就会使“老师说‘现在做你的家庭作业’”包括在“完全确立”的事实中。“老师所说的每件事都是正确的”，也属于这样的事实。把这两者结合起来，最终会导致一个命令：“现在做你的家庭作业”，这个命令也包括在完全确立的事实中，同时，根据机器的构造，这就意味着实际上已经开始做家庭作业，而结果是非常令人满意的。机器所用的推理过程，没有必要得到最严格的逻辑学家的首肯。例如，可能不存在类型的层级体系。但是这也并不是说就会发生类型错误，这有点像我们越过无护栏的悬崖，也不一定会坠落一样。适合的命令(在系统内部表达的，但并不形成系统所具有的规则的一部分)例如“一个类别，如果不是老师已经提到的那个类别的子类，就不要使用”，与“不要走得太靠边”有异曲同工之效。

一台没有肢体的机器所能执行的命令，必然像上述例子(做家庭作业)那样，具有一定的智能特征。在这些命令之中，占重要地位的是那些规定有关逻辑系统规则的实施顺序的命令。因为在人们使用逻辑系统的每一阶段上，都有非常之多的步骤可供选择，就遵循逻辑系统的规则而言，无论应用其中哪一个，都是许可的。这些选择造成了有才华的和无能的推理者之间的差异，但这不是正确的和谬误的推理者之间的差异。能够产生这种命令的命题，可能是“提到苏格拉底时，用三段论第一格的第一式”，或者“如果已经证明了一个方法比另一个方法快，就不要使用那个慢方法”。这些命令中有的可能是“权威制定的”，而另一些可能是机器自身产生的，例如通过科学归纳产生。

人工智能哲学

[1]也可以说是“内编程”，因为我们的儿童机是在数字计算机内编程的。但是，逻辑系统不是必须学习的。

70

有关学习机的思想，在有些读者看来，可能是自相矛盾的。机器的运算规则怎么可能改变呢？这些规则应该完备地描述机器的反应，无论它的历史可能是什么，无论它会经历什么变化。因此这些规则在时间上是相当恒定的。的确是这样。在学习过程中发生变化的规则，是那种力量不大、只是暂时有效的规则，这就是对于这种自相矛盾的解释。读者在美国宪法中也可以找到类似的东西。

学习机的一个重要特征是，它的教师对于它的内部过程是怎样的，往往知之甚少，尽管他在一定程度上仍能预言他学生的行为。这一特征非常适用于一台其设计(或程序)经过充分试验的儿童机所产生的机器的后续教育。这样做，显然有别于用机器做计算时的正常过程，在后一种情况下，人们的目的是对机器在计算中的每一瞬间的状态，都给以清晰的有关智力的描述。这个目的要经过艰苦的努力才能达到。在这样的事实面前，那种认为“机器只是能做那些我们知道怎样命令它去做的事情”"的观点，就显得不可思议了。我们能够装入机器的大多数程序，都会使机器做一些我们根本无法意识到的事情，或是我们认为是完全随意的行为的事情。可以假定，智能行为存在于对计算所含照章行事做法的偏离中，不过只是小量的偏离，不会引起随意行为或没有意义的重复循环。通过教和学的过程，从为我们的机器参加模仿游戏做准备中得出的另一个重要结果是，“人类的易错性”很可能是通过一种相当自然的方式消除的，也就是不用作专门“训练”，就可以消除。

2 计算机器与智能

[1]与洛夫莱斯夫人的说法相比，这里增加了“只是”（only)一词。

71