人工智能哲学

舞台魔术师的比喻相当贴切。一个人要弄清这个戏法是怎样变的，如果只是专注地坐在观众席上目不转睛地盯着看，是不大可能取得什么进展的。视线以外的东西太多了。最好还是正视事实：我们必须对后台或舞台侧翼作彻底检查，以期用有效的方式剖解这个表演；反之，则是坐在扶手椅里，对于必须怎样变这个戏法进行推理思考，而不管明确规定的约束条件是什么。因此，框架问题颇像那种常见的、但却不解决问题的“发现”——就扶手椅式思考所能作出的判断而论，我们刚刚观察到的这个戏法是完全不可能的。

这儿有一个变戏法的例子制作午夜快餐。我怎样能为自己搞一份午夜快餐呢？怎样做比较简单？我猜想冰箱里有一些剩下的火鸡片和蛋黄酱，面包箱里有面包，而且冰箱里还有一瓶啤酒。我意识到可以把这些东西凑到一起，于是就炮制了一个十分简易的计划：我只要走过去，察看一下冰箱，拿出所需的材料，为自己做一份三明治，就着啤酒吞下去。我还需要刀子、盘子和啤酒杯。我立即将这一计划付诸实行，它成功了！太棒了。

不了解大量情况，我当然做不到这一点这些情况涉及面包，摊开蛋黄酱，打开冰箱，还有磨擦力和惯性一它们在我端着盘子去我座椅旁的桌子时使火鸡能夹在面包片内，面包能留在盘子里。我也需要了解，怎样使啤酒从瓶里出来进入玻璃杯。2幸运的是，多亏我有以前积累起来的关于现实世界的经验，我可以用所有这些世间的知识把自己武装起来。当然，我所需的有些知识也许是天生的。例如，我必须知道这样一件小事：啤酒倒进杯子之后，它就不在瓶子里了。还有，如果我正用左手拿着蛋黄酱罐，我就不能再用它来拿刀子摊开蛋黄酱。这些情况也许同某些更基本的事情有直接的蕴涵关系，是其具体表现，这些更基本的事情，我实际上是生而知之的，比如这样的事实：如果某物在这一位置上，就不可能也在另一不同位置上；两个物体不可能同时处在同一地方；状态的变化是行动引起的。仅凭想象很难得知人们怎样能从经验中了解到这些事实。

人工智能哲学

[1] 见我的文章(Dennett 1982a)，这是对古德曼文章(Goodman 1982)的评论。

[2] 这种物理学知识，不是在学校里学到的，而是在童床上学到的。见Hayes1978, 1979。

162

在我们行动和做计划时，像这样最平常的事实逃过了我们的注意，同时我们也不必奇怪以现象学方式，而不是内省方式作思考的哲学家们必然会忽略它们。但是如果无视内省，完全以“异质现象学”“”的方式思考这一任务提出的纯信息要求：每一个能够完成这一任务的实体必须了解哪些情况，那么这些平常的知识就会引起我们的注意。我们不难使自已感到满意的是，执行者如果不以某种方式受惠于这样的信息（瓶中的啤酒不会在杯中，等等)，就不能完成如此简单的任务。AI使人们成为这一改进方式下的现象主义者，这是它在方法论上的主要优点之一。作为异质现象主义者，其推理方式是：执行者为了用各种不同的方式完成任务而必须无意识或有意识地“知道”什么或断定什么。

AI迫使平常的信息浮现出来，其原因是AI面对的任务是从零开始的：通过编程去模拟执行者的计算机(或是机器人的脑，如果我们确实准备在真实的、非模拟的世界中进行操作的话)，对“关于现实世界”的事最初是一无所知的。计算机是传统说法中的白板，它需要的每一条目都必须以某种方式印上去，或者在开始时由编程员来做，或者通过

7 认知之轮：人工智能的框架问题

{1] 关于对异质现象学的详细讨论，见 Dennett 1978，Ch. 10，“心理意象的两种方式”，以及 Dennett 1982b。也见 Dennett 1982c。

163

系统的后续“学习”来做。

今天我们都会同意，一个出生时像自板一样面对世界的实体，根本不可能学习，但是在什么是天生的、什么是在成熟中形成的以及什么是真正学习所得的之间划分出界线，比起人们或许已经产生的看法，在理论上就不那么重要了。虽然有些信息必须是天生的，但是几乎没有什么特殊条目必须是：体察到或许是肯定前件的假言推理，还有排中律，以及对因果性的某种观念。同时虽然有些事情我们必须学习才能知道，如感恩节在星期四到来，冰箱可以使食品保鲜，但是另外许多“完全经验”的事情，原则上是可以生而知之的，如微笑意味着愉快，没有悬挂好、没有支撑的东西会掉落。（事实上，有某种证据表明，人有一种容易感知以重力加速度降落物体的天生倾向。)川

从事AI的人，利用了理论认识方面的这种进展(如果情况是如此的话)，能够坦然地忽略学习问题(看起来是如此)，直接给执行者装备了解决问题时应该“知道”的所有内容。如果上帝一开始就把亚当造成一个有可能解决午夜快餐问题的成人，那么AI执行者的制造们原则上毕竟也能制造一个“成人”执行者，用世间的知识把它武装起来，好像它已经花力气学会了所有需要知道的事情一样。当然，这可能是一种危险的捷径。

这样，装备问题就是一个以这种或那种方式给执行者装备在变化着的世界中做计划所需的全部信息的问题。这是个困难的问题，因为信息必须以能使用的方式来装备。这个问题可以首先分成语义问题和句法问题。语义问题—A·纽厄尔称之为“知识层次”的问题(Newell1982)，就是必须装备何种信息(有关何种主题，得出何种结果)的问题。句法问题就是装人该信息时要使用何种系统、形式、结构或机制

人工智能哲学

[1] G·约翰森已经证实了，随便一个观察者，在区分动画片中以正常重力加速度下落的“落体”动点与“人工”运动时，都不会出错。我不知道是否在婴儿身上做过这样的试验，看一看他们对这些展示是否也是有选择地作出响应。

164

的问题。[1]

在午夜快餐问题的例子中，这种划分是显而易见的。我列出了为了解决快餐问题所需要知道的大量平凡事实中的一部分，但这并不意味着我认为这些事实逐一存储于我或任何一个执行者之中，其形式是把执行者用得着的那些事实用一长串句子一一清楚地陈述出来。正规地说，这当然是一种可能性，但是将每一个可区分的“命题”分别记入系统的做法，是心理表述的“思维语言”理论的反常的极端形式。没有人赞成这样的观点。即使一本百科全书，也是经过组织，以它的明晰的表达方式而获得重要实用效果的；而活的百科全书不是为想象中的AI执行者画的拙劣的漫画必须采用不同的系统原理，以获得有效的表述和通路。我们知道成千上万的事情：我们知道刀子在接触蛋黄酱时不会溶化掉，知道面包片比珠穆朗玛峰小，知道打开冰箱不会在厨房里造成核杀伤。

在我们身上，以及任何智能执行者身上，肯定存在着某些高效的、局部生成式的或产生式的系统，用以表述所有需要的信息(存储待用)。这样，我们就必须以某种方式立即存储许多“事实”，并假定这些事实大体上与意义不同的陈述句一一对应地排列着。此外，我们不能指望在实际中得到所谓斯宾诺莎式解答的东西一少量的公理和定义，从这些公理和定义出发，就能推演出所要求的所有其他知识，因为在这些大量的事实之间显然完全不存在任何指定关系。（当我们如我们必须做的那样依赖经验去分辨世界是什么的时候，经验告诉我们的东西，根本不是来自那时我们所知道的内容。）

7 认知之轮：人工智能的框架问题

[1] 麦卡锡和海斯(McCarthy and Hayes 1969)指出了“认识论的”和“启发式的”这两者之间的不同区分。这种不同表现在，他们把“应当用何种类型的内部标识来表达系统的知识？”这一问题列为认识论问题的一部分(见P466)，而把那个句法(因而多少表现为技术细节的)问题从设计“以信息为基础解决这一问题和决定做什么的机制”的过程问题中分离出去。

框架问题究竟是哪种问题，引起这一争论的一个主要原因就是试图对该议题作上述划分。因为对认识论问题所作的句法方面的回答与启发式问题的性质有着重大差别。说到底，如果系统的知识表达所用的句法极其不合常规，那么尽管那种知识表述具备准确性，启发式问题仍将是不可能的。同时有些人提出，如果现实中的知识原来就表达得十分得当，那么，启发式问题实际上就不复存在了。

165

对于有效信息存储系统的要求，部分地是一种空间限制，因为我们的大脑没有那么大，然而它更重要的是一种时间限制，因为对现实世界中的执行者来说所存储的信息如果不能在通常是有效的短暂实时段中可靠地取用，就根本没什么用处。一个能够在足够长的时间里比如说一百万年间解决任何问题的生物，事实上根本不是智能的。我们生活在有时间压力的世界之中，就必须能在行动之前迅速地想。(我们不必把这一点看作智能的先决条件。不难看到，我们的思维的确很敏捷，所以就存在着一个我们是如何设法做到这一点的经验问题。）

AI研究者面临的任务看来是设计这样一个系统，它能使用从它存储的知识中恰当选择的因素来做计划，而这些知识正是关于它在其中运作的那个世界的知识。对于我们怎样做计划所作的“内省”，提供了如下的过程说明：设想某一情境(往往是概述)；然后想象在这一情境中完成某一行动；然后“弄清”所设想的这一情境中行动的可能后果会是什么，并且对它作出评估。可以说，容许这样“弄清”（并使它成为和它本身一样可靠)的发生在幕后的东西，决不可能由内省获得。

在一些较为罕见的场合，我们都经历过这样一番思想体验，思想以审慎的沉思速度在意识中展开。在这些场合中，我们面对某个新的、有一定难度的问题，诸如：怎样把钢琴搬上楼去？用什么方法在不破坏泥制天花板的情况下安装吊灯？我们看到一个人为了解决午夜快餐问题，不得不用那种(有意识的和缓慢的)方式进行思考，也许会相当奇怪。但是有迹象表明，即使做计划和身体导向这些我们未曾注意到(虽然从某种意义上说，我们“面对”着它们)的平常问题，也是通过类似过程解决的。这是为什么？因为在这种情境中，我们没有观察自己做计划的过程。这一事实足以让传统的、内省的现象主义者相信，这种做计划的过程根本没有进行1]。另一方面，异质现象学主义者作出这种推理：有关这一情境中对象以及有关候选行动的拟议中的作用和副作用的信息，必须以某种方式来使用(来考虑，注意，应用，体察)。这是为什么？因为否则的话，“巧妙”的行为就完全成了碰运气或变魔术。(有什么模型来说明这种无意识的信息体察是怎样完成的吗？迄今为止，我们所有的惟一模型就是意识的、审慎的信息体察。AI认为，也许这是一个不错的模型。如若不然，我们现在就全都处于黑暗之中了。）

人工智能哲学

[1] 这种观察也说服了G·赖尔，这位举足轻重的内省现象学家(而不是“行为主义者”)，见 Ryle 1949。

我们不难想象赖尔对AI的反诘：“在制作三明治的过程中，我要做出多少个推理？什么三段论能使我相信啤酒还在杯子里？”有关赖尔怀疑论论点及其与认知科学的关系的进一步论述，见我的“心理表述的方式”（Dennett1983)。

166

通过考虑反面的事实陈述，我们更加确信一个执行者具有智能：假如有人告诉我火鸡有毒，或啤酒会爆炸，或盘子很脏，或是刀子不结实无法摊开蛋黄酱，我们还会像以前那样行动吗？假如我是一台愚蠢的“自动机”—或是像泥蜂科黄蜂那样，“不动脑子”地用一成不变的方式重复它的巢穴检查的固定程式，直到累死1我可以以不恰当的方式“装模作样”地制做午夜快餐，而不理会难对付的环境特点。但事实上，我的午夜快餐制作行为在以多种多样的方式感受有关这一情境的当前的和背景的信息。它能如此感受一进行内隐式的异质现象学推理的惟一途径是检查或检验问题中的信息。信息处理可能是无意识的、迅速的，它无须(更好是不)包含成千上万的逐一检验过程，但是它必然以某种方式出现，而且当我使自己行动时，它的这些优点必然会及时给我以帮助。

7 认知之轮：人工智能的框架问题

[1]“到了产卵的时候，泥蜂科黄蜂就会专门为产卵建一个窝，同时找一只蟋蟀，把它叮得麻木，但不弄死它。它把蟋蟀拖进它的窝中，紧靠着蟋蟀产下卵，把窝封起来，然后飞走，再也不回来。在适当的时候，卵孵化后，黄蜂幼虫以那只麻木的蟋蟀为食，它没有腐烂，以黄蜂的方式保存，相当于冷冻起来。对人类心灵而言，这样一套精心组织同时看来颇具目的性的固定程式展现了今人信服的逻辑和周密思考的特征一真到更多的细节被检查为止。例如，黄蜂的这套固定动作是把一只麻木的蟋蟀带回窝边，把它放在窝口，进到里面，得知一切准备停当，钻出来，然后再把蟋蟀拖进去。如果黄蜂在窝内作初步查看时，有人把蟋蟀移开几寸，黄蜂出窝后就会把蟋蟀带回窝口，而不是带进窝里，然后重复进行进窝鉴定一切都准备得当的预备性过程。如果黄蜂进窝时，蟋蟀又被移动几寸，黄蜂会再一次把蟋蟀移回窝口，再进人窝中作最后的检查。黄蜂从未想到直接把蟋拖进窝中。有一回，这一过程重复了40次，每次都是同样的结果”(Wooldridge 1963)。

我在《神机妙算》中讨论了这个昆虫中常见现象的生动例子(Dennett1978)，也见Hofstadter 1982。

[2] 见 Dennett 1982C:58—59，《机器人剧院》。

167

当然，经过几年时间，我可能已经形成了制作午夜快餐的程式，这时我能部分地依靠它来引导我的行动。像这样复杂的“习惯”必然受控于某种复杂性机制，因为，甚至固定步骤的序列也要有定期的检验，以确保次级目标得到满足。即使我是一个偶尔吃快餐的人，我肯定也知道摊开蛋黄酱，做三明治，从冰箱取出东西，这样一些程式，从而可以组成我的多少有点新意的活动。如果把这些程式完美地整合为一体，它们至少能在我更为“不动脑子”的尝试中满足我解决框架问题的需要吗？这是一个悬而未决的问题，我以后再来讨论。

不管怎样，重要的是从一开始就承认，并经常提醒自己，甚至资质很高的人，也会犯错误。我们不仅不是一贯正确的计划者，而且我们很容易忽视计划中那些重大的、回过来看又是非常明显的缺陷。这种弱点会在常见的“习惯力量”错误的情形中暴露出来(这时，我们的老一套程式表现出对某些奇特环境变化惊人地不敏感，而对另一些则惊人地敏感)。在我们有意识地审慎思考的情况下，也偶尔出现同样的弱点。为搬运钢琴之类的事做计划——在这计划中，你事先已经想过甚至“走过”整个运作过程一—不过是为了发现这种情况：某个完全可以事先看到，但却未看到的障碍物，或者未曾想到的附带情况冒出来时，你必须退回去或放弃原来的计划，这种事你遇上过多少次？如果我们这些精明人实际上难得使自己陷入困境，这并不是因为我们事先计划得那么好，而是因为我们在工作过程中，把回忆起来的经验知识(例如关于傻子使自己陷入困境的经验)和进展中的经常性检查结合起来，以弥补我们整脚的计划能力。即使如此，我们必须有足够的知识才能在恰当的时候回忆起恰当的经验知识，以及确认那些即将出现的问题。

我们作一总结。经过条理清晰、理由充分的思考之后，我们的结论是：智能执行者必须着手制订感受信息敏捷的“计划”，其作用是对他的行动后果产生可靠的而不是过于简单的预期。在智能动物中，这些预期一般是有效的，这一点可以从预期受挫时它们表现出的吃惊反应得到证明。这为我们刻划能生成框架问题的最低目标的特征提示了一个生动的方法：我们要让制作午夜快餐的机器人对玩魔术用的盘子、摊不开的凝固的蛋黄酱以及我们将啤酒杯粘在架子上的事实感到“惊讶”。为了感到惊讶，你必须预期别的什么事物，而要预期某个别的正确事物，你必须具有并使用大量有关现实中事物的信息。 [1]

人工智能哲学

168

有些人从预期的主要作用中得出这样的结论：框架问题根本不是一个新问题，它与做计划的行动毫无特殊关系。在他们看来，这只是一个对任何未来事件做正确预期的问题，不管这些事件是一个人自己的行动，还是另一个执行者的行动，或者只是自然界中偶然发生的事情。这是一个归纳的问题，休谟提出它，古德曼(Goodman1965)对它作了进一步阐发，但是仍没有人人都满意的解答。现在我们知道，归纳问题的确是个棘手的问题。主观概率和信仰定位的理论并未在思考的平衡状态中保持稳定，所以公允地说；还没有人曾经对这个一般性问题作出正确的、原则性的回答，因为如果我相信这一情况的所有方面都是真的(具有这一情况证据的所有方面)，那么，(关于未来，或关于现实世界中尚未检验的那些部分)我应该相信的还有什么呢？

把一个尚未解决的问题简化为另一个问题，尽管还有不能令人满意的地方，却是某种进步，然而它不是这种情况下的选择。框架问题不是乔装打扮后的归纳问题。因为我们假定归纳问题已得到解决。假定—这也许是不可思议的——我们的执行者已经解决了它的所有归纳问题，或者已通过命令使它们得到解决；于是它相信来自证据的所有正确概括，并把恰当概率和条件概率同所有这些概括联系起来。按照假设，这个执行者相信的只是关于它知识范围中的所有经验事物，包括未来事件的概率，这些它所应当相信的事物。这对框架问题可能仍不是件好事情，因为这个问题关系到怎样表述(所以才能使用)所有来之不易的经验信息一该问题的出现并不依赖于它具有的任何真值、概率、被认可的可断言性，或主观确定性。即使你具备了关于这个变化着的世界的精良知识(而不只是信念)，这一知识怎样才能表述得使它能被有效地应用呢？

7 认知之轮：人工智能的框架问题

{11 H·德雷福斯曾经指出，不预期x并不意味着预期y(这里x≠y)，所以一个人因某个并未预期的事物而受惊时，他并不一定(无意识地)预期了某个别的事物。但是这种不预期的意识并不足以解释为什么会受惊。在此后5小时里你迟早会看到阿尔法·罗密欧、别克、雪佛莱和道奇这四辆汽车按字母次序停放，这种事的难度怎么样？无疑，所有的事都考虑到，这太难了，所以我不会预期你去预期此事；同时我也不会预期你会因看到这种未预期的景象而受惊—除非在某种特定场合，你有理由在这一时间和地点预期某个别的事物。

受惊反应是认知状态的有力的指示器—警察们(还有侦探小说作者们)早就知道这一事实。只有某个预期冰箱里装着(比如说)史密斯尸体的人，才会在看到里面装着不大可能的三件东西：一瓶夏布利名酒、一简猫食和一块洗碟布时受惊(而不是多少有点兴趣)。

169

回想一下可怜的 $\mathbf { R } _ { 1 } \mathbf { D } _ { 1 }$ ，并且为证论方便起见，假定它在测出它的所有行动的全部后果的概率方面有着完善的经验知识，所以它相信，执行拉出(小车，房间)会使小车车轮发出听得见的噪声的概率是().7864；通向房间的门向里开而不是向外开的概率是0.5；房间里没有活着的大象的概率是0.999996；车子移动时炸弹还留在车上的概率是().997。$\mathbf { R } _ { 1 } \mathbf { D } _ { 1 }$ 怎样才能最终从经验知识的大海里捞出那根意义攸关的针呢？一本活的百科全书由于它有关于悬崖和重力作用的全部知识会轻蔑地对待悬崖，除非它被设计得能在恰当的时候找到适当的知识，因而能够做出它与现实世界交往的计划。

最早的AI计划系统研究采用的是演绎方法。鲁宾逊创造的分解定理证明法，对设计者们是一个鼓舞，他们希望把系统具有的所有“关于世界的知识”明晰地表述为公理，并使用普通逻辑即谓词演算来推演行动的结果。设定某一情境S，就是使系统包含一组描述这一情境的公理而为其建立模型。再在其上增加背景公理(即所谓“框架公理”，框架问题因此而得名)，它们描述了为该系统定义的每一行动类型的一般条件和一般结果。该系统将行动施加于这组公理假定在情境S中有某个行动A出现然后推演出A在S中的结果，于是就得到关于结局的情境§的描述。虽然在我们的意识经验中，所有这些逻辑演绎好像根本不存在，可是演绎方法的研究得以进行是根据下面两个有力假定之一或两者兼有之：心理实在论是“纯”AI的无根据的额外添加，而不是它的目标一——方法论假定；所描述的演绎过程能以某种方式为意识途径之外的幕后过程建立模型存在性(即使仍是模糊的)假定。换句话说，或者我们在谓词演算中不用演绎方式进行思维，但机器人会用；或者我们在谓词演算中确实(无意识地)用演绎方式进行思维。然而，撇开对心理实在论的怀疑不说，除了一些人为造成的琐碎例子外，演绎方法还未曾表现得有效，有效一—这是对每一机器人优劣的实践证明。

人工智能哲学

170

我们来看几个与行动类型“把x移到y上”有联系的典型的框架公理：

(1)如果z≠x，同时我把x移到y上，那么如果 z事先在w 上的话，事后z仍在w上。

(2)如果x事先是蓝色的，同时我把x移到y上，那么事后x仍是蓝色的。

我们注意到，关于保持蓝颜色的(2)，只不过是我们必须与这一行动类型相联系的众多烦人的“无变化”公理的一个例子。更糟的是，我们注意到：也是关于保持蓝色的(2)的同类们，必须与其他每一个行动类型相联系，例如与捡起x以及与把x给y相联系。人们无法一劳永逸地通过作出类似。

(3）任何蓝色物体仍保持为蓝色的假定来避免这个无知的重复，因为这样做是错误的，特别是我们要为引人像“把x漆成红色”这样的行动类型留余地。既然事实上一个情境的任何方面都可能在某种环境中发生变化，这个方法就需要为每一方面(关于S的描述中的每一论断)引入一个公理，以处理每一行动类型是否在这一方面发生变化的问题。

这种表述上的无度发展很快就变得无法控制，但是对于AI中某些“玩具型”问题来说，混合使用玩具型环境和蛮力方式，可以在一定程度上将框架问题制服。SHAKEY的早期形式，SRI的机器人，就是在这种简化而单调的世界中运作的，它要操心的方面很少，所以有可能侥

7 认知之轮：人工智能的框架问题

171