人工智能哲学

人工智能哲学

幸地完成对框架公理的彻底考察。1]

防止这种公理数目激增的尝试以这一建议作为开始：系统的运作根据的是一个不言自明的假定，即除了所施加行动的定义中明确断言要发生变化的东西以外，一个情境中的任何东西都不发生变化(Fikes andNilsson1971)。正如G·哈丁曾注意到的那样，这里的问题是，有一件事你正好没有做。这是R在没有注意它会把炸弹同小车一起拉出来时所遇到的问题。在对我的午夜快餐解答的明确表述中(几页前)，我提到了把盘子拿来放在桌上。根据这一建议，我的S模型将把火鸡留在厨房里，因为我没有明确地说火鸡会随盘子一起来。人们当然可以通过修补“取”或“盘子”的定义来处理这一问题，但这只有以增添别的定义为代价。（多一些补丁就能解决这一问题吗？人们应当在什么时候放弃打补丁而去寻找一个全新的方法？这正是在该领域中经常碰到的方法论上的不确定性，同时当然也没有人能负责地事先声称有处理这些事务的良好规则。失望中的幼稚建议和对变革的呼唤，与固执地坚持走毫无希望的道路显然是同样应当避免的。难怪这是一个有争议的领域。）

虽然我们不能侥幸地采取这种策略：假定“一个人能做的只是一件事”，但是在任何情境中(逻辑上)可能发生的事情的确很少发生，也同样是事实。有没有什么方法给可能出现重要副作用的范围加上容易出错的标记，并假定该情境的其余部分保持不变？在这里，进行相关性检验看来是个好主意，这些检验可能确实有这个作用，但它们不属于演绎方法。正如明斯基注意到的那样：

即使我们对相关性限制作出系统阐述，逻辑系统使用它们时也有问题。在任何一种逻辑系统中，所有公理必然都是“容许的”——它们全都有助于容许新推论的推出。每一个新增的公理都意味着更多的定理，没有一个定理会消失。绝对没有一个直接增加信息的方法，是就不应该推出的种种结论告诉我们一个如此系统的！…如果我们试图通过增加相关性公理来改变这一情况，我们还会得到所有那些并不想要的定理，还有那些令人厌烦的关于它们的不相关性的陈述(Minsky1981:125)。

[1] P·海斯指出的SHAKEY的这种早期特点，引起过我的注意。也见德雷福斯的文章(Dreyfus 1972:26)。在丹尼特的文章中SHAKEY的作用全然不同(Dennett1982b)。

172

我们所需要的是一个真正忽略它所知的大部分内容，并在任一时刻根据恰当选择的部分知识进行运作的系统。恰当选择，并非是经过彻底考察作出的选择。可是，怎样才能为一个系统建立忽略规则？或更进一步，既然明确地遵循规则不等于这个问题，怎样才能设计出一个系统，使它在一个复杂的行动环境中面临种类众多的不同情况时，可靠地忽略那些应该忽略的东西？

J·麦卡锡称这为限定性问题，并且通过著名的教士和食人者难题对此作出生动说明。

三个教士和三个食人者来到河边。只有一条可乘两人的小船。如果在河岸的任一边食人者的数目超过教士，教士就会被吃掉。他们该怎样过河呢？

显然，该难题需要的是设计出一个往返划船策略，使他们都能过河，又不发生惨剧……

我们设想把这个问题交给某人，经过一段时间的苦思冥想，他提出建议，向上游走半英里路，从桥上过去。“什么桥？”你说，“这个问题的陈述中没有提到过桥。”这个笨伯回答说：“可是他们没有说那里没有桥。”你查看了一下原文，甚至查看了翻译成一阶逻辑的原文，你不得不承认，“他们没有说”那里没有桥。于是你修正了问题，将桥排除在外，再次提出。这个笨伯又建议乘直升飞机，当你排除直升飞机之后，他建议飞马，或是在两人划船

7 认知之轮：人工智能的框架问题

173

时，其他人吊在船外。

现在你看到了，他虽然是个笨伯，但却是一个有创造性的笨伯。要让他正确认识这一个难题的实质，你完全失望了，于是把解答告诉他。更让你气恼的是，他以船可能会漏或没有桨为理由，对你的解答提出反诘。当你纠正了该问题陈述中的这一省略之后，他又提出可能有一个水怪游出河面，把小船吞下去。你再次受挫，于是去寻找一个能一劳永逸地使他哑口无言的推理方式(McCarthy 1980:29—30)。

正常的智能人在这种情境中所做的事，是进行某种形式的非单调推理。在经典的、单调的逻辑系统中增加前提时，决不会因这些前提而减少所能证明的内容。正如明斯基所指出的，公理基本上是容许性的，而一日一个定理被容许，增加更多的公理决不会使先前定理的证据无效。但是当我们考虑一个难题或实际生活中的问题时，我们可能会得到一个解答(甚至证明它是一个解答，而且是该问题的惟一解答)，然后发现由于在提出该问题时增加了一个新因素，我们的解答变得无效了，例如：“我忘了告诉你，那里没有桨”，或是“顺便说一句，在上游有一个很结实的桥”。

这种事后增补使我们看到，与我们的假定相反，其他事项并不是同等重要的。我们一直是在借助其余情况相同的假定进行推理，现在发现了某个“反常”事物的存在，我们的推理则因此而遭到损害。（顺便提及，这里所说的反常性，比起任何人根据概率论苦苦得出的任何东西要微妙得多。正如麦卡锡指出的，“涉及带有假定特性的食人者的整个情境，不能被看作是具有概率的，所以一旦给出该假定，很难认真对待桥的条件概率。”)(出处同上)

存在于一些推理之中的其余情况相同条款有其优点，即人们不必确切地说出它指的是什么。“你说‘其他事项等同’，这是什么意思？确切地说，何种其他事项的何种格局被看作等同的？”如果必须回答这样的问题，援引其余情况相同条款是毫无意义的，因为人们正是为了回避这一任务才使用它的。如果能够回答这个问题，就不需要在一开始援引这一条款了。因而考察框架问题的方法之一，正是尝试让计算机利用这种具有人类特点的心理操作方式。AI中当前正在研究的非单调推理方法有好几种，它们的差别很大，只有这个目标是共同的：获得人类的才智，去忽略该忽略的，同时在重大的反常情况出现时保持警觉。

人工智能哲学

174

以 M·明斯基和 R·尚克(Minsky 1981；Schank 和 Abelson 1977)的工作为典型的一组方法，从集中注意能力的定型套路中获得了忽略的能力。在这里，这个富有启发性的见解表现为这种思想：将一切变化多端的生活经验压缩成数目可控制的一些定型套路的主题，亦即范式型的情节梗概明斯基称之为“框架”，尚克称之为“脚本”—中的变化。

一个人造执行者配有内容充足的框架或脚本的纲要，如果这些框架或脚本恰当地相互联系，并通过执行者的感知器官与现实世界的撞击恰当联系，这个执行者就会运用一个详细描述的系统去面对现实世界，组成这个系统的东西可以称之为习惯注意和有利倾向，即在特殊类型的境况中迅速得出特殊类型结论的倾向。它会在某些环境中“自动”对某些特征加以注意，并假定某些通常有的、这些环境中未检查出的特征是存在的。与此同时，它有区别地对重大偏差保持警觉，这些偏差背离了那些它从开始就一直“预期”着的定型套路。

对这种执行者与现实世界碰面的片断所作的模拟表明，在许多情境中执行者都做到了行止得当，而且看上去很自然，当然很难说这种方法的局限性是什么。然而怀疑主义也有充分的根据。最明显不过的是，虽然当现实世界与系统的定型套路相配时，甚至与预期的定型套路的变化相配时，这种系统的表现是靠得住的，但是当现实世界变得反常时，这种系统一般都不能得体地从它们被引入的错误分析中复原。事实上，在极端情况下，系统行为寻求的只是某一种现实世界，就像昆虫在它们刻板的向性和其他由遗传硬连接的行为程式的错误引导下做出的一些愚蠢地产生相反结果的活动。

7 认知之轮：人工智能的框架问题

175

当这些令人为难的意外情况发生时，系统设计者可以用增加条款的方法改进设计，以应付这些特殊情况。重要的是应看到，在这些情况下，系统并不重新设计自己(或学习)，而是必须等待外部设计者选择改进的设计方案。这一重新设计的过程从某种意义上说是对自然选择过程的简要描述，它倾向于作出最低限度的、零星的专门的重新设计，有点像在未来事件可能存在的模式上下赌注。所以从某种意义上说，它是符合生物学主题的。1]然而，这种系统在具备从自己错误中学习、而不用设计者干预的重要能力之前，它将继续以昆虫的方式作出响应，以这种行为方式作为人类日常生活中的反应模型，是远不切合实际的。依赖定型套路所提供的捷径和取巧方法，在人类思维方式中是够明显的，但是同样明显的是，我们具有更深层的理解，可以在捷径无效时退回，所以，将某种程度的这一更深层的理解植入系统中，看来是使该系统快速和得体地学习的必要条件。

实际上，脚本或框架方法是预先解决特殊执行者有可能遇到的框架问题的一种尝试。虽然昆虫看来的确装备了这种控制系统，可是人却不同，即使他们的确表现出对定型套路的依赖，却仍有做替补的思维系统，能以更强有力的方式处理所出现的问题。再者，人在利用定型套路时，依靠的至少是自己设计的定型套路，并且时至今日，还没有人能够提供什么切实可行的思想来说明，以前的经验会怎样指导一个人的框架生成或脚本编写机制。

近年来，从演绎传统中产生出若干个不同的精心策划的尝试，为更深层的理解提供了表述框架。D·麦克德莫特和J·多伊尔创造了“非单调逻辑”(McDermott and Doyle 1980)，R·赖特提出“缺省推理逻辑”（Reiter1980)，而J·麦卡锡发展形成了“划界”系统，这是一个形式化的“猜想规则，人或程序可使用它来‘直达结论’”（McCarthy

人工智能哲学

[1]然而从一个重要的方面来看，它与自然选择过程有着显著的不同，因为该过程的试错和选择决非是盲目的。但是也会出现这种情况：在重新设计的过程中，缺乏耐心的研究者只不过是靠着先见之明的于预，来缩短时间而已。

176

1980)。它们之中没有一个是，或者自称是，其余情况相同推理问题的全解，但是它们或许可以作为这种解的组成部分。最近，麦克德莫特提出了“供有关过程和计划的推理用的时态逻辑”（McDermott 1982）。我不打算分析这些方法在形式上的长处和缺点。我主要有另外一种担心。从一个角度来看，非单调逻辑或缺省逻辑、划界、以及时态逻辑，对于不动脑子的机械的演绎方法来说，看来都是根本性的改进；但是换一个稍微不同的视角，它们则表现出更多的共同之处，至少与用于心理模型的框架一样地非实在。

它们以先前的姿态出现，是要向更高的心理实在论前进一步，因为它们认真对待并试图表述的以现象学方式凸现的现象，是属于常识的其余情况相同“直达结论”推理的。但是意识思维的幕后实现方式在人类中是怎样完成的，它们真的成功地就这一点提出了什么有说服力的见解吗？即使在大有希望的未来某一天，一个带有可排除错误的划界法的机器人，在非玩具型环境中操纵自如，它的那些在低于现象学的层次上描述的组成过程，与人类之中那些未知的较低层次的幕后过程具有信息上的联系，这种可能性是否很大呢？为了更清楚地说明我的担心，我打算引进认知之轮的概念。

我们先想想普通轮子，就能够理解认知之轮可能是什么。轮子是奇妙而精巧的技术成就。对于传说中的轮子发明者的一贯尊崇，完全是理所应当的。可是既然轮子这样奇妙，为什么没有带轮子的动物呢？为什么在自然界中没有发现轮子(或像轮子一样的功能)呢？首先，必须确认这一问题中的假定是否正确。几年前，从几个微小生物(一些细菌和一些单细胞真核生物)身上得出一个令人震惊的发现：它们具有轮子一类的东西。它们那起着推进作用的尾部，一直被看成柔性的节鞭，其实是有一定硬度的螺旋体，在具备主轴承的微型发动机之类的东西推动下连续转动。1人们更了解的是风滚草，不过由于明显的原因，较少引起人们的兴趣。所以自然界里没有轮子(或轮式设计)的说法是不符合事实的。

7 认知之轮：人工智能的框架问题

[1] 有关这些论点的详情和进一步的见解，见Diamond 1983。

177

可是，宏观的轮子——爬行动物、哺乳动物或鸟类中的轮子——尚未发现。为什么没有呢？例如，对有些鸟类来说，轮子似乎是绝好的可收缩的降落装置。这个问题一经提出，就会涌现出一些看似合理的、可解释它们不存在原因的理由。最重要的可能是有关轴和轴承交界处的外形特征的考虑，因为这些特征使物质或能量穿越交界处的传递特别困难，生命系统中维持生存的大动脉怎样才能保持完整地穿过这个交界处呢？但是一旦提出问题，解答就会露出端倪。假若有生命的轮子以不旋转、无功能的形式长到成熟，然后变硬脱落，但不完全脱落，就像鹿角或快速长成的虫壳那样，然后它就在滑润的固定轴上自由旋转。这可能吗？很难说。它有用吗？也很难说，尤其因为这样的轮子必须靠惯性滑行。这是一个有趣的推测练习，但肯定不会促使我们得出明白无误的先验结论。断言轮子在生物学上是不可能的，显得有点鲁莽，但我们同时也能体察到：对自然界的设计问题而言，这解答至少还是很遥远的，而且未必能成功。

目前，认知之轮只不过是认知理论中某种远非生物学的设计建议(可处在从最纯粹的语义层次到最具体的神经元“线路图”层次的任一层次上)，不管它作为一种技术是多么奇特和精巧。

这显然是一个定义模糊的概念，只有作修辞简化的用处，像是一种指示出需要仔细加以研究的实际困难的手势。“要当心对认知之轮的假定”，这话看起来像是对认知研究者的忠告，实际上是把虚情假意的空洞内容当成了要遵循的准则。1它与证券经纪人“低买高卖”

人工智能哲学

[1] 我饶有兴趣地发现，至少有一位AI研究者在刚一听到我这个新术语时，就对它的修辞含义发生了误解。他把“认知之轮”看作一种赞词。如果人们像他一样，不是把AI当作一种心理学研究方法，而是看作企图扩展人类认知力量在工程方面的一个分支，那么认知之轮当然就成了惊人的发现。计算机有庞大的而且事实上永不会出错的记忆能力，也许是最重要的例子；还有，计算机具有精湛的算术技艺和无懈可击的不知疲倦、不会注意力分散的特点。见霍施塔特(Hofstadter1982)就疲倦与记忆结构和创造力条件的关系所作的富有洞察力的论述。

178

的准则有异曲同工之处。其实，该术语用来确定讨论主题是相当不错的。

许多批评AI的人都深信：任何AI系统除了作为认知之轮的齿轮箱之外，什么作用也不起，而且这是必然的。当然，这有可能是正确的，但是所以有这种看法，一般来说是基于对这一领域的方法论假定的误解。有关某个认知现象的一个AI模型被提出时，这个模型可以在多个不同层次上作出描述。从整体性最强的现象学层次开始，在这一层次上，行为是通过普通的心灵主义术语(不无牵强地)来描述的，向下通过各种实现方式的层次，直到程序编码层次——甚至进一步向下，到达基本的硬件操作层次，这取决于人们的意愿。人们不会假定这个模型一直向下映射到心理学和生物学过程。该主张仅仅是说，在某个高层次上或是在现象学层次(该层次仅仅提出问题)以下的一些描述层次上，存在着从模型特征到被建模型事物的映射，这也是人或其他生命体中的认知过程。可以这样理解，在拟建立模型的层次之下，所有的实现方式细节无疑都可以由认知之轮构成，这是一些非生物的计算机的活动，它们从整体效果上对认知的次级组成部分进行模拟，所使用的方法完全不同于有待于在大脑中发现的方法。有些人没有意识到，由认知之轮在微观上构成的模型，在较高的聚合层次上，仍能与生物过程或心理过程达到有成效的同构，他们认为关于AI的普遍怀疑主义有其充分的先验理由。

然而，承认可能存在着有价值的建立模型的中间层次，并不能确保它们的存在。在一个特殊例子中，一个模型有可能从现象学上可识别的心理描述层次直接下降到认知之轮的实现方式，而根本不解释我们人类是怎样设法利用这种现象学的。我怀疑，在这一领域中，当前所有涉及框架问题的建议都有这种不足。也许应当排除先前那个只不过是自述式的命题。我感到很难想象(它具有什么价值)，任何机械形式的过程细节，比如属于麦卡锡划界法的，会在尚待讲述的有关人类的常识推理是怎样完成的幕后过程中有合适的对应物。如果这些过程细节缺乏“心理实体”，那么在该建议中就没有留下什么可能为心理学过程建立模型的东西，除了利用直达结论、忽略以及类似的方法所做的现象学层次的描述——我们已经知道我们正是这样做的——之外。

7 认知之轮：人工智能的框架问题

179

然而，对于这样一些理论上的探索有另一种辩护，我认为应当认真地对待它。有人主张(这里采用麦卡锡的主张)，虽然麦卡锡方式的形式化常识推理没有直接告诉我们有关心理推理过程的什么事情，但是它澄清了对所要求的任何一种像这样的生物或非生物实现方式的纯语义层次的特征，并使之明确化、系统化。当我们认真地把信息加工看作时空之中的真实过程而向前迈出一大步之后，可以再向后退一小步，探讨一下这个十分抽象的层次的进步意义所在。即使在这一颇为形式的层次上，划界法以及其他非单调推理文本的功能仍然是个有待解决的、但显然是可以探索的问题。1]

有些人做过这样的考虑：在涉及句法层次的实现方式之前，必须要有对语义层次的背景作完整的再思考，这是较为现实地解答框架问题(而且实际上十之八九是任何解答)的关键。在表述“可信命题”时为了填充谓词演算格式，而挑选出来的一批基本上标准的谓词和关系，有可能实现的是对这一任务来说在性质上多少有些不恰当的语法分析。在大多数情况下，对这些系统中的公式的解释，使得世界不再沿着那些熟悉的路线即物体在时间和地点上具有某些特性的路线行进。关于世界中的情境和事件的知识是由也许可称为词语快射(verbal snapshot)系列的东西来表述的。状态S由t时刻的真语句表从构造上加以描述，而这些语句断言各种详细情况的各种n目谓词为真。S转换成状态S'，在t′时刻也有类似的真语句表。根据历程和过程重新构思“做计划的世界”或许会更好一些吗?2有一些原理适用于由术语(在本质上是事物的名称)和谓词表达的、穿越若干时间截面的知识，我们并不尝试根据这些原理为记录事物的能力建立模型，因为我们也许能更直接地建立记录事物的模型，并使所有逐时地被信以为真的东西的截面信息仅仅隐含于格式中(很难将其抽取出来—正如我们遇到的那样)。这是一些诱人的设想，但就我所知，到目前为止，它们还处在变化不定的范围中。[1]

人工智能哲学

[1]麦克德莫特文章（“过程和计划推理的时态逻辑”，第6节，“实现方式概要”，McDermott1982)给人以深刻印象，它表明一旦人们着手处理实现方式的问题，会有多少新的论点出现，以及纯形式思考是多么间接(尽管还是有用的)。

[2]P·海斯一直在探索这一主题，初步论述可见他的“朴素物理学1：液体的本体论”(Hayes 1978)。

180

另一个可能与之有关的尚在变化的主题是，当前随框架问题而出现的困难起源于由冯·诺伊曼式串行处理构造体系所产生的概念式构架，这是AI中至今仍在使用的计算机构造体系。大型、高速并行处理器的发展影响带来了概念的重大革新，当然这种革新目前还仅仅处在朦胧的设想阶段。大脑毫无疑问是巨大的并行处理器，设想由这种新硬件产生的概念会很容易地改写为现实的心理模型，这是很诱人的。但是谁能证明这一点呢？眼下，乐观主义者关于并行处理功能的大多数主张，与神经科学家工作中常常遇到的简易观测属于同一类东西，神经科学家们假定神经系统的各部分有惊人的认知功能，而没有提供这些功能是怎样实现的线索。 [2]

在作为现象的魔术表演和已充分认识的小块大脑组织的功能之间有一片空白地带，将其详尽地填补起来，是一项十分艰巨的研究任务，它摆在未来每一派理论家的面前。但是在能够解决这些问题之前，理论家们必须与它们碰面，而为了与这些问题碰面，他们必须坚定地跨入这片空白地带，提出“怎样做”的问题。哲学家们(以及每个别的人)都很清楚，人——无疑还有所有智能执行者—能够从事快速、灵敏、

7 认知之轮：人工智能的框架问题

[1] 我想O·塞尔弗里奇(O·Selfridge)即将出版的专著《跟踪追迹》（BradfordBooks/MIT Press)，有希望推进这一前沿领域，但是我尚未能领会他的思想主旨。关于这一主题，即将由Bradford Books 出版的R·G·米利肯(Millikan)的《语言、思维和其他生物学范畴》中也有一些富有启发性的章节。

[2]以认知之轮为出发点的“由上至下”的理论家有其弱点，与之相对应的是，“由下至上”理论家有发现奇妙组织(wonder tissue)的偏向。(很多地方都有奇妙组织。例如，J·J·吉布森的知觉理论看来就是把整个视觉系统当作一整块奇妙组织，以奇异的感受性，对于大批复杂的“给予过程”作出反应。例如见Gibson1979。）

181