人工智能哲学

(B) 约翰拿起报纸。

其直接推论是：约翰对这只苍蝇的态度基本上是厌恶的。假如他拿起的是电话机，推论就不会这么肯定。我们都会承认，读到这些句子时，一段“伤害昆虫”的情节梗概以某种方式展开来，它是通过苍蝇讨厌地嗡嗡叫以最粗略的方式提示的。这一情节梗概包含一个参照物，是某个有可能把这个小虫子在玻璃上压扁的东西，这一描述适用于报纸，而不适用于电话机。我们还可以得出这样的结论：在提到(在视觉场合是“看到”)报纸时，不仅以内部方式把它描述为报纸，以及对它具有的形状和轴作某种粗略的三维描述，而且它也被描述为轻的、柔韧的扁平物体。因为句子(B)之后也可能是“坐下来阅读”，所以报纸也可能被描述为阅读材料；照此类推，还可以作为易燃物，或其他东西。既然我们一般事先不知道一个对象或行动的哪个方面是重要的，所以在相当一段时间里，已知对象会引起若干种不同的粗略内部描述。对行动来说，情况也是类似的。重要的也许是要注意到，对拍苍蝇、阅读或点火的描述不是非得与报纸联在一起不可，对报纸来说，只有与每一情节梗概中的作用相匹配的描述才是有用的。

尚克的“基本行动”的重要之处，依我看，既不是它们的数目凑巧不是很大这个事实，也不是每一幕的情节完全通过归纳为这些行动而得到表现的这一思想(我根本不相信这一点)，甚至也不是它们所关联的情节梗概包含了当前情境的全部答案这一思想(这正是灵活性丧失作用的地方)。事件和对象的基本的、粗略的目录所具有的重要性，存在于这种粗略描述在最终接近并构造或许是精心剪裁的特定情节梗概时所起的作用，其方式很可能是这样的：存储于基本模型中的图像和信息经过适当的相互作用之后，玛尔和西原理论中的一般三维动物模型最后可能变成一只十分特殊的柴郡猫。在句(A)之后，原先只不过是对无辜苍蝇的厌恶态度，随着报纸信息的加入，就变成了一个拍苍蝇的特定场景。

玛尔和西原把为报纸提供多重描述的问题称为报纸的“参照窗口问题”。怎样做得最好，什么样的描述能够适合于不同词汇或不同感知对象，目前尚无确切了解。这些见解是探索性研究的结果，它们引出的问题尚需作准确的系统阐述，还谈不上得出令人满意的解答，但是现在可以肯定，某些这种类型的问题的确是存在的，也是重要的，而且看来最终很可能会出现一个有关这些问题的相当有影响的理论。

人工智能哲学

152

1. 模仿还是探究

最后，我打算作出进一步的区分，这对于选择研究问题，或是判断已完成工作的价值看来都是重要的。这个问题就是，研究工作，特别是对自然语言理解、问题求解或记忆结构的研究，很容易蜕化成为编写程序，这种程序只不过是一种没有启迪作用的对人类行为方式的某个小方面的模仿而已。魏岑鲍姆(Weizenbaum1976)现在认为他的程序Eliza就属于这一范畴，而我也的确看不出反对他的理由。基于同样的立场我也批评了纽厄尔和西蒙在产生式系统方面的工作，以及诺尔曼和鲁梅哈特(Norman and Rumelhart 1974)在长时记忆方面的某些工作，这些批评引起较多的争论。

其原因如下。如果我们认为信息处理研究的目的是系统阐述和理解特定的信息处理问题，那么处于核心地位的正是那些问题的结构，而不是实现这些问题所经历的机制。这样，需做的第一件事就是找到那些我们有把握解决的问题，弄清怎样去解决它们，并根据这种理解来查看我们的行为方式。这些问题最丰富的源泉就是我们熟练自如地(因而是无意识地)完成的操作，因为如果没有健全的基础方法，很难弄清可靠性怎样能得到保证。另一方面，对问题求解的研究已趋于集中在那些我们在智能上理解得很好、但做起来却很差的问题上，像心算和折算，或是集中在像几何定理证明问题或棋类游戏上面，在这些问题中，人的技巧似乎建立在庞大的知识和技能基础之上。我认为，这是现在还不去研究人类怎样完成这些任务的特别有说服力的理由。我不怀疑，在做心算时，我们正在熟练地做某件事，但它不是算术，而且在我看来，对这件事是什么，我们连哪怕一个方面也远没有理解。所以我们应首先专注于比较简单的问题，这是我们有希望取得真正进步的地方。

6 人工智能之我见

153

如果无视这一限制，最终得到的将是一些不太像样的机制，它们惟一的长处是，我们做不到的事情它们也做不到。依我看，产生式系统的特点正好与这种情况相符。即使按它们本身的说法，把它们看作机制，也还是有许多不尽如人意的地方。作为编程语言，它们设计得太差劲，难以使用，同时我也无法相信，人类大脑会在如此低等水平上用如此拙劣的实现方式担负起决策的任务。

供学生做问题求解使用的产生式系统和供视觉神经生理学家使用的富里埃分析，这两者之间也许可以作一类比。以图像的空间频率表述方式做简单操作，可以模拟不少有趣的视觉现象，它们看上去就像是由我们的视觉系统表现出来的。这些现象包括检测重复性、某些视错觉、离散的线性叠加信道的观念、整体形状与精细的局部细节的分离、大小不变性的简单表达。在图像分析中，空间频域之所以被忽略，是因为它对视觉的主要工作——根据密度分布形成“存在的是什么”的描述，实际上不起作用。这个过程有可能怎样完成，这种直觉是视觉生理学家们所缺乏的，而这一点又是如此重要。产生式系统展示出不少有价值的思想—取消直接的子程序调用、采用黑板交流渠道，以及某个短时记忆观念。但是正因为产生式系统表现出这些副作用(就像富里埃分析“表现”某些视错觉)，所以并不意味着它们与实际上正在进行的事情没有什么关系。例如，据我个人推测，短时记忆能像一个存储记录器一样起作用，这个事实在它的诸种功能中可能是最不重要的。我估计，有若干“智能本能反射”作用于短时记忆拥有的条目，对此我们还一无所知，而这些本能反射最终会被看作对它来说是至关重要的事情，因为它们起着主导作用，如为一个条目打开参照窗口。依我之见，从与产生系统有密切关系的角度来研究人类的表现是白费时间，因为这等于是在研究一个机制，而不是在研究一个问题，因而不可能导致1型结果。这种研究试图透彻了解的那些机制将会通过研究问题而被揭示出来，正如视觉研究不断进步是由于它攻克的是视觉问题，而不是视神经机制。

人工智能哲学

154

对同一批评意见的反思可见之于诺尔曼和鲁梅哈特的著作，他们研究的是长时记忆中可能存在的信息组织方式。我们再次看到，危险在于没有对有关的明显的信息处理问题提问。相反，所建议的提问和作答根据的是机制这时它被称为“主动结构网络”，它是如此简单和笼统，以致缺乏理论实质。他们或许会说，如此这般的“联系”似乎是存在的，但是他们无法说明，联系是由什么构成的，也无法说明因为要解决问题X(是我们所能解决的)，需要一种用如此这般的方式组织的记忆，所以该联系必须如此；如果谁具有这种联系，某些明显的“联系”就会作为副产品而出现。在发现一些需要作出解释的事实方面，实验心理学的确是卓有成效的，这些事实包括关于长时记忆的事实，同时(例如)谢泼德(Shepard 1975)、罗希(Rosch，付印中)和沃林顿(War-rington1975)的工作，在我看来都是这方面非常成功的例子。但是和实验神经生理学一样，如果信息加工研究还没有确认和解决恰当的问题X，实验心理学就不可能对这些事实作出解释。依我之见，找出这样的问题X，并解决它们，就是AI应该尝试去做的事情。[2]

6 人工智能之我见

[1] 就目前的技艺状况来说，最明智的作法看来是集中研究那些可能有1型解的问题，而不是去研究那些几乎可以肯定是2型的问题。

[2]我这里提出的纯粹是个人的观点，对此我负完全责任，但是它们可能有什么价值的话，应部分归功于我同D·麦克德莫特的多次交谈。本文提及的工作是在麻省理工学院AI实验室完成的。国防部高级研究项目署为该实验室的AI研究提供了资助，属于海军科研局N00014-75-C-0643号合同。

155

7 认知之轮：人工智能的框架问题

D·C·丹尼特\*

从前有个机器人，制造它的人给它起名叫 $\mathbf { R } _ { 1 }$ 。它只有一个任务，就是照料自己。一天，在设计者的安排下，它得知它的备用电池—它珍贵的能源——和一个快要爆炸的定时炸弹锁在一间房子里。 $\mathbf { R } _ { 1 }$ 找到了这个房间和房门钥匙，并做出抢救电池的计划。房间里有一辆小车，电池就在这辆车上。 $\mathbf { R } _ { 1 }$ 假设，某个叫做拉出(小车，房间)的行动能将电池从房间里转移出来。它立即行动，果然在炸弹爆炸前将电池从房间里取出。然而不巧的是，那只炸弹也在小车上。 $\mathbf { R } _ { 1 }$ 虽然知道炸弹就在房间里的小车上，但是没有意识到拉小车时炸弹会随着电池一起被带出来。可怜的 $\mathbf { R } _ { 1 }$ 在计划它的行动时遗漏了这个明显的蕴涵关系。

回到制图板前。设计者们说：“其解答很明显。我们的下一个机器人，一定要造得不仅能识别它的动作中的拟议的蕴涵关系，而且也能识别这些动作附带的蕴涵关系，可通过它做计划时采用的那些描述来推演这些关系。”他们把下一个模型一机器人推演者叫做 $\mathbf { R } _ { 1 } \mathbf { D } _ { 1 }$ 。他们把 $\mathbf { R } _ { 1 } \mathbf { D } _ { 1 }$ 放到与 $\mathbf { R } _ { 1 }$ 失败时相同的险境中。当 $\mathbf { R } _ { 1 } \mathbf { D } _ { 1 }$ 也产生拉出(小车，房间)的想法时，就像设计的那样开始考虑这种行动过程的蕴涵关系。它刚刚推演完把小车从房间里拉出来不会改变房间墙壁的颜色，正要着手证明下一个蕴涵关系——拉出小车时会造成它的轮子转的圈数比小车轮子的多，就在这时，炸弹爆炸了。

156

回到制图板前。设计者们说：“我们必须教它区分开相关蕴涵关系和无关蕴涵关系，还要教它忽略那些无关的。”于是他们想出一个方法，给蕴涵关系加上标记，标明它与当前任务是相关的还是无关的，并在下一个模型中采纳了这一方法，这一模型叫做机器人相关推演者，简称 $\mathbf { R } _ { : } \mathbf { D } _ { 1 }$ 。制造者们让 $\mathbf { R } _ { 2 } \mathbf { D } _ { 1 }$ 去接受那个专门设计的、曾使它的前任们丧生的试验，这时他们惊奇地看到，它正坐在那间装有嘀答作响的炸弹的房子外面，一幅哈姆雷特的做派，它果断的精神本色因陷入沉思而显出病容，正像莎士比亚(以及最近的福多尔)生动描写的那样。“干点什么吧！”他们朝它喊。“我正在做，”它反驳说，“我正忙着忽略成千上万我已确定为无关的蕴涵关系。我只要发现一个无关的蕴涵关系，就把它放进那些必须忽略的关系表中去，并且……”炸弹响了。

所有这些机器人都受到框架问题的困扰。[1]如果要让机器人 $\mathbf { R } _ { 2 } \mathbf { D } _ { 2 }$ 像故事里那样聪明，并具有实时(real-time)的灵巧，那么，机器人的设计者们就必须解决框架问题。起初看来这充其量是机器人学中的一个令人烦恼的技术障碍，或者不过是令从事人工智能研究的人一筹莫展的一道奇特的难题。对此，我有不同看法，我认为这是一个新的深层认识论问题一代代的哲学家原则上能理解，但却未加注意的问题，这一问题是由AI的一些新方法揭示出来的，然而还远远没有解决。许多从事AI的人已经开始从同样的高度来看待框架问题的严重性。正如一个研究者自嘲的那样，“我们已经放弃了设计智能机器人的目标，转而去设计一杆枪，用它去摧毁别人设计的任何智能机器人！”

7 认知之轮：人工智能的框架问题

\*D·C·丹尼特，“认知之轮：人工智能的框架问题”，引自《心灵、机器及进化：哲学研究》（1984），第129—151页，剑桥大学出版社允许重印。

D·C·丹尼特(Daniel C. Dennett)，塔夫特大学哲学教授、认知研究中心主任。

[1] 该问题是由J·麦卡锡和 P·海斯在 1969 年的论文中提出的(McCarthy andHayes1969)。麦卡锡在1960)年首次对出现该问题的研究课题作了详细阐述。我对J.麦卡锡、P·海斯、B·莫尔、Z·佩里舒、J·豪格兰和B·达尔布姆表示感谢，他们为了让我理解框架问题，花费了很多时间。他们的教导还有很多未起作用，这不是他们的过错。

我在阅读“模型变化：框架问题”时也获益良多，这篇文章尚未发表，作者是瑞典于默奥大学信息处理研究所的L·-E·杨勒特。我期待着这篇文章的下一个稿本不久即能问世，因为它对初学者来说是非常宝贵的便览手册，同时提出了若干新颖的主题。

157

这里，我打算对框架问题作一个基础的、非技术性的、哲学方面的介绍，并说明它为什么如此倍受关注。我没有什么现成的解答，甚至也不能就解答可能存在于何处提出什么独到见解。我发现，仅仅说清楚框架问题是什么，又不是什么，已经相当困难。事实上，在AI研究圈内，也没有就其用法完全达成一致。创造这一术语的麦卡锡和海斯，用它表示一个产生于小范围的特殊的表述问题，它仅仅出现在某些处理较大范围的实时计划系统问题的策略中。另一些人把这个较大范围问题称为框架问题一“整块布丁”，如海斯称它的那样(个人通信中)，这可能不仅仅是术语上的不当。如果产生于小范围的问题的“解答”能把一个(更深层的)困难驱入大范围问题的某个另外的角落中去，我们最好把这个名称留给这个死角中的困难。我对麦卡锡和海斯感到抱歉，因为我将参加到擅用他们术语的人中去，试图介绍这个整块的布丁，并把它称为框架问题。以后在适当的时候我将尝试描述这一问题的较小范围的形式，也可以称之为“狭义框架问题”，同时我还要略为说明它与较大范围问题的关系。

不管框架问题是什么，它必定是尚未解决的(从它目前的外表看，也可能是无解的)，因此，AI思想上的反对者们，像H·德雷福斯和J塞尔，竟然为这一领域编写挽词，并把框架问题作为它死亡的原因。在《计算机不能做什么》（Dreyfus1972)一书中，德雷福斯试图证明，对心灵研究来说，AI是一个根本错误的方法。其实，他对AI模型多少有些主观的种种抱怨，以及他宣称的对于AI模型固有局限性的种种见解，也可以看作是相当系统地在框架问题相邻领域中的巡视。德雷福斯从未明确提到过框架问题，1但是这会不会就是他曾在寻找但是不很知道怎样描述的那支冒烟的手枪呢？诚然，我认为可以说AI正握着一支冒烟的手枪，但是至少在“整块布丁”的外表下，这是一个人人都难以逃脱的问题，而不只是AI的问题，A就像许多神秘故事中善良的丑人一样，它应该被誉为有所发现，而不是被指控为犯罪。

人工智能哲学

158

人们不一定预期充满机器人的未来世界会受到框架问题的困扰。这个问题显然来自某些广为流行的、看起来无害的有关智能性质的假定，也来自标榜为最不尚空谈的物理主义的真理，还来自这样的信条：“我们怎样思维”必定是能够解释的。（二元论者回避框架问题但这只是由于二元论揭开了那张盖在所有棘手的“怎样做”问题上的神秘而朦胧的面纱。正如我们将要看到的，一旦人们认真回答某些“怎样做”问题时，框架问题就会出现。二元论者想通过框架问题为自己辩解，这是办不到的。)

智能人的最为核心的特征——如果不说它是限定性特征的话—就是它能够“先看而后行”。更好一些则是，它能够先思而后行。智能(至少部分)是一个恰当使用你的认识的问题，但是这有什么用处呢？它可以提高预见下一步发生什么的准确性，可以作出计划，可以对行动过程进行周密思考，可以以增加将来要用的知识为目的构造进一步的假设，这样你就能让你所作的假设代你去死，从而保全你自己(正如K·波普爵士曾经说过的那样)。愚蠢(而不同于无知)的人是这样的人，他为了看燃料箱而擦亮火柴[1]，他锯断了自己坐在其上的树枝，他把钥匙锁在汽车里，又花了一个小时苦思冥想，究竟怎样使他的家人从汽车里出来。

7 认知之轮：人工智能的框架问题

[11 德雷福斯提到了麦卡锡(McCarthy1960:213—14)，但是他所谈的主题是，麦卡锡忽视了物理状态描述与情境描述之间的差别，这一主题也许可以简略地概括为：房子并不是家。

同样，他还提到其余情况相同(ceteris paribus)的假定(在该书修订版长达 56页的导言中)，但是他只是申明信守维特根斯坦的这一思想：“任何时候，如果是根据规则来分析人类的行为，这些规则中必须总是包括其余情况相同的条件……”。然而，即使这种说法正确，它也遗漏了更深层的问题：对像其余情况相同假定这类东西的需要，困扰着鲁宾逊(笛福《鲁宾逊漂流记》中的主人公一译者注)，正像它不可避免地困扰着任何一位发现自己处在受人类文化影响情境中的主人公一样。看来这个问题并不只是局限于人文科学(人们常常这样认为)：事实上一个在(另一个?)渺无人迹的、但却不无敌意的星球上的“智能”机器人一旦筹划它的生活，它就面临着框架问题。

159

但是在三思而行时，我们是怎样做的呢？答案似乎很明显：智能的人是从经验中学习，然后用学到的东西来指导对未来的预期。实际上，休谟就是根据预期的习惯对此作出解释的。但是习惯是怎样起作用的呢？休谟信手拈来一个答案联结主义，大意是说：观念之间的某些转换通路，在变得经久耐用之后就更有可能循之而行，然而既然对于这些联接的技术细节作出更详细的解释，肯定不是休谟的职责，所以关于如何恰当使用这种通路—而不只是把它们转变成一个由一些无法通过的替代物组成的走不出的迷宫—的问题并没有得到揭示。

其实，休谟像所有其他的哲学家和“心灵主义”心理学家一样，无法领会框架问题，因为他是在我称为纯语义的层次上，或是现象学层次上从事研究的。在现象学层次上，所遇到的任何条目都有其独立意义。这种意义也可以看作是“给定的”但这不过表明了理论家擅自给出了他所希望的所有意义。照此办理，一个条目与下一个条目之间的语义关系看起来一般是清楚明白的，人们只要假定条目表达的内容正好与具有那些意义的条目所应该表达的相符即可。通过综述休谟式的关于学得一点知识的说明，我们就可以得出这一看法。

假定有两个孩子，都有天生不经请求就从罐里拿甜饼干的倾向。一个孩子被允许这样做，不受指责，而另一个每次一伸手，屁股就要挨打。结果如何？第二个孩子学会了不去拿饼干。原因何在？因为她已有拿饼干后紧接着屁股挨打的经验。这样做有什么用处呢？拿饼干的观念通过习惯通路变得同打屁股的观念有了联系，接着又同疼痛的观念有了联系……这样，孩子当然就变得克制了。何以如此？这正是有那种环境就有那个观念的结果。但是，原因何在呢？在类似的情况下，疼痛观念还应该有什么别的作用呢？它有可能让孩子用左脚尖做芭蕾舞的旋转动作，或者背诵诗歌，或者眨眼睛，或者回忆起她的5岁生日。但是若要给出疼痛观念意指的内容，这些结果无一不是荒谬的。的确如此；那么在已知观念意指的东西后，怎样设计观念才能使它们的结果就是应有的结果呢？设计某些内部事物—姑且称其为观念—使得它的行为与它的同类相比较时好像它意指的就是饼干或疼痛，是使得那个事物具有那种意义的惟一方式。如果它不具备这些内部行为特性，它就不能意指一个事物。

人工智能哲学

[1] 这个例子来自C·切尔尼亚克在“理性和记忆结构”中关于理性的重要论述(Cherniak 1983)。

160

这是哲学家们留给未来某个隐约存在的研究者的技术细节问题。这种分工似乎没有什么不妥，但是这样一来，学习和智能中的大多数真正的困难和深层难题就被拒之门外。这犹如哲学家们声称自己完全有把握解释舞台魔术师采用的方法，可是在请他们解释魔术师怎样变出把女郎锯为两半的戏法时，他们的解释是：这真的是非常显然的，魔术师并没有真的把她锯成两半，他只不过做得像那么回事。“但是他是怎样完成这件事的呢？”我们问。“这不是我们的事，”哲学家们说而且他们中有些人还响亮地补充道：“解释必须在某处停止。”[1]

当一个人在纯现象学或语义层次上进行操作时，他从哪里得到所需的资料，他又是怎样进行理论归纳的呢？“现象学”这一术语在习惯上是同内省法联系在一起的—用它来检验呈现意识给的是什么，或者赋予意识的是什么。根据定义，个人的现象学只是他或她意识中的内容。虽然这是长久以来的思想观念，但是这决非是实践。例如，洛克可能认为他的“历史的、朴素的方法”是一种无偏见的个人观察法，但事实上，这在很大程度上是一种关于观念和印象为了完成那些它们“显然”做过的工作而必须是什么的伪装起来的先验推理。[1]那种关于我们每个人都能观察到我们心理活动的神话，使那个认为只要我们对自己的状况仔细地加以反省，就可以在思维理论上取得重要进步的错误看法得以延续。现在我们已经在一段时间内取得进一步的认识：我们的意识所抵达的，可以说只不过是我们头脑中发生的多层信息加工系统的外层表面而已。然而，这个神话还是造成了它的牺牲品。

7 认知之轮：人工智能的框架问题

[1]注意，在这一如实写照中，哲学家们还是做了某些有益的研究；想一想人们可能因之而消除某种徒劳无益的想法：某个研究者轻率地下结论说魔术师真的把那个女郎锯作两半然后又把她神奇地合在一起。人们毕竟曾简单地得出过这样愚蠢的结论，例如许多哲学家也曾这样做过。

161