人工智能哲学

性格和个性包含着长期的态度。例如，慷慨不是一个目标，而是一簇目标生成器和比较器，生成器产生出回应有关别人需求的信息的新目标，比较器则选择新目标而不选择更加以自我为中心的目标。伪善者也产生类似的目标，但从不将它们付诸行动。个性或性格汇集着为数众多的、在特殊场合产生特定目标的、没有特定指向的一般性倾向。这样的汇集体集合的丰富性是日常语言难以形容的。复杂的个性可能要用整部小说来刻划。更为常见的是，可能的心理状态和过程的空间过于丰富和复杂，使诸如“态度”、“情感”、“情绪”这些口语化的说法无法用于合适的科学理论。

由于缺少更丰富、更细致的词汇，我们把多种深刻而感人的经验说成是情感，如观赏美景，阅读诗歌，听音乐，专注于一部电影或一个问题。这些经验涉及感知与大量附加过程之间的强有力的相互作用，这些过程既有身体方面的，也有精神方面的。听音乐可以引起身体的运动，同时还产生大量的心理“运动”：记忆、感觉、联想的波动一所有这些都在音乐的统摄之下。对这些过程的解释，可以借助于这里未曾讨论的智能系统设计的种种方面，诸如对联想记忆的需要，控制身体运动时进行整合和同步化的微妙方式。在个体内部以及在从事于协作任务的个体之间，这种同步化都是不可缺少的。音乐似乎驾驭了这样一些过程。

我推测，本文概述的这些机制能够生成我们平常所说的那些情感状态恐惧、发怒、失意、兴奋、沮丧、悲伤、愉悦等等。与之有关的动机、信念、计划和社会背景的复杂程度可能是无止境的，而它们生成的情感过程也可能同样复杂多变，从这个意义上说，这些机制是生成的(Abelson 1973; Dyer 1981; Lehnert, Black and Reiser 1981)。 这就是说，对情感状态来说，没有一种简单、有限的分类法能够着手去掌握这种多变性，正像英语句子的多变性也不能由一种分类法来掌握一样(参阅Roseman 1979)。

-一

人工智能哲学

262

心灵科学理论需要这样的概念吗？

常常有这种看法：虽然像“信念”、“欲望”、“情感”这些概念在个体对他人的认识中起着重要作用，但是形成完备的心灵科学理论，并不需要这些概念。这种看法的极端形式是唯物主义的还原论。但是对于心理学来说，这是难以置信的，这就如同说软件设计的概念可以用那些仅仅与计算硬件有关的概念代替一样。

一个更加精致的提法(S.Rosenschein，SRI，个人通信)是，与信念、欲望、意向等无关的“中间层次”的概念组成了一个全新的集合，这一集合足以使科学理论成功地预见和解释人类和其他智能生物是怎样工作的。看来在对人类行为作出有重要意义的概括时，日常概念不大可能被完全摒弃(Pylyshyn1986)，因此我采取了妥协的立场：我们不是将日常概念全部替换，而是要将其扩充和提炼，从而说明它们怎样同实际的设计规定建立联系。

即使这种理论是错误的，它也可能同涉及人类心理状态和行为的自然语言概念的语义学有着深刻的内在联系。如果是这样，一台能够理解日常语言并能模拟人类的交流方式的机器，至少需要隐含地掌握这一理论。

启示

这些机制并非都能在所有动物中找到。在某些智能较低的物种中，动机的选择很可能无法与发起行动的过程相分离，操作性动机不可能是潜伏的。这种动物和机器缺乏灵活应付复杂环境所需的那些机制，因而上述意义的情感就不可能出现。

1. 动机、机制和情感

263

在幼童中，这种丰富性也是不大可能全部存在的。通过对儿童形成认知和计算机制，以及动机激发机制的调查，我们可望对儿童的情感状态有更多的理解。特别应指出的是，看来许多较高级生成器和比较器是婴儿身上没有的，中断过滤器的选择性也远远低于大多数成人，如果软件式过滤器是学习的结果，这种情况就不足为怪了。

正是上述机制的复杂性，揭示了“出毛病”的众多方面。动机生成器和比较器会产生不利的欲望和偏爱。中断性优先权的分配方式可能没有与对重要性所作的反射判断相互联系。中断阈值可能设置得过高或过低。对生成器和比较器作出修正的学习过程可能太快，无法根据不充分的证据将事物改变。由于某些较快的反射和过滤器的不可避免的愚钝性，可以预料，生成器和比较器的某种功能障碍将导致强烈的情感，对正常的认知或社会活动造成干扰。对未能实现的动机所作的反应，有可能太强或太弱，结果使个人的或他伙伴的长期利益受损。通过目标评价过程，分配给不同种类动机的相对重要性，可能产生一种倾向，就是去选择那些无法实现或需要付出巨大代价才能实现的目标。潜伏的、暂时搁置的动机可能常常被忽视，这是因为监控过程未能觉察到时机，也可能因为检索不当。为应付信息不足、资源有限和速度需求而滥用“快速估算法”，会造成相当广泛的系统性的功能障碍。情感的递归上升很可能是造成某种紧张状态的原因。

许多常见类型的错误是难以避免的，那些希望在不太遥远的将来，即能通过机器对重要决策作出快速处理的人，应当对此予以足够的重视。

事实上，如果人类像我们所认为的那样错综复杂的话，那么有如此之多的稳重而有教养的人，就是一件令人吃惊的事了。或许，这一理论将揭示出我们以前不能识别的种种干扰类型。

这一理论表明，由动机激发因素组成的、复杂而频繁变化的集合可作为一个框架，学习和认知发展的过程就是在这一框架中发生的。这些过程以及它们所生成的那些过程，必然会对学到的东西产生深远的影

人工智能哲学

264

响，人们正期待着这一天的到来，届时个体之间将会存在巨大的差异。
它给教育工作者带来的启示，还有待于探究。

1. 结论

这种一般性的理论是关于心灵的计算理论。这些计算可存在于虚拟机中，由较低层次的似脑或似计算机的机器来完成，而不必直接由物理过程来完成。因此，一方面是那些可以在常规计算机中的低层次上见到的以物理方式作出的显式表述，一方面是那些神经网络模型中研究的隐含的或分布式的表述，这一理论处在这两者之间的中性位置上。

对这一方法的检验，将表现出以该方法为基础的理论所具有的解释能力。我们既需要对我们在人类行为中发现的种种可能性作出全范围的、系统的解释，也需要对人类之间以及人类与其他实际的和可能的行为实施系统之间如何加以区别作出说明。（关于可能性的解释，参阅Sloman 1978: ch.2。)

理解我们所熟悉的心理过程背后的计算机制，可使我们有能力减少由情感扰动造成的痛苦，减少学习能力的缺陷，以及减少社交能力方面的许多不足。有些问题可能是脑损伤或神经功能障碍所致，另一些问题看来更像是计算机中的软件失误。我推测，很多为情感所困扰的人，正在经历这样的软件式“毛病”。

这一分析还遗留下许多空白。特别是没有对愉悦和痛苦作出解释，同时，对于感到某种事情可笑是怎么回事，我也没有作出能为人所接受的分析。有一些状态，如因快速运动而震颤，因日落而出神，因读一本书或看一出戏而感动得落泪，这些都需要作出更加详细的分析。人类情感活动的许多方面是在人类进化史上偶然出现的，而且不是设计精良的机器人所必备的，对此我都没有论及。因而要做的工作还很多。虽然如此，该理论仍为思考一系列可能存在的自然的和人工的智

10 动机、机制和情感

265

人工智能哲学

能系统类型，提供了一个框架，这是我们对可能存在的心灵的空间所作一般性研究的一部分。通过实际的计算机模拟来检验这些想法，必定会使诸多遗留问题和缺点显露出来。[1]

[1] 该项工作受到GEC研究实验室研究基金的资助，并得到复兴信托基金机构的支持。有不少思想来自西蒙的开创性著作。我的观点还得益于数年来同M·克劳奇的讨论，她的论文(Croucher1985)使本文中提出的观点大为深化。本文概述的、并在我1978年著作(Sloman1978)的第4章中加以扩展的把日常语言看作有关人类心灵的信息来源的观点，从奥斯汀(Austin1961)那里获益匪浅。K·奥特利的编辑评论也有极大帮助。

266

11 分布式表述

G·E·欣顿、J·L·麦克莱兰和D·E·鲁梅哈特\*

已知由一些简单的计算元素构成的网络和一些要表述的实体，最直截了当的方案就是将每个实体用一个计算元素来表示。这称为定位表述。这样做容易理解，也便于实现，因为物理网络的结构反映出它所包含的知识结构。知识和实现知识的硬件之间的这种关系既自然又简单，因而很多人径直假定，在使用并行硬件时，定位表述是最好方法。当然还存在着许多各种各样的更为复杂的实现方式，在这些实现方式中，不存在概念与硬件单元之间的一一对应，但是，直到这些实现方式产生出那些用定位表述难以取得的效能增长或有价值的自发出现的特性时，它们才受到重视。

本意介绍的表述类型，比起定位表述来，人们不大熟悉，比较难理解。每一实体都由一个分布在许多计算元素上的活动模式来表示，而每一计算元素又与许多不同实体的表述有关。这种比较复杂的表述，其长处并不在于它标记起来很方便，或是容易在常规计算机中实现，而是在于它有效地利用了由简单的、似神经元的计算元素构成的网络的加工能力。

每种表述方案都有它的优点和缺点。分布式表述也不例外。某些欲得的特性，通过将一些活动模式用作表述方式，会自然而然地产生。另一些特性，像临时存储大量任意联想的能力，实现起来则困难得多。

267

我们将看到，对分布式表述来说，最有力的心理学证据是它们的长处和弱点在一定程度上与人类心灵一致。

本章第1节着重论述分布式表述的某些优点。第2节考虑分布式表述的效能，并清楚地说明了，对一定类别的问题来说，分布式表述之所以优于定位表述的原因。最后一节讨论某些难点，它们是分布式表述的支持者经常回避的问题，诸如成分结构的表述和加工力量在结构目标不同方面的顺序集中。

一些否认声明。在考察支持分布式表述的详尽论据之前，弄清它们在人类信息加工的总理论中所处的地位是很重要的。把分布式表述视作像语义网络或产生系统那种表述方案的替代物，是错误的，尽管我们已知这两种表述方式在认知心理学和人工智能中是有用的。把它看作一种以并行网络方式实现那些更抽象的方案的方法，将是更富有成效的，但有一个附带条件：分布式表述将产生某些强有力的、不可预料的自发出现的特性。所以当这些特性在一个较抽象的形式体系中起作用的，可以被看作原素。例如，分布式表述适用于按内容寻址的存储、自动概括和最适合当前情况的规则的选择。所以如果我们假定大脑是用分布式表述去实现较抽象的模型，那么把像按内容寻址的存储、自动概括或一个恰当规则的选择这样的能力当作基本运算，不是没有理由的，虽然在常规计算机中没有实现这些运算的简便方法。分布式表述的某些自发出现的特性，在较高层次的形式体系中不容易捕捉到。例如，分布式表述是与同时应用大量部分地适合于当前情况的规则相一致的，而每一规则的应用程度与它的重要性有关。我们将在有关图式的一章(第14章)中考察分布式表述的这些特性。在那一章中，我们将清楚地看到，图式和其他较高层次的结构对于依赖于分布式表述的机制只提供了近似的特征描述。因而对分布式表述的分析能够为这些较高层次形式体系作出的贡献是：使某些强有力的基本运算合法化，否则这些运算看起来就像是在演魔术；除了那些在很多较高层次形式体系中能方便地获取到的基本运算之外，进一步丰富了我们所掌握的基本运算的全部内容；指出这些较高层次形式体系可能只获取了基础加工机制的计算能力的粗略特征。

人工智能哲学

G.E·欣顿等人的“分布式表述”见D.E·鲁梅哈特和J·L·麦克莱兰编辑的《并行分布式处理：认知微结构中的探索》，卷1，《基础》，第77—109页。由麻省理工学院出版社允许重印。本文提到的章节是指《并行分布式处理》一书中的其他章节。

G·E·欣顿(Geoffrey E. Hinton)，多伦多大学计算科学系教授。

J. L·麦克莱兰(James L. McClelland)，卡内基-梅隆大学心理学教授。

D·E·鲁梅哈特(David E. Rumelhart)，斯坦福大学心理学教授。

268

造成混乱的另一个常见原因是这种看法：分布式表述多少是与有关大脑功能定位的广大证据相抵触的(Luria1973)。为了同时表述完全不同的各种事物，运用分布式表述的系统还需要很多不同的模件。分布式表述存在于这些定位模件的内部。例如，不同的模件可供像心理映象和句子结构这些不同的东西使用，但是两种不同的心理映象可能对应于同一模件中的备选活动模式。这里提出的表述方式，在全局范围中是局部的，而在局部范围中又是全局的。

1. 分布式表述的优点

这一节考虑分布式表述的三个重要特征：(a)本质上具有构造性的特点；(b)具有自动概括新情况的能力；(c)具有适应变化环境的能力。在这几个优点中，有些也是某些定位模型所具有的，像词汇感知交互激活模型，或第1章中提到的麦克莱兰的概括和恢复模型(McClelland1981)。

推理记忆

人们有一种十分灵活的存取记忆的方法：他们能从对内容的部分描述中回忆起一些条目(Norman and Bobrow 1979)。而且，即使部分描述的某些地方是错误的，他们也能做到这一点。例如，很多人能迅速回忆起满足下面部分描述的那一条目：一个男演员，聪明人，政治家。这种按内容寻址的记忆是十分有用的，但是在常规计算机中很难实现，因为计算机的每一条目是存储在特定地址上的，要取出一个条目，必须知道它的地址。如果用于存取的描述符号组成的所有组合都没有错误，并且是预先已知的，就有可能采用一种称为傻瓜编码的方法，在已知一个条目部分内容的情况下，可快速产生这一条目的地址。然而在一般情况下，按内容寻址的记忆在找出最适合这种部分描述的条目时，需要进行大量的搜索。记忆的中心计算问题就是如何使这种搜索有效。当一些线索可能包含错误时，搜索就变得十分困难，因为与这些线索之一配合失败，就不能用来作快速消除不合适答案的过滤器。

11 分布式表述

269

分布式表述提供了一个使用并行硬件去实现最佳配合搜索的有效方法。它的基本思想是相当简单的，虽然它与常规计算机的存储器相差甚远。不同的条目对应于同一组硬件单元上的不同的活动模式。部分描述是用部分活动模式的形式来表现的，这些活动模式激活了某些硬件单元。1于是这些单元之间的相互作用使得这组活动单元去影响其他组的单元，因而就完成了这一模式，并生成最佳配合这一描述的条目。“存储”一个新条目，是靠调整这些硬件单元之间的相互作用，去创造新的稳定的活动模式。它与常规计算机存储器的主要区别在于：不活动的模式不存在于任何地方。它们能够被再创造，因为单元之间的联结强度经过了适当的变化，但是每一联结强度都与存储的多个模式有关，所以不可能指出一个特定位置，说它是用于存储特定条目的存储器。

当弄明白一组简单的加工单元之间的联结能承载大量的不同模式时，许多人都感到惊奇。与分布式模型这个方面有关的说明，参考文献的许多文章里都有(例如 Anderson 1977;Hinton 1981)；在第 17和 25章里谈到的记忆和遗忘模型中，也有对这一特性的说明。

人工智能哲学

[1] 如果部分描述不过是一组特征，这是容易的，但是如果部分描述提到与其他对象的关系，就困难得多了。例如，如果要系统追忆约翰的父亲，它就必须表述约翰，但是如果约翰和他的父亲是由同一组单元中的相互排斥的活动模式表述的，就难以明白如何能在不妨碍表述约翰父亲的情况下做到这一点。本文介绍了这个问题的分布式解。

270

有一种考虑分布式记忆的方法，是运用数量很大的一组似然的推理规则。每个活动单元代表一个条目的一个“微特征”，而联结强度则代表微特征之间的似然的“微推理”。这些单元的任何特定的活动模式将满足某些微推理而违反其他微推理。一个稳定的活动模式对似然的微推理的违反程度小于任何邻近模式。通过改变这些推理规则，就可以创造一个新的稳定模式，这样，这一新模式违反这些规则的程度就小于它的相邻模式。有关记忆的这种看法清楚地表明，在真实的记忆与似然的重构之间不存在截然分明的差别。真实记忆是一个稳定模式，因为在它出现之前推理规则就已修改好了。“虚构症”是一个稳定模式，因为推理规则已被修改，可存储数个不同的先前模式。对有关的主体来说，上述情况很可能真假难辨。

真实回忆和虚构症或似然的重构之间的区别有些模糊，这看来就是人类记忆的特征(Bartlett1932;Neisser1981)。人类记忆的这种重构性之所以使人感到意外，仅仅因为它是与我们所用的常规比喻相抵触的。我们总是认为，一个记忆系统应该像文件柜或典型的计算机数据库一样，通过存储条目的文字拷贝，然后检索被存储的拷贝这种方式来工作。这种系统不是自然地重构的。

如果我们把记忆看作一种加工，它构造出一个活动模式，该模式代表了与已知线索相一致的最似然的条目，那么我们需要的就是某种保证：它将收敛于与描述具有最佳配合的条目的表述，尽管有时也许容许得到一个好的但不是最佳的配合。想象这种情况是容易的，但是要将它付诸实施就较困难了。解决这一问题的最新方法是使用统计力学去分析多组相互作用的随机单元的行为。这种分析保证了一个条目与这种描述配合得越好，就越有可能作为解答被产生出来。这就是第7章中介绍的方法，第6章中则介绍了另一种有关的方法。还有一种可供选择的使用连续激活单元的方法(Hopfield1984)，在第14章中介绍。

11 分布式表述

271