人工智能哲学

的表述也可用在其他方面，如指令、所假设的情境、规则等等。

有一些新目标有利于前目标的实现，它们是由计划过程生成的。有一些则是对新信息的响应，比如想了解一下拐角那边十分吵闹的原因是什么。目标不仅仅是通过外部事件引发的，在这方面，思想、推理或回忆很可能有同样的效果。

信念或思想怎样能产生目标呢？如果目标含有符号结构，计算解释可能就是采用“生成目标”的条件-行动规则。例如，慈善规则或许是：“如果X处在痛苦中，就生成一个目标[解除X的痛苦]。”一个处在发怒状态下的惩罚目标生成器或许是：“如果X伤害了我，就生成一个目标[使X受到惩罚]。”详尽的分析可以描述各种“目标生成器”、“目标生成器的生成器”，等等。根据经验，学习系统会使用生成器的生成器来产生新的目标生成器。

目标比较器

生成器产生的目标并不总是协调一致的。不同的设计约束导致不同的目标生成器共存。社会性动物或机器需要一些产生有利于其他动物或机器的目标的目标生成器，这些目标有可能与各自的目标和需要相冲突，因而需要有目标比较器对不同的后果作出选择。

有些比较器在计划中采用约束目标，例如使用“极小代价”规则，在两个子目标中选出代价较小的那一个。另一些则命令结果直接出现，像拯救生命规则，认为与其他任何目标相比，拯救生命总是更重要的，而不是运用某种通常方式对两者作出裁定。因为引起动机的根源是不同的、不可通约的，而且比较的基础也不同，所以对于一个冲突情况不一定有最优解答。

较高级的动机激发因素

尽管口语的内涵有可能混淆，术语“动机激发因素”一般用来指根据信念趋于产生、修正或选择行动的机制和表述。动机激发因素以递归方式包含着动机激发因素的生成器和比较器。某些动机激发因素是暂时的，例如获得一块特制蛋糕的目标，而另一些则是长期的，例如希望保持身材苗条。

人工智能哲学

252

动机激发因素不应该是静态的，要灵活地产生新目标，就需要动机激发因素生成器。更高程度的智能还具有从经验中学习和修正生成器的能力。因此就要求生成器是递归的。这同样适用于比较器：如果两个生成器由于生成相冲突的目标而经常出现冲突，那么就可能需要废止或修改其中的一个。这样就需要有生成器的比较器。同时也需要比较器的生成器和比较器的比较器。较高级生成器和比较器可说明某些个性差异。它们的作用可用来说明情感状态的某些微妙之处。

为了设计出普遍适用的较高层次的生成器和比较器，需要进行理论研究。为了弄清楚人类所具有的机制，也需要经验研究。对于生成器和比较器的层次，我们是否有一个极限，或者说，新的层次是否能无限制地递归生成？

多种多样的动机激发因素

我们可以对“派生”和“非派生”的动机激发因素加以区分。粗略地说，如果一个动机激发因素明确地是从另一个动机激发因素通过“手段目的”分析而得出的，并且这一来源被记录下来，在后继的处理中发挥作用，那么所得出的动机激发因素就是派生的。口渴时想要喝水的愿望是非派生的，而为买饮料想要钱的愿望则是派生的。一个动机可以部分是派生的，部分是非派生的，比如为了使别人印象深刻，而用威士忌止渴。下面我们尝试说明非派生的动机激发因素是怎样对情感状态起核心作用的。

这种差别与行为有关。派生目标比较容易被放弃，放弃它们的副作用比较小，例如，当它们看起来无法达到时，或者当产生它们的那些目标已被满足或放弃时。一个没有希望的派生目标很容易被另一个所取代，如果后者也能使上层目标得到满足的话。如果非派生目标由于与另一些被认为是更重要的目标发生冲突而被放弃，它有可能继续要求得到注意，形成一个情感源。如果能将不相容性去掉，放弃的做法会带来懊悔，并产生恢复这一目标的倾向。

10)动机、机制和情感

253

人类的非派生目标有：身体的需要、得到赞同的愿望、好奇心、对美的追求，以及承担任务时获得成功的愿望。由于这些目标是为更一般的生物学目的服务的，有些理论家把它们看成派生的。然而，目标的生成机制不必明确地把这目标与一些较高层次的目标联系起来，而只是赋予这目标以产生计划和行动的因果能力，例如通过直接在数据库中插入目标表述，该数据库的内容则不断地驱动这一系统。尽管这样一个目标的作用是隐含的，它对个体来说仍是非派生目标。

变动情况的定量维度

动机可以在不同的维度上进行比较，这些维度可根据前面概述的机制来定义。动机的坚持性表现为它的中断性优先权水平。被坚持的欲望、疼痛、恐惧等等，是一些更容易通过中断过滤器的动机，它们取决于当前活动而设置的阈值。

必须对通过过滤器的目标进行比较，以评价它们的相对重要性。这种(有时是部分的)次序关系是由信念和比较器决定的，如果信念和比较器发生变化，次序关系也会发生变化。也可能需要复杂的推理。派生目标的重要性是与对达到或未达到该目标所产生的结果的信念相联系的。坚持性关系到一个目标有可能怎样通过中断过滤器以便被考虑；而重要性则关系到在被考虑的情况下，被采纳为应当做的事情的可能性如何。对坚持性必须非常迅速地作出评价，并应与重要性联合考虑，但有时并不如此。一个劣等过滤器会把低度的优先权分配给重要目标，或是把高度的优先权分配给不重要的目标。打喷嚏的欲望并不因为安静是生存的要素而消失。(并不是所有动物都有这样复杂的动机激发系统。）

紧急性是对多长时间内事情不至于被延误的量度。这不同于坚持

人工智能哲学

254

性或重要性：有些并非渴望的事情可能是紧急的，反之亦然。

目标的强度决定着一个目标被采纳之后，以何种积极或强烈的方式来实现它。它部分地与紧急性和重要性有关，又部分地独立于它们。强目标遇到的障碍往往被当作一种挑战，而不当作放弃目标的理由。一个重要的长期目标，常常败在某些重要程度低得多，但却更强的事情的手下，这种欲望与职责之间的冲突由来已久。在理想状态下，坚持性、强度和重要性应是相互关联的，但是这种关系可能因与紧急性的相互作用而被打乱，以及因从先前的经验或进化的起源产生的坚持性或强度的反射分配方式而被打乱。

还有另一种度量动机的方式：如果它不能实现，痛苦或破坏程度如何。而如果动机实现，获得喜悦的程度也是不同的。要对此作出评价，可以估算使这种满足状态得以保持，或是在以后再次获得它，需要付出多大努力。这两者通常可用某人对此“关心”的程度是多大来表示，同时也与下文提到的生成情感状态的潜能有关。

动机的这些不同种类的“力量”，在实现认知功能的过程中全都在起作用，它们可能也是复杂的机器人所需要的。在一个有自监控的系统中，它们可能具有主体式的相互关联，尽管自监控并不总是完全可靠的。客观地说，它们是通过产生各种不同的内部或外部结果，或抵制各种不同的内部或外部变化的倾向来定义的。各种力量的不同组合，将影响着从初始构想到实现、放弃或失败的各个目标演进阶段上会发生的事情。

1. 与动机有关的过程概述

至此，我们已经略述了动机可能经过的下列中间过程：

1.始发—由身体监控器、动机生成器、或建立新的子目标的计划器所产生。

1. 动机、机制和情感

255

1. 新目标的反射性优先——对坚持性的分配。

1. 抑制或通过由中断过滤器确定。

1. 引发反射行动(内部的或外部的，硬件或软件)。

1. 评价相对重要性由比较器进行。

1. 采纳、排斥或延迟考虑已被采纳的动机一般称为“意向”。欲望如果没有变为行动，仍可作为欲望存在。

7.制定计划“内在”计划与怎样实现目标有关，“外在”计划与什么时候，怎样使它与其他活动相联系有关，例如，它应该推迟吗？

1. 激活—开始实现动机，或是重新激活暂时搁置的动机。

1. 计划的执行。

1. 中断放弃或搁置。

1. 与新目标的比较。

12.计划或行动的修正一—根据新信息或新目标，包括速度、式样或子目标的改变作出。

1. 满足(全部或部分)。

1. 挫折或妨碍。

1. 内部监控(有自我意识)。

1. 学习根据经验对生成器和比较器进行修正。

这些都是计算过程，可通过由规则支配的对各种表述的操作来表示，虽然详尽地描述这些细节不是一项轻而易举的任务。下面我打算说明它们怎样与情感相联系。这整个情况是非常复杂的。

例示：发怒。“X对Y发怒”的意思是什么？这表明，X相信Y做了某件事，或是没能做某件事，致使X的动机之一受到妨碍。这一信念和动机的结合并不足以造成发怒，因为X也许只是对所发生的事情感到遗憾，或是对Y感到失望，而没有发怒。要发怒，X还需要有一个新动机：一个伤害或损害Y的欲望。大多数人和许多动物似乎都有报复动机生成器，它作出的反应就是这样的，可叹！在行动中，不是必然会选择新动机，尽管该动机可能是很强烈的：对后果的担心以及合

人工智能哲学

256

适的比较器可能使它无效。

产生了新欲望还不足以引起发怒。很可能X虽然有这个欲望，却没有把它放在心上，而是平静地继续做另一些事情：在这种情况下，他是不会发怒的。也有另一种可能，X要做使Y不愉快的事情的欲望可能完全是派生的，纯粹是从减少将来出现这种事情的可能性这一实际效果出发的，并非对Y怀有恶意。所以如果X能够以某种方式确知这一事件不会再次发生，就会放弃这一动机，不再发怒了。

发怒包含着坚持而强烈的要做些事使Y蒙受痛苦的非派生欲望。高坚持性意味着该欲望频繁地通过X的过滤器，“提请”X的决策制定过程“注意”。所以即使比较器对此作出否定，该欲望仍频繁地回到X的思想中，使他难以把精力集中在其他活动上。为速度设计的过滤器可能太愚钝，不足以排除已被较高层次否定的动机。此外，该欲望必须不是派生的，派生的子目标会因上层目标的取消而消失。在复杂的社会动因中，发怒可能包含着认为Y的行动不符合社会或伦理标准的信念。

所以情感是由动机激发因素产生的状态，同时包含着新动机激发因素的产生。

原有动机受到妨碍以及新动机得到坚持，可能与附加的次级作用相联系。例如，如果X得知自己发怒了，可能引起他的烦恼。如果其他人觉察到他的状况，也有可能对这一情感的性质施加影响。这一情节可能唤起对另一些增强发怒情绪的局面的回忆。

有时候，人类的情感状态也会产生生理上的波动，正如前面提到的那样，这可能是受“快速估算”策略驱使的物理和化学反射运作所造成的。然而，如果X充分满足了其他条件，他就可以正确地被说成是怒气很大，即使没有任何身体征兆。强烈的发怒也可能在没有任何身体副作用的情况下存在，只要它不断闯人X的思想和决策，只要X强烈地希望给Y造成痛苦，而且是巨大的痛苦。虽然非体征的发怒可以称为“冷酷”，但从社会角度看，它依然具有发怒的全部重要方面。

10 动机、机制和情感

257

发怒实际上不一定会干扰其他动机，因此它只是一种局部倾向：例如，如果惩罚Y的新动机付诸行动了，就不必再做进一步的干扰。然而，发怒具有扰乱其他活动的潜能，如果新动机具有高坚持性的话。

由于自我监控的作用，有时会感觉到在发怒。然而也可能处在发怒或别的情感状态中而没有意识到它的发生。例如，我怀疑狗和幼童是不知道他们在发怒的(虽然他们十分了解是什么激起了发怒)。

像发怒这样的情感可以在不同的定量维度和定性维度上做变动，诸如：X对于Y所做的事情确信到什么程度，X对此关心到什么程度(即：受妨碍的动机的重要性和强度如何)；X希望让Y受到多大的伤害，这个新欲望的重要性如何，强度如何，坚持性如何，能延续多长时间；对X产生的心理干扰有多大；生理干扰有多大；X意识到这一状态的哪些方面：会生成多少次级动机和行动。不同的维度适用于不同的情感。

在事情的各个不同阶段上的变动对应于不同的状态，其中有些不是情感状态。如果不存在要伤害Y的欲望，这一情感更像是愤怒，而不是发怒。如果根本没有响应的属性，这一情感只不过是某种形式的烦恼，而如果受妨碍的动机非常重要，同时又不能立即用别的替代物来满足，那么这一情感就包含了沮丧。由于任意多的动机、信念和动机生成器可以被包含进来，同时旧反应的作用会引发新反应，所以这一理论所覆盖的变动范围必然比日常语言中的标号集更加丰富，也比生理响应的范围更加丰富。

1. 有关对情感的生成语法

根据上述机制对发怒和其他情感进行的分析，表明情感状态是由以下成分组成的：

1.至少有一个初始发动机M1，处在重要性和强度的高水平上。

人工智能哲学

258

1. M1得到满足或受到妨碍，无论是真实的、想象的或预期的，对此所持的信念B1都会引发不同种类的生成器，常常产生新的动机。

1. 各种不同的状况取决于：(a)M1是与所想望的还是与所厌恶的某件事有关；(b)B1是关于M1得到满足还是受到妨碍的信念；(c)B1同过去、现在还是将来有关；(d)B1是否包含着不确定性；(e)行为者是否意识到自己的情感；(f)是否认为涉及其他行为者；(g)M1是否与其他行为者对该行为者的看法有关(参阅Roseman1979)。

1. 在更复杂的情境中，数个动机同时与信念相互作用，如在一个情境中，B1示意重要动机M1(a)与M1(b)是不相容的，又如，处于进退两难的时候。

1. 有时M1和B1引发了一个产生次级动机M2的生成器，例如想把事情做好、保持愉悦、惩处罪犯或将消息告诉别人的欲望。这又转而能同另一些信念相互作用，对认知过程造成干扰、中断，或产生别的影响。这将是一种“两层次”的情感状态。也可能出现数个层次。

1. 有时M1和B1同时引发数个动机生成器，造成的相互作用可能是非常复杂的，尤其是当几个新动机处于冲突状态时，比如一个既要避免破坏，又要捉拿罪犯的欲望。

1. 有时，新生成的动机与以前存在的动机发生冲突。

1. 高度坚持的新动机通过中断过滤器，往往会产生(虽然它们实际上未必产生)一个干扰，即不断地打断思维和决策，并影响着制定决策的判据和感知能力。

1. 思想和动机都可能中断。即使没有新动机，也可能简单地存在着在M1和B1上的持久滞留。像悲痛这样的情感尤其是如此，其中涉及一些无法解脱的事情。这种被迫性强调可能来自有关重编程生成器的自动学习机制的引发。

1. 不必为行动选择新动机。M2有可能被看作不重要的而受到拒绝，然而如果它高度坚持，就会继续通过中断过滤器。

1. 如果处于某些情感状态，如恐惧，M2会绕过仔细思考和做计划，并打断其他行动，而引发反射行动(Sloman1978:ch.6)。“软件式反射”被称作“冲动”行动。由于反射，有可能采取非常迅速的补救行动，或抓住突然的机会。然而，有时它们也会是灾难性的。有些反射纯粹是心理的：接二连三的思想和感情会全都被引发出来。

1. 动机、机制和情感

259

1. 有些情感状态起因于个体本身的思想或行动，例如，因预期可能出现错误而产生担心。为了过分的关心等等，可能生成次级动机。这些次级动机可能生成大量干扰，从而导致灾难性后果。

1. 有些情感会使许多正在进行的过程中断，并改变其方向，例如在恢复平衡时控制身体各部分的那些过程。如果感觉探测器记录了局部的变化，系统对自身状态的感知就会改变。

1. 自监控过程可能探测到新的内部状态，也可能探测不到。如果探测不到，X就无法意识到或感觉到情感。内部监控不一定产生识别，例如，也许还未学习过有关的图式(Sloman1978：ch.10)。人们必须学会区别和识别复杂的内部状态，这里使用的感知过程的复杂性决不小于面孔或打字机的识别过程。

1. 对情感的识别能够产生进一步的影响，例如，在内部状态实现了或是妨碍了某个动机的时候。它有可能激活休止的动机或动机生成器，也可能导致逐步走向更高级的情感(递归式上升)。

作为某些情感的特征的中断、干扰和对理性的背离，是各种机制自然出现的结果，这些机制产生于为智能系统设计的各种约束，特别是必须快速行动而资源有限的中断过滤器的不可避免的愚钝性。一个有无限快的计算机并具有完备知识和预见能力的机器人，也许就不需要这些机制了。然而，并非所有情感都表现出机能障碍：在狭窄的山脊上行走时，不忘记种种危险，对你来说是很重要的。

这些机制可使不同情境中如此之多的不同子过程存在，所以不能列一个关于情感类型的简单的表以准确合理地反映出这些变化。聪明的、有自监控能力的机器人身上的细微的情感现象，可由同样的丰富变化来刻划。

人工智能哲学

260

要对人类觉察发怒、得意、恐惧等等的一般方式作出充分说明，势必涉及身体感受。然而在我们的生活中，许多情感之所以重要，并不是由于这种细节，而是由于更具整体特征的认知结构。狂怒之所以被重视，是因为它会产生那些对仇恨者和被仇恨者造成伤害的行动，而不是因为身体紧张和大汗淋漓。悲痛之所以值得注意，是因为失去了心爱的孩子，而不是腹中有一种新的感觉。所以我们用像“害怕”、“失望”、“大喜”、“狂怒”或“极度悲伤”这样一些术语，来描述一个异己者甚或没有生理反应的、高度精密的机器人的心态，是合理的(可对照 Lyons 1980)。

1. 情绪、态度和个性

情绪与情感有相像之处，它也对心理过程造成某种整体的干扰，或是具有干扰倾向。然而，它不必包含任何专门的信念、欲望、行动倾向等等。就人类来说，情绪可以由化学因素或认知因素，例如由饮酒或听到好消息或坏消息所诱发。情绪可以使人们感知事物、解释他人行为、预见行为结果、制定计划等等的方式具有色彩。和情感状态一样，情绪可以被、也可以不被有关个体感知和分类。更详尽的理论必须区分不同的机制，例如，某些子过程中由“硬件引起的”整体速度变化，和在动机的相对优先权中或推理策略中由“软件引起的”整体变化。

态度，如爱或钦佩，是集中于某一个人、物体或观念的信念、动机、动机生成器和比较器的集合。爱自己孩子的人，在发觉有危险，或看到可能影响他们幸福的情况时，就会争取新的目标。爱的力量决定着分配到这些目标上的重要性和中断性优先权水平。自私是对待自我的一种类似的态度。在能够思考和关心他人心理状态的智能系统群体中，态度的丰富多变使它们成为诗人、小说家和社会科学家们用之不竭的研究课题。态度常常与情感混淆，事实上在根本没有情感参与的情况下，也可以有爱、怜悯、钦佩或憎恨。在有机会的时候，态度就会在作出某种选择的倾向中表现出来，但是它们不一定包含对思想和决策的无休止的干扰。人们可以并不一直想着自己的孩子，而仍然爱着他们，虽然自己所爱的人有危险的消息会引发情感。

10 动机、机制和情感

261