PDF 物理页索引 320
文件中的第 321 页 · 印刷页码:312
第二,网络在反复尝试满足所有的软约束时,表现出有趣的系列行为。斯莫伦斯基把这种系列行为说成是一组宏观决策,其中每一决策都相当于“部分网络承担部分解答任务”。斯莫伦斯基指出,这些宏观决策“类似于产生规则的启动过程。事实上,这些产生’的启动’顺序与符号正向链接推理系统中的顺序基本上是相同的”(Smolen-sky1988:19)。这样看来,网络敏感的似乎是处在细粒度描述中的硬的符号规则。事情不会简单到它好像知道硬规则似地解决“外延式”问题。甚至问题求解的各个阶段也可能看起来像是因系统对语言能力理论获得的符号推导步骤进行加工模拟而造成的。
但是,根据前面第2节中的说法,这种情况只是一种幻觉。该系统既没有关于硬规则的显式知识,也没有关于它的默认知识。其原因不难理解。很显然,它并没有以显式方式向自己表述欧姆定律。例如,并不存在简洁的单元子模式,可以被认为代表着出现在欧姆定律中的一般的理想电阻。相反,一些单元组代表电阻R1,另一些单元组代表电阻R2。在比较复杂的网络中,那些在活动时代表像电阻这样的最高层次(或概念层次)概念的单元联合体,表现出高度的语境敏感。就是说,它们是随着事件的语境而变动的。因此,采用斯莫伦斯基本人的例子,咖啡在这种网络中的表述就不只是一个单一的、重复出现的句法条目,而是一些随语境而切换的较小条目(微特征)的联合体。在杯子的语境中,咖啡可由包含“液体”“接触陶瓷”的联合体来表述。在罐子的语境中,咖啡可能包含“颗粒”“接触玻璃”。这样看来,这里只有一个“贯穿诸语境的咖啡向量’的近似等价物”,它不像“符号加工系统中贯穿不同语境的咖啡标志的精确等价物”(Smolensky1988:16)。用这样的方法将概念层次的符号“咖啡”代之以微特征的切换联合体,即所谓“维度切换”,这样一些系统本身就丧失了既在经典语言能力理论中使用,也在经典符号加工(层次-2)解释中使用的结构式心理表述方式。同样,在被描述的简单网络中,也不存在代表电阻的稳定的表述实体(就像在名声不佳的过去时网络中不存在代表“动词词干”的稳定的、重复出现的实体一样,见 Rumelhart and McClelland 1986b;Pinkerand Prince 1988;Clark 1989)。其直接后果是,对于可参照概念层次结构体的规则来说,并不存在显式表述。缺少默认表述几乎是其直接后果,因为对当时不存在的结构,加工过程的敏感性就无从谈起。
人工智能哲学
312
PDF 物理页索引 321
文件中的第 322 页 · 印刷页码:313
若以我们惯用的方式来看待这一问题,就不能说该系统默认地表述了那些规则,因为在它的问题求解中不存在因果公因子,使得例如在语言能力理论中,无论何时引用欧姆定律,那个单一的因子都在产生实际结果的加工过程中起着关键的作用。为了弄清这一点,我们只须回想一下,在与R1的命运有关的问题的求解中,以及与R2的命运有关的问题的求解中,不同的特性单元和知识原子都将起关键作用。在这个(限定的)意义上,它的确与查寻树有某种共同之处。因为网络之所以不能体现关于规则的严格的默认知识,是由于它无法使整个实际加工过程按照一定路线通过一个与以反复引用欧姆定律为标记的推导瓶颈相对应的因果瓶颈。由于在语言能力理论具有单一推导方程的地方,网络具有多重因果路线,所以网络就无权获得关于规则的严格的默认知识。在这一点上,它不能体现关于规则的默认知识的原因是和查寻树一样的。
现在来讨论前面提到的遁词。在我就我的理解采纳戴维斯对默认知识的特征刻划时,我为使用“因果公因子”这个短语感到不安。它的优点是使神经心理学的内在联系看起来非常直观,但是它也可能掩盖了层层叠加的虚拟机的某些复杂性。因为据我的猜测,要实现的经典上下贯通形式所需的共同的东西,与其说是一个简单的物理状态,不如说是一个加工陈述定义于其上的虚拟机的状态。说到底,即使是经典系统,继承了运作系统的各种长处,也不可能在它每次经历一个由欧姆定律(在语言能力理论中)标出的加工过程转变时都采用同样的物理状态。然而层次-2加工描述不需要(也不应该)标示出这个区别,因为就实际算法而言,它没有任何内在联系,仅仅是一个实现过程细节而已。相反,在联结论陈述中可能对应于单一符号转变的各种不同的状态,必然在加工/算法描述中被标示出来。系统的真正知识终究还是这样编码的知识一这一事实是大大夸张了的联结论加工的流动性和语境敏感性的直接原因。我不能肯定这一点造成的差别有多大,因为虚拟机同真实机器一样,可以表现出不同的分类模式,因而与认知神经心理学有密切关系。
12 联结论、语言能力和解释方式
313
PDF 物理页索引 322
文件中的第 323 页 · 印刷页码:314
把遁词放在一边,现在我们能够总结建立语言能力理论的牛顿式态度了。牛顿式联结论者会把语言能力理论看做对加工过程的描述(可能是很细的粒度—回想一下关于“宏观决策”的讨论)。但是他不会把该理论看做对有关的实际加工的提示。该理论之所以不是提示性的,是因为其行为并不依赖于系统所具有的关于符号推导规则的显式的或默认的知识,这一事实在提得恰当的问题和无限的加工时间构成的理想化的、“牛顿式”的领域之外的系统行为中得到证实。这一行为表明,“该理论确实始终是一个‘量子’系统”(Smolensky1988:20)。
这一观点是在一个有启发性的脚注中(Smolensky1986:ii.246)提出的,其提法十分适合于我们的讨论。斯莫伦斯基指出,把语言能力的特性刻划成一组应用于符号系统的推导规则,这可以看作是为生成系统的高度协调(=软约束最大限度地被满足)的状态提供了一种语法。这样,语言能力理论就作为一套定律而出现,这些定律的作用是挑选出系统在某些理想条件下所处的状态。所以这就是对待语言能力理论的完全的牛顿式态度:一个语言能力理论是一种确定出系统某些稳定状态的语法。因此在主要的事例范围内它具有描述上的恰当性。但是它并没有揭示出斯莫伦斯基所说的系统的动力学,或是系统的实际加工策略。它并不具有导向层次-2加工陈述的恰当的提示作用。因此对持牛顿立场的人来说,建立语言能力理论已失去它原来的意义了。
- 次等语言能力
因此,根据牛顿式联结论模型,在有点理想化的事例范围内,语言能力理论就具有描述上恰当的导向输出的功能。然而,对联结论者来说这并不是对语言能力理论的惟一理解。的确,这种理解不同于隐含在对高层次问题求解的另一些联结论处理方法中的那种理解。本节中,我打算讨论另一类不同的处理方法,我把它们称做语言能力的次等(rogue)模型。
人工智能哲学
314
PDF 物理页索引 323
文件中的第 324 页 · 印刷页码:315
简单说,牛顿模型与次等模型之间的基本差别是这样的:在牛顿模型中,联结论网络本身能在理想化条件下,以语言能力理论规定的所有方式起作用。与之呈对照的是,在次等模型中,基本的联结论网络本身(即使加工时间和提得恰当的问题都处于理想状态时)并没有能力产生出语言能力理论所要求的(即可从中推导出的)全部结果。其实,应该看到,就人类实际上表现出全面的经典语言能力而论,他们能这样做只是因为利用了其他资源(例如,用来操纵符号的连接式符号加工或现实世界结构像笔和纸)。这样,由次等方法产生的对语言能力模型的看法就是:在这一领域中的快速日常问题求解中它们有暂时使用并非在线的附加资源的情况。
在鲁梅哈特、斯莫伦斯基、麦克莱兰和欣顿(1986)的著作中有一个次级模型的例子。该例子同我们做乘法运算的能力有关。我们可以设想这里有一个用到算术定律的符号语言能力理论。但是基本的联结论模型不同于这样一种符号存储器。更确切地说,它是一个训练有素的模式匹配器,它能立刻“看出”某个乘法运算的结果。例如,我们大都能“看出”7×7的答案,但“看”不出7984×5431的答案。那么我们是怎样解决后一类问题的呢?
推测是这样的:“答案来自我们创造人工制品的能力,即我们有这样一种能力,能创造出一些有形的表述方式,使我们能以简单方式进行操作,以获得对十分困难和抽象的问题的解答”(Rumelhart,Smolensky,McClelland,and Hinton1986:ii. 44)。于是,为了求解7984 ×5431,我们可以把这个问题写出来,然后小心地运用一系列我们擅长的简单模式匹配步骤来解决它,例如从4与1相乘开始,继续做下去。
12 联结论、语言能力和解释方式
315
PDF 物理页索引 324
文件中的第 325 页 · 印刷页码:316
7984 5431 一 ……4
他们接着说,我们甚至可以学会在我们的头脑中完成这一运算,方法是把这种外部符号换成我们内部的某种表述方式。但是在本质上它仍然是一个由我们操作的“外部”符号工具,同时它仍然构成一种资源,这种资源是建立在我们利用的基本联结论模式匹配能力的最高层次之上的。(最近D·丹尼特也就语句似乎遍及我们头脑的一些事例发表了非常类似的看法。在这些事例中,我们的确是在做经典符号加工。但是这种加工也可能构成附加资源,这是不包含在我们所有的日常、非语言推理过程中的,见Dennett1987:233,114-15;也见Clark1988。)
对多位数乘法所作的解释,当然还存在许多疑问,因为整个过程似乎包含着对于支配连续运用模式匹配能力的符号规则的了解!但是我们已经看到,很多表面上依赖于符号的行为,有可能在符号以下的层次上产生。(详细的探讨请看Clark1989。)无论如何,我只是用这例子就这种会构成次等模型的解释表明了一种态度。
作为最后一个例子(这应归功于M·戴维斯),我们来考察我们分析歧义句子的能力,如“The horse raced past the barn fell.”1]。作语法分析的次等模型可能会遇上这样的事情。我们有一个在线的迅速而粗略的联结论网络,它能对我们在日常谈话中遇到的大多数句子作语法分析。但是它没有分析歧义句子的能力(甚至原则上受制于理想方式)。然而我们还有一个(不是在线的,而是在背景中的)经典符号分析器(是不是有点像一个ATN?),它能够分析这种句子。当迅速而粗略的网络失败时,这个备用者就出来挽回局面。这符合现象学,初看起来好像无意义的句子,后来变得清楚了。在这情形中,经典语言能力理论正确地描述了备用系统的结构。然而它没有描述在线的网络。此外,如果我们设想,经典的备用系统在训练网络的过程中是活动的,那么在一系列简单的实例上,这两个系统达到局部汇合,就不会令人惊奇了。
人工智能哲学
[1]这句可解释为“经过谷仓的赛马倒下了”,或“马儿疾驰过有谷仓的山岗”。——译者
316
PDF 物理页索引 325
文件中的第 326 页 · 印刷页码:317
次等方法所具有的明显而有关联的优点,涉及到所谓监督学习算法在心理学上的可取性。有一些步骤用来训练这样一些联结论网络,它们依赖于错误信息的反向传播,因而依赖于一台教导机(通常是常规计算机),它注视着系统的输出,并告诉系统这输出应该是怎样的。(稍详细一点的内容见第5节中对NET讲话的讨论。)这种安排常常在心理上显得很不合实际。例如,在学习语言时,我们只能根据给出的正面例子来学习(像乔姆斯基论者热衷于指出的那样)。那么,教导机和错误信息又是从何而来的呢?
次等模型开辟了一种可能性,这就是由一个单独的系统存储一组输入输出配对(例如一组观察到的印刷符-音位配对),并用它们来训练联结论网络。因此负面的例子是由大脑本身,而不是其他执行者生成和确定的。T·塞诺斯基最近也表示支持这种说法,并引用白顶雀的例子加以说明。白顶雀听到父鸟唱歌以后,要等到明年才会唱。他的假设是,这只鸟以某种方式把歌存储起来,但是必须训练一个使它再现的网络—这一过程解释了呈现与再现之间的一大段空白。回到我们的主题,次等方法显然为联结论学习的反向传播法在心理学上受到尊重提供了最大的希望。
在最极端的情况下,次等模型有可能使人类的在线加工与严格的语言能力模型相分离,而使经典语言能力恢复为完整,恰当的备用系统描述。要注意,经典语言能力理论在次等模型上所处的地位,与它在牛顿式模型上的地位显然不同。对建立次等模型的人来说,经典语言能力理论恰当地描述了一个虽然不是固定地在线的、但却是重要的加工系统类别。事实上我觉得,这些经典资源的重要性,即使是在那些口头上承认了它们存在的地方,也还没有被完全领会。所以斯莫伦斯基(Smolensky
12 联结论、语言能力和解释方式
317
PDF 物理页索引 326
文件中的第 327 页 · 印刷页码:318
1988)提出一个思想,把语言看作一种知识传递的特殊手段,它含有一个加工过程,是由一个被称为意识规则解释程序的经典虚拟机完成的。但是语言指令的作用仍然以稍居第二等的性质存在着。有了语言,我们才能建立规则,例如在训练的初始阶段,这些规则对新手会有帮助(也见Smolensky1986:ii.251-2,文中把基本上相同的描绘用于前面讨论过的电路问题求解的例子)。然而,专家被描绘成使用了一个强有力的联结论网络,似乎只要有语言,就可以把他的见解的封装元件传递给他人。这可能大大低估了符号加工所作的贡献。这种加工也可以提供一种根据专家自己的在线推理而形成的元反射,以帮助专家理解和扩展他自己的技能。(一些有关假设见 Karmiloff-Smith 1987和 Dennett 1988a。)
采用次等方法造成的最有影响的后果,是使当前流行的关于心灵的“正确”认知结构的辩论大大地复杂化了(见Fodor and Pylyshyn1988)。因为如果采用一个次等模型,这些问题就没有惟一的答案。任何有关人类认知技能的圆满解释都需要用到两种模型,而经典形式不只是一种方便的近似。似乎物理世界原来在一些领域中是牛顿的,在另一些领域是量子的,而不是一致地可用量子来描述,仅仅在某些情况下看来像牛顿的。
总括起来说,次等模型甚至否认了经典语言能力模型对于在线加工的描述上的恰当性。但是它们承认经典理论对于附加资源系统的加工来说,既是描述性的,也是提示性的。这一附加资源系统保证了在给定领域中可称为人类典范推理能力的东西。在次等场合,语言能力模型是原来的模型(对某个加工策略的准确描述),但是它不在原来的地方,因为它不描述日常在线加工的计算形式。
- 联结论解释的方法论
看来,联结论解释策略不能适合于纽厄尔和西蒙提出的模子。联结论者不能以纽厄尔和西蒙式的语言能力理论作为开始,然后简单地在层次-2算法模型中实现它。在我们看来,其原因是简单明了的。这种语言能力理论是由一组转变规则组成的,这些规则被限定用于数据结构的标准符号表述方式。在经典模型中,这些数据结构在机器中以显式方式表述(经典的函数构造恰恰就是使之为可能的那种构造)。于是机器就依照这些规则来操作它们(规则本身在任何这种数据结构中都不必以显式标示)。形成对照的是,在特殊的联结论模型中,并没有正好与经典符号数据结构相对应的东西。相反地,语境敏感的、切换的单元联合体对应的是单个的经典表述方式。这就是前面提到的维度切换。既然不存在对经典符号结构简洁的模拟,该系统就不能(即使是默认地)体现出正是在这些结构之上定义的关于转变规则的知识。所以经典语言能力理论不能充分地提示联结论层次-2的加工过程陈述。假如它具有提示作用,“联结论”系统就只不过相当于快速而果断地实现经典认知模型(见Fodor and Pylyshyn 1988)。
人工智能哲学
318
PDF 物理页索引 327
文件中的第 328 页 · 印刷页码:319
从以上内容中我们看到了,在有关经典语言能力模型的两种立场中,虔诚的联结论者只能接受其中之一。这两种立场就是前面讨论过的牛顿式立场和次等立场。但是较深入的、基本的问题仍未解决。因为,在否认任何最高层次经典语言能力理论能够充分提示层次-2加工策略这一点上,牛顿式立场和次等立场是一致的,这里的层次-2加工策略是关于完成给定认知任务的中央在线联结论网络的。但是现在看来,这一点(见前文第1节)是一个令人加倍难堪的损失,因为经典语言能力理论执行着双重任务。首先,它描绘出认知科学研究所取的恰当形式(即勾勒出在形成语言能力理论层次上的任务的轮廓,然后编写算法来完成它)。第二,它描绘出认知科学中的解释包含些什么内容。拥有一个工作程序,仅这件事本身不能看作是对我们怎样完成一个给定的认知任务作出了解释。相反,我们需要的是关于程序遇到什么约束以及为什么必然会遇到这些约束的某种最高层次的理解一这一理解是通过给出最高层次语言能力理论而自然提供的,该理论可以看作是由一个给定的程序类来实现的。这样,经典语言能力理论失效时,就预示着这种危险:使联结论模型在相当深层的意义上成为非解释性的。同时也给联接论研究的实际方法论留下了疑难。
12 联结论、语言能力和解释方式
319
PDF 物理页索引 328
文件中的第 329 页 · 印刷页码:320
作为对该问题简单的说明,让我们来看一个例子一—认知科学中有效的老式解释(GOFEICS,引自J·豪格兰)。以朴素物理学为例。众所周知,朴素物理学试图找到一种知识,使活动的、具体存在的事物能设法找到绕过复杂的物理世界的道路。这个一般性方案的一个著名的例子就是海斯在液体的朴素物理学方面所作的研究(Hayes1985b)。该工作包括尝试编一个“液体所能具有的各种可能状态的分类”,以及制定一组与运动、变化和液体几何形状有关的规则。最后的理论包括对液体15种状态的说明,以及在谓词演算中开列的74条编号的规则或公理。这相当于一个详尽的语言能力说明,最终可能得出它的完整的层次-2算法形式。的确,海斯十分明确地主张对这一方案要作高层次的研究,他坚持认为过早地寻求工作程序是错误的(见Hayes1985a:3)。这样,朴素物理学的解释策略就是纽厄尔和西蒙所推荐的正规的经典方法论的范例。首先,寻找一个包含符号表述和一组状态转变规则的高层次语言能力理论;然后,编写出实现该语言能力理论的层次-2算法;我们对于算法所满足的必要条件具有精确的、较高层次的理解,因而真正地领会了算法为什么能够完成当前任务,由于这样一些知识,这种算法是可靠的。这种可靠性正是联结论所缺少的,因为它的运行方式不是(不能够)通过系统阐述一个详细的经典语言能力理论,然后再根据经典的符号加工构造简洁地实现这一理论。
于是就面临这样的问题:联结论者应当怎样行事,什么构成了对于加工过程的较高层次的理解,这些就是我们为了断言真正解释了一个任务是如何完成的所需要了解的东西。看来,我们需要的是对经典语言能力理论解释层次的某种联结论模拟。
我相信这种模拟是存在的。但是只有我们在认知科学中对于我们关于解释的描述发动一场哥白尼式的革命,它才会显露其面目。因为联结论者成功地翻转了这一惯用的时间和方法论的解释顺序,这与哥白尼用地球围绕太阳转动来代替另一种转动方式,从而翻转了那个时代惯用的天文学模型是非常相像的。同样,在联结论理论的建立中,是使高层次理解围绕着一个已经学会怎样对付某个认知领地的工作程序在转动。这样就翻转了正规的玛尔式顺序,根据玛尔式顺序,高层次理解(即语言能力理论)是首要的,并严密地指导着算法的求得。为了弄清这一点,同时也为了知道联结论者的高层次理论是怎样背离经典语言能力理论形式的,我打算考察一下塞诺斯基的NET讲话方案。
人工智能哲学
320
PDF 物理页索引 329
文件中的第 330 页 · 印刷页码:321
NET讲话是一个大的分布式联结论模型,其目的是研究把书写输人(即单词)转换为音位输出(即声音或言语)的部分过程。网络构造包含一组每次由文本中七个字母激励的输入单元、一组隐蔽单元和一组为音位编码的输出单元。输出被送入口声合成器后,产生出实际的讲话声音。
网络从隐蔽单元(在选定参数内)的加权值和联结的随机分布开始,就是说它对于从文本到音位的转换规则没有任何“想法”。它的任务是通过重复呈现训练示例来学习对付这一特别棘手的认知领域的方法(这领域之所以棘手,是因为从文本到音位的转换是无规则的、次规则的和语境敏感的)。学习按标准方式进行,即按照反向传播的学习规则进行。其工作方式是,给系统一个输入,检查其输出(由一个计算机的“监督器”自动完成),并告诉它应当产生什么输出(即什么音位编码)。然后,学习规则使系统对隐蔽单元上的加权值作出微小的调整,使输出趋向正确。这一过程要重复数千次。奇妙的情况出现了,这个系统以听得见的方式慢慢地学会英语文本的发音,从咿呀学语,到半能辨认单词,再到相当可靠的最终演示。更充分的说明见罗森堡和塞诺斯基(Rosenberg and Sejnowski 1987),以及塞诺斯基和罗森堡(Sejnowskiand Rosenberg1986)的文章。
现在来看NET讲话方案的方法论。第一步无疑是引用这一领域的相当丰富的某种先验分析的成果。这一点表现在作者对输入表述方式的选择(例如,选择七个字母作为窗口,为字母和标点符号选择某种编码),对输出表述方式的选择(音位编码),以及对隐蔽单元构造(如隐蔽单元的个数)和学习规则的选择上。这些选择强调了联结论模型建立中的先验任务分析在某种程度上继续发挥着重要作用。但是它们还远不是任何一种充分清晰表达的、从文本到音位转换的语言能力理论。因为显而易见,这里缺少任何一组定义在输入和输出表述上的专用的状态转变规则。于是,系统就面临着学习任务,要学习了解一组在其隐蔽单元上的加权值,使该加权值完成向期望状态转变的中介任务。由于这一原因,我认为联结论者的特征是从层次-0.5的“任务分析”开始其研究,而不是层次-1(或1.5)的语言能力理论。然而值得一提的是,层次-0.5的说明虽然不及充分发展的符号语言能力理论,仍然可以体现先验信息在心理学上的非现实部分。因为当一个人学会完成一个任务时,他事先并不知道要调用多少隐蔽单元(太多的话,就会形成一个不提供信息的“查寻树”,太少的话,就无法处理数据),也不知道表述该解答的最好方式是什么。在这意义上,层次-0.5说明在问题求解方面所做的工作,比起某些联结论者愿意承认的,可能更多一些。然而对当前的目的来说,主要问题仅仅是,层次-0.5模型构成一个基础,在这基础上,由于有力的联结论学习规则,系统(经过大量训练之后)变得能够对付目标中的认知领地。从这一点来看,联结论者已经掌握了一个工作系统——一个全面的层次-3实现方式。
12 联结论、语言能力和解释方式
321