相似和概括
当一个新的条目存入时,对联结强度的调整不允许清除已存在的条目,这可以通过对大量加权值的稍稍调整来实现。如果这些调整都趋于对已存储的模式有利,那么就会出现一个同向作用的结果:预期模式的总增益将是所有分散的小调整的总和。然而,这对于不相关的模式几乎不起什么作用,因为一部分调整是有益的,而一部分调整是有碍的,它们大都抵消了,所有小调整共同作用的情况是不存在的。这种统计推理成为大多数分布式记忆模型所依托的基础,但是这种基本思想也有很多衍变形式(有几个例子见 Hinton and Anderson 1981)。
将正交活动模式用于各种要存储的条目,有可能完全阻止干扰的产生(第1章中给出了这种情况的基本例子)。然而,这样做就消除了分布式表述的最有趣的特性之一:自动产生概括。如果这一任务仅仅是准确记忆一组无关的条目,那么这种概括效果是有害的,我们称之为干扰。但是在正常情况下,概括是一个有用的现象。它使我们可以有效地处理那些与以前经历过的相似而并不等同的情况。
人们善于对新获得的知识作出概括。如果你获悉有关一个对象的新事实,你对其他类似对象的期望就会发生改变。例如,如果你得知黑猩猩喜欢洋葱,你对大猩猩喜欢洋葱的概率的估计值就会提高。在使用分布式表述的网络里,这种概括是自动完成的。将关于黑猩猩的新知识包容进来,靠的是调整某些联结强度,使得表述黑猩猩的分布式活动模式的因果作用有所变化。这种调整自动地改变了所有与之相似的活动模式的因果作用。所以如果大猩猩的表述对同一组单元而言是一种相似活动模式,那么它的因果作用将以相似的方式发生变化。
人工智能哲学
[1] 这种模式的内部结构也可能改变。为了使不同输出的联结变得有相关性,是改变输出联结的加权值,还是改变模式本身,在这两者之间始终存在着选择。模式本身的变化改变了它与别的模式的相似性,从而改变了将来怎样进行概括的问题。一般情况下,描绘出如何改变表述一个条目的模式,比描绘出如何改变输出联结,以便一个特定模式在网络的另一部分具有所想望的结果,要困难得多。
272