这个例子说明,如果要用分布式表述来解决那些很可能对网络提出的问题,联合编码常常是必不可少的。这一论点可以用许多别的例子来说明—不可兼或问题就是个经典的例子(Minsky and Papert 1969)。需要某种联合编码的问题的其他一些例子见欣顿著作(Hinton1981)以及第7和第8章。联合编码对心理学模型的应用见第18章。
在根本不用任何联合编码的情况下,某些问题(大多是非常简单的问题)也能得到解决,而另一些问题将需要每次多于两个单元的联合。一般很难事先准确规定所需联合的“阶”是什么。较好的办法倒是找到能发现恰当表述的一种学习方案。第7和第8章中提出的机理,是朝着这个目标迈出的两步。
实现两个领域之间的任意映射
留心的读者一定注意到了:在我们刚刚考察过的例子中,采用定位表述总是有效的。然而,我们已经探讨了分布式表述所以更为可取的几个理由。其一是它们能比定位表述更有效地使用并行硬件。
这一节要说明的是,一组单元中的分布式表述怎样能引起另一组单元中的一个恰当的分布式表述。我们来考察在这两个组中实现表述间的任意配对的问题,我们采用的例子是前面例子的扩展:一个单词的直观形式与它的意义之间的联系。所以要考察一个任意映射,是因为这是定位表述看起来最有用的场合。如果在这场合分布式表述更好,那么在一些存在着基本规律性,而这些规律可以通过一组单元和另一组单元上的活动模式的规律性来获取的场合,分布式表述肯定更好。关于在这些场合分布式表述所具有的优越性的讨论,见第18章。
如果我们把问题限制于单语素结构的单词,那么从知道何种字母串意指什么无助于我们预测一个新字母串意指什么的意义上,从字母串到意义的映射具有任意性的特点。1]从字母到意义的映射中的这种任意性,把似然性赋予了具有显式词单元的模型。显然,如果存在这样的单元,任意映射就能实现。一个字母串正好激活一个词单元,而这又激活了我们希望与之联系的任何一种意义(见图11-5A)。于是相似的字母串的语义可能是完全独立的,因为它们是由分离的词单元作中介的。这里完全不存在作为分布式表述特性的自动概括。
人工智能哲学
286