如果在再训练时将几个单词删去,会有更意想不到的结果出现。在进行再训练的过程中,这些单词的出错率大大地减少了,尽管其他字母-义素配对与它们并没有内在关系,因为所有这些配对都是随机选择的。网络没有再次显示单词的“自发”恢复,这是使用分布式表述的结果。所有这些加权值都与再训练中显示出的那些单词的子集合的编码有关,因此就会从每个加权值中消去这种后增的噪声。对每个单词使用分离单元的方案不会有这种表现,所以我们可以把未训练过的条目的自发恢复看作分布式表述的一个性质表征。
- 结构表述和加工
这一节里,我们来看看分布式表述的两种扩展。这些扩展说明,分布式表述的思想与人工智能领域有关结构在表述和加工中的重要性的某些主要见解是一致的。也许因为分布式表述的某些倡导者没有特意与这些论点相协调,所以常常看不清楚在分布式表述方案中结构是怎样获取的。本节的这两部分指出了在扩展分布式表述以处理这些重要问题时可以采取的某些方向。
人工智能哲学
[1] 在这例子中,出错率(似应为“正确率”译者)是99.3%,而不是99.9%,因为这种网络必须较快地作出响应,所以共同的作用使定出最佳输出所用的时间比较少。
294