- 行之有效的分布式表述
这一节里,我们考察有关实现分布式表述的一些技术细节。首先,我们指出,某些分布式表述方案可能无法提供区别不同概念的充分根据,并指出,要避免这一局限性需要做些什么。然后,我们介绍了一种方法,可使用分布式表述从联结单元的一个简单网络得到最多的可能存在的信息。其主要结果令人感到惊奇:如果想要用尽可能少的单元对一些特征作出精确编码,使用一些以十分粗略方式调节的单元比较经济,这样,每一特征激活许多不同的单元,而每一单元又由很多不同的特征激活。于是一个特定特征的编码就是由许多单元中的活动模式、而不是由单个活动单元来完成的,所以粗糙编码是一种分布式表述的形式。
为了使分析简明扼要,我们假定这些单元只具有两种值,开和关。我们还将略去系统的动态特性,因为从当前来看,我们所关心的问题是,以给定的精度对特征编码,需要多少单元。我们先来考虑这样一种特征:通过给定一个类型(如线段、角、点),以及把这特征与同一类型的其他特征(如位置、方向、大小)区分开来的某些连续参数的值,可以完整地说明这一特征。对于每一特征类型,都存在着一个由可能的例子组成的空间。每个连续参数定义该特征空间的一个维度,而每个特定的特征对应于该空间中的一个点。对于像平面中的点这样的特征,可能特征的空间是二维的。对于像三维空间中有端点、有方向的有界线段这样的特征,特征空间是六维的。我们以考察二维特征空间作为开始,然后推广到更高的维数。
一
人工智能哲学
[1]类似的论据也适用于多值活动水平,但重要的是,不允许多个活动水平具有任意的精度,因为这有可能造成用单一活动水平表述无穷多信息的情况。当一些单元传递一个独立脉冲的概率的变动是单元的活动性的函数时,这些单元看来近似于神经回路中可能存在的那种精确性(见第20)和21章)。
278