在符号操作AI的影响下，神经网络模型的建立者们正在尽力而为，一旦他们的网络被训练得能完成一个任务，就试图找出由个别节点和节点组所表述的特征。其结果至今还是可疑的。我们来看看欣顿利用分布式表述建立的概念学习网络(Hinton1986)。在一个人类借助特征实施概念化的领域中，即使没有把人类所用特征给予网络，网络也能被训练得对该领域中的关系进行编码。欣顿得出了一些情况的例子，在这些情况下，对受训网络中某些节点的解释可以达到符合人类分辨特征的程度，尽管这些节点只是大体上符合那些特征。然而大多数节点根本不可能在语义上得到解释。符号表述方式中所用的特征可能出现，也可能不出现。然而在网络中，虽然当某一特征出现在这一领域中时某些节点显得更为活跃，但是总的活动性不仅随着这一特征的出现与否而发生变化，而且也受到其他特征的出现与否的影响。
欣顿选择了一个领域——家庭关系，该领域是由人类严格按照人类通常注意到的那些特征如代别和国籍构成的。然后，欣顿对这样一些事例进行了分析：在这些事例中，从某种随机初始联结强度开始，经过学习，某些节点就可以被解释为代表了这些特征。可是使用欣顿模型的演算表明，甚至在完全没有明显使用这些日常特征的情况下，他的网络似乎也学会了以其联想取代某些随机的初始联结强度。
从十分有限的意义上来看，任何训练有素的多层网络都可以就特征作出解释不是日常的特征，而是那种我们将称为高度抽象特征的东西。我们来看一个简单情况，由一些被正反馈而不是横向或负反馈联结激活的二进制单元组成的多层机。为了由已经学会某些联想的网络
13 造就心灵还是建立大脑模型：人工智能的分歧点
355