结果如图10-52所示。
神经网络的第一个隐藏层应该会对一些级别特别低的特征进行建模,因此可视化权重可能只显示一些模糊的区域,也可能只显示数字的某几个部分。此外,你可能还会看到一些基本上是噪点(这些噪点要么不收敛,要么被更高的层忽略)的神经元。在迭代不同的次数后,停止训练并查看效果,你可能会发现有趣的结果。建议读者分别用10、100和1000步训练分类器。然后重新运行此可视化代码。我们应该能看到不同级别的收敛之间有直观的差异。
10.4 嵌套
嵌套(embedding)广泛应用于推荐系统中。嵌套是一种相对低维的空间,可以将高维矢量映射到低维空间里。通过使用嵌套,可以使得在大型输入(比如代表字词的稀疏矢量)上进
第10章 神经网络
357