密集层(denselayer)
全连接层的同义词。
深度模型(deepmodel)
一种神经网络,其中包含多个隐藏层。深度模型依赖于可训练的非线性关系,与宽度模型相对。
密集特征(dense feature)
一种大部分数值是非零值的特征,通常是一个浮点值张量。参照稀疏特征。
衍生特征(derived feature)
合成特征的同义词。
离散特征(discrete feature)
一种特征,包含有限个可能值。例如,某个值只能是“动物”“蔬菜”或“矿物”的特征便是一个离散特征(或分类特征)。与连续特征相对。
丢弃正则化(dropout regularization)
一种形式的正则化,在训练神经网络方面非常有用。丢弃正则化的运作机制是,在神经网络层的一个梯度步长中移除随机选择的固定数量的单元。丢弃的单元越多,正则化效果就越强。类似于训练神经网络以模拟较小网络的指数级规模集成学习。
动态模型(dynamic model)
一种模型,以持续更新的方式在线接受训练。也就是说,数据会源源不断地进入这种模型。
E
早停法(early stopping)
一种正则化方法,涉及在训练损失仍可以继续减少之前结束模型训练。使用早停法时,会在基于验证数据集的损失开始增加(也就是泛化效果变差)时结束模型训练。
嵌套(embeddings)
一种分类特征,以连续值特征表示。通常,嵌套是指将高维度向量映射到低维度的空间。例如,您可以采用以下两种方式之一来表示英文句子中的单词。
表示成包含百万个元素(高维度)的稀疏向量,其中所有元素都是整数。向量中的每个单元格都表示一个单独的英文单词,单元格中的值表示相应单词在句子中出现的次数。由于单个英文句子包含的单词不太可能超过50个,因此向量中几乎每个单元格都包含0。少数非0的单元格中将包含一个非常小的整数(通常为1),该整数表示
人工智能与大数据技术导论
452