在特征工程过程中,你可能需要将这些字符串标识符编码为one-hot向量,向量的大小为15000。
一对多(one-vs.-all)
假设某个分类问题有N种可能的解决方案,一对多解决方案将包含N个单独的二元分类器,一个二元分类器对应一种可能的结果。例如,假设某个模型用于区分样本属于动物、蔬菜还是矿物,一对多解决方案将提供下列三个单独的二元分类器:
动物和非动物。
● 蔬菜和非蔬菜。
矿物和非矿物。
在线推断(online inference)
根据需求生成预测。与离线推断相对。
操作(Operation,op)
TensorFlow图中的节点。在TensorFlow中,任何创建、操纵或销毁张量的过程都属于操作。例如,矩阵相乘就是一种操作,该操作以两个张量作为输入,并生成一个张量作为输出。
优化器(optimizer)
梯度下降法的一种具体实现。TensorFlow的优化器基类是tf.train.Optimizer。不同的优化器(tf.train.Optimizer的子类)会考虑如下概念:
动量 (Momentum)。
更新频率(AdaGrad=ADAptive GRADient descent; Adam = ADAptive with Momentum; RMSProp)
●稀疏性/正则化(Ftrl)。
●更复杂的计算方法(Proximal,等等)。
甚至还包括NN驱动的优化器。
离群值(outlier)
与大多数其他值差别很大的值。在机器学习中,下列所有值都是离群值。
绝对值很高的权重。
●与实际值相差很大的预测值。
● 值比平均值高大约3个标准偏差的输入数据。
离群值常常会导致模型训练出现问题。
输出层(output layer)
神经网络的“最后”一层,也是包含答案的层。
附录D 术语列表
463