步(step)
对一个批次的向前和向后评估。
步长(step size)
学习速率的同义词。
随机梯度下降法(Stochastic Gradient Descent,SGD)
批次大小为1的一种梯度下降法。换句话说,SGD依赖于从数据集中随机均匀选择的单个样本来计算每步的梯度估算值。
结构风险最小化(Structural Risk Minimization,SRM)
一种算法,用于平衡以下两个目标:
●期望构建最具预测性的模型(例如损失最低)。
●期望使模型尽可能简单(例如强大的正则化)。
例如,旨在将基于训练集的损失和正则化降至最低的模型函数就是一种结构风险最小化算法。它与经验风险最小化相对。
总结(summary)
在TensorFlow中的某一步计算出的一个值或一组值,通常用于在训练期间跟踪模型指标。
监督式机器学习(supervisedmachinelearning)
根据输入数据及其对应的标签来训练模型。监督式机器学习类似于学生通过研究一系列问题及其对应的答案来学习某个主题。在掌握了问题和答案之间的对应关系后,学生便可以回答关于同一主题的新问题(以前从未见过的问题)。可与非监督式机器学习进行比较。
合成特征(synthetic feature)
一种特征,不在输入特征之列,而是从一个或多个输入特征衍生而来的。合成特征包括以下类型:
●将一个特征与其本身或其他特征相乘(称为特征组合)。
两个特征相除。
●对连续特征进行分桶,以分为多个区间分箱。
通过标准化或缩放单独创建的特征不属于合成特征。
附录D 术语列表
469