完整softmax(full softmax)
可参阅softmax。与候选采样相对。
全连接层(fullyconnectedlayer)
一种隐藏层，其中的每个节点均与下一个隐藏层中的每个节点相连。全连接层又称为密集层。
G
泛化(generalization)
指的是模型依据训练时采用的数据，针对以前未见过的新数据做出正确预测的能力。
广义线性模型(generalizedlinearmodel)
最小二乘回归模型(基于高斯噪声）向其他类型的模型(基于其他类型的噪声，例如泊松噪声或分类噪声）进行的一种泛化。广义线性模型的示例包括：
● 逻辑回归。
●多类别回归。
●最小二乘回归。
可以通过凸优化找到广义线性模型的参数。广义线性模型具有以下特性：
● 最优的最小二乘回归模型的平均预测结果等于训练数据的平均标签。
●最优的逻辑回归模型预测的平均概率等于训练数据的平均标签。
广义线性模型的功能受其特征的限制。与深度模型不同，广义线性模型无法“学习新特征”。
梯度(gradient)
偏导数相对于所有自变量的向量。在机器学习中，梯度是模型函数偏导数的向量。梯度指向最快上升的方向。
梯度裁剪(gradient clipping)
在应用梯度值之前先设置其上限。梯度裁剪有助于确保数值稳定性以及防止梯度爆炸。
梯度下降法(gradient descent)
一种通过计算并且减小梯度将损失降至最低的技术，它以训练数据为条件来计算损失相对于模型参数的梯度。通俗来说，梯度下降法以迭代方式调整参数，逐渐找到权重和偏差的最佳组合，从而将损失降至最低。
图(graph)
TensorFlow中的一种计算规范。图中的节点表示操作。边缘具有方向，表示将某项操作
附录D 术语列表
455