人工智能与大数据技术导论
候选采样(candidate sampling)
一种训练时进行的优化,会使用某种函数(例如softmax)针对所有正类别标签计算概率,但对于负类别标签,则仅针对其随机样本计算概率。例如,某个样本的标签为“小猎犬”和“狗”,则候选采样将针对“小猎犬”和“狗”类别输出以及其他类别(猫、棒棒糖、栅栏)的随机子集计算预测概率和相应的损失项。这种采样基于的想法是,只要正类别始终得到适当的正增强,负类别就可以从频率较低的负增强中进行学习,这确实是在实际中观察到的情况。候选采样的目的是,通过不针对所有负类别计算预测结果来提高计算效率。
分类数据(categorical data)
一种特征,拥有一组离散的可能值。以某个名为house style的分类特征为例,该特征拥有一组离散的可能值(共三个),即Tudor、ranch和colonial。通过将housestyle表示成分类数据,相应模型可以学习Tudor、ranch和colonial分别对房价的影响。有时,离散集中的值是互斥的,只能将其中一个值应用于指定样本。例如,carmaker分类特征可能只允许一个样本有一个值(Toyota)。在其他情况下,则可以应用多个值。一辆车可能会被喷涂多种不同的颜色,因此,carcolor分类特征可能会允许单个样本具有多个值(例如red和white)。分类特征有时称为离散特征,与数值数据相对。
检查点(checkpoint)
一种数据,用于捕获模型变量在特定时间的状态。借助检查点可以导出模型权重,跨多个会话执行训练,以及使训练在发生错误之后得以继续(例如作业抢占)。注意,图本身不包含在检查点中。
类别(class)
为标签枚举的一组目标值中的一个。例如,在检测垃圾邮件的二元分类模型中,两种类别分别是“垃圾邮件”和“非垃圾邮件”。在识别狗品种的多类别分类模型中,类别可以是“贵宾犬”“小猎犬”“哈巴犬”等。
分类不平衡的数据集(class-imbalanced data set)
一种二元分类问题,在此类问题中,两种类别的标签在出现频率方面具有很大的差距。例如,在某个疾病数据集中,0.0001的样本具有正类别标签,0.9999的样本具有负类别标签,这就属于分类不平衡问题;但在某个足球比赛预测器中,0.51的样本的标签为其中一个球队赢,0.49的样本的标签为另一个球队赢,这就不属于分类不平衡问题。
分类模型(classification model)
一种机器学习模型,用于区分两种或多种离散类别。例如,某个自然语言处理分类模型可以确定输入的句子是法语、西班牙语还是意大利语。
分类阈值(classification threshold)
一种标量值条件,应用于模型预测的得分,旨在将正类别与负类别区分开。将逻辑回归结果映射到二元分类时使用。以某个逻辑回归模型为例,该模型用于确定指定电子邮件是垃圾邮件的概率。如果分类阈值为0.9,那么逻辑回归值高于0.9的电子邮件将被归类为“垃圾邮件”,低于0.9的则被归类为“非垃圾邮件”。
448