数据预处理阶段虽然是建模的准备阶段，是为建模服务的，但实际上在机器学习处理问题的过程中，这个阶段的工作量往往要占总工作量的一半甚至更多。并且它与建模及其他阶段并不是严格的先后顺序关系，而是贯穿在模型训练的全过程之中。有句圈子内常说的话：“数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已。”由此可见，数据预处理，尤其是特征选择在机器学习中占有相当重要的地位。
6.6.5 损失函数
完成数据预处理之后，便进入了电子邮件过滤系统的建模阶段。我们可以先从最简单的单一特征开始，构造一个最简单的垃圾邮件判别模型。假设我们选择以“收件人数量”这个特征为依据，对训练集中的 110 封电子邮件样例按照该特征进行统计，得到不同收件人数量的邮件样例分布，如图 6-9 所示。
第 6 章 机器学习概览
195