这里读者可以先记住一句话来代表集成算法的思想，叫作“众人拾柴火焰高”。集成算法可以将多个基础算法结合在一起，并把“集体”的力量发挥到最大。
(5)减少特征的数量
减少特征的数量包括人工手动减少特征的数量和使用模型选择算法，我们会在后面的章节中讲到。
5.6 模型的评估与改进
通过上节的学习，我们知道为了防止过拟合，需要有效地利用验证集来选择表现最好的模型。我们顺着这个思路进入本节的学习：通过验证集评价、选取和改进模型。
5.6.1 机器学习模型的评估
要评价一个机器学习模型的表现，我们需要一个具体的指标来评估。一个确实的量化指标对我们评价和选择模型具有重要的参考意义。对于回归模型来说，常用的指标为MSE、MAE等，对于分类模型，常用指标包括准确率、精确率、召回率、F1-Score、ROC曲线和AUC等。下面我们来详细介绍这些概念。
- 分类模型的评估
绝大多数分类任务都是二分类任务（binary classificationproblem），即类别只有两种：0或1。对于一个二分类问题来说，根据预测值和真实值分类，无外乎出现表5-5所示的4种情况。
对于分类问题，最直观也是最简单的评价指标就是准确率（Accuracy），即样本中有多大比例被我们预测正确。准确率等于预测正确的样本数除以总样本数，即(TP+TN)/(TP+TN+FP+FN)。相对应的一个概念是错误率(Error/MisclassificationRate)，或者叫误差率，是指我们预测错误的样本数所占的比例，误差率=1-准确率。
使用准确率或误差率作为评价指标的时候，意味着我们将两种分类类别平等对待。但现实中我们遇到的二分类任务中，通常两种分类类别并不像“性别为男或女”这样的对等关系，而是有正负之分。我们将某件事情发生、具有肯定性结果对应为类别1，或称为具有正值，比如药检呈阳性、天气预报会下雨、信用贷款会违约等。与之相对应的分类结果归为类别0，即事件未发生、具有否定性的结果。
当我们要差别对待类别0和类别1时，就需要懂得精确率、召回率等概念，这也是我们引
第5章 模型
157