$$
\mathrm { M S E } _ { \mathrm { T O T A L } } \quad \frac { 1 } { N } \sum _ { i = 1 } ^ { N } \mathrm { M S E } _ { i }
$$
LOOCV 方法完美克服了 Hold-Out 方法的两大缺点：每一轮次中几乎所有的样本都用于训练模型，因此是最接近原始样本分布的，这样评估所得的结果比较可靠；实验过程中没有任何随机因素会影响实验数据，确保实验过程是完全可以被重现的。
但 LOOCV 方法也有很明显的缺点：由于需要建立的模型数量与原始数据样本数量相同，它的计算成本非常高。训练样本数据量越多，要经历的建模过程的次数就越多，这是极为耗时的，因此在实际操作中完全遵循 LOOCV 方法是非常困难的，除非每次训练分类器得到模型的速度很快，或者可以并行计算以减少计算所需的时间，否则它的适用范围将受到极大的限制。
为了解决 LOOCV 方法计算成本过高的问题，一种名为“ K折交叉验证”（K-fold Cross Validation）的新方法出现了，这种交叉验证的形式也是一种折中，可以使验证过程的计算成本变得可控。
K折交叉验证方法和 LOOCV 方法的不同之处在于，每次选取的测试集不再只包含一个样本数据，而是多个样本，具体数目将由K值的大小决定。譬如，假设 K等于 5，那么我们进行的验证就是“5 折交叉验证”，如图 6-35 所示，它的具体步骤如下：
第 6 章 机器学习概览
235
○一 图片来源：https://zhuanlan.zhihu.com/p/24825503。