6.1.4 分类与回归树分析
决策树是机器学习预测建模的一类重要算法,可以用二叉树来解释决策树模型。这是根据算法和数据结构建立的二叉树,并不难理解。每个节点代表一个输入变量以及变量的分叉点(假设是数值变量)。如图6-5所示是决策树的例子。
树的叶节点包括用于预测的输出变量y。通过树的各分支到达叶节点,并输出对应叶节点的分类值。树可以进行快速的学习和预测。通常并不需要对数据做特殊的处理,就可以使用这个方法对多种问题得到准确的结果。
6.1.5 朴素贝叶斯
朴素贝叶斯(NaiveBayes)是一个简单但异常强大的预测建模算法。这个模型包括两种概率,它们可以通过训练数据直接计算得到:(1)每个类的概率;(2)给定x值的情况下,每个类的条件概率。根据贝叶斯定理(见图6-6),一旦完成计算,就可以使用概率模型针对新的数据进行预测。当你的数据为实数时,通常假设服从高斯分布(钟形曲线),这样可以很容易地预测这些概率。
第6章 机器学习算法
167