而像邮件过滤系统的例子这样，以若干个样例来构成训练集，那机器学习任务就通常是“分类”（Classification）和“回归”（Regression）任务。一般来说，既然已经有标记信息了，通常就没有必要再专门去做聚类了，因为标记所带的信息可以作为聚类的直接依据。
“分类”和“回归”都是典型的机器学习任务类型，总体而言，分类和回归都是根据样例训练集中得出的历史经验来推断新输入模型的样本是否属于某一类，或者某种隐含特征的强度如何，使得机器可以代替人工，自动找出新输入数据的标记信息。分类和回归的主要差别是回归做的是定量分析，输出的是连续变量的预测，而分类做的是定性分析，输出的是离散变量的预测。以本实战为例，如果我们期望判别垃圾邮件这个任务的输出是一封邮件“是”或者“不是”垃圾邮件，那便是一个分类任务，而如果我们期望输出是一封邮件“属于垃圾邮件的概率”是多少，那就属于一个回归任务。分类任务的目的一般是寻找决策边界，用于决策支持；回归任务的目的大多是找到与事实相符的最优拟合，用于事实模拟。这类以样例数据作为训练集的机器学习过程被称为“监督学习”。
既然这里已经提到监督学习和无监督学习的概念了，笔者顺便也介绍一下机器学习中流行的另一个任务类型—“强化学习”，这是目前以行为主义学派思想作为指导的机器学习的任务类型。无论训练集是由样本还是样例构成的，监督学习和无监督学习都是从历史经验中学习，强化学习则不依赖于历史经验，而是一种基于环境对行为收益的评价来改进自身的模型。这里仍通过一个具体的例子来解释：强化学习的学习过程就好比是婴儿呀呀学语，婴儿出生时脑海中对人类语言是一无所知的，在语言学习过程中，婴儿最初发出的是完全随机的声音，譬如，婴儿肚子饿时，他发出的声音恰巧被大人注意到，并且猜测到了他发声的意图是表达“我饿了”这个信息，然后给予喂食的话，下次婴儿再感到饥饿时会继续发出类似的声音。这个学习过程需要的不是“历史数据”，而是一位“裁判”或者“老师”，用来给行为进行打分评价，并对正确的行为给予激励，对错误的行为给予惩罚。
第 6 章 机器学习概览
189