20 世纪 50 年代开展的最原始的机器学习研究，是从今天被大家称为“机械式机器学习”的学习方法开始的，这个学习方法在许多文档中采用了一个更通俗的名字—“死记硬背的机器学习”。说白了就是将样本都输入计算机，处理问题时直接匹配特征，如果计算机中有能匹配上的就有答案，如果匹配不上就没有答案。这个最原始的“机器学习方法”今天并没有被淘汰，反而变得更为常用，出现在几乎所有的信息系统中，只不过改了个名字叫“数据库查询”罢了，大家也不再认可这种死记硬背的做法是属于学习的范畴。塞缪尔的那个能自我学习提升棋力的跳棋程序，靠的就是“死记硬背”了 17 万个不同棋局的应对方法，最终打败了美国跳棋的州冠军，算是机械式机器学习“大力出奇迹”的典范。
20 世纪 70 年代后期，在机器学习重新成为符号主义学派主流研究方向的时候，其学习过程就不能再是简单的“死记硬背”了，这个时期的机器学习追求的目标是从大量样本数据中自动总结、提炼出隐藏在数据背后的知识，得到这些知识的形式化描述。换句话说，此时机器学习的目的是寻找隐藏在样本数据背后的规律（Rule）。因此，这个阶段的机器学习被称为“基于符号的机器学习”或者“基于规则的机器学习”。
基于符号的机器学习是从样本中总结得出知识，而前文提到在推理期科学家希望从少量最基础、最本质的知识推导出其他知识，这两个思路正好对应了人类认知世界的两种手段：演绎和归纳<sup>○一</sup>。在逻辑学中更重视演绎<sup>○二</sup>，但在现实生活中，归纳却是人类认知世界更常用的工具。笔者相信一个正常人知道苹果会从果树上掉下来，绝对不是根据万有引力定律演绎推理得出的结论，而是见过许许多多物品下落过程之后归纳出来的认知。以此类比，机器要获取智能，当仅依靠演绎推理搞不出成果时，那改试一下归纳推理就是自然而然的选择。
第 3 章 符号主义学派
97
○一 演绎是指从一般性的原理、原则中推演出个别性的知识，其思维过程是由一般到个别；归纳则是由个别或特殊的知识概括出一般性的结论，其思维过程是由个别到一般。
○二 狭义的逻辑是企图用一套一般性的原则来把保真的推理与不保真的推理区分开，所以狭义的逻辑只研究演绎推理，不研究归纳和类比，因为这两种推理方式不保真。广义的逻辑则承认任何被人类广泛使用的推理方式都必定有其合理性，需要追究这种合理性的来源和基础，因此广义的逻辑研究一切可能的推理方式，不限于演绎、归纳、类比等手段。