“把头埋在沙中”的反对意见
“机器思维的后果太可怕了，我们希望并且相信机器做不到这一点。”
如此坦白的论点实属难得。但是大部分认真思考这一问题的人，都受到它的影响。我们愿意相信，人类以某种微妙的方式优于其他生物。如果能够证明人类必然优越，那是再好不过的，这样，人类就没有失去其居高临下地位的危险。神学论点的流行显然与这种情感有关。在知识阶层中，这种情感似乎十分强烈，因为他们比别的人更加看重思维的能力，并且更倾向于把他们有关人类优越性的信念建立在这种能力的基础上。
我认为这个论点没有多大价值，不值一驳，给一点安慰可能更恰当些，这种安慰也许应该从灵魂轮回说中去找。
数学上的反对意见
数理逻辑的许多结果都可以用来证明：离散状态机器的能力是有限度的。这些结果中最著名的就是所谓的哥德尔定理(Godel1931)，它表明，在任何功能充分的逻辑系统中，都可以形成一些陈述，它们在系统内部既不能被证明，也不能被证伪，除非是这种情况：系统本身不一致。还有一些在某些方面与之类似的结果，它们来自丘奇(Church1936)，克利恩(Kleene1935)，罗素和图灵(Turing1937)。后一结果研究起来最方便，因为它直接涉及机器，而其他的只能用于较为间接的论证，例如使用哥德尔定理时，必须增加一些用机器描述逻辑系统以及用逻辑系统描述机器的方法。该结果所涉及的机器本质上属于有无限容量的数字计算机式的类型。这一结果认为存在着这种机器做不到的某些事情。如果像在模仿游戏中那样，使装备好的机器回答问题，就会出现这样的后果：对某些问题或是作出错误回答，或是根本无法回答，尽管回答的时间不受限制。这样的问题无疑有很多，这一台机器不能回答的问题，另一台机器也许能作出令人满意的回答。当然，我们暂且假定，问题属于只需作出“是”或“不是”这种回答的类型，而不是像“你对毕加索有什么看法？”这样的问题。我们知道这些机器肯定无法回答属于这种类型的问题：“假如对机器作如下详细说明……这机器对任何问题都回答是’吗？”省略号将代之以对某一机器所作的标准形式的描述，有可能像§5中使用的那种形式。当所述机器与接受提问的机器具有某种比较简单的关系时，可以证明，或是作出错误回答，或是无法回答。这是一个数学结论：经论证，证明机器是有能力缺陷的，而人类智能不比机器逊色。
人工智能哲学
56