“在几十年内，基于信息的技术将涵盖人类所有的知识和能力，最终包括模式识别能力，解决问题的技能，以及人类大脑本身的情感和道德智能”(库兹韦尔，2005)。同样，汉斯·莫拉维克预测，不仅人类的智力水平会在相对较短的时间内达到，而且最终会超越它，这将使人类实际上被淘汰，成为我们自身进化成功的牺牲品。
我们已经非常接近这样一个时代，那时人类的基本功能，无论是身体上的还是精神上的，几乎都不缺人工的对应物了。这种文化发展趋同的体现将是智能机器人，一种可以像人类一样思考和行动的机器，无论它在身体或精神细节上多么不人道。这样的机器可以在没有我们、没有创造我们的基因的情况下，继续我们的文化进化，包括它们自己的构建和日益快速的自我完善。当这种情况发生时，我们的DNA会发现自己失去了工作，在进化竞赛中输给了一种新的竞争(莫拉维克,1988: 2)。
就连罗德尼·布鲁克斯(RodneyBrooks)等看似脚踏实际、头脑冷静的工程师也预测，机器智能将在短短几十年内达到与人类能力相当的水平。布鲁克斯以其“无脑”机器人挑战莫拉维克和AI权威而闻名。“我们幻想中的机器，”布鲁克斯写道，指的是科幻小说中流行的机器人(如HAL、3CPO、Lt. Commander Data等)，“有语法和技术。它们也有情感、欲望、恐惧、爱和骄傲。而我们真正的机器没有。在第三个千年的开端，似乎是这样。但一百年后又会是什么样子呢?我的论点是，在短短20年内，幻想与现实之间的界限将被撕裂”(布鲁克斯，2002:5)。
对人类水平(或更好)的机器智能的预测，尽管助长了富有想象力和娱乐性的小说形式，但在很大程度上仍然是未来主义的。也就是说，它们解决了AI和机器人领域可能取得的成就，这些成就可能发生在尚未完全开发、原型化或经验证明的技术或技术上。因此，严格的工具主义者往往能够将这些预测视为一厢情愿的想法或猜测。如果说AI的历史有什么启示的话，那就是我们有充分的理由持怀疑态度。事实上，我们以前也听过这种异想天开的假设，只是一次又一次地失望。正如Terry Winograd(1990,167)在对进步(或缺乏进步)的诚实评估中所写的那样
78
《负责任的机器》
10.15215/aupress/9781771991292.01