想象一下，如果我们能找到一种方法无限延长人类的寿命，没有人会死亡，那么地球上又是怎样一番景象。很简单，资源将供不应求，冲突将不可避免。想象一下，如果科学家创造了少量灰色的黏性纳米颗粒，而这些颗粒又发展出了自我繁殖并“吃掉”地球上所有的东西，那么这将给人类带来怎样的风险。
如果我们要像科幻小说中所描绘的那样去对待通用人工智能，那么，当詹姆斯·韦伯空间望远镜（James Webb Space Telescope）开始拍摄更加清晰的宇宙照片时，我们就需要考虑应该如何应对可能出现的外星智能生命。如果我们发现恒星正在以一种违反物理定律并且只能用外星智慧来解释的方式运动，我们该怎么办？在电影《黑客帝国》（TheMatrix）中，所有人都生活在电脑模拟中，这一幕在未来可能成真吗？难道我们不应该花更多的时间去研究现实中可能存在的反常现象吗？
如果在强人工智能到来之前，发生了上面所说的任何一件事情，那么它给人类带来的威胁不会比拥有超级智能的电脑带来的威胁更小。具有讽刺意味的是，很多上述这些世界末日的场景都不是我凭空想象出来的，而是奥勒的著述。我是通过我们的讨论以及阅读他的著作次日危机》(Here Be Dragons)才了解到这些的。
然而，我未能说服奥勒。他仍然认为，强人工智能会给人类生存带来重大风险，或者说，至少是一个需要小心控制的风险。
这次，我决定换一种方法，一种不那么带哲学味而且更实用的方法来打消人们的疑虑。我将不遗余力地向读者解释，目前强人工智能的发展正处于什么阶段。在这之后，我将请读者（和奥勒）自己判断人工智能和我们将何去何从。
在与马克斯·泰格马克座谈会类似的另一场讨论中，卷积神经网络的发明者、脸书首席人工智能研究员杨立昆（Yann Le Cun）将其解决图像识别问题的方法比喻成翻山越岭：他们跋山涉水，翻过了一座山，走进了一座山谷，下一座山峰又遥遥在望。杨立昆不清楚还有多少山要爬，但他认为大概还有“50座”。但DeepMind的戴米斯·哈萨比斯则估计还有不到“20座”。在哈萨比斯看来，每座山都包含了一系列尚未解决的问题，这些问题都与我们模拟大脑的不同的已知特性的方式有关。
第三部分 人智能的未类了吗？
219