从事这些项目的研究人员经常声称，他们正在一点一点地朝着更强的人工智能迈进。他们中的许多人相信，他们正在带领我们踏上一段越来越接近所谓的“奇点”（singularity）的旅程。奇点假说认为，一旦到达奇点，计算机就能设计出其他智能机器并且系统地进行自我改进，我们的社会将由此发生翻天覆地且永不停息的变化。这些机器甚至可能会认为我们人类是多余的。
世界末日与超级电脑
2017年1月，理论物理学家马克斯·泰格马克（MaxTegmark）在马萨诸塞州波士顿一个专注于应对未来风险的公益机构—生命未来研究所(Future of Life Institute）的会议上主持了一场关于强人工智能的座谈会。参会者包括九位在该领域最具影响力的人士，包括企业家、特斯拉首席执行官埃隆·马斯克（Elon Musk）、谷歌技术领域的高管雷·库兹韦尔（RayKurzweil)、DeepMind创始人戴米斯·哈萨比斯和哲学家尼克·博斯特罗姆(Nick Bostrom)。博斯特罗姆为我们勾勒出了实现他眼中的“超级智能”的路线图。
对于达到人类智能水平的机器智能是逐步实现还是在一夜之间突然实现，以及它对人类来说是福还是祸，座谈会成员各持己见。但他们都认为强人工智能或多或少是大势所趋，并且指出，强人工智能的出现已经指日可待，我们需要开始考虑应对之策了。
尽管与会成员确信我们离人工智能越来越近，但看着他们侃侃而谈的样子，我的怀疑非但没有减少，反而增加了。在过去一年里，我仔细研究了这些人的公司所使用的算法。就我看到的情况而言，我难以理解他们口中的这种智能从何而来。从他们开发的算法中，我几乎找不到任何蛛丝马迹表明一个达到人类智能水平的人工智能时代即将来临。
第三部分 人智能的未人类了吗？
217