人工智能时代：破解人机共存密码（套装共10册）

[38] 论1千克物体的最大计算能力：Seth Lloyd, “Ultimate physical limits tocomputation,” Nature 406 (2000): 1047–54。

[39] 关于人类可能是物理上可实现的智能的巅峰的说法，请参见：Kevin Kelly,“The myth of a superhuman AI,” Wired, April 25, 2017: “We tend to believe that the limit is way beyond us, way ‘above’ us, as we are ‘above’ an ant. . . . What evidence do we have that the limit is not us?”

[40] 如果你想了解一个解决停机问题的简单技巧，仅仅靠“运行程序查看它是否完成”这种浅显的方法是行不通的，因为这种方法未必能完成。你可能等了100万年，但仍然不知道程序是真的陷入了无限循环，还是只是在慢慢来。

[41] 停机问题不可判定的证据是一个巧妙的骗术。问题是：是否存在一个循环检查程序LoopChecker(P，X)，对于任意程序P和任意输入X，它都能在有限的时间内正确地判断应用于输入X的程序P是会停机并产生结果，还是会一直运行下去。假设存在这种LoopChecker。现在编写一个程序Q，它将LoopChecker作为子例程调用，将Q本身和X作为输入，然后执行与LoopChecker（Q，X）预测相反的操作。因此，如果LoopChecker说Q停机，Q就不会停机，反之亦然。于是，LoopChecker存在的假设导致了矛盾，因此Loop Checker不可能存在。

[42] 因为到目前为止，关于“NP完全问题”需要超多项式时间（通常被称为P≠NP）的说法仍然是一个未经证实的猜想。然而，经过近50年的研究，几乎所有数学家和计算机科学家都确信这一说法是正确的。

[43] 洛夫莱斯关于计算的著作主要出现在她翻译的一名意大利工程师对巴贝奇的机器的评论的注释中：L. F. Menabrea, “Sketch of the Analytical Engine invented by

Mechanisation of Thought Processes (Her Majesty’s Stationery Office, 1958)。

[54] 要了解基于知识的系统的重要性，你可以考虑一下数据库系统。数据库包含具体的个人事实，例如我的钥匙的位置和你的脸书好友的身份。数据库系统不能存储通用规则，如国际象棋规则或英国公民身份的法律定义。它们可以统计有多少叫爱丽丝的人有叫鲍勃的朋友，但它们不能确定某位特定的爱丽丝是否符合英国公民身份的条件，也不能确定棋盘上的特定一步棋是否会导致“将杀”。数据库系统不能将两种知识结合起来产生第三种知识：它们支持存储，但不支持推理。（的确，许多现代数据库系统提供了添加规则的方法和使用这些规则得出新事实的方法。从某种程度上讲，它们确实是基于知识的系统。）尽管数据库系统是基于知识的系统的高度压缩版本，但它们是当今大多数商业活动的基础，每年产生数千亿美元的价值。

[74] 关 于 谷 歌 和 大 猩 猩 的 后 续 文 章 ： Tom Simonite, “When it comes togorillas, Google Photos remains blind,” Wired, January 11, 2018。

034 在未来会如何发展？

近未来

1997年5月3日，IBM制造的国际象棋计算机“深蓝”和国际象棋世界冠军加里·卡斯帕罗夫（Garry Kasparov，或许是历史上最优秀的人类棋手）之间的国际象棋比赛开始了，美国《新闻周刊》称这场比赛是“大脑的最后一战”。前5局，双方2.5∶2.5平分秋色。5月11日，“深蓝”在决胜局中战胜了卡斯帕罗夫。IBM的市值一夜之间增加了180亿美元。所有人都说，人工智能取得了巨大的突破。

从人工智能研究的角度来看，这场比赛根本没有突破。“深蓝”的胜利虽然令人印象深刻，但它只是延续了几十年来显而易见的趋势。国际象棋算法的基本设计是由克劳德·香农在1950年提出的，^[1]这一基本设计在20世纪60年代初实现了重大改进。此后，最优秀的国际象棋程序的等级评分稳步提高，这主要是因为计算机速度更快，让程序能够算到未来更远处。1994年，我和彼得·诺维格列出了1965年以来最好的国际象棋程序和国际象棋棋手的等级评分。^[2]在这个评分系统中，卡斯帕罗夫的评分是2 805分。1965年，国际象棋程序的等级评分从1 400分开始，在随后的30年里以一条近乎完美的直线上升。从1994年开始推算，系统预测计算机将会在1997年击败卡斯帕罗夫，而这与现实完全相符。

对人工智能研究人员而言，真正的突破发生在“深蓝”进入公众视野之前的三四十年。类似的，在深度卷积网络开始成为头条新闻的20多年前，它就已经存在了，所有的数学问题都完全解决了。

公众从媒体上看到的人工智能取得突破的观点——人类取得的辉煌胜利，机器人成为沙特阿拉伯公民等，与全世界各地的研究实验室里真正发生的事情几乎没有关系。在实验室里，研究包括大量的思考、交流和在白板上写数学公式。想法不断产生、被抛弃和重新被发现。好的想法，即真正的突破，往往在当时没有被注意到，可能直到后来才会被认为给人工智能的重大进步提供了基础，或许是当有人在更合适的时间重新改造它的时候。想法是经过试验的，它最初往往在简单的问题上证明了基本直觉的正确性，然后在更困难的问题上，我们才能观察到想法的延伸效果。通常，一个想法本身并不能提供能力上的实质性改进，它必须等待另一个想法的出现，二者结合才能证明价值。

所有这些活动都是外界完全看不见的。在实验室之外的世界里，只有当想法逐渐积累，当其有效性的证据超越一个阈值时，人工智能才会被看到：在这个临界点上，人工智能值得投入资金开展技术工作，创造新的商业产品或令人印象深刻的演示了。然后，媒体宣布我们取得了突破。

因此，人们可以预期，在未来几年里，世界各地的研究实验室酝酿的许多其他想法将跨越商业适用性的门槛。随着商业投资率的提高，以及世界对人工智能应用的接受程度越来越高，这种情况将会越来越频繁地发生。本章提供了一些我们很快就会看到的例子。在此过程中，我将提到这些技术进步的一些缺点。你可能会想到更多的缺点，但别担心。我将在下一章讨论这些内容。

人工智能生态系统

最初，大多数计算机的运行环境基本上是空洞无形的：它们唯一的输入来自穿孔卡片，唯一的输出方法是在行式打印机上打印字符。也许由于这个原因，大多数研究人员将智能机器视为问答系统。直到20世纪80年代，机器作为智能体在环境中感知和行动的观点才被广泛接受。

20世纪90年代，万维网的出现为智能机器开辟了一个全新的天地。人们创造了一个新词“Softbot”，用来描述完全在Web等软件环境中运行的“软件机器人”。Softbot（后来被称为bot，即机器人）可以感知网页，并通过发出字符序列、网址等来执行动作。