人工智能时代：破解人机共存密码（套装共10册）

当然，监听世界上所有的电话也是可能的（这项工作需要大约2000万人）。有些秘密机构会发现这很有价值，其中一些机构多年来一直在进行简单的大规模机器监听，比如找出对话中的关键词，现在已经过渡到将整个对话转录成可搜索的文本。^[26]转录当然有用，但不如同时理解和整合所有对话的内容有用。

机器可以利用的另一种“超级力量”是瞬间看到整个世界。粗略地讲，卫星每天以每像素约50厘米的平均分辨率拍摄整个世界。在这个分辨率下，地球上的每一栋房子、每一艘船、每一辆汽车、每一头奶牛和每一棵树都清晰可见。检查所有这些图像需要超过3 000万名全职员工。^[27]因此，目前没人能遍览绝大多数卫星数据。计算机视觉算法可以处理所有这些数据，生成一个每天更新的可搜索的全球数据库，还能生成经济活动、植被变化、动物迁徙和人口流动、气候变化影 响 等 的 可 视 化 和 可 预 测 模 型 。 像 Planet （ 星 球 ） 和DigitalGlobe（数字地球）这样的卫星公司正忙着把这一想法变成现实。

随着全球层面的感知成为可能，全球层面的决策也在成为可能。例如，通过全球卫星数据，人们可以建立详细的模型来管理全球环境，预测环境和经济干预的影响，并为联合国的可持续发展目标提供必要的分析输入。^[28]我们已经看到了“智慧城市”控制系统，它旨在优化交通管理、运输、垃圾收集、道路维修、环境保护和其他造福市民的功能，这些可能会拓展到国家层面。直到最近，这种程度的协调仍然只能通过庞大、低效的人类官僚机构来实现，这些将不可避免地被照顾我们集体生活越来越多方面的超级智能体所取代。当然，随之而来的可能是全球范围内的隐私侵犯和社会控制，我将在下一章讨论这个问题。

超级人工智能何时到来？

人们经常让我预测超级人工智能何时到来，而我通常拒绝回答，原因有三。首先，历史上预测出错的情况经常出现。^[29]例如，1960年，人工智能先驱、诺贝尔经济学奖得主赫伯特·西蒙（HerbertSimon）写道：“从技术上讲……20年内，机器将能够胜任人类能做的一切工作。”^[30] 1967年，达特茅斯会议（1956年该研讨会首次提出“人工智能”的概念）的联合组织者马文·明斯基写道：“我相信，在一代人的时间内，机器会攻克几乎所有智力领域，创造‘人工智能’的问题将得到实质性解决。”^[31]

第二个原因是，超级人工智能将要跨越的门槛并不明确。机器在某些领域已经超越了人类的能力。这些领域将会被拓展和深化，在我们拥有一个完全通用的超级人工智能系统之前，很有可能会出现“超级通用知识系统”“超级生物医学研究系统”“超级灵巧和敏捷的机器人”“超级企业规划系统”等。这些“不完全超级智能”的系统，无论是单独的还是集体的，都会产生许多与通用智能系统相同的问题。

第三个原因是，超级人工智能何时到来在本质上是不可预测的。正如约翰·麦卡锡在1977年的一次采访中指出的那样，超级人工智能需要“概念上的突破”。^[32]他接着说：“要想造出超级人工智能，你需要的是1.7个爱因斯坦和0.3个曼哈顿计划，而你首先需要的是爱因斯坦。我相信这需要5到500年的时间。”在下一节中，我将解释一些概念上的突破可能是什么。它们到底有多不可预测？也许就像在卢瑟福宣布链式核反应完全不可能的几个小时后，西拉德就发明了链式核反应一样不可预测。

在2015年世界经济论坛的一次会议上，我回答了我们何时才能看到超级人工智能的问题。这次会议是按照“查塔姆宫守则”进行的，这意味着任何出席会议的人都不能对外发表任何言论。即便如此，出于谨慎的考虑，我还是在我的回答前面加上了“严格保密”4个字。我提出，除非发生灾难，否则超级人工智能很可能出现在我孩子的有生之年。因为他们还很年轻，随着医学的进步，他们可能比参加会议的许多人活得更长。结果不到两个小时后，《每日电讯报》就刊登了一篇文章，引用了我的言论，还配上了狂暴的终结者机器人的图片，标题是《“反社会”机器人可能在一代人的时间里超越人类》。

我提出的时间点（比如说那之后80年）比典型的人工智能研究者的观点要保守得多。最近的调查表明，大多数活跃的研究人员预计人类水平的人工智能将在21世纪中叶到来。^[33]我们在核物理学方面的经验表明，假设进展可能会很快出现，那么人们做好相应的准备才是明智的。如果只需要一个类似于西拉德发现中子诱发的链式核反应这种概念上的突破，某种形式的超级人工智能就可能会突然出现，那么到时我们很有可能毫无准备：如果我们制造出了具有任意程度自主能力的超级智能机器，我们很快就会发现人类无法控制它们。然而，我相当有信心，我们尚有喘息的空间，因为现在和超级人工智能之间还隔着好几个重大突破，而不仅仅是一个。

概念上的突破即将到来

要想创建通用的、人类级别的人工智能，我们还有许多路要走。解决这一问题不能靠把钱花在更多的工程师、更多的数据和更强大的计算机上。一些未来学家根据摩尔定律绘制图表，预测了未来计算能力的指数级增长，展示出机器将超越昆虫大脑、老鼠大脑、人类大脑，以及所有人类大脑的日期等。^[34]这些图表毫无意义，原因我已经说过，速度更快的机器只会更快地给出错误的答案。如果将人工智能领域的领先专家聚集到一个拥有无限资源的团队中，目标是通过整合我们所有最好的想法来创建一个集成的、人类级别的智能系统，那么结果必将是失败。这个系统会在现实世界中崩溃。它不明白发生了什么，无法预测其行为的后果，无法理解人们在任意特定情况下想要什么，因此它会做蠢事。

通过了解系统将如何崩溃，人工智能研究人员找到达到了人类水平的人工智能必须解决的问题，这个问题就是概念上的突破。现在我将描述其中的一些遗留问题。一旦这些问题解决了，即使别的问题或许还存在，也绝对不会太多。

语言和常识

没有知识的智能就像没有燃料的发动机。人类从他人那里获得了大量的知识，知识以语言的形式代代相传。其中一些知识是事实，例如奥巴马在2009年当选美国总统，铜的密度约为每立方厘米8.92克，《乌尔纳姆法典》规定了对各种罪行的惩罚等。大量的知识存在于语言本身，存在于它所提供的概念之中。总统、2009年、密度、铜、克、厘米、罪行等词语都包含了大量的信息，这些信息代表了从发现和组织过程中提炼出来的精华，这才使它们最先存在于语言之中。

以铜为例，铜是指宇宙中一些原子的集合，我们把铜与“arglebarglium”做比较，arglebarglium是我对宇宙中完全随机选择的同样大小的原子集合的称呼。关于铜，我们可以发现许多普遍的、有用的、可预测的规律，例如铜的密度、导电性、延展性、熔点、起源、化合物、实际用途等；相比之下，关于arglebarglium我们基本上没什么可说的。一个有机体的语言如果由arglebarglium这样的词组成，这个有机体将无法工作，因为它永远不会发现使它能够建模并预测它的世界的规律。

一台真正理解人类语言的机器将能够迅速获取大量的人类知识，从而绕过在地球上生活过的1 000多亿人在几万年之中的学习过程。期待一台机器从原始的感官数据开始，从头开始重新发现这一切似乎是不切实际的。

然而目前，自然语言技术还不能胜任阅读和理解数百万本书的任务，其中许多书甚至会难倒一个受过良好教育的人。IBM的沃森在2011年的《危险边缘》问答节目中战胜了两位人类冠军，一举成名。像沃森这样的系统，可以从表述明确的事实中提取简单的信息，但不能从文本中构建复杂的知识结构，也不能回答需要使用来自多个来源的信息进行大量推理的问题。例如，阅读1973年底之前所有的现存文献，评估（并解释）水门事件弹劾尼克松总统的可能结果，执行这种任务所需要的能力将远远超出其目前拥有的水平。

人们正在努力深化语言分析和信息提取的水平。例如，艾伦人工智能研究所的“阿里斯托”项目旨在建立一个能够在阅读教科书和学习参考书后通过学校科学考试的系统。^[35]下面是四年级考试中的一_道题：[36]

四年级学生计划进行一场轮滑比赛。以下哪种地面最适合比赛？

（A）碎石地 （B）沙地 （C）柏油地面 （D）草地

机器在回答这个问题时至少面临两个困难。第一个困难是经典的语言理解问题：分析句法结构，识别单词的含义等。（你可以自己尝试一下：使用在线翻译服务将这些句子翻译成一种不熟悉的语言，然后使用字典将其翻译回原来的语言。）第二个困难是对常识的需求：弄清楚“轮滑比赛”可能是脚上穿着旱冰鞋的人之间的比赛，而不是旱冰鞋之间的比赛；理解“地面”是参赛者将要在其上滑行的表面，而不是让观众坐在上面的表面；要知道“最适合”对于“比赛的地面”这一语境意味着什么等。请思考，如果我们把“四年级学生”替换成“严格的新兵训练营的教官”，答案可能会发生什么变化？

一种总结上述困难的方法是，阅读需要知识，而知识（在很大程度上）来自阅读。换言之，我们面临的是典型的先有鸡还是先有蛋的情况。我们可能希望采用自助算法^[37]让系统读取一些简单的文本，获得一些知识，然后使用这些知识来读取更复杂的文本，获得更多的知识等。不幸的是，发生的情况通常恰恰相反：系统所获得的知识大多是错误的，这会导致阅读错误，从而导致更多的错误知识等。

卡 内 基 – 梅 隆 大 学 的 “NELL” （ Never-Ending LanguageLearning，无止境语言学习）项目可能是目前正在进行的最雄心勃勃的采用自助算法的语言项目。从2010年到2018年，NELL通过在网上阅读英文文本获得了超过1.2亿个知识点。^[38]其中一些知识点是准确的，比如枫叶队打冰球并赢得了斯坦利杯。除了事实之外，NELL还不断学习新的词汇、分类和语义关系。不幸的是，NELL仅对其3%的知识点有信心，它还要依靠人类专家定期清除错误或无意义的知识点，比如它认为“尼泊尔是一个国家，也被称为美国”和“价值是一种农产品，通常被分割成基础”。

我认为单一的突破不可能将恶性循环变成良性循环。基本的自助算法过程似乎是正确的：一个知道足够多事实的程序可以找出一个新句子所指的事实，从而学习一种新的表达事实的文本形式，然后让它发现更多事实，因此这个过程会继续下去。［谷歌联合创始人谢尔盖·布林（Sergey Brin）于1998年发表了一篇有关自助算法的重要论文。^[39]］通过提供大量人工编码的知识和语言信息来启动循环肯定会有所帮助。增加事实表达的复杂性——考虑复杂的事件、因果关系、他人的想法和态度等，以及改善对词义和句子含义不确定性的处理，最终可能会带来一个自我强化而不是自我消亡的学习过程。

概念和理论的累积学习

大约14亿年前，在距离地球82万亿亿英里之遥，有两个黑洞，一个是地球质量的1 200万倍，另一个是地球质量的1 000万倍，二者靠得很近，开始相互环绕运行。在能量逐渐失去后，它们盘旋着越来越靠近对方，速度越来越快，在350公里的距离处达到了每秒250次的轨道频率，最后碰撞并融合。^[40]在几毫秒内，引力波形式的能量释放速率是宇宙中所有恒星总能量输出的50倍。2015年9月14日，这些引力波到达了地球。它们以25万亿亿分之一的系数交替地扩张和压缩空间，相当于把从地球到比邻星的距离（约4.4光年）压缩到人类头发丝的直径那么小。

幸好，在那两天之前，位于华盛顿和路易斯安那州的激光干涉引力波天文台（后简称LIGO）的探测器已经启动。探测器利用激光干涉测量法，能够测量空间的微小畸变。利用基于爱因斯坦广义相对论的计算，LIGO的研究人员已经预测出该事件中引力波的形状，并开始进一步确定其确切形状。^[41]

研究人员之所以能够做到这些，是因为成千上万的人在数百年的观察和研究中积累和交流了知识与概念。从米利都的泰勒斯用羊毛摩擦琥珀并观察静电荷的积累，到伽利略从比萨斜塔投下小球，再到牛顿看到苹果从树上落下，经过成千上万次的观察，人类逐渐积累了一层又一层的概念、理论和装置：质量、速度、加速度、力、牛顿运动定律和万有引力定律、轨迹方程、电现象、原子、电子、电场、磁场、电磁波、狭义相对论、广义相对论、量子力学、半导体、激光、计算机等。

现在，原则上我们可以把这个发现过程理解为一个映射，即从全人类所有的感官数据到2015年9月14日LIGO的科学家观察电脑屏幕时体验到的感官数据的非常复杂的假设。这是纯数据驱动的学习观：输入的是数据，输出的是假设，中间是黑盒子。如果人们能够做到这一点，那将是“大数据、大网络”深度学习方法的典范，但这是不可能做到的。对于智能实体如何能够实现探测两个黑洞融合这样惊人的壮举，我们唯一看似合理的想法是，物理学的先验知识，加上仪器的观测数据，使得LIGO的科学家能够推断黑洞融合事件的发生。此外，这种先验知识本身就是用先验知识进行学习的结果，以此类推，一直可以追溯到遥远的历史。因此，我们对智能实体如何以知识为基础构建预测能力有了大致的了解。

我之所以说“大致”，无疑是因为在过去的几个世纪里，科学已经出现了一些错误的转折，暂时地追求了一些虚幻的概念，比如燃素和以太。但是我们知道一个事实，累积下来的图景就是实际发生的事情，也就是说，科学家一直在书和论文中写下他们的发现和理论。后来的科学家只能接触这些形式的显性知识，而无法接触更早的、早已过世的几代人的原始感官体验。LIGO团队的成员都是科学家，因此他们明白，他们使用的所有知识，包括爱因斯坦的广义相对论，都处于（而且将永远处于）试用期，而且可以通过实验被证伪。结果，LIGO的数据有力地证实了广义相对论，也进一步证明了引力子这种传递引力的假想粒子是无质量的。

我们距离创造出能够匹敌或超越科学界（或普通人一生）所累积的学问和发现能力的机器学习系统，还有很长的路要走。^[42]深度学习系统（附录D）主要是数据驱动的，我们充其量只能在网络结构中“连接”一些非常弱的先验知识形式。概率编程系统（附录C）的确允许在学习过程中加入先验知识，正如概率知识库的结构和词汇表所表达的那样，但我们还没有有效的方法来生成新的概念和关系，并使用它们来拓展这类知识库。

困难并不在于如何找到能够很好地拟合数据的假设。深度学习系统可以找到完美拟合图像数据的假设，人工智能研究人员已经建立了符号学习程序，这一学习程序能够概括许多历史上定量科学规律的发现。^[43]自主智能体进行学习所需要的远不只这些。

首先，进行预测所需要的“数据”应该包括什么？例如，在LIGO的实验中，用于预测引力波到达时空间伸展量和收缩量的模型考虑了碰撞黑洞的质量、它们轨道的频率等，但并不考虑当天是星期几，也不考虑当天的美国职业棒球大联盟的比赛情况。而预测旧金山海湾大桥交通的模型就会考虑当天是星期几和当天的职业棒球大联盟的比赛，但会忽略碰撞黑洞的质量和轨道频率。同理，学习识别图像中物体类型的程序使用像素作为输入，而学习评估古董价值的程序希望知道古董是由什么构成的，是谁制造的，何时制造的，它的使用历史和所有权历史等。这是为什么？显然，这是因为我们人类已经对引力波、交通、视觉图像和古董有所了解。我们使用这些知识来决定预测特定输出需要哪些输入。这就是所谓的“特征工程”，要做好这一点，我们需要对特定的预测问题有很好的理解。

当然，真正的智能机器需要学习新知识时，不能依赖于每次都有人类特征工程师。它必须自己找出，是什么构成了这个问题的合理假设空间。我们推测，要做到这一点，它一定会以各种形式带来广泛的相关知识，但目前我们对此只有初步的想法。^[44]纳尔逊·古德曼（Nelson Goodman）写于1954年的《事实、虚构和预测》^[45]可能是关于机器学习的最重要但最被低估的书之一，他在书中提出了一个被称为“过度假设”的概念，这个概念有助于定义合理假设的空间。例如，在预测交通情况的例子中，相关的过度假设有：今天是星期几、当前的时间、当地事件、最近的事故、假期、交通延误、天气以及日出和日落时间。这些都会影响交通状况。（请注意，即使你不是交通专家，你也可以通过自己对世界的背景知识来找出这种过度假设。）智能学习系统可以积累和使用这种知识，以此帮助规划和解决新的学习问题。

第二点也许更加重要，这就是新概念的累积生成，如质量、加速度、电荷、电子和引力等。如果没有这些概念，科学家（和普通人）将只能在原始感知输入的基础上解释他们的宇宙，并做出预测。正因为有这些概念，牛顿才能够运用伽利略等人提出的质量和加速度的概念；卢瑟福才能够断定原子是由一个被电子包围的致密的带正电的原子核组成的，因为电子的概念已经在19世纪末被许多研究人员逐步开发出来了。事实上，一切科学发现都依赖于一层又一层的概念，这些概念可以追溯至历史和人类经验。

在科学哲学中，特别是在20世纪初，新概念的发现经常归因于三个妙不可言的“I”：直觉（intuition）、洞察力（insight）和灵感

（inspiration）。所有这些都被认为是对一切理性或算法解释的抵触。包括赫伯特·西蒙^[46]在内的人工智能研究人员都强烈反对这一观点。简而言之，如果机器学习算法能够在假设空间中进行搜索，可以为输入中不存在的新术语添加定义，那么该算法就可以发现新概念。

例如，假设一个机器人试图通过观察人们玩西洋双陆棋来学习双陆棋规则。它观察人们掷色子的方法，并注意到玩家有时会移动3个或4个棋子，而不是1个或2个，这种情况出现在掷出的色子点数是1–1、2–2、3–3、4–4、5–5或6–6之后，程序如果可以添加一个新的“双倍”概念，将其定义为两个色子点数相同，就可以更简洁地表达相同的预测理论。这是一个直接的过程，它通过使用归纳逻辑编程之类的方法创建程序，提出新概念和定义，以此识别准确而简洁的理_论。[47]

目前，我们知道如何在相对简单的情况下做到这一点，但是对更复杂的理论而言，引入的新概念的数量可能变得非常庞大。这使得深度学习方法最近在计算机视觉领域的成功更加引人注目。深度网络通常能够成功地找到有用的中间特征，比如眼睛、腿、条纹和拐角，即使深度网络使用的是非常简单的学习算法。如果我们能更好地理解这是如何发生的，那么我们就可以采用相同的方法，用科学所需的更具表现力的语言来学习新概念。这本身就是对人类的巨大恩惠，也是向通用人工智能迈出的重要一步。

发现动作

时间跨度长的智能行为，需要具备在多个抽象层次上分层规划和管理活动的能力，从攻读博士学位（可能涉及1万亿个动作），到给一根手指发送一个运动控制指令，从而键入求职信的字符，无所不包。