AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的...

自动驾驶汽车面临的另一个迫在眉睫的问题就是：各种潜在的恶意攻击。计算机安全专家已经表明：当今我们驾驶的许多非自动驾驶汽车正越来越多地受到软件的控制，因而它们与无线网络（包括蓝牙、手机网络和互联网）的连接很容易受到黑客的攻击 ² 。由于未来的自动驾驶汽车将完全受软件控制，它们更可能受到黑客的恶意攻击。除此之外，正如我在第06章所描述的，机器学习研究人员已经证明，对自动驾驶汽车的计算机视觉系统的潜在对抗性攻击是存在的，比如，在停车标志上贴上并不显眼的标签，会使汽车将它们识别为限速标志。所以，为自动驾驶汽车开发合适的计算机安全防御系统将与开发自动驾驶技术同样重要。

除了黑客攻击外，自动驾驶汽车还可能面临的一个问题就是我们所谓的人性。人们难免会想对完全自动驾驶汽车搞一些恶作剧，以探索它们的弱点，例如，在车前来回走动假装要过马路，来阻止汽车前进。应该如何给汽车的自动驾驶系统进行编程，使其能够识别和处理这种行为呢？对于完全自动驾驶汽车，还有一些重大的法律问题需要解决，比如，谁应该为一起事故负责？以及这类汽车需要办理哪种保险？

对于自动驾驶汽车的未来，还存在一个尤为棘手的问题：汽车行业应该以实现部分自主驾驶——汽车在特定情境下执行所有驾驶行为，但仍然需要人类驾驶员保持注意力并在必要的时候接管为目标？还是应该以实现完全自主驾驶——人类能够完全信任车辆的驾驶并且完全无须花费注意力作为唯一目标？

由于我上面所描述的问题，实现足够可靠的、在几乎所有情境下都能自主行驶的完全自动驾驶汽车的技术还不存在，我们也很难预测什么时候这些问题才能被解决，专家们的预测从几年到几十年不等。一句值得记住的格言是：对于一项复杂的技术项目，完成其前90%的工作往往只需要花费10%的时间，而完成最后10%则需要花费90%的时间。

支持3级自动驾驶的技术现在已经存在，但正如已被多次阐明的那样，人类在部分自动驾驶上的表现非常糟糕。即便人类驾驶员知道他们应该时刻保持注意力，但他们有时也做不到，由于车辆无法处理某些特殊的情况，那么事故就可能会发生。

这对于我们来说意味着什么？要实现完全自动驾驶，本质上需要通用人工智能，而这几乎不可能很快实现。具备部分自主性的汽车现在已经存在，但是由于人类驾驶员并不总是能集中注意力，因此还是很危险。对于这一困境最可能的解决方法是改变对完全自主的定义，可以将其改为：仅允许自动驾驶车辆在建造了确保车辆安全的基础设施的特定区域内行驶。我们通常将这一解决方案称为“地理围栏”（geo-fencing）。福特汽车公司前自动驾驶车辆总工程师杰基·迪马科（JackieDiMarco）是这样解释地理围栏的：

当我们谈论4级自动驾驶时，我们指的是在一个地理围栏内的完全自动驾驶，在该区域内我们有一个定义过的高清地图。一旦拥有了这张地图，你就能了解你所处的环境，你能够知道灯柱在哪里、人行横道在哪里、道路规则是什么、速度限制是多少等信息。我们认为车辆的自动驾驶能力能够在一个特定的地理围栏中成长，并且会随着新技术的加入而得到进一步的提升，随着我们的不断学习，我们就能解决越来越多的问题 ³ 。

当然，那些令人讨厌的喜欢恶作剧的人也包含在地理围栏内。吴恩达建议，行人需要学会在身处自动驾驶汽车的周围时表现得更加可预测：“我们需要告诉人们的是，请遵守法律并多加体谅。” ⁴ 吴恩达的自动驾驶公司Drive.ai已经推出了一支能够在特定的地理围栏内接送乘客的完全自主的自动驾驶出租车车队，从得克萨斯州开始，因为这里是美国少数几个法律允许自动驾驶车辆上路的州之一。我们很快就能看到这将会取得什么成果。

问题2：人工智能会导致人类大规模失业吗？

我的猜测是不会，至少近期不会。马文·明斯基的“容易的事情做起来难”这句格言仍然适用于人工智能的大部分领域，并且许多人类的工作对于计算机或机器人而言可能比我们想象的要困难得多。

毫无疑问，人工智能系统将在某些工作上取代人类，它们已经取代了部分的人类工作，其中很多都给社会带来了益处。目前没有人知道人工智能会在总体上对就业产生什么样的影响，因为没有人能够预测未来人工智能的能力。

关于人工智能对就业可能产生的影响已有很多报道，尤其是关于包含驾驶员在内的数百万个岗位的脆弱性，很有可能从事这些工作的人最终会被取代，但我们无法确定自动驾驶汽车何时才能大规模普及，从而使得这一时间很难被预测。

尽管存在不确定性，但技术和就业的问题恰恰是人工智能伦理整体正在讨论的一部分。很多人指出：从历史上看，新技术创造了与它们所取代的一样多的新就业岗位，人工智能可能也不例外。也许人工智能将接手卡车司机的岗位，但由于人工智能伦理发展的需要，该领域将会为道德哲学领域创造出更多岗位。我说这些不是为了削弱潜在的问题，而是为了表达关于这一问题的不确定性。美国经济顾问委员会2016年发布的一份关于人工智能可能会对经济产生影响的调查报告强调：“人们对这些影响的感受有多强烈，以及它将以多快的速度到来，仍存在很大的不确定性，根据现在可掌握的证据，我们不可能做出具体的预测，因此政策制定者必须为一系列可能的结果做好准备。” 5

问题3：计算机能够具有创造性吗？

对很多人来说，计算机具有创造性这个想法听起来像是一个悖论。机器的本质，归根结底是“机械性”，这是一个在日常语言中和“创造性”相对立的术语。怀疑论者可能会争辩道：“一台计算机只能做那些人类编码要求其完成的事情，因此它是不可能具有创造性的，创造性需要独立创造出一些新事物。” 6

有一种观点认为：由于从定义上来说，一台计算机只能做一些经过明确编码的事情，因而它不可能是具有创造性的。我认为这种观点是错误的。一个计算机程序可以通过许多种方式生成其编码人员从未想到过的东西。我在前一章中描述过的Copycat程序经常会想出我从未想到过的类比方法，并且有它自己的奇怪逻辑。我认为从原则上讲，计算机是有可能具有创造性的，但我也认同，具备创造性需要能够理解并判断自己创造了什么。如果从这个角度来看，那么，现在没有一台计算机可被看作是具有创造性的。

一个相关的问题是：计算机程序是否能够生成一件优美的艺术或音乐作品。虽然美感是高度主观的，但我的答案绝对是能，因为我见过大量很美的由计算机生成的艺术作品，比如计算机科学家和艺术家卡尔·西姆斯（Karl Sims）的“遗传艺术” ⁷ 。西姆斯利用一种受达尔文自然选择理论启发的算法，来编码计算机使之生成数字艺术品。该程序利用带有一些随机元素的数学函数来生成几种不同的候选艺术品，让研究人员选择他们最喜欢的艺术品。然后，该程序通过在其底层数学函数中引入随机性来创建所选艺术品的变体，研究人员随后会从这些变体中选择其最喜欢的一件，以此类推，进行多次迭代。西姆斯通过这种方法创造出了一些令人惊叹的抽象作品，并已在博物馆展览中被广泛展出。

西姆斯的程序的创造力来自人与计算机的合作：计算机生成原始的艺术作品，然后生成其后续变体，而人类对计算机生成的作品做出评判，其依据来自人类对抽象艺术的理解。计算机对抽象艺术并没有任何理解力，因此它本身并不具有创造性。

在音乐生成方面，也有类似的例子，计算机生成了美妙的或至少令人愉悦的音乐，但我认为其创造力只能通过与人类合作才能产生，人类提供了判断一曲音乐好坏的理解，这对计算机的输出结果提供了判断依据。

以这种方式生成音乐的最著名的计算机程序是大卫·科普的EMI ⁸ ，我在本书引言中提到过相关内容。EMI被设计为可用多个古典作曲家的风格生成音乐，并且它的一些作品甚至成功地骗过了一些专业音乐家，让他们相信这些作品是由真正的人类作曲家创作的。

科普创造EMI的初衷是：将其作为他私人的“作曲小助手”。科普一直对运用随机性创作音乐的悠久传统十分着迷。一个著名的例子是莫扎特和18世纪的其他音乐家常玩的所谓的“音乐骰子游戏”——创作者把一曲音乐切分成很多小片段，然后通过掷骰子来选择该片段在新乐曲中的位置。

可以说，EMI是一种加强版的音乐骰子游戏。比如，为了让EMI以莫扎特风格创作音乐，科普首先从莫扎特的作品中挑选大量的音乐片段，然后使用一个他编写的计算机程序识别出其中他称之为“签名”的关键音乐模式，这是一种有助于定义作曲家之独特风格的音乐模式。科普另外编写了一个程序，对每个签名按照它在一个音乐片段中发挥的特定作用进行分类，这些签名被保存在这个作曲家对应的作品数据库中。科普还在EMI中开发了一套规则，也就是一种“音乐语法”，来指导签名的变体如何重新组合从而以一种特定的风格来创作一曲连贯音乐。EMI采用一个随机数生成器（对于计算机而言，等价于掷骰子）来选择特征并创作音乐片段，然后使用其音乐语法来决定如何排列这些片段。

以这种方式，EMI能够以莫扎特或其他任何构建了音乐签名数据库的作曲家的风格创作无数的新作品。科普曾精心挑选了几首EMI创作的最好的作品公开发行，我听过其中几首，在我听来，它们有的平淡无奇，有的却非常好听，这些歌曲的确包含一些优美的片段，但是没有一首具有原作者作品的深度。当然，我这么说是因为事先知道这些作品是EMI创作的，所以我可能持有偏见。其中一些较长的乐曲通常包含优美的片段，但也包含一种会导致音乐失去创意主线的非人类的倾向。总体而言，EMI创作的作品非常成功地捕捉到了几位不同的古典作曲家的风格。

EMI具有创造性吗？我认为答案是否定的。虽然它创作了一些相当不错的音乐，但它依赖于科普的音乐乐理知识，这些知识内嵌在科普策划的音乐签名和他设计的相关规则中。最重要的是，我认为这个程序并不真正理解其所生成的音乐作品，无论是在音乐概念上，还是在情感的表达上。由于这些原因，EMI无法判断它自己创作的音乐的质量，这是科普的工作，他将其简单地描述为：“那些我喜欢的作品会被发布出去，那些我不喜欢的作品则不会。” ⁹

令我十分困惑的是，2005年，科普销毁了EMI所有的音乐特征数据库。他的理由是：由于EMI能够如此容易地进行无限创作，评论家会因此低估它的价值。科普认为，只有像哲学家玛格丽特·博登（Margaret Boden）所写的那样，成为“有限之物，就像所有必死的人类作曲家那样”，EMI才会被珍视为作曲家 ¹⁰

我不知道我的看法是否会为侯世达带来一些慰藉，他对EMI给他印象最深刻的作品以及足以愚弄专业音乐家的能力感到非常不安。我理解侯世达的担忧，正如文学家乔纳森·戈特沙尔（Jonathan Gottschall）在《会讲故事的机器人在崛起》一文中所描写的那样：“艺术可以说最能区别人类与其他生物之间的不同，这是我们人类引以为傲的事情。” ¹¹ 我想补充的是：让我们感到自豪的不仅是我们可以创造艺术，还有我们对艺术赏析的能力、对其感人之处的理解以及对作品传递的信息的体会。这种赏析和理解的能力对观众和艺术家来说都是必不可少的，没有这些，我们就不能说一个生物是有创造力的。简而言之，要回答“计算机能够具有创造性吗？”这个问题，在原则上我会回答：“是的，但这不会很快实现。

问题4：我们距离创建通用的人类水平AI还有多远？

对于这一问题，目前基本上存在两种观点。

· 第一种观点，我将引用艾伦人工智能研究所的所长奥伦·埃齐奥尼的话来回答这个问题：“做出你的估计，延长至2倍、3倍，再延长至4倍，那就到它实现的时候了。” ¹²

· 第二种观点，回顾前一章中安德烈·卡帕西的评价：“我们真的，真的相距甚远。” ¹³ 这也是我的观点。

“computer”这个词最初指代的是人，事实上，它通常指代那些人工或使用台式机械计算器来执行计算任务的女性，她们在第二次世界大战期间，帮助士兵完成与火炮瞄准相关的对导弹轨迹的计算任务，这是计算机最原始的含义。根据克莱尔·埃文斯（Claire Evans）的《宽带》（Broad Band ）一书中的内容：“在20世纪30—40年代，‘女孩’一词与‘计算机’一词是可以互换使用的。国防研究委员会的一位成员甚至将一个‘kilogirl’单位的劳动大概等价为1 000个小时的计算劳动。” ¹⁴

20世纪40年代中期，电子计算机在计算领域取代了人类，并立即成了“超级人类”。与任何人类“计算机”不同的是：这些机器计算一个飞行炮弹轨迹的速度甚至超过了炮弹本身飞行的速度 ¹⁵ 。这是计算机能够表现出色的许多细分领域任务中的第一个。如今，采用最先进的人工智能算法的计算机，已经征服了许多其他细分领域中的任务，但通用智能依然尚未实现。

在人工智能的历史上，许多知名的研究人员已经预测过，通用人工智能将在10年、15年、25年或“一代人”的时间内出现，然而，这些预测最终没有一个实现的。正如我在第03章中所描述的，库兹韦尔和卡普尔之间的“长期赌约”——一个程序是否能通过精心设计的图灵测试，将在2029年一决胜负。我支持卡普尔一方，我完全赞同他的观点，并在引言中进行了引用：“人类智能是一种不可思议的、微妙的、难以理解的东西，短期内不会有被复制的危险。” ¹⁶

“预测是很难的，尤其是对未来的预测。”这一至理名言是由谁提出的还有待考证，但不论在人工智能领域还是其他任何领域，这句话都是正确的。几项针对人工智能从业者的、关于通用人工智能或超级智能何时到来的调查研究，其结果也是相当宽泛，从“未来10年会出现”到“永远都不会出现”的结果都有 ¹⁷ 。换句话说，我们对此毫无头绪。

我们所知道的是，通用的、人类水平的人工智能需要人工智能研究人员数十年来一直努力去理解和再现的能力，比如，对常识的理解、抽象和类比等，但这些方面的能力被证明是非常难以获得的。而且，其他一些重大的问题仍然存在：通用人工智能将需要意识吗？有对自我的感知吗？能感受情绪吗？具有生存的本能和对死亡的恐惧吗？需要一具躯体吗？正如我在前文引用的明斯基的那句话：“我们现在还处在关于心智的一系列概念的形成期。”