AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的...

本章要点

02 神经网络是现代人工智能的基础

20世纪80年代中期，依赖人类创建并反映特定领域专家知识规则的符号人工智能方法—— 专家系统，越来越暴露出自身的脆弱性：容易出错，且在面对新情况时往往无法进行一般化或适应性的处理。在分析这些系统的局限性时，研究人员发现，编写规则的人类专家实际上或多或少依赖于常识以便明智地行动。这种常识通常难以通过程序化的规则或逻辑推理来获取，而这种常识的缺乏严重限制了符号人工智能方法的广泛应用。简而言之，在经历了过度承诺、巨额的资金支持和媒体炒作的一轮周期之后，符号人工智能又将面临另一个人工智能的寒冬。

根据联结主义的支持者的观点，智能的关键在于构建一个合适的计算结构以及系统从数据或现实世界的行为中进行学习的能力，这是受到了大脑的启发。突然之间，神经网络又流行起来了。

从图灵测试到奇点之争_，我们无法预测智能将带领我们去往何处

^“猫识别机^”掀起的春日狂潮

你有把拍好的猫的视频上传到视频网站上的经历吗？如果有，那你不是唯一一个这么做的人。拿YouTube来说，现在已经有超过10亿个视频被上传到该网站，其中很多都是关于猫的。2012年，谷歌的一个人工智能团队构建了一个“观看”了数百万个随机YouTube视频的多层神经网络，该网络具有超过10亿个权重，并且能够为了成功地压缩并解压视频中选定的帧而对这些权重进行调整。谷歌的研究人员并没有告诉系统要去学习任何特定的对象，但是经过一星期的训练之后，当他们探测这个多层神经网络的内部结构时，你猜他们发现了什么？一个似乎能够识别猫的神经元（单元） ¹ 。这台自学成才的“猫识别机”是过去10年中引起公众关注的一系列人工智能成就之一。这些成就大多归功于被统称为深度学习的一系列神经网络算法。

直到最近，流传很广的人工智能形象还主要来自众多电影和电视节目，如《2001：太空漫游》（2001_：A Space Odyssey）和《终结者》（The Terminator ），人工智能在其中都扮演了熠熠生辉的角色。然而，现实世界的人工智能在我们的日常生活或主流媒体中并不那么引人注意。如果你是在20世纪90年代或更早的时候出生的，那你可能会回想起你与客户服务语音识别系统、语言学习机器人玩具“Furby”，或者微软那烦人且命运坎坷的虚拟助手“Clippy”之间的一些令人沮丧的交互体验。这样看来，完全成熟的人工智能似乎还遥不可及呢。

也许这就是为什么当IBM的深蓝系统在1997年击败国际象棋世界冠军加里·卡斯帕罗夫时，那么多人感到震惊和失望的原因。深蓝的取胜令卡斯帕罗夫极其震惊，以至于他指控IBM的团队作弊：他认为这台机器下棋下得这么好，一定是得到了人类专家的帮助 ² 。具有讽刺意味的是，在2006年世界象棋锦标赛中，局面发生了逆转，有一名棋手指控另一名棋手通过接受计算机象棋程序的帮助作弊 ³ 。

然而，人类对深蓝的集体焦虑很快就消退了。我们接受了国际象棋是可以屈服于暴力搜索机器的，我们认为下棋下得好一点都不需要通用智能。这似乎是一种常见的反应：当计算机在某一特定任务上超越人类时，我们就得出结论，该任务实际上并不需要智能。正如麦卡锡哀叹的那样：“一旦它开始奏效，就没人再称它为人工智能了。” 4

2005年以后，一系列更为普遍的人工智能成果开始在我们身边悄然出现，随后以令人目不暇接的速度迅速扩散开来。谷歌推出了自动语言翻译服务——谷歌翻译。谷歌翻译并不完美，但表现却出乎意料地好，并且在之后又有了显著的改善。

不久后，谷歌的自动驾驶汽车就出现在了加利福尼亚州北部的道路上，小心又谨慎地行驶着，即便在交通拥挤的情况下，它们也可以独立完成驾驶任务。像苹果的Siri或亚马逊的Alexa这样的智能助理，也开始被安装在我们的手机里和家中，它们可以响应我们的许多语音需求。YouTube开始为视频提供相当精确的自动字幕，即时通信软件Skype则可在多语言的视频通话中提供同声传译。突然间，令人毛骨悚然的是，Facebook甚至可以在上传的照片中识别出你的脸了，照片分享网站Flickr也开始用描述照片内容的文字来对图片进行自动标注了。

2011年，IBM的智能程序沃森在电视益智竞赛节目《危险边缘》中完胜人类冠军，娴熟地解开了双关语的线索，并使得它的挑战者肯·詹宁斯（Ken Jennings）发出了“欢迎我们的计算机新霸主”这样的感叹。仅仅5年后，数百万的互联网观众就被吸引到围棋面前，围棋对于人工智能来说一直是一项挑战极大的复杂游戏，所以当一个名为AlphaGo的程序在5局比赛的4局里击败了世界上最好的棋手之一时，世人皆惊。

关于人工智能的议论突然变多了，商界注意到了这一点。许多大型科技公司都在人工智能的研发上投入了数十亿美元，他们要么直接聘用人工智能的专家，要么收购规模较小的初创公司，而唯一的目的就是挖走这些公司里的杰出人才，也就是所谓的“人才收购”。被“收购”的潜在可能性加上可能迅速成为百万富翁的希望，使初创企业的数量激增，它们通常由曾经的大学教授创办和运作，所以也都有着他们自己的风格。正如科技记者凯文·凯利（Kevin Kelly）所打趣的那样：“接下来10 000家创业公司的商业计划书很容易就能预测出来：X+人工智能。” ⁵ 而且关键的是，对几乎所有的这些公司来说，人工智能基本上等同于深度学习。

人工智能的春天再一次百花盛开。

人工智能_：狭义和通用_，弱和强

与之前的每个人工智能的春天一样，我们当下的这个春天也是以专家预测通用人工智能将会很快出现为特点，这里的通用人工智能将在大多数方面与人类相当或超过人类。DeepMind联合创始人沙恩·莱格在2016年预测：“超越人类水平的人工智能将在2025年左右出现。” ⁶ 而在这之前的一年，Facebook创始人马克·扎克伯格（Mark Zuckerberg）宣布：“我们未来5～10年的目标之一是让人工智能在所有主要的人类感知领域，如视觉、听觉、语言和一般认知能力上基本超越人类水平。”⁷ 人工智能哲学家文森特·穆勒（Vincent Müller）和尼克·波斯特洛姆在2013年发布实施的一项针对人工智能研究人员的调查显示：许多人认为人类水平的人工智能在2040年之前出现的可能性为50% ⁸ 。

尽管这种乐观情绪很大程度上是基于近来深度学习的成功，但和迄今为止所有的人工智能实例一样，这些程序仍然只是所谓的“狭义”或“弱”人工智能的例子。这里的“狭义”和“弱”并没有太多贬低的意思，它们只是用来形容那些仅能执行一些狭义任务或一小组相关任务的系统。AlphaGo可能是世界上最好的围棋玩家，但除此之外什么也做不了，它甚至不会玩跳棋、井字棋等游戏。谷歌翻译可以把英文的影评翻译成中文，但它无法告诉你影评者是否喜欢这部电影，更不用说让它自己来观看和评论电影了。

“狭义”和“弱”人工智能往往是与“强”“人类水平”“通用”或“全面”人工智能（有时候也被称作AGI，即通用人工智能）对比而言的，后者即那种我们在电影中常看到的，可以做我们人类所能做的几乎所有事情，甚至更多事情的智能。通用人工智能是人工智能领域研究最初的目标，但后来研究者发现实现这一目标比预期要困难得多。随着时间的推移，人工智能领域的工作开始聚焦于特定的、定义明确的任务，如语音识别、下棋、自动驾驶等。创造能执行这些功能的机器很有用并且往往利润丰厚，可以说这些任务中的任何一个都需要某种具体的智能，但至今人们还没有创建出任何能够在通用意义上被称为“智能”的人工智能程序。该领域2016年的一项研究表明：“一堆狭义智能永远也不会堆砌成一种通用人工智能。通用人工智能的实现不在于单个能力的数量，而在于这些能力的整合。” 9

鉴于狭义人工智能种类的迅速增长，要经过多长时间才会有人想清楚如何整合它们，并创造出具有那些广泛、深刻且微妙特征的人类智能呢？我们是否相信像认知科学家史蒂芬·平克（Steven Pinker） ⁽¹⁶⁾ 所说的那样，这一切都是老生常谈？平克宣称：“正如一直以来的那样，人类水平的人工智能仍然是15～25年之后的事物，而且最近许多被吹捧的人工智能领域的进步都根基尚浅。” ¹⁰ 那么，我们是否应该更多地关注那些确信这一次人工智能春天的情况将会有所不同的乐观主义者呢？

毫无疑问，在人工智能研究领域，关于人类级别的人工智能应达到什么水平，还存在着相当大的争议。我们如何知道自己成功地构建了一个这样的“思考机器”（thinkingmachine）？这样的系统会被要求像人类一样具有自我意识吗？它需要按照与人类相同的方式来理解事物吗？既然我们在这里谈论的是一台机器，那么，称它为“模拟思维”（simulationthought）是否才更加准确呢？还是说它真的在思考？

人工智能是在模拟思考_，还是真的在思考

这类哲学问题从一开始就一直困扰着人工智能领域的研究者。在20世纪30年代就勾勒出了第一个可编程计算机框架的英国数学家艾伦·图灵，于1950年发表的论文《计算机器与智能》（Computing Machinery and Intelligence ）中提出了这样一个问题：“当我们问‘机器能思考吗？’，我们到底是要表达什么意思？”在提出著名的“模仿游戏”（imitationgame，现在称为图灵测试，稍后会详细介绍）之后，图灵列出了对一台实际会思考的机器之前景的9条可能的反对意见，并试图反驳这9条意见。他设想的反对意见从神学的角度到超心理学的角度都有。比如，从神学角度看，思考是人类不朽之灵魂的一种功能，上帝赋予了每个人不朽的灵魂，但并没有将其赋予其他任何动物或机器，因此没有动物或机器能够进行思考；从超心理学角度看，人类可以使用心灵感应进行交流，而机器不能。奇怪的是，图灵认为后面这个论点是“非常强大的”，因为至少对于心灵感应来说，统计证据是无法辩驳的。

从这几十年的经验来看，我个人认为，图灵列出的所有潜在争论中，最强有力的是“关于意识的争论”，对此他引用了神经科学家杰弗里·杰斐逊（Geoffrey Jefferson）教授的一段话进行概括：

如果一台机器能够写出一首十四行诗或一首协奏曲，是因为它感受到的思想和情感，而不是因为符号的偶然组合，只有这样，我们才会认同该机器等同于大脑。也就是说，它不仅写出来了，而且知道自己写出来了。没有机器能够为自己的成功而感到快乐、为自己的开关被关上而感到悲伤、为受到称赞而感到温暖、因为犯错而感到痛苦、对性感兴趣、为自己想要却得不到某样东西感到愤怒或沮丧。其他的人工信号或简单的发明也做不到以上这些事情。 ¹¹

请注意，这一论点是在说：只有当一台机器能“感受”事物，并知道自己的行为和感觉，即具有意识时，我们才能认为它是真正在思考；但是，没有一台机器能够做到这点，因此，没有一台机器能够真正地思考。

尽管我不赞同这个论点，但我认为它是强有力的，它与我们对于机器是什么以及它们如何被限制的直觉产生了共鸣。多年来，我与许多朋友、亲人和学生讨论过机器智能的可能性，上述的论点正是他们中许多人的立足点。举例来说，我的母亲是一名退休律师，最近她读了《纽约时报》上一篇关于谷歌翻译程序最新进展的文章，然后我们进行了如下交流：

母亲_： 人工智能领域里这些人的问题是他们将人工智能过度人格化了！

我_： 您说的“人格化”是什么意思？

母亲_： 他们所使用的语言暗示机器可能会真正地思考，而不仅仅是在模拟思考。

我_： “真正思考”和“模拟思考”的区别是什么？

母亲_： 真正思考是由大脑完成的，模拟思考是用计算机完成的。

我_： 大脑有什么特别之处使其能够真正思考？相比之下，计算机缺了什么？

母亲_： 我不知道。我认为关于思考，存在一种永远无法被计算机完全模仿的人类特性。

我的母亲并不是唯一一个有这种直觉的人。事实上，在许多人看来，这如此显而易见，甚至无须任何讨论。和许多人一样，我的母亲会自称是一位哲学唯物主义者，也就是说，她不相信任何非物质的“灵魂”或“生命力”会赋予生物智能。只是因为，她不认为机器能够拥有“真正思考”所需的必要品质。

在学术界，这个论点最著名的版本来自哲学家约翰· 瑟尔。1980年，瑟尔发表了一篇名为《思想、大脑和程序》的文章 ¹² ，对机器能够进行真正思考的可能性进行了强烈驳斥。在这篇被广泛阅读且极具影响力的文章中，瑟尔介绍了“强人工智能”和“弱人工智能”的概念，以区分关于人工智能程序的两种主张。尽管现在很多人用强人工智能来表示能够在大多数任务上做得像人一样的人工智能，用弱人工智能来表示在当下存在的那种狭义的人工智能，但瑟尔用这些术语来表达的意思与之有所不同。对瑟尔来说，强人工智能是：“经过恰当编程的数字计算机不只是模拟出了心智，而是实实在在地拥有了心智。” ¹³ 相比之下，用瑟尔的术语来说，“弱人工智能将计算机视为模拟人类智能的工具，并不认为它们真正拥有心智” ¹⁴ 。我们回到我和我母亲讨论的哲学问题上：“模拟心智”和“真正的心智”之间，有区别吗？和我母亲一样，瑟尔认为两者之间存在根本的区别，并且他认为，在原则上，强人工智能也是不可能产生的。 ¹⁵

图灵测试_：如果一台计算机足够像人

瑟尔的观点一定程度上受到了图灵在1950年发表的论文《计算机器与智能》的启发。