AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的...

混乱与噪声，高尚使命与召唤恶魔的对抗

在侯世达的演讲后有一个简短的讨论，困惑的听众试图进一步向侯世达探询他对人工智能特别是对谷歌人工智能研究之恐惧的解释，但沟通障碍依然存在。会议继续进行，与会者展示了他们当前正在研究的项目，之后是小组讨论、茶歇等环节，一切都很正常，只是这一切都与侯世达的观点无关了。在会议接近尾声的时候，侯世达询问了与会者对于人工智能近期的发展前景有什么看法。谷歌的一些研究人员表示，他们预计通用的、人类水平的人工智能很有可能在未来30年内出现，这在很大程度上要归功于谷歌在深度学习领域的优势。

我满怀困惑地离开了会场。我知道侯世达曾为库兹韦尔的一些关于奇点的文章所困扰，但我以前从未理解他的这种感情和焦虑的程度。我也知道谷歌一直在大力推进对人工智能的研究，但谷歌某些研究人员对于将很快达到通用的、人类水平的人工智能如此乐观，这让我感到震惊。我个人的观点是：人工智能在某些细分领域已经取得了很大的进步，但仍然离通用的、人类水平的人工智能差得很远，可能一个世纪后都无法实现，更别说30年了。我认为，那些持相反观点的人大大低估了人类智能的复杂性。 我读过库兹韦尔的书，发现大部分都很荒谬。然而，听完会上来自我所尊敬和钦佩的人的所有评论后，也迫使我更批判性地审视自己的观点。如果说这些人工智能研究人员低估了人类的复杂性，那么我是否也低估了当今人工智能的力量和发展前景呢？

在接下来的几个月里，我开始更加关注与这些问题有关的讨论。然后，我就注意到有大量知名人士的系列文章、博客和书籍在告诉我们，从现在开始应当要担心超级智能的危险了。2014年，物理学家斯蒂芬·霍金（Stephen Hawking）宣称：“完全的人工智能的发展将导致人类种族的终结。” ⁷ 同年，Tesla和Space X公司的创始人埃隆·马斯克（Elon Musk）说：“人工智能可能是我们最大的生存威胁，而我们正在用人工智能召唤恶魔。” ⁸ 微软创始人比尔·盖茨（Bill Gates）表示：“我同意埃隆·马斯克和其他人对此的观点，我不明白为什么有些人对此毫不关心。” ⁹ 哲学家尼克·波斯特洛姆（Nick Bostrom）的《超级智能》（Superintelligence ）一书，阐述了机器变得比人类更加智能后会出现的危险，尽管枯燥乏味，但却出人意料地成了畅销书。

其他一些著名的思想家则提出了相反的观点。他们认为，我们的确应该确保人工智能程序是安全的，而不是冒着伤害人类的风险，但是近期关于超级智能的报道都被严重地夸大了。企业家和活动家米歇尔·卡普尔（Mitchell Kapor）劝告道：“人类智能是一种不可思议的、微妙的、难以理解的东西，短期内不会有被复制的危险。” ¹⁰ 麻省理工学院人工智能实验室前主任、机器人专家罗德尼·布鲁克斯（Rodney Brooks）同意这一观点，他说：“我们严重高估了机器在当下和几十年后的能力。” ¹¹ 心理学家和人工智能研究专家盖瑞·马库斯（GaryMarcus） ⁽¹¹⁾ 甚至断言，在寻求创造“强人工智能”的过程中，“几乎没有任何进展”，这里的强人工智能指的是通用的、人类水平的人工智能 ¹² 。

我可以引用许多双方辩论的话，简而言之，我发现：人工智能领域正处于一片混乱之中。人工智能的确取得了巨大的进展，但也的确几乎没有任何进展。可能我们离真正的人工智能只有咫尺之遥，但也可能还有数世纪之远。人工智能将解决我们所有的问题，或令我们所有人失业，或贬低我们的人性，甚至消灭人类种族。这项研究要么是一个高尚的使命，要么就是在“召唤恶魔”。

一路狂飙的人工智能，我们应该如何重新思考它

这本书源于我对人工智能领域发展的真实状态的尝试性理解：计算机现在能做什么，我们在未来几十年又能从它们身上期待什么。 侯世达在谷歌人工智能研讨会上的启发性言论，以及谷歌的研究人员对人工智能的近期前景充满信心的言论，对我而言就像一个警示。在接下来的章节中，我尝试厘清人工智能的发展现状，并阐明其迥然不同、有时甚至相互冲突的目标。与此同时，我将描述一些最著名的人工智能系统实际的工作原理，并分析它们的成功之处以及它们的局限性在哪里。我将着眼于计算机如今可以在多大程度上做到我们认为需要高水平智能才能做到的事情，比如，在对智能要求最高的游戏中击败人类、在不同语种之间进行翻译、回答复杂问题、在充满挑战的地形中进行导航等。我还会考查计算机在那些我们认为理所当然的、在无意识情况下执行的日常任务上的表现，如识别图像中的人脸和目标、理解口语和书面文字，以及应用最基本的常识。

我还将努力弄清楚人工智能自创立以来就备受争论的、那些更广泛的问题：我们所说的通用智能甚至超级智能到底是什么意思？当前的人工智能是否接近这个水平？或者是否在接近的道路上会遇到什么危险？人类智能的哪些方面是我们最为珍视的？人类水平的人工智能会在多大程度上影响我们对于自身人性的思考？用侯世达的话来说，我们应该要害怕到什么程度？

《AI 3.0》这本书不是关于人工智能的综述或历史，确切地说，它是对一些人工智能方法的深入探索，这些方法可能正在影响或者即将影响我们的生活。本书还将论述那些在挑战我们人类独特性方面发展程度最高的人工智能成就。写作本书的目的是与读者一同分享我自己在这一领域的探索，帮助读者更加清楚地认识这个领域已经取得了什么成就，以及机器距离“能够为自身之‘人性’进行辩护”还有多长的路要走。

第一部分若想对未来下注_，先要厘清人工智能为何仍然无法超越人类智能

人工智能流派大变迁

1 人工智能的源头 追寻什么是真正的智能

“人工智能”一词由约翰· 麦卡锡（John McCarthy）提出，其目标是“真正的”智能，而非“人工的”智能。

2_．符号人工智能_，无须构建模拟大脑运行的程序

符号人工智能最初是受到数学逻辑以及人们描述自身思考过程的方式的启发，在人工智能领域发展的最初30年里占据了主导地位，以专家系统最为著名。

3_．亚符号人工智能_，从神经科学角度捕捉无意识思考

亚符号人工智能从神经科学中汲取灵感，试图捕捉隐藏在“快速感知”（fast perception）背后的无意识思考过程。

4_．联结主义崛起_，神经网络再次流行

联结主义认为：智能的关键在于构建合适的计算结构，并从数据或现实世界中学习。

5_．机器学习_，拉开下一个人工智能大变革舞台的序幕

基于统计学和概率论，研究者开发了一系列使计算机从数据中学习的方法，并形成了人工智能领域的一门分支学科。

6_．深度学习_，人工智能的春天再一次百花盛开

从IBM的深蓝到沃森再到AlphaGo，统称为深度学习的人工智能方法已经成了主流的人工智能范式。

从起源到遭遇寒冬_，心智是人工智能 一直无法攻克的堡垒

达特茅斯的两个月和十个人

创造一台和人类一样聪明，甚至比人类更聪明的智能机器的梦想，已有几个世纪的历史，而随着数字计算机的崛起，这一梦想已成为现代科学的一部分。第一台可编程计算机的构建想法，实际上来自数学家将人类思想，特别是逻辑，当作“符号操纵”的机械过程的尝试。数字计算机本质上是符号操纵器，操纵符号“0”和“1”的各种组合。艾伦·图灵和约翰·冯·诺伊曼等计算机领域的先驱认为，人脑与计算机之间存在着极强的相似性，因而可以将人脑类比为计算机，并且在他们看来，人类智能显然能够被复制到计算机程序中。

人工智能领域的大多数从业者认为，该领域的正式确立可以追溯到1956年由一位名叫约翰·麦卡锡的年轻数学家在达特茅斯学院举办的一场小型研讨会。

1955年，28岁的麦卡锡进入了达特茅斯学院的数学系。在读本科时，他就学过一点儿心理学和“自动机理论”（后来演变为计算机科学）这一新兴领域的知识，并对创造一台能够思考的机器产生了兴趣。在普林斯顿大学数学系的研究生学院，他遇到了和自己一样对智能计算机的潜力十分着迷的学长马文·明斯基（Marvin Minsky） ⁽¹²⁾ 。毕业后，麦卡锡在贝尔实验室和IBM曾经短暂任职，其间，他分别与信息论的发明者克劳德·香农（Claude Shannon）以及电气工程先驱内森尼尔·罗切斯特（Nathaniel Rochester）合作过。在达特茅斯时，麦卡锡曾说服明斯基、香农和罗切斯特帮助他组织一个人工智能研究项目，这个项目计划在1956年夏天开展，为期两个月，共10个人参与 ¹ 。“人工智能”一词就是麦卡锡发明的，他希望将这一领域与一项名为“控制论” ² 的研究区分开来。麦卡锡后来承认：“当时没有人真正喜欢这个名字——毕竟，我们的目标是‘真正的’智能，而非‘人工的’智能，但是我必须得给它起个名字，所以我称它为‘人工智能’。” 3

他们4位组织者向洛克菲勒基金会递交了一份提案，请求其为这一夏季研讨会提供资助。他们写道，这一提案是基于“学习的每个方面，或者说智能的任何特征，从原则上来说都可以被精确地描述，因此，可以制造一台机器来进行模拟” ⁴ 。该提案列出了一系列需要讨论的主题，如自然语言处理（natural-language processing, NLP）、神经网络、机器学习、抽象概念和推理、创造力等，这些主题至今仍定义着人工智能这一领域。

在1956年，即便是最先进的计算机，其速度也达不到现代智能手机的百万分之一，但麦卡锡和他的同事依旧非常乐观地认为人工智能是触手可及的：“我们认为，只要精心挑选一组科学家共同针对这其中的一个或多个课题研究一整个夏天，就能够取得重大的进展。” 5

然而很快就出现了问题，一个对今天任何一位科学研讨会的组织者来说都很熟悉的问题——洛克菲勒基金会只批准了他们所需资助金的一半，而且事实证明，说服参与者来参加会议并留下来做研究，要比麦卡锡想象的困难得多，更别提在任何问题上达成共识了。会上出现了很多有趣的讨论，但并没有达成什么一致意见，这类会议常常就是这样：每个人都有不同的想法和强烈的自我意识，并对自己的计划充满热情 ⁶ 。尽管如此，达特茅斯的这次夏季人工智能研讨会还是获得了一些非常重要的成果：该领域得到了命名；其总体目标也基本明确了；即将成为该领域“四大开拓者”的麦卡锡、明斯基、艾伦·纽厄尔（Allen Newell）和西蒙得以会面，并对未来做出了一些规划，而且不知出于什么原因，这4个人开完会后都对该领域持极大的乐观态度。20世纪60年代初，麦卡锡创立了斯坦福人工智能项目（Stanford Artificial Intelligence Project），其目标是：“在10年内打造一台完全智能的机器。” ⁷ 大概在同一时间，后来的诺贝尔奖得主西蒙预测：“用不了20年，机器就能够完成人类所能做的任何工作。” ⁸ 不久之后，麻省理工学院人工智能实验室（MIT AI Lab）的创始人明斯基就预言：“在一代人之内，关于创造‘人工智能’的问题将得到实质性的解决。” 9

定义_，然后必须继续下去