人工智能时代：破解人机共存密码（套装共10册）

这些例子以及许多其他例子说明了一个事实：把理性决策理论拓展到多个主体身上会产生许多有趣而复杂的行为。这也是非常重要的，原因很明显，人类不止一个。不久之后，智能机器也不止一台。毋庸置疑，我们必须和智能机器相互合作，才能造福人类，而不是大家同归于尽。

计算机

合理地定义智能是创造智能机器的第一要素。第二要素是制造出一台可以实现这一定义的机器。这台机器就是计算机，其原因显而易见。它本可以是其他东西，例如，我们可以试图通过复杂的化学反应或操纵生物细胞来制造智能机器，^[31]但是从最早的机械计算机开始，为计算而建造的设备在其发明者看来一直是智能的天然家园。

我们已经对计算机习以为常，甚至几乎没有注意到计算机那令人难以置信的能力。看看你的笔记本电脑、台式电脑或智能手机—个可以输入字符的小盒子。仅仅通过输入，你就可以创建一个程序，把这个盒子变成某种新东西，也许它可以神奇地合成移动的图像，比如远洋船只撞上冰山，或是生活着高个子的蓝色外星人的星球；再输入一些，它便可以把英文翻译成中文；再输入一些，它就能听能说；再输入一些，它就能战胜国际象棋世界冠军。

单个盒子能够执行你可以想象得到的任意过程，这种能力叫作通用性，这是1936年艾伦·图灵（Alan Turing）首次提出的概念。^[32]通用性意味着我们不需要单独的机器分别进行算术、机器翻译、下棋、语音理解，以及制作动画，一台机器就可以完成所有任务。你的笔记本电脑本质上与世界上最大的IT（信息技术）公司运营的大型服务器场，甚至那些配备了用于机器学习的高级专用TPU（张量处理单元）完全相同。本质上，所有尚未发明的未来计算设备也与你的笔记本电脑没什么不同。只要有足够的内存，你的笔记本电脑就可以完成相同的任务，只是需要更长的时间而已。

图灵介绍通用性的论文是有史以来最重要的论文之一。在文中，他描述了一个简单的计算设备，它可以接受其他任意计算设备的描述作为输入，也可以接受第二台设备的输入，并通过模拟第二台设备对其输入的操作来产生与之相同的输出。我们现在称第一台设备为“通用图灵机”。为了证明它的通用性，图灵为两种新的数学对象——机器和程序，引入了精确的定义。机器和程序一起定义了一系列事件，具体而言，就是机器及其内存中的一系列状态变化。

在数学史上，很少有新的对象出现。数学始于有记载的历史之初的数字。然后，大约在公元前2000年，古埃及人和巴比伦人开始研究几何对象（点、线、角、面积等）。中国数学家在约公元前1000年引入了矩阵，而集合作为数学对象直到19世纪才出现。图灵的新对象——机器和程序，也许是有史以来最强大的数学对象。具有讽刺意味的是，数学领域在很大程度上没有认识到这一点，从20世纪40年代开始，计算机和计算一直是大多数主要大学工程系的研究领域。

计算机科学这一新兴学科在接下来的70年里蓬勃发展，产生了大量新的概念、设计、方法和应用，以及全球最有价值的8家公司中的7家。

计算机科学的核心概念是算法，这是一种精确指定的计算方法。到目前为止，算法已经成为我们日常生活中非常熟悉的部分：便携式计算器中的平方根算法接收一个数字作为输入，然后返回该数字的平方根作为输出；国际象棋算法提取棋子的位置，然后返回走子着法；寻路算法获取起点位置、目标位置和街道地图，然后返回从起点到目标的最快行驶路线。算法可以用英文或数学符号来描述，但要实现它们，必须用编程语言将其编码为程序。更复杂的算法可以通过使用更简单的“子程序”作为构件来建立。例如，无人驾驶汽车可以使用寻路算法作为子程序，这样它就知道要去哪里了。通过这种方式，人们可以一层一层地构建极其复杂的软件系统。

计算机硬件很重要，因为速度更快、内存更大的计算机可以让算法运行得更快，处理更多信息。这方面的进展虽然很出名，但仍令人难以置信。第一台商用电子可编程计算机费伦蒂马克一号（FerrantiMark I）每秒可以执行大约 $1 0 0 0 \ : ( 1 0 ^ { 3 } )$ ）条指令，拥有大约1 000字节的主存储器。截至2019年初，速度最快的计算机是美国田纳西州橡树岭国家实验室的Summit超级计算机，Summit每秒执行大约 $1 0 ^ { 1 8 }$ 条指令（速度比费伦蒂马克一号快1 000万亿倍），拥有 $2 . 5 \times 1 0 ^ { 1 7 }$ 字节的存储器（比费伦蒂马克一号大250万亿倍）。这种进展源于电子器件的进步，甚至基础物理学的进步，微型化已经达到了令人难以置信的程度。

虽然拿计算机与大脑比较并不是特别有意义，但是Summit中的数字量略微超过了人脑的原始容量，如前所述，人脑有大约 $1 0 ^ { 1 5 }$ 个突触，大约0.01秒的“周期时间”，理论上每秒最多能完成大约 $1 0 ^ { 1 7 }$ 次“运算”。二者最大的不同是功耗，Summit消耗的电能是大脑的100万倍。

根据摩尔定律的经验，芯片上的电子元件数量每两年就会翻一番，这一现象预计将持续到2025年左右，尽管速度会略慢一些。近几年来，其速度一直受到硅晶体管快速开关产生的大量热量的限制。此外，电路的尺寸已经不能变得更小，因为导线和连接器宽度已经不超过25个原子直径，厚度已经在5\~10个原子直径范围内了（截至2019年）。2025年以后，我们将需要使用更奇特的物理现象——包括负电容器件^[33]、单原子晶体管、石墨烯纳米管和光子来维持摩尔定律（或其后续定律）的发展。

除了加速推进通用计算机之外，另一种可能是构建专门用于执行某一类计算的专用设备。例如，谷歌的TPU被设计用来执行某些机器学习算法所需的计算。一个TPU Pod^[34]（2018年版）每秒执行大约10¹⁷次运算，几乎与Summit的计算能力相当，但前者的功耗是后者的1%，体积也是后者的1%。即使底层的芯片技术大致保持不变，人们也可以将这类机器制造得越来越大，为人工智能系统提供大量的原始计算能力。

量子计算则完全不同。它利用量子力学波函数的奇异特性来实现一些非同寻常的事情：用两倍数量的量子硬件，你可以完成两倍以上的计算！让我来简要介绍一下它的工作原理。^[35]假设你有一个存储量子比特的微型物理器件。一个量子比特有两种可能的状态：0和1。在经典物理学中，量子比特器件必须处于这两种状态之一，而在量子物理学中，携带量子比特信息的波函数表示它同时处于两种状态。如果你有两个量子比特，就有4种可能的联合状态：00、01、10和11。如果波函数在两个量子比特之间相干、纠缠，这意味着没有其他物理过程来扰乱它，那么这两个量子比特则同时处于全部4种状态。此外，如果这两个量子比特连接到执行某些计算的量子电路中，那么计算过程将会同时处理全部4个状态。使用3个量子比特，就可以同时处理8个状态，以此类推。现在，一些物理限制使实际完成的工作量小于上述理论值，^[36]但是我们知道，在一些重要的问题上，量子计算被证明比任何经典计算机都要高效。

截至2019年，拥有几十个量子比特的小型量子处理器的实验原型已经投入运行，但是没有什么有趣的计算任务可以让量子处理器的速度比经典计算机的速度更快。主要的困难是退相干，因为热噪声等过程会破坏多量子比特波函数的相干性。量子科学家希望通过引入纠错电路来解决退相干问题，从而使计算中出现的任何错误都能通过一种投票过程被快速检测和纠正。不幸的是，纠错系统需要更多的量子比特来完成同样的工作：虽然拥有几百个完美量子比特的量子计算机与现有的经典计算机相比将会非常强大，但我们可能需要几百万个纠错量子比特来真正实现这些计算。从几十个量子比特发展到几百万个量子比特，需要很多年的时间。如果我们最终能做到这一点，那将完全改变我们通过纯粹的蛮力计算来解决问题的情况。^[37]与其等待人工智能在概念上的真正进步，我们或许可以利用量子计算的原始力量绕过当前的“非智能”算法所面临的一些障碍。

计算的极限

即使在20世纪50年代，计算机也被大众媒体描述为“比爱因斯坦的头脑更快的超级大脑”。那么，我们现在终于可以说，计算机和人脑一样强大了吗？不能。我们把关注点放在原始计算能力上，完全没有抓住问题的关键。光靠速度是无法给我们带来人工智能的。在速度更快的计算机上运行糟糕的算法并不会使算法变得更优秀，这只意味着你会更快地得到错误的答案。（数据越多，错误答案出现的机会就越大！）速度更快的机器的主要作用是缩短实验时间，使研究进展更快。阻碍人工智能发展的不是硬件，而是软件。我们还不知道如何制造一台真正的智能机器，即便我们能把它造得如同宇宙那么大。

然而，假设我们成功开发出了正确的人工智能软件，那么物理学对计算机的能力还有什么限制吗？这些限制会妨碍我们拥有足够的计算能力来创造真正的人工智能吗？对第一个问题，答案是肯定的，但对第二个问题，答案是否定的。也就是说，限制是存在的，但是这些限制不可能阻止我们创造真正的人工智能。麻省理工学院的物理学家塞思·劳埃德（Seth Lloyd）基于对量子理论和熵的思考，估算了笔记本电脑的极限。^[38]这些数字甚至会让卡尔·萨根（Carl Sagan）

大吃一惊：每秒10⁵¹次运算，10³⁰字节的内存。这大约比Summit快10³³倍，内存大4万亿倍，而如前所述，Summit拥有比人脑更强大的原始计算能力。因此，如果你听到有人说，人类的思维代表了我们的宇宙在物理上可以达到的极限，^[39]那么你至少应该要求他进一步澄清。

除了物理上的限制外，计算机的能力还受到其他限制，这些限制源于计算机科学家的工作。图灵证明了有些问题是任何计算机都无法判定的：这些问题定义明确，有答案，但是不存在总能找到答案的算法。他举了一个后来被称为“停机问题”的例子：一个算法能否判定一个给定的程序是否会陷入无法结束运行的“死循环”？^[40]

图灵证明了，没有算法可以解决停机问题，^[41]这对数学基础来说是非常重要的，但它与“计算机是否可以实现智能”这个问题无关。得出这个结论的一个原因是，同样的基本限制也适用于人脑。一旦你开始要求人脑进行精确的自我模拟、自我模拟、自我模拟……你就一定会遇到困难。就我个人而言，我非常确信自己无法做到这一点。

因此，专注于可判定的问题并没有对人工智能施加任何真正的限制。然而事实证明，可判定并不意味着容易。计算机科学家花费大量时间思考问题的复杂性，也就是思考，用最有效的方法解决一个问题需要多少计算量。这里举一个简单的例子：给定一个包含1 000个数字的列表，要求找出其中最大的数字。如果检查每个数字需要一秒钟，那么通过依次检查每个数字并跟踪最大的数字这种显而易见的方法来解决这个问题就需要1 000秒。有没有更快的方法？没有，因为如果一种方法没有检查列表中的某个数字，而这个数字有可能是最大的，那么这种方法就失败了。因此，找到最大数字所需的时间与列表的大小成正比。计算机科学家会说这个问题具有线性复杂度——这意味着它非常容易，然后科学家会去寻找更有趣的课题。

让理论计算机科学家感到兴奋的是，在最坏的情况下，许多问题具有指数复杂度。^[42]这意味着两点：第一，我们所知道的所有算法都需要指数时间，即解决某些问题所需要的时间根据输入资料的大小而呈指数级增长；第二，理论计算机科学家非常确定不存在更有效的算法。

难度的指数级增长意味着问题在理论上或许是可解决的（也就是说，它们肯定是可判定的），但有时在实践中无法解决，我们称这些问题为难解问题。例如，判定给定地图是否可以仅用三种颜色着色，使得任意两个相邻区域都是不同的颜色。（众所周知，用四种不同的颜色着色总是可能的。）在100万个区域中，可能存在一些情况（不是所有情况，而是某些情况）需要大约2¹ ⁰⁰⁰个计算步骤才能找到答案，这意味着在Summit超级计算机上运行这些计算大约需要10²⁷⁵年，在塞思·劳埃德的终极物理笔记本电脑上需要10²⁴²年。而宇宙的年龄大约是10¹⁰年，这与前两者相比只是弹指一瞬。

这些难解问题的存在，是否让我们有理由认为计算机不能像人类那样智能？答案是否定的，我们也没有理由认为人类能解决难解问题。量子计算有所帮助（无论是在机器中还是在大脑中），但不足以改变基本结论。

复杂性意味着现实世界的决策问题——在人生的每一刻决定现在做什么的问题，是非常难的，所以人类和计算机都无法找到完美的解决方案。

这会产生两个后果：首先，我们预计，在大多数情况下，现实世界的决策充其量只能算是勉强过得去，远谈不上最优；其次，我们预计人类和计算机的许多“思维体系结构”——其决策过程的实际运作方式，将被设计成尽可能地克服复杂性，也就是说，虽然世界极其复杂，但我们仍有可能找到一些还算过得去的答案。总之，无论未来的机器有多智能、多强大，我们都预计上述两点仍然是正确的。机器的能力可能比我们强大得多，但仍远非绝对理性。

智能计算机

亚里士多德等人对逻辑的研究，为理性思维提供了精确的规则，但我们不知道亚里士多德是否曾考虑过让机器实现这些规则的可能性。13世纪，颇有影响力的加泰罗尼亚哲学家、神秘主义者拉蒙·鲁尔（Ramon Llull）更接近这一目标，他制造出了刻有符号的纸轮，可以用一系列符号表示声明或陈述。17世纪伟大的法国数学家布莱兹·帕斯卡是第一个研制出真正实用的机械计算器的人。虽然这个计算器只会计算加减法，主要是他父亲在税收办公室使用，但它启发帕斯卡写道：“计算器产生的效果似乎比动物的一切行为都更接近于思想。”

19世纪，科技取得了巨大的飞跃，英国数学家、发明家查尔斯·巴贝奇（Charles Babbage）设计了分析机，后来图灵将这种机器定义为可编程通用计算机。巴贝奇的工作得到了浪漫主义诗人、冒险家拜伦勋爵的女儿艾达·洛夫莱斯伯爵夫人（Ada Lovelace）的帮助。巴贝奇希望用分析机来计算精确的数学表和天文表，而洛夫莱斯理解了分析机的真正潜力，^[43]并在1842年将其描述为“一种会思考的……或一台会推理的机器”，可以推理“宇宙中的所有问题”。因此，创建人工智能的基本概念元素已经就位！从这一点来看，攻克人工智能无疑只是时间问题……

不幸的是，在很长一段时间里，分析机从未被制造出来，洛夫莱斯的想法也基本上被人们遗忘了。在1936年图灵的理论工作和随后的第二次世界大战的推动下，通用计算机器终于在20世纪40年代成为现实，有关创造智能的想法随即出现。图灵在1950年发表的论文《计算机器与智能》^[44]是许多关于智能机器可能性的早期作品中最著名的一篇。怀疑者已经断言，机器永远不可能做到你能想到的几乎一切事情，图灵驳斥了这些断言。他还提出了一种针对智能的操作测试，叫作“模仿游戏”，后来被简称为“图灵测试”。这项测试衡量的是机器的行为，具体而言，就是机器欺骗人类审问者的能力，机器会试图让审问者以为跟他们对话的机器是人类。

模仿游戏在图灵的论文中扮演了特殊的角色，这是一个反驳那些怀疑者的思想实验，怀疑者认为机器不能出于正确的理由，以正确的方式，用正确的意识来思考。图灵希望把争论引向一个问题：机器是否能以某种特定方式运行？如果它真的可以，比如说，它能够理智地谈论莎士比亚的十四行诗及其含义，那么人们对人工智能的怀疑就无法真正持续下去。与通常的解释相反，我怀疑这项测试是为了给智能下一个真正的定义，即当且仅当机器通过图灵测试时，它才是智能的。事实上，图灵写道：“难道机器不能完成一些应该被描述为思考的行为，但与人类思考的行为有很大不同的事情吗？”人们没有将这项测试视为“给人工智能下定义”的一个原因是，它是一个糟糕的定义。因此，主流人工智能研究人员几乎没有为了通过图灵测试而付出任何努力。

图灵测试对人工智能没有什么用处，因为它下的是一个非正式的、高度偶然的定义：它取决于人类思维极其复杂和在很大程度上未知的特征，这些特征来自生物学和文化。人们没有办法拆解定义，并根据它创建可以被证明通过测试的机器。相反，人工智能专注于理性行为，正如前面所描述的那样：一台机器之所以是智能的，是因为根据它的感知，它所做的事情有望实现它的目标。

最初，像亚里士多德一样，人工智能研究人员用是否实现一个目标来确定“它的需求”。这些目标可以在玩具世界中实现，比如“十五拼图”，该玩具的目标是将编号为1到15的乱序的拼块按顺序排列在一个小正方形托盘中（可以是模拟的，也可以是真实的拼块和托盘）；20世纪70年代初，加州斯坦福研究所的Shakey机器人可以将大块积木推到理想的位置，而爱丁堡大学的Freddy机器人可以将木船的零部件组装起来。所有这些工作都是通过有逻辑性的问题解决程序和规划系统来构建和执行有保证的计划，从而实现目标的。^[45]

到了20世纪80年代，很明显，仅靠逻辑推理是不够的，没有任何计划能保证一定让你赶上飞机。逻辑需要确定性，而现实世界根本不提供确定性。与此同时，2011年的图灵奖得主、以色列裔美国计算机科学家朱迪亚·珀尔（Judea Pearl）一直在研究基于概率论的不确定性推理方法。^[46]人工智能研究人员逐渐接受了珀尔的想法，他们采用了概率论和效用理论的工具，从而将人工智能与统计学、控制理论、经济学和运筹学等其他领域联系起来。这一变化标志着一些观察家所说的“现代人工智能”的开始。

智能体和环境

现代人工智能的核心概念是智能体，即能感知和行动的东西。智能体是随着时间的推移而发生的过程，从这个意义上讲，它是一个感知输入流被转换成一个动作流的过程。例如，假设这个智能体是一辆带我去机场的无人驾驶出租车。它的输入可能来自以每秒30帧的速度运行的8台RGB（色彩模式）摄像机，每帧图像大约由750万像素组成，每个像素都有3个彩色通道的图像强度值，输入总共超过每秒5千兆字节数据。（来自视网膜上2亿个感光细胞的数据流甚至更大，这在一定程度上解释了为什么视觉信息占据了人脑的很大一部分。）这辆出租车每秒还能从加速度计和GPS（全球定位系统）的数据中获得100次数据。数十亿个晶体管（或神经元）的庞大计算能力将这些令人难以置信的原始数据转化为流畅、有效的驾驶行为。出租车的动作包括以每秒20次的速度向方向盘、刹车和油门发送电子信号。（对有经验的人类司机而言，这些混乱的动作大多是无意识的，他可能只知道做出了决定，如“超车”或“停车加油”，但他的眼睛、大脑、神经和肌肉仍然在做其他事情。）对国际象棋程序而言，输入大多只是时钟的计时数，它偶尔会收到对手走子和新的棋局开始的通知，而当程序思考时，其动作大多是什么也不做，偶尔选择走一步棋并通知对手。对于个人数字助理，如Siri（苹果语音助手）或Cortana（微软人工智能助理），输入不仅有来自麦克风的声音信号（每秒采样4.8万次）和来自触摸屏的信号，还有它访问的每个网页的内容，而动作则包括讲话和把材料显示在屏幕上。