人工智能时代：破解人机共存密码（套装共10册）

当你走进死胡同时，你最好掉头返回，找出走错的地方。我认为人工智能的标准模型，即机器优化人类提供的固定目标，是一条死胡同。问题不在于我们可能无法做好构建人工智能系统的工作，而在于我们可能太“成功”了。目前人工智能领域对“成功”的定义是错误的。

所以，让我们一直回溯到起点，试着理解“智能”的概念是如何产生的，以及这个概念是如何被应用到机器中的。然后我们就有可能对“好的人工智能系统”给出更好的定义。

智能

宇宙是如何运行的？生命是如何开始的？我的钥匙放在哪里了？这些都是值得思考的基本问题。但是，是谁在问这些问题？我又如何回答这些问题？我们称之为“大脑”的那一小堆几磅重的粉灰色胶状混合物是如何感知、理解、预测和操纵一个难以想象的浩瀚世界的？不久，意识开始审视自身。

几千年来，我们一直试图理解人类的大脑是如何工作的。最初的研究目标包括理解好奇心、自我管理、说服力，以及分析数学参数这种相当务实的目标。然而，我们朝着解释大脑如何工作迈出的每一步，也同时是迈向在人工制品中创造大脑能力的一步，即迈向人工智能的一步。

在我们理解如何创造智能之前，我们要先理解智能是什么。答案不在智商测试中，甚至不在图灵测试中，而是在我们的感知、我们的需求和我们所做的事情这三者之间的简单关系中。粗略地讲，如果一个实体是智能的，它就会根据它的感知来做事情，而它所做的事情是为了满足它的需求。

进化的起源

我们来看一种低等细菌，例如大肠杆菌。它大约有6根鞭毛，即形如发丝的触须，鞭毛在底部顺时针或逆时针旋转。（旋转马达本身是件了不起的东西，但那是另外一回事。）当大肠杆菌在它的液体家园——你的小肠中漂浮时，它会顺时针旋转鞭毛，使其“翻滚”到位，也会逆时针旋转鞭毛，使鞭毛缠绕在一起形成“推进器”，从而让细菌可以沿直线游动。因此，大肠杆菌会随机游走——游泳、翻滚、游泳、翻滚，这使得它能够找到并消耗葡萄糖，而不是待在原地饿死。

如果这就是全部情况，那么我们不会说大肠杆菌特别智能，因为它的动作不会以任何方式依赖于它的环境。它不会做任何决定，只是执行一种固定的行为，进化将这种行为植入了它的基因，但这并不是全部。当大肠杆菌感知到葡萄糖浓度升高时，它游动的距离会更长，翻滚也会更少，而当它感知到葡萄糖浓度降低时，它的反应则正好相反。所以，根据它感知到的情况（葡萄糖浓度不断升高），它所做的事情（游向葡萄糖）很可能满足它的需求（得到更多的葡萄糖）。

也许你在想：“但是进化也把这些植入了它的基因！这怎么能说是智能呢？”这种推理方式是危险的，因为进化也将你大脑的基本设计植入了你的基因，想必你不会希望在此基础上否认自己的智能。关键是，进化在大肠杆菌的基因中所建立的机制，就像在你的基因中所建立的机制一样。通过这种机制，细菌的行为会随着它对环境的感知而变化。进化事先不知道葡萄糖在哪里，也不知道你的钥匙在哪里，所以把找到葡萄糖和钥匙的能力放到生物体中，简直近乎完美。

大肠杆菌并非有多么强大的智能。据我们所知，它不记得它去过哪里，所以如果它从A点游到B点而没找到葡萄糖，此时它有可能回到A点。如果我们构建一个环境，在这个环境中，每一个有吸引力的葡萄糖浓度梯度都会将大肠杆菌引向苯酚（苯酚对它而言是一种毒药），那么它也会继续沿着这些浓度梯度前进。它从不学习，也没有大脑，只通过一些简单的化学反应来完成这项工作。

动作电位向前迈出了一大步。这是一种电信号，大约10亿年前首次在单细胞生物体内进化出来。后来，多细胞生物进化出一种叫作神经元的特殊细胞，这些细胞利用动作电位在生物体内快速传递信号，速度高达每秒120米（即每小时270英里^[1]）。神经元之间的连接叫作突触。突触连接的强度决定了有多少电刺激从一个神经元传递到另一个神经元。动物通过改变突触连接的强度来学习。^[2]学习带来了巨大的进化优势，因为动物可以适应各种环境。学习也加快了进化本身的速度。

最初，神经元形成了神经网络，这些神经网络分布在整个生物体中，用于协调各种活动，如进食与消化，以及肌肉细胞在大范围内的定时收缩。水母之所以能优雅地推进是因为它们拥有神经网络，但水母根本没有大脑。

大脑以及眼睛和耳朵等复杂的感觉器官是后来才出现的。在水母和它们的神经网络出现几亿年后，我们人类带着我们由千亿个（10¹¹）神经元和千万亿（10¹⁵）个突触组成的巨大的大脑来到了这个世界。大脑中每个状态转换的“周期时间”只有几毫秒，虽然比电子电路速度慢，但是比大多数生物过程快得多。人类的大脑经常被它的主人描述为“宇宙中最复杂的物体”，这可能并非事实，却是一个很好的借口，因为我们仍然对大脑的工作原理知之甚少。虽然我们对神经元和突触的生物化学知识以及大脑的解剖结构了解很多，但是认知水平的神经实现——学习、认知、记忆、推理、计划、决定等，对绝大多数人而言仍然是猜想。^[3]（也许随着我们对人工智能的了解越来越多，或者随着我们开发出越来越精确的工具来测量大脑活动，这种情况会有所改变。）因此，当人们在媒体上读到某人工智能技术“像人脑一样工作”时，人们可能会怀疑它要么只是某人的猜想，要么纯属虚构。

在意识领域，我们确实一无所知，所以我不会谈及该领域的内容。人工智能领域没有人致力于让机器拥有意识，也没有人知道从哪里开始，而且没有任何行为是以意识为前提的。假设我给你一个程序，问你，它是否对人类构成威胁，你分析代码，发现代码在运行时会形成并执行一个计划，其结果将是毁灭人类，就像国际象棋程序会形成并执行一个计划，其结果将是战胜一切对手一样。现在假设我告诉你，代码运行时也会产生一种机器意识，这会改变你的预测吗？完全不会，这没什么区别。^[4]你对其行为的预测是完全相同的，因为预测是基于代码的。所有关于机器神秘地变得有意识并憎恨人类的那些好莱坞电影情节其实都没有抓住要点——重要的是能力，而不是意识。

我们才刚刚开始了解大脑的一个重要的认知方面——奖励系统（reward system）。这是一个由多巴胺介导的内部信号系统，它将积极的和消极的刺激与行为联系起来。它的工作原理是由瑞典神经学家尼尔斯·奥克·希拉普（Nils-Åke Hillarp）和他的合作者在20世纪50年代末发现的。这个系统让我们寻求积极的刺激，如甜食，以提高多巴胺水平；它让我们避免消极的刺激，如饥饿和疼痛，因为这会降低多巴胺水平。从某种意义上讲，它与大肠杆菌寻找葡萄糖的机制非常相似，但要复杂得多。它有内置的学习方法，因此随着时间的推移，我们的行为在获得奖励方面会变得更加高效。它还允许延迟满足，因此我们学会了渴求那些能提供最终回报而不是即时回报的东西，比如金钱。我们去理解大脑奖励系统的一个原因是，它类似于人工智能领域开发的强化学习方法，对此我们有非常坚实的理论基础。[5]

从进化的角度看，我们可以认为大脑的奖励系统就像大肠杆菌寻找葡萄糖的机制一样，是提高进化适应性的一种方式。在寻求奖励方面更高效的生物体（例如寻找美味的食物、避免疼痛、进行性爱活动等）更有可能延续它们的基因。从长远来看，生物体很难判断哪些行为最有可能让其基因成功延续，因此进化为我们提供了内置的路标，让我们更容易做到这一点。

然而，这些路标并不完美。某些获得奖励的方法可能会降低一个人基因延续的可能性，例如吸毒、饮用大量含糖碳酸饮料、每天玩18个小时的电子游戏等，这些似乎都不利于繁衍。此外，如果直接用电流刺激你的奖励系统，你可能会不停地进行自我刺激，直到死去。[6]

奖励信号和进化适应性之间的不一致并不只影响孤立的个体。在巴拿马海岸附近的一个小岛上，生活着侏三趾树懒。它对红树林叶子中的安定类物质上瘾，并可能因此灭绝。^[7]因此，如果一个物种找到了一个生态位，但这个生态位满足其奖励系统的方式不利于进化适应性，那么这个物种就可能会灭绝。

然而，除了这种意外的失败，生物体学习在自然环境中将奖励最大化，通常会提高它们延续自己的基因和在环境变化中生存下来的机会。

进化的加速器

学习不仅对生存和繁衍有好处，还加速了进化。这怎么可能？毕竟，学习不会改变一个人的DNA（脱氧核糖核酸），而进化则是一代又一代地改变DNA。学习和进化之间的联系是由美国心理学家詹姆斯·鲍德温（James Baldwin） ^[8] 和英国生态学家康威·劳埃德·摩根（Conwy Lloyd Morgan） ^[9] 在1896年分别提出的，但当时并未被人们普遍接受。

正如我们现在所知道的，鲍德温效应可以这样来理解：进化可以选择创造一种依靠本能生存的生物体，或者创造一种依靠适应性生存的生物体，前者的每一个反应都是预先确定的，而后者则可以通过学习来确定采取何种行动。现在，为了便于说明，假设最优的依靠本能生存的生物体可以编码为一个六位数，例如472 116，而对于依靠适应性生存的生物体，进化只指定了472 ×××，生物体自身必须在其一生中通过学习来填充后三位数。显然，如果进化只需要选择前三位数，那么它的工作就简单多了。学习后三位数的过程让依靠适应性生存的生物体在其一生中完成了进化需要很多代才能完成的工作。因此，如果依靠适应性生存的生物体能够在学习中生存，那么学习能力就构成了进化的捷径。计算模拟表明鲍德温效应是真实存在的。^[10]文化的影响只会加速这一过程，因为有组织的文明不仅会在个体生物体进行学习的时候保护它，还会传递个体本来需要自己学习的信息。

鲍德温效应的故事引人入胜，但并不完整：它假设学习和进化必然指向同一方向，也就是说，它假设无论哪种内部反馈信号定义了生物体学习的方向，这种信号都与进化适应性完全一致。正如我们在侏三趾树懒的例子中所看到的那样，这并不是事实。内置的学习机制充其量只能粗略暗示特定行为在长期进化适应中产生的结果。此外，人们不得不问：“奖励系统最初是如何实现的？”答案当然是通过进化的过程实现的，奖励系统内化了某种反馈机制，这种反馈机制至少在某种程度上与进化适应性是一致的。^[11]显然，如果有一种导致生物体逃离潜在配偶、奔向捕食者的学习机制，那么它不会持续很久。

因此，我们拥有鲍德温效应要感谢一个事实：神经元具有学习和解决问题的能力，这在动物王国中非常常见。与此同时，重要的是你要明白，进化并不真的在乎你是否拥有大脑或是否可以产生有趣的想法。进化只把你当作一个智能体（agent），即某种会行动的东西。逻辑推理、有目的的计划、智慧、机智、想象力和创造力等有价值的智力特征，可能是使智能体变聪明的必要条件，也可能不是。人工智能如此引人入胜的一个原因是，它为理解这些问题提供了一条潜在的途径：我们可能会理解这些智力特征如何使智能行为成为可能，以及为什么没有它们就不可能产生真正的智能行为。

一个人的理性

从古希腊哲学的早期开始，智能的概念就与感知、推理和成功行动的能力联系在一起。^[12]几个世纪以来，这个概念的适用性越来越广，定义也越来越精确。

亚里士多德等人研究了成功地进行推理的构想——逻辑推理法，即在给出真实前提的情况下，人们通过逻辑推理可以得出真实的结论。他还研究了人们决定如何行动的过程，这个过程有时被称为实践推理，他提出，这一过程包括推断某一行动是否会实现预期目标：

我们考虑的不是结果，而是方法。医生不考虑是否应该治愈病人，演说家也不考虑是否应该游说……他们设定该目标，并考虑如何达到该目标，用什么方法达到该目标，是否可以容易且完美地达到该目标。然而，如果只能通过一种方法来实现该目标，那么他们就只考虑如何通过这种方法实现，以及这种方法要如何实现，直到他们找到第一个目标……分析序列中的最后一个成了实际序列中的第一个。如果我们遇到了不可能的情况，我们就放弃寻找，例如，如果我们需要钱却没有钱，我们就会放弃，但如果一件事看起来是可能的，我们就会去尝试。^[13]

有人可能会说，这篇文章为其后两千多年的西方理性思想定下了基调。文章中说，“目标”，即人们想要的东西，是固定不变的；文章又说，理性行为是根据一系列行为的逻辑演绎，“容易且完美”地达到目标。

亚里士多德的建议似乎是合理的，但这并不是关于理性行为的完整指南。特别是，他忽略了不确定性的问题。在现实世界中，现实有干预的倾向，很少有某个行动或一系列行动一定能真正达到预期目的。例如，在我写这句话的时候，巴黎是一个下雨的星期天。下星期二下午2点15分，我飞往罗马的航班将从戴高乐机场起飞，机场离我家大约45分钟的路程。我计划上午11点半左右出发去机场，这应该留出了足够的时间，但这可能意味着我至少要在候机厅坐一个小时。我肯定能赶上飞机吗？未必。因为我可能会遇到严重的交通堵塞，出租车司机可能会罢工，我乘坐的出租车可能会抛锚，司机可能会在高速公路上因超速被逮捕等。而我也可以提前一天，星期一去机场。这将大大降低错过航班的概率，但在候机厅过夜并不是一个好主意。换言之，我的计划要在“成功地赶上飞机”这一确定性和“为确保这一确定性所付出的成本”之间进行权衡。下面这个购房计划涉及一个类似的权衡：买张彩票，赢100万美元，然后买房子。这个“容易且完美”的计划可以被看作目标，但它不太可能实现。然而，这个轻率的购房计划与我冷静理智的机场计划之间的区别，只是确定性程度上的不同而已。二者都是赌博，但后一个似乎比前一个更理性。