生命3.0：人工智能时代，人类的进化与重生

在搜寻高级生命的过程中，有一件很重要的事，那就是不要过于以人类为中心来解释一切，如果我们发现了一个外星文明，它很可能已经达到超级智能水平了。正如天体物理学家马丁·里斯（Martin Rees）最近在一篇文章中所说：

人类科技文明的历史是以世纪来丈量的，或许再有一两个世纪，人类就会被无机智能体赶上或者超过。接着，这些智能体就会留下来，持续进化长达数十亿年的时间。我们最有可能缩短与它之间差距的时候，就是在它准备采用有机形态的短暂期间内^[11]。

我同意杰伊·奥尔森在前文提到的那篇“殖民太空”论文中得出的结论：“我们不会认为，高级智能动用宇宙资源来占领栖息着先进人类的类地行星就是技术进步的终点。”所以，当你在想象外星人时，请不要把它们想象为长着两只胳膊和两条腿的小绿人，而要把它们想象为本章探讨过的横扫宇宙的超级智能体。

虽然我坚决支持正在进行的所有外星生命的搜寻项目，因为它们试图揭示最迷人的科学问题之一，但我暗中希望，这些项目都会失败，什么都找不到。银河系中存在大量宜居的行星，但我们却从未见过什么天外来客，这个矛盾被称为“费米悖论”（Fermi Paradox）。费米悖论意味着，可能存在一个被经济学家罗宾·汉森（Robin Hanson）称为“大筛选”（Great Filter）的机制。意思是说，在从非生命发展到殖民太空的种族的道路上，一定存在着一个进化或科技障碍。如果我们在太阳系中发现了其他独立进化出来的生命，这可能意味着原始生命并不罕见，因此，障碍可能就存在于目前的人类发展阶段之后，有可能是殖民太空不会实现，也可能是几乎所有高级文明在它们获得殖民太空的能力之前都会自我毁灭。因此，我祈祷人类在火星等地方对生命的搜寻都一无所获，因为这就符合“原始生命很罕见，所以人类很幸运”的情景，这样一来，我们就可能早已跨越了那个障碍，也就意味着我们的未来拥有非凡的潜力。

展望

目前为止，我们在这本书里探索了宇宙生命的历史，从几十亿年前最卑微的起点，到几十亿年后宏伟的未来。如果我们目前的人工智能进展会触发智能爆炸并最终让我们殖民宇宙，那这场智能爆炸就具有了宇宙级别的真正意义：数十亿年来，在这个冷漠荒芜的宇宙中，生命只激起了微乎其微的波澜，而这场爆炸突然让生命在宇宙的舞台上爆发出一个以近光速扩张、永无停歇迹象的球形冲击波，这个冲击波用生命的火花点燃了所经之路上的一切。

本书提到过的许多思想家都曾表达过这种“生命在未来的宇宙中至关重要”的乐观主义思想。科幻作家通常被认为是不切实际的浪漫主义梦想家，但我却讽刺地发现，鉴于超级智能存在的可能性，大多数与殖民太空有关的科幻和科学作品似乎反而过于悲观了。譬如说，我们已经看到，如果人类和其他智能体能以电子形式传递，那星际旅行就变得容易多了，这或许能让我们在太阳系、银河系甚至整个宇宙尺度上掌控自己的命运。

在前文中，我们已经提到了一种极有可能发生的情形，那就是：人类是我们宇宙中唯一的高科技文明。现在，让我们在本章剩下的部分探讨这种情形，以及它带来的巨大的伦理责任。这意味着，在138亿年之后，我们宇宙中的生命来到了一个岔路口，面临着一个重大的选择：要么在宇宙中繁荣昌盛，要么走向灭绝。如果我们不持续改进我们的技术，那么，问题就不是“人类是否会灭绝”，而是“人类会如何灭

绝”。小行星撞击地球、超级火山爆发、年老太阳的炽热余晖，还是别的什么大灾难（如图5-1所示），到底哪一种会先来？一旦我们消失了，弗里曼·戴森所预测的宇宙戏剧只好在没有观众的舞台上演出：除了宇宙大灾变以外，还有恒星燃尽、星系褪色和黑洞蒸发，每一个在死亡时都会发生巨大的爆炸，释放出比沙皇炸弹（有史以来最大的氢弹）还要高100万倍还多的能量。正如戴森所说：“膨胀而冰冷的宇宙会时不时被持续良久的烟花照亮。”然而，这场烟花秀沦为了一场毫无意义的浪费，因为没有人有机会欣赏它。

如果没有技术的帮助，人类的灭绝将迫在眉睫。与在宇宙亿万年的时间相比，生命的整个故事只是短短的一瞬间，虽然美丽、激情、充满意义，却由于无人欣赏和体验，终结于无尽的空虚，失去了意义。这将是一场多么巨大的浪费啊！如果我们不摒弃技术，而是选择拥抱技术，那么，我们就加大了筹码：我们既提高了生命幸存下来和继续繁荣的概率，也提高了生命以更快的速度灭绝（由于计划不周而自我毁灭，见图5-1）的概率。我认为，我们应该拥抱技术，但不应该盲目地发展，应该小心谨慎，深谋远虑，周密计划。

在经历了138亿年的宇宙历史之后，人类最终身处这个美得令人窒息的宇宙中。这个宇宙通过我们人类活了过来，并逐渐获得了自我意识。我们已经看到，生命在我们宇宙中的未来潜力远超过我们祖先最不羁的梦想，但智能生命也同样可能永远灭绝。我们宇宙中的生命会实现还是浪费它的潜力呢？这很大程度上取决于今天在世的人们在有生之年会做出什么选择。我乐观地相信，只要我们做出正确的选择，生命的未来一定会精彩万分。那么，我们到底想要什么样的目标？我们要如何实现它们？在接下来的章节里，让我们一起来探索某些最艰难的挑战，以及我们能做些什么。

本章要点

◦ 与亿万年的宇宙时间尺度相比，智能爆炸只是一瞬间的事件。在这场爆炸中，技术迅速达到一个很高的稳定水平，只受到物理定律的限制。

◦ 这个技术稳定水平远远高于今天的科技水平，能让物质释放出超过100亿倍的能量（利用夸克引擎或黑洞），让物质存储的信息量高出12～18个数量级，或者计算速度加快31～41个数量级，或者被转化为其他任何东西。

◦ 超级智能生命不仅能更加有效地利用已有的资源，还能通过光速进行宇宙殖民，以获得更多资源，从而将现有的生物圈增长约32个数量级。

暗能量限制了智能生命的宇宙扩张，但也保护它们免受远方不断扩张的死亡泡泡或敌对文明的侵害。暗能量可能会将宇宙文明分割成碎片，这个危险促使宇宙文明进行大型宇宙工程，比如建造虫洞，如果可行的话。

◦ 最有可能在宇宙尺度上分享和交易的商品是信息。

◦ 如果没有虫洞，通信速度的上限就是光速，这对宇宙文明的内部协调和控制带来了严重的挑战。一个遥远的枢纽可能会通过奖赏或威慑来促使它的超级智能节点选择合作，比如，在当地布设“守卫人工智能”，一旦节点违抗命令，就点燃一颗超新星或类星体，以毁灭节点。

◦ 两个扩张的文明相遇，可能会导致三种可能性：同化、合作或者战争。与今天的文明相比，未来的文明相遇时发生战争的可能性更小。

◦ 我们人类很可能是唯一能使可观测宇宙在未来“活过来”的生命形式。不过许多人并不认同这一点。

◦ 如果我们不改善我们的技术，问题就从“人类是否会灭绝”变成了“人类会如何灭绝”：小行星撞击地球、超级火山爆发、年老太阳的余晖以及其他大灾难，哪一个会先来？

如果我们小心谨慎地改进技术，深谋远虑、计划周全地避免陷阱，那生命就有可能在地球上，甚至地球外繁荣昌盛长达数十亿年的时间，远远超越我们的祖先最不羁的梦想。

如果选用一个词语来概括关于人工智能的最棘手的争议，那我会用这个词：目标。我们是否应赋予人工智能目标？如果是，应该赋予它什么样的目标？我们如何赋予它目标？如果人工智能变得越来越聪明，我们如何保证它继续遵守这些目标？我们能不能改变比人类还聪明的人工智能的目标？我们的终极目标是什么？这些问题不仅很难回答，而且对未来的生命至关重要。如果我们不知道自己想要什么，那我们可能无法得偿所愿；如果我们不能控制那些与我们目标不一致的机器，那事情很可能会适得其反。

目标的起源：物理学

想要弄清楚这个问题，让我们先来看看“目标”究竟起源何处。当我们环顾四周的世界时会发现，一些过程似乎是“以目标为导向”的，而另一些过程显然不是。举个例子，在足球被踢进球门从而赢得比赛的过程中，足球本身的运动看起来并不是以目标为导向的，而是对“踢”这个动作的反应，最好以牛顿运动定律来进行解释。然而，想要解释足球运动员的行为，最简单的方法并不是“原子互相推挤”的力学原理，而是“他拥有将本队比分最大化的目标”。我们知道，在早期的宇宙中，只有来回蹦跳、看起来毫无目标的粒子。那么，目标导向行为是如何从早期宇宙的物理机制中产生的呢？

有趣的是，目标导向行为可以在物理定律中找到根源，甚至会表现在与生命无关的简单过程中。如图7-1所示，如果一名救生员要营救一名溺水的游泳者，他不会直线前进，而是会沿着海滩跑一段距离，再跳进水里，略微转向，游向溺水者，这样会比直接跳进水中更快到达。我们自然而然地会将他选择的运动轨迹解释为“以目标为导向”，因为在所有可能的轨迹之中，他选择的这条运动轨迹是最优的，让他能够尽可能快地游到溺水者身边。无独有偶，光线射入水中时也会发生类似的弯折，也减少了到达目的地所花的时间。怎么会这样呢？

这种现象在物理学中被称为“费马原理”（Fermat's

principle）。这个原理是法国科学家皮埃尔·德·费马于1662年提出的，为预测光线路径提供了一种新的方法。值得注意的是，物理学家们后来发现，经典物理学中的所有定律都可以用类似的方式重新进行数学表述：大自然在可选择的所有方式中倾向于选择最优的方式，这种方式通常归结为将某些量最小化或最大化。在描述每条物理定律时，有两种在数学上等价的方法：一是描述过去如何导致了未来，二是自然界对某些东西进行优化。虽然第二种方法通常不会在基础物理课上进行讲授，因为涉及的数学更难，但我觉得它更优雅，也更深刻。如果一个人试图将某些东西最优化，比如他们的比分、财富或快乐，我们自然而然地认为，他们的行为是以目标为导向的。所以，如果大自然本身也在试图优化某些东西，那么难怪会出现以目标为导向的现象：它从一开始就“硬连”在物理定律中了。

有一个著名的量，大自然总是力争将它最大化，这个量就是熵

（entropy）。简单来说，熵是事物混乱程度的度量。热力学第二定律说，熵总是趋于增加，直到达到最大的可能值。如果暂时忽略万有引力的影响，这种最大的混乱状态被称为“热寂”（heat death）。热寂是指万事万物都会扩散成一种无聊而又完美的均质状态，没有复杂性，没有生命，也没有任何变化。比如，当你将冷牛奶倒入热咖啡中时，你杯中的饮料看起来不可逆转地朝着它的“热寂”目标迈进。不久之后，它就会变成一杯温热均匀的混合物。如果一个活的有机体死了，它的熵也会开始上升，过不了多久，它的粒子排列就会变得不那么有序。

大自然“熵增”的目标有助于解释，为什么时间似乎具有完美的方向性，使得倒播的电影看起来很不真实。如果你向地上扔了一个装满葡萄酒的酒杯，就会预料到它会在地板上破碎，从而增加全局的混乱程度（即熵）。如果你看到它由破碎状态重新组合成完好的杯子，然后完美无损地飞回你的手中（即熵减），你可能不会喝下杯中酒，因为你可能会觉得自己已经喝醉了。

当我第一次了解到我们会不可阻挡地奔向“热寂”状态时，感到非常沮丧。在这一点上，我并不孤单，热力学先驱开尔文勋爵（LordKevin）在1841年写道：“结局必定是一种普遍静止和死亡的状态。”当你意识到大自然的长远目标是将死亡和破坏最大化时，你很难找到慰藉。然而，最近的研究表明，事情并没有想象的那么糟糕。

首先，万有引力与其他所有力的表现不同，它力求实现的目标不是让我们的宇宙变得均质和无聊，而是使其更加复杂和有趣。正是引力将无聊乏味、完美均质的早期宇宙变成了今天这个充满了星系、恒星和行星的复杂而又美丽的世界。引力将冷热混合，使得允许生命茁壮成长的温度范围变得很广。我们生活在一个舒适温暖的地球上，它吸收着表面温度约为6 000℃（10 000℉）的太阳的热量，同时将废热散发到温度仅高于绝对零度3℃（5℉）的寒冷太空来降温。

其次，我在麻省理工学院的同事杰里米·英格兰（JeremyEngland）等人最近的研究成果带来了更多好消息。他们的研究表明，热力学赋予了大自然一个比“热寂”更鼓舞人心的目标。这个目标有一个令人讨厌的名字——“耗散驱动适应性效应”（dissipation-drivenadaptation）。^[1]耗散驱动适应性效应的意思是说，随机的粒子群会尽力进行自我组织，从而尽可能有效地从环境中提取能量，“耗散”意味着熵增，通常的方法是将有效能转化为热量，这个过程常伴随着有用功。譬如说，一堆暴露在阳光下的分子会随着时间的推移进行自我组织，以实现越来越有效地吸收阳光。换句话说，大自然似乎拥有“产生越来越复杂、越来越像生命的自我组织系统”的内在目标。这个目标被“硬连”到了物理定律之中。

我们如何才能将宇宙的这两种趋势（一是趋向生命，二是趋向热寂）协调起来？我们可以在量子力学奠基人之一埃尔温·薛定谔（Erwin Schrödinger）1944年的著作《生命是什么》（What'sLife?）一书中找到答案。薛定谔指出，生命系统的一个标志就是，它通过提升周围环境的熵来保持或降低自己的熵。换句话说，热力学第二定律在生命面前有一个漏洞：虽然整体的熵必须增加，但它允许某些局部区域的熵减，只要它能让其他地方增加更多的熵即可。因此，生命让环境变得更加混乱，从而维持或增加自己的复杂度。

目标的进化：生物学

我们刚刚已经看到了目标导向行为是如何从物理定律中衍生出来的：物理学赋予了粒子对自我进行组织，从而尽可能高效地从环境中提取能量的目标。有一种粒子的组织方式可以进一步实现这个目标，那就是自我复制，这样就可以产生更多能吸收能量的个体。关于这种涌现的自我复制行为，有许多已知的例子：比如，湍流中的旋涡能够进行自我复制，还有微颗粒团会“哄骗”周围的微颗粒组合成相同的团簇结构。