生命3.0：人工智能时代，人类的进化与重生

由于在体内进行通信的速度又慢、成本又高，我预计，高级的未来宇宙生命会像前文所说的那样，将计算尽可能地“局部化”。如果一个计算过程对于一台1千克重的计算机来说十分简单，那么，让星系尺寸的计算机来做这件事是十分低效的。因为每个计算步骤都要等信息在不同部位之间进行分享，即使以光速传播，每一步也会造成10万年的滞后，这实在太荒谬了。

未来的这种信息处理方式是否会产生出拥有主观体验的意识呢？如果是，哪些部分会产生？这个问题极富争议，我们将在下一章进行探讨。如果意识的产生需要一个系统的不同部位，才能互相交流，那么，越大的系统，其思维过程就必然会越慢。你或者地球大小的未来超级计算机每秒钟都可能产生许多想法，但是，一个星系大小的智能每10万年只能产生一个想法，而一个宇宙级别的智能（尺寸达到几十亿光年）在暗能量将其分割成各不相连的碎片之前，只有足够的时间来产生10个想法，但这凤毛麟角的想法和伴随而来的体验却可能是非常深邃的。

控制等级，是去中心化还是高度集权

如果思想本身就是组织成等级结构的，并且跨越了很广的范围，那权力呢？在第4章，我们探讨了智能实体如何自然而然地自我组织成纳什均衡的权力等级结构。在这个结构中，任何一个实体如果改变自己的策略，它的境况就会变差。通信和交通技术越发达，这些等级结构就会越大。如果有一天，超级智能扩张到宇宙尺度，它的权力结构会是什么样的？它会是随心所欲和去中心化的，还是高度极权主义的？它们的合作主要是基于共同利益，还是强迫和威胁？

为了探讨这些问题，让我们把胡萝卜和大棒都考虑进去：要在宇宙尺度上进行合作，可能有哪些自发的动机？又有哪些威胁可能被用来达成强迫性合作？

用胡萝卜来控制

在地球上，贸易通常是合作的一种传统驱动力，因为一个人想要生产出地球上各式各样的商品是很困难的。如果在某一个地区，采集1千克银矿的成本是采集1千克铜矿的300倍，而在另一个地区，前者只有后者的100倍，那么，两个地方出产的银矿价格都会是铜矿的200倍。如果某个地区的技术水平比另一个地区高出很多，那么，当二者用高科技产品和原材料进行交易时，双方都会获益。

然而，如果超级智能开发的技术可以很容易地将基本粒子重新排列成任何形式的物体，那么，这将打消长途贸易的大部分动机。假如你可以更加简单快捷地用“重排粒子”的方法把铜变成银，那为什么还要在遥远的恒星系之间运送铜矿和银矿呢？如果两个星系的人都知道如何建造一种高科技产品，也都拥有所需的原材料（任何材料都可以），为何还要在星系间运送这种产品呢？我猜，在一个充满超级智能的宇宙中，只有一种商品值得远距离运送，那就是信息。唯一的例外可能是用于宇宙工程的物质，比如用来抵消前文提到的暗能量对文明的破坏的物质。但是，与传统的人类贸易不同，这种物质能以任何方便的散装形式运输，甚至能以能量束的方式进行运输，因为接收方的超级智能可以迅速地将其重新排列成它们想要的任何物体。

如果分享或交换信息成为宇宙合作的主要驱动力，那么，可能是什么信息呢？如果一个信息的产生需要消耗大量计算资源，那这个信息就是有价值的。比如，一个超级智能或许很想知道关于物理实在的科学难题、关于定理和最优算法的数学难题和建造惊人科技的工程难题的答案。享乐主义的生命形式可能会很想要数字化娱乐产品和模拟体验。宇宙商业的发展可能会推动对某种宇宙级加密货币的需求，就像比特币那样。

这种分享机会不仅可以促进同等权力水平的实体之间的信息流动，还会促进上下等级之间的信息交流，比如，太阳系大小的节点与星系枢纽之间，以及星系大小的节点与宇宙枢纽之间的信息流动。这些节点想要这些信息，可能是为了获得身为更庞大之物的一部分的愉悦感，也可能是为了它们自己无法开发的技术和自己无法找到的答案，也可能是为了抵御外来的侵略和威胁。它们可能会认为，通过备份的方式来接近永生是有价值的，就像许多人类相信他们的灵魂在肉身死后会永远不朽一样。一个高级人工智能也可能想要在它的原始物质形态硬盘耗尽自己的能量储备之后，把自己的智能和知识上传到一个枢纽的超级计算机上，永远活下去。

相比之下，枢纽可能想要这些节点来帮助它进行不那么迫切的超长周期的计算任务，所以，等待数千年甚至数百万年也是值得的。正如我们前文探讨的那样，枢纽或许也想要它的节点帮助它进行大规模的宇宙工程项目，比如，将星系的质量中心搬运到一起，从而对抗破坏性的暗能量。如果可穿越虫洞在理论上是可行的，在工程上也可建成，那么，枢纽的首要任务可能就是建造一个虫洞网络，以此来对抗暗能量，并把它庞大的帝国永远连接在一起。一个宇宙级别的超级智能体可能拥有什么样的终极目标呢？我们将在第7章探讨这个迷人而富有争议的问题。

用大棒来控制

地球上的帝国通常会同时使用胡萝卜和大棒来强迫附属国进行合作。虽然罗马帝国的附属国珍视罗马帝国提供的技术、基础设施和防御能力（罗马帝国用这些作为合作的奖励），但他们也担心反叛或不交税带来的不可避免的可怕后果。由于从罗马派出军队到外省的时间太长了，这种威慑一部分是由当地的军队和忠诚的官员来维持的，因为他们有权立即执行惩罚。一个超级智能的枢纽也可能采用同样的策略，即在它的宇宙帝国的各处布置一个由忠诚守卫组成的网络。由于超级智能的“下属”可能很难控制，最简单有效的策略就是使用忠诚度设置为

100%的人工智能守卫。如此高的忠诚度会导致一定程度的愚钝。这样的人工智能监控着所有规则的执行情况，如果有违反者，就自动触发世界末日装置。

假设一个枢纽人工智能想控制一个太阳系大小的文明，于是它将一个白矮星放到了这个文明附近。白矮星是中等质量的恒星燃尽后剩下的壳，主要由碳元素组成，就像夜空中一颗巨大的钻石。白矮星被压缩得极其稠密，虽然体积比地球小，但质量却比太阳还大。印度物理学家苏布拉马尼扬·钱德拉塞卡（Subrahmanyan Chandrasekhar）有一个著名的证明：如果你往白矮星中添加质量，直到超过钱德拉塞卡极限（Chandrasekhar Limit），也就是太阳质量的1.4倍，那它就会经历一次灾难式的热核爆炸，称为1A型超新星爆炸。如果这个枢纽人工智能冷酷地将这颗白矮星的质量设置为接近钱德拉塞卡极限，那么，守卫人工智能的管理工作就会非常高效，即使它极端愚笨。事实上，守卫人工智能高效的原因正是因为它很愚笨，它的任务是核实这个被征服的文明每个月是否按时缴纳了定额的宇宙比特币，以及其他规定的赋税。如果没有，它就会向白矮星中扔进足够多的物质，点燃这颗超新星，摧毁整个区域，将其撕成碎片。

同样地，如果某个未来生命想控制星系大小的文明，也可以将大量致密物质放到星系中心超级黑洞周围的轨道上，并威胁说你可以通过碰撞等方式把这些物质转化成气体，一旦转化为了气体，它们就会被黑洞吞噬，将其转化为强大的类星体，可能会让整个星系变得不宜居。

总而言之，未来生命有很强的动机在宇宙尺度上进行合作，但是，这种合作是基于共同利益还是粗暴的威胁，我们并不确定，二者似乎都没有违背物理定律，结果可能取决于当时流行什么样的目标和价值观。我们将在第7章探讨我们能否影响未来生命的目标和价值观。

当文明发生冲突

目前，我们已经讨论了宇宙生命发生单次智能爆炸的情形。但是，如果生命在宇宙的不同区域独立进化出了文明，那么，两个正在扩张的文明彼此相遇时会发生什么事呢？

如果我们考虑一个随机的恒星系，其中一颗行星上可能会进化出生命，它们会开发出先进的技术并殖民太空。这个概率应该大于零，因为我们太阳系中的生命（人类）的科技已经发展到了这种程度，并且物理定律似乎并不禁止殖民太空。如果宇宙空间足够大（事实上，宇宙暴胀理论认为它是巨大或是无限的），那么，将会出现许多这样不断扩张的文明，如图6-10所示。我们前文提到的杰伊·奥尔森的论文对这种不断扩张的宇宙生物圈进行了一次很棒的分析，而托比·奥德（TobyOrd）则与人类未来研究所的同事们进行了类似的分析。从三维空间来看，只要文明在各个方向上都以相同的速度扩张，那这些宇宙生物圈就是球形的区域。在时空中，它们看起来就像图6-7中“香槟酒杯”的上半部分，因为暗能量限制了每个文明最终可到达的星系数量。

图6-10 宇宙中可能扩张的不同文明

注：如果时空（时间与空间）的多个点都独立进化出了生命，并开始殖民太空，那么太空中将包含一个不断膨胀的宇宙生物圈网络，每个生物圈都像图6-7中“香槟酒杯”的上半部分一样。每个生物圈的底部代表殖民开始的地点和时间，不透明和半透明的“香槟酒杯”分别表示殖民速度为光速的50%和100%，重叠部分表示独立文明相遇的地方。

如果相邻的太空殖民文明之间的距离实在太远了，超过了暗能量允许它们扩张的宽度，那么它们就无法互相接触，甚至不知道彼此的存在，所以它们会觉得自己的文明在宇宙中是孤独的。然而，假如我们的宇宙更多产一些，那相邻的太空殖民文明之间的距离就会更加靠近，那么，一些文明的领土最终会重叠。这些重叠区域内会发生什么呢？是合作、竞争还是战争？

欧洲人之所以能够征服非洲和美洲，因为他们的技术更强。但是，也有可能早在两个超级智能文明相遇之前，它们的技术都会达到同一个稳定的水平，只受到物理定律的限制。这意味着任意一个超级智能想要征服对方似乎都不容易。而且，如果它们的目标比较一致，那就没有理由去征服对方或发动战争，比如，它们都想要证明尽可能多的美丽定理，或者发明一些尽可能巧妙的算法，那它们何不彼此分享自己的发现，这样双方都会变得更好。毕竟，信息与人类过去抢夺的资源是截然不同的，因为你把它们送给别人的同时，自己还可以保留一份。

一些扩张的文明的目标可能本质上是不可改变的，就像四处传播的病毒一样。但是，也有可能存在一些像人类一样开明的先进文明，当它们觉得理由充分时，会愿意调整自己的目标。当两个这样的文明相遇时，它们的冲突就不会是武装冲突，而是思想冲突，其中更有说服力的一方就能获胜，并让它的目标以光速在其他文明控制的区域内传播。“同化邻居”的扩张策略比殖民更快，因为你的“影响力”扩张的速度就等于思想扩张的速度（光速通信），而物理形态的殖民速度肯定比光速更慢。这种同化过程不是被迫的，不像博格人在《星际迷航》中那种臭名昭著的做法，而是基于更具有说服力的思想，这让同化策略显得更为合理了。

我们已经看到，未来的宇宙可能包含两种迅速膨胀的泡泡：第一种是扩张的文明，第二种是以光速膨胀的死亡泡泡，后者将毁灭所有的基本粒子，让空间变得不适宜居住。因此，一个雄心勃勃的文明可能会遇到三种区域：无人居住的区域、有生命的泡泡以及死亡泡泡。如果它担心遇到不合作的竞争文明，那它就有强烈的动机采取“抢地”策略，也就是在对手到达之前占领所有无人居住的区域。然而，即便没有其他文明，它的扩张动机也同样强烈，因为它需要在暗能量毁掉一切之前抢夺资源。我们刚刚已经看到，遭遇另一个扩张的文明与遭遇无人居住的区域相比，可能更好，也可能更坏，结果完全取决于这个邻居文明的合作程度和开明程度有多高。然而，无论如何，遭遇一个扩张文明都远远好过遭遇一个死亡泡泡，即便那个文明想把你的文明变成回形针，因为无论你如何殊死抵抗，死亡泡泡都会摧枯拉朽地以光速膨胀。我们对抗死亡泡泡的唯一武器正是将我们与遥远星系拉扯开来的暗能量。所以，如果死亡泡泡在宇宙中普遍存在，那么，暗能量就不是我们的敌人，而是我们的朋友。

我们孤独吗

许多人相信，在宇宙中的大部分区域内，理所当然存在着高级生命，所以，即使人类灭绝了，从整个宇宙的角度来看也没有关系。毕竟，如果在人类灭绝后，某些类似《星际迷航》那样振奋人心的文明很快就会到达，并重新为太阳系植入生命的种子，可能还会用它们先进的技术重造或者复活人类，那我们为什么要担心不小心把人类从地球表面抹去呢？我认为，这种《星际迷航》式的假设是非常危险的，因为它会带给我们一种虚假的安全感，让我们的文明变得冷漠无情、鲁莽大意和不计后果。实际上，我还认为这种“我们在宇宙中并不孤单”的假设不

仅很危险，而且是错误的。

我的观点并不是多数人的观点⁽⁶¹⁾。当然，我也有可能是错的，但这种可能性是我们目前无法完全否认的，这使得“谨慎行事、不让我们的文明灭绝”成为人类的一项伦理责任。

每当做宇宙学方面的演讲时，我总喜欢问观众一个问题：如果有人相信我们的宇宙⁽⁶²⁾中存在着其他智能生命，就请举起他们的手。不出意外，不管是幼儿园的小朋友还是大学生，几乎每个人都会举手。当我问他们原因时，大多数人都说，宇宙太大了，至少从统计学的角度来看，一定在什么地方存在着生命。让我们来仔细讨论一下这个观点，并找出它的漏洞。

其实，所有的问题都归结为一个数字：一个文明与它最近的邻居之间的典型距离（如图6-10所示）。如果这个距离比200亿光年大得多，那我们就可以说，我们在我们的宇宙中是孤独的，并且，我们永远无法接触到外星人。那么，这个数字是多大呢？我们还不知道。这意味着，我们与最近的邻居之间的距离可能是1 000……000米，其中，零的个数可能是21、22、23……100、101、102，甚至更多，但可能不会少于21，因为我们至今还没有发现任何外星人的可信证据（如图6-11所示）。我们宇宙的半径是10²⁶米，如果最近的邻居存在于这个范围内，那零的个数就不会超过26，也就是说，零的个数只能在22～26的范围内。然而，它处在这个范围内的概率相当小。这就是为什么我认为，人类在我们的宇宙中是孤独的。

注：我们孤单吗？关于生命与智能是如何进化出来的，这个问题非常不确定，因此，我们在宇宙中最近的邻居可能存在于任何地方，那么，它极有可能不存在于银河系边缘（距离我们大约10²¹米）到我们的宇宙边缘（距离我们大约10²⁶米）之间这段狭窄的距离内。如果我们的邻居存在于比这段距离近得多的地方，那么，银河系中就应该存在许多高级文明，而我们应该早就发现它们的存在了。但我们并没有发现它们，这意味着我们在宇宙中应该是孤单的。

我在《穿越平行宇宙》 (63) 一书中对这个观点进行了详细的说明，所以，在这里就不赘述了。不过，我们之所以对“邻居与我们的距离”这个问题毫无头绪，主要是因为我们不知道，某个地方出现智能生命的概率有多高。正如美国天文学家弗兰克·德雷克（Frank Drake）指出的那样，某个地方出现智能生命的概率可以用三个概率相乘得到。这三个概率分别是：出现宜居环境（比如说一颗适宜的行星）的概率、该环境中进化出生命的概率以及生命进化出智能的概率。我上研究生时，人们对这三个概率还一无所知。但在过去的20年里，人们发现了大量绕着其他恒星旋转的行星。如今看起来，宜居的行星应该很丰富，仅在银河系就可能有数十亿之众。然而，进化出生命和智能的概率却依然扑朔迷离。一些专家认为，二者中至少有一个是不可避免的，必定会发生在大多数宜居行星上，但还有一些人认为，这两件事都极其罕见，因为进化过程中至少存在一个需要天上掉馅饼的好运气才可能通过的瓶颈阶

段。一些人认为，在生命能够自我繁殖的早期，存在一些瓶颈，类似“先有鸡还是先有蛋”的问题，例如，一个现代细胞要生成一个核糖体⁽⁶⁴⁾，先得需要另一个核糖体。人们并不清楚第一个核糖体是不是由某种更简单的东西逐渐演化而来的^[10]。还有一些人认为，进化出更高级的智能也是一个瓶颈。例如，尽管恐龙统治地球长达1亿年之久，比现代人类存在的时间长1 000倍，但是进化并没有将它们推向更高的智能，更别提发明出望远镜和计算机了。

一些人反对我的观点。他们说，是啊，智能生命“可能”非常罕见，但实际上，它并不罕见，我们的银河系中就充满了主流科学家视而不见的智能生命。UFO狂热爱好者说，外星人可能已经造访过地球了。即便外星人还没有造访过地球，它们也可能存在，只不过故意躲着我们⁽⁶⁵⁾，又或者，它们并不是故意躲着我们，它们只是对我们提到过的殖民太空或大型太空工程不感兴趣而已。

当然，我们应该对这些可能性保持开放的心态，但是，由于它们缺乏众所周知的证据，我们需要严肃对待另一种可能性，那就是我们是孤独的。此外，我认为，我们不应该低估外星文明的多样性，认为它们的目标都是“躲起来不让人类发现”。我们在前文已经看到，获取资源才是一个文明的自然目标，而要让我们发现它，它只需要动用一切资源发起殖民，并大张旗鼓地吞没银河系甚至更多星系即可。银河系中有成千上万像地球一样宜居的行星，它们都比地球年老几十亿年，如果这些行星之上生活着野心勃勃的智能生命，那它们早已有充足的时间来殖民银河系了。不过目前，它们连影子都还没有呢。因此，面对这个事实，我们不能否认这个最明显的解释：生命起源需要一点随机的侥幸。因此，这些行星上可能并没有任何居民。

如果生命一点都不罕见，那我们可能很快就会见分晓。目前人类正在热切地搜寻宇宙中的类地行星，探测它们的大气中是否有生命产生的氧元素的痕迹。除了这些只寻找生命的研究，还有一些试图寻找智能生命的搜寻项目。最近，这种项目得到了很大关注，因为俄罗斯慈善家尤里·米尔纳（Yuri Milner）在这方面全额资助了一个1亿美元的项目，名为“突破聆听”（Breakthrough Listen）。