生命3.0：人工智能时代，人类的进化与重生

许多人可能不喜欢这种“自由主义乌托邦”的情形，因为它可能会带来一些本可以避免的苦难。由于产权是唯一神圣的原则，所以，没有什么能够阻止当今世界的一些痛苦被带入未来的人类专属区域和人机混合区域。在一部分人兴旺发达之时，其他人可能会陷入悲惨和奴役的情景之中，或者遭受暴力、恐惧、压抑或沮丧。比如，马歇尔·布莱恩在其2003年的小说《曼娜》（Manna）中描述了，在自由主义经济体系中，人工智能的进步让大多数美国人失去了工作，只能在机器人运营的社会福利房中度过单调沉闷的余生。他们就像农场中的动物一样，在富人永远看不到的地方被好好地喂养，保持着健康和安全。饮水中的避孕药物确保他们不会生孩子，所以大部分人口将被淘汰，而剩下的富人将拥有更多由机器人创造的财富。

在自由主义乌托邦的情形下，痛苦不一定只是人类的专利。如果一些机器也产生了有意识的情感体验，那它们也可能会受苦。比如，一个怀恨在心的精神病患者可能会以合法的方式将仇人的副本上传到计算机中，并在虚拟世界中向他施以最可怕的折磨，这样带来的痛苦程度和持续时间将远远超出现实世界中的生物可能遭受的程度。

善意的“独裁者”

现在，让我们来探讨一下另一种情景。在这种情景中，上面所说的所有痛苦都不复存在，因为有一个仁慈善良的超级智能体在掌管着世界。它执行着严格的规则，旨在将它的“人类幸福模型”最大化。这是第4章所讲的欧米茄团队带来的第一个可能的结果。在这种情景中，欧米茄团队搞明白了如何将“让社会蓬勃发展”的目标赋予普罗米修斯，然后把控制权移交给它。

“独裁者”人工智能开发出了惊人的技术，帮助人类消除了贫穷、疾病等低技术水平的问题，所有人类都享受着奢华休闲的生活。人工智能控制的机器生产出所有必需的产品和服务，满足了人类所有的基本需求。犯罪现象被消灭了，因为人工智能“独裁者”基本上是无所不知的，可以有效地惩罚任何违反规则的人。每个人都佩戴着第4章所说的安全手环或其他更方便的植入装置，这些装置能够实时监控、惩罚、注射镇静剂和执行死刑。虽然人人都知道他们生活在人工智能专政的极端监视和治安维持之下，但大多数人认为这是一件好事。

超级智能的人工智能“独裁者”的目标是，研究人类基因中展现出来的进化偏好，从而搞明白人类的理想社会是什么样子，然后去实现它。从开发人工智能的人类工程师那里，人工智能“独裁者”获得了一些有智慧的远见，因此，它不会为了实现人类的极乐世界而选择给人类注射吗啡。相反，人工智能“独裁者”对“人类繁荣”的定义相当复杂和微妙，它将地球变成了一个高度丰富的动物园，居住在这里的人类非常开心。因此大多数人对当前的生活十分满足，并认为富有意义。

9大区域系统

由于人工智能理解多样化的重要性，也意识到不同的人拥有不同的偏好，因此，它将地球划分成了不同的区域，供人们选择，这样你就可以和同类人住在一起。下面举了一些例子：

知识区域：在这个区域，人工智能会提供最优质的教育，包括沉浸式的虚拟现实体验，你能学习任何你想学习的东西，你还可以选择在学习时，让它先别告诉你结论，而是引领你去发现，享受发现的乐趣。

◦ 艺术区域：在这里，你可以拥有许多机会去享受、创造和分享音乐、艺术、文学等创造性的表达形式。

◦ 享乐区域：当地人把这里叫作“聚会区”，对那些渴望美食、激情、亲密行为或者只是单纯想享受疯狂快乐的人来说，这里是首屈一指的选择。

敬神区域：有许多不同的敬神区域，每一个区域对应着不同的宗教。这些区域拥有十分严苛的规章制度。

◦ 野外区域：不管你是想要美丽的海滩、可爱的湖泊、壮观的山峦，还是奇妙的峡湾，都可以在这里找到。

◦ 传统区域：在这里，你可以自己栽种粮食，靠种地生活，就像过去的人们一样，但你不必担心饥荒和疾病。

◦ 游戏区域：如果你喜欢电脑游戏，那么，人工智能在这里创造出了能让你极度兴奋的选项。

虚拟区域：如果你想要抛却肉身去度假，那么在这里，人工智能体让你通过神经植入的方式探索虚拟世界，同时帮你保持碳水平衡，喂以食物，并帮你保持锻炼和清洁身体。

◦ 监狱区域：如果你违法了，但不是什么需要立刻处死的罪行，就会被抓到这里关起来。

除了这些“传统”的主题区域之外，还有一些新兴主题可能是今天的人类不能理解的。一开始，人类可以在各个区域之间自由迁徙，这要归功于人工智能的超音速运输系统。比如，当你在知识区域度过了忙碌的一周，学习了人工智能发现的大量终极物理规律之后，可能想要在周末转换到享乐区域轻松一下，再去野外区域的海滩度假村放松几天。

人工智能执行的规则有两个层次：通用规则和本地规则。通用规则适用于所有区域，比如禁止伤害他人、禁止制造武器、禁止尝试创造与独裁者类似的超级智能等。除此之外，各个区域还拥有一些本地规则，形成了某些道德规范。因此，这种区域体系有助于处理不相容的价值观。监狱区域和一些敬神区域的本地规则数量最多；还存在一个自由区域，这个区域内没有任何本地规则，这里的居民以此为荣。所有的惩罚，包括地方上的惩罚，都是由人工智能来执行的，因为如果用人来惩罚另一个人，会违反通用规则中的“禁止伤害他人”的条例。如果你违反当地的规则而没有进监狱区域，人工智能会给你两个选择：接受预先设定的惩罚，或者永远离开该区域。比如，如果两个女性相爱了，但她们生活在一个禁止同性恋的区域中，就像今天的许多国家一样，那么，人工智能会给她们两个选择：要么被关进监狱，要么永远离开这个区域，永远不可以见到她们的老朋友，除非那些朋友和她们一起离开。

无论你出生在哪个区域，所有儿童都能从“独裁者”人工智能那里获得一定程度的基础教育，其中包括关于人类整体和各个区域的知识，比如，他们会学到如何自由访问并迁徙到其他区域的知识。

人工智能之所以会设计出如此多样化的区域，是因为它的创造者人类在设计它时，让它了解了人类多样化的重要性。每个区域带来的快乐都比今天的技术所能带来的快乐更多，因为人工智能已经消除了所有困扰人们多年的老问题，比如贫穷和犯罪；而且，享乐区域中的人们不必担心性传播疾病（已被根除）、宿醉或药物上瘾（人工智能开发出了完美的康复药物，无副作用）。事实上，任何一个区域都不需要担心任何疾病，因为人工智能体用纳米技术修复人体。许多区域的居民都可以享受到高科技式的建筑物，这些建筑物和精美程度连科幻电影中的画面都相形见绌。

总而言之，在自由主义乌托邦和善意的“独裁者”的情形中，超级人工智能都会带来技术和财富，但二者在谁管事和目标方面存在差异。在自由主义乌托邦中，是由那些占有技术和财产的人来做决定，而在善意的“独裁者”的情形下，“独裁者”人工智能拥有无限的权力，并由它来设定最终目标，那就是，把地球变成一个符合人类各种偏好的主题式游轮。由于人工智能给出了许多不同的幸福路径供人类选择，并且还十分关心人们的物质需求，这意味着如果有人受苦，那只能是出于他们自己的选择。

愉快，却毫无意义

虽然在善意的“独裁者”人工智能的情形中，到处都是美好的体验，也基本上没有人会受苦，但许多人却觉得，这不是最好的。首先，有些人希望，人类在塑造社会和自我命运方面应当拥有更多的自由，但他们没有把这些想法说出来，因为他们知道，挑战高高在上的人工智能无异于自杀。一些人希望能自由地拥有尽可能多的孩子，并抱怨人工智能为了可持续发展而采取的人口控制政策，枪支爱好者讨厌禁止建造和使用武器的禁令，一些科学家也不喜欢禁止建造超级智能的禁令。许多人认为，某些区域的人道德低下，他们一方面对此十分愤慨，另一方面又担心自己的孩子会选择搬到那里，所以，他们渴望能把自己的道德标准强加于所有区域。

随着时间的推移，越来越多的人选择迁徙到那些能给予他们想要的一切的区域。在过去，人们对天堂的想象是，能得到自己应得的东西。而善意的独裁者的情况却更符合朱利安·巴恩斯（Julian Barnes）在其1989年的小说《10–1/2卷人的历史》（History of the World in

10 1/2 Chapters）中所描述的“新天堂”精神⁽⁴¹⁾。在“新天堂”里，你得到的不是你应得的东西，而是你想要的东西。然而矛盾的是，许多人对总能得偿所愿这一事实感到很悲哀。在巴恩斯的故事里，主角把大量时间花在了纵情人生上，从暴饮暴食到打高尔夫球，再到与名人上床，但最终屈服于厌倦，走向毁灭。在善意的“独裁者”的情景中，许多人也会遇到类似的情况。他们虽然生活得很愉快，却感到毫无意义。虽说可以人为地创造一些挑战，比如科学发现和攀岩，但每个人都知道这些挑战只是娱乐而已，不是真的。人们试图去做科学研究是没有意义的，因为人工智能早已掌握了一切。人类试图创造一些东西来改善生活也是没有意义的，因为如果他们想要，只要跟人工智能说一声，就能立刻得到。

平等主义乌托邦

现在，让我们来探讨一个与善意的“独裁者”情景相反的情景。这个情景中没有超级智能，人类是自己命运的主人。这是马歇尔·布莱恩的小说《曼娜》中描述的第四代文明（the 4th GenerationCivilization）。从经济学的角度来说，这是自由主义乌托邦的对立面，因为在这里，人类、赛博格和上传者之间之所以能和平共处，并不是因为有财产权的保护，而是因为废除了私有财产和增加了保障收入。

没有财产的人生

这个情景的核心思想来自开源软件运动。这个思想就是：如果软件可以自由复制，使得每个人都可以根据自己的需要尽可能多地使用这些软件，那它们的所有权问题就失去了实际意义⁽⁴²⁾。根据供求规律，成本反映了稀缺性，所以，如果供应是无限的，那价格就会变得极低，甚至可以忽略不计。这个情景十分符合这种思想，在平等主义乌托邦，所有知识产权都被废除了：没有专利，没有版权，也没有商标设计，人们乐于分享他们的好点子，每个人都可以自由地使用它们。

由于机器人技术非常发达，同样的“无产权”思想不仅适用于软件、书籍、电影和设计方案等信息产品，也被应用于房屋、汽车、服装和计算机等具有物质实体的产品。所有这些产品都是由原子组合而成的。原子并不稀缺，比比皆是。所以，当一个人想要一个特定的产品时，机器人网络就会用一个开源设计方案来做一个，并免费送给他。机器人会认真地处理可回收材料，这样，每当有人厌倦了他们使用的某件物品时，它们就把这些物品的原子重新排列成其他人需要的物品。这样一来，所有的资源都被回收了，所以，没有资源会被永久销毁。这些机器人还建造和维护着足够多的利用太阳能和风能等可再生能源的发电厂，所以，能源基本上也是免费的。

为了避免强迫性囤积者索要过多的产品或土地，导致其他人不能得偿所愿，每个人每个月都能从政府那里领取一笔基本收入。他们可以用这笔钱来购买自己想要的东西，租住自己想住的房子。几乎没人有挣更多钱的动机，因为这笔基本收入很高，足以满足任何合理的需求。即使他们去尝试挣钱也是徒劳无功的，因为竞争对手都在免费赠送各种智力产品。此外，还有机器人在生产着各种各样的免费产品。

创造力和技术，从来不发源于金钱

虽然有时知识产权被誉为是创造力和发明之母，但马歇尔·布莱恩指出，在人类创造力的最佳例子中，比如科学发现、文学创作、艺术、音乐和设计，许多都不是出于利益，而是出于其他动机，比如好奇心、对创造的渴望或同伴的赏识。激励爱因斯坦发明狭义相对论的并不是金钱，促使林纳斯·托瓦兹（Linus Torvalds）创造出免费Linux操作系统的同样也不是金钱。相比之下，现在有很多人都没有意识到自己的创造潜力，因为，为了谋生，他们需要投入时间和精力到创造性不那么高的活动上。布莱恩笔下的乌托邦社会将科学家、艺术家、发明家和设计师从鸡毛蒜皮的琐碎小事中解放出来，激发了他们纯粹的创作欲望，因此，这种社会定能拥有比今天更高的创新水平，相应也会拥有更高超的技术和更好的生活水平。

未来的某一天，人类可能会开发出这样一种新技术，称为“Vertebrane”。这种技术就像一种“超级互联网”。它通过神经植入物将所有自愿接入的人无线连接起来，这样，人们只需要动动脑子，就可以随时获取全世界的免费信息。有了它，你还可以上传你想分享的任何体验，以供其他人尝试。你还可以随意下载任意虚拟体验来替代你的感官体验。《曼娜》这本书探讨了这种技术的诸多好处，比如，可以把锻炼身体简化为打瞌睡：

剧烈运动的最大问题就是没有乐趣。它令你疼痛。运动员可以忍受疼痛，但大多数正常人都不想忍受长达一个小时甚至更长时间的疼痛。所以，有人想出了一个解决方案。你只需要中断一个小时大脑与感官输入的连接，用这一个小时的时间来看电影、与人交谈、处理邮件或读书，在此期间，Vertebrane系统会帮你锻炼身体。它会让你的身体完成一次完整的有氧运动，如果没有它，这套运动超出了大多数人能容忍的程度。有了Vertebrane帮你锻炼身体，虽然你没有任何感觉，但你的身体却能保持良好的状态。

此外，Vertebrane系统的计算机能监测每个人的感官输入，如果它发现有人即将实施犯罪行为，那它就可以暂时制伏他们，让他们动弹不得。

偏见与不稳定

有一种反对平等主义乌托邦的声音说，这种情景对非人智能有偏见：任劳任怨、辛苦工作的机器人似乎都很聪明，却被人类当作奴隶一样对待。人类理所当然地认为，它们是无意识的，所以不应该拥有任何权利。相反，自由主义乌托邦将权利赋予了所有智能体，而不会偏向于我们这种碳基类智能。曾几何时，美国南方的白人生活得很舒适，因为大部分工作都由奴隶来完成，但今天大多数人都认为，把蓄奴称为“进步”，在道德上是不可接受的。

平等主义乌托邦情景的另一个缺点是，从长远来看，它可能很不稳定，站不住脚。只要无情的技术进步最终造出了超级智能，它就会转变为其他情景。在《曼娜》一书中，超级智能还不存在，新技术都是由人类而不是由计算机发明的，但书中并未解释原因。不过，这本书还是强调了向这个方向发展的趋势，比如，不断改进的Vertebrane可能会变得超级智能。另外，还有一大群绰号为“维特人”（Vites）的人几乎完全生活在虚拟世界中，Vertebrane负责照顾他们的一切生活起居，包括进食、洗澡和上厕所，他们位于虚拟现实中的智能对这些事情都没有知觉和意识。维特人没兴趣在物理世界中生孩子，如果他们的肉体死了，他们的虚拟智能也会死去。所以，如果每个人都变成了维特人，那人类就会在一片荣耀与极乐的虚拟光芒中走向灭绝。

《曼娜》这本书解释了维特人觉得身体会令他们分心的原因，并提到，正在开发的新技术有望消除这种烦恼，为他们的大脑提供最佳的营养素，从而让他们能活得更久。由此看来，维特人自然而理想的下一步似乎就是完全放弃大脑，然后上传智能，从而延长寿命。但现在，大脑对智力的限制因素都消失了，没有什么能阻止维特人逐渐提升认知能力，直到发生迭代式的自我改进，并触发智能爆炸。

守门人

我们刚刚已经看到，平等主义乌托邦情景有一个吸引人的特征：人类掌握了自己的命运。但如果超级智能被开发出来了，这个好处也就不复存在。这个问题可以通过建造“守门人”来预防。守门人的目标是尽可能少地进行干预，以避免创造出另一个超级智能⁽⁴³⁾。这或许能使人类无限期地保持平等主义乌托邦的状态，甚至可以在这种状态下将生命撒遍宇宙，就像第6章中即将探讨的那样。

这要如何实现呢？守门人人工智能的这个简单的目标内置在它的“脑子”里。即使它经历迭代式自我改进后变成超级智能，它依然保留着这个目标。然后，它将部署侵入性和破坏性最低的监视技术，以监控任何想要为它建造竞争对手的人。一旦监测到这种行为，它就会以破坏性最小的方式加以阻止。如果这个人刚着手不久，它采用的策略可能是发布和传播文化模因⁽⁴⁴⁾，赞美人类的自主性，歌颂消灭超级智能的行为。如果守门人人工智能发现试图建造超级智能的是一些专业人士，那它可能会试图劝阻他们。如果劝阻失败，它可能会试着分散他们的注意力。在必要的情况下，它可能会搞破坏。由于它几乎可以无限制地使用任何技术，因此它能神不知鬼不觉地破坏研究者的行动，而不会有人注意到。比如，它可以用纳米技术来小心谨慎地抹去研究者大脑（或计算机）中的有关记忆。

建造守门人人工智能的决定可能会引起争议。支持者可能包含一些宗教人士。他们反对建造拥有神力的超级智能。他们声称，已经有一个上帝了，试图建造一个可能更好的上帝是不合适的。还有一些支持者可能会认为，守门人人工智能不仅能让人类掌握自己的命运，还能保护人类免受超级智能可能带来的其他风险，比如本章后面将会探讨的“末日”情景。

然而，批评者可能会认为，守门人人工智能是一种可怕的东西，它将不可挽回地削弱人类的潜力，并让技术进步永远陷入困境。比如，如果在宇宙中散播生命的种子（第6章我们会探讨这个问题），就需要超级智能的帮助，那么守门人人工智能将扼杀掉这个巨大的机会，并可能将我们永远困在太阳系中，无法冲出去。此外，与世界上大多数宗教的神祗不同，守门人人工智能对人类的态度是完全漠视的，只要我们不创造另一个超级智能就行。比如，如果我们的某些行为会给自己带来巨大的痛苦，甚至招致灭绝，它也会冷漠地袖手旁观，并不会试图阻止。