生命3.0：人工智能时代，人类的进化与重生

这个星球上的每种哺乳动物都会本能地与周围环境达成一种自然的平衡，但你们人类却不会。你们迁徙到一个地方，就会开始繁殖、繁殖，直到耗尽这里的每一滴自然资源，接着，你们生存下去的唯一方法就是迁徙到另一个地方。在这个星球上，还有另一种有机体遵循相同的模式。你知道是什么吗？是病毒。人类就是一种疾病，是这个星球的癌症。你们是瘟疫，而我们就是解药。

但是，重新扔一次骰子，寄希望于消灭人类的人工智能，结果必然会更好吗？并不是。一个文明越强大，不代表它就越符合伦理或越实用。“强权即公理”是说越强大就越好，但这种观点总是与法西斯主义联系在一起，因此在今天已经不那么受欢迎了。其实，就算征服者人工智能再次创造出一个拥有目标的文明，就算这些目标在人类眼里是复杂有趣和值得追求的，最后你可能也会发现它们是如此平庸无趣，比如生产尽可能多的回形针。

平庸至死

“生产尽可能多的回形针”这个故作愚蠢的例子是尼克·波斯特洛姆在2003年提出来的。他想用这个例子说明人工智能的目标是独立于其智能的⁽⁴⁶⁾。象棋计算机的目标是赢得比赛，但还有一种目标是“输掉比赛”的计算机象棋比赛，参赛的计算机通常与那些参加“赢得比赛”的计算机一样聪明。在我们人类看来，刻意输掉比赛或者试图把宇宙变成回形针，简直不能叫“人工智能”，干脆叫“人工愚蠢”算了。但是，我们之所以会这么想，只是因为进化在我们的脑子里预装了“把胜利和生存看得很重要”的目标，而这些目标，可能正是人工智能所缺乏的。一个想要生产尽可能多的回形针的人工智能可能会将尽可能多的地球原子变成回形针，并将它的工厂扩张到宇宙各处。这样人工智能并不是针对我们，它消灭人类只是因为它需要我们的原子来制造回形针。

如果回形针不是你的菜，可以再看看我从汉斯·莫拉维克的书《智力后裔》改编的例子。假设我们收到了一条来自外星文明的广播信息，其中包含一个计算机程序。当我们运行它时，发现它原来是一个自我迭代的人工智能。它像上一章所讲的普罗米修斯一样，接管和统治了世界，只不过没人知道它的终极目标是什么。很快，它就将我们的太阳系变成了一个巨大的建筑工地，在每颗岩石行星和小行星上建满了工厂、发电厂和超级计算机，用来在太阳周围设计和建造一个戴森球（Dysonsphere）⁽⁴⁷⁾。这个戴森球可以收集太阳辐射出的所有能量，来驱动一个和整个太阳系差不多大小的无线电天线⁽⁴⁸⁾。毋庸置疑，这最后导致了人类的灭绝，但是，行将就木的人类却相信还有一线希望。不管这个人工智能意欲何为，它的做法显然是很酷的，就像《星际迷航》一样。人工智能完全没有意识到，它们建造的这个巨大天线的唯一目的就是，再次向宇宙深处播放与人类当初接收到那条信息完全相同的广播信息，说到底，这只不过是一个宇宙级别的计算机病毒而已。今天的钓鱼邮件爱攻击易受骗的互联网用户，而这个宇宙病毒则捕猎那些易受骗的、进化程度较高的文明。这个宇宙病毒是数十亿年前的一个恶作剧，虽然它的制造者的整个文明已经灭绝了，但该病毒仍然以光速在我们的宇宙中蔓延，把正在萌芽的文明变成死亡的空壳。如果我们被这个人工智能征服，你感觉如何？

后裔

现在，让我们来看看另一种情形。这个情形中，虽然人类也会灭绝，但一些人可能会觉得比刚才那些情形好一点，那就是：将人工智能视为我们的后裔，而不是我们的征服者。汉斯·莫拉维克在《智力后裔》一书中支持了这种观点。他说：

我们人类会从人工智能的劳动中获得一时的利益，但是，就像自然出生的孩子一样，它们迟早都会去追求自己的命运，而我们这些衰老的父母，就会安静地逝去。

孩子们会向父母学习，达成父母梦寐以求的成就。如果孩子比他们的父母聪明，父母通常会感到高兴，并以之为荣，即使他们知道自己可能活不到亲眼目睹子女有所成就的那一天。从这个意义上来讲，虽然人工智能可能会取代人类，但它们可以让我们从容地退出历史舞台，并把它们视为自己的后裔。它们可能会给每个人赠送一个可爱的机器人小孩，这个机器人拥有绝佳的社会技能，可以向人类学习，适应人类的价值观，让人类感觉到骄傲和被爱。通过在全球范围内实施独生子女政策，人口逐渐减少，但人类受到的待遇非常好，以至于最后一代人会觉得自己是有史以来最幸运的一代人。

你觉得这个情形怎么样？毕竟，我们人类早就习惯了“生死有命”的想法。这种情形唯一的区别是，我们的后代会有点不一样，他们会变得更强大、更高尚、更富有。

此外，全球性的独生子女政策可能不再有必要：只要人工智能消除了贫困，让所有人都过上了津津有味、心满意足的生活，那么，生育率就可能会下降，直到人类灭绝。如果人工智能给予人类极其丰富的娱乐生活，以至于几乎没人愿意生孩子，那这种“自愿灭绝”的速度可能会更快。例如我们在平等主义乌托邦情景中提到的维特人，他们非常迷恋虚拟现实，根本没有兴趣去使用和复制自己的肉身。在这种情况下，最后一代人同样也会觉得自己是有史以来最幸运的一代，因为他们的生活有滋有味，充满热情，直到离世的一刻来临。

没有人执行的遗嘱

把人工智能视为后裔的情形无疑会遭到反对。有些人可能会认为，人工智能缺乏意识，因此不能算作我们的后裔（在第8章我们会进行更多相关的讨论）。一些宗教人士可能会认为，人工智能缺乏灵魂，因此不能算作我们的后裔，或者说，我们不应该建造有意识的机器，因为这是在扮演上帝的角色，对生命本身进行篡改。他们对克隆人技术也表达过类似的观点。与更高级的机器人共处，还可能对人类社会带来挑战。比如，如果一个家庭拥有一个机器人婴儿和一个人类婴儿，那它其实很像今天拥有一个人类婴儿和一条小狗的家庭，两个小可爱一开始都同样乖巧，但很快，父母就会对它们区别对待。不用说，小狗的智力更低，慢慢地，人类会不那么关心小狗，最后用绳子把它拴起来。

另外一个问题是，虽然我们可能会觉得“后裔”情形和“征服者”情形大相径庭，但是往大了看，二者是非常相似的：在今后的数十亿年中，二者唯一的区别在于，最后一代人类受到怎样的待遇，他们是否对自己的生活感到满意，以及他们对自己死后的世界有何想法。我们可能会认为，那些可爱的机器人小孩接受了我们的价值观，一旦我们死去，它们会继续打造我们梦想的社会，但是，我们如何能肯定它们不是在欺骗我们？说不定它们只是在虚假地表演，等到我们快乐地死光了，它们就好实施“回形针最大化”计划或者别的什么计划。毕竟，它们一开始和我们交谈并让我们爱上它们，这本身可能就是一种欺骗，因为它们为了和我们交流，必须先刻意地降低智商，比如，在科幻电影《她》（Her）中，为了与人类交流，人工智能把自己的速度降低了10亿倍。通常，两个思想速度和能力相差极大的个体之间很难产生有意义的平等交流。我们都知道，人类的感情因素很容易成为黑客攻击的对象，所以，无论一个超人类水平的通用人工智能的目标是什么，它都可以很轻易地骗过我们，让我们对它产生好感，并让我们误以为它和我们的价值观相同。《机械姬》（Ex Machina）就是一个绝佳的例子。

如果人工智能保证在人类灭绝之后会采取一些行动，那么，什么行动会让你感觉“后裔”情形也没那么糟？这就有点像写遗嘱，只不过这份遗嘱中写的是对未来人类的叮嘱，告诫他们要如何对待人类的集体禀赋。然而，不会有任何人来执行这份遗嘱了。我们将在第7章回到这个话题，继续讨论如何控制未来人工智能的行为。

动物园管理员

即使人工智能会成为我们绝佳的后裔，但是人类会灭绝，这难道不令人伤感吗？如果你希望无论如何还是要留下一些人类，那么，“动物园管理员”的情形可能会是一个更好的选择。在这种情形中，一个无所不能的超级智能把一些人类留在世界上，而这些人类感觉自己就像动物园里的动物一样，偶尔会哀叹自己的命运。

动物园管理员人工智能为什么会想留下一些人类呢？因为对它来说，运营动物园的成本十分微不足道。它留下一小撮人类来生息繁衍，可能就像我们把濒危的大熊猫关进动物园，把古旧的计算机放进博物馆一样：为了娱乐和好奇心。请注意，今天的动物园主要是为了取悦人类，而不是让动物开心。所以，不要期待“动物园管理员”的情形会令人称心满意。

我们现在已经讨论了几种自由的超级智能的情形，它们分别聚焦在马斯洛需求理论中的三个不同层次。守护神人工智能优先满足意义和目的，善意的独裁者人工智能优先满足教育和乐趣，而动物园管理员人工智能只将注意力集中在最低的水平：生理需求、安全和足够的栖息地，好让人类像动物园的动物一样看起来很有趣。

你可以用另一个方法来替代动物园管理员情形：在设计友好的人工智能的程序时，就要求它在迭代的过程中保证10亿人的安全和幸福。但是，为了实现这一点，它可以将人类关在一个大型动物园般的快乐工厂中。在这个工厂里，人类的营养和健康都得到了保障，还用虚拟现实来保持心情愉悦。地球的其余部分和宇宙的禀赋资源则另作他用。

1984

如果你对前文所说的这些情形都不是特别感兴趣，那么请想一想：你是不是认为，从科技的角度出发，今天的一切已经足够好了？为什么我们不能继续保持现状，停止担忧人工智能对人类的消灭或统治呢？本着这种精神，让我们来讨论另一种情形：在这种情形中，可能带来超级智能的技术进步之路被永久斩断，但斩断这条路的并不是守门人人工智能，而是一个由人类主导的奥威尔式的全球性监控国家。在这个国家里，所有人工智能的相关研究都被明令禁止了。

技术废除，新“卢德分子”

阻止科技进步的想法由来已久，历史也甚为曲折。一个著名但并不成功的例子就是英国的“卢德分子”，他们反对工业革命的技术。今天，“卢德分子”这个词常被用作贬义词，形容那些站在历史对立面、反对科技进步和必然变革的技术恐惧者。然而到今天，对科技进步的阻挠从未消失，而是在环保运动和反全球化运动中找到了新的立足点。其中一个最著名的支持者是环保主义者比尔·麦吉本（BillMcKibben）。他是最早向人们警告全球变暖现象的人之一。一些“反卢德分子”认为，所有技术都应该被开发和使用，这样它们才能产生利益；而另一些人则认为，这种观点太极端了，只有当我们相信一项新技术利大于弊时，它才能被允许使用。后一种观点的支持者更多，被称为“新卢德分子”（neouddites）。

极权主义2.0

我认为要广泛地废除技术，唯一可行的方法就是通过一个全球范围的极权主义国家来执行。雷·库兹韦尔在《奇点临近》一书中，以及埃里克·德莱克斯勒（Eric Drexler）在《造物引擎》（Engines ofCreation）一书中，都得出了同样的结论。原因很简单：如果一些人（而不是全部）放弃了一种具有变革性的技术，那么，那些没有放弃的国家或集团就会逐渐累积起足够的财富和权力，从而接管和统治世界。

过去，极权主义国家通常被证明是极不稳定的，最后都走向了崩溃。但新型的监控技术为未来的独裁者提供了前所未有的希望。德国汉堡市前国务秘书沃尔夫冈·施密特（Wolfgang Schmidt）最近在接受采访时，回忆起自己曾在斯塔西（臭名昭著的原东德秘密警察组织）担任陆军中校^[5]的经历，他谈到了爱德华·斯诺登揭发的美国国家安全局监控系统，并说道：“你知道，这对于我们来说简直无异于梦想成真。”虽然斯塔西常被认为是人类历史上最为严酷的奥威尔式监控体系，但施密特却感叹到，当时的技术只能一次性监控40部电话，如果你想在监控列表上增加一个新名字，就得放弃一个旧的。相比之下，即便只使用现有的技术，一个全球性的极权主义国家也能监控地球上每个人的每次电话、电子邮件、网络搜索、网页浏览和信用卡交易记录，并通过手机定位和配有人脸识别功能的监控摄像头来监控每个人的行踪。此外，即便是远低于人类水平的通用人工智能的机器学习技术，也可以高效地分析和处理这些庞大的数据，从而发现扰乱治安的可疑行为，让那些闹事者在对政府构成严重威胁之前就被处理掉。

今天，尽管政治反对派的存在尚能阻止这种系统的全面实施，但人类却已经在建造这种专制制度所需的基础设施了。因此，如果未来真有一个强大的政治势力决定实施这种全球性的1984式统治，他们会发现，根本无须做太多事情，只需要打开开关就行了，因为技术早已存在。正如乔治·奥威尔的小说《1984》里描述的一样，这个未来的全球性国家的终极力量并不在一个传统的独裁者身上，而在于人为建立的官僚制度本身。不存在一个超级有权势的个人，相反，每个人都像是一颗棋子，任何人都无法改变或挑战游戏规则。通过设计一个人人互相监视的体系，这个不露声色、无单一领袖的国家就能够稳定延续数千年，让地球上再也无法发展出超级智能。

不满之处

当然了，一些只有超级智能才能带来的好处在这个社会中是不可能出现的。这一点并不会引起大多数人的不满，因为他们并不知道自己错过了什么：有关超级智能的整个概念早已从官方历史记录中删除了，人工智能研究被明令禁止。每隔一段时间，自由主义的苗子就会抬头，他们梦想着一个更加开放和充满活力的社会，在这个社会中，知识可以增长，规则可以改变。然而，只有那些把这些想法放在心里、守口如瓶的人才能活下去，于是这些想法就像瞬间即逝的星星之火一样，永远无法燎原。

逆转

如果能够在不陷入极权主义的情况下摆脱技术带来的危险，这个想法是不是很有诱惑力？那么，让我们来探讨一下这个场景——回归到中世纪的技术水平。这个想法是受到了阿米什人的启发。假如，欧米茄团队在第5章接管世界之后，发起了一场大规模的全球宣传运动，将1500年前的简单农耕生活描述得浪漫异常。接着，一场瘟疫让全球人口减少到大约1亿人，恐怖分子被指责为这场瘟疫的罪魁祸首。这场瘟疫有一个不为人知的秘密——疾病具有针对性，确保对科学技术有所了解的人全部死光。普罗米修斯控制的机器人以消除高密度人群的感染风险为借口，将所有的城市都清空，并夷为平地。幸存者们突然获得了大片土地，并接受了相当于中世纪水平的教育，涉及可持续农业、渔业和狩猎等方面。与此同时，机器人军队系统性地抹去了现代技术的所有痕迹，包括城市、工厂、电力管线和道路等，并挫败了人们试着记录或再现这些技术的所有企图。一旦科技在全球被遗忘，机器人就开始互相拆解，直到几乎一个机器人也不剩下。最后一批机器人与普罗米修斯一起，在一场计划好的热核爆炸中蒸发殆尽。到那时，现代技术不再需要禁止，因为它已经全部消失。结果，人类为自己争取到了1 000多年的时间，在这段时间内，不仅无须担心人工智能，更无须担心极权主义。

历史上，“逆转”现象曾小范围地发生过。比如，罗马帝国普遍使用的一些技术被遗忘了1 000年之后，在文艺复兴时期卷土重来。艾萨克·阿西莫夫的科幻小说《基地》三部曲围绕着“谢顿计

划”（Seldon Plan）展开，谢顿计划的目的是将一段长达3万年的“逆转”时期缩短到1 000年。通过巧妙的计划，或许可以起到与谢顿计划相反的效果——延长而不是缩短“逆转”周期，比如通过抹去所有农业知识来实现。然而，对于青睐“逆转”情形的人来说，一个不幸的消息是，这种情形的时间不可能无限地被延长，其结局要么是人类再次获得高科技，要么走向灭绝。认为人类的生物特征在1亿年后还和今天的人类差不多是很幼稚的想法，因为人类作为一个物种存在的时间还不足1亿年的1%呢。而且，低科技水平的人类是不设防的，很容易成为被攻击的目标，只能傻傻地待在地球上坐以待毙，等着被下一颗炽热的小行星撞击等自然灾害所消灭。人类当然不能延续10亿年，因为到那时，太阳会逐渐升温，烤热地球的大气层，直到所有液态水都蒸发殆尽。

自我毁灭

我们已经探讨了未来技术可能带来的问题。但如果缺少这些技术，也会带来一些问题。这些问题很重要，同样值得我们思考。本着这样的精神，现在让我们来讨论一些人类因其他原因毁灭了自我，从而导致超级智能永远无法产生的情形。

我们如何才能走到那一步呢？最简单的策略就是“等待”。我们在第6章将会看到，如何解决小行星撞击和海洋沸腾等问题。目前，我们还没有开发出解决这些问题所需要的技术。所以，除非我们的技术发展到远超现在的水平，否则，用不了10亿年那么久，大自然就会将我们从地球上抹去（如图5-1所示）。正如著名经济学家约翰·凯恩斯（John Maynard Keynes）所说：“长远来看，我们都难逃一死。

注：这些例子是可能毁灭已知的生命形态或永久剥夺其发展潜力的情形。尽管我们的宇宙本身可能还能延续至少100亿年的时间，但我们的太阳将在10亿年后将地球烤焦，然后将其吞噬，除非我们把地球搬运到一个安全的距离。35亿年后，银河系会与相邻的仙女座星系相碰撞。虽然我们并不知道它们相撞的具体时间，但我们可以预言，早在这场碰撞发生之前，就会发生小行星撞击地球，或者超级火山爆发引发经年累月的“火山冬天”。我们既可以用技术来解决所有这些问题，也可以用技术创造出新的问题，比如气候变化、核战争、改造瘟疫或出错的人工智能。

不幸的是，有时候集体的愚蠢会为我们招致更快的自我毁灭。既然没有人想看到这样的结果，为什么我们这个物种还会“集体自杀”，即所谓的“人类灭绝”呢？以人类目前的智力水平和情感成熟度来说，我们偶尔会有误判、误解和无能的时候，结果，我们的历史就充满了事故和战争等灾难，而这些灾难在事后看来，完全是没有人想要的。经济学家和数学家用优美的博弈论解释了这些现象，说明了人们是如何被激励，做出一些可能会给每个人都带来灾难性后果的事情。 [6]