生命3.0：人工智能时代，人类的进化与重生

我们已经看到，只要我们能为某些最古老、最棘手的哲学问题在需要时找到答案，那么，人工智能就可以帮助我们创造一个美好的未来。用尼克·波斯特洛姆的话来说，我们面临着哲学的最后期限。在这一章中，让我们来探讨一下有史以来最棘手的哲学问题之一：意识。

谁关心这个问题

意识是一个富有争议的话题。如果你向人工智能研究者、神经科学家或心理学家提到这个以C打头的单词（consciousness），他们可能会翻白眼。如果他们碰巧是你的导师，那他们可能会对你表示同情，并劝你别把时间浪费在这个被他们认为毫无希望的非科学问题上。事实上，我的朋友，也是艾伦脑科学研究所学科带头人的著名神经科学家克里斯托弗·科赫（Christof Koch）告诉我，在他获得终身教职之前，曾有人警告他不要从事与意识有关的工作，这个人正是诺贝尔奖得主弗朗西斯·克里克（Francis Crick）。如果你在1989年版的《麦克米伦心理学辞典》（Macmillan Dictioncry of Psychology）中查找“意识”一词，就会被告知“没有什么值得写的东西”^[1]这一答案。我要在本章中向你解释，为什么我比他们更加乐观！

虽然思想家们已经在神秘的意识问题上思考了数千年，但人工智能的兴起却突然增加了这个问题的紧迫性，特别是因为人们想要预测哪些智能体可能拥有主观体验。正如第3章所说，智能机器是否应该获得某种形式的权利，关键取决于它们是否拥有意识，是否会感到痛苦或快乐。又如第7章所说，如果我们不知道哪些智能体能够拥有意识，就无法建立一个以“最大化积极体验”为基础的功利主义伦理框架。正如第5章所说，有些人可能希望他们的机器人是没有意识的，以避免因奴役他人而产生内疚感。然而，如果这些人能摆脱生物的限制，上传自己的智能，那他们又可能产生完全相反的想法。毕竟，如果把自己的智能上传到一个言行举止与你相似却没有意识的“僵尸”机器人中（我的意思是，你上传后将失去任何感觉），又有什么意义呢？从你的主观角度出发，这和自杀有什么区别呢？即使你的朋友们可能意识不到你的主观体验已经死去了。

对于生活在遥远未来的宇宙生命来说（见第6章），很关键的一点就是，要理解什么是意识以及什么不是意识。如果技术能让智慧生命在我们的宇宙中蓬勃发展数十亿年，我们如何能确定这些生命是有意识的，并且有能力来欣赏这万事万物呢？如若不然，那么，是不是就像著名物理学家埃尔温·薛定谔所说，这是“一场没有观众、不为任何人存在的戏剧，因此确切来说是不存在的”^[2]？换句话说，如果我们误以为这些高科技后代有意识而实际上它们并没有的话，这会不会成为终极的“僵尸末日”，白白浪费我们宏伟的宇宙资源？

什么是意识

关于意识的争论如火如荼，因为交战双方总是自说自话，完全没有意识到他们对意识的定义竟然不一样。正如“生命”和“智能”一样，“意识”一词也没有无可辩驳的标准定义。相反，存在许多不同的定义，比如知觉（sentience）、觉醒（wakefulness）、自我意识（self-awareness）、获得感知输入（access to sensory input）以及将信息融入叙述的能力。^[3]在探索智能的未来时，我们想要采取一个最广泛和最包容的观点，而不想局限于目前已知的生物意义上的意识。这就是为什么我在第1章中对意识给出的定义十分广泛，这也是我在本书中坚持的想法。

$$
\ 是 2 , \downarrow , \downarrow , \downarrow = \pm 3 \downarrow \downarrow \downarrow \downarrow \downarrow \downarrow ( \mathsf { s u b j e c t i v e \ e x p e r i e n c e } )
$$

换句话说，如果你感觉“这就是现在的我”，那么你就拥有意识。

这种意识的定义，正是前一节提到的人工智能问题的关键之所在，也就是说：它是否感觉自己就是普罗米修斯、AlphaGo或一辆无人驾驶的特斯拉汽车？

我对意识的定义非常广泛，为了强调这一点，请注意，我没有提到行为、感知、自我意识、情绪或注意力这些东西。所以根据这个定义，当你做梦时，即使你不处在觉醒状态，也感觉不到感官输入的信息，并且没有在梦游或做事（希望如此），那么，你也是有意识的。同样地，从这个意义上说，任何体验到痛苦的系统都是有意识的，即使它不能移动。在我们的这个定义下，未来的某些人工智能系统可能也是有意识的，即使它们只是以软件的形式存在，并未连接到任何传感器或机器人身体上。

有了这个定义，我们很难忽略有关意识的问题。正如尤瓦尔·赫拉利（Yuval Harari）在他的《未来简史》一书中所说：“如果有任何科学家想要争辩说主观体验是无关紧要的，那留给他们的挑战就是，如何在不提主观体验的情况下解释酷刑和强奸是错误的。”^[4]如果不提主观体验，人只是一堆根据物理定律移动的基本粒子而已，那犯罪能有什么错呢？

问题出在哪里

那么，意识究竟有什么是我们不了解的呢？在这个问题上思索得最深入的人莫过于著名的澳大利亚哲学家大卫·查尔默斯了。他的脸上常挂着俏皮的微笑，身上穿一件黑色的皮夹克，我妻子非常喜欢这件皮夹克，以至于她在圣诞节送了我一件一模一样的。尽管他曾在国际数学奥林匹克竞赛中杀入决赛，但他追随自己内心，选择了哲学。不过好笑的是，他上大学时几乎所有课程都是A，唯一得B的却是一门哲学入门课程。他似乎完全不被打压或争议所左右。有些人严厉地批评他，完全是因为他们对他的研究缺乏了解或者受到了误导，但他总是礼貌地倾听这些人的批评，甚至一点也不觉得他应该做出什么回应。我对他的这种能力感到十分惊讶。

查尔默斯强调，心智有两个奥秘。第一个奥秘是大脑对信息的处理，这就是所谓的“简单问题”。例如，大脑如何注意、解释和回应感官输入的信息？它如何用语言来报告其内部状态？虽然这些问题确实非常困难，但从我们的定义出发，它们并不是意识的奥秘，而是智能的奥秘，因为它们问的是大脑如何记忆、计算和学习。此外，我们在本书的第一部分已经看到，人工智能研究者已经开始用机器来解决许多“简单问题”，并取得了重大进展——从下围棋，到驾驶汽车，再到图像分析和自然语言处理等。

另一个奥秘就是，人类为什么会拥有主观体验。这就是查尔默斯所说的“困难问题”。当你开车的时候，你会体验到色彩、声音、情绪和自我感。但是，你为什么会经历这些体验呢？一辆无人驾驶汽车有体验吗？如果你正与一辆无人驾驶汽车比赛，你们都是从传感器或感觉器官获得输入信息，然后处理信息并输出运动命令。但从逻辑上来说，驾驶的主观感觉却是另一回事，这种体验是可有可无的吗？如果是的话，是什么原因造成的？

我从物理学的角度来思考这个意识的“困难问题”。从物理学的角度来看，有意识的人只不过是经过了重新排列的食物粒子而已。那为什么同样的粒子，有些排列就有意识，而有些排列却没有意识呢？此外，物理学教导我们，食物只不过是大量的夸克和电子以一定的方式排列而成。那么，哪些排列是有意识的，哪些没有⁽⁷⁰⁾？

我喜欢这个物理学观点，因为它将困扰人类几千年的难题转化为更易用科学方法解决的、更具有针对性的问题。与其从“为什么粒子的某些排列能感受到意识”这个困难问题出发，不如先让我们承认一个“困难事实”，那就是：粒子的某些排列确实感受到了意识，而其他排列却没有。譬如说，你知道自己脑中的粒子当下正处于有意识的排列状态

中，但当你处于无梦的睡眠状态时却不处于有意识的状态。

这个物理学观点导致了三个彼此独立的意识难题，如图8-1所示。第一个难题是，到底是什么性质让不同的粒子排列产生不同的结果？具体来说，是哪些物理特性将有意识系统和无意识系统区分开的？如果我们能够回答这个问题，那么我们就可以搞清楚哪些人工智能系统是有意识的。在不久的将来，它还可以帮助急诊室医生确定哪些无反应的患者是有意识的。

第二个难题是，物理性质如何决定体验是什么样的？具体来说，是什么决定了感质？感质是意识的基本构成要素，比如，玫瑰的绯红、铜钹的声响、牛排的香味、橘子的口感或针刺的微痛⁽⁷¹⁾。

第三个难题是，为什么会出现有意识的东西？换句话说，为什么一团物质会产生意识，对这个问题有没有什么尚未发现的深层次的解释？或者说，世界就是这样运行的，这是一种无法解释的蛮横事实？

和查尔默斯一样，我的一位前麻省理工学院同事、计算机科学家斯科特·阿伦森（Scott Aaronson）幽默地把第一个问题称为“相当难的问题”（Pretty Hard Problem，简称PHP）。本着同样的精神，且让我们把剩下的两个问题分别称为“更难的问题”（Even HarderProblem，简称EHP）和“真难的问题”（Really Hard Problem，简称RHP），如图8-1所示。 (72)

注：对心智的理解涉及几个层次的问题。大卫·查尔默斯所谓的“简单问题”可以不提到主观体验。一些但不是全部物理系统是有意识的，这个事实提出了三个不同的问题。如果有一个理论可以回答“相当难的问题”，那它就可以用实验来检验。如果检验成功的话，我们就可以以它为基础来解决上层那些更棘手的问题。

意识超出科学范畴了吗

一些人之所以告诫我，研究意识就是浪费时间，主要是因为他们认为它不科学，而且永远都不科学。果真如此吗？著名奥裔英籍哲学家卡尔·波普尔（Karl Popper）说过一句广为流传的格言：“如果一个理论不可证伪，那它就不科学。”换言之，科学就是要用观察来检验理论。如果一个理论连在原则上都无法被检验，那它在逻辑上就不可能被证伪，那么，根据波普尔的定义，它就是不科学的。

那么，可不可能存在一个能回答图8-1中的某个意识问题的科学理论呢？我会响亮地回答：“存在。”至少对那个“相当难的问题”来说是存在的，这个问题就是：“什么物理性质区分了有意识系统和无意识系统？”假设有一个理论可以用“是”“不是”或“不确定”来回答任意一个物理系统是否具有意识的问题。让我们把你的大脑接到一个用来测量大脑不同部分的信息处理的机器上。然后，把这些信息输入到一个计算机程序中，该程序用上面所说的意识理论来预测信息的哪些部分是有意识的，并在屏幕上做出实时预测（如图8-2所示）。

首先，你脑中出现一个苹果。屏幕会告诉你，你的大脑中有关于苹果的信息，还告诉你，你意识到了这个信息，但你的脑干中还存在一些你不知道的关于脉搏的信息。你会惊讶吗？虽然这个理论的前两个预测是正确的，但你决定做一些更严格的测试。你想到你的母亲，此时，电脑告诉你，你的大脑里有关于你母亲的信息，但它告诉你，你并没有意识到这个信息。显然，这个预测是错误的，这意味着这个理论被排除了，就像亚里士多德的力学、发光以太、地心说等无数失败理论一样，可以扔进科学史的垃圾堆中了。关键的一点是，虽然这个理论是错误的，但它竟是科学的！因为如果它不科学，你根本没有办法对其进行检验，也没有机会将它排除。

识理论”来预测你知道和不知道哪些信息。你可以检查它的预测是否正确，是否符合你的主观体验，从而对这个理论进行科学检验。

有人可能会批评这个结论，说没有证据证明你拥有这些意识，甚至不能证明你到底有没有意识。诚然，你可以告诉人们你是有意识的，但一个无意识的僵尸同样也能讲出这样令人信服的话。然而，这并不意味着这个“意识理论”是不科学的，因为批评者也可以自己坐到你的位置上，亲自测试一下这个理论能否正确预测出他们自己的意识体验。

然而，如果这个理论每次都回答“不确定”，而不做出任何预测，那它就不可检验，因此就是不科学的。这种情况是有可能发生的，因为这个理论可能有自己的适用范围，只在某些情况下管用，而在其他情况下不适用，比如，可能因为它所需的计算过程在实践中很难实现，或者因为大脑传感器的质量乏善可陈。今天最流行的科学理论往往不能解决所有问题，但也不是一个问题都不能解决，而是处在中间的某个地方，为某一些问题而不是所有问题给出可检验的答案。比如，当今物理学的核心理论就无法回答关于极小又极重的系统的问题，因为我们还不知道在这种情况下应该使用哪些数学方程（极小时需要量子力学，极重时需要广义相对论）。同时，这个核心理论还无法预测所有原子的确切质量，我们认为我们已经有了必要的方程，但还不能准确地计算出它们的解。一个理论越敢于做出可检验的预测，它就越有用；它逃过的检验“追杀”越多，我们对它的态度就会越认真。是的，我们只能测试“意识理论”所做出的一些预测，而不能检验它的所有预测，但所有物理学理论都是这样。所以，我们不要浪费时间唠叨那些我们无法检验的东西，而是去检验那些我们能够检验的东西吧！

总而言之，只要一个理论能预测你大脑中的哪些过程是有意识的，那它就是一个预测物理系统是否有意识（这是“相当难的问题”）的科学理论。但是，对图8-1中层级较高的问题来说，“可否检验”这个问题更加模棱两可。说一个理论能预测你对红色的主观体验，这究竟是什么意思呢？如何用实验来检验一个解释意识起源的理论呢？这些问题很难，但这并不意味着我们应该逃避它们，下面我们会再次回到这些问题上。在面对几个彼此相关的未决问题时，我认为先解决最简单的那个才是明智的方法。出于这个原因，我在麻省理工学院进行的意识研究主要聚焦在图8-1中的金字塔最底层的问题上。最近，我和普林斯顿大学的物理学家皮耶·霍特（Piet Hut）说起这个策略，他开玩笑说，如果有人想要从上往下建造金字塔，这就好像在发现薛定谔方程之前就开始担心如何诠释量子力学一样，因为薛定谔方程是我们预测实验结果的数学基础。

在讨论“什么东西超出了科学的范畴”时，请记住一件很重要的事：答案通常取决于讨论的时间。400年前，伽利略被物理学的数学基础深深震撼了，于是他把大自然描述成“一本用数学语言写就的书”。诚然，如果他扔下一颗葡萄和一颗榛子，就能准确地预测二者轨迹的形状以及它们何时会落到地面，但他不知道为什么葡萄是绿色的，而榛子是棕色的，以及为什么葡萄是柔软的，而榛子是坚硬的。这些知识超越了当时的科学水平，但这只是暂时的。1861年，詹姆斯·麦克斯韦（James Maxwell）发现了后来以他命名的麦克斯韦方程，从那以后，光和颜色显然也可以从数学上来理解。1925年，前文提到过的薛定谔方程诞生了。我们知道它可以用来预测物质的所有性质，包括软度或硬度。理论上的进步让科学可以做出更多预测；与此同时，技术进步让更多检验实验成为可能。我们今天用望远镜、显微镜和粒子对撞机所研究的几乎一切东西都超越了过去的科学范畴。换句话说，自伽利略时代以来，科学的疆域已经大幅扩大，从一小撮现象到大部分现象，甚至涵盖了亚原子粒子、黑洞和138亿年前的宇宙起源。这就产生了一个问题：还剩下些什么呢？

对于我来说，意识就像是房间里的大象，不容忽视。你知道自己拥有意识，而且，这是你唯一百分之百肯定的事情，其他一切都是推论，就像笛卡尔在伽利略时代所指出的那样。理论和技术的进步最终会不会将意识也坚定地带入科学的疆域？我们不知道答案，就像伽利略不知道人类是否能理解光线和物质一样⁽⁷³⁾。只有一件事情是肯定的，那就是：如果我们不去尝试，那就一定不会成功！这就是我和世界各地许多科学家努力构建和检验意识理论的原因。

意识的实验线索

我们的大脑中正运行着大量的信息处理过程。其中哪些有意识，哪些没有？在探索意识理论及其预测之前，让我们先来看看目前的实验结果告诉了我们一些什么信息。我们讨论的范围很广，既包括传统的低技术水平实验和非技术性的观察，也包括最先进的大脑测量实验。

哪些行为是有意识的

如果你在脑海中计算17和32的乘积，你能意识到自己的大脑内进行着一些计算步骤。假设我给你看一张爱因斯坦的肖像，然后请你说出画中人物是谁，正如我们在第2章中看到的那样，这其实也是一个计算任务，你的大脑正在计算一个函数，这个函数的输入数据是由你的眼睛传输而来的大量像素色彩信息，其输出是控制你嘴部和声带肌肉的信息。计算机科学家把这两个任务称为“图像分类”（imageclassification）和“语音合成”（speech synthesis）。虽然这个计算比心算乘法的任务要复杂得多，但你却可以做得更快，似乎不费吹灰之力，也意识不到你完成这个任务的种种细节。你主观上体验到的只是：你看着画面，体验到一种“认出来”的感觉，然后听见自己说出“爱因斯坦”这4个字。

心理学家早就知道人类可以无意识地执行各种各样的任务和行为，从眨眼反射到呼吸、伸手、抓住物体和保持平衡。通常情况下，你能意识到你做了什么，但不知道你是如何做到的。然而，涉及陌生环境、自我控制、复杂逻辑规则、抽象推理或语言操纵的行为则往往是有意识的。它们被称为“意识的行为关联”（behavioral correlates ofconsciousness），与心理学家所谓的“系统2”⁽⁷⁴⁾密切相关。^[5]人们还知道，你可以通过大量的练习，将许多例行公事转化为无意识的行为，^[6]例如步行、游泳、骑自行车、开车、打字、刮胡子、绑鞋带、玩电脑游戏和弹钢琴。事实上，众所周知，当某个领域的专家处于“心流”状态时，他们就能更好地完成自己擅长的事情。此时，他们只会意识到高层级的事情，而对低层级的细节毫无意识。比如，在你读这句话时，可以试着有意识地去注意每个字，就像你儿时学认字的时候一样。你是否感觉到，这样读书的速度与你只意识到词语层面和思想层面的读法相比，简直慢得像蜗牛一样！