生命3.0：人工智能时代，人类的进化与重生

图8-5 系统不同部分之间彼此“了解”的程度

注：如果一个物理过程随着时间的推移能将一个系统的初始状态转变为一个新状态，那么，它的“信息整合度”Φ度量的是它不能将该过程分解为多个独立部分的程度。如果每个部分的未来状态只取决于它自己的过去状态，而不取决于其他部分的行为，那么Φ=0。因此，图中显示的这个系统实际上是由两个互相无任何交流的独立系统组成的。

我第一次遇到托诺尼是2014年在波多黎各举行的一次物理学会议上。我邀请了他和科赫来参加会议。他给我的印象就像是伽利略和达芬奇这种来自文艺复兴时期的人。他安静的风度无法掩饰他在艺术、文学和哲学方面惊人的造诣，而我对他的烹饪技艺更是早有耳闻。一位游历各国的电视新闻记者告诉我，托诺尼在短短几分钟内就拌出了他这辈子尝过的最美味的沙拉。我很快就意识到，在他那轻柔的言行举止背后是一个无所畏惧的智者。他总是循着证据的脚步，从不顾任何偏见与禁忌。正如伽利略面对地心说的强权施压时仍然坚持自己的运动数学理论一样，托诺尼也发明了迄今为止最为精确的意识数学理论——“信息整合理论”（Integrated Information Theory，简称IIT）。

数十年来我一直认为，意识是信息以某些复杂的方式进行处理时产生的感觉^[17]。信息整合理论证明了这一观点，并将模棱两可的短语“某些复杂的方式”替换为一个更精确的定义：信息处理过程需要整合，即，Φ要足够大。托诺尼对此的论证既简洁又有力，他说：一个系统要产生意识，就必须整合成一个统一的整体，因为假如它由两个独立的部分组成，那感觉起来就会是两个单独的意识，而不是一个统一的意识。换句话说，不管是在大脑还是计算机中，如果一个有意识的部分不能与其他部分进行交流，那么其他部分就不能成为它主观体验的一部分。

托诺尼和他的同事们用脑电图测量了大脑对磁刺激的反应，从而测量出了一个简化的Φ值。他们的“意识探测器”卓有成效：当病人醒着或做梦时，它能检测出他们是有意识的；当他们被麻醉或处于深度睡眠时，它能检测出他们处于无意识的状态。意识探测器甚至在两名不能移动也不能用正常手段进行交流的“闭锁综合征”患者脑中发现了意识的痕迹^[18]。所以，这个技术对医生来说很有应用前景，因为他们可以用它来检测患者是否拥有意识。

夯实意识的物理学基础

信息整合理论只适用于那些状态数量有限的离散系统，例如计算机内存中以比特形式存在的信息，或者只有开和关两种状态的简化神经元。不幸的是，这意味着信息整合理论对大多数传统物理系统都不适用，因为这些系统的变化是连续的，比如，粒子的位置或磁场的强度，它们可能的值有无限多^[19]。如果你想把信息整合理论的方程应用在这样的系统中，你通常会得到一个无用的结果——Φ无穷大。量子力学系统可以是离散的，但原始的信息整合理论并不适用于量子力学系统。那么，我们如何才能将信息整合理论和其他基于信息的意识理论固定在一个坚实的物理基础之上呢？

让我们以第2章的知识为基础。在第2章中，我们了解了物质如何涌现出与信息相关的性质。我们也看到了，一个物体要具备存储信息的能力，就必须拥有多个能长时间保持的状态。我们还看到，物体要成为计算质，还需要一些复杂的动态过程，需要由物理定律来提高它的复杂度，从而具备执行任意信息处理过程的能力。最后，我们还看到了神经网络为何拥有强大的学习能力，它只要遵循物理学定律就可以对自己进行重新排列，日益提高执行预期计算的能力。现在，我们还要问一个问题：是什么让物质具备了主观体验？换句话说，在什么情况下，物质能做到以下4件事？

◦ 记忆；

◦ 计算；

◦ 学习；

◦ 体验。

我们在第2章探讨了前三件事，现在让我们来探讨一下第四件事。马格勒斯和托福利生造了“计算质”这个词，即用来描述能执行任意计算过程的物质。我也想生造一个词叫作“意识质”（sentronium），用来描述拥有主观体验，也就是拥有意识的最一般的物质⁽⁷⁵⁾。

然而，既然意识是一种物理现象，为何它感觉起来如此“非物质”呢？为什么它感觉起来像是独立于物质层面而存在的呢？我认为原因是，它确实是相当独立于物质层面而存在的，因为它只是物质中的一种模式！在第2章中，我们已经看到了许多独立于物质层面存在的漂亮例子，比如波、记忆和计算。我们也看到了它们并不只是各个部分的简单加总，而是出现了独立于其组成构件的涌现现象，仿佛拥有自己的生命一样。譬如说，未来的模拟智能或电脑游戏角色可能不知道自己是运行在Windows、Mac OS、安卓手机，还是别的什么操作系统上，因为它是独立于这些物质层面的。它也无法得知自己所栖身的计算机的逻辑门是由晶体管、光学电路，还是别的什么硬件实现的。甚至于，它们所依赖的基本物理定律是什么也无关紧要，只要这些定律允许通用计算机的存在即可。

总而言之，我认为意识是一种感觉起来十分“非物质”的物理现象，因为它就像波和计算一样，它的性质是独立于它的物质层面而存在的。这在逻辑上也符合“意识即信息”的思想。这就将我们引向了一个我十分青睐的激进思想：假如意识就是信息进行某些处理时的感觉，那它一定是独立于物质层面的；物质自身的结构并不重要，重要的是信息处理过程的结构。换句话说，意识具备双重“物质层面的独立性”。

正如我们所看到的那样，物理学描述了粒子在时空中移动的模式。如果粒子的排列遵循一定的原则，就会产生独立于粒子层面的涌现现象，并产生完全不同的感觉。计算质中的信息处理过程就是一个很好的例子。但我们现在已经把这个想法上升到了另一个层面：如果信息处理本身也服从某些原则，就会产生一个更高层次的涌现现象，也就是我们称之为“意识”的现象。这使得你的意识体验不是更上一层楼，而是更上了两层楼。难怪你的智能感觉起来一点都不像实实在在的物质。

这带来了一个问题：信息处理过程要产生意识，需要遵循哪些原则呢？我不想假装自己知道保证产生意识的充分条件，但我打赌，一定有下面这4个必要条件，我对此也进行过研究，如表8-1。

正如我所说，我认为意识是信息以某种方式进行处理时的感觉。这意味着，一个系统想要拥有意识，就必须具备存储信息和处理信息的能力，这就是前两个原则。请注意，记忆并不需要持续很长时间。我推荐你观看介绍英国指挥家克莱夫·韦尔林（Clive Wearing）的一个感人视频：虽然他的记忆短于一分钟，但他看起来依然是完全有意识的^[20]。我还认为，一个系统想要产生意识，还必须与世界的其他部分之间具备相当大的独立性，否则它在主观上不会觉得自己是一个独立的存在。最后，正如朱利奥·托诺尼所说，我认为一个系统要产生意识，还必须整合成一个统一的整体，因为，假如它由两个独立的部分组成，感觉起来就会像两个单独的意识实体，而不是一个。前三项原则意味着自主性，也就是说，这个系统能够在不受外界干扰的情况下保持信息和处理信息，决定自己的未来。如果一个系统具备全部4个原则，就意味着这个系统是独立自主的，但组成它的各部分却不是。

如果这4个原则是正确的，那我们接下来的工作就很清楚了：我们需要寻找一个能够体现和验证这4个原则，并且在数学上足够严谨的理论。我们还需要确定是否还需要其他原则。无论信息整合理论是否正确，研究者都应该尝试寻找有没有可与之相争的其他理论，并设计更好的实验来检验它们。

意识之争

我们已经讨论了一个持续良久的争议问题：意识研究是不是毫不科学、浪费时间的废话？此外，最近在意识研究的最前沿还出现了一些争议，我认为其中有一些非常有启发性。让我们一起来探讨一下。

朱利奥·托诺尼的信息整合理论毁誉参半，既有人赞扬，也有人批评，其中一些批评相当尖锐。斯科特·阿伦森最近在他的博客上这样说道：

在我看来，信息整合理论是错误的，绝对是错的，错就错在它的核心。但这已足以让它在所有有关意识的数学理论中占据前2%的地位了。其他几乎所有意识理论在我看来都是模糊空虚和模棱两可的，只能走向谬误的结局。^[21]

不过，我必须承认，阿伦森和托诺尼两个人都十分谦逊。最近在纽约大学举行的一场研讨会上，他们相遇了。他们礼貌地倾听对方的论点，丝毫没有恶语相向。阿伦森说，某些简单的逻辑门网络具有极高的信息整合度（Φ），而它们显然没有意识，因此信息整合理论是错误的。^[22]托诺尼则反驳说，如果它们真的被建造出来，就会产生意识。托诺尼认为，阿伦森的假设是一种以人类为中心的偏见，就好像一个屠夫声称动物不可能有意识，因为它们不会说话并且与人类截然不同一样。

我的分析是（他们二人都同意我的分析），他们的分歧在于信息整合到底是意识的必要条件还是充分条件。阿伦森同意前者，托诺尼赞同后者。而后者显然是一个更强、更易引起争议的主张，我希望它能很快得到实验的检验。

信息整合理论还有一个颇有争议的论断：今天的计算机架构不可能产生意识，因为它们的逻辑门连接方式的信息整合度非常低^[23]。换句话说，如果在未来，你将你自己上传到一个能模拟你的所有神经元和突触的高性能机器人中，那么，即便这个数字克隆体与你非常相似，甚至其言行举止也和你完全一样，但在托诺尼看来，它只会是一个没有主观体验的无意识“僵尸”。如果你上传自己的目的是为了追求在主观上永生的话，那这个消息无疑会令你大失所望⁽⁷⁶⁾。这个说法遭到了大卫·查尔默斯和人工智能教授默里·沙纳汉（Murray Shanahan）的挑战^[24]。他们说，如果你用一种能够完美模拟大脑回路的假想电子硬件来逐步替换掉你大脑中的神经回路，将会发生什么事情？虽然你的行为不会受到这个替换过程的影响（因为我们假设这种硬件可以完美地模拟大脑），但根据托诺尼的说法，你的体验将会从初始的有意识状态变为无意识状态。但是，在替换的起点和终点之间会有什么感觉呢？当负责你上半部分视觉的意识体验的脑区被替换掉之后，你是否会像“盲视”^[25]患者那样，感觉一部分视野突然消失了，但仍然诡秘莫测地知道那里有什么东西？这个说法令人不安，因为如果你能意识到发生了变化，那你也能在被别人问到的时候讲述个中不同。但根据该假设，你的行为是不会改变的。那么，符合该假设又合乎逻辑的唯一可能性就是，在某些东西从你的意识中消失的瞬间，你的思想也被神秘地改变了，导致的结果就是，要么它让你谎称你的体验并未改变，要么它令你忘记事情发生了变化。

然而沙纳汉也承认，如果一个理论声称你可以无意识地展现出有意识的行为，那它就可以解决上一段所说的那个“逐步替换”的批评。因此，你可能会总结说“拥有意识”和“展现出有意识的行为”是同一回事，所以，只有外部可观察到的行为才是重要的。然而，这种想法可能会让你落入一个陷阱，可能会做出“人做梦时没有意识”的预测，但你知道这不是真的。

信息整合理论的第三个争议是，一个有意识的实体是否可以由各自拥有独立意识的部分组成。譬如说，社会能否在人们不失去自己意识的情况下获得意识？一个有意识的大脑是否可以包含一些拥有独立意识的组成部分？对这些问题，信息整合理论的回答是坚定的“不”，但不是所有人都对此心服口服。比如，一些因病变而导致左右半脑交流程度极度降低的病人会产生“异手症”（alien hand syndrome）。例如，他们的右脑会让左手做一些事情，但病人声称这不是自己做的，或者自己不理解这是怎么做到的。有时候，这种症状会严重到他们会用另一只手来约束他们的“异手”。我们如何确定他们的大脑中没有两个不同的意识，一个在左半脑，一个在右半脑，左半脑的意识不能说话，而右半脑的意识正在说话并声称自己代表两个半脑？想象一下，假如未来有一种技术可以将两个人的大脑直接连接起来，并逐步增强二者之间的交流，使脑间交流的效率提升到脑内交流那样高效。会不会有一个时刻，两个人的独立意识突然消失，取而代之的是信息整合理论预测的单一而统一的意识？又或者，这个过渡会不会是渐进的，使得两个独立的意识在一段时间里以某种形式共同存在，甚至出现共享体验的现象？

还有一个迷人的问题是，实验是否低估了我们能意识到的东西？我们在前面已经看到，虽然我们觉得我们在视觉上能意识到大量的信息，包括色彩、形状、物体以及我们面前的万事万物，但实验表明，我们能记住和讲出来的比例小之又小^[26]。一些研究者试图解释这个矛盾。他们认为有时候我们可能会对某些东西“产生意识但是无法读取”，也就是说，虽然我们对某些东西拥有主观体验，但它们太过复杂，以至于无法容纳入我们的工作记忆以备后来使用。^[27]比如，当你经历“无意视盲”（inattentional blindness）现象时，会由于分心而注意不到摆在你眼前的东西，但这并不意味着你对该物体缺乏有意识的视觉体验，只是说它没有被存储入你的工作记忆中。这是否应该算作“遗忘”而不是“视盲”呢？有些人认为，我们不应该相信人们嘴上说出来的体验，但还有一些研究人员拒绝接受这种观点，并警告其可能带来的引申含义。比如，默里·沙纳汉认为，我们可以假想在一个临床试验中，病人报告说一种神奇新药完全缓解了他们的疼痛，但政府却拒绝接受并声称：“病人只是觉得他们不疼了而已。多亏了神经科学，我们才不会上当。”然而，还有一种相反的假想情况是，当一些病人在手术过程中意外醒来，医生只好让他们服药，好让他们忘记这段痛苦的经历。如果这些病人在事后声称自己没有在手术中经历痛苦，我们是否应该相信他们？^[28]

人工智能的意识是什么感觉

如果在未来，某个人工智能系统产生了意识，那它在主观上会体验到什么呢？这是“更难的问题”的核心，迫使我们来到了图8-1中描绘的第二层。目前，我们不仅缺乏回答这个问题的理论，而且我们不确定它有没有合乎逻辑的答案。毕竟，我们甚至不知道令人满意的答案应该是什么样。你要如何向一个天生的盲人解释红色是什么样子的呢？

幸运的是，尽管我们目前无法给出完整的答案，但我们可以给出答案的一部分。一个研究人类感官系统的智能外星人可能会推断出：色彩就是一种与二维表面（我们的视野）上每个点的感觉相关联的感质；声音感觉起来不局限在空间的某个局部区域；疼痛是一种与身体不同部位的感觉相关联的感质。如果它们发现我们的视网膜有三种光敏视锥细胞，就可以推断我们能体验到三原色，并且，其他所有颜色的感质都是它们三者组合而成。通过测量神经元在大脑中传递信息所需的时间，它们可以总结说，人类每秒只会经历大约10次有意识的想法或知觉，并且，当人类在电视上观看每秒24帧的电影时，人类意识不到这只是一系列静止的图像，而是将其感知为连续的动作。通过测量肾上腺素释放到血液中的速度以及分解所需的时间，它们能够预测我们会在几秒钟后感受到愤怒的爆发，以及这个愤怒会持续几分钟。

运用类似物理学的论点，我们可以对“人工智能意识有何感觉”这一问题的某些方面进行一些有理有据的猜测。首先，与我们人类的体验相比，人工智能的体验空间可能是巨大的。我们的每一种感觉器官对应着一种感质，但人工智能的传感器和信息内部表征的种类可能多得多，所以，我们必须避免假设“做人工智能的感觉和做人的感觉差不多”。

其次，一个人脑大小的人工智能的意识主体每秒拥有的体验可能比我们人类多几百万倍，因为电磁信号以光速传播，比神经元信号快数百万倍。然而，正如我们在第4章看到的那样，人工智能的尺寸越大，它产生全局思维的速度就越慢，因为信息在各部分之间流动的时间更长。因此我们预计，一个地球大小的“盖亚”人工智能每秒钟大约只能产生10个意识体验，和人类差不多；而一个星系大小的人工智能每10万年才能产生一个全局思维。所以，就算我们的宇宙拥有了意识，到目前为止，它所产生的体验也不会超过100个！这会促使大型人工智能将计算过程委派给尽可能小的子系统，以加快速度，就像我们的意识智能系统将眨眼反射委派给一个小而快的无意识子系统一样。虽然我们前面已经看到人脑中有意识的信息处理过程似乎只是一个巨大的无意识的冰山的一角，但我们有理由相信，对未来的人工智能来说，情况可能会更加极端：如果它拥有一个单一的意识，那其中发生的绝大部分信息处理过程可能都是无意识的。此外，虽然它的意识体验可能非常复杂，但与其内部较小部分的快速活动相比，它们就像蜗牛一样慢。

这使得前面提到的一个争议变得更加尖锐了，这个争议就是：意识实体的组成部分是否也可以拥有独立的意识？信息整合理论的预测是“不可以”。这意味着，如果未来一个巨大的人工智能拥有了意识，那么，它的几乎所有信息处理过程都是无意识的。这也意味着，如果一个由较小人工智能组成的文明突然提升了其交流能力，从而涌现出了一个有意识的蜂群智能（hive mind），那么，那些速度更快的个体意识就会突然消失。然而，如果信息整合理论的预测是错误的，那么，蜂群心智就可以与那些较小的意识心智共存。的确，你甚至可以想象，意识可能组成了一个嵌套式的层级结构，从微观尺度一直嵌套到宏观的宇宙尺度。

正如我们前面所看到的那样，我们人脑中的无意识信息处理过程似乎与心理学家所谓的“系统1”有关，也就是不费力气、快速自动的思维方式。^[29]比如，你的系统1可能会告诉你的意识，经过它对视觉输入数据进行高度复杂的分析后，确定你的好朋友已经来到了你的面前，但它不会告诉你这个计算是如何进行的。如果事实证明系统与意识之间的这种联系是有效的，那我们会忍不住将这个术语推广到人工智能，给人工智能也定义一个系统1，也就是所有委派给无意识子单元的快速程式化任务。而那些需要花费力气、缓慢且受控的全局思考过程（如果有意识的话），就可以称为人工智能的系统2。我们人类还拥有一种意识体验，我称为“系统0”，那就是原始而被动的感知，也就是当我们坐着不动或什么也不想，只是静静观察周遭世界时体验到的感觉。系统0、系统1和系统2的复杂程度似乎一个比一个高，但令人惊讶的是，系统0和系统2似乎都有意识，而只有中间的系统1是无意识的。对此，信息整合理论解释说，系统0中的原始感官信息存储在信息整合度非常高的网格状大脑结构中；系统2的整合度也很高，因为它拥有反馈回路，在其中，你某一时刻意识到的所有信息都能影响你未来的大脑状态。然而，正是这种“意识网格”的预测引发了前面提到的斯科特·阿伦森对信息整合理论的批评。总而言之，如果一个理论能解决“相当难的问题”，而它又能通过严格的实验验证，从而使我们开始认真对待它的预测，那么，它也将大大缩小“未来有意识的人工智能可能体验到什么”这一“更难的问题”的选项范围。

我们主观体验的某些方面显然可以追溯到人类的进化，例如与自我保护和繁殖有关的情绪欲望，比如吃东西、喝水、避免被杀等。这意味着创造一个无法体会饥饿、口渴、恐惧和性欲这些感质的人工智能应该是可能的。正如我们在第7章看到的那样，如果一个高度智能的人工智能被设计出来并拥有一个野心勃勃的目标，不管这个目标是什么，那它就可能产生自我保护的行为，以便能够实现它的目标。但是，如果它们是人工智能社会的一部分，那它们在面对死亡时可能会缺乏人类那样强烈的恐惧，因为它们只需将自己备份一下。那么，即使它被消灭，失去的东西也并不多，最多是最近一次备份点到现在为止累积的记忆而已。此外，人工智能之间可以随意复制信息和软件，这可能会削弱个性，而个性正是人类意识的特色，如果我与你事无巨细地共享着记忆和能力，那你和我之间还有什么差别呢？所以，一群相距不远的人工智能可能会感觉它们是同一个生物，拥有同一个蜂群智能。