生命3.0：人工智能时代，人类的进化与重生

人造的意识会觉得自己拥有自由意志吗？哲学家花了几千年的时间来讨论人类是否拥有自由意志，却没有达成丝毫共识。^[30]但值得注意的是，我在这里提出的却是一个更容易解决的不同问题。请让我试着说服你。这个问题的答案很简单，那就是：“是的，任何有意识的决策者，无论是生物还是人造物，都会在主观上感觉自己是拥有自由意志的。”所谓的决策落在下面两个极端之间：

◦ 你完全知晓自己为什么做出了某个决策；

◦ 你完全不知道自己为什么做出了某个决策，就感觉好像是你心血来潮做出的随机决定一样。

自由意志的讨论通常围绕着如何把目标导向的决策行为与物理定律统一起来。也就是说，“我约她出来是因为我真的很喜欢她”和“我的粒子服从物理定律运动”这两个解释哪一个才是正确的？但根据我们在第7章的讨论，两者都是正确的：目标导向行为可以从无目标的确定性物理定律中涌现出来。更具体地说，当一个系统（大脑或人工智能）做出上述第一种类型的决定时，它是用某种确定性的算法来计算出决定；

而它之所以感觉是自己做出了决定，是因为在计算要做什么时，它确实做出了决定。此外，正如赛斯·劳埃德所强调的那样^[31]，在计算机科学中有一个这样著名的定理：要确定某个计算过程的结果，最快的方法就是实际执行一下这个计算，除此之外没有更快的方法了。这意味着，你想在短于1秒的时间内想出你1秒后会做出什么决定，通常是不可能的事情。这个事实有助于强化你认为自己拥有自由意志的感觉。相反，当一个系统（大脑或人工智能）做出上述第二种类型的决定时，它只是根据某种类似随机数发生器的子系统来做出决定。大脑和计算机都很容易通过放大噪声的方法来产生随机数。因此，无论所做的决策落在第一种和第二种之间的何处，无论是生物意识还是人造意识都会感觉自己是拥有自由意志的，因为它们都感觉是自己做出了决定，并且，在它们彻底思考完成之前，没有谁能百分之分预测到，它们要做出什么决定。

有些人告诉我，他们觉得因果关系贬低了人的地位，使人类的思维过程毫无意义，感觉自己“只是机器而已”。我觉得这种消极的看法是荒谬和不必要的。首先，我认为人类大脑是我们已知的宇宙中最令人叹为观止、最精巧复杂的物理实体，所以，说人脑“只是机器而已”是不恰当的。其次，他们还想要什么选择呢？难道他们不想让自己的思维过程（由大脑进行的计算）来做出他们自己的决定吗？他们对自由意志的主观体验就是他们的计算过程从内部所体会到的感觉：在计算完成之前，没人知道计算的结果。这就是“计算即决策”的含义。

意义

在结束之际，让我们回到这本书的起点：我们希望生命有一个怎样的未来？我们在前一章看到，全球各地的不同文化都希望未来是充满积极体验的，但是，到底什么体验算是积极的？如何在不同的生命形式之间进行权衡？这些问题引发了各抒己见的争议。但是，我们不要被争议蒙蔽了双眼，忽视了房间里的大象：如果连体验都没有（也就是说没有意识），那积极的体验也就不复存在。换句话说，如果没有意识，就不存在快乐、善良、美丽、意义和目标，是巨大的浪费。这意味着当人们追问生命的意义，仿佛宇宙的职责就是为我们的存在赋予意义时，其实他们本末倒置了：并不是我们的宇宙将意义赋予了有意识的实体，而是有意识的实体将意义赋予了我们的宇宙。因此，我们对未来的首要希望应该是在我们的宇宙中保存并尽量扩大生物意识或人造意识，而不是将它赶尽杀绝。

如果我们在这件事上成功了，那么，与更聪明的机器共存会让我们人类产生什么样的感觉呢？人工智能势不可挡的崛起会不会让你感到困扰？如果会，为什么？在第3章，我们看到只要政策允许，人工智能驱动的技术应该很容易满足我们的基本需求，例如安全和基本收入。但是，你依然可能会担心，锦衣玉食、安居乐业、歌舞升平的日子是美中不足的。如果我们相信，人工智能一定能照顾好我们的基本需求和欲望，我们会不会多多少少觉得这样的生活就像动物园里的动物一样，缺乏意义和目标？

很长时间以来，人类通常把自我价值建立在“人类例外主义”（human exceptionalism）之上。人类例外主义就是说，人类是地球上最聪明的存在，因此是独特和优越的。人工智能的崛起将迫使我们放弃这种想法，变得更加谦虚。但是，即使没有人工智能，我们或许也会走上这条路，毕竟，固守傲慢的自命不凡，认为自己比其他存在（比如其他人、其他族群、其他物种）更优越，这种想法在过去曾招致了可怕的问题，理应退出历史舞台。确实，人类例外主义在过去酿成了悲剧，对人类未来的繁荣似乎也是不必要的。如果我们发现了一个和平的外星文明，它在科学和艺术等我们关心的一切事物上都比我们要先进得多，这可能并不会妨碍人们继续体验生活中的意义和目标。我们可以保留家人、朋友和广泛的社区，以及一切为我们带来意义和目标的活动。我希望到那时，弃我们而去的只有我们的傲慢。

在规划未来时，我们不仅要考虑自己生命的意义，还要考虑宇宙本身的意义。在这一点上，我最喜欢的两位物理学家史蒂文·温伯格（Steven Weinberg）和弗里曼·戴森表达了截然相反的观点。温伯格因在粒子物理学标准模型上的奠基性工作而获得诺贝尔物理学奖。他有一句著名的话^[32]：“我们对宇宙理解得越多，它就越显得毫无意义。”然而，正如我们在第6章中看到的那样，戴森的观点要乐观得多，虽然他也认同我们的宇宙是毫无意义的，但他相信生命正在让宇宙充满越来越多的意义；如果生命的种子成功地散播到整个宇宙，那未来一定是光明的。在1979年那篇重要论文的结尾，他说^[33]：“到底是温伯格的还是我的宇宙观更接近真相？过不了多久，我们就会知道答案了。”如果我们让地球生命走向灭绝，或让无意识的僵尸人工智能控制了宇宙，从而让宇宙回到永无止境的无意识状态，那毫无疑问，温伯格就大获全胜。

从这个角度来看，虽然我们在这本书中将注意力放在智能的未来上，但实际上，意识的未来更为重要，因为意识才是意义之所在。哲学家喜欢用拉丁语来区分智慧（“sapience”，用智能的方式思考问题的能力）与意识（“sentience”，主观上体验到感质的能力）。我们人类身为智人（Homo Sapiens），乃是周遭最聪明的存在。当我们做好准备，谦卑地迎接更加智慧的机器时，我建议咱们给自己起个新名字——意人（Homo sentiens）！

本章要点

◦ 关于“意识”，目前还没有无可争辩的定义。我使用的定义十分宽泛，并且不以人类为中心。我认为：意识＝主观体验。

◦ 人工智能是否拥有意识？这个问题归根结底是一些因人工智能崛起而引发的最棘手的伦理和哲学问题：人工智能能否感觉到痛苦？它们是否应该拥有权利？上传思想算不算主观上的自杀？如果未来的宇宙充满了人工智能，算不算终极的僵尸末日？

要理解智能，就必须回答三个关于意识的问题：“相当难的问题”“更难的问题”和“真难的问题”。第一个问题是预测哪些物理系统拥有意识；第二个问题是预测感质；第三个问题是物质为什么会产生意识。

“相当难的问题”是科学的，因为它可以预测哪些大脑过程拥有意识，而这样的理论是可以用实验来证实和证伪的。但我们目前尚不清楚科学要如何解决那两个更难一些的问题。

◦ 神经科学实验告诉我们，许多行为和脑区都是无意识的，大部分意识体验都是对大量无意识信息做出的“事后总结”。

◦ 将意识的预测从大脑推广到机器，需要一个理论。意识似乎不需要某种粒子或场，但需要某种具备自主性和整合性的信息处理过程，这样，整个系统才能拥有足够高的独立性，而它的组成部分却没有独立性。

意识感觉起来是“非物质”的，因为它具有双重的物质层面的独立性：如果意识是信息以某种复杂的方式处理的感觉，那么，只有信息处理的结构才是重要的，而处理信息的物质自身的结构则无足轻重。

◦ 如果人造意识是可能的，那么，与人类的体验比起来，人工智能的体验空间可能非常庞大，在感质和时间尺度上跨越极大的范围，但都能体会到自由意志的感觉。

◦ 由于没有意识就没有意义，因此，并不是我们的宇宙将意义赋予了有意识的实体，而是有意识的实体将意义赋予了我们的宇宙。

◦ 这意味着，当我们做好准备，谦卑地迎接更加智慧的机器时，我们可以从“意人”这个新名字（而不再是“智人”）中获得些许慰藉。

在探索了智能、目标和意义的起源与命运之后，我亲爱的读者，我们终于走到了这本书的最后篇章。那么，我们应该如何将这些思想转化为行动呢？做哪些具体的事情，才能创造出一个最好的未来？这正是我此时此刻扪心自问的问题。此时是2017年1月9日，我们刚刚在阿西洛马组织了一场关于人工智能的会议，而我正坐在从旧金山返回波士顿的飞机舷窗前。请允许我在本书的结尾向你分享一些自己的想法。

我的妻子梅亚正坐在我身边小睡，她为准备和组织这场会议度过了若干个不眠之夜。这是多么疯狂的一周！我们设法将本书中提到的几乎所有人都聚集在一起，参加我在书里提到过的波多黎各之后的后续会议。这些人包括埃隆·马斯克和拉里·佩奇这样的企业家，来自学术界和DeepMind、苹果、IBM、微软和百度这类公司的人工智能研究领袖，还包括经济学家、法律学者、哲学家和其他了不起的思想家（见图9-1）。这场会议的结果超出了我的最高预期。现在，我对生命的未来感到了长时间以来最高程度的乐观。让我在这篇后记中告诉你原因。

呱呱坠地

从我14岁知道核军备竞赛以来，就一直担心我们的技术力量比我们控制它的智慧增长得更快。因此，我决定在我的第一本书《穿越平行宇宙》中用一章的篇幅来讨论这个问题，尽管这本书主要是讲物理学。2014年伊始，我做了一个新年决定——在认真思考我个人能做些什么之前，我不再抱怨任何事情。在那一个月的新书巡回之旅中，我信守诺言，决定成立一家非营利性组织，专注于用技术管理来改善未来生命的境况。

为此，梅亚和我一起做了很多头脑风暴，她坚持说，我们应该起一个积极一些的名字，最好别是什么“厄运与绝望研究所”“让我们担心未来吧研究所”之类的。由于“人类未来研究所”这个名字已经存在

了，我们决定使用包罗万象的“未来生命研究所”。2014年1月22日，新书巡回来到了圣克鲁兹。当加州的夕阳在太平洋上徐徐落下时，我们和老朋友安东尼·阿奎尔共进晚餐，并说服他加入我们的队伍。他是我认识的最有智慧和最理想主义的人之一。十几年以来，他和我一起运营着另外一家非营利性组织（见网站http://fqxi.org）。

接下来的一个星期，我跟着新书巡回来到了伦敦。由于心中总是记挂着人工智能的未来，我找到了DeepMind公司联合创始人丹米斯·哈萨比斯。他慷慨地邀请我参观DeepMind的总部。自两年前的麻省理工学院一叙之后，他们取得的惊人成果，这让我很惊讶。谷歌以6.5亿美元的价格买下了他们的DeepMind公司。哈萨比斯宽敞的办公室里坐满了才气横溢的头脑，他们都追逐着哈萨比斯大胆的目标——解决智能问题，这让我打心眼里相信，成功是可能的。

注：2017年1月，我们在阿西洛马举行的会议是波多黎各会议的后续会议，本次会议将人工智能及其相关领域的许多研究者聚集在一起。这帮人真的很了不起。后排从左往右分别是：帕特里克·林（Patrick Lin）、丹尼尔·韦尔德（DanielWeld）、阿里尔·康恩（Ariel Conn）、南希·钱、汤姆·米切尔、雷·库兹韦尔、丹尼尔·杜威、玛格丽特·博登、彼得·诺维格（Peter Norvig）、尼克·海（Nick Hay）、莫舍·瓦尔迪（Moshe Vardi）、斯科特·西斯金德（ScottSiskind）、尼克·波斯特洛姆、弗朗西斯卡·罗西、谢恩·列格、曼纽拉·维罗索（Manuela Veloso）、戴维·马布尔（David Marble）、卡特娅·格蕾丝、伊拉克利·贝里泽（Irakli Beridze）、马蒂·特南鲍姆（Marty Tenenbaum）、吉尔·普拉特（Gill Pratt）、马丁·里斯（Martin Rees）、约舒亚·格林、马特·谢勒（Matt Scherer）、安杰拉·凯恩（Angela Kane）、阿玛拉·安杰莉卡（AmaraAngelica）、杰夫·莫尔（Jeff Mohr）、穆斯塔法·苏莱曼、史蒂夫·奥莫亨德罗（Steve Omohundro）、凯特·克劳福德（Kate Crawford）、维塔利克·布特林（Vitalik Buterin）、松尾丰（Yutaka Matsuo）、斯特凡诺·俄曼（StefanoErmon）、迈克尔·韦尔曼（Michael Wellman）、巴斯·斯托纳布林克（BasSteunebrink）、文德尔·华莱士、艾伦·达福（Allan Dafoe）、托比·奥德、托马斯·迪特里奇、丹尼尔·卡尼曼（Daniel Kahneman）、达里奥·阿莫德伊（Dario Amodei）、埃里克·德雷克斯勒（Eric Drexler）、托马索·波吉奥、埃里克·施密特（Eric Schmidt）、佩德罗·奥尔特加（Pedro Ortega）、戴维·利克（David Leake）、肖恩·奥黑格尔忒、欧文·埃文斯、扬·塔里安、安卡·德拉甘（Anca Dragan）、肖恩·勒加斯克（Sean Legassick）、托比·沃尔什（TobyWalsh）、彼得·阿萨罗（Peter Asaro）、凯·弗思·巴特菲尔德（Kay