生命3.0：人工智能时代，人类的进化与重生

宙。

鉴于这些结局好像都不怎么理想，我们迫切地需要知道意识到底是怎么一回事儿，将来的人工智能到底会怎样。

这并不是泰格马克自己在杞人忧天。我看美国上上下下，从学者到企业家和老百姓，现在对意识和人工智能的思考非常深入，主流媒体上也经常讨论，新研究、新思想层出不穷。

虽然中国人对人工智能的各种应用非常关心，也很了解，但对人的意识、人工智能的原理这些问题关心不够。我们有太多面向过去的思想家，他们总想用过去指导未来，但是未来世界的逻辑很可能跟过去很不一样。

到底什么是意识？人到底是一种什么样的机器？就算你觉得未来太遥远，只要你关心人，这些问题就会让你寝食难安。这就是现在世界上最聪明的大脑都在想的问题。而《生命3.0》这本书告诉你的大约就是目前已知最好的答案了。

重新定义生命

余 晨

易宝支付联合创始人，《看见未来》作者

法国思想家布莱兹·帕斯卡曾说：人只不过是一根芦苇，是自然界里最脆弱的东西；但他是一根会思想的芦苇。宇宙可以轻松地将人毁灭，一团雾气、一滴水都足以致人于死地。然而，纵使宇宙毁灭了人类，人类却仍然要比世界万物高贵得多。因为人知道自己终有一死，也了解宇宙的秉性和优势，而宇宙对此却一无所知。因而，人类全部的尊严就在于思想。

帕斯卡设计制造了历史上第一台机械计算器，为了纪念这项发明，一种计算机编程语言Pascal便以他命名。在计算机技术高速发展的今天，人类是否会被人工智能取代，我们是否还能捍卫思想的尊严，或许是这个时代最需要思考的问题。

迈克斯·泰格马克新著《生命3.0》便是这样一次思考。作者把广义的生命看作是一种能够自我复制的信息处理系统，物理结构是其硬件，行为和“算法”是其软件。1.0版的生命是以细菌为代表的简单生物阶段，其硬件和软件都是靠进化获得，行为则是完全固化的；2.0版的生命是以人类为代表的文化阶段，进化决定了我们的硬件，但我们可以自行设计软件，通过学习来获得知识、改变行为和优化“算法”；而3.0版的生命是以人工智能为代表的科技阶段，生命不仅可以自行设计软件，还可以自行设计硬件，由碳基变为硅基，最终摆脱进化的枷锁，让会思考的芦苇变得不再脆弱。但当生命变得面目全非时，我们还算是人类吗？人工智能的降临或许是宇宙创生以来最重要的事件，也有可能是人类的最后一项发明，或许会实现科技的乌托邦，也有可能带来人类的毁灭。无论如何，这是一场关于我们这个时代最重要的对话。

推荐序二

人工智能是会像马克·扎克伯格宣扬的那样造福人类生活，还是会像埃隆·马斯克警告的那样威胁人类生存？泰格马克全方位、系统深入地探讨了人工智能可能给人类文明带来的一系列深远影响，包括就业、经济、法律、伦理、政治、军事。也逐一列举分析了当优于人类的超级智能出现后可能带来的各种未来图景：超级智能是会带来自由主义或平等主义的乌托邦，成为能够控制整个人类社会的善意独裁者，或是增进人类幸福感的守护神，还是完全被人类所控制驾驭的公仆？超级智能会成为毁灭人类的征服者，还是会成为让我们引以为豪的新物种后裔？或许超级智能还未降临，人类就已经毁灭于核战争或环境危机等其他灾难。如果你关心这个星球未来的命运、人类的困境和希望、我们子孙世世代代的福祉，那么就应该认真读读这本书。

真正让这部著作从汗牛充栋的人工智能书籍中脱颖而出的，是泰格马克作为一位物理学家，从宇宙学的宏大视野和物理学第一性原理中，展示了未来生命和智能令人眼花缭乱的无限可能性。在物理学家看来，生命现象不过是粒子特殊的排列组合，生命通过从环境中汲取负熵来抵抗自然的熵增，通过让环境变得更混乱而维持自身的秩序和复杂度。物理定律的极限，决定了我们如何可以最大程度地利用宇宙的禀赋，实现生命的最大潜力。人类今天所能驾驭的物质和能量，只不过是宇宙所能够赋予我们全部资源的极其微小的零头。如果我们能深谋远虑地改进技术并计划周全地避免陷阱，便可以通过重组物质、能量和信息将生命最大化。未来的超级智能可以收割黑洞辐射和夸克引擎的巨大能量，逼近计算力的理论上限，以光速进行宇宙殖民，将现有的生物圈增长几十个数量级。生命在未来数十亿年时间内的美丽绽放，会远远超越我们祖先最不羁的梦想。

宇宙虽然可以轻易地毁灭人类，但事实是，宇宙通过我们人类才真正活了过来，并逐渐获得了自我意识，并非宇宙将意义赋予了有意识的实体，而是有意识的实体将意义赋予了宇宙。让有智能和意识的生命这束微弱的光，点亮这个冷漠荒芜的宇宙中无尽的黑暗，或许是我们的最高职责。

我们只看到了人工智能的冰山一角

我很高兴也很荣幸《生命3.0》这本书能在中国出版。在中国，人工智能的发展突飞猛进，目前已拥有许多世界顶尖的人工智能研究者和人工智能公司，这令我印象十分深刻。

从短期来看，这意味着中国已经遇到了我在第3章讨论的许多近期机遇和挑战。中国究竟会如何处理这些问题呢？我对这个问题兴致盎然。譬如说，我很高兴中国政府最近决定支持一项针对致命性自动化武器的禁令，这使得中国不仅仅在人工智能研发方面变得首屈一指，也成了促进人工智能有益运动的领军人。

从长期来看，我认为中国会扮演越来越重要的角色。我的个人经验告诉我，中国一定会出现极具天赋的研究者，因为在我带过的最优秀的研究生中，有许多都来自中国。目前在西方国家，很多时候，科学研究资金正遭遇停滞不前甚至日渐萎缩的困境，但中国却在科研方面（包括人工智能）投入了大量资金，即将赶超西方，成为人工智能领域的世界领跑者。

这会产生一个重要的结果：就是我在这本书中主要谈论的通用人工智能（Artificial General Intelligence，简称AGI）出现的可能性，这种人工智能在任何任务上都可以与人类智能相提并论。大多数人工智能研究者认为，通用人工智能会在短短几十年内发生。如果这是真的，我认为这将发生在中国。那么，有一件事情就会变得非常重要，那就是：你，我亲爱的中国读者，请开始认真思考，你想看到一个什么样的未来社会。正如我在这本书中所说，极好的可能性与巨大的风险同时存在。因此，想要实现好的结局，就必须认真斟酌后果，并思考如何才能平稳地实现目标，而不带来灾难。在这方面，中国拥有独特的机会，因为中国的长期计划能力远远超过大多数西方国家。此外，几千年的历史也能启发中国人看到同样遥远的未来，并能严肃地思考本书后半部分所聚焦的那些波澜壮阔的可能性。

中文版序

如今，距离《生命3.0》英文版的出版已有将近一年的时间。在这段时间里，发生着一件重要的事情，那就是：人们开始更加严肃认真地对待这本书的一个重要观点——人工智能可能会在几十年内变成现实，我们必须认真思考如何保证人工智能的安全性和有益性。其原因是，人工智能在各个方面都取得了史无前例的进展。我很欣慰地看到，译者汪婕舒能够在本书中加入我发给她的关于这些进展的最新内容，比如说AlphaZero的故事，它最近成功碾压了那些花了几十年时间来手工开发围棋软件和象棋软件的世界顶尖人工智能研究者。

过去，我们一直认为，智能是一种神秘的东西，只能存在于生物（特别是人类）身上。但是，从我作为一位物理学家的角度出发，智能只是运动的基本粒子处理信息的特殊过程，并没有一条物理定律说，“建造一台在各方面都比人类聪明的机器是不可能的”。这意味着，关于智能，我们只看到了冰山一角，我们还有巨大的潜力来开启潜伏在大自然中的全部智能，并用它来帮助人类实现繁荣昌盛。我认为，人工智能有可能成为人类有史以来最美好的事情，也可能成为最糟糕的事情。虽然我在《生命3.0》这本书中描述了许多你或爱或恨的未来场景，但最重要的问题并不是计较哪一种场景最有可能发生，而是思考我们想让哪一种场景成为现实，并且，需要哪些具体步骤才能最大限度地保证人类拥有一个欣欣向荣而非每况愈下的未来。我希望这本书能帮助你——我亲爱的中国读者厘清这个问题！

扫码获取“湛庐阅读”App，搜索“生命3.0”，

观看作者迈克斯·泰格马克TED演讲视频。

目 录

赞誉
推荐序一 如何正确地关心人类命运
推荐序二 重新定义生命
中文版序 我们只看到了人工智能的冰山一角
引言 欧米茄传奇
01 欢迎参与我们这个时代最重要的对话
02 物质孕育智能
03 不远的未来：科技大突破、故障、法律、武器和就业
04 智能爆炸？
05 劫后余波，未知的世界：接下来的1万年
06 挑战宇宙禀赋：接下来的10亿年以及以后
07 目标
08 意识
后记 未来生命研究所团队风云传
注释
致谢

欧米茄团队是这家公司的灵魂。虽然该公司其他部门通过开发各种狭义人工智能（narrow AI）的商业应用赚得盆满钵满，让公司得以按部就班地运转下去，但欧米茄团队却一直秉承并追寻着公司CEO的梦想：建造通用人工智能（Artificial General Intelligence，简称AGI）。因此，其他部门的员工都亲切地称他们为“欧米茄”，并把他们视为一群不切实际的梦想家，因为他们似乎总是与自己的目标差着几十年的距离。但是，人们喜欢纵容这些人，因为欧米茄团队的前沿工作为公司带来了声望，他们为此感到高兴。同时，欧米茄团队偶尔会改进一些算法供其他部门使用，这让他们十分感激。

然而，其他部门的同事不知道的是，欧米茄团队之所以精心打造自己的形象，是为了隐藏一个秘密：他们马上就要启动人类历史上最勇敢无畏的计划了。那位极富个人魅力的CEO亲自挑选了这些人，不只是为了培养杰出的研究人员，还为了实现他帮助全人类的雄心壮志和坚决承诺。他告诫欧米茄团队，这个计划极端危险，如果被不怀好意的人发现了，他们就会不择手段地甚至实施绑架来制止这个计划，或者盗走他们的代码。但是，这些人已经全身心投入其中了。他们的理由和当年众多世界顶尖物理学家加入“曼哈顿计划”开发核武器的原因差不多：因为他们都坚信，如果自己不率先做出来，就会有其他不那么高尚的人捷足先登。

欧米茄团队建造的人工智能昵称叫“普罗米修

斯”（Prometheus），它一天比一天强大。诚然，它的认知能力在社交技能等许多方面还远远落后于人类，但欧米茄团队竭尽全力让它在一个任务上表现超凡，这个任务就是编写人工智能系统。他们之所以选择这个计划，是因为他们相信英国数学家欧文·古德在1965年提出的“智能爆炸”⁽¹⁾理论。古德说道：

引言

欧米茄传奇