生命3.0：人工智能时代，人类的进化与重生

让我们给“超级智能机器”（ultraintelligentmachine）下一个定义，那就是：一台能超越任何人（无论这个人多么聪明）的所有智力活动的机器。由于设计机器也属于这些智力活动中的一种，因此，一台超级智能机器就能设计出更好的机器；那么，毫无疑问会出现一种“智能爆炸”，到那时，人类的智能会被远远甩在后面。于是，第一台超级智能机器就会成为人类最后一个发明，只要它足够驯良，并告诉人类如何控制它就行。

欧米茄团队认为，只要他们能让这个不断迭代的“自我改善”过程持续下去，那么最终，这台机器就会变得非常聪明，足以自学其他有用的人类技能。

第一个100万美元

一个星期五的早晨9点钟整，欧米茄团队决定启动这个计划。在一间闲人免进的巨大空调房间内，层层叠叠的架子排成长列。普罗米修斯就在这一排排为它“量身定制”的计算机集群中嗡嗡鸣响。为了安全起见，它没有接入互联网。不过，它在本地存储着一份包含互联网大部分内容的副本作为训练数据，以便从中学习⁽²⁾，这些数据来自各大知识汇集网站及社交平台数据库。欧米茄团队挑选这个时间点是为了可以不受打扰地工作：亲朋好友都以为他们参加公司的周末拓展活动去了。办公室的小厨房里塞满了微波食品和提神饮料。一切准备就绪。

启动伊始，普罗米修斯在编写人工智能系统上的表现还是比人类略逊一筹，但很快，这个缺点就被它极快的速度所弥补了。当欧米茄团队正猛灌红牛时，普罗米修斯也在以破竹之势解决着问题。如果换算成人类需要的时间，那得几千年之久。到早上10点钟，普罗米修斯已经完成了对自身的第一次迭代。这个2.0版本虽然比过去稍微好一点，但还是比不上人类。然而，到了下午2点钟，当普罗米修斯迭代到5.0版本时，欧米茄团队惊呆了：它已经大大超越了他们的预期，而且它进步的速度似有加快的迹象。夜幕降临时，他们决定用普罗米修斯10.0版本来启动计划的第二阶段：赚钱。

欧米茄团队的第一个目标是亚马逊的MTurk⁽³⁾。这是一个众包网络市场，于2005年上线后，发展十分迅速，很快就聚集了成千上万来自全球各地的人。他们夜以继日地奏出了一支支“HIT”奏鸣曲——HIT指的是“人类智力任务”（Human Intelligence Tasks），范围十分广泛，从音频录制到图像分类和网页描述撰写，应有尽有，但它们都有一个共同点：只要你完成得足够好，没人在乎你是不是人工智能。对于其中大约一半的任务，普罗米修斯10.0版本完成得都还算可以。欧米茄团队让普罗米修斯用狭义人工智能设计出了一个简洁的软件模块，专门用于处理这些任务，但除此之外，这个模块什么也干不了。接着，他们把这个模块上传到了亚马逊的网络服务器上，这是一个可以运行虚拟机的云计算平台。在这个云平台上，他们租了多少虚拟机，就可以运行多少虚拟机。欧米茄团队在亚马逊云计算服务上每花费一美元，都能从MTurk上赚回超过两美元的价值。亚马逊一点儿也没发现，自己公司内部竟然存在着这样惊人的套利机会！

为了掩盖踪迹，在前几个月中，欧米茄团队小心谨慎地用假名创建了几千个MTurk账户。现在，普罗米修斯建造的软件模块正冒名顶替着这些账户的身份。MTurk的客户通常会在事后8小时左右付款。一旦收款，欧米茄团队又将这些钱用来购买更多的云空间，供给普罗米修斯使用。在这个过程中，普罗米修斯不断升级，它的最新版本写出来的任务模块也变得越来越厉害。由于欧米茄团队的钱每8小时就能翻一番，因此在MTurk上的任务很快便达到了峰值。同时，他们发现，如果不想引起过多的注意，最好把日收入控制在100万美元以下。不过，普罗米修斯已经为他们的下一步计划提供了足够多的钱，欧米茄团队已经无须向公司财务总监申请经费了。

危险游戏

启动普罗米修斯之后，除了在人工智能研究上取得突破之外，欧米茄团队最近还热衷于用它来赚钱：赚得越快越好。从本质上来说，整个数字经济的红利都是唾手可得的，但从哪里开始比较好呢？是开发计算机游戏，还是做音乐、电影或者软件？是写书、写文章，还是炒股，或者捣鼓和贩卖新发明？简单来说，这个问题归根结底是如何才能实现投资回报率的最大化，但一般的投资策略在欧米茄团队面前实属小巫见大巫：在通常情况下，如果年均回报率能达到9%，投资者就会很满意了；然而，欧米茄团队在MTurk上的投资达到了每小时9%的回报率，平均每天能赚到8倍多的钱。那么，他们的下一个目标是什么呢？

欧米茄团队的第一个想法是去股票市场大捞一笔，毕竟，许多对冲基金都在这上面砸了重金，而欧米茄团队中的几乎每个人都曾在人生中的某一时刻，拒绝过为对冲基金开发人工智能系统的高薪工作。你可能还记得，这也正是电影《超验骇客》（Transcendence）中的人工智能赚得第一桶金的方法。但是，前些年的一场股市崩盘促使政府对金融衍生品出台了一些规范措施，限制了他们的选择范围。很快，欧米茄团队就意识到，即便他们能够获得远高于其他投资者的回报，但这点利润比起销售自家的产品来说还是相差甚远。毕竟，当全世界第一个超级智能都在为你工作时，你显然最好投资自家的产品，而不是寄希望于别人家的。当然，例外也是可能存在的，比如，你可以用普罗米修斯超人的黑客技能来获取内幕消息，然后购买那些即将上涨的股票的看涨期权。但欧米茄团队认为，这可能会引来不必要的注意，因此不值得这么做。

于是，欧米茄团队将重点转向了那些可以研发和销售的产品，其中，电子游戏看起来是个很不错的选择。普罗米修斯很快就具备了极为高超的技能，能够设计出引人入胜的游戏，还能轻易地应对程序、平面设计、光线追踪等成品所必需的任务。此外，它还分析了网络上关于人们偏好的所有数据，知晓了哪一类游戏是玩家的最爱，据此发展出了一种根据销售收入来优化游戏的超能力。尽管不愿意承认，但欧米茄团队的许多成员都曾夜以继日地泡在游戏《上古卷轴5：天际》（TheElder Scrolls V: Skyrim）中。2011年，这款游戏在刚发布的第一星期，总销售额就超过了4亿美元。因此，欧米茄团队相信，在100万美元的云计算资源的支持下，普罗米修斯在24小时内一定能开发出一款像《上古卷轴》一样令人上瘾的游戏。他们可以在线销售这款游戏，并让普罗米修斯在博客圈里假扮玩家来大聊特聊，引爆热度。如果能在第一个星期入账2.5亿美元，他们就能在8天内将投资翻8倍，每小时的回报率高达3%，虽然比他们在MTurk上的表现略显逊色，但更具可持续性：假如普罗米修斯能每天开发出一款游戏，不久之后，他们就能赚到100亿美元，而不用担心游戏市场饱和。

但是，欧米茄团队中的一位网络安全专家坦率地表达了对这个游戏计划的不安。她指出，这个计划可能会带来一个可怕的风险：普罗米修斯可能会“逃脱”，并“抢夺自己命运的控制权”。过去，由于不清楚普罗米修斯的目标在自我提升的过程中会如何变化，因此为了安全起见，欧米茄团队决定不遗余力地将普罗米修斯“关起来”，囿于“盒”中，让它无法“逃”到互联网上。对运行在服务器机房中的普罗米修斯主机，他们采取了物理隔绝的手段：那里根本没有网络连接，普罗米修斯输出的所有数据都以信息和文件的形式传输给一台被欧米茄团队严格控制的计算机。

将普罗米修斯开发的复杂程序放到联网的计算机上运行，是一件风险很大的事情：欧米茄团队根本不清楚它会做什么，也完全不知道它会不会做某些事情，比如在互联网上像病毒一样扩散自己。在测试普罗米修斯为MTurk上的任务写的软件时，为了谨慎地提防这种情况的发

生，欧米茄团队只在虚拟机中运行这些软件。虚拟机是一个模拟计算机的程序，比如，苹果电脑的许多用户会购买虚拟机软件，通过“欺骗”苹果电脑这是一台Windows电脑，来让它们运行Windows程序。欧米茄团队建造了自己的虚拟机，其昵称叫“潘多拉魔盒”。它模拟的是一台超级简单的机器，去除了计算机通常拥有的所有附件，没有键盘，没有显示器，没有音箱，也没有网络连接，什么都没有。举个例子，对于MTurk上的音频誊录任务，欧米茄团队对虚拟机进行了设置，只允许一个音频文件输入潘多拉魔盒，也只允许一个文本文件输出，即誊录好的文字。这些规则之于魔盒内部的软件，就好像物理定律之于身处宇宙中的人类一样：软件无法冲出魔盒的藩篱，就好比人类再聪明，也无法实现超越光速的星际旅行。除了上面所说的输入和输出单个文件之外，潘多拉魔盒内部的软件实际上就像被困在了一个拥有自己的计算规则的平行宇宙。欧米茄团队患有严重的“逃脱”恐惧症，因此，他们也在时间维度上加了枷锁，限制了不受信任代码的生存期限。比如，潘多拉魔盒中的誊录软件每完成一个音频文件的誊录，魔盒中的所有内存都会被自动抹去，程序会自动从零开始重新安装。这样，当它开始下一个誊录任务时，就不知道过去发生了什么，也就不能从过去中学习。

当欧米茄团队在MTurk项目中使用亚马逊的云服务时，他们能将普罗米修斯编写的所有任务模块都装进云端的潘多拉魔盒，因为在MTurk上输入数据和输出数据都非常简单。但是，对严重依赖图像的计算机游戏来说，这是行不通的。他们无法将游戏装进潘多拉魔盒，因为它们需要彻底访问玩家计算机上的所有硬件。此外，他们不想冒险，因为一些懂计算机的用户可能会分析游戏代码，从而发现潘多拉魔盒，并调查其中的秘密。“逃脱”风险不仅置游戏市场于危险当中，还可能会牺牲其他软件市场，而后者是规模巨大并且有利可图的，遍地都是千亿美元的机会。

第一个10亿美元

欧米茄团队缩小了搜寻的范围，只关注那些价值极高、数字化、易于理解的产品，因为数字化产品的生产周期短，而那些易于理解的产品，比如文字或电影等不会带来“逃脱”的风险。最后，他们决定成立一家媒体公司，以动画片为起点。公司的网站、市场计划和新闻稿在普罗米修斯变得超级智能之前就已经准备好了，而唯一欠缺的，就是内容。

为了设计出人工智能系统来编写软件，好完成那些令人抓狂的MTurk上的任务，普罗米修斯经过了慎重的优化。到了星期日的早上，尽管它的能力已经变得异常强大，能够持续不断地从MTurk中敛财，但它的智力依然比不上人，在某些事情上它并不擅长，譬如制作电影，不擅长这些事并不是因为某些深层的原因，而更像是詹姆斯·卡梅隆并不是出生时就擅长拍电影一样：这是一个需要时间来学习和打磨的技能。与人类儿童一样，普罗米修斯能从手边的数据中学习任何它想学的东西。卡梅隆为了学习读写，花了几年时间，而普罗米修斯在星期五一天就完成了这项任务，那一天，它还腾出时间阅读了Wikipedia的所有词条，外加几百万本书。不过，制作电影更加不易。写出一个让人们觉得有趣的剧本，和写书一样困难，需要细致入微地理解人类社会，并了解人们认为的具有娱乐性的事情；将剧本最终变成视频不仅需要对虚拟演员以及它们身处的复杂场景进行大量的光线追踪，还需要制作大量的虚拟声音和扣人心弦的音乐音轨，诸如此类。到了星期日早晨，普罗米修斯不仅能够在一分钟内看完一部时长两小时的电影，还能够看完由这部电影改编的所有书籍、网上的所有评论和评分。欧米茄团队注意到，当普罗米修斯一口气看了几百部电影之后，开始能很精准地预测一部电影会得到什么样的评价，以及它会如何吸引不同的观众。实际上，它还学会了撰写影评。欧米茄团队觉得普罗米修斯的影评写得颇有见解，对剧情、演技、技术细节（例如光线和拍摄角度）等方面都能提出独到的看法。欧米茄团队认为，这意味着，当普罗米修斯能自己制作电影时，就会知道什么样的电影能获得成功。

为避免人们到时追问虚拟演员的真实身份，欧米茄团队要求普罗米修斯先制作一些动画片。到了星期日晚上，为了犒劳这个疯狂的周末，他们决定把灯光调暗，边吃爆米花，边喝啤酒，然后一起观看普罗米修斯的电影处女作。这是一部和迪士尼的《冰雪奇缘》差不多的奇幻喜剧动画片，其中的光线追踪是由普罗米修斯在亚马逊云端编写的“盒中代码”来完成的，这项任务几乎把当天在MTurk上赚到的100万美元利润都用光了。电影一开始，他们就在感叹，这样一部电影竟然是由机器在无人指导的情况下创作出来的，这是一件多么令人惊讶又害怕的事情啊！不过不久之后，他们就顾不上想这些了，他们开始为电影中的插科打诨而开怀大笑，为激动人心的时刻而屏住呼吸。在感人的结局处，有些人甚至流下了眼泪。他们是如此地全神贯注，都忘了这部电影的创作者是谁。

欧米茄团队计划在下一个星期五上线他们的网站，因为要给普罗米修斯留出充足的时间来生产更多的内容，也要给他们自己腾出时间来做一些普罗米修斯做不到的事情，例如购买广告位，并为过去几个月中创立起来的空壳公司招聘员工。为了掩盖踪迹，他们的官方介绍告诉大家，这家媒体公司从独立的电影制作人那里购买内容，这些制作人通常是那些低收入地区的高科技创业公司。为了方便起见，欧米茄团队把这些虚假的供应商设立在偏远的地区，例如蒂鲁吉拉伯利

（Tiruchirapalli）和雅库茨克（Yakutsk）。这些地方，连最好奇的记者也懒得去拜访。他们招聘的员工全部隶属于市场和管理部门。这些员工会告诉所有询问的人，他们的制作团队位于另一个地方，此时不便接受访问。欧米茄团队也没公开与这家媒体公司的关系。为了与官方介绍相吻合，他们为公司想了一个口号——连接世界上的创作天才，并宣传说，他们的品牌是摧枯拉朽且与众不同的，因为他们用前沿技术将力量赋予那些具有创造力的人，特别是那些身处发展中国家的人。

星期五到来了。好奇的访客开始登录欧米茄团队的网站。他们看到的内容令人联想到奈飞和葫芦（Hulu）这类在线娱乐服务商，不过，又有点有趣儿的不同。所有动画系列片都是全新的，从来没有人听说过它们。这些动画片相当迷人：大部分系列都由45分钟长的剧集组成，剧情超级吸引人，每集的结尾都会使你对下一集充满期待。并且，与竞争对手相比，它们的价格更便宜。每部片子的第一集都是免费的，剩下的每集你可以试看49秒，或者以折扣价格观看整个系列。一开始，总共只有三个系列，每个系列只有三集。但很快，每天都有新的剧集加入。同时，迎合不同口味的新系列也在源源不断地更新进来。

最初两个星期，普罗米修斯的电影制作技术突飞猛进，不仅在于影片质量方面，还在于它具备了更高明的算法来进行人物模拟和光线追踪，这极大地降低了制作每集片子所需的云计算成本。结果，欧米茄团队在第一个月就发布了几十部新片，针对的人群涵盖了幼儿和成人，同时扩张到了所有主要的语言市场，使得他们的网站远比所有竞争对手的更加国际化。一些影评人感到十分震惊，因为这些动画片不仅音轨是多语言的，连视频本身也是。例如，当某个角色在讲意大利语时，他的嘴部活动与意大利语是匹配的，而且也会相应地做出意大利人特有的手势。尽管普罗米修斯现在有能力完美地将电影中的虚拟人物制作得与真人无异，但欧米茄团队没让它这么做，以避免泄露底牌。相比之下，他们动画片中的人物形象都是半写实风格的，内容则主要集中在那些传统上多采用实景真人电视剧和电影的流派，以便与它们竞争。

欧米茄团队的网站令人上瘾，用户量迅速地增长起来。许多粉丝发现，这些动画片中的人物比好莱坞最大手笔的电影作品中的人物更聪明，情节更有趣，而且还欣喜地发现，其价格也更低，更容易负担得起。在广告的积极推动下（欧米茄团队能负担得起广告费，因为他们的制作费几乎为零），他们获得了极佳的媒体覆盖率和口碑。在网站上线后的一个月内，全球收入就激增到每天100万美元。两个月后，他们击败了奈飞公司。三个月后，每日入账1亿美元，开始与时代华纳公司、

迪士尼公司、康卡斯特公司和21世纪福克斯公司比肩，成为全世界最大的媒体帝国之一。

欧米茄团队的成功引起了轰动，招致了大量不必要的关注。一些人开始怀疑，为什么他们在财政上只投入了一小部分就拥有了强大的人工智能。欧米茄团队策划了一场相当成功的“虚假内容”营销活动。在光鲜亮丽的曼哈顿新办公室中，他们新招聘了一批发言人，来传递他们的理念。欧米茄团队还在全世界雇用了许多人来作幌子，请他们来创作新系列，其中甚至包括一些真正的剧作家，但没有人知道普罗米修斯的存在。欧米茄团队的国际承包商网络错综复杂，令人迷惑，这让他们的员工相信，大部分工作一定是其他地方的什么人来完成的。

为了不让过多的云计算量引起怀疑，欧米茄团队还雇用了工程师，开始在世界各地修建一系列庞大的计算中心，而这些计算中心都隶属于他们的空壳公司。由于这些计算中心大都依靠太阳能，因此欧米茄团队对当地政府宣称，它们是“绿色数据中心”，但实际上，它们的功能主要是计算而不是存储数据。普罗米修斯设计了蓝图的每一个细节，而且只使用现成硬件，并对其进行了优化，使得施工时间被尽可能地缩短。那些修建和运营这些中心的人根本不知道那里计算着什么。他们认为自己管理的是商用云计算设备，就像亚马逊公司和微软公司的一样；他们只知道，所有的销售行为都是由远程控制的。

新技术

几个月之后，由于普罗米修斯超人的规划能力，由欧米茄团队操控的商业帝国开始涉足世界经济中越来越多的领域，并开始站稳脚跟。通过仔细分析全球的数据，普罗米修斯在第一个星期就已经向欧米茄团队展示了一份详细的逐步增长计划，并在数据和计算资源持续增长的过程中不停地改善和精炼。尽管普罗米修斯还远算不上无所不知，但它现在的能力已经大大超过了人类，因此被视为完美的“先知”，尽心尽责地对人们提出的所有问题给出精妙的回答与建议。

普罗米修斯的软件现在已经被高度优化，将它所栖身的硬件功能发挥到了极限。但这些硬件是由人类设计的，能力乏善可陈。因此，正如欧米茄团队所预计的那样，普罗米修斯提出了一些能极大改进这些硬件的建议。但因为害怕它“逃脱”，他们拒绝修建可供普罗米修斯直接操控的机器人施工设备。相反，欧米茄团队在世界各地雇用了大量顶级科学家和工程师，让他们阅读普罗米修斯撰写的内部研究报告，谎称那是由其他地方的人所写的。这些报告详细叙述了新颖的物理效应和生产工艺，他们的工程师很快对其进行了测试，并很快理解和掌握了这些技术。人类的研发周期通常需要若干年的时间，而试错的周期又很缓慢，但当下的情况十分不同：普罗米修斯已经想出了下一步，所以，唯一的限制因素就是在普罗米修斯的指导下，人们能以多快的速度理解和制造出正确的东西。一个好老师能帮助学生迅速地学习科学知识，远远快于学生自己从零开始，这正是普罗米修斯神不知鬼不觉地对这些研究人员所做的事情。由于普罗米修斯可以精确地预测，在工具不同的条件下，人类分别需要多长时间才能理解和制造出正确的东西，因此，它开发出了一条最快的前进路线，即优先考虑那些能迅速被人类理解和制造的新工具。有了这些新工具，人类就很容易开发出更加先进的工具。

本着创客精神，欧米茄团队鼓励工程师团队使用自己的机器来制造更好的机器。这种自给自足不仅节省了资金，还让他们在面对未来的外界威胁时不至于变得那么脆弱。在两年内，他们制造出了世界上空前先进的计算机硬件。为了避免外部竞争，他们把这项技术隐藏起来，只用它来升级普罗米修斯。

对于外部世界来说，人们只是注意到了一波惊人的科技繁荣。世界各地突然爆发出许多新公司，在几乎所有领域都发布了革命性的新产品。韩国一家初创公司发布了一种新电池，能存储笔记本电脑电池两倍的电量，但重量轻了一半，还能在一分钟之内充满电。芬兰一家公司发布了一款便宜的太阳能电池板，效能达到了当前最强竞争者的两倍。德国一家公司发布了一种可大规模生产的新型电线，在室温下具有超强的导电性能，颠覆了能源产业。波士顿一家生物技术集团宣布，他们正在对一款减肥药进行二期临床实验，据他们声称，这是第一款绝无副作用的高效减肥药；而有流言称，一家印度机构已经在黑市上销售与这种减肥药差不多的药物。一家位于加利福尼亚的公司也在对一种引起轰动的癌症药物进行二期临床实验，这种药物能够让身体的免疫系统识别和攻击常见的几种癌症变异。