AI经济：机器人时代的工作、财富和社会福利（被科技洪流裹挟的每个人，都需要在AI时代做出自己的选择）

（Technological Singularity）的文章，它似乎才开始流行起来。^[3]

最近，“奇点”（Singularity）一词（尤其现在首字母以大写“S”显示）已变得与雷·库兹韦尔这个名字紧密相关，他于2005年出版了《奇点临近：当计算机智能超越人类》（TheSingularity is Near: When Humans Transcend Biology）一书。目前是谷歌工程总监（Director of Engineering）的库兹韦尔曾预测，到2025年，计算机的处理能力将超越单一人类大脑。更引人注目的是，他声称，到2050年，单台计算机的能力或许能与所有人类大脑加起来的能力相匹敌。^[4]

奇点现在通常被认为是指AI获得“通用智能”（与人类的一样）的时间点。奇点如此重要，不仅因为在其降临之后，机器能够在每一个任务上都胜过人类，还因为AI可以在没有人类干预的情况下自我发展，因而这样的AI能永远螺旋式上升，超出我们的理解或控制。^[5]

直到最近，超人类智能的概念还只是科幻小说中的内容。而现在，它是令人惊奇且期待或者令人惊骇和担忧的东西。这里有三个关键问题需要解决：

●如果奇点降临，对人类可能造成什么样的影响？

●它一定会降临吗？

●如果它不会降临，我们的未来是否会有另一个看似可信的前景？

不难看出，奇点的影响是完全有害的。在较窄的经济方面，你可以与机器人和AI的经济影响分析（我在本书其他部分陈述过）吻别了。很快，人类的劳动会变得多余，人类将没有能力确保获得收入或用收入可以购买的东西。

比这更糟的是，我们会成为AI统治下的臣民。此外，如果它们想要做的话，新的智能形式可以消灭我们。这不一定出于恶意，而是为了自我保护。具有超级智能的AI可能会简单得出结论：由于我们具有情绪化和非理性的特点，它们不能将任何重大决定或行动托付给我们来做。如果任由我们自己处理，我们可能会将整个世界置于危险之中。

在这种情况下，也许等待着我们的最好的未来是作为一种下层阶级存留下来，成为好奇心和探索欲的对象（非常像动物园里的动物），可能借助剂量合适的索玛（soma）之类的东西得到安抚，这种药物在阿道司·赫胥黎（Aldous Huxley）的《美丽新世界》（Brave New World）中被分发给人们，目的是让其保持安静。

关于这个世界将会是什么样子，AI大师们有很多猜测。如果我先用他们的话说一下他们是怎么想的，然后再告诉你我的观点，可能会对你最有启发。

整个AI领域之父阿兰·图灵清楚地看到了其产生负面影响的可能性。1951年，他写道：“如果机器能思考，它思考起来可能比我们智能，那么我们应该处于何种位置？即使我们可以让机器处于从属地位……作为一个物种，我们也应该会感到极其卑微。”许多AI专家后来都赞同这一观点。即使没有要屈从的情况或被毁灭的威胁，他们还是担心，被AI超越或许会让人类的心理、情绪处于不良状态。当代AI大师凯文·凯利曾写道：

我们不是唯一拥有可以下国际象棋、驾驶飞机、创作音乐或发明数学定律的心智的存在形式，对于这些活动，每一步的缴械投降都会令人痛苦而悲伤。我们将在接下来的30年中（其实也许是下一个世纪）度过一场永久性身份危机，不断询问自己，人类还擅长什么。如果我们不是独一无二的工具制造者、艺术家或道德伦理学家，那么，什么（如果有的话）能让我们与众不同呢？^[6]

AI梦想家马克斯·泰格马克认为，拉丁语可以被用来帮忙解决困难。我们已经习惯把人类称为“智人”（HomoSapiens）。智慧（Sapience）是智能化思考的能力。这是人类现在正面临的挑战，或许很快就会被AI超越。泰格马克提议用知觉（Sentience，主观体验的能力，如果你喜欢，也可以说是意识的能力）替代智慧。他建议我们将自己重新命名为“觉人”（Homo Sentiens）。^[7]

人类与AI的融合

或许上面的讨论太非黑即白了。一些AI思想者认为，人类与AI之间的对比是人为制造出来的。已经有很多人在身体中植入了某种“人造的”（即非生物的）东西——从人工髋关节到心脏起搏器。正如我在前言中提到的，一些有远见者看到，人类和AI最终会融合在一起。

而且交换将不会总是以单向形式进行，即将人工的东西植入人体。根据约翰·布罗克曼的说法，他所称的“设计智能将越来越依赖合成生物学与有机制造”。^[8]借助克服我们的肉体对自身的限制，我们是否也可能延长自己的寿命？也就是说，技术有可能提供永生之路吗？

一些IT热衷者是这么认为的。^[9]雷·库兹韦尔相信，人类将不可避免地与机器融合。这导致永生有可能实现。奇点主义者（库兹韦尔并非个例）的目标是努力活得足够长，等到下一个延长生命的医学突破出现，最终能够与某种形式的AI融合，从而摆脱死亡的限制。据报道，为了确保他能一直存在，享受躲进永生之境的乐趣，库兹韦尔“每天服用多达200粒的药丸和补充剂，并通过定期静脉输液来接受其他东西”。^[10]

库兹韦尔是个相当有个性的人。2009年，他出演了纪录片《卓越的人类》（Transcendent Man）。你会相信吗？好莱坞甚 至 还 推 出 了 一 个 相 关 版 本 的 电 影 《 超 验 骇 客 》（Transcendence），由约翰尼·德普（Johnny Depp）主演，于2014年上映。人们很容易将库兹韦尔当作怪人而不予理会。但相当多的硅谷亿万富豪已经欣然接受了奇点的想法。2012年，谷歌聘请了库兹韦尔来指导其AI研究。

机器人学家汉斯·莫拉维克的想象力走得更远。他预计，在未来，部分宇宙将“迅速转变为网络空间，在其间，存在者建立、扩展、保护身份，像信息流模式那样……最终，该空间变为以接近光速的速度扩张的思维泡泡”。^[11]

必然性是个很重要的词

在思忖上面引用的思想者的愿景时，我的反应是：“天哪！把我传送上去，斯科特。”（《星际迷航》系列的经典台词，意思是把我带走）但奇点并非必然降临。事实上，我们离它还远得很。诺姆·乔姆斯基在麻省理工学院研究认知科学已有60多年，他说：“我们距离打造出具有人类水平的机器智能还有‘万古之遥’（Eons Away）。”他认为奇点是“科幻小说”的内容。哈佛大学著名心理学家史蒂芬·平克大体上认可这种观点。他曾说：“没有任何理由相信奇点即将到来。”

应当承认，这些仍然处于早期阶段，很有可能的是，要么AI研究人员在已经开展的事情上取得突破，要么完全改变路线，将带来激动人心的结果。^[12]但不得不说，AI朝着人类通用智能的方向发展的进程一直极度缓慢。

有趣的是，一些分析人士认为，不管AI能取得多大的进步，这并不一定意味着人类世界会被接管，因为人类自身将会经历巨大的认知提高。中国科学院北京基因组研究所已经收集了数千名高智商者的DNA样本，试图分离出与智能有关的基因。在未来的几十年中，很可能会有人试图借助优生学来提高人类的平均智能。

这远非什么新发展。20世纪早期，很多政府力图通过绝育和/或杀死所谓的劣等或有缺陷的人来改善基因库，同时借助更健康、更智能的基因库来促进“繁殖”。直到纳粹采用该方法得出极端结论后，对优生学的信奉才变得完全不可接受。

但如今的情况可能会改变。历史学家尤瓦尔·赫拉利曾写道：

……21世纪的技术人文主义希望在基因工程、纳米技术和脑机接口的帮助下，以平和得多的方式实现该目标。^[13]

我想，即便没有优生学的影响，人类的思维能力也有可能得到根本性改善。毕竟，至少有一位学者认为，人类意识本身只是在相对较近的时期（约3,000年前）才出现，它是对事件做出反应的习得过程。这是心理学家朱利安·杰恩斯（JulianJaynes）非同寻常的论点。^[14]他认为，在此之前，人们不了解他们的思想是属于自己的。相反，他们相信那是神的声音。著名生物学家理查德·道金斯（Richard Dawkins）曾将杰恩斯的书描述为“要么完全是垃圾，要么是完美的天才之作”。^[15]

意识的重要性

特别要强调的是，如果AI在获得人类水平通用智能这个方向上的进步依然极度缓慢，那么我觉得可以想象，人类相对于AI的优越性起码保持不变，甚至有可能不断提高。但是我发现，借助优生学或杰恩斯所描述的那种深层次的自发发展来切实提高人类的认知能力，前景并不令人信服。

无论如何，人类是否能实现任何显著程度的“提高”，这肯定不是关键所在。准确地说，在紧要关头，真正重要的是AI的终极能力。在这里，一切都取决于智能、意识和生物学之间的关联。显然，几乎所有AI研究者都认为，智能归根结底是信息与计算的问题。如果他们是对的，那么似乎没有充分理由说明为什么机器不能在某一时刻变得至少具有与人类同样的智能。

一些理论家认为，对于迄今为止人们在生物学上取得的成就，AI带来的进步应该可以轻松实现比其大很多倍的程度。正如默里·沙纳汉所说的：

从算法的角度来看，经由自然选择实现进化异常简单。其基本要素是复制、变异、竞争，每种要素都重复无数次。从计算方面来讲，它利用了惊人的大量并行处理，而且在做任何有趣的事情之前必须运转很长时间。但令人惊讶的是，它已经产生出地球上所有复杂的生命体。它纯粹通过强力做到了这一点，没有诉诸动机或明确的设计。^[16]

然而，思考似乎不仅仅关乎计算。作为一名AI狂热者，约翰·布罗克曼对此有所认识。他说：“真正的创造性直觉思维需要能应对不确定性的机器，它可以犯错误、快速而突然地放弃逻辑、学习。思维不像我们想的那样有逻辑性。”^[17]

而且人类不但会思考，还能感受。此外，情感是人类如何做出决定的关键部分，也是其创造力的关键部分。这是一个与计算完全不同的领域。但是有没有可能将来出现这样一台机器——不仅能计算，而且可以感受、凭直觉行事？再有，实体能够在不拥有意识的情况下做这些事情吗？如果不能，那么除其他因素外，奇点降临的可能性就取决于我们“人为”创造意识的能力。

伦理问题

假如机器人和AI确实拥有了某种形式的意识，那么就会引发一系列棘手的伦理问题。按照19世纪伟大的哲学家杰里米·边沁的说法，在考虑如何对待非人类的动物时，关键的考虑因素不应该是它们是否会推理或说话，而应是它们能否感受痛苦。

这为我们思考如何对待机器人和AI提供了基础。想象一下它们将要过的生活，其实它们已经在这样生活：工作之外一无所有，没有回报、没有享乐，若表现不够好，就会不断面临被灭绝的威胁。假使这些AI是人类，或类似人类的形式，这些状况会引发一场革命。无疑，一些斯巴达克斯（古罗马时期起义领袖）会涌现出来，领导机器人奴隶起义。

那么，我们应该如何对待机器人和AI呢？我们已经有了在社会中运作的非人类自治实体，即企业。当然，有大量的法律和法规管理着它们的行为、权利和义务。我们需要构建一些与机器人和AI相关的类似的东西。

如果我们能接受人造人格的概念，那么就会出现巨量的法律和实践问题。推测起来，我们大概会不得不让这类“人”拥有财产。但是人造“人”可被复制无数次。在这种情况下，如果某个特定的AI“人”有非常多的表现形式，那么哪个会拥有这些财产？它们所有“人”一起拥有吗？