微粒社会 数字化时代的社会模式

受辱的时代

雷·库兹韦尔是一位能够引起恐慌的未来主义者。多年前他就预言人类会输给机器，他将这种情况称为“奇点”①(不要和本书提到的单体化混淆)。当机器可以利用自己的智慧不断地增强自己的能力，并且可以摆布人类的时候，奇点就到来了。根据库兹韦尔最新的预言，这种情况将在2029年出现。带着不可抑制的热情，库兹韦尔在一个又一个地方提醒着人们即将到来的人类智能被机器超越而显得愚蠢的情景。剩余时间库兹韦尔效力于谷歌公司，这使无论是公司，还是他本人都感到激动。

库兹韦尔对未来的超前预测并没有那么的不合理。2014年春，利物浦大学的两名研究学者和一台计算机揭开了一个著名的数学之谜——所谓的埃尔德什差异问题——的谜底。埃尔德什差异问题源于20世纪30年代，它围绕的问题是，随机的无穷数列中是否存在固定的、有规律的模型（相信我，你不会想深究这个问题)。

①德语原文为“Singularität”，在这里作者特别指出，“奇点”与本书中提到的“单体化”是不同的概念。—译者注

好消息是，这个问题解决了。坏消息是，我们无法得知这个答案是否正确，我们也不知道它的意思。因为这个答案比3000万个维基百科的词条还要长，只有计算机可以弄明白。想要理解计算机做出的论证，需要一大群数学家耗费多年进行计算。数学家史蒂夫·斯托加茨在数年前就预言说，距离电脑能够提供人类无法理解的答案的时代不远了。而现在，这个时代已经到来了。

这也提出了一个有趣的哲学问题：如果没有人可以对结果进行核实，更不用说理解这个解谜的过程，那么这个证明的结果还是有效的吗?谁将是数学领域的主宰者?谁将是思考领域的主宰者?

同样研究埃尔德什差异问题的以色列研究学者吉尔·卡莱给出了令人欣慰的说法：假如有另外一台计算机使用另外一种解决方法得到了和利物浦的计算机相似的结果，那么我们就应当接受这个论证。难道这个说法真的可以解决这个哲学问题吗?这难道不应该给我们提出警示吗？毕竟如果沿着这个思路，我们不只将计算本身，而且将对结果的检查也交给了计算机。

其他的研究者已经在预测，不久以后计算机将会在所有可能的领域向我们提供我们无法理解的理论，这些领域包括：新的宇宙学、高度复杂的人类遗传学的解码、社会领域的数学理论。一位经济学家提出：“科学将变得深不可测，因此会越来越像宗教或者魔法。”

微粒社会 The Granular Society

172

让我们再回到雷·库兹韦尔。此人很有幽默感。在他的一本书中有一幅漫画，这幅漫画揭示了微粒社会中人类的困境。在这幅画中，人们可以看到一个狭小的房间里有一个人，他大汗淋漓地坐在一张书桌前，在一本便笺上不断地写着一个又一个句子“只有人可以下棋”“只有人可以进行脸部识别”“只有人可以理解语言”“只有人可以开车”……然后不断地把这些句子划掉。套用到埃尔德什差异问题的论证上，这句话也可以是：“只有人可以进行数学论证并对论证进行验证”。这个人就住在人类的独特性已经丧失的房间中。这个使人受辱的房间。

在智能革命的推进过程中，这种令人受辱的现象已经成为日常。但是在这之后隐藏着一个令人震惊的讽刺。人们认为我们已经进入了所谓的“人类世”，也就是人类成为地球上最主要的影响因素的时代：塑造环境的不再是自然，而主要是人类。但是人类按照自己的需求对自然塑造得越多，人类的独特性受到的局限也将越多。

换一种矛盾的说法：只有我们人类可以创造出违背这些说法——那些以“只有我们人……”为开头的句子——的机器。假如人类没有对这些说法赋予特殊的价值，那么这种情况也不会继续糟糕下去。心理学家丹尼尔·吉尔伯特暗含讽刺地说道：每一位心理学家、思想家和哲学家在他一生中的某个时刻都会写下“那个句子”的某个版本。“那个句子”始终是这样开头的：“人类是唯一……的动物。”人类创作出了无数个“那个句子”的变种，在百科全书中随处可见：“人是天生的政治动物”(亚里士多德),“只有人是天生受苦的”(《约伯记》),“人是万事万物的目的”(托马斯·阿奎纳)。人类自我意识的历史就是驳斥“那个句子”各个版本的历史。

173

第五章微粒人

现在这种驳斥的速度明显加快了。我们几乎每个月都会抛弃一些人们一直以来相信的、关于人类独特性的信条。甚至那些我们特意发明的、用来把我们和机器区分开的技术，也难逃这种处境。比如说，全自动区分计算机和人类的图灵测试最近就经历了这种情况。

图灵测试是指我们在一些网页上需要辨认并输入的斜的、变形的、经常是很难看清楚的数字和字母。验证码会阻止软件强行打开网页或者发送垃圾邮件，因为这些软件是不能辨认验证码的，理论上只有人类可以辨认验证码。2014年春，谷歌宣称机器能够以99%的准确率辨认这些变形的验证码，这个准确率比人还要高。同时，谷歌的计算机工程师提出：人类在输入验证码的时候会体现出各种特点，例如相对而言需要更长的时间，这样一来，人类和机器仍然是可以被明显地区分开来的。这应该让我们放心吗？

人类的领地越来越多地受制于技术变迁，但是我们真的愿意让快速发展的技术进步决定能够把我们标明为人类的特性吗？我们陷入了这样的困境，因为“那个句子”最受欢迎的版本是与我们的思想和理性相关的。

自从250年前开始的启蒙运动以来，我们就习惯了将那些盛赞我们认知能力的“那个句子”的续篇当作是合理的。人类是唯一能够预先计划、能够周全地权衡、能够为自己制定新目标、理性的……生物。伊曼努尔·康德称赞这种自我形象为“理性的”，但是笛卡儿却对现代人说出了更具持久影响力的名言：“我思故我在。”

微粒社会 The Granular Society

174

我在思考，不是“我在感觉”，或者“我在经历”，或者“我在追求”，或者“我在体会”，甚至不是“我认为，所以我存在”。我们将自己解释为有大脑的、拥有心肺器官的高等智能动物。就像神经学科学家奥利弗·萨克斯所说的那样，我们是一个装配有躯体的计算机。人类的自我形象已经集中到脑部了，而现在那里的职能也越来越多地失去了。谁曾想到，计算机在学会简单的甚至婴儿都能完成的动作之前，竟然学会了逻辑思考，并且发展出了复杂的认知能力？

我们集中在大脑上的自我美化让我们在与那些以大脑为中心的计算机的竞争中变得特别脆弱。到目前为止，我们往往使用一个计谋摆脱所处的困境。信息学家道格拉斯·霍夫斯塔特在他的畅销书《哥德尔、埃舍尔、巴赫—集异璧之大成》中描述了这个计谋：“只要一项脑力劳动被编程，人类就会停止将其视作真正的思考”的必要部分。”当电脑开始打败国际象棋世界冠军时，象棋就被降级成为纯粹的计算问题了。霍夫斯塔特自己就是那些首先宣称“天啊，我还以为象棋和思考是相关的，现在我明白了，这是不对的”人们当中的一个。一旦电脑学会了更高级的数学，那么数学就将从人类思考的巅峰被降格为一项机械的活动。

175

第五章微粒人

从一方面来讲，这是一个很聪明的计谋，因为这样我们就可以维护我们的自我形象了。但这也是一个很傻的计谋，如果因为机器可以思考，思考就不存在了的话，那么对我们来说，思考也将不存在了。随着机器变得越来越高级，我们的认知能力在以这样或者那样的方式萎缩。我们用做了暗号的牌和机器打牌—但是仍然会输。

首先，哲学在机器前的撤退不能再无休止地继续下去了。如果在某个时候机器突然可以完成所有我们认为是思考的事情，它们还有什么不能做呢？如果机器在驾驶汽车、识别复杂的图案，还有其他的高要求活动中都可以打败我们，我们还有什么可以炫耀的？当其他的力量占领思考的大陆时，我们可以逃亡到哪座小岛上呢？如果我们被驱赶出自己的大脑的话，我们可以在哪里建立新的故乡呢?

所以，就像我们需要新的制度一样，我们也需要一个全新的自我形象。我们必须重新划定人类的领域，并且赢取新的空间，在这些新的领域和空间范围内，我们可以感到安全至少是暂时的安全。在21世纪，将会出现这样的情况：我们在不断变化的流沙上修建一幢新的房子，并在房门上贴上这样的标语：“人住在这里。”我们要找到一个全新的“那个句子”的变体—一个和现有的变体没有多大关系的变体，因为它不再围绕着理性的幻象展开。我们当然还会一直“思考”，我们会权衡、做计划、保持“理性”，但是我们再也不能在此之上建立我们的自我意识。很难想象廉价展台上的一部智能手机会在某些方面表现突出。

微粒社会 The Granular Society

176

我们还不清楚在通往人类新形象的道路上会出现什么样的情况。但是我认为有4个新的自我形象的构想是可以特别预期的。这4个构想还没有被详尽地表述出来，但是已经可以被大致地勾画出来了。它们互不排斥，而且可以被充满想象地联系起来。我们要在一个不稳定的基础上回答一个问题，而这4个构想会把我们带向答案，这个问题是：在微粒社会中，人将扮演怎样的角色？通向答案的道路将会是新时期最激动人心的冒险。

我为这4个构想分别总结了一个特点：分散的人、非理性的人、游戏的人、可以移情的人。还有一个构想的特点也很明显，但是它不在这4个里面。向非理性的转变恐怕并非是应对这场危机最简单的答案吧？人作为非理性的存在—这个答案清楚明白且容易被内化，即成为非理性的人，听起来还不错。我不思考，所以我存在。或者说，我想得不怎么清楚，思考得不怎么快，所以我存在。

销量已达百万的智能扫地机器人Roomba有一个很棒的广告。主人不在家时，这个扫地机器人可以自动在房间里穿梭进行清洁。广告画面中有一个扁平的机器人在工作，旁边写着这样一句话：“设定好了用来清洁的程序。”机器人左边有一个正在玩耍的小男孩，他把三明治的碎屑撒得满地都是，他的旁边也写着一句话：“设定好了制造混乱的程序。”

这就是答案：我们干脆被设定得有些混乱、邋遢、不修边幅、冲动—反正机器人可以在后面收拾。

这个解释实际上并没有听起来那么庸俗。将非理性看作人类决定性的特点这种想法并不是新近出现的，在所有的时期人们都这样考虑过。现代人甚至为这种想法补充了对技术理性的非理性和暴力的批判，而且有各种各样的变体：从女权主义和精神分析的变体，到文化批判和后现代的变体。与之相反，现在对我们的非理性拥有解释权威的是行为经济学家和心理学家。他们津津有味地举出我们诸多的感觉扭曲，一再地批评我们距离理性人还存在很大差距。诺贝尔经济学奖获得者丹尼尔·卡尼曼提出的一些观点甚至被用在诸如《清醒思考的艺术》①这类畅销书当中。

177

第五章微粒人

这些都非常有趣，也是对的。但是这无法回答我们的问题，因为指出我们的差距并不能对我们起到指引作用（计算机已经毫无疑问地彼此兼容了)。非理性的人以一种模糊的形态向我们走来，怀揣着他一直想要传递给我们的理性的理念。这并非是有吸引力的模式，至少我们暂时应该先考察一下其他的模式。

新型人类

假设我们做一个思想实验：一个来自1913年的、受过高等教育的时间旅行者来到现代参加一个备受瞩目的试验。来自过去的这个人来到一个被一张帘子隔成两半的房间。一位科学家请他用随便提问的方式弄清楚帘子另一侧的一个人的智力水平。在第一个问题之后，时间旅行者可以确定，帘子后面坐着的明显是一位年轻的女士，她所使用的词语都比较奇怪（当然是21世纪初的用词)，但是除此之外时间旅行者可以很好地理解她说的话。

微粒社会 The Granular Society

178

①《清醒思考的艺术》作者为德国人罗尔夫·多贝里，该书中文译本由中信出版社于2013年出版，主要内容涉及52种人们常犯的思维错误。—译者注

提问者很快发现，这位女士有着非凡的记忆力。她可以不出错地并且不需要考虑很长时间就背诵《圣经》中的任何章节，或者歌德的作品。她可以飞快地对一些复杂的概念做出解释，例如“神义论”或者“相对论”。她的数学能力令人吃惊，可以在几秒之内完成复杂的运算。她不仅会常用语言，还可以在冷门的语言之间做翻译，例如把冰岛语翻译成拉丁语（时间旅行者是懂拉丁语的)。

给时间旅行者留下特别印象的是，这位年轻女士几乎可以十分详尽地描述世界上的每个地点，就像她正在当地一样。她可以十分准确地说出她的每一个朋友(她有成百上千个朋友）这一刻在哪里，正在做什么。

在经过一段长时间的、对他来说十分辛苦的对话之后，时间旅行者做出了一个明确的判断：他正在和一个拥有超级智能的人对话。他推测，要么就是人类在100年的时间里经历了一次飞跃性的进化，要么就是一个完全无法想象的人造的或者外星的力量控制了人类。

时间旅行者参与的这个试验是一个电视节目的一部分（这个电视节目获得了史上最高的收视率)。随着节目的推进，摄像机镜头拍到这位来自德意志帝国时期的时间旅行者的面部表情越来越多，也越来越迷惑。然后戏剧性的节目高潮部分来了：帘子被拉开了，时间旅行者看到了一个穿着牛仔裤和T恤的年轻女士(光是这身装束就足以吓到一个来自1913年的人)，她的手里拿着一个小小的、奇怪的东西，那是一部联网的智能手机。使用这部智能手机她可以打开诸如维基百科、谷歌地图、古腾堡计划等网页，还可以使用一些应用程序。这就是这位女士的超级智能。

179

第五章/微粒人

对我们来说这位年轻女士并不是个很特别的人，而对这位时间旅行者来说却是一个奇迹。与机器联合起来，今天的人们好像来自另一个星球，是“强化人类”：进步了的、增强了的人类。面对这个奇迹我们非常自负，因为我们对此太熟悉了。我们几乎不会去考虑，我们是在什么范围以多快的速度变成可以使用假肢的“神”的。因为智能手机、计算机和程序算法就像智力假肢，可以让我们加快、改进、提高。但是它们也不断地对我们产生刺激，就好像截肢者需要习惯假肢一样。而且，当有人把它们从我们身边拿走的时候，我们会感到幻肢痛①，比如每个人都了解的一段没有网络的生活所带来的感觉。

这个在脑海中进行的实验可以从不同的角度进行解读：例如，它抛出了智能的本质这一问题；另外它向我们发出了邀请，请我们思考人类社会的改变。而我关注的是其他的问题。时间旅行者让我们看到了这样一个事实：离开了技术工具，我们就无法理解这位年轻的女士了，确实是这样。事实上，在这位女士的生活中没有什么东西能够摆脱环绕着她的数字仪器和软件：她和朋友的交流通过手机进行；工作借助数字工具完成；医生只有通过数字诊断仪才能了解她的身体状况；她通过网络预订旅行，使用智能手机拍照；多亏了数字技术，她的车才能开动，她的电视也一样。

微粒社会 The Granular Society

180

① 幻肢痛又称肢幻觉痛，是指患者感到被切断的肢体仍然存在，且在该处发生疼痛。——译者注