奎克的藏经阁 · MinerU 解析内容

智人之上:从石器时代到AI时代的信息网络简史

478 个 PDF 物理页 · 本页显示文件第 441–450 页

PDF 物理页索引 440

文件中的第 441 页 · 印刷页码:未识别

全球的身心分离

人类社会分裂成一个又一个的信息茧,不但会造成经济对抗与国际紧张局势,还会发展出各种截然不同的文化、意识形态与身份认同。要想预测未来的文化与意识形态发展,无异于痴人说梦,这比预测经济或地缘政治发展困难得多。在提比略的时代,有多少罗马人或犹太人能预料到,未来一个小小的犹太教支派成了罗马帝国的国教,而皇帝居然抛弃了罗马的旧神,改去崇拜一个被处决的犹太拉比?

更难预料的则是各个基督教教派会发展出哪些方向,以及这些想法与冲突又会怎样深深影响从政治到性在内的一切事物。当初曾有人问耶稣,他对于向提比略政府纳税有什么想法,他的回答是:<sup>“</sup>该撒的物当归给该撒,神的物当归给神。<sup>”</sup>(《马太福音》<sub>22</sub>:<sub>21</sub>)。当时没人想象得到,这个回答会在<sub>2000</sub>年后深深影响了美国的政教分离。此外,圣保罗写信给罗马的基督徒时提到:<sup>“</sup>我以内心顺服神的律,我肉体却顺服罪的律了。<sup>”</sup>(《罗马书》<sub>7</sub>:<sub>25</sub>)。有谁能想到,这句话将会在后来影响了从笛卡儿哲学到酷儿理论等诸多学派。

虽然这件事如此困难,但我们还是该试着想象一下未来的文化发展,以提醒自 己:人工智能革命的到来会形成诸多对立的数字领域,改变的可能不只有我们的工作与政治结构。以下的段落将会提出许多大胆的猜测,但请不要忘记,我在这里并不是要准确地预测文化的发展,只是希望提醒大家别忘了可能有重大的文化转变与冲突正在等着我们。

PDF 物理页索引 441

文件中的第 442 页 · 印刷页码:未识别

其中一种可能影响深远的发展,就是不同的数字茧开始对人类身份这种最基本的问题有了不同的想法。数千年来,许多宗教与文化都是因为对身心问题的看法不同而产生了严重的冲突(比如在基督教各个派别之间、印度教与佛教之间、柏拉图主义与亚里士多德主义之间)。所谓人类,到底是物质的身体、非物质的心灵,还是一个被困在身体里的心灵呢?到<sub>21</sub>世纪,计算机网络可能会让身心问题变得更严重,从而引发各种重大的个人、意识形态与政治冲突。

为了了解身心问题对政治的影响,让我们先简单回顾一下基督教的历史。许多早期的基督教教派受到犹太教思想的影响,相信《旧约》的观点,也就是人类是肉身的存在,身体对于人类的身份极为关键。

《创世记》谈到神在造人的时候有着具体的形象,而且《旧约》各卷几乎都假定人类只能以肉身的形式存在。除了少数可能的例外,《旧约》并没有谈到人类可能在死后以没有肉身的形式存在,不管是在天堂还是在地狱。所以古代犹太人想象的救赎,是在一个人间的王国且有着真实的肉身。到了耶稣时代,许多犹太人相信的是等到弥赛亚终于降临时,死者的肉身会在地球上恢复生命。一般认为,弥赛亚建立的<sup>“</sup>神的国<sup>”</sup>应该是一个物质的王国,有树木、石头,以及血肉之躯。

耶稣本人以及第一批基督徒也是这么想的。耶稣曾向信众许诺,神的国很快就会降临在地上,而他们也将会以自 己的肉身活在这个国里。在耶稣并未实现许诺便过世之后,早期信众开始相信他以肉身复活,也认为等到神的国降临在地上,自 己也能以肉身复活。教父德尔图良(<sub>160</sub><sup>—</sup><sub>240</sub>)曾写道:<sup>“</sup>肉身是救赎的关键。<sup>”</sup>天主教教义也引用了<sub>1274</sub>年第二届里昂公会议通过的教义,写道:<sup>“</sup>我们信降生成人的圣言,肉身的救赎者。我们信肉身的复活,创造和肉身得救的完成<sub>……</sub>我们相信现在的这个身体将会真正地复活。

虽然各方说法似乎口径一致,但我们看到圣保罗已经对这套肉身说有所怀疑。到公元<sub>4</sub>世纪,在希腊、摩尼教与波斯的影响下,有些基督徒已经开始相信一种二元的说法,觉得人类有一个良善的非物质的灵

PDF 物理页索引 442

文件中的第 443 页 · 印刷页码:未识别

魂,被困在由邪恶物质组成的身体里。在他们的想象中,非但没有肉身复活这种事,反而正好相反:洁净的灵魂好不容易才经由死亡这一步,从令人憎恶的物质监狱得到解放,怎么还想回去呢?因此基督徒开始相信,灵魂在人死后从肉身中得到解放,永恒存在于一个形而上的非物质世界。这也是目前基督徒的标准信仰,至于德尔图良与第二届里昂公会议的说法就先放到一边。

然而,基督教还是无法完全放下犹太人认为人类是以肉身存在的古老观点。毕竟,基督就是以肉身出现在地球上的,他的肉身被钉上了十字架,经历万般痛苦折磨。于是<sub>2000</sub>多年来,基督教的不同派别就会互相攻击,有时候是言语相向,有时候是刀剑交锋,目的就是在灵魂与肉身的关系中争出个道理来。吵得最凶的还是关于基督自 己的肉身。他属于物质的存在,还是纯粹的灵性,抑或属于非二元性,即既是人,也是神?

对身心问题有不同的答案,就会影响人们对自 己肉身的看法。圣人、隐士、修士、修女做过许多极其惊人的实验,想把人的肉身推向极限。就像基督允许自 己的肉身在十字架上受到折磨,这些殉道者允许狮子和熊把他们的肉身扯碎,而他们的灵魂却在此时感受着神圣的狂喜。他们会穿着刚毛衬衣,禁食数周,或在一根柱子上站立好几年,例如著名的西蒙,据说就在阿勒颇附近的一根石柱上站了大约<sub>40</sub>年。

也有一些基督徒态度完全相反,觉得肉身根本不重要,唯一重要的只有信仰。像马丁·路德这样的新教徒把这种态度发挥到极致,他提出了唯独因信称义的教条。路德在当了大约<sub>10</sub>年的修士,经历禁食与各种身体折磨之后,开始对这些肉身上的苦修感到绝望,觉得这些肉身的自我折磨无法迫使神给予救赎。事实上,认为自 己能够通过折磨肉身来得到救赎,就已经犯下了傲慢的罪。于是路德脱下了修士袍,与一位原修女结婚,并告诉他的追随者,要当个好基督徒,唯一需要的就是对基督有绝对的信仰。

PDF 物理页索引 443

文件中的第 444 页 · 印刷页码:未识别

这些讲心灵与身体的古老神学争论,似乎与人工智能革命完全无关,但事实上,<sub>21</sub>世纪的科技已经让这些议题被召唤复活。我们的肉体,与线上的身份和化身之间是什么关系?线下的世界与网络空间又是什么关系?假设我醒着的时候多半时间就是坐在房间里的屏幕前,玩着线上游戏,建立虚拟关系,就连工作也是远程处理,甚至很少想要出门吃饭,饿了就是叫外卖。这时候,如果你的想法比较接近古代的犹太人和早期的基督徒,肯定觉得我太可怜了,觉得我只是生活在一片幻觉之中,与物理空间和其他血肉之躯失去了联结。然而,如果你的想法比较接近马丁·路德与许多后来的基督徒,反而可能觉得我是得到了解放。把我大部分的活动与关系从有限的生物世界转移到网络上之后,我就不用再受限于束缚人的重力和会衰老的身体,而能够享有数字世界无限的可能性,摆脱生物甚至物理上的定律。我能够漫游在一片更广阔、更刺激的空间,探索自 己的身份还能有哪些新的方面。

一个越来越重要的问题是,我们应该自由选择自 己喜欢的虚拟身份,还是应该受到生物身体的限制?如果我们遵循路德宗那种唯独因信称义的立场,生物肉体就没那么重要,在选择线上身份的时候,唯一重要的就是你相信什么。这个议题不但会深深影响人类的身份认同,还会影响我们对整体世界的态度。社会如果从生物肉体的角度出发来理解身份,会比较在意像污水处理系统这样的实际基础建设,以及能够维持我们肉体的生态系统。至于互联网世界则是线下世界的附属,虽然能提供各种有用的用途,但永远不能成为人类生活的中心舞台。这种社会的目标,是要创造出一个理想的物质与生物王国,也就是地上的神之国。相较之下,社会如果不太在意生物肉体而重视网络身份,就可能比较想在网络空间创造出一个沉浸式的神之国,同时并不在意像污水处理系统或雨林这些实体事物的命运。

这个议题除了会影响人们对生物的态度,也会影响人们对数字实体的态度。如果社会还是从实际肉体的角度来定义身份,就不太可能将人工智能视为人类。但如果社会不那么重视实际肉体,那么就算是没有任何肉体表象的人工智能也可能成为法人,享有各种权利。

PDF 物理页索引 444

文件中的第 445 页 · 印刷页码:未识别

纵观历史,不同的文化都曾对身心问题给出了不同的答案。而到<sub>21</sub>世纪,身心问题更可能导致文化与政治上的分裂,后果不亚于犹太人与基督徒、天主教与新教的分裂。比如,如果美国这个数字领域不在意肉体,以网络身份来定义人类,认同人工智能是人,并低估生态系统的重要性,而中国这个数字领域的立场则完全相反,那会发生什么呢?相较之下,目前还在争吵的那些侵犯人权、遵守生态标准,只能说是微不足道。三十年战争可以说是欧洲史上最具破坏性的战争,而起因至少在一定程度上是天主教与新教之间的教义冲突,比如唯独因信称义,以及基督到底是神、是人还是属于非二元性。而未来各种冲突的起因,会不会也是在争论人工智能的权利,以及各种数字化身的非二元性本质?

前面已经提过,这些都只是在大胆猜测,实际的文化和意识形态很可能有所不同,但或许更为疯狂。很可能在几十年间,计算机网络会培养出新的人类,以及我们现在会觉得完全无法理解的非人类身份认同。如果整个世界被分成两个相互竞争的数字茧,一个茧里的身份认同对另一个茧的居民来说就有可能简直莫名其妙。

从代码战争到热战

虽然目前人工智能竞赛是由中、美两国领先,但参赛者可不只有这两国。包括欧盟、印度、巴西和俄罗斯在内,各个国家或集团都可能尝试打造自 己的数字领域,也各自受到不同政治、文化与宗教传统的影响。于是,世界或许不是落入两个大国之手,而是被十几个国家瓜分。我们目前还不清楚,这样的情况究竟是会缓解还是会加剧国家间的竞争。

新的国家之间的竞争越激烈,就越有可能发生武装冲突。当初美、苏之间的冷战从未升级成直接的军事对抗,主要归功于<sup>“</sup>保证同归于尽<sup>”</sup>原则。但人工智能时代冲突升级的危险更大,因为网络战与核战有着本质上的不同。

PDF 物理页索引 445

文件中的第 446 页 · 印刷页码:未识别

第一,网络武器能做到的远比核弹更多。网络武器除了能使敌国的电网瘫痪,还能摧毁秘密研究设施,干扰敌方的传感器,煽动政治丑闻,操纵选举,或是入侵智能手机。而且这一切能做得悄无声息。不会有什么蘑菇云或火焰风暴宣告它们的存在,也不会出现从发射台到目标之间的明显痕迹。因此,有时候连是否发生了攻击以及是谁发动的攻击,都很难得知。要是数据库被入侵、敏感设备被破坏,很难确定要把矛头指向谁。因此,发动一场有限的网络战诱惑很大,而让冲突升级的诱惑也很大。比如以色列与伊朗、美国与俄罗斯这样的敌对国家,网络上的交锋早已进行多年,这就是一场从未宣战但又不断升级的战争。这也正成为一种新的全球常态,加剧着国际的紧张局势,也推动着各国跨过一条又一条红线。

第二,也是二者的关键差异,即可预测性。冷战像是在下一盘超理性的棋,正因为核冲突的破坏太过明确,也就让发动战争的念头相对极低。但网络战就少了那份明确。没有人真的知道对方在哪里植入了逻辑炸弹、特洛伊木马和恶意软件,也没有人能确定自 己的武器在需要的时候会不会无法发挥作用。某个国家下令发射导弹的时候,真的能发射出去吗?搞不好美国已经入侵了其导弹或指挥系统?而美国的航空母舰真的能顺利出航吗,还是会神秘地关机或原地打转?

这样的不确定性影响了<sup>“</sup>保证同归于尽<sup>”</sup>原则。一方可能会说服自 己(无论是否正确),相信自 己能够既成功发动第一击,还不会受到大规模报复攻击。更糟的是,只要有人认为有这样的机会,发动第一击的诱惑迟早都会变得叫人难以抗拒,因为没人知道这样的机会还能维持多久。根据博弈论,军备竞赛最危险的一种局面,正是某一方觉得自 己手中拥有某种优势,但这种优势正在流失。

即使人类得以避免全球战争这种最恶劣的局面,新的数字帝国的崛起也可能威胁数十亿人的自由与繁荣。我们曾看到<sub>19</sub>世纪与<sub>20</sub>世纪的工业帝国剥削和压迫它们的殖民地,如果以为新的数字帝国不会如此,只能说是太天真。正如前面所提,如果世界真的分裂成许多相互敌对的帝国,人类就不太可能会有效合作来化解生态危机,或是携手共同监督人工智能与生物工程等颠覆性的技术。

PDF 物理页索引 446

文件中的第 447 页 · 印刷页码:未识别

全球联结

当然,无论世界是被几个数字帝国瓜分,还是仍然是多元化的社群、拥有大约<sub>200</sub>个民族国家,抑或是以完全不同和过去未曾预见的状态形成分裂态势,人类永远都有<sup>“</sup>合作<sup>”</sup>这个选项。人类合作的前提并不是彼此相似,而是拥有能够交换信息的能力。只要我们能够彼此交谈,就有可能发现一些共同的故事,拉近我们之间的距离。毕竟,这正是我们智人成为地球优势物种的主要原因。

就像敌对的家庭也能在部落网络中合作、敌对的部落也能在国家网络中合作,敌对的国家或帝国也能在全球网络中合作。能够促成这种合作的故事不一定是通过消除彼此的分歧来实现的,而可能只是让我们能够找出共同的经验与兴趣,进而成为共同的思想与行动框架。

然而,现在全球合作之所以如此困难,一大主因在于一种错误的观念,即认为合作就得先消除所有文化、社会与政治差异。民粹主义政治家常常说,如果国际社会都相信同一个故事、同样的普世规范与价值观,就等于摧毁了各国自 己的独立性与独特传统。<sub>2015</sub>年,法国国民阵线主席玛丽娜·勒庞在一次选举演讲中毫不掩饰,言简意赅地表达了这种立场,她声称:<sup>“</sup>我们已经进入了一种新的两党制。两种互斥的观念,将从现在开始建构我们的政治生活。现在不再是分成左翼或右翼,而是分成全球主义者或爱国主义者。<sup>”</sup><sub>2020</sub>年<sub>8</sub>月,特朗普也是这样描述他的指导信条的:<sup>“</sup>我们严拒全球主义,拥抱爱国主义。 9

幸运的是,这种二元立场的基本假设就是错误的。全球合作与爱国主义并不互斥。因为<sup>“</sup>爱国<sup>”</sup>不代表<sup>“</sup>仇恨外国人<sup>”</sup>,而只是<sup>“</sup>爱自 己的同胞<sup>”</sup>。有很多时候,为了照顾自 己的同胞,我们就是需要和外国人合作。新冠疫情就是一个明显的例子。疫情是全球性的事件,要是没有全球合作就难以控制,更别提预防了。只要一个国家出现某种新病毒或变异的病原体,所有国家都会一起陷入危机。然而,人类对抗病原体的最大优势就在于人类能用病原体做不到的方式来合作。德国和巴西的医生都能彼此提醒有什么新的危险,互相提出良好的建议,并且共同努力找出更好的疗法。

PDF 物理页索引 447

文件中的第 448 页 · 印刷页码:未识别

如果德国科学家发明了某种新疾病的疫苗,巴西该如何反应?选项之一是拒用外国疫苗,坚持等待巴西科学家研发出自 己的疫苗。然而这不仅是愚蠢的,更违背了爱国主义精神。如果是巴西的爱国主义者,就该希望能以任何可用的疫苗来帮助同胞,才不会管疫苗是在哪里研发的。在这种时候,与外国人合作才是真正的爱国。人工智能可能失控的问题也与疫情类似,如果真正爱国,就必须全球合作。失控的人工智能就像失控的病毒,会给所有国家的人民带来危险。如果权力从人类落到算法手中,没有哪个人类群体(不论是部落、国家还是整个物种)能够受益。

不同于民粹主义的观点,全球主义并不意味着就要建立全球帝国、放弃对国家的忠诚或是开放边界无限制地接受移民。事实上,全球合作代表的是没那么激进的两件事。第一,遵守某些全球规则。这些规则并不是要否认每个国家的独特性以及各国人民对国家的忠诚,而是在规范国家之间的关系。世界杯就是一个很好的例子。世界杯是一场国家之间的竞争,各国人民也常常对自 己的国家队表现出强烈的忠诚。但与此同时,世界杯也是全球共识的精彩展现。要不是巴西能与德国在比赛规则上达成一致,哪可能同场比赛?这就是全球主义发挥了作用。

第二,有时候(但不是永远)有必要将全人类的长期利益置于少数人的短期利益之上。同样以世界杯为例,所有国家队都同意不使用提升运动表现的禁药,是因为大家知道,如果此例一开,世界杯就会成为一场生物化学家之间的竞赛。在那些同样可能被科技改变整套游戏规则的领域,我们也应该共同努力,在国家与全球的利益之间达到平

PDF 物理页索引 448

文件中的第 449 页 · 印刷页码:未识别

衡。虽然各国显然还是会继续争相研发新的技术,但偶尔也应该同意对于某些危险技术的研发与部署加以限制(例如自主性武器或操弄性算法)。这么做除了是出于利他主义,也是一种自我保护。

人类的选择

想要针对人工智能制定并维持一套国际协议,在国际体系的运作方式上就必须先有重大的改革。虽然人类过去也曾共同管制核武器与生物武器等危险的技术,但对人工智能的监管需要前所未有的信任与自律,原因有二。第一,想掩饰非法的人工智能实验室,要比掩饰非法的核反应堆容易多了;第二,比起核弹,人工智能有更多的军民两用用途。所以,一国就算签署了协议,同意禁止研发自主武器系统,也可以私下秘密制造此类武器,或者将之伪装成民用产品。比如,研发出完全自主的无人机,平常用来投递邮件、在农田上喷洒农药,但只要稍作调整,就能拿来投送炸弹、向民众喷洒毒剂。这样一来,政府与企业更难相信竞争对手确实遵守大家说好的规定,也更难抗拒自 己偷偷不遵守规定的诱惑。人类有办法发展出这些必要的信任与自律吗?类似的变化在历史上是否有先例?

许多人都怀疑人类到底有没有能力改变,特别是能不能放下暴力、建立更强的全球联结。比如汉斯·摩根索与约翰·米尔斯海默这些现实主义的思想家就觉得,国际体系总免不了出现全面的权力竞争。米尔斯海默解释说,<sup>“</sup>我的理论认为,各个强权最关心的,就是在一个并没有机制避免大家互相伤害的世界上,该怎样存活下去<sup>”</sup>,而且这些强权<sup>“</sup>很快就意识到,权力是存活的关键<sup>”</sup>。米尔斯海默接着问,<sup>“</sup>国家想要多少权力<sup>”</sup>,而答案是所有国家都希望权力越多越好,<sup>“</sup>因为国际体系创造了强大的动机,促使国家找机会牺牲对手,为自 己取得权力<sup>”</sup>。他的结论是:<sup>“</sup>一个国家的终极目标,就是要成为国际体系中的霸主。 ”

PDF 物理页索引 449

文件中的第 450 页 · 印刷页码:未识别

对国际关系的这种悲观看法,很像民粹主义对人际关系的看法,即觉得人类只对权力有兴趣。这些观点背后是一套关于人性更深层的哲学理论,灵长目动物学家弗朗斯·德瓦尔称之为<sup>“</sup>饰面理论<sup>”</sup>。饰面理论认为,人类本质上仍然是石器时代的狩猎者,看着世界就是个丛林,相信弱肉强食、力量就是正义。它还认为,人类几千年来一直试图用各种神话与仪式形成的薄弱饰面掩盖这个不变的现实,但人类从未真正摆脱丛林法则。事实上,人类的神话与仪式本来就是丛林强者用来欺骗、诱捕弱者的武器。要是没有意识到这一点,只能说是天真到危险的地步,必然成为一些无情掠食者的猎物。

但我们有理由认为,像米尔斯海默这样的现实主义者其实只是选择性地看到了部分历史现实,甚至丛林法则本身就是个错误的神话。正如德瓦尔与许多其他生物学家的大量研究所记录的,真实的丛林(而不是想象中的丛林)充满了无数动物、植物、真菌以及细菌表现出的合作、共生与利他现象。比如,陆地植物有高达<sub>80%</sub>都需要依赖与真菌的共生关系,维管植物科中也有将近<sub>90%</sub>与微生物有共生关系。如果亚马孙、非洲或印度雨林里的生物放弃合作而转为全面争夺霸主地位,雨林与雨林中的所有生物很快都会死去。合作,才是真正的丛林法则。

至于石器时代的人类,虽然是狩猎者,但同时也是采集者,并没有确切证据显示他们有着无法压抑的好战倾向。虽然也有诸多猜测,但考古发现,关于组织战争最早的明确证据位于尼罗河谷的捷贝尔·撒哈巴(Jebel Sahaba)遗址,时间仅仅在大约1.3万年前。而且就算在那之后,关于战争的记录也是时有时无,而非持续出现的。有些时期格外暴力,有些时期也相对和平。我们在人类的长期历史中观察到的最清楚的规律并不是冲突持续不断,而是合作的规模持续扩大。<sub>10</sub>万年前,智人的合作还停留在游群的层次。时间过了数个千年,人类也成功找到办法能够让陌生人组成社群:先是形成部落,再到宗教、贸易网络与国家的层次。现实主义者应该要注意,国家并不是建构人类现实的基本单位,而是人类辛苦建立信任与合作之后的产物。如果人类真的只对权力感兴趣,根本就不可能创造出国家。当然,在国家内部或国家之间永远都有冲突的可能,但从来不是不可避免的命运。