新黑暗时代：科技与未来的终结

此类事件层出不穷，而它们的影响也在多个模拟实验中得到了证实。而更糟糕的是，偏见不仅仅是无视的过失，也是盲目的认同。大韩航空的飞行员盲目遵循自动驾驶的指令，他们选择的是一条最顺从的路。事实证明，就连富有经验的机长看到自动报警信号也会采取紧急行动，即便与他们的实际观察不一致。早期空客A330因对火警警告异常敏感而臭名昭著，造成了多架航班变更线路，徒增了飞行风险。而这些航班的机长们再三确认过没有火警危险。在美国国家航空航天局进行的“埃姆斯高级概念飞行模拟器”(Ames Advanced Concepts Flight Simulator)的研究实验中，机组人员在飞机起飞前会接收到相互矛盾的火警信号。研究显示，在双方都会被告知额外信息的情况下，75%的机长会听从自动系统的指令，关闭掉错误的引擎。而根据传统的纸质检查法，这一比例只有25%。根据实验视频，遵循自动化系统指令的机长做出的决定更迅速、更不容商榷，这表明一旦有了直接的行动建议，机长们就不会再深入分析问题产生的原因。35

自动化偏见意味着技术即使在正常运转时都有可能危及我们的生命—GPS又是其中一例。一群日本游客试图登上一座澳大利亚的岛屿时，他们将汽车开向了海滩并直接冲进了海中，因为他们的卫星导航系统告诉他们这是一条行得通的路。涨潮时分，他们在距海岸线50英尺的地方被人营救出来。36来自华盛顿州的一群人则将车驶入了湖里，导航系统让他们偏离了主干道，进入一条轮船坡道。当紧急救援服务队赶到时，他们发现汽车漂在深水区里，只有车顶露出了水面。37而对于死亡谷国家公园的护林员来说，此类事件习以为常。他们用专门的术语来形容：“GPS之死”（DeathbyGPS），意思是说人生地不熟的游客总是相信导航，而非他们的理智判断，后果往往不堪设想。38在有些地区，地图上标志的路线往往是常规车辆无法通过的，在白天气温高达50℃，也找不到水源的情况下，一旦迷路就会丧命。在这些情况下，GPS导航系统并没有欺骗用户，也没有出错。电脑只不过是被提问了一个问题，然后给出了答案—人类循着电脑的回答走向了死亡。

第二章计算

43

自动化偏见的核心是更深层的一种偏见，它并非根植于技术，而是大脑本身。面对复杂问题的时候，尤其是在时间紧迫的情况下——谁没有十万火急的时候呢—人们倾向于以最少的认知活动来解决问题，偏爱那些易于操作与解释的对策。39一旦可以让渡决定权，大脑就会选择这条最不耗费脑力的选项。这是条最便捷的捷径，由自动化助手即时提供。从任何意义上来讲，计算是认知的黑客，它窃取了人类做决策的过程，让机器承担起这一责任。逐渐地，机器插手越来越多的认知任务，不计后果地强化它的权威。我们不断修正对世界的理解以顺应自动化系统提供的建议和认知捷径。计算代替了有意识的思考行为。我们思考的方式越来越像机器，或者说我们已经不再思考。

新黑暗时代|科技与未来的终结

44

从个人电脑到智能手机再到全球云网络的系谱演变中，我们看到人类是如何使自己生活在计算之中的。计算不仅仅是种体系结构，它正在成为我们思考的根基。现在，计算渗透至各个角落，向人类发出邀请，即使是一些能用简单的机械、物理或社会的方法解决的问题，我们也通通交给计算。能发短信干吗还要说话？能用电话干吗用钥匙？随着计算和计算产品日益充斥着我们的生活，它们被赋予了权力和生产真理的能力，承担起越来越多的认知任务，现实本身被披上了电脑的外衣，我们的思维方式不久也将如此。

就像全球远程通讯技术消解了时空的边界，而计算让过去与未来融为一体。数据以事物的现状为模板，随后又投射到未来—这意味着事物将不会发生根本性的改变或与过去相去甚远。这样，计算不仅仅管理着我们的现在，同时塑造了最符合计算标准的未来。只有能够被计算得出的才有可能发生。那些无法被量化、被模拟的，那些此前未曾问世的或者不能被归入旧有模式的，那些不确定的、模棱两可的存在将通通被排除在未来世界之外。计算投射的未来与过去如出一辙—而现在则是飘忽不定的，因此它无法处理现在的实况。

计算思维造成了当今时代许多纷争；这可以说是计算操作的最主要特征。计算思维致力于不费吹灰之力地寻找简单的答案。此外，计算思维坚持只有一个答案—一个神圣不可动摇的答案。关于气候变化的“争论”不是简单的石油资本主义阴谋，体现了计算在处理不确定性方面的无能。从数学和科学的角度来讲，不确定性与无知不同。在科学、气候学的语汇中，不确定性是衡量我们知识边界的标尺。随着计算系统的日益壮大，我们越来越清楚地看到自己的无知。

第二章 计算

44

45

计算思维大获全胜：它首先用它的力量引诱了我们，随后它展现出复杂的一面，令我们晕头转向，最后它深刻地烙刻在我们的大脑中。计算思维的影响和结果以及它的思考方式已经成为我们日常生活的一部分，如同天气一样不可撼动。但是，承认计算思维的问题（如过分简化、不良数据和蓄意混淆视听，等等）能够让我们意识到它的失败之处和局限性。我们将看到，天气的混乱远超计算的能力范畴。

在其所著的《数值预测》（NumericalPrediction)一书修订版的空白处，理查森写道：

爱因斯坦曾评论到，他的科学发现受到一项信条的引导：重要的物理学法则其实都是很简单的。听人说拉尔夫·福勒(R.H. Fowler)也曾说两条公式中，更简洁的那个更有可能是对的。迪拉克（Dirac）曾试图重新阐释电子运动，因为他认为自然法则不可能让电子的运动方式那么复杂。这些数学家们都是解决质数和点电荷问题的高手，如果他们能够屈尊气象学，那将会极大地丰富我们的学科。但是我对此非常怀疑，因为那样的话他们必须得放弃真理是非常简单的这一想法。40

他花了四十年完成构想，在20世纪60年代的时候，理查森找到了描述不确定性的模型：这一悖论精准地抓住了计算思维的存在性问题。在《致命争端的统计学》(“Statistics of DeadlyQuarrels”)一文中，理查森试图以科学的方法分析冲突问题。他找到了一组对应项：两个主权国家之间爆发战争的可能性和两国的共同边境长度。但是他发现不同的文献提供的长度数据完全不同。理查森后来发现，边境的长度取决于测量的工具：工具越准确，越小的误差都会被考虑到，测出来的实际长度越大。41海岸线的情况更糟糕。他发现根本无法提供一个国家完全准确的海岸线边境。“海岸线悖论”(CoastlineParadox）后被称为“理查森效应”，构成了本华·曼德博（BenoitB.Mandelbrot）分形学的基础。“理查德效应”清楚明确地体现了新黑暗时代的反直觉化特征:我们越是着迷于将这个世界计算化，这个世界就越令人迷惑不解。

45

新黑暗时代科技与未来的终结

46

第二章 计算

46

47

气候 CLIMATE

我曾经在YouTube网站上反复看过一段视频，直到它被下架。然后我在一些新闻网站上找到了这个视频的动图，这些关键镜头的截图更加令人毛骨悚然。视频中正值春天，一个身穿迷彩服、脚蹬橡胶靴的男子正徒步穿越一片广袤的西伯利亚冻土地带，肩上挂着一杆猎枪。在这片冻土上放眼望去是一望无际、繁茂苍翠的草原，蔓延至似乎一百英里之外微蓝的天边。他迈着远征探险家的脚步，大步流星，足以令他每天在这一地区行走很远。但是，随着他越走越远，脚下的路却泛起了粼粼微波，厚实的土地逐渐幻化成为层层水纹和波浪。看上去非常坚实的地面原来仅仅是一层薄薄的植被表面，在这自然的外壳之下，大地形成了新的海域，波涛汹涌—冻土带下的永久冻土层正在逐渐融化。视频中的土地看上去随时会发生崩裂，远征者的橡胶靴一旦陷入表层，他将很有可能被海底巨浪卷走，消失在茫茫绿色之中。

47

第三章

49

现实的光景则很有可能是相反的：地面会逆冲而上，向空中喷射湿土和热气。2013年，在西伯利亚的北部，人们曾听到一阵神秘的爆炸声，远在一百公里之外的居民都声称他们看到了天空中闪烁的耀眼光芒。数个月后，科学家赶到了事故现场偏僻的泰梅尔半岛（TaimyrPeninsula），他们发现这里新形成了一大片火山口，洞口有40米宽，深度则达到了30米。

在仲夏时节，泰梅尔半岛的气温最高也仅5℃，冬天则降至-30℃。这里是一派荒凉的景象：受到静水压力的挤压，核心冰层被推向表面，并在陆地表层形成了遍地的小山丘和土堆。随着山丘的不断增大，植被和碎冰通通脱落，看上去像成片成片的矮火山，山顶皲裂而多孔。然而和永久冻土层一样，山丘也在慢慢融化，甚至有些还会发生爆炸。2017年4月，研究人员在西伯利亚的亚马尔半岛（YamalPeninsula，意为“地球的尽头”)附近安装了第一批地震传感器。传感器紧邻着位于鄂毕河（ObRiver）入海口的萨贝塔（Sabetta）新港，它能够监测出半径两百多公里范围内的地面活动情况，提供山丘爆炸预警。因为这种爆炸势必会破坏港口的工业基础设施，同时还会减少博瓦涅科沃(Bovanenkovskoye）和堪日萨沃（Kharasavay）两地的气藏量。

萨贝塔港是西伯利亚地区丰富的天然气资源向外输出的重要出口点，有趣的是，这个港口的建立和威胁到港口安全的山丘爆炸均“得益于”人类大量开采、使用天然气而造成的全球气温飙升。随着北极冰川的融化，人们此前无法接近的石油和天然气资源变得唾手可得。据估计，全球30%的天然气剩余储藏量集中在北极地区2，并且其中的大部分能源储备分布在北冰洋的近海海域，在不到500米深的水下。过去一个世纪以来，人类对矿物燃料的依赖和开采产生了灾难性的后果，而这恰巧也是北极能源现在能够为人所用的原因。也因为有了开采的可能性，人们才会在这片区域建起大量基础设施，也因此需要安装保护工业基础设施的传感器：这种正反馈未来还将继续扩大升级。然而这一现象，对人类、动植物等地球生命的影响，并不正向。

新黑暗时代|科技与未来的终结

50

在西伯利亚当地，存在着另一组潜在的正反馈：融化的永久冻土层会释放出甲烷，甲烷释放得越多，冻土带将变得越松动泥泞。西伯利亚冻土带之下的永久冻土层可达1000米深，由不断累积的冰冻土壤层、岩石层和沉积层组成。冰层中冻结着百万年间留存于此的各种生命体，现在都开始向表层聚集。2016年夏，亚马尔半岛突然爆发了一场瘟疫，瘟疫夺走了一个小男孩的生命，并导致40多人住院接受治疗。人们经过研究后发现，瘟疫的病因源自感染了炭疽病菌的驯鹿尸体，这些尸体原本深埋在冻土层之中，现在它们暴露在了陆地表面。而在此前的几十年甚至数百年间，该病菌一直在冻土带冰层中处于潜伏状态。3与这种致命病菌相伴的则是死物质1]，随着冰层融化，尸体开始腐烂，释放出一缕缕甲烷：一种可怕的温室气体，锁住热量的能力比二氧化碳强得多。2006年，西伯利亚永久冻土层大约向大气中释放了380万吨甲烷。2013年，这一数据飙升至1700万吨。而引发冻土带破裂的爆炸，正是由甲烷引起的。

当然，在万物互联的时代，没有现象什么是孤立的。我们在当下感受到的天气状况，遮蔽了我们对全球整体气候的认知：变

第三章气候

49

50

[1]死物质（deadmatter）：此处为双关语，即下文中的甲烷。——译者注

51

图 at oy