新黑暗时代：科技与未来的终结

求工程师将占地方的支撑围栏全部撤走，但是工程师无法满足他的这一要求。他们对照片进行了修图，最后在报纸上刊出的曝光照正合沃森的意。21

人群蜂拥而至，挤破窗台。在公众眼中，即使围着防护栏，SSEC依然散发着雅致、摩登的气息。它深受“马克一号”的美学影响，而“马克一号”的设计师诺曼·贝尔·格迪斯[1]是1939年纽约世界博览会著名的“未来图景”展厅的规划师。SSEC放置在世界上第一间计算机房的地台上，现在的数据中心也都这样设计，因为这样参观者就不会看到那些丑陋的电线了。来自IBM纯粹科学部的伊丽莎白·贝奇·斯图尔特（ElizabethBetsyStewart)是SSEC的主要操作者。

沃森的宣言赫然印在电脑房的墙上：协助学术机构、政府及工业界的科学家们探索人类知识的无涯之境。为了践行这一宣言，SSEC的第一次运行奉献给美国国家航空航天局（NASA）的飞行项目，测量月球、恒星和行星的位置。然而，美国国家航空航天局并未使用这些数据。相反，几周之后，SSEC开始主要为代号为“河马”的国家绝密任务提供计算服务。“河马”是诺依曼的团队在阿拉莫斯设计的项目，用以模拟第一颗氢弹爆炸。22

“河马”的编程工作持续了将近一年。大功告成之后，SSEC马不停蹄地运行了好几个月，一共模拟了三次氢弹爆炸计算。一切都是在纽约市的商铺门面中完成的，然而却没什么人注意到。

第二章计算

31

32

[1]诺曼·贝尔·格迪斯（NormanBel Geddes，1893—1958）：美国戏剧、工业设计师。——译者注

33

根据“河马”的计算，美国在1952年进行了第一次真正意义上的热核试验。如今，几乎所有的核力量都拥有氢弹。计算思维暗藏暴力与毁灭，无论在经济成本上，还是从人类的认知活动来讲，都让我们付出惨重的代价。然而人们却对此熟视无睹。它变得无人质疑，也不可置疑，并遗毒至今。

我们将看到，科技越来越无法预测未来——不管是不断波动的电子股票交易、科学研究的应用结果、还是全球气候不稳定性的加剧。这都源于计算行为正丧失其中立性，也变得越来越难以理解。

随着“旋风一号”（WhirlwindI)——世界上第一台能够输出实时信号的电子计算机在麻省理工学院的问世，理查森和诺依曼的憧憬—“计算速度超越天气”——在1951年4月得以实现。“旋风一号”起初是为美国空军建造的通用飞行模拟器。随后，实时数据的搜集、处理吸引了多方人士，有的关注计算机联网，有的则钟情于气象学。

为了更好地再现飞行员可能遇到的真实状况，“旋风一号”的一项主要功能是模拟空气动力和大气浮动，这相当于一个天气预测系统。这一系统不仅是实时的，而且还必须是联网的：通过传感器和地面气象站的雷达系统传送实时数据。这些来自麻省理工的年轻技术员们成为了互联网的先驱—美国国防部高级研究计划局(Defense Advanced Research Projects Agency)，同时也是世界上第一家商用电脑制造商——数据设备公司（DigitalEquipmentCorporation）的核心成员。一切当代计算都源自这一核心：为了军事目的预测、控制天气，从而控制未来。

33

新黑暗时代科技与未来的终结

34

“旋风一号”的设计深受ENIAC的影响，奠定了半自动地面防空系统（SAGE）的基础。20世纪50年代至80年代，北美防空司令部（North American Air Defense Command）一直采用这一庞大的电脑系统。横穿美国的27座监控站都安装有四层的指挥中心。监控站的两个终端一个用于操作，一个作为备用，配有标记目标的光枪（类似任天堂的游戏激光枪）和烟灰缸形状的控制台。今天人们仍可以在反映冷战计算系统的电影美学中找寻对SAGE系统的记忆，如1964年的《奇爱博士》和1983年的大卖影片《战争游戏》。后者讲述了一个关于计算机智能无法分辨现实与虚拟的故事，影片的最后一句台词非常出名：“唯一的胜利就是不参战。”

为了能使这一复杂的系统有条不紊地工作，IBM雇佣了7000名工程师，写下了当时世界上最大的计算程序，总共需要25000条专门的电话线连接不同的存储位置。23尽管如此，SAGE系统却以错误频出著称：经常因为忘了退出训练盘，而将模拟数据误认为实际导弹攻击，或是将一群迁徙的鸟儿定位为苏联的轰炸机战队。在计算工程史中，这些失败的尝试常常被视为时代的局限，就像现在一些软件项目和政府的IT提案，开始时都被各种吹嘘夸大，结果却远远达不到预定的目标，最后只能无疾而终，被更完善的系统取代，如此循环往复。但是假如这些故事就是计算的真正历史，又会怎样呢?人类是否将永远无法区分虚拟与现实，无法认识到计算思维本质中的概念鸿沟，无法看清我们所构建的这个世界？

我们习惯性地相信：电脑让世界变得更明晰、更有效；电脑让问题变得不再棘手，可以更好地解决令我们头疼的各种问题；电脑使我们面对不同的经历时更加从容自如。倘若这一切都不是真的呢？认真阅读计算机的历史，我们发现真相变得越来越模糊，权力变得越来越集中、退缩到越来越狭小的领域中去。通过将时代症结悬置在不可置疑的架构中，计算将现阶段的问题封存以来，转化为抽象的、难以对付的困境。我们整日为一些微不足道的数学或材料学的难题殚精竭虑，不再关心更宏大的问题，比如如何建立更民主、公平的社会。

第二章 计算

34

35

通过将模仿真实与接近真实混为一谈，计算思维的捍卫者用有缺陷的模型代替了真实世界。这样，他们就和建模者一样假装控制了世界。SAGE被证明根本无法阻止核战争的爆发，随后美国航空公司和IBM销售员一拍即合，SAGE马上摇身一变，成了“半自动化商业研究环境”(Semi-Automated BusinessResearchEnvironment,SABRE），一家管理机票预订的跨国公司。24一切都已准备就绪：电话线、天气雷达、日益私有化的处理能力以及在大众旅游和大众消费时代管理实时数据流的能力。此前用于防止商业航班被意外击落的机器——防空系统的必备要素——变成了这些航班的管理枢纽，并得到了十多亿的国防财政支持。今天SABRE联系着超过57000家旅行社、数以百万的游客、400多家航空公司、90000家宾馆、30多家汽车租赁公司、200多家旅游公司以及多条铁路、渡轮和邮轮线路。在草木皆兵的冷战时期，SAGE本是计算系统的核心，现在却掌控着游客每年数十亿次的行程。

本书中我们将会反复讨论航空业，因为它将技术、科学研究、国防安全和计算在透明/隐蔽、可见/不可见之间聚集在一起。互联网上最不寻常的可视化方式之一是由飞机追踪网站提供的。任何人都可以在任何时候上网查看空中飞行的成千上万架飞机，它们穿行在城市的上空、横跨大西洋、沿着国际航班路线的金属洪流巡航。人们可以在网站上点击任何一个小小的飞机图标，追踪它的路线、了解它的制作材料、型号、操控员和航班号，还能看到起飞和降落地点、飞行的高度、速度和时间。每架飞机上都在广播ASD-B信号，可供热衷于追踪飞机的网民们以及喜欢用当地无线电接收器共享数据的人搜索到。就像谷歌地球（GoogleEarth）或其他卫星图像服务，这些航班动态追踪系统非常诱人，以至于让人产生近似眩晕的快感—数字时代的高峰体验。在无限开放的网络上，普罗大众实现了每位冷战策划师的心中的夙愿。但是上帝的视角却是具有欺骗性的。由于私人和政府活动被屏蔽了，人们无法查到寡头政治家和政客们的私人飞机，也看不到那些隐蔽的监控飞机和军事密谋。25有多少信息外露，就有多少信息隐匿。

35

新黑暗时代科技与未来的终结

36

1983年，在一架闯入苏联领空的韩国飞机被苏军击落后，罗纳德·里根总统下令将当时仍处于保密期的全球定位系统(GPS)向公众开放。随后，无数当代技术应用应运而生，GPS成为另一项控制日常生活的隐蔽信号，人们对它已经习以为常。GPS上地图中心的小蓝点让整个地球都围绕着用户。GPS的数据可以调节汽车和卡车的路线、定位船舶、防止飞机相撞、分配出租车、追踪物流库存信息和无人机空袭时的电话来源。本质上，GPS是一个巨大的基于太空的闹钟，来自GPS卫星的实时信号监控着电

36

第二章 计算

37

37

图,,com,

来自Flighttradar24.com的截图，显示了1500架飞机的航班追踪结果（总共12151架)。请注意位于波多黎各上空的谷歌“潜鸟计划”(ProjectLoon)的气球，紧随“玛利亚”飓风的方向

网和股市。但是随着对它的依赖程度越来越高，人们往往忽略了一个事实：GPS系统可以被控制它的人操纵，比如美国政府就能够选择屏蔽某地的定位信号。262017年夏，来自黑海的一系列报告称，该地广大水域的GPS信号受到蓄意干扰，船舶导航系统显示的定位距它们的实际位置相差数十公里。许多船重新靠岸后却发现被困在了俄罗斯的空军基地—这一鬼把戏的始作俑者。27克里姆林宫也遇到了同样的情况，最先是由玩口袋妖怪游戏（PokémonGo）的玩家发现的。他们在莫斯科中心区域玩这个实景游戏的时候，游戏角色的定位总是相差好几条街区。28(特别是那些骨灰级玩家，他们后来利用了游戏的这一漏洞，靠电磁屏蔽和信号发生器，足不出户就能挣到积分。）29另外，有些人的工作受GPS监控，例如长途卡车司机，他们则干脆拆掉信号系统，这样就能随时休息，也能抄小道，将其他同路的司机抛在身后。这些例子无一不表明计算对当代生活的重要性，同时也向我们揭露了它的盲区、结构性危险以及程序化的弱点。

我们再从航空中举一个例子，回想一下在机场的经历。机场是地理学家称为“编码/空间”（code/space）的典范。30编码空间描述了计算与人造空间和日常体验互相交织的状态，不仅仅是使其强化、重叠，而是指计算变成了空间的重要组成要素。在这种状态下，编码的缺席就意味着环境与对环境的感知也将瘫痪。

在机场中，编码促进并参与了环境的产生。在我们抵达机场之前，乘客会进入电子订票系统中（例如SABRE）注册数据、确认身份以及连接诸如登机台或护照管理等其他系统。如果乘客到达机场后却发现无法登录系统，那他就摊上大麻烦了。现代安检程序不接受纸质身份识别和流程处理，电子软件是唯一被许可的标准。缺少了它，一切都免谈，人们将寸步难行。一旦软件崩溃了，机场的功能也就丧失了，机场会变成一间巨大的棚屋，人人怒气冲天。隐蔽的算法大约就是这样参与生产我们的环境。只有在其失效的时刻（类似于脑部损坏），我们才能意识到它的重要性。

第二章计算

39

“编码空间”不仅是指智能化建筑。现在网络无所不在，组合编码和集中编码不断自我复制，越来越多的日常行为离不开相应的软件。每日行程（包括私人行程）都要依靠卫星路线、路况信息和越来越“自动化”的交通工具——它们当然并不是自动化的，需要不断更新和输入。端对端的后勤系统和邮箱服务器让劳动也变得越来越编码化，而依赖它们的工作者反过来需要时刻对其进行监测。连接性能和算法修正使我们的社交生活媒介化。随着智能手机蜕变成强大的通用电脑，计算潜入我们周围的每一项设备中：从智能家用电器到交通工具导航系统，整个世界变成了“编码空间”。编码的普遍存在不仅没有让“编码空间”的概念过时，反而凸显了我们在理解计算影响力上的失败。

当我们在网上购买电子书的时候，电子书的所有权仍然归卖家所有，书的租借服务随时会被终止。在2009年，亚马逊就曾通过远程终端从顾客的Kindle电子书中删除了成千上万本《1984》和《动物庄园》。31在线音乐和在线视频服务让用户以合法的手段下载多媒体文件，塑造了人们的“个人”偏好。随着实体的开放图书馆的式微，学术期刊通过机构合作和付费订阅掌握着知识的获取通道。维基百科的运转依靠的是软件代理—又称机器人程序——负责严格执行正确的格式、建立不同文章间的关联、缓和矛盾、防止对网页的恶意攻击。最近的调查显示：在20位产量最高的编辑中，软件代理就占了17个。这项百科全书工程的编辑工作的16%都是由软件代理完成的。32读书、听音乐、搞研究、做学间等行为越来越受到算法逻辑的控制和隐蔽的计算进程的监管。文化本身成为了“编码空间”。

39

新黑暗时代|科技与未来的终结

4□

强调物理空间与文化空间在算法的联合有一定的危险，因为这将遮蔽其仰赖并复制的权力的巨大不平等性。计算不仅强化、框定、塑造了文化，它还通过不为人察觉的方式变成了文化本身。

计算一开始是要描绘和模拟，最终却反客为主。谷歌本来是要为全部人类知识提供检索服务，现在变成了知识的来源和裁判：成为了人们的所思之物。“脸书”本意是绘制人们之间的关系社交图谱，现在成为了维持关系的平台，人类社交关系被无可挽回地改变了。就像防空系统将一群飞鸟误认为轰炸机战队，软件无法区分模拟世界和真实世界。而一旦成为习惯，我们也就无法将两者区分开来。

习惯化的原因有两个：第一，计算进程晦涩复杂，普通人很难读懂；第二，无论是在政治上还是情感上，计算本身总是被视为中立的。计算之所以晦涩难懂是因为它发生在机器内部，躲在屏幕的背后，在遥不可及的建筑中—在“云”里。即使我们通过学习代码和数据能够将其穿透，可对于大部分人来说它仍然难以理解。当代的应用互联集成了多个复杂系统，没有任何一个个体能够窥见其全貌。对机器的信任是机器应用的前提条件，也加剧了我们的认知偏见：相较于非自动化，我们对自动化的结果更有信心。

第二章 计算

40

41

这种现象被称为“自动化偏见”(automationbias)，它普遍存在于每个计算领域中：从拼写检查软件到自动驾驶，也存在于每一个人的头脑中。自动化偏见使我们更重视自动化信息而非自己的体验，即使它与我们的观察所得相冲突—这在观察模棱两可的时候更甚。自动化信息简洁明确，拒绝一切混淆视听的灰色地带。另外一个相关的现象是“证实性偏见”（confirmationbias），它重新塑造我们对世界的认知，使其与自动化信息更好地保持一致，这进一步确立了计算结果的合理化地位，有时我们甚至会摒弃一切与机器视角相冲突的主体观察。33

高科技飞机座舱中的飞行员经常为我们提供自动化偏见的例证。前文提到，大韩航空的飞行员在1983年的空难中全部坠亡，里根总统随后下令全面开放GPS使用权限。这些飞行员是典型的自动化偏见的受害者。1983年8月31日，从美国阿拉斯加的安克雷奇（Anchorage）起飞后不久，机组人员根据空中交通管制部门的命令启动了自动驾驶程序，将飞机的控制权拱手相让。自动驾驶预先设定好了路标，飞机将跨越太平洋到达韩国首尔。然而，不知是系统设置出了差池，还是对系统机制发生了理解偏差，自动驾驶并未沿着预定的航线飞行，而是固执地朝着起飞时的方向飞去，从而越来越向北偏离。在离开阿拉斯加上空飞行了50分钟之后，飞机已经向北偏离航线12英里，随后偏离距离增加至50英里甚至100英里。事故调查者称，这几个小时内曾有多次对机组人员的警告。机组人员也注意到了在各个信号塔之间飞行时间较往日更长，但却继续置若罔闻。他们偏离航线越来越远，抱怨无线电接收信号越来越弱。然而所有这些都未能让飞行员对系统产生怀疑，查证他们的实际所在位置。即使飞机已经飞过堪察加半岛，闯入苏联军事领空，他们仍然对自动驾驶程序深信不疑。苏联出动了战斗机，准备将其截获，飞机仍在继续往前飞。三个小时之后，他们仍然毫不知情，苏-15型战斗机发射两枚空对空导弹，近距离的爆炸摧毁了韩国飞机的液压系统。航班最后几分钟的驾驶舱记录显示，自动系统发出了紧急迫降的警告，飞机曾试图重置自动驾驶程序，但一切为时已晚。34

新黑暗时代|科技与未来的终结

42