这种现象被称为“自动化偏见”(automationbias)，它普遍存在于每个计算领域中：从拼写检查软件到自动驾驶，也存在于每一个人的头脑中。自动化偏见使我们更重视自动化信息而非自己的体验，即使它与我们的观察所得相冲突—这在观察模棱两可的时候更甚。自动化信息简洁明确，拒绝一切混淆视听的灰色地带。另外一个相关的现象是“证实性偏见”（confirmationbias），它重新塑造我们对世界的认知，使其与自动化信息更好地保持一致，这进一步确立了计算结果的合理化地位，有时我们甚至会摒弃一切与机器视角相冲突的主体观察。33
高科技飞机座舱中的飞行员经常为我们提供自动化偏见的例证。前文提到，大韩航空的飞行员在1983年的空难中全部坠亡，里根总统随后下令全面开放GPS使用权限。这些飞行员是典型的自动化偏见的受害者。1983年8月31日，从美国阿拉斯加的安克雷奇（Anchorage）起飞后不久，机组人员根据空中交通管制部门的命令启动了自动驾驶程序，将飞机的控制权拱手相让。自动驾驶预先设定好了路标，飞机将跨越太平洋到达韩国首尔。然而，不知是系统设置出了差池，还是对系统机制发生了理解偏差，自动驾驶并未沿着预定的航线飞行，而是固执地朝着起飞时的方向飞去，从而越来越向北偏离。在离开阿拉斯加上空飞行了50分钟之后，飞机已经向北偏离航线12英里，随后偏离距离增加至50英里甚至100英里。事故调查者称，这几个小时内曾有多次对机组人员的警告。机组人员也注意到了在各个信号塔之间飞行时间较往日更长，但却继续置若罔闻。他们偏离航线越来越远，抱怨无线电接收信号越来越弱。然而所有这些都未能让飞行员对系统产生怀疑，查证他们的实际所在位置。即使飞机已经飞过堪察加半岛，闯入苏联军事领空，他们仍然对自动驾驶程序深信不疑。苏联出动了战斗机，准备将其截获，飞机仍在继续往前飞。三个小时之后，他们仍然毫不知情，苏-15型战斗机发射两枚空对空导弹，近距离的爆炸摧毁了韩国飞机的液压系统。航班最后几分钟的驾驶舱记录显示，自动系统发出了紧急迫降的警告，飞机曾试图重置自动驾驶程序，但一切为时已晚。34
新黑暗时代|科技与未来的终结
42