此类事件层出不穷，而它们的影响也在多个模拟实验中得到了证实。而更糟糕的是，偏见不仅仅是无视的过失，也是盲目的认同。大韩航空的飞行员盲目遵循自动驾驶的指令，他们选择的是一条最顺从的路。事实证明，就连富有经验的机长看到自动报警信号也会采取紧急行动，即便与他们的实际观察不一致。早期空客A330因对火警警告异常敏感而臭名昭著，造成了多架航班变更线路，徒增了飞行风险。而这些航班的机长们再三确认过没有火警危险。在美国国家航空航天局进行的“埃姆斯高级概念飞行模拟器”(Ames Advanced Concepts Flight Simulator)的研究实验中，机组人员在飞机起飞前会接收到相互矛盾的火警信号。研究显示，在双方都会被告知额外信息的情况下，75%的机长会听从自动系统的指令，关闭掉错误的引擎。而根据传统的纸质检查法，这一比例只有25%。根据实验视频，遵循自动化系统指令的机长做出的决定更迅速、更不容商榷，这表明一旦有了直接的行动建议，机长们就不会再深入分析问题产生的原因。35
自动化偏见意味着技术即使在正常运转时都有可能危及我们的生命—GPS又是其中一例。一群日本游客试图登上一座澳大利亚的岛屿时，他们将汽车开向了海滩并直接冲进了海中，因为他们的卫星导航系统告诉他们这是一条行得通的路。涨潮时分，他们在距海岸线50英尺的地方被人营救出来。36来自华盛顿州的一群人则将车驶入了湖里，导航系统让他们偏离了主干道，进入一条轮船坡道。当紧急救援服务队赶到时，他们发现汽车漂在深水区里，只有车顶露出了水面。37而对于死亡谷国家公园的护林员来说，此类事件习以为常。他们用专门的术语来形容：“GPS之死”（DeathbyGPS），意思是说人生地不熟的游客总是相信导航，而非他们的理智判断，后果往往不堪设想。38在有些地区，地图上标志的路线往往是常规车辆无法通过的，在白天气温高达50℃，也找不到水源的情况下，一旦迷路就会丧命。在这些情况下，GPS导航系统并没有欺骗用户，也没有出错。电脑只不过是被提问了一个问题，然后给出了答案—人类循着电脑的回答走向了死亡。
第二章计算
43