自动化偏见的核心是更深层的一种偏见,它并非根植于技术,而是大脑本身。面对复杂问题的时候,尤其是在时间紧迫的情况下——谁没有十万火急的时候呢—人们倾向于以最少的认知活动来解决问题,偏爱那些易于操作与解释的对策。39一旦可以让渡决定权,大脑就会选择这条最不耗费脑力的选项。这是条最便捷的捷径,由自动化助手即时提供。从任何意义上来讲,计算是认知的黑客,它窃取了人类做决策的过程,让机器承担起这一责任。逐渐地,机器插手越来越多的认知任务,不计后果地强化它的权威。我们不断修正对世界的理解以顺应自动化系统提供的建议和认知捷径。计算代替了有意识的思考行为。我们思考的方式越来越像机器,或者说我们已经不再思考。
新黑暗时代|科技与未来的终结
44