那些表面“客观”的数据可能实际上正在使原有的偏见得到加深和强化。假设警方在过去一段时间中更加关注某些居民区，那么该区的犯罪数量肯定会在总体犯罪数中占据很高的比例，这仅仅是由于警力恰巧锁定在了这些区域，而不是因为这些区域里的犯罪率比其他居民区高。一旦这些“客观”数据将其认定为“犯罪高发”地区，对这些区域的巡查就会更加密集和严格，于是逮捕的罪犯就会越多可能是由于真正的犯罪问题，可能是因为上级分派了逮捕配额，也可能是由于执法人员和社区成员之间的对立不断地升级。
警方的数据通常都不那么“纯粹”，它们通常都带有社会背景和主观偏见因素。当警务调配有所偏重时，执法者采集到的数据就不再是对犯罪行为的客观评估。白人持有毒品和枪支的可能性无异于少数族裔，但纽约的警察基本上不会拦住白人进行搜查，所以少数族裔持有毒品和枪支的犯罪记录比白人要高很多。也是这一原因，美国有10个州和51个城市都禁止雇主调查求职者的犯罪记录。可是在自动化决策过程中，不知还有多少不可信的“数据点”正悄悄地产生着作用？
黑箱社会The Black BoxSociety
060