种族偏见的幽灵
在数据库中，任何人都有可能被贴上“不可靠”、“医疗成本高”、“收入下降”和其他不良标签。信用系统正在催生新的“少数族裔”(通常在一种不知不觉的过程中)，这一人群会由于错误的或不公平的对待而处于劣势。运算程序并不能杜绝基本的歧视问题，而只是会使那些没有事实根据的负面假设汇集成偏见。程序的编写是由人完成的，而人又会将其价值观嵌入程序，编写程序过程中使用的数据也会不可避免地带有人的偏见。
“信誉社会”的推崇者们认为，虽然数据采集行为有时会让人感到不安，但数据评估总会优于人工评估。他们辩称道，如果按照传统方式做出雇佣和升职决策，基于亲自面试和人工审核简历的方式会比自动化评判带有更多的偏见。芝加哥大学法学教授利奥尔·斯特拉里兹(LiorStrahilevitz)认为：“信誉追踪工具……提供了个人的详细信息，因此会降低决策制定者对于群体定式的刻板印象。”他赞成在雇用员工时使用犯罪背景信息，但认为这些信息不应该建立在带有偏见的数据之上。例如，如果把警力锁定在少数族裔，那么就会有更多的少数族裔留下犯罪记录，即使这个群体的犯罪率并不比其他群体高。研究人员透露，在线资源可能存在同样的问题。白宫关于大数据的一篇报道指出：“大数据分析学有可能会损害公民的权利，使长期受到保护的私人信息在房产、信贷、就业、健康、教育和市场中遭到滥用。”弱势群体的处境会更加艰难。
第二章
数据失控时代的网络信誉
055