一位Google发言人指责纽曼使用“有缺陷的方法”得出了“极不准确的结论”，并声称Google绝不会“基于种族和姓名等敏感信息选择广告内容”。信誉算法的黑箱性质再一次使这一问题的解决陷入僵局。即使我们可以对某一公司进行审查，并确保其操作程序没有涉及故意歧视，但算法的疏忽仍然是一个需要给予现实关注的问题。不一定是“种族干预因素”让某项算法对“拉坦扎”和“塔尼娅”做出了区分，或许仅仅是由于过去有人对姓名因素进行过评估，而电脑程序又将该评估结果进行了延伸。在无法获知数据和编程内幕的情况下，我们永远无法知道这种关联性是如何产生的，也不知道“现实生活”中存在的歧视问题如何潜入到了网络空间。正如联邦贸易委员会主席伊迪丝·拉米雷斯(EdithRamirez)指出的那样，我们必须“确保在使用大数据算法时，(公司)不会基于社会上的法律或道德分类，如种族、族裔、性别和性取向等，对人进行划分”。
黑箱社会The Black BoxSociety
058