大数据不是中立的。即使它们兜售的偏见和成见能够得到纠正，人们的担忧也不会减轻。安托瓦内特·鲁夫罗伊（AntoinetteRouvroy）和托马斯·伯恩斯（Thomas Berns）提出了“算法治理”的概念，它指“某种类型的规范性或政治理性，其基础是通过建模的方式收集、聚合和自动分析大量数据，提前预测并影响可能的行为”③。这种形式的治理绕过了人类主体并剥夺了他们的反身性。他们总结说，算法治理的目的是在“没有形成或提出欲望的情况下产生行动”①。个人被绝对化，陷入了多重决定的复杂性中，个人也被拆解了，被简化为一系列将他们限制在概率可能性中的措施。就像让-吕克·戈达尔（Jean-LucGodard）想象的未来城市阿尔法城（Alphaville）一样，由算法统治的社会开始类似于“像白蚁或蚂蚁那样的技术社会”，在那里，“人们已经成为概率的奴隶”。②
技术封建主义
① Safiya Umoja NOBIE, Algorithms of Oppression : How Search Engines Rein force Racism, New York University Press, New York, 2018; James ZOU et Londa SCHIEBINGER, «AI can be sexist and racist—it's time to make it fair», nature. com, 18 juillet 2018.
② Benjamin WILSON, Judy HOFFMAN et Jamie MORGENSTERN, «Predictive inequity in object detection», arXiv preprint, 2019.
③ Antoinette ROUVROY et Thomas BERNS, «Gouvernementalité algorithmique et perspectives d'émancipation. Le disparate comme condition d'individuation par la relation?», Réseaux, vol. 177, n° 1, 2013, p. 173.
088