(Surden,2014:93)无需明确编程即可实现。当系统的设计是由系统本身持续执行时，我们应该如何思考人工制品的政治?回到谷歌的Photos应用中失败的图像识别的例子，训练数据的性质可能和算法本身一样重要，需要考虑。正如Gillespie所指出的：
算法设计中最常见的问题是，新数据在某些结果上与训练数据不匹配[…]训练数据根本不包括也无法预测的现象出现了[…]一些重要的东西被忽视为不相关，或者从训练数据中剔除，为算法的开发做准备。(2016a:21)
事实上，正如Introna和Wood所主张的那样，“我们无法以任何程度的确定性将纯粹的社交与纯粹的技术、原因与结果、设计师与用户、赢家与输家等等区分开来”(2004:180)。然而，这并不意味着在机器学习算法的研究中采取“设计中的价值”的方法不是一个可行的选择。在某种程度上，算法实际上能够将黑人标记为“大猩猩”，或者将黑人列为未来犯罪的主要高风险(Angwin et al.，2016)，它们应该被仔细审查其功能背后的各种价值观和假设。虽然许多学者和政策制定者担心算法的歧视性能力，但呼吁部分相关公司提高透明度只是解决方案的一部分。许多“算法出了问题”的案例表明，将结果视为更根本的社会偏见和偏见的反映非常重要。也就是说，如果本应计算未来犯罪可能性的机器，被警察报告、逮捕、城市规划和司法政治体系中体现出来的、被几个世纪以来种族偏见污染的统计数据所填充，仅仅谈论算法在产生这种风险评估方面的力量，就会产生误导。与其将预测能力定位在算法(狭义定义)中，我们可以将算法视为福柯所说的政府技术(Lemke, 2001;Miller & Rose, 1990)。
福柯利用政府和治理的概念来分析权力和政治的形式，这些形式涉及到人们可能性领域的塑造和结构。虽然福柯在使用政府和治理这两个术语时，尤其是在他后来的著作中，两者有些互换，但“政府”广义上指的是“行为的行为”，而治理则指的是行为行为背后的思维模式或理性(福柯，1982;2007;2010;莱姆克，2001;罗斯，1999).25正如莱姆克所说，“政府的问题重新引导了福柯对权力的分析”(2012:17)。它是一种超越同意和强制关系的权力概念，相反，它以双重视角看待权力关系
36
IF . . . THEN