奎克的藏经阁 · 原书印刷页

算法权力与政治 · 第 56 页

PDF 物理页索引 66 · 牛津数字政治研究

书名
算法权力与政治
作者
未记录
印刷页
56
PDF 物理页
66(从 0 开始)
章节
牛津数字政治研究
UUID
00b53386-166c-4d03-bcf3-987d55c93423
来源类型
original_book
页面 SHA-256
465f11b8ee304b2535edd7115af4e7ac0beb4661df3bcad0ee6bd70a9e2d5930

在这个案例中,人们感兴趣的不是算法还是人类控制着Facebook的热门话题,而是不同的类别是如何被纳入并在争议的背景下产生关联的。也就是说,“算法”是客观和中立的,而人类则被视为主观和有偏见的。关键是,算法本身并没有什么中立之处,对人类也没有偏见,这些描述性的标记是从特定的语境和实践中产生的。情况可能不是这样的

从关系唯物主义的角度来看,最重要的问题“在性质上不是哲学的,而是政治的”(Mol,2013:381)。回到上一章末尾介绍的本体论政治的概念,参与算法如何在当代社会中发挥作用的问题并不是试图定义它们是什么或在什么点上起作用,而是,而是关于质疑它们被制定的方式,以及它们聚集在一起创造不同版本的现实的方式。我认为,涉及算法-人类连续体的许多对比鲜明的争议例子表明,算法本身并不是好或坏、中立或有偏见的,而是根据一系列不同的因素、利益、利益相关者、战略,甚至政治,以一种或另一种方式出现。“本体论政治”(ontologicalpolitics)一词正是为了强调现实是如何从来不是给定的,而是通过互动来塑造和出现的与其决定谁在行动(或就此而言是歧视),有趣的问题是,在实体活跃的特定方式中,一个行动者变成了什么,什么时候变成了什么(Passoth et al.,2012: 4)。

通过将注意力从追问代理是什么,在哪里,转移到代理是什么,以及在特定情况下代理属于谁,我们可能会开始看到,算法作为黑盒子的概念可能不仅是一个本体论和认识论的主张,而且最终也是一个政治主张。正如我在本章开头所说,将某物定位为黑盒子有不同的功能。算法的黑箱不仅仅是一个未知,而且在许多情况下,构成了LinseyMcGoey(2012)所说的战略未知,被理解为对无知的战略利用。正如McGoey所断言的那样,战略未知强调了“培养无知往往比培养知识更有利,无论是在制度上还是在个人上”(2012:555)。例如,在灾难管理的案例中,专家声称的无知软化了对有关灾难或丑闻的任何所谓责任。通过战略性地调动未知因素,组织和个人可以坚持认为不可能发现或事先知道。这些形式的无知也经常在关于算法和软件的论述中被调动起来。

事实上,机器学习和人工智能领域似乎经常作为战略未知的整个领域出现。在最基本的层面上,机器学习算法的操作似乎排除了任何形式的确定性。因为机器在没有被明确编程的情况下“自行”学习,所以没有办法知道究竟是什么导致了某种结果。正如Dourish对机器学习出现的反思。“在我从事计算机科学的这些年里

56

IF . . . THEN