算法权力与政治

研究(富勒，2008)。在过去十年左右的时间里，社会科学家和人文学者呼吁扩大对代码的理解，大大超出其技术定义(Berry,2011;富勒，2008;Kitchin & Dodge,2011;麦肯齐，2006)。软件研究可以被理解为一种文化研究方法来研究“软件的东西”(富勒,2008)，其中什么是“东西”仍然相对开放的解释。这种概念上的开放性可能是软件研究与计算机科学方法的区别所在，因为软件被视为“关系、形式和实践之间不断变化的联系”(麦肯齐,2006:19)。这并不是说，对软件作为一种文化研究对象感兴趣的学者忽视了物质性或技术操作的重要性，恰恰相反。在呼吁扩大对软件作为日常生活一部分的意义和重要性的理解的同时，软件研究领域的学者也对软件的技术和功能维度保持着高度的敏感性。亚历山大·加洛韦(Alexander Galloway)在他的著作《协议》(Protocol)中指出，“对任何给定的技术都有技术和理论的理解，这不仅值得，而且是必要的”(2004:为了理解在“控制社会”中发挥作用的权力关系，加洛韦认为，从技术(在这种情况下，是HTTP等协议)如何工作以及它为谁工作的问题开始是至关重要的。事实上，不将软件或算法的技术细节作为社会学或批判性探究的一部分被视为有问题的(Rieder,2017:101)。虽然媒体学者对编码技能对于批判性理解软件和算法的必要性的评估存在分歧，但一些技术知识显然是可取的

如果扩大对软件和算法的理解并不一定意味着从分析中抛弃技术细节，那么这意味着什么？一种观点受到行动者网络理论和类似观点的启发，认为软件和算法是复杂的技术系统，不能仅仅用技术来描述因为它们的本体论地位仍然不明确。正如麦肯齐所说，软件具有“可变本体”，这表明“实体的本质是不稳定的”(2006:96)。软件的可变本体论意味着“何时何地它是社会的或技术的、物质的或符号学的问题无法得到决定性的回答”(2006:96)。类似地，吉莱斯皮认为“算法’实际上可以作为社会技术集合的缩写，包括算法、模型、目标目标、数据、训练数据、应用程序、硬件，并将其与更广泛的社会努力联系起来”(2016a:22)。此外，正如Seaver所指出的那样，“算法系统不是独立的小盒子，而是庞大的、网络化的盒子，有数百只手伸进去，调整和调整，交换零件，试验新的安排”(2013:10)。回答什么算法超越了其技术定义的问题的另一种方法是将它们视为某些意识形态或特定的世界制造方式的铭文(Goodman,1985)。例如，学者们分析了支撑搜索引擎和高频交易的算法逻辑，分析了它们是如何被说成是

30

IF . . . THEN

推进一种资本主义意识形态(Mager,2012;斯奈德，2014)。另一种选择，与网络视图不同，是强调算法“在实践中纠缠”的方式(Introna2016;吉莱斯皮，2014;Orlikowski & Scott, 2015)。这是一种概念，即算法所做的事情是它们所纠缠的其他事物的一部分。正如吉莱斯皮所写，“算法是为了嵌入到产生它们处理的信息的生活世界中的实践中”(2014:183)。研究人员利用社会物质性、表演性或纠缠性的概念，将他们的注意力集中在算法在技术术语上做了什么，而不是在实践中和通过实践构成和被构成方面做了什么。重要的不是精确的指令或算法背后的定理，而是如何将其纳入特定的社会物质实践(Introna, 2016)。

算法作为形容词的概念表明，当社会科学家和人文学者援引“算法”一词时，他们真正关心的“不是算法本身，而是将程序插入人类知识和社会经验中”(吉莱斯皮，2016a:25)。在最近关于文化、美学和知识生产的各种论述中，已经注意到将程序性和量化插入到人类经验中。例如，文化理论家Ted Striphas(2015)写到了一种“算法文化”的出现，他认为这是Netflix和亚马逊等平台改变传统文化实践、体验和理解方式的方式此外，MarkLenglet(2011)描述了金融世界是如何变得算法化的，不仅通过将算法程序插入交易中，而且还通过算法现在占据交易者思想的方式，使他们以特定的方式行动和反应。正如我将在第5章和第6章中讨论的那样，这并不是金融世界所独有的，而是在从社交媒体用户对平台的取向到新闻的制度背景(算法被插入新闻实践和话语中)的一切事情中都很明显。甚至同一性似乎也变成了算法，正如“从线下到在线营销的转变”所证明的那样(切尼利波德，2011:175)。从许多社会学家、文化理论家和媒体学者的角度来看，算法有趣的地方并不一定与计算机科学家或工程师感兴趣的地方相同。虽然算法仍然是一组用于解决计算问题的指令，但在数学和社会学中，这个术语的价值明显不同。然而，正如吉莱斯皮指出的那样，“强调数学质量并不是将算法与人类判断进行对比。相反，要认识到它们是在人类活动中引入并赋予量化、程序化和自动化特权的机制的一部分”(2016a:27)。

今天对算法表达的社会担忧并不一定是新的。作为量化、分类、测量和预测的机制，算法在计算和软件工程的历史中与在统计、会计和官僚化的历史中一样重要。正因如此，

The Multiplicity of Algorithms

31

算法的历史和文化背景与各种类型的计算和排序的社会历史交叉，包括统计推理和大数的历史和政治(Desrosieres & Naish, 2002;福柯，2007;《黑客》，2006;权力，2004);量化、编号和估值的实践(Callon & Law, 2005);埃斯普兰和史蒂文斯，2008;Verran, 2001);排名和评级的文化逻辑(埃斯普兰和索德，2007;索德&埃斯普兰出版社，2009);批判性会计和审计的理念(Power,1999;Strathern, 2000b)。此外，当代对算法力量的担忧也可以被视为“对泰勒主义和工业劳动自动化担忧的延伸”（吉莱斯皮，2016a:27)或“媒体行业长达一个世纪的实践，以确定(并经常量化)流行什么”(吉莱斯皮，2016b)。显然，算法需要被理解为历史谱系的一部分。事实上，我们可以说，19世纪民族国家开始对其人口进行分类和统计时发生的“数字雪崩”(黑客，1991年，2015年)，为理解大数据时代的算法提供了一个总体背景。然而，这一特定的历史脉络，如果我们要把它一直延续下去，还需要我们通过人口普查、打孔卡、官僚化和工业社会和工厂工作的兴起、战时机械和计算机的兴起等社会历史，走一条复杂而分离的路线，数据库和人口的自动化管理，在通过数据挖掘和机器学习技术到达当代“化妆”环境(黑客，1999)之前。这是一个谱系，讲述了管理人口的故事—一最著名的是米歇尔·福柯在他的法兰西学院讲座中的理论(福柯，2007年，2008年)。正如福柯(2007:138)所指出的，统计在词源学上意味着“对国家的了解”。因此，统治者的任务是确定一个人需要知道什么才能最有效地治理国家，以及如何组织这些知识。如果通过统计的编号实践和近年来的企业数据挖掘来收集数据使算法操作成为可能，那么算法本身(从技术意义上理解)赋予了原本毫无意义的数据形状。虽然不能否认大数据(人、物及其相互作用产生的信息量)的巨大力量和潜力，它的价值不是来自数据本身，而是来自它们被各自软件系统的关联基础设施整合成有意义的新形式的方式，算法在这些系统中起着关键作用。

算法的力量

这本书的起始前提是观察到算法已经成为当代媒体环境中权力的关键场所。在过去十年左右的时间里，社会科学家和人文学者已经开始探索和描述算法在社会生活中日益增加的存在，以及算法所带来的新的权力模式

32

IF . .. THEN

这些新的“生成规则”所带来的(Lash, 2007;Beer, 2009;Cheney-Lippold,2011;吉莱斯皮，2014;Diakopoulos, 2015)。正如斯科特·拉什(ScottLash)所言，“无处不在的媒体社会意味着一个权力日益在算法中体现的社会”(2007:71)。说算法是强大的、有权力的、有生命力的、发挥作用的、或产生权力的，需要一些限定和解释。权力的概念是最具争议和最重要的术语之一。虽然很难对权力是什么这个基本问题给出一个简短的答案，但米歇尔·福柯的学术研究提供了一个最全面的途径，让我们对这个术语有了细致的、多方面的理解。对福柯来说，权力从来不只是一件事，从根本上说，它是关于不同形式的关系。在他的整个职业生涯中，福柯改变和修改了他对权力的看法，创造了对特定背景、制度、知识对象和政治思想敏感的、分析性的、独特的权力概念一般来说，福柯将权力关系划分为三个层次，他称之为自由、统治和政府技术之间的战略博弈。正如福柯在一次采访中阐述的那样：

在我看来，我们必须将权力关系区分为自由之间的战略博弈——战略博弈导致一些人试图决定他人的行为——和统治状态之间的关系，这就是我们通常所说的权力。在这两者之间，在权力游戏和统治状态之间，你有政府技术。(Bernauer&Rasmussen, 1988: 19)

第一个层面—一自由之间的战略博弈—一是社会和人类互动的普遍特征。从这个非常广泛的概念出发，可以得出结论，在权力关系之外没有任何东西，因为权力决定了社会的存在。虽然福柯主要是将权力概念化为现代社会生产机器所固有的，但他也坚持一种承认某些个人和群体的从属地位的不对称关系的权力概念。然而，统治从未被视为默认的权力形式，而是一种例外。权力关系的第三个概念—一政府——指的是一种更加系统化和规范化的权力形式，它遵循一种特定的理性形式。福柯的政府概念将权力与统治区分开来，首先将权力视为一种指导形式，并“塑造主体可能行动的领域”(Lemke,2012:17)。在许多方面，这三个层次的权力可以从算法的力量最近在文献中被框定的各种方式中看到。虽然大多数作者没有明确地用福柯式的术语来构建他们对算法力量的概念，但将讨论与福柯联系起来，可能有助于从分析上区分出，在宣称算法在当今社会中所扮演的强大角色时，什么是利害关系。

The Multiplicity of Algorithms

33

与福柯所描述的权力的内在形式一样，斯科特·拉什认为资本主义权力的新形式是“通过算法的权力”(Lemke,2012: 17，重点是我的)。这是一种自下而上运作的权力形式，而不是所谓的权力移交。因此，它通过筛入“社会的毛细血管”而变得与生活本身无法区分(Lash，2007:61)。在他关于社交媒体时代的算法权力的开创性文章中，比尔以拉什的“后霸权”权力形式概念为基础，认为支撑社交媒体平台的算法“具有塑造社会和文化形态并直接影响个人生活的能力”(2009:994)。借鉴了Last的例子。fm是一个音乐分享平台，比尔认为，该算法的强大之处可以从该平台为用户提供自己特定口味的在线广播电台的方式中看出。换句话说，力量源于算法“塑造听觉和文化体验”的能力(2009:996)。这种通过算法获得权力的概念并没有将权力视为等级或单向的，而是将其视为生活本身所固有的。在这个意义上，算法权力可以被理解为各种力量、能量或能力(Lash,2007)。这种将权力理解为内在的方式，也许最著名的反映在福柯的权力概念中，即权力是现代社会无所不在的特征，在现代社会中，权力关系不被视为压抑性的，而是生产性的(Lemke, 2012: 19)

其他人则认为，算法具有通过其“自主决策”能力来调节社会生活的内在力量(Diakopoulos,2015:400)。在这里，权力似乎位于算法的机制中。根据Nick Diakopoulos的说法，算法的力量源于“算法做出的原子决策，包括优先级、分类、关联和过滤”(2015:400，原文强调)。因此，算法通过对信息的呈现、组织和重要指示方式做出决策来发挥权力。作为过滤设备，算法决定包含和排除哪些信息，构成了一种新的守门人形式(Bozdag, 2013;Helberger et al.， 2015;Napoli, 2015).23与围绕网络早期的言论相反，这些言论往往预示着互联网通过给予每个人发言权来消除等级制度的潜力，学者们现在担心算法正在承担对公众舆论形成方式产生重大影响的守门人角色(Just &Latzer, 2016)。担心算法会削弱公共领域的民主潜力——例如，通过制造过滤气泡(Pariser,2011;Zuiderveen et al.，2016)或首先操纵向公众展示的信息(Tufekci, 2015)——经常被更传统的术语框定为被视为分层和自上而下的统治或权力形式。从这个意义上说，算法被视为对某人或某事拥有权力。正如弗兰克·帕斯夸尔(Frank Pasquale)在他的新书《黑箱社会》(The Black BoxSociety)中所写的那样，搜索引擎和社交网络通过其包容、排斥和排名的能力，“有能力确保某些公众印象成为永久的，而其他印象则转瞬即逝”(2015:14)。用福柯的话来说，这将是一种形式的权力

34

IF . . . THEN

政治、社会和经济的统治，一个实体阻止另一个实体看到或做某事。正如帕斯夸尔所说，“我们赋予了搜索行业几乎难以想象的权力，来决定我们看到了什么，我们在哪里消费，我们如何感知”(2015:98)。然而，将算法定义为对某人或某事拥有权力，可能会忽视任何算法操作之前的人类决策过程和编程。帕斯夸尔指出，我们赋予了搜索领域权力，他指的不仅仅是运行谷歌的算法。然而，有一种趋势是，将算法作为一种更分散的权力形式的占位符。正如我在本书中所说的那样，对权力和政治的算法形式的批判性探究应该始终延伸算法拥有权力的任何主张。正如我将在下一章中详细阐述的那样，谁或什么权力最明显地属于这个问题并不能得到决定性的回答。相反，可以考察的是实践中的算法，即算法得以呈现并呈现其自身生命的场所和情境。

关于算法决策的主张，往往伴随着随后对更大问责制和监管的呼吁(Diakopoulos,2015;Pasquale,2015)是对技术可以说具有政治的方式的更长期的关注的一部分。根据这一观点，技术从来不是中立的，而总是已经嵌入了某些偏见、价值观和假设。至少从Winner(1986)关于Moses’s low-hanging bridges的有影响力的论点开始，学者们就开始倡导考虑人工制品政治的必要性，特别是通过关注设计中的价值和这些设计选择的道德重要性例如，Introna和Wood(2004)认为，面部识别系统是政治性的，因为这些算法形式的监视在系统的设计中带有对指定风险的某些假设。正如Introna和Wood所解释的那样，政治在很大程度上是隐含的，是“试图解决实际问题的世俗过程的一部分”(2004:179)。每一个涉及人类的神器，包括算法，总是带有关于世界如何运作的某些假设和价值观。以ATM机的设计为例：“如果你是盲人，坐在轮椅上，有记忆问题，或者因为残疾而无法输入密码，那么你对访问你的账户的兴趣就会被ATM机的设计所排除”(2004:179)。问题的关键不在于ATM机的设计者有意识或故意地不让坐轮椅的人使用ATM机，而在于系统的设计方式总是涉及某些排斥性的做法，这些做法有时似乎是一种或多或少连贯和意向性的的策略，尽管没有人“创作”这样的策略(Introna和Nissenbaum, 2000)。

意向性的问题一一是否有人明确地编写了一个工件以特定的方式运行，或者它的功能是否是紧急的一一在机器学习算法方面变得更加复杂。这些算法能够根据反馈随着时间的推移而提高性能。此外，机器学习算法“创建一个给定现象的内部计算机模型，可以推广到应用于该现象的新的、从未见过的例子”

The Multiplicity of Algorithms

35

(Surden,2014:93)无需明确编程即可实现。当系统的设计是由系统本身持续执行时，我们应该如何思考人工制品的政治?回到谷歌的Photos应用中失败的图像识别的例子，训练数据的性质可能和算法本身一样重要，需要考虑。正如Gillespie所指出的：

算法设计中最常见的问题是，新数据在某些结果上与训练数据不匹配[…]训练数据根本不包括也无法预测的现象出现了[…]一些重要的东西被忽视为不相关，或者从训练数据中剔除，为算法的开发做准备。(2016a:21)

事实上，正如Introna和Wood所主张的那样，“我们无法以任何程度的确定性将纯粹的社交与纯粹的技术、原因与结果、设计师与用户、赢家与输家等等区分开来”(2004:180)。然而，这并不意味着在机器学习算法的研究中采取“设计中的价值”的方法不是一个可行的选择。在某种程度上，算法实际上能够将黑人标记为“大猩猩”，或者将黑人列为未来犯罪的主要高风险(Angwin et al.，2016)，它们应该被仔细审查其功能背后的各种价值观和假设。虽然许多学者和政策制定者担心算法的歧视性能力，但呼吁部分相关公司提高透明度只是解决方案的一部分。许多“算法出了问题”的案例表明，将结果视为更根本的社会偏见和偏见的反映非常重要。也就是说，如果本应计算未来犯罪可能性的机器，被警察报告、逮捕、城市规划和司法政治体系中体现出来的、被几个世纪以来种族偏见污染的统计数据所填充，仅仅谈论算法在产生这种风险评估方面的力量，就会产生误导。与其将预测能力定位在算法(狭义定义)中，我们可以将算法视为福柯所说的政府技术(Lemke, 2001;Miller & Rose, 1990)。

福柯利用政府和治理的概念来分析权力和政治的形式，这些形式涉及到人们可能性领域的塑造和结构。虽然福柯在使用政府和治理这两个术语时，尤其是在他后来的著作中，两者有些互换，但“政府”广义上指的是“行为的行为”，而治理则指的是行为行为背后的思维模式或理性(福柯，1982;2007;2010;莱姆克，2001;罗斯，1999).25正如莱姆克所说，“政府的问题重新引导了福柯对权力的分析”(2012:17)。它是一种超越同意和强制关系的权力概念，相反，它以双重视角看待权力关系

36

IF . . . THEN

“行为”一词既是一种领导形式，也是“在一个或多或少开放的可能性领域内的一种行为方式”(福柯，1982:789)。政府是关于“对事物的正确处置”(福柯，2007:134)，它涉及“人与各种事物的关系、纽带和复杂参与”，如资源、环境、习惯、行动和思维方式(福柯，2007:

134).26举例来说，福柯问管理一艘船意味着什么？

它当然包括对水手负责，但也要照顾船只和货物;治理一艘船，还要考虑到风、礁、风暴和恶劣天气。船舶管理的特点是建立水手之间的关系，船只，必须得到保护，货物，必须运到港口，以及他们与所有可能发生的事情，如风，礁石，风暴等的关系。(福柯，2007:135)

将对政府的分析扩展到对算法权力的理解，意味着对事物被安排和管理的方式的关注，以某种方式引导人们。对福柯来说，这种组织能力具有关键的技术维度，因为行为的实施是通过各种技术手段实现的例如，Introna(2016)通过考虑如何使用抄袭算法来管理学术写作实践，探索了算法力量的这个维度。他认为，算法有能力制定特定的受治理主体，例如抄袭软件制定了“对原创性和抄袭的特殊理解，以及将良好’写作实践视为不可检测文本组成的主体”(Introna,2016:20)。正如福柯早期的规训权力概念(这一概念将在第四章进一步讨论)一样，政府和治理的概念强烈依赖于主体化作为权力的核心原则。在福柯的作品中，对主体和主体位置的塑造，将权力塑造成一种具有生产和生成能力的东西。

这样的权力并不存在;它只有在“付诸行动时”才存在(福柯，1982:788)。对于算法权力的理解，这意味着算法不具有或拥有权力。相反，算法制定了“行为的可能性，并使可能的结果井然有序”(福柯，1982:789)。“治理”并不“强迫人们去做统治者想要做的事”，而是通过确保“自我被自己构建或修改的强制和过程”而起作用(福柯，1993:204)我想建议，我们把政府和治理看作是理解算法力量的特别有用的概念。算法并不是简单地在占有意义上拥有权力;它们构成了“政府的技术”。就像福柯关于安全的描述中统计数据能够控制人口一样，算法也可以作为工具来运作

The Multiplicity of Algorithms

37

政府有能力引导信息流和用户的实践“流向这个或那个地区或活动”(福柯，2007:141)。

然而，将算法视为福柯意义上的政府技术，并不是要将算法的分析限制在物质领域。正如Lemke所写，“对政府的分析运用的技术概念不仅包括物质，还包括符号装置”(2012:30)。话语和叙事“没有被简化为纯粹的符号学命题;相反，它们被“视为表演性实践”，是塑造行为行为的机制和技术的一部分。在整本书中，算法作为政府技术运作的不同方式将被明确和隐含地处理。在第4章中，Facebook的新闻推送算法被明确地框架为一种架构形式，以“正确的配置”安排事物(用户和对象之间的关系)。第5章强调了关于算法的叙述和信仰构成双重表达的方式，通过反馈循环塑造个人和算法的行为。与此同时，第6章考虑了算法如何在数字时代用于管理新闻，研究算法如何不仅制定对新闻的特别理解，而且还通过算法现在占据新闻专业人员思想的方式，使他们以某些方式行动和反应。

以算法为目标

最后需要说的是，首先选择将算法作为目标。虽然我在整本书中都保持了一个广义的算法概念，作为一种谈论计算机规则和日常生活指令交织的方式，但值得注意的是，使用算法作为目标并非没有问题。正如伊恩·波哥大(IanBogost)所指出的那样，把算法单独挑出来作为描述当代文化的目标，是有一定危险的。虽然我同意波哥大(2015)的观点，即算法不是简单、单一的系统，而是多部分和复杂的，涉及“各种各样的人、过程、材料和机器”，但它并不怀疑算法是研究对象和感兴趣的现象，恰恰相反。正是由于它们的纠缠性和复杂性，我们显然需要理清它们在这个世界上的意义和行为方式。

在这本书中，我想做的是更好地探索和理解，在当代媒体景观的社会结构中，算法交织在一起意味着什么。针对算法，主要是为了更好地理解这些程序化机制所具有的修辞域。也就是说，正是因为“算法在我们这个痴迷于技术的时代扮演了一个特别神秘的角色”(这是对更多东西的“草率速记”)

38

IF . . . THEN

就像波哥大说的那样复杂)，不需要那么草率的描述。当推特和Instagram等平台公开宣布他们正在引入“算法时间表”，或者当媒体反复报道“算法歧视”和偏见事件时，我们也越来越需要审视这个词的含义，更重要的是，“算法”如何以及何时被用作特别有用的能指，以及为谁的利益而使用。就像Katherine Hayles(2005: 17)认为计算“远不止数字计算机”和“不限于数字操作或二进制代码”一样，本书认为算法远不止一步一步地告诉机器该做什么当伦敦一家书店在一个书架上给员工推荐的书籍贴上“人类算法”的标签，或者当英国广播公司在一档广播节目开始时宣布“人类打败了机器人”时，显然，算法的概念似乎告诉了我们思考和谈论当代文化和社会的方式，而不仅仅是严格局限于计算机

我想说的是，算法构成了某种文化逻辑，因为它们“远不止是编码指令”，渗透到人们思考和谈论从经济到知识生产再到文化等一切事物的方式中。算法存在于许多尺度上，从软件的可操作性到整个社会。然而，在这本书中，我对断言算法是什么不太感兴趣，好像它们拥有一些可以清晰描绘的本质。有趣的是算法的“本体论政治”，即“可能性的条件不是给定的”，而是在情境实践中形成的(Mol,1999:75)。算法被看作是多重的。这就是说，算法作为一个单一对象存在的方式是不存在的。通过假定算法的多重性质，其目的是认真地对待它们的多面性

根据Mol在2002年出版的《身体的多重》一书中提出的观点，关节硬化症并没有本质—一只是在特定的环境下不同的版本，我认为算法从来不会只以一种方式实现。然而，这并不意味着不能有一个被称为算法的单一对象，也不意味着算法只不过是关系。就像Mol研究的疾病或约翰·劳研究的飞机一样，算法在多重性和单一性之间摇摆。正如劳所说：“是的，动脉粥样硬化。是的，酒精性肝病。是的，一个水泵…是的，一架飞机。所有这些都或多或少是单数，但也或多或少是复数”(2002a:33)。同样地，我们可能会说:是的，一个神经网络。是的，一个用c++写的代码。是的，网页排名。是的，一个关于我们如何组织生活的对话。所有这些都或多或少是单数，或多或少是复数。然而，与Mol和Law相比，本书不是关于特定对象，例如特定飞机(Law特别关注军用飞机TSR2)，疾病(即贫血)或算法(即网页排名)。所讨论的奇点和多重性是分析切割的结果。有时，算法可能会作为一个单一的实体出现——例如，在第4章关于Facebook新闻提要算法。

The Multiplicity of Algorithms

39