算法权力与政治

而是关于线性时间本身的标点符号。正如第四章所论述的，kairos是构成算法媒体的时间体制的东西。毕竟，正如Facebook所言，动态消息的目标是“在正确的时间将正确的内容传递给正确的人，这样他们就不会错过对他们重要的故事”(Backstrom,2013)。在过去的几年里，越来越多的媒体平台也纷纷效仿。Instagram和Twitter只是一些比较突出的平台，它们开始通过突出“正确时间”的内容来打断“实时”信息流。前一章展示了“合适的内容，在合适的时间给合适的人”的逻辑是如何越来越多地成为传统新闻媒体的一部分的。面对经济困境，新闻媒体正在重新定位，以适应新的数字现实。一个后果是新闻机构适应算法媒体格局的方式，通过部署算法，以读者在社交媒体空间中已经熟悉的方式生产、分发和呈现新闻。但更重要的是，传统新闻媒体正变得与算法相适应。

这让我想到了两年前的11月和今天的第三个不同之处。从社会和文化的角度来看，算法已经作为某种社会和文化的想象而出现。算法似乎“无处不在”。它们已经成为文化和社会生产的场所。作为新闻报道、学术论文和会议的对象，以及公共争议、流行话语、文化生产和情感遭遇的焦点，算法正在产生计算性的结果。而当算法以我们为导向时，我们也越来越倾向于算法。在第5章中，我展示了社交媒体的算法输出如何在文化上变得有意义，正如人们对特定系统形成意见并围绕它们采取战略行动的方式所看到的那样算法不仅在文化和社会上留下印记;在一定程度上，它们已经成为了文化。正如Roberge和melan<e:1>提出的“算法做文化的事情,它们在产生意义和解释文化方面越来越活跃”(2017:318)。

然而，算法不仅仅是解释文化的手段，它们也是文化的生产者，从它们所产生的实践来理解。Hallinan和Striphas声称“工程师现在以前所未有的权威发言，用与他们的学科相一致的假设、议程和理解弥漫文化”(2016:119)。尽管工程师和计算机科学家被认为处于对“算法”一词持有意见的特权地位，但与此同时，我们也看到了一种新兴趋势，即“普通”的人和机构正在谈论和思考算法。他们这样做的方式是在算法中渗透与他们特定背景和生活世界相一致的假设、议程和理解。对于那些将Facebook算法视为内容的压制者和监管者的人来说，算法中充斥着议程和假设，而这些议程和假设可能不会被其他在不同情况下遇到类似帖子的人分享。

150

IF .. . THEN

那么，在不断变化的条件下，我们该如何看待这个算法呢?如果算法是不断变化的，我们怎么能知道算法和它们所处的系统呢?这本书提出，无论是对象不断变化的性质，还是它被商业秘密和专有系统吞没的方式，都不应被视为必要的威慑。我认为，我们对算法如何塑造日常生活的理解不会因为不了解事物而受到抑制，仅仅因为事物总是已经是“许多完全不同的事物”(Law,2002:15)。在第3章中，我提供了三种可以应用于算法分析的方法论策略。每一种方法都分别映射到第4章、第5章和第6章中对算法的研究。一种方法有助于描述技术如何使文化想象物质化。在这里，技术的概念被呈现为一种询问算法的方式，作为空间和物质安排，有助于以某些方式配置用户(第4章)。我提出了对生产力的现象学理解，即人们对算法的想象与他们的生活环境的实际接触(第5章)。第三种(但绝不是最终的)选择是将材料和话语放在一起思考，通过观察算法在特定环境中被不同地配置和产生影响的方式(第6章)。

理解算法媒体的力量和政治取决于承认它们的“可变本体”。正如Introna和Wood所主张的那样，“我们不能以任何程度的确定性将纯粹的社交与纯粹的技术、因与果、设计师与用户、赢家与输家等等区分开来”(2004:180)。为了反驳这样一种假设，即算法本质上是技术上的东西或编码对象，可以很容易地描述为独立的实体，在这本书中，我试图研究我所谓的算法的本体论政治。基于机器、软件和人工智能的概念与社会性、主观性和社会问题捆绑在一起并纠缠在一起的方式，算法的本体论政治指的是使这些类别作为特定配置的一部分具有不同的相关性和可用性的方式。此外，算法的多折叠性还提出了一个问题，即对已知主体和已知客体的区分是否从一开始就被误导了。也许，正如Mol所建议的那样，“广泛传播认知的活动”(2002:50)对我们更好。因此，在第3章中，我提出了一种特殊的方式来关注算法的可变本体论通过将注意力从本体论问题(代理位于何处以及它最明显地属于谁)转移到政治问题，即代理何时被动员以及为了什么目的。为了理解算法的力量和政治，有必要关注“算法何时存在”的问题？

如果我们看看最近一些关于被认为已经误入歧途的算法系统的公开讨论，算法的“何时”就会变得特别明显。这样的公开争论揭示了算法往往是如何物质化的

Algorithmic Life

151

根据环境的不同而有所不同。在2016年5月的脸书“热门话题争议”事件中，人类编辑被指控在该平台的热门话题功能上审查保守话题。这个故事很大程度上是基于“有偏见的”和“主观的”人类扭曲了“中立的”和“客观的”算法，这些算法负责对脸书的热门话题功能进行排名和分类。有趣的是，仅仅几个月后，也就是2016年9月初，脸书就成为了另一场“算法争议”的目标。然而这一次，算法被指责做了审查。包括当时的挪威首相埃尔娜·索尔伯格(Erna Solberg)在内的几位知名人士对脸书的动态消息算法从人们的动态消息中删除了一张著名的普利策奖获奖战争照片表示担忧。正如前一章所述，当挪威国家报纸《Aftenposten》的总编辑(以极大的悲情)挑战马克·扎克伯格(Mark Zuckerberg)，要求他为算法的行为承担编辑责任时，这个故事达到了高潮。这些争议表明，根据算法所属的具体星座，算法可以以不同的方式被动员和物化。此外，它们还表明，我们不能以任何程度的确定性将纯粹的社会与纯粹的技术分离开来一一我们也不一定想要这样做。在这两种情况下，都有一个算法系统在起作用，包括人类和机器。如果我们想要理解权力和政治的问题，那么，只看一个因素是不够的。正因为我们不是在处理两种根本不同的情况，而是在处理产生这些差异的情况，所以对算法权力和政治的理解必须包含对这种边界形成实践的考察。

当算法系统“做错了”，或者被认为是错误的时候，经常会出现这样的问题：“谁应该受到指责”，“谁或什么应该负责”，以及“是谁的错，算法还是人”。虽然这可能不是最令人满意的答案，至少从小报的角度来看不是，但这本书清楚地表明，答案必须始终保持部分。更重要的是，书中声称，通过将问题构建为术语的对立，就像围绕算法的公共话语中经常做的那样，风险在于简单地将算法视为纯粹的技术，或没有任何人类代理的机械实体。当微软的机器人Tay开始发布淫秽和厌女言论时，或者当谷歌图像搜索建议将“猿”作为一个肤色较深的人的合适标签时，如果我们所说的算法指的是“包括算法、模型、目标目标、数据、训练数据、应用程序、硬件，并将其与更广泛的社会努力联系起来”(Gillespie,2014)。因此，本书的一个核心原则是，算法不仅仅是“告诉机器该做什么的编码指令”，而是一种新兴的成就或社会物质实践。算法如何在当代社会中发挥作用，并不是试图定义它们是什么，或者它们在什么时候行动，而是质疑它们制定的方式，并聚集在一起，创造出不同版本的现实。

152

IF .. . THEN

技术性

我们该如何看待算法带来新现实的能力?在书的开头，我提出了一个具体的方法来解决“算法如何在当代媒体环境中塑造生活”的问题，通过观察像Facebook这样的平台如何以特定于所讨论的媒体的架构和材料基质的方式来条件和支持特定形式的社交。我描述了Facebook如何以支持利润循环的方式编码友谊，并引入了程序化社交的概念。与此同时，在第一章中，我警告不要将这种程序化的社会性概念归功于技术决定论。软件和算法并不是简单地孤立地运行，也不是以任何单向的方式行使权力。相反，它们产生社会性的能力总是已经在与其他元素的关系中发生了，并且作为组合的一部分，通过这些元素首先呈现出它们的意义。

这就是算法的技术性，可以理解为它们作为共同构成的关系环境的一部分而使事情发生的能力。法国哲学家吉尔伯特·西蒙顿(GilbertSimondon)将转导(transduction)和技术性(technicity)的概念引入了有用的框架，以解释技术对象的生产力。对于他来说，人类和机器是相互关联的，其中技术对象总是以“一系列相互因果关系的剧场”的形式出现(1980:22)。因此，技术性并不是指技术对象是什么，而是指“它在其他存在上施加的力量，以及通过新的虚拟性和现实，它带来了存在”(Hoel和van der图因，2013:190)。这种理解接近福柯式的方式，即在第2章中对权力的感知。对福柯来说，权力恰恰属于它的行使和力量，属于“某些行为修改他人的方式”(1982:788)。对于算法的理解，这意味着抵制将算法解读为技术或文化。相反，人们会认为算法是“戏剧”——或者用西蒙顿的话说，是“关系剧场”——算法调解带来的。因此，技术性的概念提供了一种思考算法生产能力的方式，它不依赖于将权力归因于某些固定的特征或缺乏人类代理的稳定人工制品。谈论算法的技术性是为了强调算法本身并不拥有权力，而是权力如何作为一种“本体论力量”展开(Hoel和van der图因，2013)。

让我们简单地考虑一下亚马逊的图书推荐和Twitter的“当你不在的时候”功能的例子。这里的技术性应该理解为从算法的动态功能中出现的共同进化条件。对一件事的分析，比如推荐一本书，或者通过承诺窥探“你不在的时候”发生的事情来迎合一个人对错过的恐惧，应该建立在“理解机器的本质、它们之间的相互关系以及它们与人的关系，以及它们所涉及的价值观”的基础上

Algorithmic Life

153

(西蒙顿，1980:6)尽管我没有对算法的“本质”提出任何主张，但我认为算法的存在模式是建立在不同环境的关系戏剧基础上的。在推荐书籍的过程中，亚马逊的“协同过滤”算法创造了一些条件，通过这些条件，某些书籍会引起用户的注意，而其他书籍则难以捉摸。协同过滤是基于这样一个假设，即共享某些偏好的客户也会共享其他偏好。亚马逊并没有将用户与相似的客户进行匹配，而是使用“item-to-item”协同过滤来推荐相似的书籍或其他商品，这种计算出的相似性链在很大程度上依赖于用户输入。可以这么说，从技术层面来考虑算法的力量，没有人能摆脱代理的束缚。用西蒙顿的话说，机器的本质总是需要与其他机器和“人”联系起来理解。在亚马逊上，我们买书(通常是同时买几本)，把它们放入愿望清单，搜索商品，浏览平台，写评论，并提供评级。在推特上，我们发推、浏览、花时间、建立非互惠的关系网络、回复、转发。我们已经牵连其中。根据巴拉德的说法，“我们对我们生活的世界负责，不是因为它是我们选择的任意构建，而是因为它是我们在塑造中扮演角色的特定实践的沉淀”(2007:203)。这意味着，我们不能把算法的力量当作一条单行道。如果权力是指某些行为改变其他行为的方式，那么我们的行为也很重要。我们发的推文、买的东西、点的赞，这些都是影响影响力的因素。正如我们在第4章看到的，这些行为改变了我们和我们的网络所能看到的东西。

这也意味着设计师、开发者和其他决策者的角色是至关重要的。仅仅因为算法学习和放大了现有的社会偏见、不平等或刻板印象，并不意味着它们不能被纠正。相反，算法开发者可以补偿数据集中的偏见，公司确实会选择何时干预纠正某些算法结果当算法最终偏向于某些群体时，这些实例可以被识别和计算处理。正如第6章所讨论的那样，在新闻中使用算法并不会自动导致过滤气泡的产生，这与人们经常声称的相反。正如一位受访者所建议的，“如果你想让你的算法反映多样性，那就是你必须为之设计的。”重要的是，设计师、开发人员和决策者如何思考算法应该针对哪些方面进行优化，以及这对不同的社会群体可能产生的后果。

取向

代理不是孤注一掷。说“是算法做的”是不行的。也不能因为总有其他实体牵涉其中，就把责任推给别人。就像书中讨论的围绕算法的争议一样，

154

IF .. . THEN

这不是一个算法是否被设想为非人类物体或人类做了这个或那个的问题，而是在特定的设置中如何实现代理的归因。然而，“如果代理被分配，究竟如何负责，如何追究或被追究责任”的问题？”(Simon，2015:153)仍然存在。尽管这个问题至关重要，但分布式代理并不会使问责成为不可能。相反，这种关系观点所带来的代理混乱使问责制成为强制性的(巴拉德，1998)。这至少有两个方面。首先，代理权不一定是均匀或对称分布的。其次，使某些要素对特定行动者或多或少地可用或不可用的过程不是自然发生的，而是通过边界制定实践制定的。这对于理解算法权力和政治意味着什么？

首先，需要指出的是，虽然代理在理论上是对称分布的，但在实践中却未必如此。不同的实体并不以同样的方式持有代理权或行使权力当福柯说“权力无处不在”时，他并不是说每个人都有平等的机会来行使权力(1990:93)。更确切地说，权力是“力量关系的运动基质，由于它们的不平等，不断地产生权力状态，但后者总是局部的和不稳定的”(1990:93)。因为权力不是一个群体、个人或事物所掌握的东西，所以分析者的任务不是确定谁掌握权力或行动的适当来源在哪里，而是要理解“特定集合的影响，并评估它们所产生的分布，无论好坏”(Suchman,2007:11)。为了理解算法是如何行使权力的，以及让它们承担责任意味着什么，我们需要评估算法形式的操作有助于产生的分布。在第4章中，算法的操作功能被考察了关于“对个人进行分类，用他自己的个性标记他，把他附在他自己的同一性上……一种使个人成为主体的权力形式”(福柯，1982:212)的形式。

算法系统如何定位主体是很重要的。因此，在向前发展的过程中，我们必须更好地理解我们是如何被处理和定位为算法关注的对象的。在算法领域，什么样的主题可能成为可能?第4章提出的关于Facebook新闻动态的研究表明，算法的工作是制定和支持一种形式的参与性主体性，这种主体性取决于与平台的持续和持续的接触。很明显，Facebook最近提交的一份专利文件表达了这种观点：“新闻经常被选择包含在新闻推送中，因为它们可能是浏览新闻推送的用户感兴趣的内容。这鼓励了查看信息流的用户继续使用社交网络系统”(Rubinsteinet al.，2016)。虽然Facebook算法的特定配置自第4章撰写以来肯定发生了变化，但指导信息流排名的基本因素仍然存在。这些是亲和力(即朋友之间互动的强度和性质)，分配给对象类型的权重(即状态)

Algorithmic Life

155

更新、视频、评论)，以及时间。一般来说，算法并不控制用户说什么或者他们的行为。更确切地说，算法塑造了用户如何说话，以及什么行动是可能开始的在福柯的术语中，算法可以被看作是一种特定形式的“政府”的实例化，就“个人或群体的行为可能被指导的方式而言………从这个意义上说，治理就是构建他人可能的行动领域”(福柯，1982:790)。

虽然算法并不能决定人们的行为方式，但它们塑造了一种环境，在这种环境中，某些主体的立场对我们来说变得更加真实和可用。正如萨拉·Ahmed在她的书《酷几现象学》中所说，我们“在某些方面比其他人更容易被引导”(2006:15)。她的书探讨了什么是定向的问题，即在某些方面变得协调。Ahmed带着教导的口吻问道：“我们的目标’有什么区别吗?(2006: 1)虽然Ahmed主要从社会关系如何在空间上安排的角度来谈论人类的取向，但算法当然也是面向用户的。算法，尤其是在机器学习时代，需要我们，依赖我们，依靠我们茁壮成长。在关于Facebook传播“假新闻”的激烈争论中，Facebook担心“数据污染”的做法，即用户愿意提供错误信息(Ctrl-Shift,2015)。正如第5章所示，这些担忧远非毫无根据。人们不一定会发布自己的想法(套用Facebook的状态更新提示)，也不一定会发布实际发生的事情(用Twitter的说法)。相反，人们可能会更有策略地发布，试图让自己或多或少地“在算法上被识别”(Gillespie, 2017)。

艾哈迈德认为“取向很重要”，因为它们塑造了我们周围世界的凝聚力。也就是说，取向很重要，因为这是“某些事情如何变得重要”作为情境遭遇的一部分(艾哈迈德，2010:235)。此外，艾哈迈德写道，取向很重要，因为它“影响主体和客体如何物质化，并以它们的方式形成(同上)。正如我所建议的，算法不只是面向我们，我们也越来越多地面向算法和算法系统。在第5章中，我展示了我们是如何在算法中、通过算法和围绕算法发展自己的社会性和自我意识的。当一个单身人士收到订婚戒指的广告，或者一位中年妇女收到抗皱霜的建议时，就会上演一出有趣的关系剧。到底是算法还是仅仅是用户的点击行为导致了这些推荐的弹出，这在多大程度上起了作用?人们能否简单地将代理归于机器，并对嵌入算法设计中描绘个人关系的刻板方式一笑置之?在这种情况下，承担责任意味着什么？

我在第5章中建议，代理的归因是在人们与他们所认为的算法现象的遭遇中实现的。根据具体的情境遭遇，算法被认为是令人毛骨悚然的、有益的、令人不安的、侵入性的等等。“算法想象(algorithmicimaginary)”的概念被引入

156

IF .. . THEN

表示关于算法是什么、应该是什么、如何发挥作用，以及这些想象反过来使什么成为可能的思考方式。虽然算法可能会产生一定的行动条件，但从纯粹的技术意义上讲，这些条件不一定归因于算法。相反，人们如何以及何时感知算法有时可能更为重要。因此，当观察人们在网上做什么时，没有办法告诉他们是什么让他们以某种方式行事。算法想象的概念表明，算法可能并不总是关于告诉计算机该做什么的具体指令，而是关于人们形成的想象和感知。从机器学习的逻辑可以得出，正如吉莱斯皮所建议的那样，人们“在对算法的预期中所做的事情”，“告诉我们很多关于算法作为回报所做的事情”(2017:75)。那么，在问责制和责任方面，我们都牵涉其中，机器和人类都一样。

划定界限的实践

从严格的技术角度来看，算法可以定义为在有限的步骤中逐步解决问题的过程。在本书中，我一直认为，算法远不止于这个狭隘的技术概念。算法不仅有指导作用，它们还意味着什么，而且往往意味着不同的、相互冲突的东西。算法表现为社会关注的对象，因为它们被铭刻在日常生活的结构中。此外，算法还有助于塑造我们认识他人和自己的方式。

如果教科书对算法的定义只是这个术语的多面性中的一个版本，那么除了代码之外，算法还会在何时何地出现呢?正如我在本书中所证明的那样，算法存在于学术界的对话中，存在于媒体描述中，存在于公众争议中(即Facebook上关于“假新闻”的争论中)，存在于人们的感知和想象中，存在于表征的休息点中(即公式的简化图像)，存在于隐喻中(即算法作为配方的概念)，作为电影和流行图像、故事和专业实践的一部分。在对该术语的扩展理解中，算法被视为事件。在没有预先加载关于算法的本体论承诺的情况下，事件的概念有助于将注意力引导到算法使其他事物突然变得可以想象的方式上。

谁或什么对算法结果负责和负责取决于如何以及在哪里绘制边界。理清算法的本体论政治需要“记住人类和机器之间的界限不是自然给出的，而是以特定的历史方式和特定的社会和物质后果构建的”(Suchman,2007:11)。同样，这个问题至少有两个方面。什么算算法，什么时候算算法，都没有给出。跟随Suchman，我们需要注意的是

Algorithmic Life

157

正如我们所看到的，算法的定义可能有很大的不同，大多数人可能不太可能认识到，计算机科学教科书对算法的定义，至少，构成了所讨论的现象。在这本书中，我让人们更容易接受这样的观点，即算法是一种新的定义，它与传统的定义不同。

显然，什么算算法的问题在很大程度上是不确定的，即使假设算法可能是有效的。就专业人士而言，他们认为算法是设计师的价值观、规则和假设的延续。不过，他们认为，这是一种将NCH设计成这种风格的设计理念。新闻媒体的本质是将“新闻算法”转移到本地媒体公司的“内部”层面。这些新闻媒体的经理们谈到了将“新闻算法”引入这些术语的重要性，将“糟糕”的算法等同于仅仅给人们提供更多已有价值的系统。虽然我可能很想看到这种情况，但THT的一种方法似乎是，我们也不知道设计中嵌入的政治因素，而是制定边界的政治因素。正如第6章所述，“在一种情况下，什么构成有问题的算法”。例如，Facebook的算法在另一种情况下被认为是毫无问题和可取的(即，Facebook自己吹嘘算法只是帮助人们接近他们的想法)。除了设计之外，还需要指出的是，不存在“无辜”的方式来了解或讨论算法。

回到这本书的开头，我们要思考的是我们所提出的更普遍的观点。问题是，在日常生活中，算法的价值有多大。一个答案是，价值的重要性，价值和价值被设计成价值系统的技术属性，以特定的方式影响着社会。它被设计成这样的效果：“价值系统”是“在一起”，创造了人们在网上说话和联系的条件。现在，我们有希望找到这样一个位置，即那些使用算法的方式来取代算法的人，而不是那些使用算法的人。通过对用户信息的持续收集，用户之间的联系达到了一个更高的水平，即在其他人不断变化的情况下保持联系。这是什么意思，这是什么意思，这是什么意思，这是什么意思，这不是一个有计划的社会，这是一个起源，这是一个问题，这是否是一个持续的验证，这是一个普遍的稳定，而不是一个普遍的计划，以形成。我们只能从“成为”的角度来思考人类的共同，其中“社会性”所隐含的“我们”是与任何物种的联系，或者是与世界的联系。

158

IF.... THEN

Life

程序化的社会，隐含着相互之间的权力和权力，以及认识到无论生活如何，都要对生活负责

“如果………”算法规则的十个ioniona语句意味着eta条件必须大于1才能产生特定的结果。但是，为了让算法解决问题并产生结果，它们取决于各种各样的人、技术、投资和资源(Neyland &Möllers,207)。仅仅是一个算法和平台就可以推翻变化，因此我们需要在它们周围创建一个。换句话说，有了“变化”，就有了“在正确的时间向正确的人展示正确的内容”这一问题的解决方式。随着内容的变化，什么内容是正确的，什么内容是不正确的。对另一个人来说，他们可能完全错了。当算法划定界限，决定哪些人会在新闻推送中选择最不受欢迎的人，这些决策者就会认为这是对人民的侵犯。当人们通过将算法结果归因于一篇文章所做的推断来划定界限时，这些贡献就会被认为是违反了人们最初提出这种主张的能力。

如果机器是爱的，那么人类也会爱。信仰类型和政治的概念不是，而是通过算法来确定诺瑞斯(Norisi)关于信仰的土壤词，以及在给定环境中，对参与者来说，信仰的不同方面是可用的还是不可用的。因此，在研究什么构成了算法谎言时，核心问题就变成了:谁或什么东西成为了被表述为算法的任何东西的一部分。

Algorithmic

159