算法权力与政治

“构成人”的概念，意思是用来描述人的分类会影响他们可能的经历形式，但也影响了对人的影响，反过来又改变了分类：

系统地收集关于人的数据，不仅影响了我们对社会的想象方式，也影响了我们描述邻居的方式。它深刻地改变了我们选择做什么，我们想成为什么样的人，以及我们对自己的看法。(1990: 3)

如果我们接受黑客的“编造人”的概念，就有必要质疑计数、量化和分类限制了Facebook上主题的可能性条件。类别和分类的构成方式并不是武断的或中立的;其含义也不是偶然的。在这里，我想说的是，Facebook上的朋友是“虚构的人”，就像黑客所描述的那样。朋友不是天然的，而是在特定的历史和文化背景下服务于特定目的的建构。正如已经指出的那样，Facebook平台所使用的“朋友”类别甚至不要求该类别的成员是人类。虽然所有Facebook用户可能都属于“朋友”的集合，但“朋友”或“用户”的子集是动态组成的，以服务于不同的目的。Facebook的一项专利申请详细说明了新闻动态自适应排名的想法：“例如，社交网络系统根据用户的人口统计特征将其用户划分为不同的集合，并为每组用户生成一个模型”(Gubin et al.，2014)。换句话说，集合是一种强大的分类设备，它暗示了一种政治，可以区分谁或什么属于什么，什么不属于，“集合‘算’什么，集合中的成员算什么”(Baki,2015:37)。子集是根据人口统计信息、连接属性、交互频率和其他影响特征的因素来“组成”的，这些特征用于对用户可以看到或看不到的东西进行建模(我们将在第4章中回到可见性的政治)。如果朋友不是自然类型的，那么有什么样的朋友，或者更确切地说，有什么样的子集?同样，我们可以从Facebook的专利申请中寻找一些初步的答案。根据一份描述优化用户粘性技术的文件，一些朋友似乎比其他朋友更有价值(Chen等人，2014)。特别有用的朋友被称为“顶级朋友”，定义为与特定用户具有最高相关性的人(Chen等人，2014)。关联度的决定因素是使用所谓的系数模块生成的。反过来，这些取决于各种因素(就像Facebook的所有计算一样)一一例如，“基于在过去30天、60天、90天等时间内发生的互动次数或频率”(Chen等人，2014)。顶级好友被用于多种目的和各种环境，例如：

10

IF ... THEN

识别玩网络游戏的参与者;识别与用户的相关连接，以便纳入她的社交网络;显示与用户相关度最高的人的照片列表;以其他方式显示或列出与用户相关度最高的人的标识;识别用户可以与之进行即时消息或聊天会话的人员;等(Chen et al.2014)

最重要的是，顶级朋友习惯于优先考虑与他们相关的信息。高层朋友是虚构的人，因为“在他们被如此分类、组织和征税之前，这类人作为一种人是不存在的”(Hacking,2007:288)。算法顶级朋友的子集可以被看作是一种新的人类别，出现在程序化社交和算法生活的时代。这类人还有很多。正如顶级朋友的概念所示，可计算的友谊取决于衡量和评估用户，以便能够确定他们的友谊状态。正如“最好的朋友”的概念所表明的那样，友谊一直是由质量决定的，但Facebook现在对友谊进行定量生产和分类的程度，鼓励了一种空洞的竞争形式，从而使社交本身失去了人性。与大多数社交媒体平台一样，Facebook通过创建作为分数的复合数字来衡量社会影响、声誉和影响力(Gerlitz & Lury, 2014: 175)。分数通常用于提供排名或增强预测。友谊的计算也不例外。在另一项专利申请中，Facebook的工程师表示，友谊的价值不仅局限于用户，而且在维持社交网络系统本身方面也起着至关重要的作用。正如舒尔茨等人(2014)所指出的，连接更好的用户往往会增加使用，从而增加广告机会。所谓的友谊值不仅是用来计算两个用户“加为好友”的概率，还用于决定是否向用户展示特定的广告单元。得分越高，Facebook认为这种友谊越“好”，利用这种联系来帮助推广产品的可能性就越大。友谊的价值是基于“由价值计算引擎确定的友谊分数、发送分数、接收分数或分数的某些组合”(Schultz et al.，2014)而产生的复合数字。根据舒尔茨等人的说法，“发送和接收分数反映了由于给定的连接，用户持续积极利用社交网络系统的潜在增长”(2014:2)。从计算的角度来看，友谊只不过是一个旨在最大化平台参与度的等式。

Facebook并不是为了朋友而爱朋友，这是亚里士多德关于美德伦理和友谊概念的典范，它“希望”建立友谊是为了增加社交网络的参与度，最终服务于盈利目的。友谊的量化和公制化不仅是Facebook算法基础设施计算联系方式的一部分，而且越来越多地构成了社交网络系统的视觉效果

Programmed Sociality

11

通过在图形用户界面上普遍显示数字。Facebook上每天有超过30亿的点赞和评论，用户既在表达自己的情感和参与，也在通过视觉痕迹提醒和意识到这些行为和影响。正如软件艺术家本·格罗瑟(BenGrosser)所指出的，“Facebook界面的一个重要组成部分是它对这些‘喜欢’、评论’等的公开枚举”(格罗瑟，2014年)。1)格罗瑟质疑，如果人们不经常面对自己有多少朋友，他们是否还会添加那么多朋友，或者如果人们不总是被告知有多少人在他们之前喜欢过他们，他们是否还会“喜欢”那么多广告。格罗瑟的作品The Demetricator是一个软件插件，它可以从Facebook界面中删除所有参数，并批判性地检查这些问题。根据格罗瑟的说法，Facebook利用了人们“根深蒂固的渴望更多’的欲望，迫使人们将友谊重新想象为一个定量的空间，并推动我们以指标为指导”(格罗瑟,2014)。用户界面上对一切事物的普遍列举，起到了一种修辞手段的作用，教导用户越多越好。如果我们考虑到平台的运营逻辑，更多也是必要的。在考虑友谊的价值时，追求更多的驱动力是显而易见的，因为更多的朋友会增加与网站互动的可能性。推荐好友的基础是共同的朋友，但也会考虑活动少或朋友少等因素。这个想法是，通过推荐活动水平较低的朋友，Facebook“可以使这些用户可能因为被推荐而拥有更多的朋友，从而可能增加候选用户与社交网络系统的互动程度”(Wang等人，2012)。6).因此，人类和非人类建立和维持友谊的方式各不相同。友谊是如何受计算影响的，其细节是无法估量的。然而，将“程序化的社会性”这一术语解释为理解算法生活的核心，其目的是为了引起人们对软件和计算基础设施作为数字媒体中社会性可能性条件的关注。

由联想产生的罪恶感

社会学意义上的“朋友”意味着一种自愿的关系，服务于广泛的情感和社会目标，而从平台的角度来看，“朋友”是非常有价值的数据载体，可以出于各种原因加以利用。网络媒体背后的核心原则之一是，信息既来自节点(用户、企业、对象)，也来自边缘(连接)。这意味着，用户在填写个人资料、点赞事物或评论帖子时，不只是提供关于自己的数据;在这样做的过程中，他们同时揭示了与他们互动的人和事的一些事情。如果用户的个人资料中缺少数据，或者该用户不像平台所希望的那样投入，那么提取更多用户信息的最佳方法是

12

IF . . . THEN

通过他或她的各种联系。从平台的角度看，朋友是在做数据输送业务。这一点在Facebook描述广告相关技术的专利文件中尤为明显。例如，考虑到特定成员提供的个人信息不足，广告是根据朋友进行定制和定向的。Facebook称这种现象为“联想负罪感”(Kendall & Zhou, 2010:2)。虽然专利文件的作者承认他们“相信了一句古老的格言”，但“负罪感”这个词值得深思。内疚唤起了责任、自主性和责任的概念。谁或什么对Facebook上显示的内容负责，谁可能被追究责任?虽然用户自己的行为如何决定他们在网上看到什么内容可能更容易理解，但用户在决定朋友在自己的信息流上看到什么方面也起着至关重要的作用，这一点似乎更难接受。Facebook使用“联想内疚”一词，这意味着用户在朋友的广告定位上“串通一气”，这似乎很成问题。虽然现在说用户是产品，而不是他们使用的媒体平台已经司空见惯，但用户被用来推广内容和产品的程度——通常是在他们不知情的情况下—一在算法媒体时代是前所未有的。如果说经典的友谊概念是政治性的，因为它通过兄弟情谊的概念假设了性别等级(Derrida,2005)，那么算法的政治则暗示了另一种等级——什么是“最好的”、“顶级的”、“热门的”、“相关的”和“最有趣的”。

在研究算法生活的轮廓和现状时，重要的是要了解算法媒体塑造社会与权力和政治深深交织在一起的机制。这本书不仅强调了算法作为当今大多数在线媒体平台的核心支配原则的作用，而且还展示了算法如何总是已经调用和暗示用户、文化、实践、所有权、伦理、想象和影响。这意味着，谈论算法意味着要问用户是如何以及何时参与算法逻辑的开发和维护的问题，同时也要问治理、谁拥有数据、数据被用于什么目的等问题。虽然朋友对广告商来说一直很有价值，但算法似乎削弱了人们的自主性和意向性，因为它把人们所做的一切都变成了定位广告和新闻推送内容的潜在数据点。这就是用户无法逃避的网络逻辑。对于新自由主义来说，“友谊与资本是敌对的，正因为如此，就像其他一切一样，它受到攻击”(Cutterham,2013:41)。此外，正如梅丽莎·格雷格(Melissa Gregg)所认为的那样，“友谊’是一种劳动，因为它需要持续的关注和培养，其回报包括提高地位和获得更多机会”(2007:5)。正如Langlois和埃尔默指出的那样，“社交媒体试图挖掘生活本身”(2013:4)也就是说，社交媒体平台“所做的不仅仅是向广告商出售用户的注意力:它们实际上有助于确定可以充分利用注意力的策略”(Langlois和埃尔默,2013:4)。算法是实现这一目标的关键。如果我们想要理解其中的方式

Programmed Sociality

13

权力和政治在当代媒体中发挥作用，我们需要更密切地关注信息、文化和社会生活被处理和被理解的方式。在这本书中，我开始着手这样做。

研究算法媒体以及生活日益受到算法处理影响的方式，意味着承认算法不是静态的东西，而是依赖于一组复杂的行动者(包括人类和非人类)的不断发展的、动态的和相关的过程。程序化社交意味着，像友谊这样的社会关系不仅仅是转移到Facebook这样的平台上，而是从根本上进行了转换。转导的概念命名了一个过程，在这个过程中，一个特定的领域不断经历变化，或个性化，作为与其他事物接触或接触的结果(Mackenzie, 2002;Simondon, 1992)。与其对友谊是什么保持兴趣，转导和相关术语“技术性”有助于解释友谊等领域是如何因为社会物质纠缠而产生的。使用Facebook访问社交网络会改变或调节一个人与朋友的联系方式。当使用Facebook时，友谊的技术性随着用户与算法(如PYMK功能)、编码对象(如共享视频)和基础设施(如协议和网络)之间的连接而展开。正如Kitchin和Dodge所指出的那样：“这种影响变化的力量不是确定性的，而是偶然的和关系的，是代码和人之间结合的产物”(2005:178)。转导和技术性成为例证程序化社会性概念的有用分析手段，因为它们指出了软件有能力产生和实例化友谊模式的方式，具体到它运行的环境中。技术的生产力，正如技术概念所表明的那样，并不是孤立地或作为一种单向的力量运作的。在这种观点看来，算法和软件并不能决定什么是绝对的或固定意义上的友谊。相反，技术性有用地强调了算法作为实体的方式，这些实体从根本上取决于人们的实践和互动，以便首先实现和发展。从这样的角度来看，我们可以把友谊和其他程序化的社会性看作是新兴的社会物质成就。

回到本章开头介绍的11月的雨天:用什么类别来确定我和我朋友的新闻推送的具体广告或内容的问题仍然存在。是我的点击行为，是我的年龄和性别，是我点赞过的页面，是我给妈妈买礼物的线上设计店设置的cookie，是我朋友的点击行为，是我朋友的朋友，是以上的全部还是全部?不管确切的原因是什么，网络空间总是根据潜在的假设、规范和价值观来计算的。虽然我们根本不知道，也没有办法知道我们的数据和算法处理是如何准确地塑造我们的在线体验的，但对社会技术系统的批判观点，以及与算法形式的连接和社交的个人遭遇和经验，可能有助于我们理解

14

IF . . . THEN

阐明了“分类是一种强大的语义和政治干预”的方式(Gillespie,2014:171)。仅从我的新闻推送上的内容和广告来看，我被认为有孩子、超重、单身一一这些都不是真的，至少目前是这样。虽然Facebook和程序化友谊的案例为信息如何在网上被管理和组织提供了一个有用的切入点，但对算法力量和政治的理解不能简单地归结为一个单一的社交媒体平台。正如本书将展示的那样，我们如何通过算法来认识他人、世界和我们自己，是复杂的社会物质实践的结果，这些实践超越了具体的编码指令。Facebook和程序化社交的概念只是算法安排带来新的可能性、现实和干预的一种方式。还有更多的方式。

到目前为止，我希望已经给读者灌输了足够的好奇心，让你在接下来的章节中继续和我一起探索当代媒体格局中算法的力量和政治。这本书的目标是让读者不要简单地成为算法判断的主体，而是能够自已批判性地判断算法机器的工作方式。

书的大纲

本书的总体目标是概述算法媒体景观的轮廓，因为它目前正在展开。虽然算法和软件开始引起社会科学家和人文学者的兴趣，在过去几年里已经成为媒体和传播研究中的一个流行词，我们才刚刚开始了解更广泛的算法和计算是如何影响社会生活以及我们所知的知识的生产和传播的。本书试图通过对算法产生可感知和可理解的条件的方式进行概念、理论和实证分析，为这些讨论做出贡献。

在包含本书概念框架的第2章和第3章中，我着重于算法的本体论、认识论和方法论维度。第2章为理解算法是什么以及如何以不同的方式概念化算法提供了一个大纲。虽然这一章的功能是对关键算法研究的跨学科领域进行概念介绍，融合了计算机科学、社会科学和人文科学的观点，但它主要是出于分析的原因。我认为，这些不仅仅是对称为算法的静态对象的不同观点，而是遵循STS (Law, 2002;Mol 2002),提供不同版本的算法是什么。即使我们假设我们谈论的是同一种算法(比如“Facebook算法”或“k近邻”)，该算法也总是“许多不同的东西”。它不是一个，而是很多”(Law,2002:15)。

Programmed Sociality

15

第3章解决了如何知道算法的问题，提出了一种算法认识论，超越了算法作为黑箱的流行概念。我利用黑箱的概念作为一种启发式装置来讨论当代媒体平台中算法的本质，以及我们如何关注和研究算法，尽管，甚至因为，它们看似秘密的本质。本章发展了一个概念性的曲目，超越了教科书对算法的定义，将其作为解决计算问题的一步一步的指导。这样做是为了更好地解释算法所涉及的社会和物质之间的基本相互联系或纠缠。为了支持这样的观点，第3章建立在关系唯物主义和过程关系哲学的见解基础上(例如，Barad,2007;Mol,2002;Whitehead,1978)。在这里，我提出了一个概念性词汇，允许将算法作为事件来研究，将其理解为共同成为的组成部分，并将其权力和政治与这些配置有能力产生世界的某些有序和无序的方式联系起来。在第2章中，我介绍了“本体论政治”(Mol,2002)的概念，以传达现实是如何通过相互作用而形成和出现的。在第3章中，我对这些观点进行了扩展，提出算法并不总是重要的，这可能有点矛盾。相反，它们的代理只有在特定的环境或星座中才显得重要。有人认为，通过将注意力从询问代理是什么和在哪里，转移到代理是什么时候以及在特定情况下属于谁，我们看到算法作为黑盒子的概念是如何成为一种政治主张的。本章最后提供了一些可能的方法路线，以研究以其事件性为前提的算法，这些方法路线将在随后的章节中进行操作。

在概述了算法的本体论和认识论轮廓之后，第4-6章转向算法权力和政治的具体星座，因为它是当代媒体景观的具体化。每一章都提出了一个案例研究，旨在解决两个相关的问题:算法系统如何管理他人可能的行动领域，以及这些可能性如何在特定环境中或多或少地对某些参与者可用或不可用。综上所述，这些案例研究关注的是算法的造世界能力，质疑算法系统如何塑造不同类型的遭遇和取向，以及这些系统如何被赋予分散的人格和关系代理。

第4章关注的是权力的机制，它作为人、信息、行动以及观察和被观察的方式的协调分布而起作用。它以Facebook的动态消息为例，阐述了这样一种观点，即算法现在在控制可理解和可感知的条件方面发挥着根本作用。本章研究了新闻动态如何通过算法来管理“在公共空间中定义什么是可见的或不可见的可感知内容的分布”(Ranciere,2004:12-13)。当用户向Facebook提供数据的时候，技术和程序使其有意义，导航，组合，并使其有意义

16

IF . . . THEN

单个数据片段之间的联系越来越多地被委托给各种形式的算法。本章提出的问题是，这种算法对人们信息共享实践的干预是如何发生的?Facebook编辑信息流的算法形式的原则和逻辑是什么?这些算法流程对平台的用户有什么影响?通过对构建Facebook信息流和信息流的算法逻辑的分析，我认为所构建的可见性制度对参与主体施加了一种感知到的“隐形威胁”。因此，我颠覆了福柯将监视作为一种永久可见性形式的概念，认为参与性主体性不是通过一个全视的视觉机器所施加的威胁来构成的，而是通过不断消失和过时的可能性来构成的。其目的并不是要明确说明Facebook在用代码捕捉世界方面所扮演的角色，而是要为反思在线算法构建可见性的新条件开辟途径。

第5章通过考虑社交媒体用户如何感知和体验他们遇到的算法，考虑了当算法和人相遇时发生的几乎无法感知的权力过渡。虽然在基础设施层面询问算法的操作逻辑很重要，但物质性只是故事的一半。为了充分公正地处理算法权力和政治的话题，我们需要了解人们如何理解和体验与他们持续互动的算法。技术系统和基础设施本身并不影响使用。用户对系统如何工作的感知知识可能同样重要。第5章提出的问题是:社交媒体用户如何想象算法，他们的感知和知识在多大程度上影响了他们对社交媒体平台的使用?本章报告了对35名社交媒体用户进行探索性研究的结果，这些用户被问及他们对在线算法的看法和体验。本章考察了用户注意到算法并开始反思和谈论算法的具体情况。本章着重于其中一些用户报告的情况，展示了用户如何对算法做出不同的反应和定位。除了呼吁加强代码素养之外，我认为这些个人算法故事提供了重要的见解，可以了解当前对算法的想象和理解方式，以及用户在日常生活中如何协商和抵制算法。

第6章着眼于算法如何获得于扰和构成新情感的能力，作为情境实践的一部分，特别是就它们如何被赋予某些政治和道德能力而言。虽然前几章考虑了算法是如何被公众想象的，以及它们如何产生参与的印象，但第6章研究了算法是如何在新闻媒体的制度设置中实现的。更具体地说，在本章中，我们将继续考虑算法如何不仅是事实问题，而且是一个问题

Programmed Sociality

17

重要的关注事项(拉图尔，2004)。通过将新闻领域作为理解算法在当前媒体环境中表现出来的政治和力量的恰当案例，我旨在阐明算法是如何总是以不同的方式被物化的一一它们是如何在技术、制度实践、和话语的结合。我提出了一个论点，大意是算法的本体论是可以争夺的。基于对斯堪的纳维亚领先新闻机构的数字编辑和经理的20次采访，以及对瑞典新闻应用程序Omni的实地观察，第6章探讨了机构参与者如何应对数据和算法的激增。如果算法有受众或以其他方式被消费，正如前几章所强调的那样，它们也会被生产出来并以不同的方式投入使用，这是本章的重点。问题是算法如何、何时起作用，以及对谁起作用。一方面，新闻机构感受到压力，需要重新调整自己的做法，以适应统治整个媒体格局的新算法逻辑，而且经常密切关注被视为其最大竞争对手之一的facebook。另一方面，采访数据表明，算法的作用是扰乱和质疑新闻是什么和应该是什么的既定界限和规范。为了理解算法在当代媒体格局中的权力和政治，我的主张是，理解算法如何既不是给定的对象，也不是稳定的对象，而是在物质话语实践中被制造和被破坏，这一点至关重要。有时算法被渲染得很重要，而在其他时候，算法则被认为是无足轻重的。我认为，更多地了解重要的过程，使我们能够理解算法的多重现实，以及这些现实是如何相互关联和共存的。

总而言之，这些章节提供了算法如何以及何时出现以及对个人和机构行为者具有重要意义的不同版本。这里的一个重要建议是，权力和政治永远不会被简化为物质或感知的问题，而是以特定的方式和特定的目的使算法发挥作用。在最后一章中，我重新审视了本书的核心论点，并建议有必要将对算法媒体的物质基质的理解与对感知、感觉、行动和了解算法作为社会关注对象的多种方式的理解结合起来。在这里，我重新审视了本书开头提出的一些最初的问题(包括本引言)，并看看如果权力和政治不一定是关于从上面施加力量(或者在这个问题上，如果理解为代码的话)，那么如何理解算法权力和政治。最终，本章将从以下几个方面总结本书的关键贡献:(1)提供了一种对算法的理解，这种理解不是致力于一个本体论的立场，而是从一个多重和可变的本体论的角度来看待算法;(2)帮助识别算法权力和政治的形式;(3)为算法所做的各种工作及其帮助产生的景观提供理论框架。

18

IF . . . THEN

《算法的多样性》

考虑以下对算法的描述：“如何解决任务的分步指导”、“配方”、“编程逻辑的一种形式”、“由人组成”、“试图适应个人兴趣的代码”、“决定你看到什么的应用程序”、“一种技术”、“一种自动过滤机制”、“平台使用什么来保证尽可能最好的用户体验”、“一道开胃菜，让你渴望更多相同的东西”，“神奇”。你可能已经从标准的计算机科学教科书、通用语言、媒体报道或平台推销算法的方式中认出了其中的一些描述。事实上，这些描述都是计算机科学家、营销人员、外行、评论家、记者或媒体用户的描述。这些都是教科书式的定义、比喻、公关口号、推文、民间理论，以及对算法的流行描述。然而你可能会想，这些人描述的是同一件事吗?魔法和食谱有什么关系？某种东西能既决定你看到什么，又迎合你自己的兴趣吗？

这一章表明，算法是多重的，因为我们称之为“算法”的东西不止一种。这不仅在存在许多不同类型算法的技术意义上是正确的，在社会意义上也是如此。当人们谈到算法时，他们通常会想到不同的东西，不同的关注点、担忧、概念和想象。在更理论化和哲学化的意义上，人们可以把这种多样性称为“多折叠性，但不是多元性”(Mol,2002:84)。而多元性假设存在一个稳定的事物，人们可以从不同的角度看待这个事物，谈论多折叠性意味着算法在实践中作为“完成的事情”存在于多个层面上。换句话说，算法可以是神奇的和具体的，好的和坏的，技术的和社会的。然而，多重性的概念也提醒我们，把它放在这样的二元术语中，可能会使对算法是什么和算法可以是什么的过于简单化的理解永续下去。那么，利害攸关的是，对于我们理解算法权力和政治的方式来说，变量存在的意义。虽然我想强调一种关于算法的观点，即不是把它看作一个对象(或主体，就此而言)，而是看作许多对象，但我首先需要说一些关于算法通常被理解的方式的事情。

2

19