算法权力与政治

简介

程序化社交

让我们考虑一下下面的场景:哥本哈根，十一月的一个雨天，学期结束了。斯蒂纳教授强调说，但在学校里，学生们需要对学生的学业、饮食计划和圣诞礼物进行评分。在TWR上，买机票、在森林里冲浪、坐火车、听音乐、和朋友一起计划晚餐、买礼物、做饭或下班后看电影。除了描述学术生活中随意的一天，这个城市也会在新闻中出现。你可以在开始搜索的时候，通过一个图书馆发现一家餐馆，第一次在网上看到一家餐厅，第一次在网上看到一家餐厅，第一次在网上看到一家餐厅，第一次在网上看到一家餐厅，第一次在网上看到一家餐厅，第一次在网上看到一家餐厅，第一次在网上看到一家餐厅，第一次在网上看到我最喜欢的电视剧，第一次在网上看到我最喜欢的电视剧。

这不仅仅是一个关于现实生活和主题的故事，而是一个与媒体深深纠缠在一起的生活。继媒体学家尤泽先生(2012年)之后，他开始在媒体的各种不同类型中寻找自己的生活方式。这些活动与算法媒体(其核心功能依赖于算法操作的媒体)有着密切的联系。这本书的前提是，这是一种复杂的趋势，但越来越多地发生在一个复杂的过程中，这个前提是我们将在未来的一段时间内实现算法媒体。当人们与特定的媒体公司和平台互动时，他们也会在网上与人们互动，而不是在网上消费或与朋友交流。社交媒体和其他商业公司向我们推荐、建议并向我们提供他们的信息，让我们看到最不相关、最无聊或最有趣的新闻、书籍或电影，让我们观看、购买和消费。作为个人中介机构的平台，它们的服务是我们当前唯一的选择。Aceboki并不是唯一一个在网络上使用的平台

1

1

让用户“与朋友和周围的世界联系起来”。1正如媒体学者约瑟·范·Dijck所言，“社交媒体不可避免地是设计和操纵联系的自动化系统”(2013:12)。出于同样的原因，奈飞并不是一个让用户“随时看到下一个节目，随时观看，随时取消”的网站。2，它不能被视为一个中立的平台，仅仅是查询其庞大的数据库，了解用户要求放映他们明确想看的电影。依靠大量的数据，奈飞算法被用来分析人们的品味模式，以推荐更多相同的内容。受欢迎程度不仅是帮助Facebook和奈飞等公司确定相关内容的可量化指标。用户的输入和从中产生的模式被转化为一种生产手段。我们看到的不再是我们得到的。我们所得到的是我们所做的，这就是我们所看到的。在奈飞公司建议我们看《纸牌屋》的情况下，主要是消费者拿回他们自己处理过的数据。这部剧在2013年播出后，很快就成为了数据驱动编程的基石，即成功的商业决策是由大数据分析驱动的。

当然，这种数据驱动的媒体制作形式本身并没有什么错。毕竟，看起来，很多人都喜欢看这部剧。有趣且可能令人不安的问题是，对数据和预测分析的依赖如何将文化生产导向特定方向，个人社交媒体平台如何编码和品牌特定的日常生活利基(vanDijck,2013: 22)。本书从软件如何塑造日常生活条件这一基本问题出发，着手探索这一问题本身的轮廓和含义。我们可以从哪些方面说，软件，更具体地说是算法，塑造了日常生活和网络化的交流?算法到底是什么，我们为什么要关心它们可能产生的塑造效果呢？

让我们迅速回到11月的雨天。当我在Facebook上与朋友谈论圣诞前的晚餐时，两个相当具体的广告出现在我的Facebook新闻推送的右侧。一个是里斯本一家酒店的广告，我要去那里参加会议，另一个是派对礼服的广告。Facebook是如何知道我即将到来的旅行，或者我刚刚从那家商店给我妈妈买了一份圣诞礼物的?我的沉思只是被一个朋友短暂打断了一下，他问我最近去过的一场音乐会。她看到了几天前我在Facebook上发布的一张音乐会的照片。我的另一个朋友很奇怪，为什么她没有看到这张照片?毕竟，正如她所说，她一直在查看她的Facebook动态。虽然这些联系可能是巧合，但它们的影响却不是偶然的。它们之所以重要，是因为它们影响着我们与世界的接触，以及我们彼此之间的关系。虽然在节日期间看到派对礼服的广告可能并不奇怪，也不会因此错过一张发布在音乐会上的照片，但这种程序化的社交形式并非无关紧要。这些时刻是由软件和算法驱动的网络系统介导、增强、产生和管理的。被理解为计算机需要遵循的编码指令来执行给定的任务，算法被部署来制造

2

IF .. . THEN

决策，对网络上产生和可用的大量数据进行排序并使其有意义地可见。放在一起看，这些时刻讲述了我们的生活是如何联网和联系在一起的。它们暗示了一个基本问题，即谁或什么东西有能力为我们所能看到和知道的东西设定条件，并产生任何可能的影响。为了解决这个重要的问题，本书建议考虑软件和算法的力量和政治，它们在我们当前的媒体环境中浓缩和构建了可理解和可感知的条件。

我心目中的权力和政治概念都很宽泛，但也很具体。首先，这本书不打算论证算法有权力。当然，算法是强大的，但这种说法成立的方式不能简单地通过查看告诉机器该做什么的编码指令来理解。借鉴法国哲学家米歇尔·福柯(1982;1977)对权力的理解是行使的、关系的和生产性的，我打算展示“算法权力”的概念如何意味着比具体的算法排名(例如新闻提要)更多的东西。我要论证的是，从这个术语的更专业的意义上讲，算法权力的概念甚至可能与算法无关。权力总是有多种形式，不仅包括通过可计算指令行使权力的方式，还包括对算法提出的主张。因此，我们可以说，算法系统体现了一系列策略，其中权力是内在的，存在于所讨论的行动领域和情况中。此外，按照福柯的观点，权力有助于产生某种形式的行为和认知，最终指出需要通过算法系统似乎产生的各种遭遇和方向来检查权力。

本书中关于大写p的政治的“政治”也不是，我不会在最严格的意义上讨论议会政治、选举、竞选或政治传播。相反，政治被理解为更一般的术语，作为创造世界的方式，即对世界上不同的存在方式进行排序和安排所需要的实践和能力。借鉴科学与技术研究(STS)的见解，这里的政治更多的是关于某些现实的制造，而不是把现实视为理所当然(Mo1,2002;Moser,2008;Law,2002)。在第2章中，我将描述这种形式的现实政治，即从“本体论政治”的角度来描述世界上存在的东西(Mol,2002)。在对数据进行排序、分类、排序、预测和处理方面，算法是政治性的，因为它们有助于使世界以某种方式而不是其他方式出现。那么，从这个意义上讲算法政治，指的是这样一种观点:现实从来不是给定的，而是在算法系统中并通过算法系统产生和实现的。在分析权力和政治时，我们需要注意一些现实总是被加强而另一些现实却被削弱的方式，并认识到非人类在共同创造这些世界上的存在方式中的重要作用。如果…Then认为，算法权力和政治既不是关于算法决定社会世界如何被制造，也不是关于算法本身做什么。而是关于如何去做

Programmed Sociality

3

当算法和算法的不同方面对特定的参与者可用时，在什么情况下，以及谁或什么成为如何定义算法的一部分。

程序化的社会性

我们越来越依赖算法作为可编程的决策者来管理、策划和组织网络上的大量信息和数据，并以一种有意义的方式这样做。然而，这种安排的性质和含义还远不清楚。算法“做”的到底是什么，它们做这些事情所必需的本构条件是什么?算法是如何被纳入情境实践的一部分的，它们又是如何在不同的环境中运作的?我们如何才能在不将算法简化为人类与机器的问题的情况下，对算法进行富有成效和批判性的研究?

让我们先从概念上理解软件是如何诱导、增强、支持和产生社会性开始尝试性的回答。在这里，我建议将程序化社会性的概念作为一种有用的启发式工具。通过这一点，我们可以研究通过社交媒体平台的特定程序化安排而出现的算法权力和政治，以及在这些安排中允许发生的活动。Facebook和其他软件系统支持和塑造社交的方式是特定于所讨论的媒介的架构和材料基质的。为了公正地对待程序化社会性的概念，有必要强调的是，它并没有把我们引向技术决定论的道路。在使用“程序化”一词时，我借鉴了计算机科学家约翰·冯·诺伊曼(John von Neumann)的“程序”概念，其中“编程”一词意味着“组装”和“组织”(Grier,1996:52)。这是至关重要的，因为它将软件和算法框架为动态的和可执行的，而不是固定的和静态的实体。关于“社会性”，我指的是不同的行动者如何归属在一起并相互关联的概念。也就是说，社会性意味着实体(包括人类和非人类)相互关联和聚集在一起的方式，从而使相关实体之间能够进行交互(Latour,2005)。关注程序化的社会性，就是对行动者如何通过组装和组织的计算手段进行联结感兴趣，这些计算手段总是已经体现了关于社会世界的某些规范和价值观。为了举例说明算法媒体是如何规定某些规范、价值观和实践的，让我来描述程序化的社交是如何在Facebook的特定背景下发挥作用的，通过关注友谊作为一种特别相关的在线形式。

随着Facebook成为日常生活中不可或缺的一部分，为友谊的发展和维持提供了一个场所，我们很容易忘记Facebook在我们通常认为的人际关系中有多重要。从建立个人资料和与其他用户联系到维护网络的一切事情

4

IF .. . THEN

朋友关系需要与平台本身的软件建立亲密关系。正如vanDijck所指出的，“了解社交网站的重要之处是它们如何激活关系冲动”(2012:161)。重要的是要理解关系是在网上被激活的，但也要了解它们是如何以及何时被激活的:由谁、出于什么目的、根据什么机制被激活。

拥有近20亿用户，其中许多人已经成为该平台多年的会员，大多数人早已忘记成为会员的感觉，忘记他们如何成为Facebook希望他们成为的朋友。在第一次注册网站时，用户立即面临着添加好友的当务之急。一旦用户选择注册账户，系统会立即提示他开始填写个人资料模板。用户的身份需要在一套固定的标准内定义，才能与驱动社交软件系统的算法逻辑兼容。如果用户可以自由选择他们希望对自己说些什么，那么就不会有真正可比较或兼容的数据供算法处理和使用。如果没有这种作为数据库一部分的有序存在，我们的连接就没有多大意义。毕竟，“数据结构和算法是计算机眼中世界本体的两个部分”(Manovich,2001:84)。成为数据库的一部分，不仅仅意味着简单地属于一个数据集合。它意味着成为一个有序空间的一部分，根据一个共同的方案进行编码(Dourish,2014)。正如Tarleton吉莱斯皮(2014)所指出的，在算法处理数据之前，数据总是需要准备好的。分类是一种强大的机制，可以让数据为算法做好准备。“什么是类别，什么属于一个类别，以及谁决定如何在实践中实施这些类别，都是关于事物如何和应该如何的有力断言”(Bowker和Star, in吉莱斯皮，2014:171)。Facebook在登录时提供的模板只是帮助数据算法准备好的许多分类形式中的一种。在涉及包容和排斥的问题上，分类的政治变得最相关。关于母乳喂养图片和Facebook的裸体检测系统(包括算法和人类管理员)的反复冲突代表了关于审查和平台政策的特别持久的争论(Arthur,2012)。分类政治不仅仅是限制母乳喂养图像的问题，而是从根本上将数据库架构和算法操作与主体化联系起来的问题。

为了理解社交是如何被程序化的一一也就是说，友谊是如何被程序化地组织和塑造的，让我们考虑一下这个平台模拟现有友谊概念的方式。正如友谊理论家所认为的那样，共同的活动和历史是将某人视为朋友的重要方面(Helm,2010)。为了模拟和增强共享历史的概念，脸书提供了一些专门支持内存的工具和技术。由于连接不良或不参与的用户对平台的存在条件构成了威胁，从平台的角度来看，参与的编程原因构成了一个关键的理由。在脸书上，将用户与潜在朋友联系起来这是确保忠实用户基础的第一步，因为友谊是永恒的。作为一种记忆设备，算法和软件功能不仅可以帮助用户从过去找到朋友，而且一旦形成友谊，它们在维护和培养友谊方面发挥着重要作用。正因为如此，各种各样的功能促使用户采取某些关系行为，最著名的是通知用户朋友的生日。在模拟祝贺某人生日所代表的肢体交流手势的同时，生日提醒功能还有一个额外的好处:生日功能是让用户返回平台的最基本方式，它为要执行的交流动作提供了具体的建议。正如我在其他地方所描述的那样，像Facebook这样的平台希望用户在他们的关系中感到投入，所以他们不断提出新的特性和功能，提醒他们作为朋友的社交“义务”(Bucher, 2013)。

Programmed Sociality

5

虽然传统的友谊概念强调成为朋友和成为新朋友的自愿和持续方面(Allan,1989)，但人们可能会声称，该软件的功能是一种暗示性的力量，鼓励用户以平台提供和受益的方式与人建立联系和互动。从批判政治经济学的角度来看，社会性和连接性是推动新商业模式发展的资源。平台不会为了表现友善而激活关系冲动。最终，有人会从用户的在线活动中获得经济利益。当然，这是一个熟悉的故事，许多学者已经以启发性和引人入胜的方式讲述了这个故事(见Andrejevic,2013;库尔德里，2012;富克斯，2012;Geh1,2014;曼塞尔，2012;范迪克，2013)。从Facebook和b谷歌等公司的角度来看，以及从传统新闻媒体组织的角度来看(在第6章中讨论)，算法最终被折叠成利润和商业模式的承诺。从这个意义上说，一个“好”且运行良好的算法是一个能够创造价值的算法，一个能够做出更好、更高效预测的算法，一个最终能够让人们一次又一次地参与并回到平台或新闻网站的算法。那么问题就变成了：一个平台怎样才能激发用户足够的好奇心、欲望和兴趣，让他们再次回到这个平台？

例如，从Facebook提醒和(重新)介绍用户的方式可以看出软件的微妙之处。当我浏览我的Facebook动态消息时，就好像算法在说，“一个你五年没说过话的人刚刚点赞了这个”，或者，“这个你很久没联系的人，突然间似乎在做一些有趣的事情。”不知何故，我不由自主地认为这些更新很重要，我应该关注它们，它们有新闻价值。我的意思不是说Facebook上的友谊不是自愿的，而是我们作为“朋友”相互联系的方式是高度中介的，并受到算法系统的制约。我们不一定会想到的人，我们可能不记得的人，或者我们甚至可能不认为是朋友的人，继续出现在我们个性化的新闻中

6

IF .. . THEN

推送，作为朋友建议，在生日提醒中，等等。虽然通常很难认识到Facebook是如何“积极地引导和策划联系”的(van迪克,2013: 12),但日常连接的时刻让我们得以一窥软件的影响可能并不一定像它们看起来那样偶然。

Facebook中明显存在的程序化社交功能，不仅仅是借助好友查找算法让人们记住过去的朋友。从一开始，一段友谊就形成了，这段友谊就会“经受考验”。从政治经济的角度来看，这是非常重要的，因为并不是每一种友谊都有同等的价值。有些关系比其他关系更“有前途”、更“有价值”。由于好友数量超过了动态消息功能所允许的范围，友谊会被持续监控其亲和度和活跃度，这是让关系可见的重要措施。社交媒体上的友谊正是程序化的社交形式，因为它们是根据一些潜在的标准或逻辑不断测量、评估和检查的。正如本书将更详细地展示的那样，新闻推送算法在为可理解和可感知的内容创造条件方面发挥着强大的作用，它以牺牲其他人的利益为代价，使某些用户更加可见。Facebook的动态消息显示了一个编辑过的好友动态视图，按照计算出的重要性排序，最重要的更新位于动态消息的顶部。与Facebook相关的每一个动作和互动，无论是状态更新、对某人照片的评论，还是点击“喜欢”按钮，都可能成为某人新闻推送中的一个故事。然而，并不是每一个动作都同等重要，也不是每一个朋友都如此。友谊需要经受考验，因为友谊需要培育和维护，才能经受住“时间的考验”。算法决定哪些故事应该出现在用户的新闻推送上，但更关键的是，哪些朋友应该出现在推送上。24岁的纽约记者雷切尔(Rachel)曾为这本书采访过她对算法的看法，她惊呼“Facebook毁掉了友谊”。雷切尔有700多个好友，她说她经常被Facebook上的信息和人们所隐藏的信息吓到:

所以，从这个意义上说，我确实觉得在这个社交网络上，我只和一小群精选的朋友互动，而我几乎已经忘记了我在上面还有几百个朋友。举个例子，我的一个高中朋友几周前给我的一篇帖子点了赞。我完全忘了她在Facebook上，直到她点赞，我们开始聊天。

雷切尔的经历让人想起了我所说的程序化的社会性，即社会形态和联系是由特定媒体平台的社会技术和政治经济配置在算法上制约和控制的。雷切尔对Facebook破坏友谊的担忧也应该提醒我们，算法需要被理解为强大的看门人，在玩耍

Programmed Sociality

7

在决定谁能被看到和听到，谁的声音被认为不那么重要方面发挥着重要作用。因此，程序化的社会在某种意义上是政治性的，因为它是通过软件和算法来安排、管理和塑造的。如果我们想要考虑算法媒体环境下的日常生活，我们需要注意许多我们认为是社会性的东西一一包括友谊一一可能在技术设计中被表达、中介和塑造的方式，以及这些设计反过来如何塑造我们的社会价值观。然而，正如我们将在本书中看到的那样，这样的考虑并不止步于设计中的价值，而是在重要方面超越了纯粹的技术(无论这是什么意思)。

本书的一个关键论点是，算法的力量和政治源于算法系统如何塑造人们在这个世界上的遭遇和取向。同时，我主张这种塑造力量不能简化为代码。具体来说，我主张对算法力量的理解取决于关系唯物主义的原则，即算法“不仅仅是表演的道具，而是被赋予了扩散人格和关系代理的混合组合的重要组成部分”(Vannini,2015:5)因此，重要的是要承认，当我们从软件和算法如何通过将更传统意义上的物质性视为“技术的属性”来塑造社会性的问题开始时，答案不能仅仅从这些属性中找到，而是要从程序化的社会性作为代码、人和环境的功能实现的方式中找到。

可计算的友谊

友谊的概念为理解程序化社交和算法生活提供了一个恰当的例子，因为它显示了我们对友谊的常识性概念与友谊嵌入算法基础设施并被其建模的方式之间的差异。友谊作为与其他人在一起的一个基本方面，深深植根于人类的状况中，并且基于文化和历史背景，它总是已经存在争议。传统上，友谊被认为是一种排他性的社会关系，是两个人之间私人的亲密关系(亚里士多德，2002;德里达，2005;海斯，1988)。因此，真正的友谊被认为是不可能同时和很多人拥有的，原因很简单——因为它需要时间来建立、培养和维持。亚里士多德认为友谊是一种非常宝贵的东西，一个人不能同时与许多人拥有(亚里士多德，2002)，与之相比，Facebook似乎提倡完全相反的观点。

当然，该平台将友谊置于商业模式的中心并非巧合，这可能是Facebook在过去十年中发展成为一家前所未有的媒体公司的核心原因之一。在一项专利中

8

IF .. . THEN

Facebook关于“你可能认识的人”(People You May Know, PYMK)功能的申请，毫无疑问，友谊对Facebook的价值：“社交网络系统重视用户连接，因为连接更好的用户倾向于增加他们对社交网络系统的使用，从而增加用户参与度和相应的增加，例如广告机会”(Schultz et al.,2014)。软件通过建议、增强或鼓励某些行为或关系冲动来干预友谊。此外，软件已经涉及到平台想象和执行友谊的方式。与“友谊显然是一种个体之间的关系”(Webb,2003:138)的概念相反，Facebook上的友谊是一种多个参与者之间的关系，存在于人类和非人类之间。正如Facebook在另一份专利文件中所举的例子:

[T]“朋友”一词不需要要求成员在现实生活中实际上是朋友(当其中一个成员是企业或其他实体时，通常会出现这种情况);它只是暗示了社交网络中的一种联系。(Kendall and Zhou,2010: 2)

用户通常理解友谊的方式与Facebook“理解”友谊的方式之间的脱节在上面的引用中变得明显。根据Facebook，用户可以成为Facebook页面、歌曲、电影、企业等的“好友”。虽然将电影视为朋友似乎有些奇怪，但这种友谊的概念源于网络的网络模型，其中用户和电影被视为网络中的“节点”，它们之间存在的关系是“边缘”，或者实际上是朋友。的确，“用户’和朋友’这两个术语依赖于参照系”(Chen et al.2014)。这正是本书感兴趣的不同的、有时是相互冲突的参照系。一个核心论点是，媒体平台及其底层软件和基础设施包含了理解当今社会性和连接性的重要参考框架。如果我们接受软件可以有一个参照系，一种观察和组织世界的方式，那么在Facebook上成为朋友意味着什么，或者更准确地说，如果从平台的角度来看，朋友是为了什么？

最重要的是，Facebook上的友谊是可以计算的。在一个算法媒体的时代，“算法”这个词作为形容词使用，表明即使是友谊现在也受制于“引入和特权量化、程序化和自动化的机制”(Gillespie,2016a:27)。不过，衡量个人和组织的表现并不是什么新鲜事。正如社会学家Espeland和Sauder(2007)所指出的那样，在过去的几十年里，社会衡量和排名已经成为现代社会的关键驱动力。根据哲学家伊恩·哈金(IanHacking)的说法，通过“对人们及其习惯的枚举”(1990:1)，“社会变成了统计”。哈金将统计社会的出现与

Programmed Sociality

9