算法权力与政治

当然，这是一个允许参与的空间，软件表明某些形式的参与比其他形式更可取，因此可取性可以映射到我在本章中所建议的可见性的特定机制中。

结语

考虑到Facebook每天有12.8亿活跃用户，算法实践、技术和程序在决定展示什么、向谁展示以及以何种方式展示方面发挥着强大的作用。算法从来都不是中立的，而是反映了编写算法的人的价值观和文化假设。这并不意味着我们可以通过询问程序员来简单地理解算法。虽然探索算法如何被创造的民族志工作可能会告诉我们一些关于算法运作方式的东西，但程序员并不比其他人更有能力明确地谈论他们的偏见、价值观或文化假设。相反，本章揭示了如何通过考虑算法的社会物质性来理解算法的力量和政治。在信息流是如何工作的问题的指导下，为了什么可能的目的，我主张对算法进行批判性的、架构性的阅读。通过仔细阅读描述Facebook新闻动态运作的公开文件，以及对我自己的新闻动态的系统观察和分析，从几个方面揭示了社会性和主观性是如何被平台成像的，以及它是如何被系统地嵌入和设计到算法安排和机制中的。尽管本章强调算法的物质政治，但物质性从未与社会领域解耦或区分。随着最近将算法作为社会科学和人文科学的分析对象的关注越来越多，出现了一种倾向，即给算法注入过多的因果力量，就好像它是一个单一的、容易辨认的东西。显而易见的是，迫切需要将算法历史化，将算法置于更广泛的生产和消费背景中。与此同时，文化理论家不得不努力应对社交媒体算法不可避免的短暂性。在本章中，我试图通过考虑软件创建者所持有的文化信仰和价值观，以及明确数据捕获的日期和时间，来参与这种历史性。这就是说，我们需要承认，新闻源及其算法是从某个地方出现的;以特定的方式进化;都以特定的方式被谈论;迷惑;反映某些信仰和假设;为完成一定的技术、经济和文化目标而工作;暂时稳定，然后再次改变;等等。这也意味着，对算法集合的挖掘永远只会是对一系列事件的瞬间追踪和稳定的挖掘。

事实上，本章对新闻提要算法的分析揭示了软件的“可变本体”特征(Mackenzie, 2006)。而它

90

IF . . . THEN

如果说马克·扎克伯格(Mark Zuckerberg)对灰色t恤的喜爱是一种算法隐喻，或许有些夸大其词，但这件衣服确实揭示了他的价值观和信仰。尽管对Facebook工程师的访问受到限制，但我们仍然发现了许多平台如何运作的痕迹，他们的首席执行官和经理是如何思考和交谈的，代码是如何编写和组织的，文化的影响方式，文化如何被品牌化，以及参与其中的人所持有的价值观，规范和文化假设。这些痕迹包括但不限于移动家具的原则、Facebook总部的物理布局旨在改变Facebook员工思维的概念、专利文件中描述的技术规格、开发者大会上经久不衰的工程修辞、媒体报道、以及用户界面。这项研究表明，算法是如何个体发生的，仅仅是因为需要解决方案的问题不断变化。虽然显示最“有趣”内容的问题仍然存在，但构成趣味性或相关性的因素取决于给定的上下文。Facebook永远不会结束。无论我们谈论的是沙发的物理翻新，还是新闻推送排名算法，研究对象本质上都是动态的、变化的、可变的。在一个机器学习的时代，用于预测用户行为的模型会随着用户数据的增加而不断变化，捕捉系统如何工作的底层逻辑可能会特别具有挑战性。如果，正如福柯所建议的那样，纪律权力是通过训练主体充分发挥其作为有用个体的潜力来实现的，那么我们现在看到的是通过训练机器从已知数据的语料库中正确学习来实现算法的某种纪律。我们仍然只是处于理解的开端，更不用说首先要解决的问题是，“正确的训练”意味着什么，以及采用哪些技术来确保算法充分发挥其作为有用机器的潜力。

福柯所描述的许多与规训权力相关的特征，如封闭的功能、自我控制的创造和人类多样性的训练，都是对Facebook这种封闭架构及其对参与和互动的微妙要求的恰当描述。然而，如果我们遵循福柯对监视作为一种“永久可见性”形式的理解，那么这个概念就无法捕捉到创造可见性模式的算法逻辑，这种可见性模式不是永久的，而是暂时的，不是平等地强加给每个人，在出现和消失之间摇摆。虽然福柯确实在某种程度上固定的技术和建筑形式中描述了权力组织，但建筑计划在结构上强加可见性的观点似乎与新媒体不稳定和不断变化的安排特征并不冲突。无论是数字空间还是物理空间，总是以这样或那样的方式被划分。这并不意味着它们也不能随着新元素的出现而扩展或改变。福柯认为，纪律是向心的，安全是离心的。这就是说，纪律的功能是隔离一个空间或决定一个片段，而安全的器具“具有常量”

Life at the Top

91

通过不断整合新元素，“扩张的趋势”(福柯，2007:67)。安全不会取代纪律，正如纪律不会取代主权，而是补充和增加主权一样(福柯，2007:22)。

参照福柯的全景观概念，我在本章的目的是论证将可见性分析应用于(非)物质架构的有用性。根据福柯的主张，“圆形监狱必须被理解为一种可推广的功能模式;一种从人的日常生活中定义权力的方式”(1977:205)，对新闻提要算法的图解理解为研究不同的可见性制度如何物化提供了一个建设性的切入点。认真对待社交媒体的物质维度，揭示了政治和权力如何在这些平台的技术基础设施中运作。在福柯的术语中，信息流可以被理解为一种政府形式，在这种形式中，对事物的正确处置被安排到一个合适的结局(2007:96)。有人认为，算法是处理事物的关键，也就是朗西埃所说的“可感知的分配”。信息流排序算法的操作逻辑揭示了福柯监视概念的反转。参与性主体性不是通过一个全视的视觉机器强加的威胁来构成的，而是通过不断消失和过时的可能性来构成的。

92

IF . . . THEN

情感性景观

与算法的日常相遇

我已经使用Twitter十多年了，但我仍然不知道如何使用它。发推特对我来说并不是自然而然的事，我也真的无法解释这个平台是用来于什么的。然而，像大多数用户一样，我认为Twitter是一个实时的微博客平台，你可以在上面发布一小段想法、信息或一组追随者的链接。对许多人来说，实时的逆时间顺序提要是Twitter用户体验中最具决定性的方面。因此，当Twitter在2016年初宣布他们将引入“算法时间表”来取代其标志性的实时动态时，它感觉有些越界。Twitter准备彻底改变这一标志性功能的消息引起了公众的强烈抗议，这并不令人意外。就像现在任何一个大的平台变化一样，愤怒的用户聚集在一个话题标签周围抗议。数天或数周以来，#RIPTwitter展示了人们对该算法到来的沮丧。“如果你再也没有收到我的消息，你可以感谢Twitter的天才新算法系统………#RIPTwitter。“我喜欢Twitter的主要原因是它不使用算法。听起来这一点正在改变。#RIPTwitter。”2“每次听到‘算法’这个词，我的心都碎了。#RIPTwitter。“我想以#RIPTwitter的案例开始这一章，不是因为围绕平台的用户抗议在某种程度上是特殊的，而是因为这些推文和许多类似的推文似乎传达了算法的新兴平凡。正如Christian Sandvig(2015)所指出的，在2006-2013年间，“算法’这个词出现在世界各大报纸上的次数增加了五倍。”自2013年以来，这个数字可能刚刚出现爆炸式增长，新闻媒体现在经常报道算法。虽然许多人仍然没有意识到算法在多大程度上策划了他们的在线体验(Eslami et al.，2015)，但我们可能仍然-或者正是因为它-感觉到一种新的“感觉结构”的出现(Williams，1977)围绕算法的各种新出现的话语冲动都表明了这一点

93

本章的开始前提是，当人们居住在中介空间时，算法正在成为习惯和感觉存在的一部分。这并不是说算法必须有意识地呈现给人们，而是说它们有能力唤起“感觉像某种东西的东西”(Stewart,2007:74)。有时，这种东西可能会以事件的形式出现，比如#RIPTwitter抗议，这是一个“集体情感似乎在明目睽睽之下脉动”的时刻(2007:74)。然而，大多数时候，算法的冲动在日常生活的平凡时刻变得几乎不引人注目。回想一下，比如，里斯本酒店推荐的定向广告，或者在我上网时似乎悄悄出现的派对礼服(如第一章所述)，或者你的信用卡公司在无法解释原因的情况下对你实施安全禁令的怪异行为(如第三章所述)。在这样的时刻，算法让自己为人所知，尽管它们往往或多或少还是难以捉摸。它们在创造某些情感冲动、陈述、抗议、感觉和愤怒、困惑或快乐的感觉方面变得奇怪地有形。

在本章中，我们将从上一章探讨的算法的纪律力量转向算法的情感和现象学维度中所渗透的权力的“微观政治”。所谓“微观政治”，我指的是类似于福柯(Foucault,1978)的微物理学概念，即关注具体日常实践和技术的生成潜力的一种方式。更具体地说，微观政治“指的是在情境遭遇中或通过情境遭遇而发生的难以察觉的权力过渡”，以及“不同品质的遭遇做不同的事情”的观点(Bissell，2016:397)。这并不是一种必然具有压制性、歧视性或等级性的权力和政治，而是一种生产性的权力和政治，因为它产生了一定的做事和感知事物的能力。我感兴趣的问题是算法和人是如何相遇的，这些相遇使什么成为可能，又限制了什么?情感的概念变得很重要，因为它描述了在思考算法的几乎不引人注目和更明智的维度时，作为理解算法生活的权力和政治的关键是什么。无需深入探讨“情感”的概念(许多书籍都专门讨论这个概念)，在这一点上，只要说“情感描述了生活中“多于或少于理性”的领域就足够了，包括“情绪、激情、情感、强度和感觉”(Anderson,2006:734)我特别关注算法具有影响和被影响能力的方式(Deleuze & Guattari, 1987)，通过观察用户如何感知和理解算法作为他们日常生活的一部分。

然而，重点不是评估人们实际感受到算法的程度，而是强调经验和情感遭遇是算法知识的有效形式(见第3章关于算法现象学方法的讨论)。提出的论点是，算法不仅对人做事，人也对算法做事。to这个词很重要，因为它延伸了关于媒体使用的更经典的描述和关于受众力量的论点。它是

94

IF . . . THEN

不仅仅是人们在算法的帮助下做事。通过使用算法，人们也会对它们做一些事情一一以话语和物质的方式对它们进行调制和重新配置。正如我们在第2章中讨论的那样，在社交媒体平台上激增的机器学习算法从来都不是一成不变的。这些算法会根据用户输入不断地被塑造、定型和发展。如果前一章将算法分析为通过排名和权重作为权力的建筑形式来指导“正确处置事物”的政府技术，这一章考虑了文化想象的“生产力”，以及用户在重新配置他们自己居住的算法空间方面所扮演的重要角色。

遭遇算法

考虑下面的场景:迈克尔按下发送按钮并等待。正常情况下，“点赞”和“评论”的时间不应该超过5分钟。什么也没发生。作为一名独立音乐人，迈克尔必须找到自己的方式来传播他的音乐，并确保他能接触到听众。脸书似乎是自我推销的完美平台。迈克尔认为他已经更擅长玩“脸书的游戏”了。比如：“状态做得更好，取决于你发布的那个晚上，你选择使用的词语，以及它最初产生的热议程度。”根据之前的经验，他知道，“如果状态在最初的十分钟左右没有建立起热度(点赞、评论、分享)，它就会立即开始在动态消息中向下移动，最终消失。”迈克尔刚发行了一张新专辑，需要宣传一下。他挑选在他看来是一周中最完美的一天，精心制作更新的文字，刻意使用“哇!和“这太神奇了！”，让帖子更显眼。至少他是这么认为的。但什么都没发生，帖子最终消失了，没有下载，只有一些零星的“点赞”

还有一点:瑞秋是脸书的忠实用户，但最近她认为“脸书的算法正在破坏友谊”。她几乎从一开始就是脸书的会员，有700多个朋友。她认为自己是一个非常善于交际和外向的人，喜欢定期更新状态，经常评论别人的帖子。然后，几个星期前，她看到了一个高中老朋友的帖子。瑞秋完全忘了他们还是脸书好友。她已经很久没见过这位老朋友了，突然间，她“突然出现在她的动态消息中”。瑞秋很好奇——她到底错过了多少?她朋友的生活中发生了什么事，而脸书决定不在她自己的动态消息上发布?瑞秋说：“脸书每天都在我的信息流中隐藏所有的信息和人，这让我很吃惊。”“所以，从这个意义上说，我确实觉得我在社交网络上只和一小群精选的朋友交往，而我几乎忘记了我在社交网络上还有几百个朋友。

Affective Landscapes

95

这些场景不仅仅描述了媒体用户的奇怪感受，还描述了人们在不同程度上遇到当代媒体平台背后的算法现实和原则的许多平凡时刻中的一些。对于21岁的迈克尔来说，脸书算法已经成为他日常生活的重要组成部分。作为一名音乐家，他依靠脸书平台来推广他的音乐，与粉丝和追随者联系，并在他居住的洛杉矶加入一个志同道合的艺术家社区。迈克尔将他与算法的接触描述为一场人气游戏，取决于他的更新能吸引多少点赞和评论。在许多方面，迈克尔的故事让人想起前一章描述的“隐形的威胁”。为了应对这种威胁，迈克尔想出了一些策略和战术，他认为这些策略和战术可以保证他更有机会保持注意力并引起注意。根据之前的经验和有关新闻动态的基本逻辑的视频，迈克尔开发了关于算法如何工作的理论。他说，令人沮丧的是，当事实证明并非如此时。对于瑞秋来说，脸书算法不会像迈克尔那样受到同样的挫折。24岁的瑞秋是纽约的一名记者，她不像迈克尔那样“依赖”算法维持生计。然而，作为一名记者，她注意到，最近关于算法的新闻报道似乎越来越多。《华盛顿邮报》(Washington Post)的一篇文章讨论了脸书的算法;从那以后，瑞秋就一直试图在她自己的动态消息中找到这种迹象。当一位高中的老朋友不知从哪里冒出来出现在她的动态中，甚至还“点赞”了瑞秋的一条帖子时，她终于意识到算法在起作用。瑞秋说，关于忘记别人感觉就像算法试图代表她做出决定，最终影响她处理友谊的方式。未来的问题是，我们可能会如何看待这种与算法的日常接触，如果有的话，它们可能会告诉我们算法如何塑造我们的体验？

询问人们与算法的相遇似乎暗示了某种有意识的相遇，或者人们已经意识到并掌握了算法是什么。正如现有的研究表明，情况远非总是如此(Eslami et al. 2015;Rader & Gray, 2015)。在许多方面，人们如何关注算法的问题类似于人们如何开始理解那些不容易获得的感官的问题，这一直是科学史上一个重要的研究领域许多科学技术创新本身是看不见的。想想纳米技术、RFID或各种传感器技术就知道了。就像算法一样，它们被嵌入到电脑、衣服和其他更可见的界面中。处理不确定性和未知是人类的一部分意义;它是为未来而活的意义的一部分，是恋爱的意义的一部分，也是理解物理、气候变化等事物的意义的一部分。当人们面对生活中隐藏的和不确定的方面时，他们倾向于构建被各种各样描述为“心理”的东西

96

IF . . . THEN

模型”(Schutz, 1970;肯普顿，1986)，“解释框架”(Bartunek & Moch,1987)，或者简单地说“民间理论”(Hirschfeld, 2001;Johnson-Laird &Oatley,1992;Johnson,1993)。为了与技术互动，人们必须理解它们，并且他们以各种方式做到这一点-例如，通过可视化，类比到更熟悉的领域，或者通过使用隐喻。媒体话语、文化文物、故事、轶事和共享的文化信仰可以“为人们提供解释力，并指导人们使用特定技术的行为”(Poole等人，2008)。在电影和流行图像中描绘人工智能和机器人等不熟悉的现象的日益普及和流行，可以说使这些现象更容易用于公众推理和辩论(见Suchman,2007)这在算法方面也没有什么不同，算法很少以数学或技术形式出现。当人们遇到或“看到”算法时，它通常是以公式(例如EdgeRank公式)的简化图像的形式出现，或者是关于最近争议的报纸报道，例如，在最近对Facebook及其“算法”的审查指控中，删除了标志性的“战争恐怖”图像，或者通过其他文化中介手段，如电影和各种艺术作品。

不出所料，也许，即使对计算机科学家来说，算法也很难表现出来或进行文化调解然而，正如Sandvig(2015)所指出的那样，为了使算法更容易被公众理解，我们正在看到一种认识论的发展，“算法现在有了自己的公共关系”。也就是说，超越了早期算法特征的技术或教育意象，算法在不同的表征设置中实现。算法已经成为营销的对象，以商业化的数学公式形象表现出来，并在各种第三方营销顾问、技术博客和其他行业新闻出版物中传播。使算法成为公共关系产物的过程与查尔斯·巴泽曼(2002)所说的“代表性休息点”的产生并没有太大的不同。在研究爱迪生电灯的文化历史时，巴泽曼认为，在这项发明“能够创造出它自己的体验和意义的新世界”之前，至关重要的是要发展出被接受的电灯的表征，作为稳定的参考点(2002:320)关于算法和机器学习，这些表征的静止点究竟是什么还有待探讨，但简化的数学公式或半机械人图形肯定是其中的一部分。虽然这个公式可能会把算法描绘成科学的对象和中立的管道，但这可以说不是人们在日常生活中所经历的。正如Michael和Rachel的故事所表明的那样，人们所经历的并不是数学公式，而是算法产生的情绪、影响和感觉。因此，心智模型的概念只给我们带来了目前的结果，这并不是因为人们构建的关于不熟悉的技术和隐藏过程的理论往往被证明是不准确的(Adams&Sasse,1999;Wash,2010)，而是因为这些理论是否正确并不一定重要。

Affective Landscapes

97

从现象学的角度来看，令人感兴趣的是看似隐藏和不熟悉的技术过程如何允许或限制人们的运动和下落。对于人们在日常生活中，重要的不一定是真相(不管真相是什么)，而是“实用的认知”(Thrift,2007:121);也就是说，人们“当他们沿着旅行的路径在世界上旅行时，他们就会知道”(Ingold,2011:154)。换句话说，人们学习他们需要知道的东西，以便有意义地参与到一个算法中介的世界中，并在这个世界中找到自己的路。例如，对迈克尔来说，Facebook的动态消息算法感觉就像一个挡在他音乐事业道路上的看门人。了解这个算法足以确保他的追随者收到他的更新对他来说很重要一—不仅仅是个人的，也是职业上的。我在这里所关注的知识，不是把人们对算法形成的信仰视为对或错，而是作为理解算法如何以及何时起作用的一个切入点。

研究个人算法故事

与“个人用户无法真正体验算法在决定一个人的生活方面所产生的影响，因为算法很少(如果有的话)对个人说话”的观点相反(Cheney-Lippold,2011:176)，我在本章中建议人们确实体验算法;而且，虽然算法可能不会直接与个人对话，但它们可能会通过个人进行对话。在这里，我报道了一系列个人算法故事，也就是从人们的在线体验中衍生出来的算法故事。在2014年10月至2016年8月的两年时间里，我通过电子邮件和面对面访谈的方式收集了社交媒体用户的个人算法故事，采访了35个人，了解他们对算法的看法和认识。该数据集还包含超过2000条由社交媒体用户撰写的推文，其中包含#RIPTwitter和#InstagramAlgorithm等流行标签，以及博客文章和报纸文章讨论算法的存档评论部分。我从ZiziPapacharissi(2015)那里得到启发，她认为围绕推特上的标签组织起来的集体话语表明了一种新兴的情感结构，我将扩展这一概念，不仅包括标签，还包括关于算法的不同推文，作为围绕算法感觉存在的情感景观的指示。回到迈克尔和瑞秋，他们的算法故事最初是用他们自己的推文作为起点收集的。他们的推文表达了困惑和失败的感觉，只是简单地写道：“这个Facebook算法真是超级令人沮丧”(迈克尔)和“Facebook算法破坏了友谊”(瑞秋)看到这类言论出现在我的推特上，我不禁想知道它们是从哪里来的。是什么促使迈克尔和瑞秋在推特上发这些话?

在方法上，我参与了一种可能被称为场景的调查，通过关注算法和通过算法产生的情感景观

98

IF . . . THEN

场景、情境、情节和中断，在日常生活中产生算法的存在感。所谓“场景”，我指的是一种方法论上的感性，类似于劳伦·伯兰特(LaurenBerlant)和凯瑟琳·斯图尔特(Kathleen Stewart)等作家和学者，他们都关注普通的案例或场景，以使情感过程更加明显。对于斯图尔特(2007)来说，场景是一种方法和类型，一种将普通的情感作为一系列事件的写作方式，这些事件一起构成了一个关于生活在当代美国的感觉的故事。正如麦科马克所写，场景或情境“成为一种收集重要世界的感觉的方式，同时也提出了这些世界的力量如何成为他们故事的一部分的问题”(2015:93)。正如伯兰特所定义的那样，情境“是一种事物的状态，在这种状态下，一些可能重要的事情正在日常生活活动中展开。它是一种充满生机和活力的悬浮状态”，一种“将自身强加于意识之上，并在当下产生某种浮现感的状态”(2011:5)我认为，算法可能会产生这种新兴的存在，并通过它们让人们感受到的方式和它们讲述的关于这些遭遇的故事来“获取”。这与情感的概念密切相关，但又不完全相同。正如Papacharissi(2015)所指出的那样，情感是允许感受的东西，它是可能导致特定感觉的运动。她认为，情感可以被认为是“我们走路时步伐的节奏”(2015:21)。例如，快节奏的节奏可能会导致并放大压力的感觉;缓慢而轻快的节奏可能会让我们平静下来。在这项研究的背景下，问题是我们如何看待算法创造的运动力量，以及它如何引发“反应的理由”，正如斯图尔特所说(2007:16)。

以看似普通人写的关于算法的推文为出发点，我有兴趣更好地了解促使人们对算法的方式做出反应和回应的各种情况和环境在两年的数据收集过程中，我定期在推特上搜索关键词和关键词组合，包括：“Facebook算法”、“算法与Facebook”、“Netflix算法”、“算法与Netflix”等等我每隔几周就查询一次推特，手动向下滚动推文流，并截取那些看起来更个人化而不是营销导向的推文。利用我在推特上建立的研究资料，我偶尔会联系最近发过关于算法的推文的人，问他们是否愿意回答一些与那条推文相关的问题。这些推文包括这样的陈述：“我被推特的算法认为我有糟糕的品味冒犯了，”“Facebook，也许没有一种算法可以捕捉到人类的经验，”“感觉Spotify的算法可以读懂我的思想——既棒又令人毛骨悚然，”“Netflix的算法一定喝醉了， 99“Facebook的算法让我困惑。”它似乎认为我应该减肥，我破产了，怀孕了，单身了。”根据与这些推文有关的问题，我总共与25个人进行了异步的电子邮件对话和同步的电脑聊天在2016年春天，我又进行了10次半结构化研究

Affective Landscapes

99