算法权力与政治

17.对20岁出头的长期社交媒体用户进行采访，了解他们的媒体使用实践，以及他们如何看待算法在这些互动中的作用

这些答案首先被编码为提供线人“做出反应的理由”的各种情况和环境的信息。正如女权主义哲学家萨拉·艾哈迈德(SaraAhmed)在谈到奇怪的相遇时所说的那样，“被某件事影响就是对这件事进行评估。评价表现在身体对事物的反应上。赋予事物价值就是塑造我们周围的事物”(艾哈迈德，2010:31)。在对采访和电子邮件抄本进行编码的过程中，这一点也变得清晰起来。因此，在编码的第二次迭代中，根据他们如何明确或隐含地评估和理解算法，以及他们对算法的认识在多大程度上影响了他们对相关平台的使用，对所有抄本进行了分析，他们针对算法制定了什么样的战术和策略(如果有的话)，以及他们对算法表达了什么样的问题和担忧。虽然这些抄本在法庭上站不住脚，但它们应该被视为“在普通场景中被感知到的分散但明显的力量聚集”的事件记录(McCormack,2015:97)。因此，重要的不是人们讲述的故事是否代表了算法的“真实情况”(如果这是可能的话)。相反，个人算法故事可能证明了人们对算法是什么以及它们如何运作的想法和看法，也许更重要的是，证明了他们对算法应该是什么以及人们对算法形成的期望的想象。

与算法共存

人们在各种情况下都会遇到算法:最近购买的圣诞礼物以广告的形式出现在家庭共享的电脑上(破坏了惊喜)，奇怪的推荐，几乎被遗忘的朋友在沉寂多年后突然出现在Facebook的新闻动态中。尽管我为这一章采访的人都声称对算法有不同程度的了解，但关于算法何时以及如何发挥作用的问题，还是出现了一些主题—一在这里，在几个小标题下呈现，这些小标题是根据参与者的回答转述的：“人不是数学问题”描述了算法似乎可以生成的不同类型的混淆连接。无论这些联系是令人惊讶的、不可思议的、有趣的还是令人困惑的，它们的共同点是，对于受其影响的人来说，它们并不觉得无关紧要。“进入人气竞赛”是关于算法通过“分配理智”(Ranciere,2004)成为差异仲裁者的方式，根据谁或什么变得可见来划分可见性制度。与第一个主题(算法如何塑造同一性的构成和体验方式)相关，人气竞赛的概念阐明了人们基于算法以不同方式过滤内容的能力来了解和评估算法的方式。最后，

100

IF .. . THEN

“有意识地点击”解决了算法，或者更准确地说，是关于算法如何工作的信仰如何触发特定的反应和在社交媒体平台上的方式。人们制定各种策略和战术，使自己“在算法上可识别”(Gillespie,2016)，或者因此而无法识别。数据揭示的是，如何受到算法的影响不仅仅是被动观察或微妙意识的问题，而是可操作的后果和运动，反应和创造力的问题。

人不是一个数学问题

这是洁莎。她和男友都是25岁左右，最近因为工作搬到了纽约。这对夫妇把一套公寓转租了一个半月，睡在气垫上，气垫似乎逐渐瘪得越来越快。他们经常说自己有多期待睡在真正的床垫上。当洁莎在Craigslist上寻找新公寓时，她的男朋友在亚马逊上看床垫。然后，一天早上，当洁莎浏览她的Facebook动态消息时，它出现了——一个气垫的广告。洁莎非常困惑，她在推特上写道：“Facebook算法到底是怎么知道她睡在充气床垫上的?18虽然这种联系可能是巧合，但产生的影响却不是偶然的。虽然洁莎知道点击和浏览行为通常会被跟踪，并被用来定制在线广告，但算法似乎以某种令人费解的方式了解你

同样，来自纽约的23岁学生凯拉(Kayla)也对Facebook算法似乎将她归类为“怀孕、单身、破产和超重”的方式感到困惑。20当然，她说，几天前她更新了自己的状态，说自己身无分文、单身，所以那些关于约会网站和贷款的建议是有道理的。但是，当推荐应用程序的算法将她的交友网站显示在准妈妈应用程序旁边时，这有多奇怪呢?和洁莎一样，凯拉对她的算法侧写背后的逻辑有自己的理论。正如她推测的那样，“经过进一步思考，我认为怀孕的原因是我在另一个网站上寻找婴儿派对礼物的托儿所装饰。虽然算法根据用户行为做出的推断在逻辑上对人们来说可能是有意义的，但把约会网站放在给准妈妈的建议旁边，在社会和文化上是“不合适的”。尽管宣称他们并不真正知道算法是什么，但当被问及他们将如何定义算法时，许多参与者似乎在技术方面与其社会感知结果之间做出了区分。以40多岁的职业顾问香农(Shannon)为例，她碰巧在博客上写了关于泰勒·斯威夫特(TaylorSwift)的文章。现在，Facebook的算法似乎认为她是一个“拿着美国运通卡的12岁女孩”。22香农不确定“Facebook的算法是什么——至少，它的技术部分。”她明白，“它会从她自己的活动和她自己提供的信息中获取线索，也许会使用关键词”，“试图定位相关内容”。虽然在技术上讲得通，但可能感觉不太好

Affective Landscapes

101

香农解释道。香农请她举例说明自己被算法分析的经历，她说：

本周早些时候，我在Facebook上发表了一篇博客文章，之后我注意到，突然之间，Facebook为我“选择”的广告往往是关于泰勒·斯威夫特(Taylor Swift)的演唱会门票和她代言的产品(比如美国运通(American Express))，而不是通常中年女性会想到的抗皱霜和减肥广告

虽然香农认为泰勒·斯威夫特事件很有趣，但她经常发现定向广告“有点冒犯，因为它们对我做出了假设，我不喜欢这样认为。”这就是“分析机器”(Elmer,2004)的工作，它试图通过详细的消费者档案来产生一种同一性，这些档案旨在预测未来的需求。基于统计推断和归纳推理，分析算法“不一定有任何合理的依据，可能导致非理性的刻板印象和歧视”(deVries,2010:80)。尽管如此，是否正在构建“正确的”识别的问题可能已经无关紧要了。正如德Vries(2010)所说，错误识别不仅仅是一种不匹配或应该被认为是不合适的事情。错误识别也可能给思考如何体验同一性构建提供一些余地。

体验算法景观不仅是关于人们的个人参与，也是关于算法在绘制和建立某些联系方面所做的事情。用Ingold(1993)的话来说，一个特定的景观的特征取决于它为在那里度过时间的人提供的体验一一取决于他们的观察和期望。对罗宾来说，亚马逊似乎总是被她的性别所迷惑，这不仅有趣和令人困惑，而且似乎使她的跨性别主体地位同时更加真实和不真实。她是这样解释的：

我是跨性别者，刚刚开始过渡。这似乎让亚马逊非常困惑。它试图提出建议，却经常出错。有时，这很明显但很有趣：“我看到你刚买了化妆品，但你不想要一些电动工具吗？”(我从来没有订购过电动工具)。

罗宾一直在思考“一家公司愿意在这样的事情上冒多大的风险”，像亚马逊这样的公司是否真的愿意尝试根据所有可能的人口统计分类，而不仅仅是那些似乎不会危及其利润的人：

如果让我检查一下自己的购买历史，然后想一个叙述，我几乎肯定会把它当成一个跨性别者，而不是碰巧穿同样尺码的衣服和鞋子的异性恋夫妇。但是，

102

IF .. . THEN

假阳性带来的负面反应可能会超过任何潜在的销售

让罗宾烦恼的似乎不是机器无法对她进行分类这一事实，而是这些系统工作方式中反映出来的明显的异规范假设。作为一个处于转型期的人，她的酷儿主体地位反映在侧写机器所没有的方式上一一为她划定了一个清晰、明显的空间。我采访海登时也遇到了类似的问题，她也是跨性别者，使用社交媒体主要是在Tumblr和Instagram上阅读变性博客。他对算法似乎只把“二加二”放在一起，而“社会上事情的运作方式可能完全相反”的方式并没有特别印象深刻。如果这就是算法通过简化人类思想和同一性而起作用的方式，海登认为社交媒体平台正朝着错误的方向发展。正如他很有说服力地指出的那样，“人不是数学问题。

当算法不匹配不再被认为是“无辜的”，而是变成一种不可避免且更具侵入性的更持久的对抗时，算法不匹配可能会被视为问题。对莉娜来说，脸书的算法与她在生活中的定位不一致。她已经不是以前的自己了。然而，她总觉得自己被过去困住了。她不再和同一群人混在一起。她不再分享他们的兴趣。她已经从德克萨斯州的一个乡村小镇搬到了纽约市，现在她在那里读研究生。她说，她强烈地认为自己是自由主义者，当然，她会投票给民主党。然而，莉娜在她的动态消息中看到的所有更新似乎都来自共和党选民和只对名人八卦感兴趣的人。她认为自己是谁，而脸书似乎让她明白了这一点，这种明显的脱节让她很恼火。她对自己的“社交网络与自己的兴趣和信仰如此不同步”感到恼火。尽管莉娜推测，她无法摆脱过去的原因可能是她在德克萨斯州农村上高中时添加了大多数facebook“好友”，而搬到纽约市后却没有添加那么多好友，但她认为算法“一定是错误地评估了我的社交网络需求”。26虽然“真实”的生活允许过去成为过去，但算法系统却让人难以“继续前行”。正如Beer(2013)所指出的那样，档案通过定义什么是相关的和可检索的来记录和塑造记忆。当算法创造的世界(用莉娜自己的话来说)与人们现在的体验不同步时，会发生什么?现有的社交网络资料在多大程度上永远被过去的生活和经历所搅浑?

记忆是一种强大的东西。它存在于一瞬之间，存在于一生之中;它出现在栩栩如生的梦中，出现在清晨的睡意中。记忆可以被随意唤起，也可以被故意撤回。记忆是一个事件，它将我们与过去联系起来并使我们有可能预测未来的道路。记忆是一种

Affective Landscapes

103

一种偶遇，一种分心，一个机会，一个白日梦，或者一种否认。在数字时代，记忆可以被制造、鼓励和编程，让人们更多地参与、分享、参与。对阿尔伯特来说，这就是机器的不足之处一一“也许，没有一种算法能够捕捉人类的经验，”他发推文说当要求阿尔伯特为他的推文提供一些背景时，他解释说:

我在推特上谈论了脸书最近的“年度回顾”惨败，他们创建的算法生成的评论中包含了一些可怕的回忆一一孩子的死亡、离婚等。我在推特上的观点是，虽然算法可能(也可能不是)是一个很好的工具，可以有效地向合适的用户提供合适的广告，但它们可能不是创造情感内容或在人类层面上建立联系的最佳方式

阿尔伯特引用的事件促使他公开谈论算法的局限性，这是埃里克·迈耶和“残酷的算法”的故事，该算法将他最近去世的女儿的照片作为脸书“年度回顾”专题的一部分。对于埃里克·迈耶(EricMeyer)和其他经历过这些不想要的痛苦记忆闪现的人来说，算法精心策划和重新包装的内容不仅仅是在有用的生日提醒中实现。它还作为对生活悲剧麻木不仁的提醒而挥之不去。这些数字媒介的记忆在奇怪的时刻出现，让你“惊讶或警觉地抬起头，对一种半知半觉的影响产生不可思议的感觉”(Stewart,2007:60)。然而，最重要的是，这一事件让阿尔伯特明白了“算法最明显的一点—一它们只是机器”。阿尔伯特说，显然缺少的是“人类的判断，即你知道，这个人可能不想被提醒他的女儿今年去世了，所以即使这篇文章得到了大量的关注，我也会把它删掉’。”的确，算法系统“根据一套对比鲜明的规范来判断个体，没有人类的自由裁量权介入或改变决定”(Beer, 2013: 77)。

同样，21岁的YouTube狂热用户瑞安(Ryan)认为，试图用机械的方式解决人类问题和欲望是算法遇到的障碍。瑞安认为，算法的问题在于“它们只是基于趋势和过去的行为。它不能为你预测未来，它只是假设你会重复你过去所做的一切。”他说，算法没有考虑到“人是不可预测的，总是喜欢尝试新事物”这就是为什么瑞安喜欢那些在YouTube频道上投入大量精力的人一一尤其是他关注的那些半知名的YouTube名人，他们明确地要求粉丝为他们的下一个视频做出贡献。对瑞安来说，这些YouTube名人几乎就像“人类算法”，确保他们给观众想要的东西。瑞安认为它们“比自动算法更准确，因为计算机算法并不像人类那样真正理解人类的偏好或特征。”当海登声称人不是一个数学问题时，这似乎正是他所触及的:人比方程更复杂，

104

IF . . . THEN

比那些可以分解成计算机几步指令的东西更复杂、更不可预测。事实上，海登认为算法从根本上来说并没有那么聪明。例如，他们无法解析“views”的意思是美丽的风景，而它恰好是说唱歌手德雷克最新专辑的名字。所以，当海登在Instagram上为他最近所有的日落和风景照片使用“视图”标签时，他并没有兴趣关注一群德雷克的粉丝，这显然是一种算法所暗示的。那么，在许多参与者的回答中，很明显的一点是，算法不仅能够误判人类，而且它们甚至可能根本无法判断人类。

进入人气竞赛

虽然算法可能不擅长判断人类的复杂性和情感价值，但它们似乎也增强和放大了传统的社会规范和等级制度。对于参与者来说，这在-算法根据受欢迎程度和重要性对内容和人进行过滤和排序的感知能力方面表现得最为明显。当然，算法在这方面并不是独一无二的。媒体一直都是按照某些声音和人物凌驾于其他声音和人物之上的原则来运作的。正如Altheide和Snow(1979)在他们对媒体逻辑的有影响力的解释中所证明的那样，大众媒体从根本上是通过赋予某些表达比其他表达更大的权重和重要性来运作的。受欢迎的逻辑在社交媒体平台的运营逻辑中非常明显，社交媒体平台通常包含某种形式的个性化排名机制以区分受欢迎的内容和不太重要的内容(van Dijck & Poell, 2013)。然而，从技术上讲，受欢迎程度和个性化并不容易平方(Amatriain,2013)。虽然流行度通常是根据全球相关性概念推荐物品，但个性化是关于满足不同口味的成员。正如Amatriain在一篇阐述奈飞推荐背后模型的论文中所写的那样，其目标是“找到一个比项目受欢迎程度更好的个性化排名功能”，以迎合各种口味(2013:这个目标不仅适用于奈飞，也适用于几乎所有试图过滤和排名其内容以某种方式留住用户注意力的平台。

事实上，在数量和质量之间，在高度的链接/点赞和个人实际参与之间取得平衡，构成了平台的核心挑战。当平衡行为失败时一一这经常发生一一用户就会注意到。例如，为什么奈飞公司会推荐一部恐怖电影，而凯蒂却只看浪漫喜剧;或者为什么OKCupid的匹配算法似乎只推荐户外类型的人，而罗宾只想去听音乐会和吃好吃的?仅仅因为很多人喜欢恐怖片，或者因为健身和健康似乎是约会软件上的一件事，这并不意味着两者都适合所有人。人们特别注意到，在社交媒体的方式上，人气竞赛

Affective Landscapes

105

Facebook等平台倾向于让同一个人或同一类型的内容一次又一次地出现。25岁的质量保证工程师卢卡斯说，他把很多业余时间都花在社交媒体上。最近，他注意到他的Facebook信息流上绝对没有新内容弹出。

在4个小时的时间里，同样的5-6个故事出现在我的消息提要的顶部。我在Facebook上有一个相当大的社交图谱(1000多个“朋友”)，所以看到绝对没有新内容出现让我很不安，所以我在推特上表达了我对算法的感受

卢卡斯认为，“Facebook的过滤不断降低他在在线社交体验中的偏好。 99和莉娜一样，她似乎在Facebook上陷入了共和党的圈子，卢卡斯也觉得这个平台隐瞒了重要的信息。对于参与者来说，问题不一定在于过滤本身，而在于不知道他们本可以知道的事情。正如一些参与者所言，这不仅仅是害怕错过，而是害怕“自己的内容”和关系被平台控制甚至审查。

回到迈克尔和雷切尔的故事，他们对Facebook的失望部分源于一种感觉，即让别人代表他们决定在何种条件下，他们的贡献要么被公开，要么被压制。事实上，正如另一位参与者Amber告诉我的那样，“我感到很恼火，因为算法为我做了决定……它是如此不可预测和奇怪。21岁的加拿大公共政策专业学生诺拉认为，“Facebook的算法肯定有什么奇怪的地方。”在一系列的推文中，诺拉推测了Facebook的潜在机制，指出她的一些帖子似乎得到了更多的“喜欢”和评论，而没有任何明显的原因。“点赞”、“分享”和“评论”的数量助长了社交媒体平台支持的人气游戏，在这种游戏中，算法依赖于社交倾向于互动。诺拉担心，社交媒体算法的流行偏见可能会减少人们看到的内容。具体来说，她担心算法对“点赞”和“分享”的偏爱会让“冰桶挑战”等病毒式传播的视频更加突出，掩盖了更重要但“点赞”较少的时事，比如弗格森的种族冲突。正如诺拉所说，“我不喜欢让一个算法、编辑或策展人或其他什么人过多地控制我说的话一—如果他们试图寻找更多的‘热门话题’，我在非热门话题’上的帖子会不会被关闭？”33岁

算法有助于让流行的东西变得更受欢迎，这一概念不仅在参与者对算法的理解中表现得很明显。在围绕算法的公共话语中，这一点也非常明显。让我们暂时回到本章开头提到的#RIPTwitter事件，并考虑一些包含这个标签的推文：“算法是一种审查形式。我在Twitter上寻找未经过滤的实时新闻。34“最棒的一个。

106

IF . . . THEN

作为一个成年人的回报是自己决定你应该对谁(和什么)感兴趣。35“想想看，有了一个算法，你可能再也不会看到某个特定的人发的推文了。”安息推特。“36”用基于算法的提要取代按时间顺序排列的时间线。把推特变成人气竞赛。不，谢谢。在我对瑞安的采访中，他也提出了类似的问题和担忧。他认为，如果推特开始大规模使用算法.那将是“一个大错误”，因为“它显然会青睐媒体、链接、视频、照片等内容，而不会青睐文本帖子，而文本帖子是普通用户在该平台上发布的大部分内容。”海登也表达了类似的担忧，担心Instagram可能会变成一个经过算法过滤的feed。对海登来说，“Instagram算法”只会让“Instagram名人”更加出名，因为它们会“自动出现在顶部，你不会看到你的朋友可能拥有更少的粉丝。”38和海登一样，在推特宣布其算法策划的动态消息仅两个月后，聚集在#Instagram算法标签周围的用户表达了他们对该平台变成人气竞赛的担忧，例如：“对Instagram算法的改变没什么。人气竞赛从来不是我的菜。39“为什么社交媒体上的一切都是人气竞赛?”为什么@snapchat是你自尊最健康的平台。#Instagram算法。“40”为什么@instagram认为这是个好主意?这是“insta”gram而不是“popular”gram #RIPInstagram。“41”新的@instagram算法是我这种小计时器的终结。和大咖们的人气竞赛，我没有赢过。42这些推文值得详细引用，并不是因为它们一定代表了围绕这些特定事件形成的标签公众的一般情绪，而是因为它们展示了人们对算法的各种想象以及人们对它们的期望。这些情绪显示的是，算法是如何被想象成控制机制和看门人的，它们致力于执行现有的权力结构。

然而，算法并不总是被描绘成“坏的”或控制的。同一个人可能会在一个平台的上下文中说算法有问题，但在另一个平台上类似的机制似乎没有问题。有些算法被认为是有用的，而另一些算法则被认为是突兀的。例如，虽然诺拉担心Facebook算法控制了她看到的太多内容，但她说，“关于b谷歌，我认为这是一个我真正信任的算法。当我问她为什么对b谷歌有信心而对Facebook没有信心时，她说她正在努力寻找一个确切的原因。她推测，也许是因为谷歌是搜索引擎，或者是因为Facebook

感觉更具侵入性，因为他们侵入的是真正私人的东西，真的会把某人搞得一团糟……而b谷歌，它只是一个搜索引擎。当你去b谷歌的时候，你已经知道要找什么了

Affective Landscapes

107

在通过Skype进行的半结构化访谈中，围绕不同算法的模糊性变得尤为明显。算法本身并不被认为是有问题的，而是在它们对用户的限制程度方面变得或多或少有问题。有几位受访者似乎关注的是他们在浏览不同平台时感觉自己拥有的代理和控制程度。例如，瑞安区分了有用算法和控制算法。与安珀和诺拉一样，瑞安也说：“感觉在Facebook上，算法控制着我。”他将Facebook的算法归类为“大”，而推特的算法，尽管最近有新闻，仍然感觉“小”和“简单”。正如他解释的那样，

推特的简单算法是，当你不在的时候，它会简单地向你显示，这些是信息流中发生的主要事情……我认为推特算法非常好，因为它非常简单，它没有控制太多，它只是帮了你一点忙

当请瑞安进一步阐述“有用算法”的概念时，他提到了自己最喜欢的平台Netflix。对他来说，Netflix的算法就像Facebook和Twitter的算法:像Facebook是因为它“显示当前流行的内容”，像Twitter是因为它专注于“你自己定制的信息流，没有任何其他于扰”，但仍然试图帮助你“根据我看过的内容”找到新的内容。同样，22岁的加拿大大学生梅丽莎(Melissa)认为，Netflix给了你“最大的控制权，因为它会具体地从你自己正在做的事情中提取信息。”他们不会从你的朋友在做什么，或者你在看什么中提取信息。“虽然所有的平台都试图找到与用户相关的内容，但从某种意义上讲，用户是否觉得自己通过设置参数来控制内容，而算法只是在帮忙，这是有区别的，而不是算法似乎或多或少地自行确定相关性，至少，在没有用户任何明显的明确输入的情况下。在很多情况下，如果平台做得对，个性化被视为一种资产，但如果流行似乎妨碍了个性化，个性化就会被视为一种入侵。梅丽莎将对个性化内容的需求与她这一代人想要感觉特别的愿望联系起来。她是这么说的：

你总是在寻找让自己与众不同的东西。这就是星巴克的商业模式如此成功的原因之一。因为送出印有自己名字的杯子会让你觉得自己是茫茫人海中的一个个体。我觉得网络平台也在尝试做类似的事情，给你提供他们认为你最想要的东西。这让你觉得就像媒体平台在照顾你一样。他们试图在这个平台上给你最好的体验。有些人成功了，有些人却没那么成功。但我发现个性化更多

108

IF . . . THEN

比拥有和别人一样的标准体验更能让用户满意

就像平台本身在基于全球相关性概念和/或更个性化的模式的排名之间努力寻找合适的平衡一样，用户似乎也在一方面对流行内容的渴望和另一方面对个性化内容的渴望之间摇摆不定。更重要的是，这些不同的反应表明，算法不仅是事实性的，而且在某种意义上也是规范性的，即无论是明示的还是隐含的，人们都对事物应该是什么样子有一个理解，也就是说，算法应该如何执行。

每天有意识地点击

生活在以算法为中介的环境中，并不仅仅意味着算法凌驾于用户之上。想要收集点赞和评论也不仅仅是“自恋的呼救声”(Agger,2012:45)。对于许多用户来说，如果他们想要影响算法更突出地显示他们的帖子的“意愿”，这已经成为一种必要的部署策略。与我交谈过的许多狂热的社交媒体用户都曾以这样或那样的方式尝试着玩或实验他们使用的平台的运营逻辑一一试图被看到或不被看到，或者以其他方式规避感知到的控制机制。例如，有几位参与者提到了被困在临时反馈循环中的经历。瑞安谈到YouTube推荐算法倾向于强化一种观看模式，不管它是否正确：

有时候，我点了一个视频，以为它是什么，但实际上是关于别的事情的，但是现在我看了，YouTube会在推荐部分给我展示一堆与之相关的视频，我真的不在乎这些。

为了“纠正”算法，瑞安说他要么暂时停止点击任何东西，要么开始点击尽可能多的其他相关视频。同样，在推特上说Facebook破坏友谊的蕾切尔(Rachel)说:

我发现自己每天都在“有意识地点击”。这听起来很疯狂，但我记得有一次我不小心点开了一个以前的高中同学的资料，然后低声咒骂：“该死的，现在我要24小时看她的东西了。

在人们对算法如何影响他们使用平台的回应中，“有意识地点击”成为了一个关键主题。此外，被困在一个

Affective Landscapes

109