算法权力与政治

也就是说，直到我们找到漏洞、裂缝和裂缝，让我们看到它们。

了解算法的第一步是不要将“不可能看到黑盒子内部”视为一种认识论限制，它会中断任何“徒劳的知识获取尝试”(von希尔格斯，2011:43)。正如阿什比所认识到的：“在我们的日常生活中，我们每时每分都要面对内部机制不完全开放的系统，必须用适合黑匣子的方法来处理它们”(1999:86)。因为不透明、保密和不可见不是认知上的异常，而是人类生活的基本条件，所以黑盒子不是什么可怕的东西，而是“与新见解相对应”的东西(冯希尔格斯，2011:32)阿什比认为，当实验者面对一个黑盒子时，适当的任务不一定是确切地知道盒子里有什么，而是要问，哪些属性实际上可以发现，哪些属性仍然无法发现(阿什比，1999)。因为重要的不是东西，而是它做了什么，所以控制论的引子并不要求我们揭示盒子的确切内容，而是用它的输入和输出进行实验。

对于算法，可以发现和描述的内容因上下文而异，信息的访问程度和可用性也不同。然而，即使在Facebook或谷歌等看似封闭和隐藏的系统中，也有很多东西是可以被了解的。投机性的实验和玩弄算法来弄清楚它们是如何工作的，这不仅仅是黑客、游戏玩家、垃圾邮件制造者和搜索引擎优化者(SEO)的专利。本着逆向工程的精神——“从任何人造事物中提取知识或设计蓝图的过程”(Eilam2005:3)一一我们可能想从算法如何工作及其一般的“操作逻辑”(Wardrip-Fruin,2009)的问题来研究算法。在新闻和新闻研究领域，已经有一些非常有启发性的“逆向工程”算法的例子(Angwin etal.，2016;Diakopoulos,2014)以及相关学术对“算法审计”的呼吁(Hamilton et al, 2014;Sandvig et al., 2014)。

然而，将机器的工作方式神话化并没有帮助，我们也不应该认为算法逻辑在某种程度上比人类思维更隐蔽、更黑盒化。虽然我们不能像询问人类的信仰和价值观那样询问算法，但我们确实可以尝试找到其他方法让它“说话”。与人种学家描绘人们的价值观和信仰的方式类似，我认为从技术的角度来描绘算法的操作逻辑正如拉图尔所说，“必须发明特定的技巧来让他们(技术)说话，也就是说，提供对他们自己的描述，产生他们正在让其他人一一人类或非人类一一做什么的脚本”(2005:79)。技术学，正如我使用的术语，是一种描述和观察技术运作的方式，目的是为了检验一组不同的行动者(包括人类和非人类)之间的相互作用。民族志学者试图主要通过人们赋予世界的意义来理解文化，而技术学的探究则始于

60

IF . . . THEN

问算法暗示了什么。虽然BernhardRieder自己没有使用这个术语，但我认为Bernhard Rieder(2017)仔细研究各种通用算法技术的方式可以被认为是我在使用“技术”一词时所想到的“算法世界观”的一种尝试。Rieder提供了一个特别有启发性的描述，说明不同的技术逻辑(在本例中是贝叶斯分类器)如何包含某些值和假设，这些值和假设不可避免地会对特定系统的操作逻辑产生影响。

在阿什比的控制论引领下，技术调查的关键不是揭示软件确切工作原理的某些隐藏真相，也不是揭示算法的精确公式。相反，其目的是发展对软件的机制和操作逻辑的批判性理解。正如加洛韦所说，问题是“它如何起作用”和“它为谁起作用”(2004:xiii)。正如民族志学者观察、记录、询问人们的信仰和价值观一样，阿什比的观察者和技术专家描述了他们所看到的和他们认为他们所看到的。面对黑盒算法的研究人员不一定需要对代码或编程有很多了解(尽管这肯定是一个优势)。正如阿什比所指出的，“不需要任何技能!记住，我们是在假设我们对盒子一无所知”(1999:89)。

总的来说，我们可以说，一个好的开始方式是根据自己的知识极限来面对已知的未知。例如，关于计算机科学、数学或社会科学中的关键概念，有哪些是对理解特定算法上下文有用的?然后，我们也可以选择追踪许多“围绕技术人工制品和集合聚集的符号系统”(Mackenzie,2002:211):专利申请和类似的文件，这些文件详细列出了技术规范、新闻稿、机器学习技术的会议论文、开发者和工程会议的记录文件、公司简报、媒体报道、博客文章、Facebook的IPO申请等。最后，我们可能希望尽可能地对系统进行实验，甚至自己编写代码。正如下一章将展示的那样，算法技术不需要意味着详细的实验或详细的技术知识，但最重要的是，准备好参与未知的已知，将黑箱不视为认识论障碍，而是视为可以以某些方式(但不是全部)描述的有趣的挑战。

与未知已知的现象学遭遇

第二种策略提出了另一种认识算法的方式，即为我们不知道但仍然知道的东西带来意义。从现象学的角度来看，接近算法是关于关注社会行为者对他们正在使用的系统或多或少发展反身关系的方式，以及这些遭遇反过来如何塑造在线体验。借鉴诸如“隐性知识”、“非知识”和“实践知识”等概念，是一种现象学

Neither Black nor Box

61

算法方法关注的是理解在给定情况下参与者如何感知和理解算法。在这种情况下，将算法假设为未知的已知是为了突出个人形式的知识的生产力，这些知识是通过经验和与生活环境的实际接触获得的(Ingold,2000)。虽然算法，从严格的技术和数学意义上来说，可能仍然是未知的，但有一些隐性的知识形式徘徊在背景中，它们可能对算法生活的形成方式产生与编码指令本身一样大的影响。当失散多年的朋友突然出现在你的Facebook新闻推送上，或者你在预订网站上一直在看的酒店变成了广告，似乎在你上网的任何地方都跟着你，或者Netflix似乎只是根据你想看的电影类型“读懂了你的心思”，算法就会在本地可用来分析它们所产生的各种体验和影响。

在这里，黑盒子的概念是通过声称关于算法的知识甚至可能不在盒子里来解决的。正如我们所看到的，对于Ashby和早期的控制论学家来说，黑盒子不是一个障碍，而是一种游戏和探索性实验的手段(Kaerlein,2013:659)。黑盒子作为人类基本状况的控制论概念，与心理学家让·皮亚杰(JeanPiaget，最初是一名动物学家)将儿童认知发展理论化的方式非常相似。根据皮亚杰的游戏学习概念，“儿童通过向大脑黑盒子输入自己的感觉，将经验转化为对具体物体的个人理解，从而建立起一幅世界图景”(Murray,2012: 902)。而不是在明确的意义上谈论知识，而是强调将认识作为一个持续的、好玩的过程。正如生物学家马图拉纳(Maturana)和瓦雷拉(Varela,1987)后来所说的那样，知识并不能反映一个真实的世界，而是应该通过从经验中构建意义来判断。

其重点在于生命如何通过与算法的相遇而成形并获得表达。现象学方法还考虑了算法“已经嵌入到特定环境中”的方式(Berry,2011:121)。对于将现象学引入社会学分析的先驱阿尔弗雷德·施<e:1>茨(Alfred sch<e:1>tz)来说，经验和人们从中获得的知识是情境化的和情境化的。它既依赖于不同的社会角色，也依赖于不同的相关领域。并不是每个人都需要知道算法是什么或者它们是如何工作的，但是“我们不理解它们工作的原因和方式，我们不知道它们的起源，这一事实并不妨碍我们不受干扰地处理情况、事物和人”(sch<e:1>茨，1946:463)。使用“由非常先进的技术准备的最复杂的小工具，而不知道这些装置是如何工作的”(sch<e:1>茨，1946:463)只是人类生活的一个自然组成部分，但人们知道或试图知道的相关性有多大是有区别的。现象学分析寻找那些相关性的细微转变，以理解现象是如何从被视为理所当然变为成为现实的

62

IF . . . THEN

一个进一步探究的领域。例如，NickCouldry和他的同事(2016)最近提出了“社会分析”的概念，作为社会行动者如何使用“分析”来反思和调整他们的在线存在的现象学研究。正如他们所看到的，“社会分析方法对数字时代社会学方法的扩展做出了独特的定性贡献”(Couldry等人，2016:120)。在一个大规模数据分析占据更大地位的世界里，重要的是要调查行为者自己参与量化的方式。用sch<e:1>茨(1946)的话来说，我们可以把这样的行动者看作是“消息灵通的公民”，他们在一个根本不确定的世界里，寻求关于自己的下落“得出合理的有根据的意见”。

因此，算法的现象学方法关注的是挖掘当人们与算法“奇怪的相遇”(Ahmed,2000)时出现的意义创造能力。正如第5章将展示的那样，尽管人们并不确切地知道算法是什么或如何工作，但他们还是能理解算法。当算法处理的结果感觉不正确、令人惊讶，或者被认为奇怪地有趣时，发现自己受到这些结果影响的人开始将他们的意识转向算法机制并对其进行评估。与Couldry等人(2016)所描述的社会分析一样，当外观模式或同一性感受到威胁时，行动者可能会详细反映如何影响这种操作逻辑;而且，在这样做的过程中，他们表演性地参与了算法模型本身的改变，这是研究演员自己对算法情感景观的体验很重要的一个关键原因。

询问战略未知数的配置

我想在这里讨论的最后一个方法论策略侧重于将算法作为情境实践中的配置进行检查。唐娜哈拉威的形象概念在这方面特别有启发性，因为它指出了通过共构关系对人物的个性化。在她的作品中，哈拉威发展了人物和形象的概念，作为一种谈论不同元素聚集在一起的方式的手段，无论是物质上的还是话语上的，形成或多或少连贯关系的外观。电子人，可能是哈拉威最著名的人物，首先应该被理解为一个跨越同一性界限的联盟。作为一个人物，半机械人没有一个稳定的同一性，而是不同的、经常相互冲突的概念的相互作用。因此，图形将“不能分解成更大整体的矛盾”联系在一起，因为每个想法虽然相互冲突，但可能是“必要的和真实的”(哈拉威1991:149)。

通过将算法概念化为包含并暗示相互冲突的想法的特定图形，我们可能能够研究算法的形成以及算法在特定情况下发挥作用的不同方式。作为图形，算法的同一性是各种各样的，它是分析师的

Neither Black nor Box

63

任务是研究算法何时变得特别相关，并挑战例如社会和技术之间的概念分离。质疑算法的配置首先要追溯其特定的文化、历史和政治表象，以及这些表象形成的实践(Suchman,2004)。在本章中，我将这一过程描述为一个从算法的代理在哪里定位到何时被动员、由谁以及为了什么目的动员的问题。

那么，这里利害攸关的不是作为一个东西的黑盒子，而是“黑盒子”的过程，即让它看起来好像一开始就有一个稳定的盒子。如果黑箱的比喻被过于轻易地用作一种批判算法的方式，那么拉图尔的黑箱概念提醒我们，我们或许应该批判性地审视一下，不同的行为者在将算法视为黑箱的过程中首先是如何获得既得利益的。正如本章所讨论的，所谓的算法的不可知性并不总是被视为有问题的。它也可以被策略性地用来培养一种无知，这种无知有时比知道更有利于相关行为者。通过将战略未知数的概念作为第三种方法论选择的一部分，其目的是指出作为特定认知现象而进入算法图形的深刻政治工作。在第6章中，我通过观察算法如何以不同的方式被招募、想象和配置为新闻实践和产品的一部分，重新转向这些问题。

结束语

让这成为一般结论:对于看似黑箱算法提出的每一个认识论挑战，另一条富有成效的方法论路线可能会打开。社会现实的复杂性和杂乱性并不是问题所在。正如-算法只构成一个计算问题的具体解决方案一样，我们也不能指望如何认识算法这个问题有一个单一的答案。借用Law的话，“有一件事是肯定的:如果我们想要思考现实的混乱，那么我们将不得不教会自己以新的方式思考、实践、联系和了解”(2004a)：2).在本章中，黑盒子被用作处理这种混乱的启发式工具一一—不是通过使世界变得不那么混乱，而是通过将注意力转移到黑盒子的概念有助于隐藏的混乱上。

为了不被当成一份权威的、详尽的善意建议清单，我提出了研究算法时需要考虑的三个步骤。首先，不要将“不可能看到黑盒子内部”视为一种认识论上的限制，它会冲击任何“知识获取的徒劳尝试”(vonHilgers 2011:43)。相反，要问哪些部分可以被知道，哪些部分不可以被知道，以及在每个特定情况下，你如何找到让算法说话的方法。第二，不要期待真相从幕后出来，或者躺在盒子里等着我们的手去拿打开盖子，将算法所征求的那些信仰、价值观和想象作为出发点。第三，请记住，黑箱并不像看起来那么无缝。各种行动者和利益相关者曾经在特定的历史背景下为特定的目的组成了黑匣子。重要的是，它们会进化、有历史、变化、影响和被它们所表达的东西所影响。虽然我们经常谈论算法，就好像它们是单一稳定的工件一样，但它们被装箱以精确地呈现出来。

64

IF . . . THEN

Neither Black nor Box

65

高层生活

工程参与

十多年前，一位哈佛大学计算机科学专业的极客本科生和几个朋友一起创建了迄今为止世界上最大的社交网站。截至2017年12月，Facebook号称拥有14亿日活跃用户、25105名员工和5300亿美元的市值，它不仅仅是一个用户可以“与朋友和家人保持联系”的网站。“Facebook也是一家价值数十亿美元的企业、工程公司、销售运营、新闻网站、计算平台和基础设施。正如2010年的故事片《社交网络》(the SocialNetwork)所展示的那样，Facebook也是一个神话，一个创业梦想，一个极客的童话。Facebook绝不仅仅是一个由创始人马克·扎克伯格(Mark Zuckerberg)担任主角的好莱坞故事，它是一个精心打造的品牌，在过去十年里，它一直被宣传为一家由年轻、充满活力、富有创造力的极客和黑客组成的科技公司。它的使命是：让世界更加开放，联系更加紧密。

事实上，研究表明，在世界许多地方，“Facebook就是互联网”。正如最近的一篇新闻报道，“数百万Facebook用户不知道他们正在使用互联网”(Mirani,2015)。在对印度尼西亚、尼日利亚、巴西和印度等国的人进行调查时，许多人表示他们不使用互联网，同时表明他们是Facebook的狂热用户。尽管一些媒体报道称，青少年纷纷从Facebook转向Snapchat等其他社交媒体平台，但Facebook活跃用户和分享内容的规模和数量仍是前所未有的。在美国，Facebook仍然是最受欢迎的社交媒体网站，拥有庞大的用户群，并且仍然非常活跃。根据皮尤研究中心关于2014年社交媒体使用情况的报告，70%的Facebook用户每天都会与该网站互动，比2013年的63%有了显著增长(Duggan et al.，2015)。可以毫不夸张地说，对许多人来说，Facebook已经改变了他们的生活方式——他们与朋友和家人沟通和协调的方式，接收和阅读新闻的方式，找工作和被解雇的方式。Facebook是Deuze所说的媒体生活的组成部分，它塑造了“人们的生活方式”

4

66

我们体验世界、理解世界并对世界采取行动”(2012:5)。正如我在本书中所论证的，我们的生活体验不仅普遍地渗透着媒体，而且越来越具体地渗透着算法的原理。算法生活是一种生命形式，它的结构是由算法交织而成的一一可以或不可以被改编、翻译或纳入算法表达和逻辑的东西。正如我们将看到的，Facebook正处于这个算法结构的中心，它使那些可以量化、聚合和程序化的东西变得容易理解和有价值。这个结构是本章的主题，我要探讨的问题是，软件创造了什么样的聚在一起?如果，如vanDijck(2012)所言，Facebook通过配置连接算法将关系包装在代码中，那么问题是以何种方式。

为了检验这一点，我讨论了Facebook的动态消息的案例，重点关注动态消息从根本上由算法逻辑管理和组织的方式。如果说Facebook是一个计算平台，它可以促进其他东西在其上建立起来，是一个交流的架构模型，那么新闻推送就是这个模型的实现，作为一个交流渠道，一个可以进行交流行动的设计空间。尽管Facebook的新闻推送声称是开放的，但它与哈贝马斯(jrgenHabermas)和其他政治理论家基于相互审议和辩论的理念所设想的理想公共领域有着根本的不同。虽然其意图并不是建议新闻动态的交流空间与公共领域模式之间的兼容性，但它并非没有其依据。我想说的是，信息流是政治性的，因为它在行使一种治理的地位。在这里，我指的不是议会政治的传统概念中的政治。相反，在更广泛的意义上，政治被理解为世界上不同存在方式之间的相遇和冲突(另见第1章)。正如法国哲学家雅克·朗西莫雷(Jacquesranci<s:1>re,2004)所理论化的那样，政治涉及到感性分配的重新配置。在这个意义上，政治是“看得见、听得见的东西以及可以说、想、制造或做的东西的一套视界和模式”的产物(Ranciere,2004: 85)。它是一种没有适当位置的告知经验的方式。从这个意义上说，权力和政治并不局限于议会政府或统治机构。虽然哈贝马斯等政治理论家认为政治主要是通过非正式公共领域的争论产生的权力的话语形式(Flynn,2004)，但我提出了一种对政治的物质维度也很敏感的观点。在他对长岛大桥和机械番茄收割机的开创性研究中，Winner(1986)认为，技术安排在其具体使用之前强加了一种社会秩序。如果将其纳入算法领域，我们可能会开始将其视为政治设备，因为它们代表了关于世界如何有序的某些设计决策。毕竟，正如麦肯齐建议的那样，算法“以牺牲其他顺序为代价选择和加强一个顺序”(麦肯齐，2006:44)。我在本章关注的是对感性进行排序和分配的工作。

Life at the Top

67

建立在福柯式的对“权力微观物理学”的感性基础上，问题不是权力最明显地属于谁或位于何处，而是如何以及何时行使权力:那些赋予权力活力并使其产生效果的算法技术和实践。

在我对信息流进行更详细的检查之前，重要的是要承认“计算有一个不可否认的文化维度”(Berry,2011:17)。软件、代码和算法虽然在物质性上具有数学性、逻辑性和机械性，但它们总是被制造、维护和破坏的。正如计算机历史学家迈克尔·马奥尼(Michael Mahoney)所说，软件总是“在构造时考虑到行动;程序员的目标是让事情发生”(1988:121)。正如我在前一章中所讨论的，当研究对象是一个商业社交媒体平台(如Facebook)时，很难研究程序员的想法，因为软件工程师的动机和意图通常与他们工作的公司一样模糊。虽然文化人类学家Nick Seaver批评媒体学者倾向于专注于弄清楚流行平台的技术细节，而不是试图弄清楚他们的工程师在想什么和做什么，这是正确的，但对于大多数研究人员来说，进入许多这些公司的内部仍然是封闭的。社交媒体生产研究方面的文献匮乏是封闭访问的结果，还是仅仅是对用户和消费实践研究的不成比例的兴趣，目前尚不清楚。正如NickCouldry在文化和媒体研究中指出的那样，“生产经常被低估，因为它不被视为可以找到日常实践的地方”(引用于麦肯齐，2006:14)。虽然这可能是之前许多社交媒体研究的事实，但一个值得注意的例外是爱丽丝马维克对硅谷社交媒体“技术场景”的人种志。在她的书《状态更新》(2013)中，马维克展示了软件如何体现一群用户或创造者的价值观—一具体来说，软件功能如何反映技术场景中关于世界如何有序和组织的文化信仰。

从“设计价值观”的角度来看(Flanagan和Nissenbaum,2014)，程序员、设计师和软件创造者所持有的文化信仰和价值观很重要。如果我们想要理解软件和算法是如何渗透到日常生活的结构中，那么承认并认真对待这些人工制品远非中性的概念是势在必行的。为了向读者介绍Facebook和定位本章讨论的分析对象——新闻推送——我首先转向Facebook的工程文化。我展示了物质和文化如何不是分开的，而是内在地纠缠在一起的。虽然赞同技术和实践需要被视为共同构成的观点，但本章的重点是社会技术框架的物质方面这不应该被看作是关于因果关系的陈述。相反，它是关于承认，尽管声称对社会和物质的关系观点，学术倾向于“倾向”一边或另一边的分析和经验的目的。而接下来的两章则在考察方面“倾向”于社会方面

68

IF . . . THEN

分别从社交媒体用户和新闻从业者的口述历史出发，这一章则倾向于物质性的不同方面——空间和技术。接下来，我借鉴米歇尔·福柯(Michel Foucault)在《纪律与惩罚》(Discipline and punishment, 1977)中介绍的权力架构图，建立一个分析框架，通过这个框架，新闻提要可以被理解为社会性如何在算法媒体中被编程的一个例子。

Facebook和黑客之道

我们看到马克·扎克伯格在公共场合只穿一件洗过的灰色t恤或大学毛衣这并非巧合。不管用户和这位神话般的创始人形象之间有什么想象中的差距，t恤都起到了它的作用，让全世界知道他只是一个普通人。他不是为了钱，不是为了花哨的名牌服装，也不是为了装饰。他只是想做好自己的工作，尽自己所能“为社区服务”，就像他自己在公司第一次面对面的公开问答环节上被问到为什么总是穿t恤时所说的那样对马克·扎克伯格来说，t恤是为了消除不必要的决定。他说，决策“会让你感到疲惫，消耗你的精力”。知道每天该穿什么，让他有更多时间“打造最好的产品和服务”。扎克伯格说，t恤帮助他把所有的时间和精力都投入到“实现公司的目标和使命，帮助连接世界上的每个人，让他们有能力与他们所爱和关心的人保持联系”(Facebook,2014)。这款t恤巩固了马克·扎克伯格努力工作的CEO形象，巩固了他作为代码和联系的撒玛利亚人的形象。它不仅仅是奉献者的制服，更是一种特殊奉献者的制服—一黑客。

Facebook以培养一种被他们称为“黑客方式”的文化和管理方式而闻名。正如马克·扎克伯格写的一封信所描述的那样，黑客方式是一种“涉及持续改进和迭代”的构建方法(Facebook,2012: 69)。这封信也包含在Facebook的IPO注册声明中。扎克伯格认为，媒体对黑客的描述通常是不公平的。在现实中，“黑客只是意味着快速构建一些东西，或者测试可以做的事情的边界。”正如Facebook所暗示的那样，“黑客”一词有不同的版本和含义。Facebook黑客不像史蒂夫·列维(2010)在他的开创性著作《黑客》(hackers)中描述的上世纪60年代的大学黑客，也不像加布里埃拉·科尔曼(Gabriela Coleman)最近在《匿名者》(Anonymous)一书中描述的地下黑客。Facebook黑客特别“相信总会有更好的东西，没有什么是完美的。”他们只需要去修复它—一通常是面对那些说这是不可能的或满足于现状的人。”黑客方式的特点是一系列核心价值观，通过口号精心打造，广受欢迎

Life at the Top

69