技术至死 数字化生存的阴暗面

沉没在算法海洋里

跳出技术专家向外行介绍工作时讲诉的那套宏大而乏味的故事，我们就会站在一个更好的位置上来理解技术的内部运作，它们对公民的影响，以及如何改革和监管它们。Google自己的话语风格就是个很不错的调查目标，这不仅是因为它不断提到镜子和反映。Google还喜欢援引“民主”这类高尚名词，来证明其算法的计算结果不仅客观而且公正。因此，在解释为什么要按现在的方式来呈现搜索结果时，Google网站告诉我们，“(这是)网络上的民主在发挥作用”，他们的意思是，通过链接为自己最喜欢的网站投票，然后由Google的PageRank算法计算来确定哪些结果应当出现在顶部，每个人都得到了发言权。

他们的“民主”定义真是奇怪。举个例子，Google搜索理论赖以为基础的平等思想就相当肤浅：是的，人人都能通过“链接”投票，但那些拥有资源、能带来更多链接的人(可能靠的是付钱给有影响力的网站，让它们跟自已建立链接，或者通过搜索引擎优化来骗过系统)就拥有比那些不能这么做的人更多的权力。这绝非“一人一票”。充其量这也只是个寡头政治，而非民主。再者，Google排名算法除了要考虑一个特定页面有多少其他网站链接，还要考虑至少两百个其他要素，比如网站载入速度。为了使民主隐喻在这种语境下能起作用，“民主”本身需要重新定义。Google对民主的卡夫卡式的怪诞诠释就像这样：你进入一间投票亭去投票，结果却发现选举委员会还要考虑你的时尚品位、你的口音、外面的天气，以及其他许多因素，可以预见的是，这些信息是不可能告诉你的。

156

枝术至死

想想吧，为了证明其创新和敢想敢干的态度，Google是多么喜欢突出其科学背景。这不仅是因为Google从不放过任何机会吹嘘自己硅谷校园环境的根基，更是因为它主动把自己放到科学的万神殿里，在那里，例外可以被准许，指责可以被制止，因为高尚的使命不亚于启蒙运动本身。“我们是科学家。因此如果成功了，那太好了。如果没有，我们会试试别的办法，”埃里克·施密特说，他试图支撑Google产品的合法性(谁会疯狂到反对科学的发展并暗示这些产品中可能有一些需要改进呢?)，把Google尝试新事物的好奇心和能力表现成是科学方法的一种延伸。

然而科学确有其道德准则，在任何曾试图进行牵涉到人类的实验的人看来，这都是显而易见的。许多这类实验需要得到各种人类课题小组和机构研究委员会的批准。科学家们不只是自发地“尝试新事物”；他们往往早在进入实验室以前，就被迫对其工作的社会和政治后果深思熟虑。哪个机构研究委员会会批准Google堂吉珂德式的计划?它派大量信息采集车采集流动在WiFi网络中的私有数据。哪个机构研究委员会会批准GoogleBuzz项目?这个Google在社交网络的灾难性尝试到头来侵害了许多用户的隐私权。哪个机构研究委员会会对塞尔吉·布林在GoogleBuzz失败后找的借口感到满意：“我从来没想过这是一件事关隐私的事情。”好吧，是的，这就是为什么一家公司(尤其是像具备Google此种规模和影响力的公司)，不首先确立对伦理困境的制度性重视，就率性“尝试新东西”。

也许Google对它作为公共生活保护人和守门人的新身份感到不爽。很有可能，复杂的伦理困境并不是它最初卷入时那个样子。它的商业气质与公共责任常常剑拔弩张，迄今为止，前者几乎总是获胜。埃里克·施密特说他不想“批评消费者做傻事……我们爱我们的消费者，即便我不喜欢他们目前的所作所为”，毫无疑问Google没有把自己当作《纽约时报》或全国公共广播电台的继任者。施密特没有把Google用户称为公民；相反，他把他们设定为“消费者”，这立刻就给公司的肩膀卸掉了很多压力。毕竟，消费者总是正确的，即使偶尔犯傻。只要Google愿意，尽可以假装它不存在公民角色；但这么做绝不会让这个角色消失。捍卫中立纯属胡扯，Google自己越早承认这一点，并设法负责任地行使其新发现的权力，未来它就越少犯GoogleBuzz或WiFi这类错误。

算法“守门人”的危险

157

我们再也不能认为，由新数字媒介(及其数字精英拉拉队长)推动的新过滤器和算法实践，毫无问题，无比客观，自然优于之前的过滤器和实践。这些新过滤器可能会更快、更廉价和更有效率，但速度、成本和效率，与这些过滤器和算法将在我们生活中扮演的公民角色只有浅表的联系。不对这些更快、更廉价和更有效率的过滤器进行应有的严密伦理审查，我们就有可能犯解决方案主义的错误，为不太重要的问题的改进欢呼雀跃，而对更重要问题的严重恶化却完全忽视。

哈佛大学伯克曼中心的大卫·温伯格对“互联网”的论述简直大错特错。他说，它的“过滤器不再过滤掉信息。它们向前过滤，把结果推向前台。那些未通过过滤器的信息，在后台仍然可见，并可以获取。”同样，温伯格宣称，“过滤器不是减少信息和隐藏未通过过滤器的信息，而是增加信息，展现整个深海”，这不仅给了硅谷一张道德的自由通行证，而且屈从于互联网中心主义的一个核心信念：单凭这些新过滤器在“互联网”产生，它们就一定是神圣的，就一定不受其创造者偏见的影响，就一定完全不受设计和部署它

158

枝术至死

的权力背景的影响。

在此背景下，互联网中心主义的另一个危险是，由于假定数字过滤器不同于其类似先驱，我们有可能模糊它们之间巨大的理论和概念差异。这是把“互联网”设想成文化的必然结果，它与印刷文化颇为相似，把它连贯稳定的特性复制到自己的产物中(毫不奇怪，温伯格确定“互联网”有五个“最基本的属性”，进而在具体平台中对此加以确定)。事实上，这些新的数字过滤器中，有一些不仅拒绝显示“整个深海”，而且以截然不同的方式隐藏它；连贯互联网文化的理念，令我们无法察觉这些差异（从这个意义上说，任何拼命想理解今天的数字平台运作方式的人，最好别简单地假设“互联网不存在”)。就算是概略地实证研究一下流行社交媒体平台所采用的过滤机制，也能揭示同样多的内情；它们依靠截然不同的过滤器，而不同的过滤器创造了截然不同的可见状态。

看看Twitter的“趋势”功能，这个过滤器依靠几种信号和算法来判断，哪些主题正成为整个平台上的“趋势”。某件事是否成为Twitter上的趋势很重要，原因很简单：一旦这个故事达到这种令人垂涎的地位，它就会吸引到更多关注，甚至远远超出Twitter，成为全国性乃至全球性话题。从这个意义上说，Twitter也是个引擎，而不是照相机；它不只反映现实，它主动创造它们。

因此，如果某个重要讨论制造出大量声响，却从未达到趋势的地位，便常常将其归咎于Twitter的审查制度。“占领华尔街”的讨论就是这种情况，这多发生在#occupywallstreet标签下，却一直无法在Twitter雷达上看到。许多用户和评论者都以为，这种事情的发生，一定是出于政治原因，于是立马开始鸣冤叫屈。这种抱怨有些奇怪，因为他们似乎以为，在其他时间里，Twitter“趋势发现”引擎的运转就是完美无瑕的。

每当有人对审查制度进行指责时(尤其是当贾斯汀·比伯从趋势中消失的时候)，Twitter的某个工作人员就会站出来说，趋势是基于多种因素而非推文数量来确定的。比如，所讨论主题对Twitter用户来说是否够新也要加以考虑。其他因素是什么？好吧，我们不知道：Twitter和Google一样，没有公布它所监控的信号，生怕一旦这方面的知识泄露了，系统就会受人愚弄。

算法“守门人”的危险

159

康奈尔大学的一位传播学教授塔勒顿·吉里斯皮(TarletonGillespie)调查了众多针对“趋势”审查制度的申诉，对Twitter趋势算法发表了一份很有意思的研究。他指出，即使抱怨审查制度的人认为他们“知道”“趋势”衡量的是什么，事实上也不可能说得那么言之凿凿。因此，他论述说，#occupywallstreet没有成为趋势可能意味着：

(a)它正遭到刻意审查

(b)它实际上没有人们以为的那样流行

(c)它非常流行但一贯如此，不是突然剧增

(d)它既流行也在剧增，但不是以算法设计所能测量的方式

(e)它既流行也在剧增，但还赶不上一些把它挤出榜单的流行文化现象

(f)它既流行也重要，但不如通过战略博弈挤进榜单的流行文化现象那么流行

(g)它没能成为趋势就是因为它没有成为趋势，因而无法享受“趋势”自己所提供的放大效应。

Twitter没说它依靠的是哪一组因素，而随之而来的模棱两可，只是使某个给定趋势看上去浑然天成。这又是行动上的双击心态：在标明趋势应优先考虑哪些因素这个问题上，人类判断的极偶然结果，被说成是只要开着计算机运行脚本就会产生的不可避免的客观结果。

160

枝术至死

在《工程革命》(Engineering theRevolution)一书中，历史学家肯·奥尔德(KenAlder)论述了法国军事工程师是如何摆出一副所谓“技术专家姿态”的。凭借此种态度，“技术发明者”声称自己是中性通道，被动地斡旋于认识论和周围世界之间。这使他们在1789年革命后，能一边周旋于交战各方，一边设计出最尖端的枪炮。Twitter和其他许多技术公司一样，也经常摆出这么一副“技术专家姿态”，假装它只不过在进行客观中立的衡量。正如吉里斯皮所指出，“趋势’承诺对谈论中的话题进行精确详尽的数学式分析，却又把它展示得像是自动生成、仿佛不言自明的事实一样。”

Twitter对公共讨论中哪些方面构成一个趋势做出假设，对应该衡量哪些方面进行判断，在衡量完后又把它们反馈给公众。这个公司不只“反映”（按硅谷行话来说)公众兴趣，而且主动塑造它们。它不是依照某些“互联网基本特征”来塑造它们的；相反，从一开始，它就对公众讨论是什么样子和应该是什么样子有其基本愿景。我们有失去这些愿景的危险，如果我们屈从于互联网中心主义，并且天真地以为，所有这些决策都反映着“互联网”的本质，得到其日渐彰显的精神的指引。

因此，吉里斯皮说，“一个以前曾经成为趋势的词，想要再次成为趋势，就会有更高的门槛。言下之意就是，在对具有更长保质期的现象的公共讨论中，算法更喜欢新奇的东西。这是长久以来对广播新闻业的一种批评，如今在社交媒体上重现了。”要说有什么区别的话，这将逐渐损害新旧媒体之间的断裂性和不连续性，互联网中心主义的新纪元主义传播者原本对此倍加推崇。和乍看上去不同，Twitter更像福克斯新闻。但这种见解不只在分析上有用；它们对媒体激进主义和改革也非常有用。对由Twitter算法引发的各种偏见进行这种极具实证性的调查，而不是提出轻率的、民粹主义的、无事实根据的审查要求，为如何改革Twitter营造了更好的基础，没准儿还将把这家公司推向一个不同的衡量标准。

算法“守门人”的危险

161

许多用户(但愿他们知道!)可能对Twitter衡量跨群组讨论受欢迎程度的方式感觉不爽。在此，Twitter相信，与跨不同群组和人口统计学特征的讨论相比，发生在群组内部（在同一区域彼此关注或拥有共同人口统计学特征的用户之间)的讨论不值得出现在“趋势”里。你可能会憎恨全球不平等或喜爱同性恋平等权利，但如果你的“弥母”不管有多么强烈，却没有突破你的群组，它就很可能不会出现在“趋势”里。但正如吉里斯皮所指出，广度优于深度的这种偏好，本身就是高度政治化的选择，建立在对公共讨论运行方式的某种设想之上。

别一心以为过滤器毫无问题、无比客观，我们需要知道，它们可能会使哪些其他引导公共讨论的哪些途径消失或不再流行。进一步说，我们希望，拒绝接受另一种“技术专家姿态”的程序员和工程师足够勇敢，捍卫自己对公共讨论如何展开的一贯见解。对公共辩论的本质采取假设是必然的（在设想哪些人会使用自己产品的时候，所有的设计师最终都需要选择一种弱化的见解)。然而，陶醉于互联网中心主义的我们，已经让太多设计师容易推卸了自己的责任。

弥母产业让你名扬天下

一旦我们开始留心数字过滤器和算法究竟如何运作，一旦我们弄清它们到底隐藏和揭露了什么，互联网中心主义的许多创世神话可能就再也站不住脚了。这类神话里有种观点认为，“在互联网”，思想象病毒一样传播，全凭自己的意志，最具病毒式传播特点的弥母(memes)(这些快速传播的文化单元的艺术术语)尤值一提。对公共话语来说，很少有比这种观点更有害的了。

162

枝术至死

把布琼布拉5(Bujumbura)的新闻带到华盛顿是一回事，把Twitter或Facebook的新闻带到“离线”世界完全是另一回事。前者取决于“这里”和“那里”之间的真实物理差别，后者只是互联网中心主义的副产品。一旦“在线”和“离线”之间的清晰间隔倒塌，我们不再把“博客圈”和“社交媒体”当作真实行动以外存在的独立实体，我们大概就能用清醒和经验主义来对待公共生活的中介物了。

社会学家内森·约根森(NathanJurgenson)对这种分裂在线和离线的倾向有个恰如其分的词，称为“数字二元论”。他认为“数字二元论”是当代大部分关于数字技术的辩论的根基，在大家普遍担心“虚拟”入侵“真实”，或在线连接不如线下交往时，表现得尤其明显。然而，事实上，事情从来没那么简单，我们所生活的现实不如说是两种世界的混合，而且一直如此(约根森的观点尽管仅针对各种数字技术，但也跟历史学家和科学社会学家极有说服力地提出的一种更广义的认识相吻合。后一观点认为人类与技术、自然与文化之间的分裂是人为的，有历史上的来历)。广告商早就使用社交网络数据为我们定制电视了，再为在线和离线之间的分裂辩护，在逻辑上简直令人窒息。同样，既然Facebook已经有法核对我们最终会在“离线”超市购买哪些在网站做广告的产品（它靠跟用超市会员卡跟踪购买行为的公司合作来实现），仍坚持存在这条在线-离线的巨大鸿沟，不知能给我们带来什么好处。

再看“博客圈”这个词，人们在公共讨论中提到它时往往带有贬义。哈佛大学争议性历史学家尼尔·弗格森(NiallFerguson)发表在《新闻周刊》上的反奥巴马封面故事引发了广泛讨论，由此他对众多批评者做出回应。“我实在受不了美国的自由派博客，”弗格森写道。“美国的自由派博客圈几乎每天都是一副义愤填膺的样子，这不仅荒谬，更暗藏祸心。”那么，这些博客是谁，他们又属于哪个博客圈子呢？

5东非国家布隆迪的首府，这里指偏远的地方。

算法“守门人”的危险

163

弗格森在文章里提到的“自由派博客”中，有诺贝尔奖获得者、经济学家保罗·克鲁格曼(PaulKrugman)，有另一位著名经济学家、前政府官员布拉德·德隆(BradDe-Long)，还有前吉米·卡特总统的演讲撰稿人、著名记者詹姆斯·法洛斯(JamesFallows)。单凭他们用博客回应弗格森，就相信这些人拥有某种共同“博客”身份，认为它优先于他们的其他身份(如著名学者和公共知识分子），这就是最典型的互联网中心主义。干嘛不抨击他们都敲键盘或坐椅子？就连弗格森在回应里提到的安德鲁·苏利文(AndrewSullivan），也是个非常牵强的“博客”：哈佛大学博士，曾任《新共和》周刊编辑，苏利文是以资深保守派知识分子身份挑战弗格森的，而非穿着睡衣的“博客”。想象一下，如果“在线”和离线之间的鸿沟不存在，尼尔·弗格森立马就需要多花些心思羞辱他的批评者们了。“互联网”思想及与其有关的全部神话，通过这种方式侵蚀着公共讨论，导致了对偷懒捷径的滥用。

公关行业从“在线”是个独立的知识空间这一提法中受益最多。它巧妙利用了这种数字二元性，把乏味的新闻稿打扮成自主生成的有趣“弥母”。麦迪逊广场和K街就靠着“在线”的方式，让传统媒体报道本来绝不会报道的人物、产品、问题和事件。如今，这种报道屡遭声讨，往往也正说明有太多“在线”网民在谈论它。

看看2012年总统大选期间涌现出来的众多弥母吧，比如“看不见的奥巴马”(指演员克林特·伊斯特伍德在共和党全国代表大会上的表演)或“大鸟”

164

枝术至死

(指米特·罗姆尼削减公共广播公司经费时的言论)。说它们的出现是自主和有机的，是民众声音的自然聚合，这种想法可能很有诱惑力，现实却远比这复杂，倒不仅是由于Twitter和Facebook算法采取了各种方法“促成”了其病毒式传播。

以“看不见的奥巴马”为例。根据《今日美国》的一个报告，“在@InvisibleObama发出第一条推文后短短15分钟里，该账号就被《牙线》(MentalFloss)杂志、新闻网站《沙龙》(Salon)和《华盛顿邮报》记者克里斯·齐利扎(Chris Cillizza)和专栏作家埃兹拉·克莱恩(Ezra Klein)在Twitter上提到。”这四个Twitter账号共有超过一百万个关注者。这是全国性重要专栏作家在平面媒体上具有的那种影响力，Twitter只不过使大腕儿们能根据这种影响力即刻采取行动，无需等上好几天。这本身没什么不光彩；我们根本就不该以为，某件事能仅凭自然和自主的力量就在“互联网”上“成为趋势”。同样，虽然我们忍不住想要吹捧@RomneyBinders这个Twitter账号（指米特·罗姆尼大受恶评的言论“美女活页夹”，罗姆尼本意是指收到了很多女性的求职资料)病毒般大获成功，但不应该忘记，同一个账号，在罗姆尼的活页夹之前，叫@FiredBigBird(并且从第一场总统辩论起就有了数量可观的追随者)；其所有人为了利用“活页夹”八卦新闻改了它的名字。

营销天才莱恩·霍利戴(RyanHoliday)受够了网络公关的黑暗与盘剥成性，写了一本令人大开眼界的书《相信我，我在撒谎：媒体操纵者的自白》(Trust Me, I’m Lying:Confessions of a Media Manipulator)。他说，“(现在的系统太容易受人摆布了，)我猜，就算有人想要设计一种更容易摆布的系统都不大可能。”霍利戴书中所讲的东西相当令人震撼，它证实了弥母在大多数情况下是人为的，不是天生的。这并不是说所有弥母都是这样形成的；事实上，有些人的确喜欢观看别人吃怪东西、往搅拌机里塞怪玩意儿的照片和视频还到处转发链接，但这种“真实性”比我们想的要少得多。正如霍利戴所说，公关业的目标，是“营造这么一种感觉，让人以为弥母已经存在，记者(或音乐总监或名人造型师)做的只不过是让它流行起来罢了。”有多种策略可以达到这个目的；霍利戴自己就把他所谓“交易链”手法玩得炉火纯青，首先他给一个小博客提供故事，比如通过设置虚假邮件账号向博主透露消息甚至爆料(配以模糊照片以达到最大的真实性效果)。如果这个博客上了钩干嘛不呢，它要更多流量，又毫无损失那接下来就只需要说服大博客链接到这个小博客了。

算法“守门人”的危险

165