数字工厂

雇用外来民工从事内容审核工作并不是柏林独有的。从内容审核公司的角度来看，这些民工在许多方面都是完美的劳动力，他们具备重要的语言和文化技能，同时在当地职业市场中的选择很少。得克萨斯州奥斯汀某家为YouTube网站进行内容审核的分包公司雇员向记者解释道：“移民到美国后，我们的大学学位得不到认可，但又必须找些事做。我们需要工作赚钱。”①在这家服务于YouTube的美国规模最大的内容审核机构中，他的许多同事都是新近移民，在成为内容审核员之前，曾经担任过快递司机或保安。尽管他们希望拥有与全职谷歌雇员相似的条件，但这些劳动力被谷歌称为TVC（临时工、供应商和合同工的统称)，占谷歌员工比例的50%以上。就工作条件而言，位于奥斯汀的分包工人与山景城谷歌村的全职员工大不相同。执行方面的巨大压力、过多地接触暴力内容，令许多奥斯汀员工都出现了精神问题和应激障碍症状。②

1数字工厂

①对欧唯特员工罗伯托（姓名已更改）的采访，柏林，2019年3月。

206

罗伯托在入职欧唯特柏林办事处时，曾被迫签署过一份保密协议，禁止他透露自己在为脸书工作。这也是他和许多同事提及这家位于柏林西北部的内容审核机构时格外谨慎的原因。大多数合同都是临时性的，有些工人是通过中介机构被雇用的，因此不少人都害怕失业。尽管担心被解雇，但在欧唯特公司为脸书工作几个月之后，不满情绪还是在工人中蔓延开来。大家纷纷抱怨执行压力大，缺少休息时间，尤其还要被迫连续数个小时观看令人极其痛苦的内容。由于欧唯特公司未能妥善处理投诉，有些工人开始与当地的社会活动家沟通，考虑将自己的工作条件披露给媒体，但大多数人还是担心会失去临时工作。据称，有些工人每天需要审查1500个案例（业内被称为“标签”)，每个标签的平均审核时间为15秒。①

第4章|隐形的工厂：社交媒体

①摘自The Verge 的引文(参见Newton.“The Terror Queue”)。

②Newton, "The Terror Queue."

207

最终，2016年12月，国家报纸《南德意志报》(SüddeutscheZeitung）针对欧唯特公司的情况发表了一篇重要报道。报道主要关注了工人们被迫观看的那些令人痛苦的图像，并提到了该公司的前任和现任工人的经历：“那些照片非常糟糕，比培训过程中看到的糟糕得多……有暴力行为，有时还有被毁容的尸体。经常有人离开房间，而且是哭着跑出去的。”②另外一名工人报告称，完成每日配额的压力很大：“你必须达到每天的目标，否则就会被主管找麻烦。工作压力很大。”该报道引起了大量关注。脸书与欧唯特公司公开宣称，他们为员工提供了足够的心理和医疗支持，以帮助他们应对痛苦的经历。然而，这一点却遭到了员工的否认。

丑闻发生后，脸书向分包商施压，要求他们提供更好的工作条件。于是公司降低了配额，还雇用了心理支持人员来帮助员工应对令人痛苦的内容。虽然事实证明，降低最高配额对员工来说是一种解脱，但他们对心理支持人员的评论体现了员工对管理层的不信任：“心理支持团队是有的，但他们只是社工。我们不信任那些人，因为他们是为公司工作的。”①虽然许多工人的合同内容没有续签条款（避免公司要永久地雇用他们)，但一些人是因为痛苦的工作内容而离职的。罗伯托解释道，他会尝试将自己看到的暴力画面概念化为“一部电影”，因此他是少数长期留任的工人之一。

1数字工厂[

①对欧唯特员工罗伯托（姓名已更改）的采访，柏林，2019年3月。

②欧唯特柏林办事处内容审核员，摘自SüddeutscheZeitung 引文(参见 Grassegger and Krause, “Im Netz des Bösen")。

③Grassegger and Krause, "Im Netz des Bōsen."

208

事实上，大多数工人在工作的前两年就会离职，要么是被迫选择，要么是遭到了解雇。曾对内容审核员进行过开拓性研究的沙拉·罗伯茨（Sarah Roberts）也得出了类似的结论。她曾在美国采访过许多人文专业的毕业生。他们拥有文科学位，正在寻找第一份工作，通常是做临时合同工，要为不同的分包商工作。他们中的一些人会在几个月后离职，或是在两年后被解除合同，但仍旧会为自己被迫观看的暴力画面感到痛苦。②

一名入职欧唯特柏林办事处3个月就辞职的员工在一份报告中描述了自己的经历：“文字、图片、视频源源不断。你不可能事先知道屏幕上会弹出什么内容。”大部分内容平淡无奇，之所以会被用户标记出来，是因为它们由于种种原因遭到了用户的厌恶。但她在为脸书进行内容审核时曾目睹过大量的暴力素材，并为此感到震惊：“这些内容暴力至极。我曾经在饱经摧残的冲突环境中从事人道主义援助工作，接触过真实世界中的暴力行径。但我还是无法想象……暴力竟会在社交媒体中如此盛行。”①她发现自己会在照顾家人时产生一种“高度警惕”的感觉，同时梦到工作场景，感觉自己对暴力枪击事件的看法开始发生改变，于是她辞掉了工作。“拉斯维加斯(LasVegas)那场可怕的枪击在我看来突然变成了再正常不过的事情。”②

1第4章1隐形的工厂：社交媒体

①对欧唯特员工罗伯托（姓名已更改）的采访，柏林，2019年3月。

②Roberts, Behind the Screen.

③欧唯特柏林办事处前任内容审核员 Burcu Gültekin Punsmann的报告，发表在 Süddeutsche Zeitung(参见 Punsmann,“Three Months inHell")。

209

工业化决策

在大多数内容审核机构中，员工不仅需要面对令人痛苦的审核素材，还要承受高强度的工作压力。随着内容审核的规模和劳动强度逐渐增加，该领域的运营变得越来越标准化。“对统一和标准化的追求，以及严格的生产力指标，没有给人类的判断和直觉留下多少空间”，一名欧唯特的前任员工解释道。“在智力上颇具挑战性的任务往往会变成一种自动化的行为，几乎是一种下意识的反应。”①2018年，为了实现脸书前内容政策主管戴夫·维尔纳（DaveWillner）所说的“工业化决策”，②脸书引进了一款工作场所软件，以最大限度地提高不同国家承包公司的产出效率。这款软件名为“单日审核工具”(SRT)，可以为内容审核员构建工作内容。审查员将看到不同的“标记”（审查任务），按照“暴力极端主义”或“裸露”等主题将它们分门别类，排成不同的序列，优先等级各异。根据队列的不同，审查任务被分配的审查时间也不同。在不同的领域和地区，配额始终在不断变化，但永远是激励员工的一种手段，也是合同终止的原因之一。举个例子，脸书在德国的第二大内容审核机构位于埃森市。该机构存在一种“雇用与解雇”机制，即无法达到特定指标的员工很快就会被挑拣出来。SRT软件会记录所有的指标。工人的每次休息都会被记录，如果工人好几分钟不活动，软件就会将他们的状态自动显示为“不可用”，供管理层查看。

I数字工厂I

① Punsrnann.

②同上。

210

质保部门会从审核结束的任务中随机抽取几个样本进行检查。该部门由同一办事处的员工和脸书其他地区办事处的高级直雇员工组成。质保部门会为SRT工具中可见的每一名工人生成准确的评分。如果工人的分数低于某个特定水平(多数地方为98%)，就会面临来自管理层的压力。克里斯·格雷(ChrisGray)曾是脸书在爱尔兰都柏林的一家分包公司雇用的审核员。目前，他正在起诉脸书，声称恶劣的工作条件致使他遭受了“心理创伤”。他就是因为表现评分不佳而被解雇的。公司要求他的质量评分须达到98%以上，如果评分下降到阈值以外，就会给他带来相当大的压力。“如果周二或周三上班时犯了5个错误……那么你满脑子想的就是如何拿回分数。”①在不同国家的众多承包公司中，以低于绩效指标为由解雇员工都属于正常程序。

1第4章|隐形的工厂：社交媒体

① Punsmann，翻译修正。

②摘自Vice 引文(参见 Koebler and Cox, “The Impossible Job”)。

③摘自对德国非政府组织 Netzpoltk 的采访(参见 Reuter et al, “ExklusiverEmbhck")。

211

来自欧洲和美国等地承包商的报告非常相似，构成了一幅以高压、配额和日益标准化为特征的工作制度景象，而工人们要面对的是令人极其痛苦的内容。与此同时，大部分工作内容都是由外包承包商完成的。这些承包商通常是外来民工，往往只持有短期合同一种既能约束劳动力又能应对不断变化的需求的工具。因此，柏林、奥斯汀或都柏林的内容审核机构体现了数字泰勒主义与本书前几章分析过的灵活劳动关系相结合的许多特征。

I数字工厂I

①摘自Vice 引文(参见 Gilbert, “Facebook Is Forcing Its Moderators toLog Every Second of Their Days")。

212

社交媒体黑暗面的全球地理分布

“如今，每个人都可以访问互联网。如果控制不好，互联网就会变成一座色情片工厂。”在纪录片《审查员》(TheModerator）中，一名经验丰富的内容审核员沉思道。①这部短片由夏兰·卡西迪（Ciaran Cassidy）和阿德里安·陈（AdrianChen）执导，描述了印度某办事处新入职的雇员的一周。和组织培训课程的老手审查员一样，纪录片中的其他高管也对新雇用的审查员强调了他们未来将要从事的工作的社会重要性。

这些新员工就职的公司是为海外客户提供内容审核服务的印度运营商。因此，他们属于全球内容审核劳动力中的重要组成部分。在柏林、奥斯汀和都柏林，为社交媒体进行内容审核的数字工厂相对较新。然而，在马尼拉或海得拉巴，这些数字工厂已经存在多年。外包给菲律宾、印度和其他国家的内容审核工作一直是大型平台的关键组成部分。为发达国家的客户进行的内容审核工作大部分是在发展中国家完成的。将内容审核工作外包出去。不仅能通过相对低廉的劳动力成本带来额外的收益，还能让西方企业远离可能的后果，比如受到创伤的员工提起的诉讼。

1第4章|隐形的工厂：社交媒体

①引自Ciaran Cassidy and Adrian Chen, The Moderators, 2017, https://www. youtube .com / watch ?v = k9m0axUDpro.

213

在这部纪录片中，新员工的情况会在为期5天的培训计划中被一一详细介绍给观众。之后，他们将搬去自己的隔间，开始亲自进行审查工作。培训的大部分时间里，他们都坐在大屏幕前，听培训师解释工作规则。工人们大多对内容审核知之甚少，他们都为这份新工作感到兴奋，希望能在印度蓬勃发展的数字经济中拥有属于自己的职业生涯。由于公司服务的客户中有一家西方的约会平台，培训师警告道，他们的宗教信仰可能会受到冒犯。经过几天的培训和大量的示范案例展示，新手们似乎一直在认同与震惊中来回摇摆。“我看到的图片光怪陆离，对我来说十分奇怪。我从未想过自己会从事这种和裸露等内容有关的工作。”其中一名新员工在回顾一周的培训时对同事们说。①虽然裸露的画面似乎已经令大多数工人感到茫然，但大屏幕上出现的带有残忍细节的无数暴力案例更令人震惊。培训师会谨慎地解释哪些规则适用于暴力对待儿童的画面。

开放式办公室的墙壁上挂着显示世界各地不同时区的时钟，象征着这家公司的国际性。各个团队夜以继日地工作，以确保为所有时区的客户提供全天候的服务。由于公司的任务之一是为某款约会软件进行内容审核，所以大家对公司的业务尤其敏感。“软件的使用者是在寻找灵魂伴侣，所以格外脆弱”，一名培训师强调了这份工作的重要性。平台上高达70%的新账户都是骗子为了利用客户开设的。培训师十分清楚，他的公司所做的工作是社交平台存在的基础———不管是约会软件还是其他程序。“如果没有审查员，在线约会平台就不会像今天这样蓬勃发展。”①

I数字工厂

①引自 Cassidy and Chen。

214

“几乎像与美国人或澳大利亚人一起工作一样”

除印度之外，全球内容审核分工中的第二大国家是菲律宾。作为外包IT劳动最重要的地区之一，菲律宾不仅是许多内容审核公司的所在地，还拥有成千上万提供各种数字服务的当地或跨国公司。如今，菲律宾已成为IT领域所谓的业务流程外包（BPO）的核心所在地。该行业在菲律宾雇用了超过100万名工人，收入达300亿美元。如此普通的服务行业已成为菲律宾经济中最重要的部门，贡献了该国国内生产总值的大部分，雇用了超过一半的国内劳动力。

内容审核是向国际客户提供的此类服务中最重要的一项。与印度一样，菲律宾已经成为内容审核外包工作的主要国家。

1第4章1隐形的工厂：社交媒体

①引自Cassidy and Chen。

②来自世界银行采集的数据，http://data.wordbank.org/indicator/NV.SRV.TETC.ZS?locations=PH,2017年1月23日访问。

215