数字工厂

尽管劳动成本不断上升和贸易摩擦导致了空间的多元化，一部分苹果手机的组装工作已经被转移至印度等地，但中国的富士康公司仍然是组装中心，雇用着数十万工人。河南省郑州市也被称为“苹果手机之城”。根据季节和订单情况，郑州庞大的生产综合体会雇用多达30万的工人，其中大部分人居住在附近的宿舍中。他们的主要任务是完成苹果手机的最终组装、测试和包装，也就是说，大部分人从事的只是其中一个步骤。举个例子，屏幕抛光环节的工人每天要重复抛光步骤大约400次。①

苹果公司的另一个集群位于珠江三角洲———全球IT产品生产外包最早、最大且最重要的地点之一。尽管富士康公司为了应对工人工资上涨，已将一些生产要素从这个区域转移了出去，但珠江三角洲仍是其中国业务的主要中心。富士康在珠江三角洲最大的工厂位于深圳附近的龙华科技园，那里也被称为“富士康之城”，是一座雇用了数十万工人的综合体。

珠江三角洲是中国改革开放的先行者。深圳作为珠三角最大的城市之一，于1980年成为中国的第一个经济特区，起初吸引了不少台湾和香港企业，后来成为西方企业的承包制造中心。自20世纪80年代以来，城市的爆发性成长使我们愈发难以确定居民的确切人数，其中近半数人都是外来民工。和深圳一样，珠江三角洲周边已经发展成为世界上最重要的出口导向型生产区之一。就规模和人口而言，整个珠江三角洲正在变成特大型城市聚集之地和世界上最大的城市带。①

1数字工厂1

①Business Insider 对某员工的采访(参见Jacobs, “Inside'iPhone City'”)。

196

在珠江三角洲崛起成为IT制造业中心之前，美国——尤其是硅谷——曾是IT制造业最重要的地区。如今，大多数IT制造业已经离开硅谷，只剩下为数不多的几家工厂，其特点是高素质且高薪的科学家和工程师与制造工人之间存在明显差异，而分散在分包链上的制造工人最终会在分包商的分配下居家工作。在硅谷的IT制造领域，以及服务于技术公司和初创企业、日益蓬勃的服务领域，人们的工作特点是条件不稳定，工资通常很低，而且女性和外来民工所占比例很高。②因此，尼克·戴尔-韦瑟福德认为、硅谷建立在外来民工的基础之上，后来才将阶级动力扩散到世界范围内。③

从硅谷出发，IT制造业转移到了类似珠江三角洲、墨西哥、马来西亚和东欧等多个地区。这个过程持续了几十年，但在2001年的经济衰退中加快了速度。和20世纪70年代的硅谷制造业劳动力一样，全球的IT制造业工人如今主要以女性为主，而且很大程度上是外来民工。①按照史蒂芬尼·赫尔特根(StefanieHürtgen)及其同事的说法，全球许多地区的IT制造业都以“灵活的新泰勒主义”为特征。这是一种当代的泰勒主义生产形式，但缺乏福特主义的监管模式，是“继福特主义之后的泰勒主义”。②这种出口导向模式的基础是标准化生产技术带来的灵活合同、分包劳动和（甚至以当地标准来看都显得）低廉的工资，允许劳动力的高度波动。富士康公司位于捷克共和国的工厂就是这种趋势的一个例子。那里的分包工人多为临时工机构招募的外来民工，有时占员工总数的一半以上。这些工人生产的各种设备都是为了让用户能够访问脸书等社交媒体平台。

1第4章隐形的工厂：社交媒体

①摘自世界银行的一篇新闻稿，“World Bank Report Provides New Data toHelp Ensure Urban Growth Benefits the Poor." January 26, 2015. http:// www.worldbank.org/en/news/press-release/2015/01/26/world-bank-reportprovides-new-data-to-help-ensure-urban-growth-benefits-the-poor.

② Lüthje, Standort Silicon Valley, Pellow and Park, The Silicon Valley of Dreams.

③Dyer-Witheford, Cyber-Proletariat. 71.

197

在这些地方生产的设备上，脸书和其他社交媒体的用户能够看到别人上传的度假照片，查看当地足球俱乐部的状态更新，或收取邻居的生日派对邀请。不过，虽然所有内容都是由用户创建的，但并非所有用户上传的内容都会出现在其他用户的屏幕上。

I数字工厂1

①Lüthje, Standort Silicon Valley.

②Hürtgen et al., Von Silicon Valley nach Shenzhen, 274.

③ Andrijasevic and Sacchetto, "Disappearing Workers."

198

内容审核：“我看到的东西超出想象”

每分钟都有数百万条评论、状态更新、图片和视频被发布在脸书之类的社交媒体平台上。虽然普通用户看到的绝大多数都是平淡无奇的帖子，但罗伯托（Roberto）在脸书上看到的图片、视频和评论一点儿也不平淡：从早到晚，他的屏幕上充斥着超乎想象的暴力、种族主义和仇恨的表达与描述。罗伯托是一名内容审核员。他在一家与脸书签约的公司工作，职责是尽可能地维护脸书的内容健康。虽然平台致力于为用户营造一个文明的网络环境，但罗伯托每天都在目睹社交网络的阴暗面：“我每天看到的东西超出了我人职前对人类能够所做之事的想象。”①

一周5天，他都要走进柏林的一栋办公大楼，来到办公桌旁、打开数字审查工具，面对社交媒体的阴暗面。他的队列中正在积累越来越多的“标签”（必须由他审核的、被标记为“不当”的内容)：“你就像一台机器，无时无刻不在点击鼠标。”②欧唯特公司（Arvato）的柏林办事处共有600多名工作人员，其中大部分都是和他一样的外来民工。他们所属的数十万全球数字工人大军一直在努力保卫社交媒体网络、视频平台、约会应用程序、信使软件、报纸评论板块和更多的数字空间，以平台希望的方式来审核用户生成的内容。这些工人至关重要，他们是让社交媒体正常运转的基础设施中关键却又十分隐秘的组成部分。尽管脸书的用户大多看不到他们，但罗伯托及其同事明白自己在这个时代的重要性，因为脸书的重要性日益增加，同时也成了仇恨运动和各种暴力内容散播的重要平台：“我们总是说，自己见过的鲜血和暴力与医生、警察见识过的一样多——但他们拿的不是最低工资。”①

第4章隐形的工厂：社交媒体

①对欧唯特员工罗伯托（姓名已更改）的采访、柏林，2019年3月。

②同上。

199

这些数字工人是平台不可或缺的组成部分。更具体地说，他们已经与平台的算法基础设施紧密结合在了一起。就众包工作而言，活劳动力会被融入算法结构，以填补算法无法作出决策、需要人类认知的空白。在平台的数字界面背后隐蔽的人类劳动中，内容审核是最重要的部分。它是数字社交媒体中劳动密集、高度敏感和非常关键的一个环节。内容的规模和内容审核的复杂性也对社交媒体平台构成了前所未有的挑战。

好内容，坏内容

近年来，假新闻和仇恨言论，以及平台对用户发布内容的审核责任已成为公众辩论的中心问题。事实上，从脸书到 YouTube，从 Tiktok 到 Instagram，这也许是所有大型社交媒体平台如今面临的最大挑战。罗伯托供职的欧唯特公司(Arvato)受雇于脸书，是该平台对德国公众批评其在右翼仇恨运动中发挥了作用作出的回应。作为德国知名企业贝塔斯曼(Bertelsmann）的子公司，欧唯特协调组建了一支审核团队，试图平息大众的怒火，同时在立法者制定新法、要求社交媒体平台对上传至自己网站的内容负责后予以回应。全球各地的平台都面临类似的批评和法律压力，使得内容审核工作成为所有科技公司高管都要面对的关键问题。

1数字工厂1

①对欧唯特员工罗伯托（姓名已更改）的采访，柏林，2019年3月。

200

在所有上传至社交媒体平台的内容中，很大一部分可能会招致其他用户的厌恶。在大多数平台上，用户可以“标记”这种内容，从而开启内容审核过程。用户标记帖子的原因多种多样。很多人不喜欢帖子的内容，也许是因为其中包含了暴力、种族歧视、裸体、毒品、以及其他法律、文化标准认为具有冒犯性的内容。但脸书等社交媒体公司从平台上删除此类内容有自己的理由。首先，它希望维护平台的开放性，使其成为尽可能多的用户愿意花时间停留的地方。其次，许多法律和政治规定会迫使脸书删除一些上传内容。为避免在某些国家被封禁，脸书还会试图安抚扬言要封锁社交网络平台的政府。例如，2012年泄露的一份手册就展示了脸书讨好土耳其政府的努力：“对阿塔图尔克（Ataturk）的所有攻击”都会被禁、同时被禁的还有库尔德斯坦（Kurdistan）的地图、库尔德工人党(PKK)的标志以及阿卜杜拉·奥贾兰(AbdullahÖcalan)的图片（附录提到，“如果明确反对库尔德工人党和/或奥贾兰，请忽略”)。①

1第4章隐形的工厂：社交媒体

201

虽然所谓的社区标准概述了脸书会禁止哪些类型的内容，但具体的内容限制以及平台如何监控、由谁来监控仍是个秘密。近年来，脸书公开过一些文件，试图让其审核过程更加透明。但关于内容审核平台会保留哪些内容的具体规则，外界依旧难以获知相关信息。此外，脸书公开的规则和标准也十分宽泛。不仅如此，工人们还报告称，相关规则每个星期甚至每天都在变化，错综复杂。

普遍来说，内容审核是一项复杂的工作，因为对暴力、色情、幽默和恐怖主义等关键话题的解读，在不同的法律、文化和政治背景下存在很大差异。虽然脸书一直不愿对其平台上的内容负责，但在巨大的压力下，公司还是在内容审核系统上投人了大量精力。

文化困扰下的算法

脸书的平台是由一个日益智能化的算法架构组织起来的，该构架管理着用户在网站上的行为。脸书和其他平台在开发内容审核自动化软件方面投入了大量精力。然而，在许多领域(比如文化规范和实践，以及与其高度相关的内容)，算法智能经常失灵。如今，脸书软件已经可以十分有效地检测出照片和视频中的裸露内容（但这些规则会再次受到文化的影响，比如脸书允许男性露出乳头，但禁止女性露点)。大多数因裸露和性活动被删除的内容如今都是由软件拣选出来的，准确率超过90%。另一方面、对于仇恨言论或霸凌等和语境高度相关的内容，软件却很难理解，大部分情况下无法做出正确的判断。①在所有类别中，脸书的机器学习软件只会提出可能删除的内容，因此作出实际决定的还是人类内容审核员。

1数字工厂1

①通过众包工作平台oDesk为脸书进行内容审核的手册泄露内容可以在网上找到：https://de.scribd.com/doc/81877124/Abuse-Standards-6-2-Operation-Manual,2020年10月30日访问。

202

人们的目的显然是建立一个能够自动操作的系统，但这样的愿望能否达成令人怀疑。虽然脸书的高管经常公开表示，人工智能是公司内容审核的发展方向，但软件工程师和专家并不这么乐观。脸书如今拥有超过1.5万名内容审核员的事实表明，尽管在自动化方面付出了诸多努力、但人力仍是目前平台审核基础设施非常重要的组成部分。人类认知依旧是内容审核的核心，完全通过自动化来判断什么内容可留的未来仍然遥不可及。

1第4章|隐形的工厂：社交媒体

①摘自对德国非政府组织Netzpolitik的采访（参见 Dachwitz andReuter, "Warum Künstliche Intelligenz Facebooks Moderationsprobleme")。

203

审查可疑内容的工作属于复杂的全球分工的一部分。大多数社交媒体公司都有专门进行内容审核的内部部门。这些部门通常会制订标准，监督分包商处理政治敏感问题或涉及执法的疑难案件（威胁、暴力、儿童色情等)。参与其中的劳动力还包括制订内容审核标准的专家和律师，以及应对潜在重大案件和安全问题（比如即将发生的袭击）的专家。例如，如果为柏林分包商工作的罗伯托发现，一篇帖子的内容指明即将发生暴力袭击事件，他就会将其“上报”，由脸书都柏林欧洲总部的专家进行评估，并有可能联系相关国家的执法机构。

罗伯托供职的公司代表了脸书内容审核系统的另一个层面。尽管美国和德国等国家的工资水平相对较高，但脸书还是选择在那里开展内容审核业务，其中一部分原因在于近年来的政治压力，同时也因为人们逐渐认识到，内容审核还需要除语言技能之外的大量文化知识。大多数情况下，内容审核业务包括类似客户服务中心的办事处，有时还有数百名由分包公司管理，受脸书、谷歌或其他平台严密控制的雇员。另外一个重要的群体，可能是内容审核劳动力中人数最多的一部分。被外包给了印度和菲律宾等国家。当地工人也会为其他国家进行内容审核。最终，还有一部分需要审核的内容会通过众包工作平台直接外包给居家工人。这就造成了复杂的全球分工，也就是说，工人会在不同的时间和地点完成审核社交媒体平台内容的任务。

I数字工厂

204

柏林、奥斯汀、都柏林：外包民工

罗伯托供职的客户服务中心是由一家分包商运营的。德国媒体和政界人士总是指责脸书无法应对仇恨言论和种族主义等问题。面对日益严重的指责，脸书宣布聘请德国贝塔斯曼集团的子公司欧唯特在全球雇用超过7.2万名员工，提供包括云计算、物流、金融以及各种客户关系、客户服务中心和内容审核在内的各种服务。欧唯特自称是众多能够提供广泛服务的公司之一，但公众对它几乎一无所知。“你可能不知道，但欧唯特一直存在于你使用的大量产品和服务背后”，公司网站写道，“德国的每名消费者平均每天都会与我们接触8次”。①2019年，欧唯特公司与摩洛哥的Saham集团合并，成立了迈睿公司（Majorel）。这家公司在28个国家拥有5万名雇员，是内容审核方面的行业领先者。如今，迈睿公司在罗伯托工作的柏林也开设了中心。

2016年，欧唯特公司雇用了大约600名员工，组成了包括德语、阿拉伯语、英语、土耳其语、瑞典语、意大利语和西班牙语在内的不同语言团队。这些工人大多是拥有移民背景的年轻人。许多人还有大学学历或其他在德国通常不被接受的专业学位。“柏林非常适合这家公司。许多来自世界各地的外来民工需要工作。大多数人最大的问题是语言。”罗伯托说道。他于几年前来到德国，在入职欧唯特柏林办事处之前曾尝试过几份自由职业。①不管是为了躲避叙利亚战争还是欧元危机，抑或是逃避欧洲南部严厉的紧缩措施，越来越多具备相关知识技能的年轻工人移民到德国。欧唯特公司正好利用了这一人群。柏林的文化吸引力、相对较低的租金以及就业的希望促使不同阶级的年轻外来民工大量涌人。然而，大部分人很难找到长期职业，其中不少都处于失业状态，或是在服务业工作。虽然这些人拥有大学学历和其他专业技能，却还是要从事不稳定的临时工作。对欧唯特公司和内容审核工作的要求而言，这些拥有正式或非正式资质、很难在德国就业市场中就业的各国年轻移民，组成了一个几乎完美的劳动力资源库。

1第4章1隐形的工厂：社交媒体

①公司官网上的自我介绍，https://www.arvato.com/en/about /facts-and-figures.html,2017年2月9日访问。

205