人工智能和资本主义的未来_1-200的全文翻译

技术，劳动的空间和时间，劳动力内部的分工，以及劳动力必须通过其自我复制的培训和教育形式。正如一位评论员所说，“机器人将创造更多的就业机会，……”但是，如果这些工作不如自动化消灭的工作好，收入也不如它们高呢?(Elliott2017)。我们考虑了四个方面:泛光学、不稳定性、两极分化和无产阶级教育。

《经济学人》(2018)关于“工作场所的人工智能”的报告的封面描绘了一盏照亮小人国工人的Brobdingnagian办公室灯，标题为“AI-spy”。数字技术给工作场所带来了一种“新泰勒主义”(Salame2018)，工作技能与算法管理融合在一起，伴随着工作场所的监控能力远远超过任何携带写字板的管理者。菲比摩尔和她的同事(2018)详细介绍了社会测量徽章、键盘计数器、电子邮件扫描、位置跟踪、运动传感器以及语音和面部识别技术如何在工作场所每分钟检测效率和情绪的变化。机器学习驱动的“人员分析”是企业人力资源部门的新痴迷，他们利用AI工具根据社交媒体痕迹对员工进行筛选和选择，并将面试委托给聊天机器人(Buranyi 2018)。有了这些数据，AI成为评估工人“执行特定任务的生产力和适应性”的一种方式(De Stefano 2018:7).这种数字化“量化工人”的创造是在为员工提供有关其绩效、健康和精神状态的有益信息的幌子下进行的，目的是为了自愿自我完善和“健康”;可穿戴工作场所设备的企业供应商将其推销为“人性化”技术。但这几乎掩盖不了他们通过这种“无限制的工人监控”技术明显增强了管理权力(Ajunwa, Crawford和Schultz 2017)。

摩尔等人(2018)主要关注这种监控对员工造成的压力、侮辱和侵入性，他们对“深度自动化”持怀疑态度，并强调其突然到来的经济、技术和社会障碍。但这样的监控是AI发展中的一个时刻。按照同样的逻辑，AlphaGo在古老的围棋比赛中击败大师，也依赖于对人类之前数千小时的棋局进行数字化消化，因此，记录工人的表现，即使是出于纪律原因而发起的，也为劳动力向机器形式的新转变开辟了道路。自主的车辆依赖于人类驾驶数十万小时的数字记录。呼叫中心工作人员的录音成为语音分析软件的基础，该软件首先补充他们的工作，然后取代他们的工作。亚马逊物流中心的机器人化源于人类“ambots”的电子标签:2018年，该公司获得了两项专利，用于发射超声波脉冲和无线电传输的腕带追踪器，以监控拾取者的手与库存的关系，提供“触觉反馈”，以“推动”工人走向正确的物体(Yeginsu2018)。这些专利的报道引发了公众对工人隐私和加速的强烈抗议，但同样清楚的是，腕带，甚至更广泛的监控设备，可能会为机器人取代拾取工铺平道路。工作场所监控与工人替代之间的有机联系，以及AI发展与监控之间的有机联系，导致《经济学人》(2018)得出结论，尽管AI工作场所可能不会立即减少人口，但它们将变得“更令人毛骨悚然”。

92

inhuman power

不稳定就业是21世纪资本主义工作中讨论最多的特征之一。“不稳定”的定义各不相同，但通常包括兼职、临时和自营职业，自2008年危机以来，人们普遍认为这些职业的数量呈上升趋势(Standing2011)。人们特别关注的是“零工经济”的增长，这种经济由Uber、Lyft、TaskRabbit或UpWork、Clickwork和Mechanical Turk等在线平台组织，由被指定为独立承包商的工人组织，因此没有养老金、福利和其他监管保护，而且往往工资很低(Hill 2015;Kessler 2018)。一些劳工政治分析人士认为，“零工”的规模被夸大了(Henwood 2018b;Moody 2018b)。在这种观点下，今天工人面临的真正问题并不是那么多的不稳定，而是停滞不前的低工资、不断上升的成本和长期工作条件差，而这些工作仍然占就业的最大部分。这两种观点并不完全矛盾，因为工人可能会用不稳定的就业来补充低工资的永久性工作。AI与不稳定劳动之间存在某种联系。正如我们所看到的，AI依赖于在线微工作。此外，AI对于平台资本主义用来组织临时工人的算法管理很重要，根据需求扩大他们的数量、收入和时间表，从而“促成工作模式的临时工化以及工作和收入的不稳定性”(De Stefano 2018)。优步是一家自称拥有“机器学习基因”的公司(Reese 2016a)。

automating the social factory .

93

当优步在2014年和2015年迅速扩张时，它每月增加多达5万名司机，这是人类经理无法安排和监督的数字，“因此必须实施一些虚拟管理系统”(卡德尔2017)。该公司用各种自动化管理工具填补了这一空白，这些工具提供了“评级系统、绩效目标和政策、算法激增定价(以及)持续的信息和行为推动”，这些工具“引导司机在特定地点和特定时间工作”——一个系统，正如亚历克斯·罗森布拉特(2016)所说的那样，“司机是独立工作者的说法变得复杂，他们的就业机会是通过中立的中间软件平台实现的”。从2016年开始，优步将这些算法管理工具整合到自己内部生产的“米开朗基罗”机器学习系统中，该系统“旨在涵盖端到端的机器学习工作流程:管理数据、训练、评估和部署模型、做出预测和监控预测”(Hermann和Del Baso2017)。米开朗基罗轨迹的逻辑高潮似乎在等待优步为自动驾驶汽车提供软件的雄心壮志的实现，在这种情况下，从数十万不稳定的自雇司机那里收集的数据将被人工智能引导的自动驾驶汽车吸收。

AI可能放大的第三个趋势是“高端”和“低端”工作之间的两极分化。自20世纪50年代以来，这种趋势在美国很明显，随着数字自动化和外包掏空了“中等水平的常规”工作，让高薪的认知劳动或低薪的体力劳动成为可能，尽管这两种工作都面临着下行压力，这种趋势已经加剧(Autor和Dor 2013;Beaudry,Green and Sand 2013;Oecd 2016;Elliott 2017)。美国劳工部(2015)对2024年的职业预测将“计算机和数学职业”列为增长最快、收入最高的就业领域之一。人工智能资本(至少在其自我自动化能力开始发挥作用之前)将有助于这一增长，因为它不仅需要机器学习的直接编程，还需要对提供大数据的社交媒体、应用程序和传感器进行编码。美国全国IT工作的平均工资约为81，000美元(是全国所有工作平均工资的两倍多)，该领域“从2014年到2024年将增长12%，比大多数其他职业都要快”(美国劳工部2015年)。但是，与个人护理工作、护理和医疗援助、零售和食品服务等领域的工作相比，编码工作的绝对数量和增长速度都相形见绌，其中许多工作的年薪在2万美元左右

94

inhuman power

(美国劳工部2015;Henwood 2015)。这表明，由程序员编码其他中级工作组成的未来劳动力将不复存在，把照顾老龄化人口等任务留给工人，而这些工人的工作既过于廉价，又过于人性化，无法实现自动化——尽管这并没有抑制人们对性爱机器人和机器人教师即将出现的可能性的普遍幻想。这样的梦想和噩梦可能会在日本的老年护理机构中得到实现，在那里，人口老龄化的人口问题特别严重，而自动机在文化上相对更容易被接受。开发“社交机器人”作为护理人员的潜在助手一直是政府支持的工业研究的重点(Kyung-Hoon 2018),日本公众也接触到了不断推广的“外骨骼、物联网小玩意儿、人形或动物形机器人……”注定要在这个国家不断增长的养老院网络中从事无止境的快乐劳动”(Lewis2017)。在其他地方，这样的轨迹可能会缓慢发展，至少在个人护理人员的工资仍然很低的情况下。

这种两极分化具有性别化和种族化的维度。早期的数字自动化浪潮对男性的打击尤其严重，因为它们对制造业就业的影响：“信息革命”经常被认为是女性在许多工作领域逐步进步的一个促成因素。然而，许多可能被AI自动化的工作通常由女性担任，如行政、秘书、销售和客户服务工作，而软件工程则是男性化的(Howcroft和Rubery,2018)。在北美，学习计算机科学的女性人数保持不变或呈下降趋势，而在英国，只有五分之一的计算机专业学生是女性。似乎“男性将不成比例地从对STEM技能的更大需求中受益”(波士顿咨询集团-萨顿信托2017:21-2)。硅谷的公司已经表现出无力超越“博客”文化，也表现出种族隔离:美国平等就业机会委员会的一份报告发现，在科技行业的工作岗位中，只有8%由西班牙裔人担任，7.4%由非洲裔美国人担任，36%由女性担任(2016年)。这种模式可能会因算法招聘工具而加剧。据报道，2018年，亚马逊的AI招聘技术主要以男性的人工智能为基础，不出所料地对女性产生了内在的偏见，“实际上教会了自己男性候选人更可取”(BBC2018b)。该系统被抛弃反映出人们越来越意识到并抵制高科技性别歧视，但是

automating the social factory .

95

这不是一个孤立的例子;LinkedIn (Reese 2016b)和b谷歌(Gibbs2015)对自动化招聘流程的分析也表明了类似的性别歧视偏见。另一方面，许多增长最快的低薪服务工作都是女性和少数族裔的代表。因此，人工智能资本可能标志着新一轮的性别和种族工作隔离。

人们普遍认为，面对AI自动化，生存之路是教育。在整个劳动力的宏观层面上，“重新培训”新的人工智能相关工作的承诺可以轻松实现，但个体工人的微观命运就没那么容易了。资本主义的秘方是，技术上失业的人应该提升他们的编程技能和计算机素养。在2008年后经济衰退、低成本劳动力充足的背景下，企业普遍放弃了培训:仅仅雇佣具有相关技能的新员工成本更低。在这样的劳动力市场中，工人和失业者不得不进行代价高昂的升级努力，而此时正值新自由主义政策使接受教育的机会出现严重分层。正如丹·谢万(Dan Shewan,2017)对美国的描述:

卡内基梅隆大学这样的私立学校…也许可以为学生提供最先进的机器人实验室，但社区学院和职业学校就不能这么说了，这些学校提供的培训项目是被机器人取代的工人将被迫依赖的。鉴于惊人的学生债务和日益不稳定的就业市场，许多年轻人正在重新考虑他们的选择。对于大多数四五十岁的工人来说，背负数万美元的债务去私立大学攻读传统的四年制学位课程是不可想象的。

针对这一问题，理论上的补救措施包括“大规模开放式在线课程、以就业为导向的纳米学位……提供行业认可的证书，以及在几个月内教授职业IT技能的编码训练营(Kinder2018年)。然而，目前，“使用这些课程的主要是那些受过高等教育或精通数字技术的人，他们希望通过掌握尖端技术来进一步提高自己的就业能力。在劳动力市场的低端，很少有工人利用这些项目”(Kinder2018年)。这些问题将会加剧，因为在人工智能泛滥的背景下，技术变革的速度将要求人们迅速获得这些技能，

96

inhuman power

但它们也会以更短的“半衰期”更快地过时，因此“不断重新掌握技能和提高技能的需求将提高教育和个人发展所需的成本和时间”(波士顿咨询集团-萨顿信托2017年)。尽管与AI相关的工作岗位净减少，但它带来的一系列问题一一不稳定、劳动力市场两极分化和工作重组一一可能会给工作场所的组织带来更大的困难，加剧高科技劳动力新精英与低工资或失业工人之间的分歧，而对于大多数人来说，教育和培训带来的压力和成本也在加剧。它还将更广泛地影响人们围绕政治问题的思考、沟通和互动方式，我们将在下一节中讨论这一点。

网络语法化

这是社会工厂概念的内在特征，尽管工人阶级的构成和分解可能从工作场所开始，但它会延伸到工作场所之外(注释fromBelow2018a)。在工厂大门内，工人阶级被泰勒主义和日益先进的自动化技术分解。这种去技能化的过程随着AI而继续，但越来越多地延伸到流通、消费和社会再生产领域。为了解释人工智能自动化社会工厂的影响，我们借用了伯纳德·斯蒂格勒(Bernard Stiegler,2010、2015、2018)的“语法化”概念，正是因为他用它来指一种去技能化，这种去技能化不仅影响工人如何工作的知识，还影响他们如何生活和思考的知识，他将这一过程与AI直接联系起来。

对于斯蒂格勒来说，语法化是“将我们存在的流动和连续性离散化的过程”(2010:31)。这一概念指的是记录、分离和编纂人类活动各个方面的技术发展。将语音翻译成带有语法规则的字母文字，是这一过程的早期和杰出的例子(因此称为“语法化”)。但在斯蒂格勒的用法中，语法化还涉及感觉器官(视觉和听觉)，身体的动作和手势(在工作中，在家或消费时)以及整个社会互动模式(斯蒂格勒2010:10;2018:8)通过将工人的知识转移到机器上，使他们服从资本，从而使工人去技能化，这只是无产阶级语法化扩大过程的一个初始时刻(我们在前一章中曾示意过)。这一过程

automating the social factory .

97

后来传播到消费的自动化一一人们被文化和广告行业的视听技术训练成消费者—一然后传播到人类的自我理解，这种知识被诸如社交媒体和大数据分析等自动化。

我们认为，语法化应该被理解为马克思在《1844年手稿》中所说的“生活活动”(2007:75)对劳动的真实包容的延伸。机器学习包含的不仅仅是劳动，还包括与我们生活方式相关的更一般的人类行为、交流、知识和技能—一包括购买和消费，还有友谊、娱乐和爱情的社会关系，从资本的角度来看，这些都是加速流通的引擎。正如斯蒂格勒(2010:45)所说，用三个有用的法语短语，savoir-faire(知道如何制造和做)，savoir-vivre(知道如何生活)和savoir-être(知道如何成为)从整个社会或行星工厂的人类身上剥离出来。在最近的一项工作中，他明确地将这与AI和大数据联系起来，表明在它们目前的形式下，这些创造了不满，困惑和无能的主体性，在深刻的意义上“麻木”(斯蒂格勒2015)。对于斯蒂格勒来说，机器学习“计算相关性……以便自动预测个人和集体行为，它们也会通过捷径和绕过任何审议而引发并“自动实现”(斯蒂格勒2017:231)。用我们的话来说，它们创造了一种强化的分解状态。

正是通过社交媒体，资本正在实施一些最强大的AI干预，这些干预立即重构了日常社会关系，并对阶级构成产生了重大影响。十多年来，b谷歌的搜索排名算法和脸书的网络人际关系社交图谱一直在将这些平台用户的活动转化为数字档案，用于定位内容并向广告商销售。这是否会跨越AI领域的界限还有待商榷;算法处理受到AI效应的影响。然而，在两个重要的领域一一提高自身绩效的能力，以及由此带来的预测信心的不断升级一一两家公司都声称自己取得了巨大的进步。

2016年，脸书推出了“自我改进、人工智能驱动的预测引擎”，被称为“FBLearner Flow (FBL)”(Biddle 2018)。它使用“机器学习专业知识”来利用“位置、设备信息、Wi-Fi网络细节、视频使用情况、亲和力和……

98

inhuman power

友谊的细节，包括用户与其朋友的相似度，来解决企业的“核心业务挑战”。FBL不仅为广告商提供了基于人口统计和消费者偏好的定位能力，它还提供了“忠诚度预测”服务，搜索超过20亿的用户群，发现数百万人有从一个品牌跳槽到竞争对手的“风险”。被试者准备好“被广告积极定位，这些广告可以先发制人，完全改变他们的决定”。

资本利用人工智能对个人交流进行语法化的另一个例子是b谷歌的联邦学习项目。这在2017年被宣布为“去中心化”边缘AI，即“机器学习模型直接在用户的智能手机上进行训练”。b谷歌现在可以通过一个应用程序将AI训练委托给Android手机，该应用程序将读取用户的文件，改进他们的数字档案的个性化，并将这些信息转发给广告客户，同时将原始数据“完好无损”地保存在手机上，而不是将其存放在谷歌的服务器上。尽管谷歌选择以这种方法的用户隐私优势为特色，但联邦学习为公司带来了许多其他更自利的优势。“去中心化”AI在用户设备上“本地”运行，不依赖网络连接，“意味着更少的功耗，……最小的延迟和更快的机器学习处理”，并且实际上可以访问“更多的用户数据”，而不是实际上可以收集到云中的远程服务器(Kulian 2017，重点补充)。

在2008年金融危机之后，似乎企业拥有的社交媒体的影响力越来越大，实际上可能会扩大社会异议的可能性。2011年爆发的占领、集会和骚乱浪潮被广泛称为“Facebook(或Twitter或YouTube)革命”。尽管这一称谓因其荒谬的技术决定论而受到广泛而恰当的批评(例如tawill - souri 2012)，这些起义的一个特征仍然是抗议者广泛使用社交媒体平台和移动电话网络(尽管还有老式的实地组织和面对面交流)。这促成了抗议活动的快速动员和传染性传播，尽管也可能导致了他们后来的政治一致性和短暂持久力问题(Dyer-Witheford 2015)。

然而，在这些动荡之后，两个与人工智能相关的发展给网络化的反资本主义运动带来了重大问题。

automating the social factory .

99

首先是国家数字监控范围的发现，尤其是爱德华·斯诺登(Edward Snowden)对美国国家安全局(NSA)的披露。这些文件显示，9/11事件后设立的监控项目利用了美国社交媒体和搜索引擎公司的算法数据收集，这些公司都与NSA的棱镜计划(PRISM)合作。斯诺登还表明，NSA通过自己先进的人工智能程序处理从PRISM和其他项目收集到的信息，收集数据和元数据，将其存储在NSA云服务器上，并应用ML识别可疑活动和关联(Gallagher 2013a, 2013b;Grothoth and Porup 2016)。虽然这种人工智能驱动监控的表面目标是恐怖主义，但其技术无疑可以应用于其他目的。已经受到CCTV、手机和社交媒体监控的“网络镇压”的抗议者，现在可能会受到新的极端审查，如果不一定来自NSA本身，那么就会受到人工智能驱动的监视，从NSA和GCHQ等精英情报机构到警察部队。私人保安公司和企业劳工间谍(Dyer-Witheford和Matviyenko 2019)。

人工智能驱动的互联网政治分解的第二个脉冲可以用“剑桥分析”(Cambridge Analytica)这个名字来概括，如果我们把它作为另类右翼网络、选举数字战略和俄罗斯围绕唐纳德·特朗普(Donald Trump)竞选活动的网络战干预的缩写的话。人工智能对这一仍在扩大的丑闻的贡献有几个层面。首先，尽管亿万富翁罗伯特·默瑟(Robert Mercer)的公司用来帮助特朗普的选民分析和目标定位项目的细节仍然不透明，但他作为人工智能先驱的背景使得这些项目几乎肯定涉及机器学习。其次，特朗普竞选团队依赖于机器学习先驱Facebook，无论是剑桥分析公司获得的数据，以及扎克伯格的公司为特朗普的竞选活动量身定制数字广告提供的公开帮助。第三，特朗普的选举战略家、他的另类右翼支持者和友好的俄罗斯特工都依赖社交媒体算法来传播他们的信息，这些算法促进了挑衅性、引人注目的内容，从而获得了广告利润。到2016年，这些算法在机器学习的帮助下被设计出来。罗伯特·默瑟的女儿丽贝卡根据特朗普的竞选活动设计了一个名为“机器学习总统”的室内游戏，这并不是没有原因的(Mayer 2018)。

100 . inhuman power

特朗普的当选是一个分解阶级政治的典型例子:它的目的正是按照种族和性别划分人们一—特别关注被全球化破坏的锈带人口—一以便让他们投票给资本主义富豪。特朗普是，也将是，远不是唯一一个部署ML技术的政治人物;毕竟，奥巴马是“大数据总统”(Scola2013)。他的竞选活动、他的支持者以及英国退欧运动等类似活动表明，人工智能驱动的干预会对网络交流造成多么严重的破坏。它们还显示了右翼民粹主义，或者更确切地说，新法西斯主义，与工人阶级内部已经被几十年的新自由主义阶级斗争撕裂的分歧的数字化加剧之间的密切关系，这些分歧正处于人工智能驱动的新裂痕的边缘。就在围绕社会工厂的重组举措似乎对反资本主义政治最重要的时刻，这些举措由于算法广告的分散注意力的影响、基于ml的大规模监控的寒蝉效应、煽动性的假新闻、有毒聊天机器人、网络战和其他形式的“武器化人工智能宣传”(Anderson and Horvath 2017)。因此，人工智能有助于将互联网从一个“斗争循环”(Dyer-Witheford,1999)的潜在舞台转变为一个由商品流通、监视抵抗和破坏阶级团结所主导的舞台。

斗争的七角形

尽管如此，公众对资本主义人工智能野心的规模和方向的担忧正在加剧。近年来，与人工智能有关的抵制和抗议活动在社会工厂周围如雨后春笋般涌现。我们强调的是，这些都是民意的爆发，不是为了更多的人工智能(“现在完全自动化”)，而是因为它的拒绝。没有一个是完全反对人工智能的斗争，但每个都拒绝或质疑人工智能的特定方面。在它们的组合和重叠中，尽管经常出现脱节和矛盾，但它们挑战了当前人工智能资本的轨迹。我们列出了这些对抗中的七个一一一个七角形的斗争。

1)针对人工智能驱动的工资抑制、加速、监控、不稳定和算法管理的罢工和其他工作场所行动。最突出的例子是在德国、意大利、西班牙、波兰和UK的亚马逊物流中心发生的罢工和罢工浪潮，

automating the social factory .

101