人工智能和资本主义的未来_1-200的全文翻译

要求加薪、工作保障和改善工人安全(Boewe和Schulten 2017;Cillo and Pradella 2017;亚马逊工人和支持者(2018)。2018年10月，杰夫·贝佐斯(JeffBezos)承诺提高亚马逊工人的最低工资(尽管由于其他各种付款的回调而受到损害)是这一运动的部分胜利，这一让步旨在阻止任何从欧洲到美国的跨大西洋斗争移民(Reeseand Struana 2018)。其他罢工也扰乱了对不稳定劳动力的算法管理。食品快递公司Deliveroo使用了一个机器学习驱动的调度引擎，该公司声称，这个引擎被称为“弗兰克”，它“不断地计算和重新计算骑手和订单的最佳组合……骑手出行时间、食物准备时间等”(Pudwell2017)。从2016年开始，Deliveroo针对“弗兰克”带来的低工资和高不安全感的罢工从UK蔓延到欧洲，远至香港(2017年11月;Zamponi2018)。与此相关的一系列斗争是，从伦敦到加利福尼亚，优步的司机针对他们通过算法管理的非工人身份发起了一系列复杂的法律挑战(Rosenblat 2018)。这些斗争与法律反对、街头封锁和抗议自杀的“常规”出租车司机反对他们的工作被削弱的行为同时发生，也相互矛盾。尽管这些骚乱很激烈，但与司机罢工、抗议、算法破坏和系统博弈的规模相比，它们就相形见绌了。在中国的优步(Uber)公司滴滴(Didi)的庞大运营中肆虐，这些叛乱可能预示着人工智能资本下劳工行动的混乱未来(Chen2018)。在工人行动的档案中，应该加上意想不到的北美新数字新闻企业的工会化浪潮，如Gawker、Salon、Huffington Post、Vice Canada和半岛电视台涉及年轻工人，他们面临“全天候在线和社交媒体内容的巨大压力”，其收入和劳动条件直接受到人工智能驱动广告和定向新闻源的影响(Cohen和de Peuter 2018: 115)。在微工作平台中可以找到更分散的工人组织形式，正如我们所看到的，微工作平台是人工智能生产过程的一部分。TurkerNation是亚马逊土耳其机器人(Mechanical Turk)上的劳动者在线论坛，多年来一直促进微工的相互支持和知识共享，挑战该平台企业客户的过分剥削，并抗议亚马逊本身的政策(Harris 2014;Katz2017)。机器学习和其他形式的人工智能在资本中渗透得越多，所有工人对企业权力的抵制就会越多

102 . inhuman power

涉及对这种权力实例化的算法形式的事实上的抵抗。

2)反对军事和准军事AI应用的抗议。2018年夏天，科技工作者对军事和军事化警务项目的抵制浪潮席卷了矽谷(Dyer-Witheford and Matviyenko 2019)。在6点30分，工人们组织起来关闭了五角大楼的项目Maven，该项目使用机器学习来提高无人机袭击的目标，并取得了成功。在此之后，b谷歌的首席执行官桑达尔·皮查伊发表了一份关于AI发展的原则声明，称该公司不会从事AI武器或监视合同，尽管保留追求其他军事项目的权利。该公司还撤回了对五角大楼价值100亿美元的合同一一联合企业防御基础设施(JEDI)云计算项目的竞标(BBC 2018a)。与此同时，在亚马逊，工人们请求贝索斯停止向美国警察部门和移民和海关局(ICE)出售该公司的面部识别软件，该机构因其“零容忍”的执法政策而臭名昭著。在微软，员工们同样要求终止与ICE签订的价值1940万美元的云计算合同(Frenkel 2018)，而在Salesforce，员工们试图阻止公司与海关和边境保护局(CBP)的合作。除了这些事件，以及下文第五点讨论的性别歧视问题，我们还可以包括bbbb100名员工在全球范围内罢工，抗议公司对性骚扰问题的处理。对安全国家的异议并不新鲜，但矽谷的反抗是例外。它动员了一批精英、高科技劳动力，他们集中参与了数字武器的生产，几十年来，由于其财富、地位和自由主义思维模式，这些劳动力被认为不会受到严重政治化的影响。这样的事件不是凭空出现的。在某种程度上，它们间接反映了高科技工人日益增长的不安情绪，这些工人的工资虽然不错，但并没有跟上他们老板不断增长的丑恶财富。然而，在疫情爆发的背后，是技术工人联盟(Tech Workers Coalition)等组织的组织。多年来，该组织一直与劳工组织合作，将承包的编程工作联合起来，并耐心地在矽谷和西雅图开展活动，以形成对企业权力的批评，反对种族主义和性别歧视，以及程序员和低薪支持工人之间的团结(技术工人联盟，2018年)。

automating the social factory .

103

3)反监视运动。自爱德华·斯诺登(Edward Snowden)泄密以来，人们对资本主义自由民主国家监控范围的认识不断升级(Gallagher2018)(当然，这种监控对其他地方的民众来说并不是什么新闻—一比如在中国)。这是一个人工智能问题，不仅因为美国国家安全局在扫描中使用机器学习，还因为监控在人工智能的发展中至关重要。正如我们所描述的，大型数据集是训练ML系统所必需的。并非所有这些数据集都必须仔细审查人类行为，并且有一些技术尝试来减轻这种观察的侵入性(Knight2016b;2018年3月)，但人工智能的发展可能仍然严重依赖于大规模的人们观看。在北美，反监视自卫手册和信息表在社会运动中激增。“隐私和抗议的用户指南”总结了“混淆——故意添加模棱两可、令人困惑或误导性的信息来干扰监视和数据收集”的做法(Brunton和Nissenbaum 2015)。面部识别人工智能，以及用“敌对图像”迷惑它的可能性，是最近的一个热点。然而，在个性化的反监控技术措施上，时间、费用和专业知识都存在严重限制。对监控的政治和法律限制更有可能产生大规模效应。在北美，一些最重要的倡议来自少数民族，他们非常清楚分析系统如何同时构成和控制可疑的社会群体(Dyer-Witheford和Matviyenko 2019):非洲裔美国人，反对对整个社区和“黑人的命也是命”领袖进行数字跟踪;第一民族反对对土地和管道抗议活动进行数字审查;穆斯林阿拉伯人反对将他们的存在进行大规模数据库盘点。然而，监控限制方面的重大政治举措来自欧洲，那里对纳粹主义和斯大林主义的记忆依然鲜活。马克斯·施雷姆(Max Schrem)的“不关你的事”(None of Your Business)等反企业监控运动，以及执政精英反对侵犯国家主权的行为，赋予了这个问题真正的政治分量。欧盟于2018年生效的《通用数据保护条例》(GDPR)限制了数字资本的数据收集，包括伟大的人工智能开发商。它对数字跟踪的主动用户选择加入(而不是默认接受)、企业对个人数据使用的透明度、用户在不丢失存储数据的情况下离开平台的权利、对自动化决策的解释、以及对于“被遗忘权”的要求，都限制了将人口数据作为建设的采掘原材料机器智能(Meyer 2018;Kaput 2018;Srnicek 2018)。ML开发者和计算机科学家的负面回应，以及他们将欧洲的监管与美国的企业自由和中国监控国家的权力进行批判性比较(K-F。Lee2018)，这表明反监视运动对人工智能资本构成了多大的问题，同时也表明这种运动在人工智能竞争的世界市场中面临的挑战。

104

inhuman power

4)社交媒体叛逃。比反监控行动主义更分散、更不可见的是通过减法表达异议。在剑桥分析公司(Cambridge Analytica)丑闻之后，离开社交媒体矛盾地成为了一种社交媒体模因，其驱动因素包括对数字监控和操纵的担忧、对科技成瘾的心理影响，以及对网络环境极端商品化的厌恶。一场“删除Facebook”的运动如雨后春笋般兴起，然后消退。然而，有证据表明，18至24岁年龄段的人要么减少使用社交媒体，要么偶尔放弃使用社交媒体，即使他们的父母越来越沉迷于社交媒体(Kale2018)。到目前为止，机器学习是一项大数据事业，一些人工智能资本可能会受到数据主体“退出”社交媒体的缓慢流失的阻碍。

5)消除算法偏见。我们已经看到了人工智能放大已经存在的性别歧视和种族歧视的趋势。由白人男性拥有和主导的企业，以及由白人男性管理的治理系统，正在生产歧视女性和少数族裔的AI系统，因为它们接受的数据集反映了白人男性在招聘、财富、清白记录和职业成功方面的历史水平(诺贝尔奖2018年)。这种歧视性的AI对那些在警察、边防警卫和福利服务部门的屏幕上遇到它的人的影响尤其严重。然而，算法偏见甚至被点名，正是人们与之斗争的证据。致力于解决这一问题的团体包括麻省理工学院的算法正义联盟(AlgorithmicJustice League)，该组织反对“编码凝视”(Buolamwini 2018)，以及总部位于圣的非营利人权数据分析组织(HRDAG)等非政府组织，该组织揭示了美国预测性警务软件中的算法偏见。到社区组织，如矽谷De-Bug，该组织致力于圣荷西地区的移民和囚犯权利以及经济正义，或费城的媒体动员项目，该组织组织低薪工人和贫困社区

automating the social factory .

105

106 . inhuman power

(Wykstra2018)。由于纠正算法偏见提高了AI预测的准确性，从理论上讲，它可以为资本服务，以改善其对商品的利基定位和对有才能的劳动力的招聘，即使这需要承认性别歧视、种族主义和同性恋恐惧症的尴尬和昂贵表现:至少，这些是进步的新自由主义为此类举措设定的术语然而，只要算法偏见歧视穷人和女性、酷儿或种族化的人一一因此是弱势群体中最脆弱的—一算法正义运动就会阻碍人工智能资本约束和抛弃所谓的过剩人口，挑战了推动其发展的“统治矩阵”(Costanza-Chock2018)。

6)数字城市干扰。随着大型AI开发商的总部、校园和实验场所在城市景观中留下越来越大的足迹，AI的城市孵化器中爆发了社会冲突。这一点在矽谷周围表现得最为明显。在这里，住在豪宅里的亿万富翁、在高科技园区工作的百万富翁、低收入的服务业工作者和大量无家可归的人，在持续的紧张气氛中共存。随着软件生产从圣谷和湾区向北扩展，这些社会断层线也随之扩展。2013-14年，运送高科技工人前往山景城“Googleplex”的私人巴士成为抗议士绅化、驱逐、流离失所和拥堵的导火索(Goode and Miller 2013)。示威者封锁了公交路线。标语上写着“中产阶级化和驱逐技术:综合迁移和文化抹去”和“滚蛋谷歌”。传单指责b谷歌“建立了一个不合理的监视、控制和自动化世界”(Streitfeld和Wollan 2014)。抗议活动爆发了，消失了，然后在2018年重新出现。“技术剥削是有毒的”激进分子将一家类似uber的公司使用的电动滑板车堆放在十几辆公共汽车的前面，并谴责清理街道上无家可归者营地的计划，高呼“扫科技，不要帐篷”和“他们称之为“破坏”。我们称之为位移”(Streitfeld2018)。这些城市骚乱还包括基于人工智能的“智慧城市”的争论。2017年，b谷歌控股公司Alphabet的子公司sidewalkLabs与多伦多市就开发滨水社区码头区的“公私”合作关系进行了谈判。根据这一协议，其细节尚未披露，码头区将成为人工智能饱和的城市创新的展示平台;设计的街道

用于自动驾驶汽车、机器人垃圾收集、无处不在的传感器和安全摄像头，以及从图书馆和健康卡读取居民身份证的集中信息管理系统。加拿大总理贾斯汀·特鲁多称赞该项目是清洁、绿色城市的先兆。谷歌的前首席执行官埃里克·施密特解释说，这个想法来自谷歌的创始人，他们兴奋地想到“如果有人给我们一个城市，让我们来管理，你可以做所有的事情”(科夫曼2018)。显然，最初的协议中没有提到在码头区收集数字数据的所有权和条款。这个问题一直很模糊，直到TechReset Canada (Barth 2018)领导的一场运动迫使公众注意到这一点，该组织反对无限制的数字商品化，批评交易的不透明性，坚持将合同公之于众，并要求规定确保“该项目的数据和数据基础设施是多伦多市及其居民的属性”。这动员了一个联盟，其参与者从住房活动家到心怀不满的城市规划者;他们的事业甚至赢得了加拿大顶尖高科技企业家的支持，他们反对将知识属性拱手让给外国公司。监督码头区协议的董事会重要成员辞职。截至2019年初，这个问题仍未得到解决。SidewalkLabs可能会对反对意见做出妥协，但也会通过同意只收集汇总的匿名数据来回避抗议一一这种策略虽然解决了个人隐私的有限问题，但却没有触及企业对人口层面信息和城市设计的控制这一更大的问题(Greenfield 2013)。

7)反企业技术冲击。这些担忧中有许多汇集在一起，形成了一种模糊的“科技冲击”，反对大型数字公司的权力。Facebook、剑桥分析公司(Cambridge Analytica)和2016年美国大选中的俄罗斯网络战丑闻，促使沉寂已久的关于数字寡头所有权集中的讨论重新活跃起来(Foer 2017;Mosco 2017)。即使在以反对国家监管而闻名的美国高科技圈内，也有声音对bb0和Facebook自我监管的能力表示怀疑，并呼吁提高透明度，甚至对其算法流程的负面外部性承担财务责任。其他批评的声音更为深入。

比如，问资本的媒体公司在多大程度上深深地、基本上依赖于广告的“假新闻”和精心设计的注意力操纵。在欧洲，诉讼是针对数字资本主义巨头的，罪名是违反公共法规和劳动法、逃税和滥用垄断权力的反竞争行为。在伯尼·桑德斯(BernieSanders)和杰里米·科尔宾(Jeremy Corbyn)的竞选纲领中，出现了对一些最大的人工智能开发公司进行拆分和监管的呼吁(甚至在特朗普等右翼威权民粹主义者的思考中，也出现了这种呼吁)。反垄断政治与反资本主义绝不是一样的，但这种担忧的“主流化”的一个影响是为讨论更激进的“数据库社会化”命题开辟了一个空间(Morozov2015)。这些问题超越了对寡头垄断的监管或解体，延伸到建立与国家和市场分离的“公地”机构，以及与政府和企业权力保持一定距离的公共计算公用事业的形成。我们将在结束语中重新讨论这些问题。到2018年，就连商业评论员都在谈论对数字资本态度的改变，这是一系列因素之一，与小工具饱和的市场和国际贸易战一起，给高科技“打击”了人类价值的可靠指数——股市(Rajan 2018)。

automating the social factory .

107

结论:走向事件视界

在数字资本中，一些工人阶级的重组正在发生，人工智能的强大存在就像一个无形的吸引力，围绕着它，各种反叛和异见分子聚集在一起。我们不想夸大这个过程。反企业的科技抨击在政治上可能很肤浅;智慧城市反对者仍然处于边缘地位;算法正义既阻碍又帮助资本;社交媒体的叛逃是缓慢而局部的;反监控政策可能会因竞争压力而倒退;尽管Maven项目的反抗取得了成功，但其他对抗军事化人工智能的胜利却寥寥无几;最重要的是在反对人工智能资本的罢工不断增加的情况下，笼罩着一种阴影，即抵制可能会刺激进一步的自动化。虽然我们已经提出，不管失业问题如何，人工智能资本对其人口的福祉构成了许多其他威胁，但它内部斗争的未来在很大程度上取决于第四次工业革命对雇佣劳动基础的破坏程度。

正如我们所看到的，早期关于人工智能引发的就业崩溃即将到来的预测，已经被最近的研究大大淡化，并且已经失去了作为后衰退美国经济的优势

108

inhuman power

回到了官方所认为的充分就业状态。然而，一些观察人士认为，在即将到来的美国大选中，即使是有限的部门就业岗位因自动化而流失，也可能像2016年的就业岗位流失问题一样成为主要问题(F.Levy2018)。从长远来看，对人工智能就业影响的估计仍然存在很大差异，甚至一些“一切照旧”的理论家也改变了他们的模型，承认资本创造就业和破坏就业的功能可能会严重不同步(Acemoglu和Resteropo 2018)。一些人坚持相当灾难性的立场;b谷歌中国区前总裁李开复(Kai-FuLee,2018)撰写的关于人工智能的广受欢迎的专著坚持认为，到2030年，美国将失去多达40%的就业机会，中国也将失去类似的就业机会一一换句话说，这是世界历史动荡的数量。这种失控的人工智能，大量增加了失业后备军，将进一步削弱工会和其他工人组织，但赤贫的极端可能会产生新形式的无产阶级反抗(甚至可能像《西部世界》中的机器人那样血腥和坚决)。在这样的推测中，我们到达了“机器上的碎片”所预见的事件视界，在那里，资本自己的机器驱动从内部爆炸:最终分解它的工人阶级，资本分解自己。这一未来主义命题显然是无可辩驳的逻辑，也许正是这一逻辑让左翼人士在面对人工智能资本主义时产生了某种最后的信心、自满甚至热情。有人说，“很可能，这项技术不会真正起作用一—不管怎么说，如果起作用了，它只会完善系统的自我毁灭。”“但这种保证有什么根据呢?”

automating the social factory .

109

3完美的机器，非人的劳动

狭义AI是资本主义机器的一个特例，它从多个方向挑战马克思主义思想。然而，本章转向通用人工智能(AGI)，或具有一般知识推理能力的AI，并在不同和不熟悉的领域执行各种任务(gubroud 1997;王和Goertzel 2007: 5;Goertzel 2014:2;Baum 2017:3).因此，agi是具有智能灵活性或通用性的机器，其范围与人类相似，但不一定在功能上与人类相似。正如裴王和BenGoertzel解释的那样，AGI可以用于“由于环境的动态性或对问题的知识不足而无法获得现成解决方案的情况………我们对AGI系统的期望不是最佳解决方案……而是灵活性[和]创造力”(2007:5)。

这些对灵活性和创造性的提及与马克思的劳动概念惊人地相似。然而，马克思假定“劳动……是人类独有的特征”(1990:283-4)，而劳动能力只存在于“人类的物质形式，活生生的人格”中(1990:270)。针对这种人类中心主义，我们认为AGI的理论概念与马克思的劳动和劳动力概念之间存在同构性;因此，AGI深刻地挑战了马克思的劳动价值论;尤其是只有人类才能劳动和创造价值，机器绝对不能的公理。换句话说，AGI是资本主义机器的一个特例，它作为机器的地位必须受到质疑。我们认为，AGI不仅可以潜在地劳动，而且在某些社会条件下也可以创造价值。AGI对资本主义生产方式和人类的潜在影响是巨大的。如果AGI被创造出来，许多人认为这将是“技术奇点”，也就是说，“指数技术进步”的结果，导致“如此巨大的变化，我们今天所理解的人类事务可能会结束”(Shanahan 2015: xv)'而进一步的研究和

狭义AI的发展可能会导致资本积累过剩的人群增加，AGI的发展将超越马克思所讨论的已经很悲惨的愿景，甚至更糟，智人成为过剩物种。因此，AGI暗示了没有人类的资本主义的可能性。2

为了论证这一论点，我们讨论了为什么马克思认为劳动和价值创造都是人类固有的，并将焦点集中在他对人类和动物的尖锐区分上。我们考虑了为什么他将这种区别建立在创造力和想象力等各种能力的基础上，以及截至2019年，一些AI项目如何试图将这些能力自动化。虽然前几章已经进行了一些必要的推测，但这一章设想的遥远未来更像是科幻小说，而不是科学事实。因此，在我们深入研究马克思的价值理论和他关于人类独特性的论点的细节之前，我们首先要证明为什么我们要用一章来讨论一种尚未出现，也可能永远不会出现的技术。

通用人工智能(ai)

对于智能的定义，没有科学或哲学上的共识，但大多数观点都认为，真正的智能必须在某种程度上是灵活的或通用的(Kaplan 2016;Lake et al. 2017: 9-19)。现有的ML和GOFAI与人类智能的区别在于它们的狭隘性和不灵活性。然而，研究正在进行中，以产生可以普遍应用的AI。“AGI”一词最初是由Mark Avrum gubroud(1997)提出的，用来描述“在复杂性和速度上与人类大脑相媲美或超过人类大脑的AI系统，可以通过一般知识获取、操纵和推理，并且基本上可以在需要人类智能的工业或军事行动的任何阶段使用。”然而，AGI的想法实际上可以追溯到1956年达特茅斯研讨会的最初目标(王和Goertzel，2007年:6).但是，模仿人类智能的目标很快就被放弃了，取而代之的是更易于管理的实际问题，这些问题可以通过狭义的AI来解决。直到21世纪初，AGI还被认为是不现实的，研究它的人被视为疯子(Pennachin and Goertzel 2007: 1;王和Goertzel 2007:4)。虽然有一些研究项目专注于构建AGI的目标，例如John莱尔德、Allen Newell和Paul Rosenbloom于1983年开始的Soar认知架构(莱尔德)

perfect machines, inhuman labour .

111