人工智能和资本主义的未来_1-200的全文翻译

1. inhuman power

从纸浆机器人启示录(Wilson2012,2015)到人工智能提出的新技术存在主义地平线上的复杂文学探索(Mason 2017)。

定义人工智能是困难的。尽管如此，Rose是正确的，通常被称为“狭义人工智能”的东西已经存在于算法过程中，现在已经为日常生活提供了很多信息。对于仓库工人或军事人员来说，这种人工智能可能体现在机器人送货车或半自动杀人无人机的底盘上。然而，大多数人工智能在智能手机和电脑上进行的活动的背景下，是看不见的;在搜索引擎结果、社交媒体动态、视频游戏和定向广告中;在接受或拒绝银行贷款或福利援助申请时;在呼叫中心查询或召唤按需出租车时;或者在遇到警察或边防人员时，扫描他们的影子屏幕。通过这些方式，人工智能已经陪伴我们很多年了。

曾几何时，左翼人士将苏联和东欧的政权称为“实际存在的社会主义”(Bahro1978)，这表明对新社会秩序的希望初步但不完美地实现了。我们提出了一个类似的表述：“实际存在的人工智能资本主义”，指的是对这些技术进行实验性和不均衡采用的阶段，而这些技术被寄予了如此多的希望。这一阶段可能比人工智能爱好者预期的要长得多。它可能会停滞、停滞和内爆(就像“实际存在的社会主义”所做的那样)。但它也可能在向一个显著转变的资本主义或一个完全不同的社会形态的过渡中加强或扩大。

这种对社会主义命运的提及将我们带到了批判人工智能资本主义的有利位置。预言技术奇点的人预计它将在2045年左右到来(库兹韦尔，2005)。这将是在一位早期工业资本主义的批判性观察者写下他自己对其最终结果的预测201年后：“最终……一种非人的力量统治了一切”(马克思1975[1844]:366)。年轻的马克思写的不是人工智能或机器人。他描述的是工人的“异化”，即被资本剥夺了对他们制造什么、如何制造、他们与人类同胞的关系以及他们的“物种存在”的控制。我们在本书中提出的论点是，人工智能应该被视为这一过程的顶点，在这个时刻，市场体系将获得自己的生命。我们认为，人工智能是“外来力量”(马克思1990:716)—一自主资本的力量。我们通过彼此阅读人工智能和马克思主义:人工智能通过马克思，因为马克思

对资本主义的分析是对当今推动AI发展的商品化和技术融合的最全面的批判性描述;因为AI以深刻挑战马克思主义假设的方式将人类例外论、代理和劳动问题化，因此需要那些与马克思一样渴望反对和超越资本的革命的人进行仔细的研究。

三场论战

这本书的论点交织着三篇论战性的评论。第一个是对AI作为资本工具的批评，这一切都意味着对人类劳动的剥削和排斥以及财富和社会权力集中在高科技企业所有者手中。将AI描述为无私的科学研究过程的结果是天真的。机器智能不仅是一种技术逻辑的产物，同时也是一种社会逻辑的产物，即生产剩余价值的逻辑。资本主义是这些技术和社会逻辑的融合，而AI是其计算与商品化相结合的最新表现。AI是在美国军工联合体的数字实验的推动下，在一种社会经济秩序中出现和发展起来的，这种秩序奖励那些拥有自动化人力劳动、加速销售、精心策划金融投机和加强军警对潜在不安定人群控制的手段的人。

AI是否可以被用于不同的用途——“重新配置”(Bernes2013;托斯卡诺2014;Steinhoff2017)贡献或创造一种不同的社会秩序—一这是我们稍后讨论的问题。显而易见的是，大型数字公司的所有者将AI视为他们的技术——而且有充分的理由，因为他们拥有知识属性、巨额研究预算、AI科学家的劳动时间、数据和存储数据的中心、电信网络、以及与国家机器的联系，这是创造AI的先决条件。正是他们和他们的高级管理干部能够将他们的目标和优先事项植入AI软件和硬件中，“融入”他们的价值观——实践中，一个主要的指令，扩大剩余价值——到它的设计中。

企业领导人对AI的看法似乎存在着令人惊讶的差异，从欣喜若狂的拥抱到世界末日

introduction: ai-capital .

3

警告。然而，他们的共识是，由他们来决定AI的方向，由他们在高层秘密会议和与政府的特权对话中决定如何(而不是是否)采用人工智能，以及在激烈的角斗士式的自由企业竞争与谨慎的道德监管和政策安全网之间取得怎样的平衡，以防止不受欢迎的动荡。无论是谢尔盖·布林(SergeyBrin)支持奇点的概念，同时巩固其公司的垄断权力来指导它，还是埃隆·马斯克(ElonMusk)在建造(或试图建造)用于生产自动驾驶汽车的全自动工厂时警告AI灾难，或者比尔·盖茨(BillGates)提出的苍白的机器人税收计划(从而立即招致同行的嘲笑)，企业人物之间的丰富冲突掩盖了一个更为清醒的现实:这些伟大的AI巨头，不过是推动利润最大化的市场计算的抽象力量的化身。它们还掩盖了资产阶级的巨大傲慢，他们相信自己可以控制自己释放的力量。因为我们还没有完全完成我们从年轻的马克思那里得到的有名无实的引用：“最终一一这也适用于资本家——一种非人的权力统治了一切(1975[1844]:366，重点补充)。

然而，在对资本主义与AI的遭遇进行批评时，我们也与左翼理论家有同样的担忧，他们中的一些人，像我们一样，在评估AI时引用了马克思。因此，在这里，我们与我们尊重并向其学习，但与我们不同的对话者争吵。我们反对两种特定的左派观点，即我们称之为“最小化”和“最大化”的AI观点。左派的“极简主义”立场将当前关于AI的论述视为炒作和兜售主义。一个更温和的版本赋予它们有限的可信度，但坚持认为这不足以严肃地改变以前对资本和阶级的分析(Huws2014;Moody2018a)。对于这种极简主义立场的强烈陈述，我们可以采用阿斯特拉·泰勒的“自动化字谜”(2018)，这篇文章的基本论点是“机器人的崛起被大大夸大了”(像许多作者一样，泰勒认为AI和机器人几乎是同义词，我们稍后会讨论一个不幸的解释)。泰勒同意我们的观点，即技术变革，特别是自动化，不是一个中立的过程，而是从阶级权力的角度来操纵的。然而，她的主要论点是，不仅仅是自动化的现实性，更重要的是它的可能性，被武器化以恐吓工人。她列举了机器人化带来的威胁

4 . inhuman power

快餐公司试图平息“争取15美元最低工资”运动的汉堡包和触摸屏自助服务亭。泰勒指出，其中一些威胁被证明是空洞的，而那些已经实现的威胁，仍然让许多工人在麦当劳辛勤工作。鉴于此，她建议“让我们对自动化的想法本身过时”。一个新的术语，“人工自动化”，似乎更合适”(2018)。她认为，社会主义女权主义者通过将家务劳动作为无偿工作的密切接触，对资本主义对人类劳动的不可救药的依赖有着特殊的见解，即使这种劳动不被承认、不被奖励，而且是由女性和种族化的少数群体主导的。她接着强调，机器的引入加剧了工作，而不是消除了工作，强调硅谷的数字平台在幕后依赖于内容审查员等无形的人物的工作。在这种背景下，泰勒将著名的马克思主义女权主义理论家西尔维娅·费德里西(SilviaFederici)在一次会议上提出的有关资本产生“过剩人口”倾向的问题的回答作为一种顿见的号筒：“不要让他们让你认为你是可以抛弃的。

泰勒的许多观点都很出色;我们稍后将对其中一些进行扩展，特别是在第2章中，我们讨论AI自动化的劳动条件。我们同意“自动化具有意识形态功能和技术维度”，但我们不同意她的总体重点。虽然AI和机器人技术的总体就业影响是不确定的，而且争论激烈，但将自动化视为“哑谜”的说法是非常不合历史的。一代又一代的工人，从手工织布机织工到装配线汽车工人和冷金属印刷工人，将证明资本用机器取代人类的趋势没有任何“虚假”可言。数以百万计的人从模拟和数字供应链以及自动化工厂绕过的行星区域迁移，证明了人口过剩的现实。虽然费代里奇可能非常正确地建议我们应该重新思考谁或什么应该被认为是社会上可抛弃的，但毫无疑问，资本总是使人甚至整个人口成为“可抛弃的”(当然，这就是为什么它必须被抵制)。当新一批企业机器力量将这种可抛弃性提升到一个新的水平，并将其全部视为虚张声势和炒作时，从这一现实中退缩可能令人放心，但这是不明智的、多愁善感的和危险的自满。也许是意识到了这一点，在文章的结尾，泰勒突然改变了思路，承认：“不可否认，技术

introduction: ai-capital .

5

上一代人几乎无法想象的人工智能的可能性现在已经存在了，人工智能以及机器学习和视觉方面的进步使一系列全新的工作面临风险。整个行业已经自动化到不存在。她正确地指出，“仅仅强调技术因素，就好像颠覆性创新’不知道从哪里来.或者像凉风一样自然，给根植于阶级冲突的事情蒙上了一层无可指责的必然性”(2018)。对此，我们说d'accord。但面对这些问题需要理解AI及其自动化能力，尽管它们伴随着大量的神秘化和拜物教，而不仅仅是一种“哑谜”。

我们的第三个批判对象，左翼的“最大限度主义”立场，是与“极简主义”方法截然相反的。它不仅认为AI和相关技术，如机器人技术，是“真实的”，并且有能力彻底改变生产和工作条件，它还将这些能力视为社会主义的垫脚石。这种观点的支持者乐观地认为，AI的自动化能力是一个改善(或许最终会废除)对雇佣劳动的剥削的机会，为一个人们享受更多自由时间、娱乐、个人发展和/或政治参与的社会开辟了前景。这似乎为社会主义者提供了一条比反对资本的全面革命的令人生畏的前景更容易实现的道路。相反，它可以通过一个社会民主政府来实现，既准备促进第四次工业革命的技术，又准备引入“普遍基本收入”(UBI)或“公民收入”——向所有公民提供独立于任何有薪工作的保障性支付。列宁有句名言:共产主义等于“苏维埃加上电气化”。可以说，“AI+UBI”已经成为技术进步的社会民主思想的公式。围绕这一吸引力形成了一群思想家，在尼克·斯尼切克(Nick Srnicek)和亚历克斯·威廉姆斯(Alex Williams)的《发明未来:后资本主义和一个没有工作的世界》(2015)等作品中得到了阐述;保罗·梅森(PaulMason)的《后资本主义》(2015)和亚伦·巴斯塔尼(AaronBastani)的《全自动奢侈共产主义》(2014、2019);后性别未来主义的排外女性主义(Hester2018)路线;以及一群自主主义者或后操作主义理论家。

再一次，我们同情并在许多方面分享这一群体的愿望;事实上我们中的一个人以非常相似的方式写了关于数字技术的文章(Dyer-Witheford2014)，而另一个人则建议马克思主义可能有用地纳入类似的最大化元素

1. inhuman power

超人类主义思想(Steinhoff2014)。然而，我们写这本书的部分目的是直接挑战这种人工智能乐观主义的一些前提。特别是，我们想要反驳这样一种观点，即AI可以很容易地从资本主义中分离、解脱和重新占有。在这里，思考最大化主义立场的来源是有用的一一部分来自马克思自己有时热情地拥抱生产力的现代化力量，以催化社会主义或共产主义的出现，以及后结构主义理论家，如吉尔斯·德勒兹和菲姆斯·瓜塔里，对这一立场的吸收和重新解释。然而，也许最重要的来源是反马克思主义哲学家尼克·兰德(NickLand,2012)的“加速主义”思想，他毫不妥协地为他所认为的不可阻挡的、物种转化(或终结)的计算能力辩护和庆祝。事实上，我们在这里描绘的最大化思想路线的开创性文件是威廉姆斯和斯尔尼切克的“加速主义宣言”(2013)，它试图左派地重新做兰德的思想:我们所描述的“最大化主义”理论家群体的最准确简写是“左派加速主义者”。

正如我们稍后将详细讨论的那样，这种对兰迪亚思想的挪用回避了其创始人的一些关键论点。首先，Land(2014)认为AI是资本主义的完善技术，将资本逻辑植入其核心。在兰德看来，AI不仅是由资本占有的，而且是由资本构成的:它是一种由劳动自动化、商品加速和金融投机过程构成的技术。第二个更令人不安的兰迪亚观点是，资本和AI的相互嵌入不会导致人类从资本主义中解放出来，相反，会导致资本从人类中解放出来:一个不再需要智人的资本;人类的灭绝1这些都是令人不安的想法。更让他们感到不舒服的是，兰德在他最近的作品中已经成为种族主义和厌女主义“黑暗启蒙”思想的反动支持者，这些思想以复杂的方式渗透到硅谷的文化中，而硅谷是许多AI生产的地方虽然我们强调自己与兰迪亚思想的这一方面无关，但我们仍然相信，任何共产主义对AI的立场都必须认真对待他最初的加速主义命题——AI与资本主义有一种选择性的亲和力，从根本上说是不人道的。

鉴于我们对左翼极简主义者对AI的否认和极简主义者对人工智能的赞美的反资本主义批评，我们可能会继续阐明

introduction: ai-capital .

7

一些中间立场，温和的立场。事实并非如此，或者只有在我们想要去除极简主义的自满和最高主义的乐观主义下面的地板的意义上才是正确的。我们对AI的批评可以用“深不可测”来形容，这有两种含义。首先，我们承认，正如我们认为其他AI思想家应该承认的那样，人工智能注入的资本主义的方向和目的地存在巨大的不确定性。对AI近期和遥远未来的能力和部署的相互矛盾的估计，可能而且应该让人产生政治上的眩晕。如今，AI在发达资本主义国家的日常应用已经司空见惯，这为其未来的发展轨迹提供了一些指标，但没有确定性。对于马克思主义的AI理论来说，这似乎是一个奇怪的断言，因为马克思主义在许多化身中都断言了大胆的目的论确定性;然而，正如我们稍后所论证的那样，马克思的著作本身包含了对资本技术强制的结果的不同描述。我们把它看作是一个可能性矩阵，而不是一张期票。就其本身而言，这种方法削弱了两种自满情绪，一种是认为无论新技术如何，社会斗争都不会改变，另一种是反过来认为，由于同样的新技术，资本的自我毁灭迫在眉睫。

尽管如此，我们的AI分析的第二个“深奥”方面是，在未来的可能性迷宫中，可以辨别出一些潜在的结果，这些结果远比最高主义者或最低主义者的立场所允许的更令人深感不安，他们各自对资本主义的延续或终结充满信心。这些结果使人们对劳动价值论的假设、生产环节斗争的持续中心地位，甚至对资本主义在废除其人类雇佣劳动力后无法生存的信心产生质疑。这些观点需要考虑，不是为了证明失败主义的正当性，而是作为革命共产主义思想复兴的组成部分。这就是我们所说的，在对AI进行马克思主义批判的同时，我们对马克思主义进行人工智能的批判。那么什么是AI呢？

“可以制造一台机器来模拟它”

为了理解围绕AI的热潮，我们需要定义AI是什么以及它是如何运作的。显然，我们不是AI专家;我们会因缺乏技术知识以及该领域快速发展的性质而犯错误。尽管存在这些困难，但我们相信努力解决基本的AI概念以及AI的实际工作方式

1. inhuman power

很重要。太多关于AI的报道，无论是赞美还是轻蔑，都忽略了这一努力。但只有通过对AI的科学和技术有所了解，才能提出有效的批评。

1956年在新罕布什尔州汉诺威达特茅斯学院举行的研讨会通常被视为“人工智能”领域和研究的开端。组织者是这样描述他们的目标的：

这项研究是在这样一个假设的基础上进行的:原则上，学习的每一个方面或智能的任何其他特征都可以被精确地描述，以至于可以制造一台机器来模拟它。人们将尝试找到如何让机器使用语言，形成抽象和概念，解决现在留给人类的各种问题，并改进自己。(McCarthy et al. 1955)

从那时起，AI的定义就越来越多，越来越模糊。AI专家没有达成共识(Faggella2018c)。将这个定义问题复杂化的是“AI效应”，即只要AI能够做某事，它就不再被认为需要智能。Pamela McCorduck指出，在AI的历史上，“每当有人想出如何让计算机做一些事情一—下好西洋棋，解决简单但相对非正式的问题——就会有批评者齐声说，这不是思考’”(2004:204)。最近的一本AI教科书引用了伊莱恩·里奇1983年对AI的精练定义:“研究如何让计算机完成目前人类做得更好的事情”(引用于Ertel2018: 2)。我们认为AI更正式的定义是:

AI的本质——实际上是智能的本质——是基于有限的数据及时做出适当概括的能力。应用领域越广，用最少的信息就能更快地得出结论，行为就越智能。(Kaplan 2016: 5-6)

这个定义将AI与单纯的计算区分开来，并允许我们通过考虑它们的速度、所需信息的数量和应用的普遍性来区分不同类型的现有和假设的人工智能。然而，卡普兰的定义并没有说明AI在世界上是什么样子。AI并不意味着机器人，这种混淆可以归咎于流行文化。机器人学家艾伦·温菲尔德(AlanWinfield)对机器人给出了三种互补的定义：

introduction: ai-capital .

9

1.人造装置:能感知其环境并有目的地在该环境上或在该环境中行动的人造装置;

1. 具身人工智能;或

1. 能够自主完成有用工作的机器(2012:8)

Winfield的定义中最重要的方面是，尽管形态不同，但所有机器人都有身体。然而，AI是软件，因此不需要具身，尽管它需要计算硬件来运行。先进的机器人使用AI来实现感知、计划行动和学习等功能，但机器人身体不一定需要AI，AI系统也不一定需要机器人身体。

为了区分实际存在的AI和推测的未来形式，使用以下三个类别是有帮助的:狭义AI，人工通用智能(AGI)和人工超级智能(ASI)。实际存在的AI是狭隘的：“目前绝大多数AI方法……主要是为了解决狭隘的任务而设计的”(Johnson et al.2016: 4246)。大多数AI研究，所有AI的商业应用，以及消费者日常使用的AI，都是基于任务的工具。它们在功能上更像显微镜，而不是《索罗》中拟人化的、政治上活跃的机器人L3-37。这些系统没有或很少有能力做超出其特定功能领域的任何事情。一个识别照片中的人脸的AI系统将无法处理语音录音、下围棋或撰写电子邮件，而且它肯定不会说波斯语。我们将在本书中讨论几十个现有的狭义AI系统。

在通用性的基础上，狭义AI与人工通用智能(AGI)形成对比，后者是指具有“高效跨领域优化能力”或“将学习从一个领域转移到另一个领域的能力”的AI(Muehlhauser 2013)。AGI指的是一种AI，能够在各种各样的环境中智能地参与和行为，并将在一种环境中学到的知识应用于新情况，这意味着它将“能够在许多知识领域进行推理”(Baum,2018a):3)截至2019年，AGI仍然是一项投机性技术，尽管公共和私人机构正在对其进行认真的研究。我们将在第3章中讨论AGI。

人工超级智能(ASI)则更具推测性。虽然ASI“可能具有一般智能”(Baum 2018a:3)，但它特别指的是“大大超过当前最好的人类思维的AI”

10 . inhuman power

跨越许多非常普遍的认知领域”(博斯特罗姆2014:63)。ASI是科幻小说的主要内容，但学术界对它的严肃讨论也经常发生，它通常被视为紧随AGI的创建(例如博斯特罗姆2014;Torres 2018;Baum 2018a;2018b)。最常见的设想是，AGI获得了自我修改的能力，并进化成具有不可预测能力的神一样的ASI。这种事件的后果是不可能肯定地预测的，但仅仅是它发生的可能性就迫使思想家和机构一一包括牛津大学的尼克博斯特罗姆和人类未来研究所，塞思D.Baum和全球灾难风险研究所，以及埃利泽·尤德科夫斯基和机器智能研究所(MIRI)认为，我们现在必须认真研究这种可能性。

另一个重要的区别是“强”和“弱”AI之间的区别。虽然有时强AI一词被用来指AGI (Kurzweil 2005: 260)，但这个词最初源于哲学家约翰塞尔(1980)的作品，他用它来描述那些相信高级AI将是有意识的人的立场。塞尔从弱AI的怀疑立场来批评这种观点，弱人工智能认为机器永远不会有意识。塞尔著名的“汉语房间”思想实验试图证明这一观点，该实验假设一个人(或机器)拥有一整套百科全书式的规则，可以在不会说或听不懂汉语的情况下将汉语翻译成英语。正如卡普兰所说，“强AI假定机器已经或最终将拥有思想，而弱AI断言它们只是模拟，而不是复制真正的智能”(2016:68)。在机器意识的问题上，我们没有明确的立场。本书的论证并不依赖于机器意识在物理上甚至逻辑上是否可能，也不依赖于机器意识是否不可能。在这个话题上，我们是功能不可知论者，正如我们在第3章中所论证的，资本也是。

实际存在的狭义AI通常分为三个思想流派:老式AI(GOFAI)、机器学习(ML)和情境、具身和动态框架(SED)。GOFAI，也被称为符号AI，是AI的第一种方法，直到20世纪80年代一直占据主导地位(博登2014:89)。它是一种旨在通过操纵以符号语言编码的信息，在机器中实现高级认知功能(如逻辑推理)的方法。这样的系统用符号语言创建其世界或问题域的内部表征，并执行逻辑

introduction: ai-capital .

11