人工智能和资本主义的未来_1-200的全文翻译

2012)和1984年由Douglas Lenat发起的Cyc项目(Lenat和Brown1984)，直到达特茅斯研讨会成立五十周年和21世纪初ML的兴起，AI的最初目标，转世为AGI，再次被接受并被视为现实(Goertzel 2007: 1162)。

尽管AGI与AI的最初目标相同，但前者所指的含义与AI在2010年代被商业化应用后的含义有很大不同。狭义AI专注于解决狭义约束问题，而AGI研究和设计的目标是创建“具有足够广泛(例如人类水平)范围和强大泛化能力”的系统，以便能够将知识“从一个问题或上下文转移到其他问题或上下文”(Goertzel 2014: 2-3)。

一个几乎与AGI同义的术语是“人类水平的机器智能”(HLMI)。3这个术语的定义有趣之处在于，它是以劳动为基础的。4一种定义将HLMI定义为“至少可以像典型的人类一样完成大多数人类职业”的AI(mller和博斯特罗姆2016:558)，另一种定义认为它“是在没有辅助的机器可以比人类工人更好、更便宜地完成每一项任务时实现的”(Grace et al.2017)。1).如果一台机器能够完成许多不同类型的工作，那么根据定义，它几乎必须具有普遍的智能，如果它要掌握它没有被教导去做的工作。虽然HLMI似乎非常适合讨论越来越智能的机器最终具有劳动能力的可能性，但我们拒绝这个术语，因为它的人类中心概念是，只有当机器长得像人类时，它才能被定义为智能。正如本杰明·布拉顿(Benjamin Bratton, 2015)所言，“人类智能无法穷尽所有形式智能的可能性”，因为我们“最好假设在我们的宇宙中，思维’比我们自己的特定情况更加多样化，甚至是异类”。因此，与HLMI相比，AGI是一个更可取的术语，因为它“强调了系统所需能力的“一般”性质”(Wang和Goertzel 2007: 1)。AGI可以拥有与人类同样一般的智能，而不模仿人类的认知。与人类相比，AI的认知差异已经很明显了。例如，“AI国际象棋程序将在人类使用直觉的某些情况下使用蛮力搜索，但AI仍然可以达到或超过人类水平”(Baum2017:8)。此外，AGI是一个更可取的术语，因为正如Ben Goertzel所言:(1)人类不一定那么聪明，因此，“人类水平”可能

112 . inhuman power

实际上限制了AGI的范围;(2)如果有可能设想并因此开发出“一个AGI系统，它具有与人类不同的长处和弱点，但仍然有能力解决各种领域的复杂问题，并在这些领域之间灵活地转移知识”，那么很难定义该系统是否达到人类水平(2007:1163)。布拉顿和Goertzel提出的论点被那些认为AI真正危险的是智能和意识的分离的人所强化(Shanahan 2015;Harari 2016)，也就是说，机器在不拥有类似人类所经历的自我意识的情况下，也能有智能行为的可能性。

让我们重申一下:截至2019年，AGI还不存在。有些人甚至怀疑这样的机器智能是可能的(Dreyfus 1972;Braga and Logan 2017;纳丁2018)。然而，在AI社区内，许多人认为AGI至少在理论上是可能的，有些人认为它“仅仅是一个非常困难的工程问题”(Pennachin和Goertzel 2007: 1)。至少，AGI被认为是足够合理的，可以吸引研究和商业投资。

在更大的AI社区中，AGI研究人员只占很小的一部分。从公司和研究机构的数量和规模、项目和资金来看，狭窄的AI行业让AGI行业相形见绌。鲍姆2017年对活跃AGI项目的调查概述了AGI作为一个行业的政治经济学。这项调查确定了全球30个国家共有45个活跃的AGI项目5，其中大多数是“基于大公司和学术机构”，少数是基于上市公司、非营利组织或政府机构。虽然“一些……“规模大，资金充足”，其中大多数是中小型规模(鲍姆2017:2)。AGI研究的特点是拥有大量的开源项目，共有25个项目在网上提供了源代码。虽然AGI项目中只有9个与军方有明确的联系，但只有4个被确定为明显没有军事联系，其余的则不清楚。大多数AGI项目都位于美国或其影响范围内，唯一不在其影响范围内的项目位于俄罗斯和中国(鲍姆2017:2)。最大的AGI项目是alphabet-谷歌的DeepMind、埃隆·马斯克(Elon musk)支持的Open AI和人脑项目，而其他著名的项目包括Vicarious FPC、微软收购的Maluuba、Open Cog、优步AI和Nnaisense。根据鲍姆的说法，

perfect machines, inhuman labour .

113

营利性公司有两种趋势:要么以准学术的方式支持“长期AGI研发，不考虑短期利润，甚至不考虑任何利润”，要么承担“为企业提供短期利润的AGI项目，同时努力实现长期AGI目标”(2017年:19)后一种趋势在微软、bb0和优步等公司中表现得很明显;鲍姆认为，如果“短期利润和长期AGI研发之间的这种协同作用被证明是强大的，它可能会推动AGI研发的爆炸式增长，类似于深度学习的情况”(2017:19)。根据鲍姆的调查，AGI研究的现状似乎仍然主要是，正如王培和戈泽尔十年前所说的那样，“产生出版物和初步结果”(2007:3)。

我们离发明AGI还有多远还不确定，但许多AI领域的工作人员认为这是不可避免的。Ethem Alpaydin认为，基于ML系统今天所能做的事情，“如果这种类型的学习智能在本世纪结束前的某个时间达到人类智能的水平，将不会令人惊讶”(2016:xii)，然而，也有更乐观的估计。在一项调查中，询问AI专家他们预计HLMI何时开发出来，中位数估计是到2022年有10%的可能性，到2040年有50%的可能性，到2075年有90%的可能性(mller和Bostrom 2016)。另一项调查询问ML专家AI何时会超过人类的表现，得出了类似的结果:9年内发生的可能性为10%，45年内为50%，100年内为75% (Grace et al.2018)。这项调查还询问了关于AI何时会在某项特定技能上超越人类的详细问题，并给出了许多不同任务的估计，包括到2024年翻译语言，到2027年驾驶卡车，到2031年从事零售业，到2049年写一本畅销书。机器学习专家认为，在45年内，AI有30%的机会在所有这些任务中超越人类，而所有人类的工作将在120年内实现自动化

AGI受到企业、政府和非政府利益团体的积极追捧。对于人类来说，这种机器的实际发明可能是资本主义最黯淡的未来之一，因为正如我们现在批判性地讨论的那样，这样的机器可以劳动，因此也可能创造价值。虽然能够进行劳动是创造价值的必要条件，但它并不是充分条件。因此，我们进行分析，并考虑AGI劳动的可能性，而不是它是否能创造价值。

114

inhuman power

人类劳动和劳动力

在《资本论》中，马克思假定劳动是“人类独有的特征”，并反复将这一中心概念限定为“人类”和“活着的”，甚至是“活着的人”(1990:283-4)。他以这种方式对劳动的限定可以解释为反对资产阶级政治经济学家的修辞，后者盲目地认为土地和资本，除了劳动，也是价值的来源但马克思关于劳动本质上是人类的假设不仅仅是修辞。虽然马克思主要是根据劳动发生的社会关系来讨论劳动，但无论好坏，他的劳动概念的试金石是人。劳动是人的，这是马克思的公理之一。

当马克思讨论劳动本身，即不涉及劳动发生的社会时，他把劳动与动物的生产活动明显地区分开来。在马克思的理论框架中，当动物被用于资本主义生产过程时，除非作为原材料投入，否则它们在功能上等同于机器，沦为固定资本的地位考虑到这种功能上的等价，马克思在1844年《手稿》和《资本论》中提出的关于为什么劳动与动物的生产活动在性质上不同的论点，对于理解为什么机器不能劳动和为什么理论上AGI可以劳动都是重要的。马克思关于为什么动物不能劳动的论点特别有趣，因为他们用与狭义人工智能领域特定行为非常相似的术语来描述动物。推而广之，这表明AGI概念与马克思的劳动和劳动力概念之间存在同构性。

在《资本论》第七章中，马克思用超越历史的术语论证了劳动是“人与人之间的过程”。在这个过程中，人通过自己的行动，调解、调节和控制自己与自然之间的新陈代谢”，通过这种新陈代谢，人类“以一种适合自己需要的形式占有自然的物质”，并“作用于外部自然并改变它”(1990:283)。这句话似乎让人觉得，马克思是在说，人类是唯一对生存环境采取行动、利用和改变生存环境的生物。然而，在1844年的《手稿》中，他认识到所有动物都是“感性的、物化的主体”，它们构建自己的世界版本，并复制它们的栖息地，尽管是以一种特定物种的方式(Fracchia2017)。纵观1844年《手稿》，马克思认识到人类和动物有很多共同之处，因为

perfect machines, inhuman labour .

115

为了生存，所有生物都必须“不断地与自然交流”(Mulhall1998年:10)。除了创造特定物种的栖息地外，人类还与动物共享吃、喝和繁殖等“动物功能”(马克思2007:75)。但是，尽管有相似之处，人类与外部环境互动的具体方式却与动物有很大不同。

马克思用生命活动的概念解释了这种差异，并认为“一个物种的全部特征……包含在其生命活动的特征中”。动物“与它的生命活动是直接等同的………不将自己与它区分开来，并且]是它的生命活动”，而人类的区别在于具有“有意识的生命活动”(2007:75)。因此，马克思在人与动物之间划出的分界线之一是，前者意识到他们所做的事情，而后者则没有。他在《资本论》中重申了这一论点，指出人类行为背后的有意识目的“决定了(他们的)活动模式”(1990:284)。反过来，这种意识让人类“自由发挥(他们)自己的体力和脑力”(1990:284);因此，他们在活动中是“自由的”(2007:75)。

为什么意识赋予人类劳动力自由?马克思所说的“自由”是什么意思?其含义当然是，动物在活动中是不自由的。但是为什么呢?这种相对自由的差异可以通过马克思强调人与动物之间差异的两段话来更好地解释。重要的是，这些段落还指出了马克思认为人类独有的其他心理能力。在《1844年手稿》中，马克思写道:

诚然，动物也生产。它们自己筑巢、居住，就像蜜蜂、海狸、蚂蚁等。但是动物只生产它自己和幼崽立即需要的东西。动物只进行片面的生产，而人则进行全面的生产。它在直接的肉体需要的支配下进行生产，而人甚至在摆脱肉体需要的情况下进行生产，而且只有在摆脱这种需要的情况下才真正进行生产。动物的产品直接属于它的肉体，而人则自由地面对自己的产品。动物是按照它所属的物种的标准和需要来制造东西的，而人则知道怎样按照每一个物种的标准来生产，并且知道怎样处处把固有的标准应用于对象。因此，人也是按照美的法则来创造事物的。(马克思2007:75-6)

116 · inhuman power

这段话应该和《资本论》(in)著名的蜜蜂和建筑师段落一起读:

蜘蛛的操作类似于织布工，而蜜蜂的蜂房构造会使许多人类建筑师感到羞愧。但是，最坏的建筑师与最好的蜜蜂的区别在于，建筑师在用蜡建造蜂巢之前，先在头脑中建造蜂巢。在每一个劳动过程结束时，产生的结果在一开始就已经被工人设想好了，因此在理想中已经存在了。(马克思1990:284

在这里，马克思把意识和认知(例如创造力、学习能力和想象力)作为人类独有的东西，并把它们与决定动物整个生命活动的动物本能对立起来。人类和动物的生产都与生存本能紧密相连，但本能也决定了动物生产和消费的内容和方式，以及生产和消费的时间和地点。因此，动物存在的形式和内容取决于它是什么物种，因为所有动物与其生命活动都是相同的(Mulhall1998年:12;Fracchia 2017)。对马克思来说，动物的活动因此是“不自由的”，因为它是本能的。

因此，人类不同于动物和算法，因为他们已经“抛弃”了他们生命活动的“本能形式”，即劳动(马克思1990:283)。马克思劳动概念的人类中心主义可以理解为基于马克思对人类和其他动物进化的假设:前者进化出意识和一系列其他心理能力，而后者没有。因此，人类可以使他们的生活活动和劳动成为“意志和意识的对象”，这意味着他们可以推理他们生产什么，如何生产，何时生产以及为什么生产，并且可以想象和深思他们可以做什么不同(马克思2007:75;Mulhall1998:13)。正是基于人类在生产中可以做出的这种选择，马克思提出了人类可以“自由发挥”他们的精神和身体能力的论点。

这种自由的游戏也使人类能够“普遍”地生产，即跨越多个领域，而不是片面地、特定领域地生产动物。换句话说，人类比其他动物拥有更广泛的生产活动范围，这一范围包括“按照每个物种的标准”进行生产。此外，人类的生产并不局限于眼前的物质需要，因为曾经由本能强加的任何自然限制都被克服了，而且是“人为的”

perfect machines, inhuman labour .

117

118 . inhuman power

(Fracchia2017年)。根据马克思的观点，原则上，人类几乎可以用他们的头脑和双手去做任何事情，包括模仿自然和学习其他动物的行为和创造，比如蜜蜂的蜂巢，海狸的水坝和蜘蛛的网，以及“生产“直接属于动物身体”的人工制品(衣服作为人造皮肤)，并且可以“本能地”学习和制造其他物种所做的事情(有翼的飞行器飞行)”(Fracchia 2017年)。

但为什么人类可以用自己的劳动做到这一切呢?马克思关于人类具有普遍生产能力的论点应该这样理解:首先，人类能够从他们观察到的自然界中动物的行为中学习，从他们过去的成功或失败中学习，然后，第二，通过他们的创造力或想象力，将这些新知识应用到不同的生产领域，甚至发明一个新的生产领域。反过来，这种能力依赖于马克思所理解的人类独有的各种心理能力或现象。在上面引用的两段话中，马克思或明或暗地将人类劳动置于:审美欣赏;学习和理解(从其他动物生产的东西中);有意识的头脑;形成思想;想象和构思计划;以及，总的来说,在解决生产中的问题时要有创造性和适应性。总的来说，这些心理能力可以被理解为一般智力，它使人类在他们可以做的事情上具有灵活性，并适应新的和不同的环境、劳动对象和其他生产条件。

今天的人类、动物和机器

马克思关于人类和动物的假设和论点，以及建筑师的工作，都存在许多问题。往好了说，它们是基于19世纪新生的生物科学的证据，往坏了说，它们是基于他的想象力和人文主义信仰。在当代动物行为学的背景下，他所描绘的人与动物之间的鲜明区别能否维持下去?为什么动物不能劳动?马克思关于劳动本质上是人的论断能站得住脚吗?关于动物是否可以劳动和/或产生价值的争论已经持续了几十年(参见Benton1988,1993,2003;埃尔斯特1985;王尔德2000;佩洛2002;德雷克2015;约翰逊2017;Kallisand swyngedown 2018;Morton 2017)，以及马克思对人类劳动自由和人类不自由的本能算法行为的鲜明区分

动物受到了动物行为学(即研究动物行为和认知的学科)证据的批评。例如，Jon埃尔斯特(1985)和Ted Benton(1988、1993)认为，动物生产远不是单方面的，它不仅具有高度的可变性，而且具有相当大的适应性，特别是当它们面临新的环境条件(如城市环境)时。同样，Paul Cockshott和KarenRenaud质疑了马克思在做某事之前根据计划或有愿景(即想象)将人类和动物区分开来的尖锐区别，注意到狼群在狩猎时如何划分任务，各种哺乳动物如何使用情景记忆来计划，以及实验如何显示蜘蛛在织网时形成计划(2016:21-2)。

动物的行为比马克思所认为的更为普遍，它们的认知也是如此。事实上，认知进化的研究人员不再假设动物行为可以适应复杂的层次结构，而是专注于识别和描述动物的“心理器官”或模块，每个都有特定领域的功能，并且进化到只接受“某种输入”(例如光学、听觉或嗅觉)与给定的生态问题有关(Vitti2013:394)。虽然最初是专业化的，“模块化认知”，由于不断增加的脑化，演变成“灵活和领域通用”的认知(Vitti2013年:395)。推动这种进化的可能是“杂食性饮食、多变的栖息地、漫长的发育周期、延长的寿命和普遍的社会互动”(Vitti2013年:396)。虽然包括蜜蜂在内的大多数动物“专注于其生态位所需的技能”，但一些具有高脑化水平的物种(哺乳动物、鸟类和头足类动物)被认为是“通才”(Vitti2013: 395)。

蒂莫西莫顿(2017:56)对马克思关于人类建筑师的劳动与蜜蜂的劳动不同的论点提出了一个更根本的问题。他认为，不可能证明人类或蜜蜂都有想象力，也不可能证明人类在规划时没有执行算法。莫顿认为，马克思提出的人类生产活动与动物生产活动截然不同的假设是“基于对人类的形而上学断言”(2017:56)。

这些批判清楚地表明，人和动物之间的区别比马克思想象的更加模糊。我们认为，人类和智能机器之间的区别也在变得越来越模糊。的确，许多关于人工智能的例子

perfect machines, inhuman labour .

119

哺乳动物和昆虫的复杂行为和内在生活与马克思坚持认为劳动是人类固有的观点相抵触，在机器学习系统的功能中有类似之处。如果说马克思关于人类劳动的概念可以用动物做人类独有的事情的例子来挑战，那么同样的观点也适用于机器，尤其是那些表现出生产力、创造力、想象力甚至适应性的行为的机器。一些ML系统甚至在其神经架构中设想计划或概念，然后在系统从未遇到过的新的相应示例中分别执行或识别这些计划或概念。

机器创造力的一个显著例子是DeepMind的AlphaGo，它首先在2015年10月击败了欧洲围棋冠军樊辉，然后在2016年3月的一场比赛中以4比1击败了围棋世界冠军李世石。古老的围棋一直是AI研究的里程碑，因为它是人类设计的最复杂的游戏之一。下棋的人工智能可以简单地使用蛮力，搜索所有可能的走法，直到找到获胜的走法，但这在围棋中是不可能的，因为棋盘的可能配置，以及潜在的走法，比宇宙中的原子还要多。在AlphaGo证明这一点之前，人们一直认为围棋需要人类水平的模式识别和类似于直觉的东西为了学习如何下围棋，AlphaGo依赖于深度神经网络和蒙特卡罗树搜索的结合。它的架构由三个卷积神经网络(CNN)组成，分为一个“价值网络”和两个“策略网络”。12cnn是在图像数据上进行训练的，这些图像数据代表了来自顶级围棋选手记录的16万场比赛中的个人走法(“状态”)(Silver et al. 2016)。价值网络学习了如何下棋，并在给定任何当前游戏状态的情况下估计获胜的概率，而策略网络学习了在给定当前游戏状态的情况下选择什么走法。反过来.这两个政策网络的决策通过让它们相互玩3000万次并跟踪游戏的最佳结果而得到加强(Silver et al. 2016)。

AlphaGo的创造力或直觉在与世石的第二局第37步中表现得很明显。尽管这一招后来被专业和围棋冠军(包括世石)形容为“有创意”、“独特”和“美丽”，以及“不人道”，但它一开始还是让所有人大吃一惊(Metz2016年)。在AlphaGo迈出这一步后，世石花了很长时间才做出回应。评论人士注意到这是多么奇怪，有人认为神经网络犯了一个错误，因为a

120 . inhuman power

人类永远不会做出这样的举动。但这一举动是经过深思熟虑的，而且是基于AlphaGo的政策网络所学到的。DeepMind的工程师不可能预测到这一步棋，只能在AlphaGo走完这一步棋后才能确定它的推理:在计算出人类在游戏的特定状态下走这一步棋的概率为0.010%后，它还是走了(Metz2016)。可以说，AlphaGo制定了一个计划并执行了它。AlphaGo不仅学习了人类如何下棋，而且超越了几代人类围棋选手对如何下棋的限制，做出了看似适得其反的高度新颖的招式，并以人类无法做到的风格下棋(Metz2016年)。AlphaGo的创造力来自于这样的棋路，以及它如何以一种全新的、非人的方式学会下围棋;如果是人类做了这其中的任何一种，她很可能会被认为是原创的、有创造力的、高智商的。

尽管取得了这场胜利，但我们注意到，Katja Grace等人(2018)列出的AGI里程碑列表中的“Go”尚未通过。这个里程碑被特别列出为“Go(与人类相同的训练)”(Grace et al. 2018: 747)。虽然这些变化可以用AI效应来解释，但AlphaGo的胜利虽然令人印象深刻，但与人类学习如何下棋相比，就不那么令人印象深刻了。正如Brenden M.Lake等人(2017)指出的那样，一个人只下几次围棋就能学会围棋，但对于一个ML系统来说，要做到这一点，需要数十万到数百万局的数据。AlphaGo接受了超过3000万局围棋的训练，而李世石一生中可能只下过5万局围棋(Lake et al. 2017: 23)。这种差异强调了机器学习的主要缺点:它只需要做一件事就需要过多的数据。另一方面，人类能够“构建丰富的因果模型，做出强有力的概括，并构建强大的抽象”，这一切都是基于极其有限的数据(Tenenbaum et al. 2011:1279)。事实上，仅仅基于几个例子进行泛化的能力可能是通用智能的核心。

一些认知心理学家认为，人类通过想象力从有限的数据中进行归纳;因此，通往AGI的道路可能在于通过为系统配备人工想象力来克服数据暴食的问题(Lapovsky 2014;Johnston 2008: 408;Ritter et al.2017)。想象力是马克思认为标志着劳动是独一无二的人类的另一个因素:人类建筑师在现实世界开始施工之前就在脑海中建造了一些东西。

perfect machines, inhuman labour .

121