人工智能和资本主义的未来_1-200的全文翻译

初创公司VicariousPFC已经建立了一个解决CAPTCHA代码的系统(“完全自动化的公共图灵测试来区分计算机和人类”)，专门用于区分人类和在线机器人。它依赖于给予AIVicarious所声称的“人工想象力”(George等人，2017)。根据该公司的说法，想象力涉及“描绘(AI)所学到的信息在不同场景下的样子的能力”(Knight2016a)。更准确地说，该公司将这样的想象力与视觉皮层和新皮层中的归纳偏差和约束联系起来，认知心理学和神经科学已经表明，这与人类大脑的学习效率和泛化能力有关(Tenenbaum et al. 2011;George等。2017:1).13

归纳偏差——也被称为学习偏差——被定义为“导致学习者倾向于一个假设而不是另一个独立于观察数据的假设的因素”。当两个假设同样适合数据时，归纳偏差是在它们之间做出决定的唯一依据”(Griffiths et al.2010:1)换句话说，归纳偏差是一种启发式过程，人类大脑已经进化到可以处理用有限的数据进行感知和学习，并将学习到的经验推断到新的环境中的问题。认知和发展心理学家提出了人类儿童表现出的一些归纳偏见，其中一些已经在AI项目中进行了模拟，以识别单词和物体(George等人，2017;Ritter et al. 2017)。一种归纳偏差是对形状的识别，人类更喜欢对物体和单词进行分类，而不是颜色、纹理或大小。识别形状的倾向，从而识别有用的物体，在进化上有明显的好处。形状偏见可以被理解为儿童在学习新单词时使用的一种天生的解释工具。

正是通过模拟这种归纳偏差，Vicarious为解决captcha的AI配备了人工想象力。CAPTCHA由字母以扭曲的组合挤在一起组成，并且经常添加混乱以混淆ML算法，例如分类器。如果单个字符可以分割，这些算法就能很好地工作，但这样做“需要理解字符，每个字符都可能以多种组合方式呈现”(George等人，2017年)。1).实现这样的理解，即使只是解决一种特定风格的CAPTCHA，通常也需要一个系统在数百万个不同形状和方向组合的标记字母示例上进行训练。如果不能，系统就会有困难

122 . inhuman power

在告诉字母是什么，它在哪里结束，以及下一个字母在哪里开始。当然，由于视觉皮层的归纳偏见，人类可以在没有任何明确训练的情况下解决一种新型的CAPTCHA。哺乳动物大脑视觉皮层中的反馈连接使哺乳动物能够从背景中识别人物(即人物-背景感知)，并隔离“物体的轮廓，即使部分透明的物体占据相同的空间位置”(George等人，2017:1)。

代理所提到(或狡猾地推销)的想象力在人工智能社区更普遍地被称为“一次性学习”，这是一种人类能力，至少在一定程度上是由归纳偏见实现的。单次学习指的是人类儿童或ML系统被展示一个标记的例子，并从中能够学习如何识别同一类别物体的其他例子，无论是猫、字母还是整个单词，依靠各种天生的归纳偏见。例如，典型的人类两岁的孩子可以学习并开始使用像“猫”这样的新词，并且，在看到一个例子之后，可以从不同的角度识别猫，不同颜色和大小的猫以及各种姿势的猫，等等。要让一个ML系统识别照片中的猫，就必须向它展示数百万个不同角度、不同形状、大小、材料、颜色等的猫的例子(Tenenbaum et al. 2011: 1279;Lakeet al.2017:22)。同样，在下了一盘或几盘围棋之后，几乎任何人都会学会如何下围棋，也可以将这些知识泛化，轻松地下围棋的许多变体之一，但对于AlphaGo来说，要做到同样的事情，“需要大量的重新编程和再训练”(Lake et al.2017:23)。来自DeepMind的研究人员发现，在ImageNet上训练的匹配神经网络的一次性学习模型也表现出对形状的偏差，尽管偏差的大小取决于特定的神经架构(Ritter et al.2017)通过这种归纳偏差，神经网络学习如何学习分类或如何成为分类器，即实现分类的算法。

代理公司在他们称之为递归皮质网络(RCN)的“结构化概率生成模型框架”上模拟归纳偏差。生成模型基于概率模型从观察到的或学习到的现象中产生表征或抽象。用马克思的建筑师来解释，如果她想建造一个蜂窝状的结构，这个建筑师会在蜂巢中观察到蜂巢;而这些蜂巢的记忆，则是建筑师的记忆

perfect machines, inhuman labour .

123

她脑海中的生成模型，她可以从中生成(即想象)许多不同的蜂巢建筑图纸。在AI中，这种生成模型首先是基于它在数据中识别的模式创建的，然后用于预测该模型的概率，例如产生它所训练的数据的新变体。在VicariousRNC的情况下，它的归纳偏差使它能够基于少量的训练数据学习字母的轮廓和表面，然后反过来通过生成分割字符来打破captcha(George et al.2017)。这一代可以被理解为一种人工想象，因为以这种方式分割字母类似于想象它们在不同形状、方向和位置或没有特定背景或失真的情况下的样子。在这种情况下，想象似乎不仅与创造行为有关，而且与适应不同的情况或嘈杂的环境有关。对于Vicarious来说，为AI配备想象力的最终目标是使其能够将学习转移到一个完全不同的领域。重要的是，这种转移可以被理解为适应性，这个词是AI研究人员用来解释AI如何变得普遍智能和/或更像人类的(Alpaydin 2016:ix, xii, 17,24;Kaplan 2016: 49-50)。

什么劳动?

人类和动物之间的差异并不像马克思所认为的那样明显，人类和机器之间的区别正变得越来越模糊，机器学习系统变得越来越复杂。然而，这些动物和机器生产或看似富有想象力、创造性和适应性的行为的例子，是否真的挑战了马克思关于劳动是人类独有特征的假设?提出马克思关于劳动和价值创造的人类学概念化是无效的，指出他所说的人类独有的东西也存在于更广泛的动物王国中，正如劳伦斯·王尔德所说，只不过是一种修辞策略，即科学来源被用来“模糊生产技术的区别，而没有真正掌握马克思的论点”(2000:44)。将最复杂的深度学习系统的狭隘能力和特殊功能与劳动等同起来也是错误的。虽然马克思的人类中心主义必须受到挑战，但仅仅列出一系列行为或生产活动并不能推翻他的论点。只要AI系统只能执行一项甚至几项

124

inhuman power

狭义定义的任务，不管它们看起来多么有创造力或想象力，它们的行为都不是劳动。

马克思给出的人类劳动不同于动物和机器活动的原因是，人类劳动具有高度的灵活性和适应性一一简而言之，具有普遍性。虽然许多动物比马克思认为的适应性更强，并且具有领域通用智能，但人类的智能更为通用，这使得这个特殊物种比其他任何物种都具有更广泛的生产行为质量范围。尽管Cockshott和Renaud(2016)试图模糊人类和动物可以做什么之间的区别，但他们仍然认识到，人类可以做什么的定性范围比所有其他动物和当前机器的范围更广。他们注意到瓦特的蒸汽机很容易取代马作为生产中的动力来源，而人类不那么容易被取代(尽管他们认识到机器确实取代了他们的位置)，他们认为“除了肌肉能量之外，还有更多的工作要做”，因此，人类“几乎可以胜任任何劳动任务……他们具有适应性………正是这种适应性必然是我们成为优势物种的根本原因。”实际上，我们是通用机器人”(Cockshott和Renaud2016:21)。因此，当马克思认为人类有劳动能力时，他是在暗示一系列定性的生产和适应性行为，其中包括潜在的新行为。

机器、动物和人类可以被置于从一般到狭义的智能连续体上人类接近于一般，而现有的机器，包括机器学习系统，以及昆虫物种，则处于相反的一端。马克思关于劳动和劳动力的概念也可以定位在这个连续体的某个地方:对于一个有能力从事劳动的人来说，它必须达到某种尚未定义的脑化临界点和一般智力的门槛，截至2019年，迄今为止只有人类已经跨越了这一界限。因此，虽然我们同意马克思的观点，即只有人类才能劳动，通过将劳动能力置于智力普遍程度的连续体上，但我们仍然认为，另一个人也可以劳动，因此，马克思的劳动概念不应再被视为必然是人类学的。将劳动概念建立在一般智力上，切断了它与人类的内在联系，因此，理论上允许其他一般智力的存在可以劳动的可能性。一般智力

perfect machines, inhuman labour .

125

这种存在的实际出现将从经验上证明，劳动并非人类独有的特征。

鉴于AGI研究人员将一般智能理解为使用一般知识进行推理的能力，执行许多不同的任务，以及在新的和完全不同的领域和环境中操作的能力，马克思关于为什么只有人类才能劳动的论点可以重新表述为:人类之所以能够劳动，是因为他们一般都是智能的。因此，我们假定一般智能(至少是AGI社区如何理解它)与马克思的劳动力和劳动概念之间存在同构性;如果通用智能与马克思的劳动力概念是同构的，那么几乎按照定义，AGI将能够完成劳动。

反对AGI劳动可能性的一个可能的反对意见是基于JohnSearle(1980)的中文室论点，即机器永远不可能有意识。鉴于马克思认为劳动是有意识的和有目的的活动，Searle的论点也反对AGI能够劳动的可能性。虽然有可能将创造力和想象力的心理能力以及一定程度的适应性自动化，但意识可能被证明是防止机器进一步蚕食人类独特性的最后一道防线。但意识或自我意识在多大程度上重要呢?

对于一些人来说，除非机器是有意识的，并且因此能够理解它在做什么，因为它的行为和思想是有意义的，否则就不可能真正谈论智能(参见Searle 1980;Nadin 2018)。例如，在创造力方面，有人认为智能机器应该能够有意识地识别其创作或创作过程中真正新颖或有价值的(无论是文化还是经济)，并能够解释好与坏艺术之间的区别(Coeckelbergh 2017)。其他人则认为，具身AI不仅要在特定环境中导航，还要在整个世界中导航，这可能需要某种自我意识(与意识相关)。例如，Christoph Adami认为具身AI“必须确定它们在世界上的位置，并且像我们一样，如果它们有准确的自我意识，它们会更好地工作”(引用于Johnston 2008: 411)。

但是，智能在多大程度上与意识紧密相连呢?在《HomoDeus》一书中，尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)提出“智能正在与意识脱钩”(2016:101)。他指出，直到最近才有

126 · inhuman power

某些任务——下棋、开车或诊断疾病一—不仅需要大量的智力，而且只能由有意识的人类来完成。IBM的“深蓝”在1997年的一场六局国际象棋比赛中，通过对可能的走法进行蛮力计算，击败了当时的世界冠军加里·卡斯帕罗夫，虽然诊断疾病和驾驶汽车需要的不仅仅是蛮力，机器不需要有意识，只要它们的神经架构足够深，可以识别数据中的细粒度模式。同样，AI研究员Murray沙纳汉(2015)认为，机器学习可能正处于将智能与自我意识分离的轨道上。继赫拉利和沙纳汉之后，我们认为劳动也可以与意识分离。人类是否应该成为创造力、想象力和智力—一甚至是意识——的试金石，这个问题无关紧要;对资本来说，重要的是这些能力被模仿。在智能机器时代，中文室很可能是生产的隐藏居所(Kjøsen2018: 161)。

走向AGI

Ethem Alpaydin表示，如果一个系统通过机器学习“达到人类智能水平”，他不会感到惊讶(2016:吴恩达(AndrewNg)等人也持这种观点，他主张“人类智能归结为单一算法”，并认为深度学习即使不能解决模拟人类智能的问题，至少比之前尝试过的任何方法都更接近于实现这一目标(Domingos2015:117)。同样，Domingos指出了机器学习中的五个主要算法“部落”，但断言目标是将“所有这些算法的关键特征’统一为“最终的主算法”(2015:xvii)，并宣称在实现这一目标后不久将实现超越人类智能的AI(2015:286)。

这种狭隘的AI方法可以理解为将智能视为一个包含大多数互不相关工具的“工具箱”。但将它们连接起来可能很困难，因为每个工具都是“根据非常不同的理论考虑”构建的，因此“将它们作为一个大系统中的模块实现不一定会使它们一起工作，正确和有效”(Wang和Goertzel 2007:6).在认识到综合方法的可能性的同时，AGI社区对通用智能出现的可能性提出了异议

perfect machines, inhuman labour .

127

或者AGI甚至可以弥合各种狭窄的人工智能之间的差距(Wang和Goertzel 2007: 6;Goertzel 2014)。正如Goertzel所说，“AGI方法将通用智能’作为一种与任务或特定问题能力根本不同的属性，并直接关注于理解这种属性并创建显示[它]的系统”(Goertzel 2014:2). Wang和Goertzel指出，狭隘的人工智能和AGI研究领域都认为学习是智能的一个关键方面

大多数现有的“机器学习”工作都不属于AGI，因为它们孤立地定义了学习问题，而没有将其视为更大图景的一部分。他们并不关心创造一个拥有广泛智能的系统，其通用性至少与人类的思维/大脑大致相当;他们关心的是在更狭窄的背景下进行学习。(Wang和Goertzel 2007: 2)

同样，尼尔斯·j·尼尔森(Nils J.Nilsson)认为，通过“建立特殊用途系统”来达到HLAI的目标可能是错误的，相反，他提倡一种“可以学习和教授的通用可教育系统”，并且具有“最小的，尽管广泛的，内置功能”(2005:68)。这些能力包括感觉-运动系统、预测和计划、学习、推理和表征。实际上，尼尔森认为“儿童机器”应该以与人类相似的方式学习和发展。

然而，尽管对AGI的追求不同于狭义的人工智能，但从根本上来说并非如此。AGI研究人员可能会使用与泛化相关的机器学习方法(例如迁移学习和归纳偏差)，从而与创造通用智能的目标重叠，但“除了那些需要帮助人类中介的原则之外，还需要额外的架构和动态原则。”机器学习帮助创造了各种狭义的人工智能系统”(Goertzel2014:4)。然而，与此同时，“通用”计算机系统并不一定需要“单一因素”来负责其所有的跨领域智能。该系统有可能是几种技术的集成”(Wang和Goertzel 2007: 5)。也就是说，尽管Wang和Goertzel拒绝将各种狭窄的人工智能聚合为AGI的可能性——这将相当于加入许多不同的自动化混凝土劳动

128

inhuman power

进入劳动力-他们似乎对这样一种可能性持开放态度，即只要在解决较窄的问题时牢记系统的一般性质，它们就可以被集成到一个通用智能中。一台具有通用智能的机器是否可以从当前和未来的深度学习方法中脱颖而出，或者系统是否必须从一开始就为通用目的而构建，这是人工智能社区正在进行的辩论。判断一种比另一种更有可能或更有希望，这远远超出了我们的专业知识。

但考虑到人工智能领域的萌芽，我们应该多认真地考虑AGI可能出现的情况?有可能，正如Kurzweil(2005a: 33-4)和Bostrom(2014)所言:29)我认为，AGI可以通过一个递归的自我完善过程出现，在这个过程中，人工智能可以访问自己的设计，并有能力升级它，使其改进或全新版本(例如，具有完全不同的神经结构或从并行计算转向量子计算)。这反过来又会无限地改进自己。这个过程也会加速，这意味着机器智能的改进将以越来越近的间隔进行，而且由于递归自我完善也将由agi完成，这可能会导致人工超级智能(ASI)的出现。

这一论点与马克思的思想并不完全陌生。正如我们在第一章所讨论的，马克思认为，大工业没有“足够的技术基础”，不能“站稳脚跟”，直到生产的一般条件发生变化，以至于几乎所有的东西，包括机器，都是由机器生产的(1990:506)。马克思认为这种现象是工业革命的核心特征。为了AGI的出现，资本主义可能必须经历另一场类似于最初的工业革命的革命，以创造一个足以“充分发展人工智能资本主义”的技术基础。人工智能必须成为生产的一般条件，这样人工智能就不仅仅是由人工智能产生的，而且人工智能也会递归地自我改进。

b谷歌的AutoML(自动机器学习)项目就是这样一个过程的一个例子，因为它是一个“学习构建其他机器学习算法的机器学习算法”(Metz2017b)当研究人员构建一个神经网络时，他们必须在功能强大的计算机上运行数百个实验，以测试无数可能的排列中哪种效果最好;这个过程需要多次调整模型及其参数，研究人员不可能总是精确地进行调整

perfect machines, inhuman labour .

129

解释一下他们为什么要在此基础上进行这种调整;一种不明确的直觉往往是唯一的指导。正是这个困难的过程，谷歌旨在通过创建“分析其他算法发展的算法，学习哪些方法是成功的，哪些是不成功的”(Metz2017b)实现自动化。虽然这与递归自我完善相去甚远，但它是当前AI研究的一个重要趋势的一部分，这对AGI也很重要，即关注算法如何学会学习。

AGI是一种完全不同于马克思在《资本论》中讨论的19世纪蒸汽动力机器和21世纪初狭隘的AI的机器。作为一般的智能它将具有通用的劳动能力，因此能够执行劳动。虽然劳动机器和价值定位机器是马克思主义的矛盾，但马克思似乎在《政治批判大纲》中出现的一段鲜为人知且奇怪的段落中认识到了这种可能性，这段段落出现在“机器片段”之后约60页。

完美机器上的片段

马克思有关于AI或智能机器人的理论吗?这似乎是一个奇怪的问题，因为在他的一生中，没有任何类似这些技术的东西存在。然而，创造人造人和动物的概念早在马克思诞生之前就存在了。18世纪各种各样的自动机得到了颂扬和广泛的认识。雅克·德·沃卡松在18世纪中期建造了自动机“长笛手”和“消化鸭”，皮埃尔·雅克-德罗兹在1768年至1774年间建造了他的三个玩偶自动机，在维多利亚时代，人们对这些机械装置如此着迷，以至于1848年到1914年这段时间被称为“自动机的黄金时代”(Bailly2003)。因此，马克思很可能意识到了这种自动机，当他写下以下文字时，它们可能已经在他的脑海里了：

如果机器是永远存在的，如果它本身不是由必须被复制的短暂的材料组成的(且不说发明更完善的机器会剥夺它作为机器的特征)，如果它是永久移动的，那么它将完全符合它的概念。它的价值不需要被取代，因为它将继续以一种坚不可摧的物质形式存在……它将继续作为劳动和生产的生产力发挥作用

130

inhuman power

同时，它也是第三种意义上的货币，它本身具有不变的价值。(1993: 766)

从表面上看，这段话在关于机器的耐用性和维护成本的理论观点上并不引人注目：一台坚不摧的机器永远不可能把它的价值完全转移到流通中，这实际上意味着，由于它的价值将接近于零，它可以不断地发挥作用，减少必要劳动时间，并在不需要任何额外资本支出的情况下产生相对剩余价值但让这段话更有趣的是，马克思对“永恒流动”的召唤，将其置于科幻小说的领域。当然，在马克思时代没有这样的机器，根据热力学第一定律和第二定律，也不会有这样的机器存在。因此，这段话可以被解释为马克思参与了一种幻想，就像他在《政治批判大纲》的其他几个点上所做的那样，包括“机器片段”。如果马克思是一种思辩的心态，那么他在这段引语中括号内的陈述就会比他提到的永动机更有趣：“除了发明更完美的机器之外，它还会剥夺机器的特性。”正如我们中的一个人(Kjøsen2013a,2013b,2018)通过科幻小说的视角所争论的那样，这句话是马克思在他的全部作品中最接近思考智能机器人、机器人或AGI的可能性。事实上，马克思可能是在推测机器人，虽然机器人是一个罕见的词，但在1837年就已经意味着“在形式和运动上类似人类的机器”(在线词源词典，无出版日)，经常被用来指自动棋手。因此，马克思所说的“完美机器”可以这样解释：

在马克思讨论固定资本的背景下，知道没有机器可以创造价值，如果一台机器的机器特性被剥夺，这意味着它否定了自己作为固定资本的存在，成为它的对立面，即可变资本。完美的机器是死劳动作为活劳动复活…完美的机器是可以创造价值的机器，但正因为如此，它不再是机器。(Kjøsen2018:173)

然而，有必要更深入地解读马克思的论点，因为尽管从理论上讲，机器与一般

perfect machines, inhuman labour .

131