人工智能政治哲学

把人理解为主要或根本上是非理性的，且不容讨论，这也是一种对人性和社会非常悲观的看法，这与霍布斯（Hobbes）的政治哲学一脉相承。霍布斯（1996）的《利维坦》(Leviathan）写于17世纪中叶的英国，他认为自然状态是一种只存在竞争和暴力的恶劣状态。他认为，为了避免这种情况，需要一个政治权威——利维坦—来维持秩序。同样，自由主义家长制对于人们建立一个有利于自己和社会的社会秩序的能力持悲观态度。这种社会秩序必须通过操纵手段自上而下地强加于人，例如使用人工智能。其他政治哲学家，如18世纪的卢梭、20世纪的杜威和哈贝马斯，则对人性持更为乐观的看法，他们相信民主政治的形式，认为人们能够自愿地致力于共同利益，理性地进行讨论，并通过争论达成共识。根据这种观点，人既不应该被控制（限制消极自由、专制主义)，也不应该被操纵（限制积极自由、家长制）；他们完全有能力克制自己，理性思考，超越自身利益，相互讨论什么对社会有益。这种观点认为，社会不是原子化个人的集合，而是以实现共同利益为目标的公民共和国。与其他捍卫哲学共和主义（philosophical republicanism）的人一样，卢梭（1997）回顾了古希腊城邦，认为共同利益可以通过积极的公民意识和参与来实现，公民应服从“公意”(general will)，形成一个平等的共同体。卢梭认为人应该被迫自由（forced to be free)，即被迫“在听从[自己的]欲望之前，先要请教[自己的]理性”并服从公意，虽然这是一个臭名昭著（notorious）的观点，但他反对专制主义，总体而言他对人性的看法是乐观的：自然状态是好的并且早已具有社会性了。他还同意柏拉图（Plato）和亚里士多德（Aristotle）等古代哲学家的观点，即在个人层面上，通过运用理性和克制激情，自主意义上的自由是可以实现的，也是可取的(我们也可以在德性伦理学中找到这种观点)。根据这种理想，人工智能可以发挥什么作用，这仍然是一个悬而未决的问题。在第四章中，我将进一步概述关于民主的可能性和相关理想的不同观点，而在关于权力的第五章中，我将进一步阐述人工智能和自我建构。

人工智能政治哲学

024

第二章 自由：人工智能操纵与机器人奴役

025

对自我实现和解放的威胁：

人工智能的剥削和机器人奴隶的问题

对自由的另一种威胁不是来自对个人消极自由的干涉，也不是来自助推，而是来自对一种不同的、关系性更强的自由的侵犯：在资本主义背景下其他人通过劳动进行压迫和剥削，甚至（公开地）通过强迫他人陷入奴役和支配的关系之中。虽然这可能涉及对个人消极自由的限制—当我是奴隶时，我当然不能做我想做的事，甚至连我想做什么都不重要，因为我首先就不被视为一个政治主体—虽然压迫也可能与侵犯积极自由（剥削）结合在一起，但这些现象也提出了有关自我实现、自我发展和解放的问题，并与公正和平等问题有关（另见下一章），这关乎人类社会关系的质量、劳动的价值及其与自然和自由的关系，以及如何构建社会的问题。这里所威胁的自由是一种关系性的自由，因为它不是关于内心欲望的管理，也不是关于将他人视为外部威胁，而是关于建立更好的社会关系和社会。

对于这种自由观念，黑格尔和马克思是灵感的源泉。黑格尔认为，通过劳动改造自然会带来自我意识和自由。这可以追溯到其《精神现象学》(Phenomenology of Spirit）中著名的主奴辩证法（master-slave dialectic)：主人依赖于自己的欲望，而奴隶则通过劳动获得自由意识。马克思借用了这一思想，即劳动带来自由。在他的手中，自由不再是一个个人主义的概念，即包括不受限制(消极自由）或心理上的自主（积极自由)；而是一个更具社会性、唯物主义和历史性的概念。在黑格尔和马克思看来，自由是以社会互动为基础的，它与依赖性并不对立。劳动和工具扩展了我们的自由。这种自由是有历史的，它也是一部社会和政治史，（我们可以补充说）也是一部技术史。马克思认为，通过技术手段，我们可以改造自然，同时创造我们自己。通过劳动，我们发展了自己，锻炼了我们的人类能力。

人工智能政治哲学

026

然而，马克思也认为，在资本主义制度下，这已经变得不太可能，因为工人被异化和剥削。工人非但没有解放和实现自我，反而变得不自由了，因为他们与他们的产品产生了异化，与其他工人产生了异化，最终与他们自己产生了异化。马克思在《1844 年经济学哲学手稿》(Economic and Philosophic Manuscriptsof1844)(1977，68-69）中写道，工人本身成了商品，成了他们生产的物品和占有这些产品的人的奴隶。工人们非但不是肯定自己，反而使自己的肉体受折磨，精神遭摧残，使劳动成为被迫的而非自愿的。当他们的劳动变成了“替他人服务的，受他人支配的，处于他人的强迫和压制之下的活动”时，他们与自己就产生了异化。在这种情况下，技术不仅不会带来自由，反而会成为异化的工具。与之相对，马克思认为，共产主义将实现人的自由，将（再次）被理解为自我实现和自由人的联合。

这种自由概念对人工智能和机器人技术意味着什么？

首先，人工智能及其所有者都需要数据。作为社交媒体和其他需要我们数据的应用程序的用户，我们就是生产这些数据的工人。福克斯（Fuchs2014）认为，社交媒体和谷歌（Google）等搜索引擎不但没有带来解放，而是被资本主义殖民了。我们在为社交媒体公司及其客户（广告商）提供免费劳动：我们生产商品（数据）并将其出售给企业。这是一种剥削形式。资本主义要求我们不断工作和消费，包括使用电子设备生产数据。我们大多数人都生活在一个全天候的资本主义经济中；我们唯一能找到的“自由”就是睡觉（Crary 2014；Rhee 2018，49)。即使我们躺在床上，也会关注手机里的动态。此外，我们使用的设备往往是在“奴隶般的条件下”生产出来的（Fuchs2014，120）。因为它们依赖于生产者的辛勤劳动，以及从矿石中提炼矿物质。人工智能服务也依赖于低薪工人，他们负责清理和标记数据、训练模型等(Stark，Greene，and Hoffmann 2021，271)。然而，根据马克思关于自由即自我实现的角度进行分析，我使用社交媒体的问题不仅在于我在从事免费劳动，其他人被剥削来满足我在社交媒体上的乐趣这可以根据马克思《资本论》(Capital）中的政治经济学方法进行分析：工人创造的超过其自身劳动成本的价值被资本家占有]，还在于这并没有带来我的自我发展和自我实现，进而获得自由。相反，我自己成了一个对象：一个数据集合（另见第五章）。

第二章 自由：人工智能操纵与机器人奴役

027

其次，机器人是一种经常被用在自动化中的技术，其产生的影响可以用马克思关于人类自由的观念来描述。首先，机器人以机器的形式出现，助长了马克思所描述的异化现象：工人仅仅成为机器的一部分，失去了通过工作实现自我的机会。这种情况已经在工业生产中出现，不久可能会出现在服务业，例如零售业或餐饮业（如日本）。此外，正如马克思所描述的那样，使用机器不仅会导致恶劣的工作条件和工人的身心衰退，还会导致失业。使用机器人来取代人类工人，会产生一个失业阶层，他们只能出卖自己的劳动力（无产阶级）。这不仅对失去工作的人不利，还会降低仍在工作的人的工资（或将工资保持在法律允许的最低水平）。此外，有些人认为自己的工作被贬低了：他们的工作也可以让机器人来做(Atanasoski and Vora 2019，25)。其结果是在剥削和缺乏自我实现的机会的意义上是不自由的。

人工智能政治哲学

028

虽然如今人们普遍认为机器人和人工智能将可能导致失业问题（Ford 2015)，但学者们对这些发展的预计速度和程度存在分歧。斯蒂格利茨（Stiglitz）等经济学家预测会出现严重混乱，并对转型的人力成本提出警告。例如，科里内克（Korinek）和斯蒂格利茨（2019）预测劳动力市场将受到严重破坏，导致更严重的收人不平等、更多的失业人数和更分裂的社会，除非个人对这些影响有充分的保险，并且有正确的再分配形式（如欧洲社会福利民主国家所特有的形式)。此外，人工智能所产生的社会经济后果在所谓的先进社会与全球南方之间可能会有所不同（Stark，Greenev, and Hoffmann 2021 )。从马克思主义的观点来看，这些问题可以从平等的角度进行概念化，也可以从自我实现的自由的角度进行概念化。低工资和失业的坏处不仅是因为它们威胁到人们的实际生存，还降低了人们的政治自由度，因为他们无法实现自我。

第二章 自由：人工智能操纵与机器人奴役

029

针对这种观点，有人认为，机器将人类从肮脏、繁重、危险或枯燥的工作中解放出来，腾出时间休闲和实现自我。因此，人们欢迎因被机器取代而导致的失业，将其视为通往自由之路的一步。这并不像黑格尔和马克思那样将劳动视为通往自由的途径，而是采用了古代亚里士多德的观点，即自由就是将自己从生活必需中解放出来。根据亚里士多德的观点，忙于生活必需是奴隶的事情，而不是自由人的事情。然而，马克思主义者不仅不同意这种劳动观，而且指出亚里士多德的社会是建立在奴隶制基础之上的：政治精英只有通过剥削他人才能享受特权生活。通常所说的“休闲社会”的捍卫者可能会说，技术将终结人类的奴役，失业的后果可以通过社会保障体系来解决，例如通过全民基本收入来确保没有人会贫穷，包括那些因为机器而失业的人。但是马克思主义者可能会认为，人工智能资本主义实际上可能根本不再需要人类：在这种情况下，资本获得了“摆脱了阻碍其积累的人类这一生物屏障的自由”。（Dyer-Witheford, Kjøsen, and Steinhoff 2019, 149 )。

这些问题引发了更多的哲学问题。例如，从黑格尔的角度来看，人们可能会担心，如果所有的人类都成了主人（机器的主人)，他们就会缺乏自我实现的机会，只能任由欲望摆布，届时可能会被资本家操纵和剥削。主人反过来又会成为被剥削的消费者：一种新的、不同类型的奴隶。在某种程度上，今天的情况似乎已经如此了。正如马尔库塞（Marcuse2002）所言，消费社会带来了新的统治形式。主人不仅依赖于他们所控制的机器，作为消费者，他们也再次受到支配。此外，考虑到“主奴辩证法”，一旦机器取代了奴隶，主人（在这种情况下是我们所有人）就再也没有机会得到认可，他们不可能从机器那里得到认可，因为这些机器缺乏必要的自我意识。因此，如果黑格尔认为主人依赖奴隶才能得到认可是正确的，那么问题就在于，在这里主人根本得不到认可。换句话说，在一个由人类主人和机器人奴隶组成的社会中，作为主人的消费者根本没有自由，更糟糕的是，他们甚至没有机会获得自由。作为奴隶一般的消费者，他们在资本主义制度下受到支配和剥削。作为机器的主人，他们得不到认可。正如我在早先关于这一主题的著作中所强调的那样，他们也变得高度依赖技术，从而变得非常脆弱（Coeckelbergh 2015a)。

人工智能政治哲学

030

但是，为什么要从主人和奴隶的角度来思考问题呢？一方面，从马克思主义甚至更普遍的启蒙观点来看，用机器人取代人类奴隶或工人可以被视为一种解放：人类不再被卷入这些剥削性的社会关系之中。另一方面，从仆人或奴隶的角度来思考，即使是机器人，似乎也有问题。拥有机器人奴隶是可以的吗？从主人和奴隶的角度来思考社会是可以的吗？这不仅仅是关于思考的问题。如果我们用机器取代人类奴隶，那么我们的社会结构仍然是以奴隶制为基础的社会，尽管其中的奴隶是人造的：一个网络版的古罗马或古希腊城邦国家。这并不违反《世界人权宣言》第4条，因为该条只适用于人类（它是涉及人权)，而机器人并不是人类意义上的奴隶，因为它们缺乏意识、知觉、意向性，等等。但是，机器人取代人类仆人或奴隶的设想，仍然反映了主奴思维和等级森严的“剥削性”主奴社会。错误的是，这些技术所帮助维护的社会关系和社会类型（第三章将进一步论证）。

第二章 自由：人工智能操纵与机器人奴役

031

现在，我们可以试图绕过这些问题，认为这与自由无关，而是与其他问题有关。压迫、剥削和奴役的问题不是自由问题（至少如果我们以个人主义和前面章节中阐述的更加形式的方式来理解自由的话)，而是公正或平等的问题。根据这种观点，问题并不在于人工智能和机器人威胁到了自由，而是我们生活的社会从根本上说是不平等或不公正的，而我们有可能通过人工智能和机器人来维持或加剧这些不平等和不公正。例如，如果我们用机器取代工人来“解放”他们，却不改变我们现有的社会结构（通过全民基本收入或其他措施)，那么我们很可能会制造更多的不平等和不公正。我们需要更多的公开讨论，探讨我们拥有什么样的社会，想要什么样的社会。平等和公正等政治哲学概念和理论可以对此有所帮助。例如，与当前的社会保障制度一样，全民基本收入反映了一种特定的分配正义和公平正义观念。但究竟是哪一种呢？在第三章中，我将阐述一些关于公正的观念。

不过，从自由的角度来讨论这些问题也很有意思。例如，在《人人享有真正的自由》(Real Freedom for All)(1995)一书中，范·帕里斯（Van Parijs）基于公正、平等和自由的理念，为人人享有无条件的基本收入辩护。他认为，自由不是做自己想做的事的形式权利（这通常是自由主义者的自由概念，如哈耶克），而是做自己想做的事的实际能力。因此，自由是根据机会来定义的。就机会而言，拥有更多优势（如获得更多资产）的人比其他人更自由。无条件的收入将使最不具优势的人在这种机会意义上更加自由，同时尊重其他人的形式自由，从而为所有人创造自由。此外，每个人都可以根据自己善的观念来使用这些机会。自由主义者应该（在法律允许范围内）对人们善的观念保持中立。举一个范·帕里斯自己的例子：如果人们想花很多时间冲浪，这很好；他们有机会这样做。他称之为“真正的自由主义”。根据这一观点，人们可以说，当机器取代人类的工作时，全民基本收入不仅是创造更多公正和平等的一种方式，也是尊重和促进所有人的自由的一种方式。人们可以工作，也可以冲浪，或者两者兼而有之；他们将拥有机会自由意义上的真正自由。

人工智能政治哲学

032

然而，正如有关全民基本收入的讨论所表明的那样，人工智能和机器人技术的政治和社会维度上还有许多超越自由的问题需要讨论。我们还需要讨论平等和公正，以及人工智能和机器人技术如何使现有形式的偏见和歧视永久化或加剧（见第三章）。

谁来决定人工智能？

参与自由、选举中的人工智能和言论自由

自由的另一个含义是政治参与。同样，这一思想有着古老的渊源，具体地说是源自亚里士多德。正如阿伦特在《人的境况》(The Human Condition)(1958)一书中所解释的，古人的自由不是选择自由的自由，而是政治行动的自由，她将其与“积极生活”(vita activa)(劳动和工作）中的其他活动区分开来。根据哲学共和主义，一个人只有通过政治参与才能行使自由。虽然对古希腊人来说，这种自由只属于精英阶层，而且事实上是建立在对那些劳动人民的奴役之上的，因此他们剥夺了劳动人民的政治自由。但政治参与自由这一理念在现代政治哲学史上具有重要意义，并启发了人们对民主的一些重要解释和理想（见第四章）。正如我在本章前文中所述，政治参与自由这一理念的一个著名的当代表述来自卢梭，他早在康德（Kant）之前就认为，自由意味着给自己制定规则。这种自我统治可以被解释为个人自主（见上文关于“助推”的部分)，但卢梭也赋予了自我统治以政治含义：如果公民自己制定规则，他们就是真正的自由，而不是受制于他人的暴政。无论卢梭对“公意”的进一步思考如何引起争议，政治参与是而且应该是自由民主的一部分这一观点却已深入人心，并影响着我们今天许多人对民主的看法。

第二章 自由：人工智能操纵与机器人奴役

033