人工智能政治哲学

然而，社会变革不只是人们及其他们的行动和劳动，包括人工智能在内的技术也是该系统的重要组成。戴尔-维特福德（Dyer-Witheford）、克约森（Kjøsen）和斯坦霍夫（Steinhoff）—几位最著名的马克思主义技术分析家——在他们的《非人的力量》(Inhuman Power，2019)一书中认为，人工智能应被视为资本主义下工人异化的顶点：人工智能代表着自主资本（autonomous capital）的权力，导致了商品化和剥削。这可以被视为自由问题（见第四章)，也可以被视为资本主义造成深刻不平等和不公正的问题，或者可以被视为其他政治价值观问题。例如，法兰克福（Frankfurt2015）所言，经济不平等也是一个民主问题：“那些经济条件好得多的人比那些不那么富裕的人拥有更多优势—他们可能倾向于利用这种优势对选举和监管过程施加不适当的影响”。

法兰克福等自由主义者认为，不平等“本身不能成为我们最重要的抱负”。然而，对于马克思主义者来说，问题不仅在于对民主的影响，还在于与资本主义剥削相关的不平等本身。此外，（左翼）自由主义思想家会进而要求重新分配，却对生产资料（这里指人工智能）只字不提，而对马克思主义者来说，这是一个关键点。例如，戴尔-维特福德认为，社会变革需要改变整个社会经济制度以及技术，因为人工智能与资本是如此的紧密相连。那么矛盾的是，如果无产阶级想要采取行动反对资本就必须使用人工智能，而这恰恰是其需要反对的（Dyer-Witheford 2015，167)。或许我们可以根据马尔库塞（2002）关于马克思认为有必要对生产资料进行重组的观点来理解这一点。马克思认为，生产应由直接生产者组织。但马尔库塞认为，当技术“成为包含劳动阶级的政治世界中的控制和凝聚的媒介时”，我们就需要“改变技术结构本身”。

人工智能政治哲学

064

这表明技术本身需要改变。然而，大多数马克思主义者只关注生产资料的所有权，而从不质疑技术本身。福克斯（2020）认为，一个真正公正的社会必须以公有制为基础，这意味着信息应该是一种共同财产，而不是商品，应该共同控制交流的条件。资本试图吞噬公有财产。福克斯提出，工人应“集体控制作为经济生产手段的通信手段”，脸书等平台应成为以公民社会为基础的合作社。福克斯从公正与平等的角度阐述了“信息作为共同财产与作为商品之间的对立”：“如果商品形式意味着不平等，那么一个真正公平、民主和公正的社会就必须是一个以公有制为基础的社会。对于通信系统而言，这意味着通信系统作为公有财产与人类、社会和民主的本质相对应”。同样，我们也可以认为，人工智能和数据被理解为通信技术和信息，是马克思意义上的生产资料，应该被共同拥有，而不是由资本控制。此外，我们还可以质疑超人类主义人工智能愿景（福克斯称之为“后人类主义”）中的技术乐观主义和技术逻辑决定论，它们似乎假定“社会和人类会因为新技术的兴起而发生根本性的变化”，而且这种变化必然是好的。福克斯警告说，这忽视了阶级和资本主义在社会中的重要性，导致机器人取代人，权力集中，而不是民主和平等。此外，有人主张，认为新的信息和通信技术必然是进步的，那就等于否认其出现的“对抗状态”（antagonistic conditions）以及“其嵌入全球资本主义的残酷性”(Dean 2009，41)。

第三章 平等与公正：人工智能的偏见与歧视

065

目前在美国非常流行一种作为批评古典自由主义哲学方法的公正与平等的替代方法，其不关注社会经济类别，而是与身份有关的类别，如种族和性别。这种方法有时被称为“身份政治”(identity politics)。虽然这个短语本身在政治上充满争议，但它指的是“在某些社会群体成员共同经历的不公正中发现的广泛的政治活动和理论”(Hees 2020)。如果身份政治使用自由、公正和平等等政治原则，那么它就是要为特定群体确保这些原则，而这些群体是根据其身份和历史定义的。自由主义哲学传统的理论家采取普遍主义的立场（如要求人人享有公正或平等），而坚持身份政治思想的人则认为，这不足以阻止特定社会群体（如妇女、有色人种、LGBT+人群、原住民、残疾人等）被边缘化或受压迫。为了解决这些问题，他们将（群体）身份认同置于政治关注的中心。可以说，他们揭开了罗尔斯的无知之幕。他们没有对抽象的个人和由这些个人组成的社会进行遥远的思想实验，而是要求我们关注具体现实和历史。与马克思主义者一样，他们希望改变产生不公正的社会结构、关注具体的历史现实，而不是诉诸抽象的普遍主义观念。然而，他们之所以提出这样的要求，并不是因为某个特定的社会经济阶层处于不利地位，也不是因为资本主义存在问题，而是因为特定身份的群体在当前和历史上处于不利地位。此外，如果与差异政治相结合，我们就需要公正的价值，但其目的不是不分身份和差异地涵盖全人类，而是尊重这些身份和差异本身。这也意味着承认特定群体和属于这些群体的人，而不是谈论一个普遍的“我们”。正如福山（Fukuyama 2006）对这一观点的解释：自黑格尔以来，政治一直与承认（recognition）联系在一起，但现在“基于共同人性的普遍承认是不够的，尤其是对过去受到歧视的群体而言。因此，现代身份政治围绕着承认群体身份的要求而展开”。这些身份认同是历史性、地方性的，往往是在特定形式的压迫和不公正中产生的。

人工智能政治哲学

066

如今，这种政治形式在自由派左翼中很受欢迎。被戴尔-威特福德称为“后马克思主义”的立场驳斥了马克思主义理论的整体性和简化性，声称它无视父权制和种族主义，否认文化多样性。相反，后马克思主义者关注差异、话语和身份，不谈革命，只谈民主（Dyer-Witheford 1999，13）。这在一定程度上可以看作是后现代政治的延续。许多人没有反对资本主义，也没有提出团结一致的愿景，而是开始强调差异和身份。这并没有真正挑战资本主义，反而往往很容易与资本主义共存，例如以时尚的形式（Dean，2009，34)。同样，后现代强调流动和高度个性化的身份认同，这与新自由主义意识形态高度契合。但部分原因还不止于此：人们意识到了历史上各种形式的不公正，马克思关于斗争、抵制和系统变革的一些论述也被重新提及，尽管不再关注阶级和社会经济类别，也拒绝普遍主义。

第三章 平等与公正：人工智能的偏见与歧视

067

关于人工智能中的偏见与歧视，相关的规范性问题是：这些技术和使用这些技术的人歧视哪些特定群体？哪些争取承认的斗争受到人工智能的威胁？是否存在对妇女的偏见？对变性人有偏见吗？对黑人有偏见吗？对残疾人呢？本杰明（2019a；2019b）在人工智能和机器人学领域提出了一个著名的种族论点，他认为这些技术在政治上不是中立的，而是加深了种族歧视、不平等和不公正。她以美国种族歧视的历史（不幸的是，现在也经常如此）为背景，声称不公正是针对黑人这一特殊群体的。从这个角度看，算法偏见受到质疑的问题是它们不是中立的，而是系统性地不利于黑人，从而再现了既有的不平等，助长了“相互交织的歧视形式”(Benjamin 2019b)，尤其是种族偏见。李（Rhee 2018，105）则声称，许多陪伴机器人和智能玩偶的出现“使白色成为标准”(normalizes whiteness)。因此，这些论点化解了认为技术是中立的工具主义的观点，并且从根本上反对关于中立技术，反对关于数字技术是“公平竞争的地方”甚至是“纠正不平等的地方”（Benjamin 2019b，133）这样的论述——这些论述往往来自企业界。在这里，是以种族和身份的视角来看待问题，而不是脱离现实的普遍主义立场。

人工智能政治哲学

068

再想想本书开头的那个被无理逮捕的案件。本杰明和其他持类似身份观点的人认为，本案（以及其他类似案件）中的错误之处不在于抽象的“人”或“公民”被不公正地逮捕，而在于一个黑人因为他是黑人而被逮捕：这就是种族主义。或者用美国十年来抗议种族暴力的流行口号来说：这种基于身份的争论的焦点不是“大家的命都是命”(All lives matter)，而是“黑人的命也是命”(Black lives matter)。本杰明等思想家认为，古典自由主义理论中崇高的“白人”视角并不适用，他们更愿意从种族的角度来审视当地发生的真实情况。他们指出，普遍主义思想并不能有效地建立一个公正和平等的社会，并声称这种思想只服务于特定群体（如白人、男性）。例如，本杰明（2019b）没有诉诸于普遍主义原则，而是呼吁通过“一种建立在黑人种族传统基础上”的“解放想象力”来想象“技术现状当涉及技术科学时一切如常的替代方案”。在这里，政治想象以特定（群体和身份的）历史为基础，而不是诉诸抽象的公正或平等观念。

身份认同思维的一个重要方面是与历史背景相关。例如，在谈到种族身份时，身份政治的捍卫者会指出奴隶制和殖民主义的恐怖历史。这至少可以通过两种兼容的方式来实现。一种方式是，现今对美国黑人的伤害不仅植根于种族主义（仿佛这只是一种抽象的信仰体系)，而且是这些具体的、令人震惊的压迫和种族主义错误历史形式的延续，尽管其在形式上没有被正式承认为奴隶制和殖民主义。因此，修复人工智能中的偏见是一种有助于打击种族主义和彻底（而不是部分）废除这些压迫形式、防止其在未来继续存在的形式。对（新）殖民主义的批评也从这一历史角度出发。例如，库尔德里（Couldry）和梅西亚斯（Mejias)(Couldry andMejias2019）谈到了“数据殖民主义”，表明了当前的不平等是历史上帝国和剥削形式的延续，至少“在一定程度上，我们通过使用我们创造的数据而受到剥削”。人们的数据、劳动以及最终的社会关系都被资本主义所占有。此外，人工智能在某地（特权阶层）的使用依赖于远在别处的劳动和剥削。例如，机器学习的训练就涉及这种剥削形式。

第三章 平等与公正：人工智能的偏见与歧视

069

历史的视角还将我们带入殖民主义的主题。在历史殖民主义的背景下，我们可以通过新殖民主义的危险（或现实）来批判性地看待当前的人工智能和其他技术实践。例如，有人担心，自由主义理论在实践中所涉及的人类和个人是指生活在富裕的西方社会中的人，而南半球的利益和特殊性却因此被忽视了。虽然这种担忧也可以在自由主义和马克思主义的框架内提出，例如指出社会经济的不平等和不公正或在资本主义背景下的工人压迫和地缘政治，但这也可以从身份认同和殖民主义的角度来解释。例如，一篇评论文章谈到“数字殖民主义”（digital colonialism）是强大的硅谷科技公司对贫穷国家的帝国主义剥削（Kwet 2019）。同样，有人认为（Birhane 2020)，“人工智能对非洲的入侵与殖民时代的剥削相呼应”，忽视当地的需求和利益，延续历史偏见，使少数群体处于不利地位（例如，没有证件的人被排除在国家生物识别系统之外)，这相当于对非洲大陆的“算法殖民”(其中一些问题也可以从技术转让的角度来谈论，因为技术转让往往会使某些发展中国家的不民主做法永久化。这可以被视为一种殖民主义和对特定群体的不公正，但也可以从侵犯人权的角度加以阐述)。

人工智能政治哲学

070

另一种引入历史的方式是利用历史来警告人们，目前的不公正很可能不如历史上的不公正那么糟糕，但在未来可能会导致更严重的压迫形式，必须在达到这一点之前加以制止。在这种情形下，种族主义和当前的压迫形式被认为必然会导致一个对特定种族背景的人进行系统性压迫和剥削的社会，换句话说，就是基于殖民和奴隶制思想的社会。这就是为什么需要制止人工智能中的种族主义以及通过人工智能实施的种族主义。另一个例子是性别：人工智能中的性别偏见被视为历史形式的压迫和父权制的延续，并且被视为可能导致新形式的压迫和父权制的问题。例如，互联网上的语言和特定语料库中可能存在偏见（如将医生等特定职业与男性联系在一起的偏见)，如果这种偏见被输入到用于自然语言处理的人工智能和数据科学工具中（Caliskan，Bryson，andNarayanan 2017；Sun et al. 2019)，那么这将延续文本中存在的历史偏见，并且有可能在未来加剧这种偏见。

然而，关注的焦点往往是历史偏见的延续。例如，在评论预测性警务时，克劳福德（Crawford）和卡洛（Calo)(Crawford and

第三章 平等与公正：人工智能的偏见与歧视

071

Calo2016）使用了身份政治的语言，他们在《自然》（Nature）期刊中的文章中说，我们需要调查“人工智能系统如何对已经因种族、性别和社会经济背景等因素而处于不利地位的群体造成不相称的影响”。还有人经常声称，人工智能可能反映出对女性的偏见，这是因为在通常以男性为主的技术开发者团队中存在偏见，而这些开发者又从上一代人那里继承了这种偏见。因此，参照点是历史上和现在对特定群体的歧视形式，这些歧视是以身份（种族、性别等）为特征的，而不仅仅是社会经济标准等。此时此地的歧视和压迫案例，是从历史上对特定群体的歧视角度来看待的，这些歧视和压迫是以身份为特征，并寻求着对这一身份和历史的承认。历史的角度与马克思主义相同，但重点已从维护特定社会经济阶级的利益和促进全人类解放的目标（马克思主义）转移到根据其身份界定的特定群体的当前关切、历史和未来。

类似的基于历史的论点也可以用来反对将机器人作为“奴隶”来使用和理解。支持将机器人作为奴隶使用的论点是，这样可以停止对人类的剥削。布莱森（Bryson2010）在反对赋予机器人权利时声称，机器人在法律上应被视为奴隶。这样，人们就可以按照弗洛里迪（Floridi2017）的建议，用罗马法来处理法律问题，即奴隶的主人要对损害负责。然而，正如我在上一章中所说，从奴隶的角度来思考机器人似乎有些不妥。身份政治的观点现在提供了一个论据，说明为什么会出现这种错误，这个论据可以代替马克思的反对意见，也可以作为马克思反对意见的补充。从奴隶制和歧视特定群体的历史背景来看，人们可以反对将机器人视为奴隶，认为这延续了从主人和奴隶的角度思考问题的历史，以及边缘化和排斥特定群体的历史。虽然机器人被用作奴隶时人类并没有受到伤害，但有关社会关系的话语和思维方式却被视为存在根本问题。因此，反对将机器人视为奴隶的观点可以得到普遍的自由主义或马克思主义思想的支持，例如反对霸权和资本主义社会关系的论点；或者得到身份理论的支持，其将机器人的奴役与特定群体（人类）的历史、现在和未来的边缘化联系起来。今天，机器人是奴隶；但也许明天，这就会延伸到另一个群体？此外，我们可以将这一论点的范围扩大到动物：我们对待某些非人类动物的方式难道不是一种奴役形式吗？关于非人类的政治问题，我将在第六章中详细论述，但这里值得注意的是，所有这些批评都认为，无论是古希腊或古罗马关于奴隶的思想，还是后来哲学史上假设或支持这类社会等级制度的发展，都不是对技术进行规范性评价的良好来源，因为它们延续了一种霸权和殖民思想。因此，对那些伴随着人工智能的使用和发展而出现的政治排斥和统治的论述进行批判性研究是非常重要的。

人工智能政治哲学

072

在政治哲学和其他领域，身份认同思想仍存在争议。即使在女性主义理论中，也有关于女性身份的讨论。例如，女性身份是一种本质上的身份，还是一种必须从行为相关角度来理解的身份（Butler1999）。当代女权主义者呼吁建立后身份政治（post-identity politics)，其超越“狭隘的承认政治”和基于受害者身份的苦难政治(politics of suffering)，转而关注“更广泛的多样性政治”(McNay2010，513）和创造赋能自由的生活形式。例如，麦克内伊（McNay2008）反对将政治简化为身份认同问题。但正如所料，自由主义者和马克思主义者对此也提出了批评。马克思主义者指责身份政治的支持者只关注上层建筑（文化），而不关注潜在的经济学，因此只关注边缘化群体，却忽视了产生不平等现象并仍然维持着资本主义逻辑的一般经济结构，他们更愿意用“阶级”这一范畴来分析和挑战资本主义下的社会经济不平等。而福山（2018a）则警告说，以身份为导向的社会使商议和集体行动变得困难，因为它们会分裂成身份的各个部门。他还指出，右派使用同样的语言，例如使白人男性成为受害者，而左派则分裂为“一系列身份群体”(Fukuyama 2018b，167)。他提出，在这样的民主社会中，我们需要“努力回到对人类尊严更普遍的理解之上”。

第三章 平等与公正：人工智能的偏见与歧视

073