人工智能政治哲学

人工智能政治哲学

154

从（技术）表演的角度看待技术，与将技术视为活动的观念是一致的。这种观念能使我们引入社会和政治维度（Lyon1994）。当然，技术可以是关于人工制品和事物，但为了研究技术的政治维度，我们需要看看我们用技术做了什么，技术对我们做了什么，以及这两者是如何嵌入社会（和知识）背景之中的。将技术视为活动和表演还能让我们再次强调人类始终是参与其中的。尽管后现象学等当代技术哲学正确地宣称，技术“产生”（do）事情(Verbeek 2005)，在它们共同塑造人类的感知和行动的意义上（例如，微波炉塑造了我们的饮食习惯，超声波技术建构了我们对怀孕的体验，等等)，技术的所作所为也总是涉及人类的。我将在下一章讨论后人类主义观点时回到这一点。

最后，鉴于人类继续共同指引和塑造其社会、身体和时空表演，并因此参与权力的行使和流通，因此我们必须要问，是哪些人类（共同）编排了我们的技术表演，以及参与这些表演是否总是出于自愿。正如帕尔维艾宁（Parviainen2010）所问：谁在编排我们？例如，有人可能会说，大型科技公司通过嵌入应用程序和设备中的人工智能来编排我们，并越来越多地设计我们的行为和塑造我们的故事，但由于我们通常意识不到这一点，而且这些技术的设计具有说服力，因此我们对这些表演和故事的参与很难说是自愿的。如果技术表演总是与更广泛的社会和政治背景相关联，那么我们就有必要问一问，谁被允许参与人工智能的表演（包括使用和开发)，也就是说，谁被包括在内，谁被排除在外，以及这

第五章 权力：通过数据的监控与（自我）规训

155

种参与的条件是什么。

首先，在同意使用人工智能方面，我们中的许多人不仅没有选择权（Bietti2020)，而且在决定人工智能的发展和使用方式方面也被排除在外。在这方面，我们被大型科技公司所掌握。在许多国家，监管力度微乎其微。以表演为导向的视角使我们能够就此提出关键问题：谁是表演的演员和编排者？谁被排除在表演和编排之外？哪些演员和编排者比其他人更有权力？我们能否制定逃脱完全控制的策略？这些问题再次与民主的讨论相关。

其次，从与政府政治相关联的意义上讲，人工智能表演也可能具有很强的政治性。帕尔维艾宁和我利用动作编排的概念，认为人工智能和机器人技术是在政治利益和战略背景下使用的(Parviainen and Coeckelbergh 2020)。我们的研究表明，索菲亚（Sophia，一个号称涉及人工智能的人型机器人）的表演与人工智能政治有关：“索菲亚的表演不仅符合一家私营公司汉森机器人公司（Hanson Robotics）]的利益，也符合那些寻求拓展相关技术和相关市场的人的利益”。使用“权力”一词，我们也可以将其归纳如下：参与人工智能和机器人技术开发的私营部门将技术表演作为扩大市场的一种方式，从而增加其权力和利润。同样，政府可能会支持并参与此类表演，以实现其有关人工智能的计划和战略，从而增强其应对竞争对手（即其他国家）的实力。此外，关于社交机器人的智能或伦理地位的讨论，可能会分散人们对这一政治维度的注意力，因为这些讨论似乎只能提出关于人工智能和机器人的技术或伦理问题：涉及技术的直接互动和环境问题，而不是更广泛的社会和政治领域的问题。这会误导性地暗示，这些技术在权力上是中立的，在政治上是中立的。而人工智能的表演和相关讨论可能会掩盖这样一个事实，即像所有技术一样，人工智能现在和将来都可能非常政治化和充满权力。研究人员和记者可以揭示这一更广泛的政治背景，从而将本地和具体的人工智能表演与发生在“宏观”层面的政治及其权力博弈联系起来。

人工智能政治哲学

156

因此，“表演”一词的使用及其与权力的关系，为从批判的角度看待人工智能提供了一个框架，它与马克思的分析和福柯的方法是兼容的，并能得到它们的支持。它有助于揭示人工智能与权力之间千丝万缕的联系：在技术表演中的权力和通过技术表演行使的权力；以及在这些表演与一个更广泛的权力领域和权力参与者（如公司和政府）之间流通的权力。

结论和待解决问题

本章展示了如何将社会和政治理论引人权力与人工智能的讨论，从而帮助我们将人工智能的政治面向进行概念化。当然，这项工作不仅与权力有关，还与其他政治概念和问题相关。例如，关于助推的讨论涉及自由问题，而偏见问题在第三章“平等与公正”中已经有所涉及。其中任何一种联系都可以有更多的论述。例如，人工智能中的偏见问题（Bozdag 2013；Criado Perez 2019;Granka2010）可以被视为一个权力问题，同时也与公正和平等有关：如果人工智能的算法过滤、搜索算法和数据集存在偏见，那么这就涉及人们对他人行使权力。也可以说，在特定的社会中存在着特定的权力结构（如资本主义、家长制等），这导致了人工智能使用中的偏见。看来，多元化的概念有助于解读这一点。不过，权力的概念一直是我们分析和讨论人工智能政治的一个有益视角。本章提供了另一种独特的方式来对技术的政治性以及技术如何具有政治性进行概念化。它揭示了谈论权力如何有助于我们分析发生了什么以及可能存在什么问题。

第五章 权力：通过数据的监控与（自我）规训

157

从一种现代观点来看，这种将技术与政治结合在一起的概念，特别是人工智能对权力产生非工具性影响的说法是存在问题的，因为在现代性中，技术与政治处于相互独立的领域。前者应该与技术和物质有关，而政治应该与人类和社会有关。这种现代观念源于古代哲学，至少从亚里士多德开始并一直影响至今：人工智能被认为在政治上是中立的，而政治则被认为与人类使用人工智能的目的有关。本章的讨论跨越了这一现代划分，例如谈到人工智能如何塑造我们的自我、创造新形式的主体性以及对我们进行编排。在充满权力的人工智能表演中，手段和目的是混合的，最终人类和技术也是混合的。然而，正如我们反复强调的那样，我们的想法并不是说人类被技术所取代，也不是说技术在独自完成这一切。将编排等术语用于人工智能，并不是说人类没有参与权力的行使和技术的表演，而是说人工智能有时被赋予了更多的能动性，并通过其意想不到的效果，共同塑造了我们做事的方式以及我们是谁/做什么。从这个意义上说，人工智能拥有支配我们的权力。技术与政治之间的界限变得模糊了，特别是人工智能与权力之间的界限，我们可以将人工智能称为“人工权力”(artificialpower)：不是因为人工智能无所不能，而是因为权力是通过人工智能行使的。人工智能作为人类技术运作的一部分，塑造了我们的行为以及我们是谁/我们是什么，因此人工智能完全是充满权力和政治性的。

人工智能政治哲学

158

然而，还有另一个相关的边界值得讨论：人类/非人类的边界。人们通常认为，政治以及人工智能政治都与人类有关。但是，这一点可以而且已经受到质疑。这就是下一章的主题。

11

第五章 权力：通过数据的监控与（自我）规训

159

第六章 非人类怎么办？环境政治与后人类主义

导言：超越以人类为中心的人工智能和机器人政治学

前几章讨论的大多数理论都认为，政治哲学，也就是将政治哲学应用于人工智能，都是关于人类的政治。自由、公正、平等和民主等政治原则应该是关于人类的自由、人类的公正等等。人民、公众和政治体被假定由人类及其机构组成。大多数人认为，“权力”一词只适用于人与人之间的关系。如果正如福柯所言，权力是通过社会机体传递的，那么这个机体就被认为只由人类组成。此外，人工智能和机器人技术的伦理和政治往往以人类为中心：人们声称人工智能和机器人技术应该以人为本，而不是由技术和经济驱使。但是，如果我们挑战这些假设，向非人类开放政治边界，会发生什么呢？这对人工智能和机器人政治学意味着什么，政治哲学和相关理论又如何帮助我们将其概念化？

本章在探讨这些问题时，首先介绍了跨越人类/非人类界限的政治理论：有关动物和自然环境的理论。我特别关注了近期有关动物政治地位的论点，尤其是那些以关系和后人类主义方法为基础的论点。然后，本章将讨论政治理论的这一转变对人工智能和机器人政治的影响。本章提出了两类问题。一是，考虑了人工智能对非人类（如动物）和环境的影响。鉴于动物和生态系统等非人类可能具有政治地位，关于人工智能和机器人的政治思考是否应该考虑它们的后果？如果是，可以使用哪些概念来证明这一点？二是，人工智能和机器人本身能否具有政治地位？例如，它们能否成为公民？超人类主义（transhumanism）和后人类主义（posthumanism）如何看待这个问题？例如，人工智能能否以及是否应该接管政治控制权，我们又该如何以一种包含非人类的方式重新想象政治和社会？

160

政治不止包括人类：动物和（非人类）自然的政治地位

在动物伦理学和环境哲学中，我们会发现有人提议将道德和政治考量的范围扩大到动物和环境。鉴于本书的主题，我将把重点放在政治考量上。此外，讨论范围限制在有关动物政治地位的一些主要论点上，尽管我也会涉及环境政治和气候变化政治。

辛格（Singer）的《动物解放》(Animal Liberation)(2009）是这一领域的一部知名著作，该书以功利主义为论据，主张解放那些我们为了生产食物、衣物和其他目的而使用和杀戮的动物：我们应该评估这些做法给动物带来的后果，如果我们给动物造成了痛苦，我们就应该减少这种痛苦，必要时完全废除这些做法。虽然辛格将此书定义为一本伦理学著作，但它也很容易被解读为一本政治哲学著作，其运用了诸多重要的政治原则。首先，该书以解放为目的，被动物解放运动用作解放动物的理由。1975年该书第一版的序言开宗明义地写道：“这本书讲述的是人类对非人类动物的暴政。”因此，辛格在阐述自己的伦理观时使用了一个政治术语：暴政，即政治自由的对立面。但他不仅呼吁政治自由，还谈到要考虑动物的利益，将平等原则从人类延伸到非人类动物，并结束由来已久的偏见和歧视。他关于物种歧视（speciesism）的核心论点依赖于对一种特殊类型的偏见和歧视的指控。他认为，让动物在各个领域免受虐待和杀戮的目标是合理的，因为大多数动物和人类一样会感到痛苦，因此这样对待它们就是“物种歧视”：仅凭非人类动物属于不同物种这一事实，就对它们进行不公正的歧视，这是“一种偏袒自己物种成员的利益，反对其他物种成员利益的偏见或态度”。由于我们大多数人（作为肉食者）都是压迫者和歧视者，因此改变是困难的。他将动物解放运动与其他重要的政治运动进行了比较：民权运动，黑人只有通过自己的要求才获得了权利（而动物不能为自己说话）；废除奴隶制的斗争；以及抗议性别歧视的女权运动。这支持了他的主张，即抗议和斗争是改变现状的必要条件。因此，辛格的书既是关于伦理学的，也是关于政治哲学的。他的功利主义伦理学（utilitarian ethics）通常是哲学家们在回应他的著作时所关注的重点，但事实上，他的著作与一系列政治哲学概念相关联，而这些概念几乎涵盖了我在前几章中所涉及的全部内容。还要注意的是，辛格在他的伦理学和政治哲学中采取了普遍主义的立场：他不以身份作为标准，而是以普遍的感受痛苦的能力为基础进行论证，而不论物种如何。

第六章 非人类怎么办？环境政治与后人类主义

161

人工智能政治哲学

162

给予动物政治考虑的其他论点也属于普遍主义的自由主义传统，它们依赖于正义的政治原则。例如，我们可以用契约论来论证动物的正义。在这一领域，罗尔斯的正义论颇具影响力。罗尔斯将动物排除在他的正义论之外（Garner 2003），这种契约论一般以人类理性的重要性为基础。这就是为什么努斯鲍姆（2006）在赋予动物以正义的道德和政治地位时，选择依赖于能力的概念：与人类一样，动物也有权拥有发挥功能和繁衍生息的能力。它们可能不具备人类的理性，但它们有自己物种特有的能力，我们应该尊重它们的尊严。努斯鲍姆考虑了她列出的能力/权利清单对动物的意义。例如，动物有权享有健康的生活，这意味着我们需要禁止残忍对待动物的法律。这本身就是政治理论有意思的应用：最初是针对人类的，后来却应用到了动物身上（还要注意的是，努斯鲍姆的能力方法与注重人类繁荣的古代美德伦理学和政治学之间存在着有趣的联系；不过，我不在此作进一步讨论)。

不过，也有一些作者认为可以在契约论的基础上论证动物的正义。我们可以修改罗尔斯的原初状态，使无知之幕包括对一个人最终会成为人类还是动物的无知。例如，在罗兰德（Rowlands

第六章 非人类怎么办？环境政治与后人类主义

163