人工智能政治哲学

此外，虽然在当前的政治背景下有许多公众关注的问题，例如自由、奴役、种族主义、殖民主义、民主、专业知识、权力以及气候问题等，但这些话题的讨论方式往往显得与技术关系不大，反之亦然。人工智能和机器人被视为技术话题，如果与政治挂钩，技术往往被视为政治操纵或监控的工具。通常情况下，意想不到的影响仍未得到解决。另外，在人工智能、数据科学和机器人领域工作的研发人员和科学家通常愿意在工作中考量伦理议题，但却没有意识到这些议题所涉及的复杂的政治和社会问题，更不用说就这些问题的框架和解决方法进行复杂的政治哲学讨论了。此外，与大多数不熟悉对技术与社会关系进行系统思考的人一样，他们倾向于认为技术本身是中立的，一切都取决于开发和使用技术的人类。

对这种天真的技术观念提出质疑是技术哲学（philosophy oftechnology）的专长，其当代形式是推进了对技术的非工具性理解：技术不仅是达到目的的手段，而且还塑造了这些目的（关于一些理论的概述，请参阅 Coeckelbergh 2019a)。然而，在使用哲学框架和概念基础对技术进行规范性评价时，技术哲学家们通常会求助于伦理学（例如，Gunkel 2014；Vallor 2016)。政治哲学在很大程度上被忽视了。只有一些哲学家建立了这种联系：例如，20世纪80年代的温纳（Winner1986）和90年代的芬伯格(Feenberg 1999)，以及今天的萨塔罗夫（Sattarov 2019）和萨特拉(Sætra 2020)。在技术哲学与政治哲学之间的连接上还需要做更多的工作。

人工智能政治哲学

[1 ] Benjamin 2019a; Binns 2018; Eubanks 2018; Zimmermann, Di Rosa, and Kim 2020等人除外。

[2]例如, Bartoletti 2020; Criado Perez 2019; Noble 2018; O'Neil 2016。

004

这是一个学术鸿沟，也是一种社会需求。气候变化、全球不平等、老龄化、新形式的排斥、战争、专制主义、流行病和疫情，等等，它们中的每一个问题不仅与政治相关，而且以各种方式与技术相关，如果我们想要解决21世纪全球和地区最紧迫的一些问题，就必须在思考政治和思考技术之间建立对话。

本书通过下述研究填补了这些空白，并回应了这一问题：

●运用政治哲学史和最新研究成果，将人工智能和机器人技术的规范性问题与政治哲学主要讨论的问题联系起来；

●探讨当前政治关注的争议性焦点问题，并将它们与人工智能和机器人问题联系起来；

●说明这不只是应用政治哲学的实战，还能让人们对这些当代技术中被隐藏的、更深层次的政治维度产生有趣的见解；

第一章 导论

005

●展示人工智能和机器人技术如何产生预期和非预期的政治影响，并通过政治哲学进行有益的讨论；

●从而同时为技术哲学和应用政治哲学做出原创性贡献。

因此，本书将政治哲学与技术哲学和伦理学相结合，目的是：（1）更好地理解人工智能和机器人技术提出的规范性问题；(2）揭示紧迫的政治问题及其与这些新技术的使用之间的纠缠。我在此使用“纠缠”（entangled）一词来表达政治问题与人工智能问题之间的密切联系。我的基本观点是，后者已经具有了政治性(political)。本书的指导思想是，人工智能不只是一个技术问题或关于智能的问题；就政治和权力而言，它不是中立的。人工智能彻头彻尾具有政治性。在每一章中，我都将展示和讨论人工智能的政治维度。

我将从当代政治哲学的具体主题切入，而不是泛泛地讨论人工智能政治。每一章将聚焦一组特定的政治哲学主题：自由、操纵、剥削和奴役；平等、公正、种族主义、性别歧视和其他形式的偏见与歧视；民主、专业知识、参与和极权主义；权力、规训、监控和自我建构；与后人类主义和超人类主义相关的动物、环境和气候变化。每个主题都将根据人工智能、数据科学和机器人等相关技术的预期和非预期的影响进行讨论。

正如读者将注意到的，这种主题和概念的划分在某种程度上是人为的。显然，这些概念以及各专题和章节之间存在许多相互联系和相互作用的方式。例如，自由原则可能与平等原则存在矛盾，而谈论民主与人工智能时也不可能不谈论权力。其中一些内容将在本书中明确阐述，另一些则只能留给读者自己去思考了。但所有章节都展示了人工智能如何影响这些关键的政治议题，以及人工智能如何具有政治性。

人工智能政治哲学

006

然而，本书不仅涉及人工智能，而且也涉及政治哲学思考本身。这些关于人工智能政治的讨论不只是应用哲学的实战——更具体地说是应用政治哲学的实战——而且还将反馈到政治哲学概念本身。它们展示了新技术如何使我们对自由、平等、民主、权力等概念本身产生质疑。在人工智能和机器人时代，这些政治原则和政治哲学概念意味着什么？

本书结构和各章概述

本书共分为七章。

除了第一章导论之外，在第二章中我提出了与自由这一政治原则相关的问题。当人工智能提供制定、操纵和影响我们决策的新方式时，自由意味着什么？当我们为有实力的大型公司提供数字劳动时，我们的自由度如何？机器人取代工人是否会导致奴隶制思想的延续？本章根据不同的自由观念展开。通过与政治哲学中长期讨论的自由（消极自由和积极自由)(negative and positiveliberty）和助推理论（nudging theory）进行连接，本章讨论了算法决策和影响所带来的可能性。本章指出，在人工智能建议的基础上消极自由是如何被剥夺的，质疑通过人工智能方式的自由主义助推到底有多自由，并根据黑格尔（Hegel）和马克思（Marx）的理论提出了批判性问题，说明了机器人的意义和使用如何有可能与奴役和资本主义剥削的历史和现状联系在一起。本章最后讨论了人工智能与政治参与自由和言论自由的关系，这在第四章关于民主的主题中仍将继续讨论。

第一章 导论

007

第三章提出了这样的问题：人工智能和机器人技术在平等和公正方面的政治影响（通常是非预期的）是什么？机器人技术带来的自动化和数字化是否会加剧社会中的不平等？人工智能的自动化决策是否会像本杰明（Benjamin 2019a）、诺布尔（Noble2018）和克里亚多·佩雷斯（Criado Perez 2019）所认为的那样，导致歧视和种族主义？如果会，是为什么？机器人的性别化是否有问题，以及问题是如何产生的？这些讨论中所使用的公正和公平的含义是什么？本章将有关人工智能和机器人自动化与歧视的讨论置于经典政治哲学讨论的背景下，即自由主义哲学传统中关于（不）平等和（不）公正的讨论，如罗尔斯（Rawls）、哈耶克(Hayek)，同时也与马克思主义、批判女权主义以及反种族主义和反殖民主义思想相联系。本章提出了关于普遍正义观念与基于群体身份和积极性差别待遇的正义观念之间的紧张关系的问题，并讨论了有关代际正义和全球正义的议题。本章最后提出的论点是，人工智能算法从来都不是政治中立的。

在第四章中，我将讨论人工智能对民主的影响。人工智能可以用来操纵选民和选举。人工智能的监控是否会破坏民主？它是否如祖博夫（Zuboff2019）所主张的那样是服务于资本主义的？我们是否正在走向一种“数据法西斯主义”（data fascism）和“数据殖民主义”(data colonialism)？我们所说的民主到底是什么意思？本章结合民主理论、关于专业知识在政治中的作用的讨论以及关于极权主义条件的著作，对民主和人工智能进行了讨论。首先，它表明，虽然我们很容易看到人工智能如何威胁民主，但要明确我们想要什么样的民主，以及技术在民主中的作用是什么和应该是什么，那就困难得多了。本章概述了柏拉图式的技术官僚（Platonic-technocratic）政治观念与参与式和协商式民主(participative and deliberative democracy）的理想〔杜威（Dewey）和哈贝马斯（Habermas）之间的紧张关系，而后者又有其批评者墨菲（Mouffe）和朗西埃（Rancière）]。本章将这一讨论与“信息气泡”(information bubbles，亦可译为“信息茧房”）、“回音室”（echo chambers）和“人工智能驱动的民粹主义”（AI-poweredpopulism）等问题联系起来。其次，本章认为，通过技术实现极权主义的问题指向了现代社会中更深层次的长期存在的问题，如孤独（阿伦特）和缺乏信任。伦理讨论往往只关注对个体的伤害，却忽视了这一更广泛的社会和历史维度。本章最后指出，当人工智能被用作企业操纵和官僚管理人民的工具时，就会产生阿伦特（2006）所说的“平庸之恶”（the banality of evil）的危险。

人工智能政治哲学

008

第五章讨论了人工智能与权力。人工智能如何用于规训和自我规训？它如何影响知识，如何转变和塑造现有的权力关系：人类与机器之间，人类与人类之间，甚至人类内部。谁能从中受益？为了提出这些问题，本章不仅回顾了关于民主、监控和监控资本主义的讨论，也引入了福柯（Foucault）复杂的权力观，其强调了权力在制度、人际关系和身体层面的微观机制。首先，本章建立了一个概念框架用以思考权力与人工智能之间的关系。然后，借鉴了三种权力理论来阐述其中的一些关系：马克思主义和批判理论、福柯和巴特勒（Butler)，以及一种以表演为导向的方法。这使我能够揭示人工智能的诱惑和操纵，人工智能产生的剥削和自我剥削及其资本主义背景，以及数据科学在标记、分类和监视人们方面的历史。同时，本章也指出了人工智能赋予人们权力的方式，以及通过社交媒体在自我和主体性的建构中发挥作用的方式。此外，本章还认为，从技术表演的角度来看待人工智能和人类在其中的所作所为，我们可以指出，技术在组织我们的行动、行为和感觉方式方面扮演着越来越重要的、超越工具性的角色。我认为，这些（技术）权力的行使总是具有主动的、社会的维度，这同时涉及人工智能和人类。

第一章 导论

009

在第六章中，我将介绍有关非人类的问题。像大多数人工智能伦理一样，经典的政治讨论是以人类为中心的，但这至少在两个方面受到质疑。一方面，在政治上，人类是唯一重要的事物吗？人工智能给非人类带来什么影响？对于应对气候变化而言，人工智能的使用对人类而言是威胁还是机遇，抑或两者兼而有之？另一方面，人工智能系统和机器人本身是否具有政治地位，例如公民身份？后人类主义者质疑传统的人类中心主义的政治观。此外，超人类主义者认为，人类将被超智能的人工智能体所取代。如果被超人工智能接管，会产生什么样的政治影响？人类的自由、公正和民主是否就此终结？我们将从动物权利和环境理论（Singer，Cochrane，Garner, Rowlands, Donaldson and Kymlicka, Callicott, Rolston,Leopold等）、后人类主义（Haraway，Wolfe，Braidotti，Massumi，Latour等）、人工智能和机器人伦理（Floridi，Bostrom，Gunkel，Coeckelbergh等）以及超人类主义（Bostrom，Kurzweil，Moravec，Hughes等）等方面出发，探讨超越人类的人工智能政治观念。本章认为，这样的政治需要将非人类纳入其中来重新思考自由、公正和民主等观念，也会对人工智能和机器人技术提出新的问题。本章最后指出，非人类中心主义的人工智能政治重塑了人类与人工智能关系的两个方面：一方面人类被人工智能剥夺或赋予了权力，另一方面人类也赋予了人工智能以权力。

人工智能政治哲学

010

最后一章对全书内容进行了总结，并得出以下结论：（1）在人工智能和机器人等技术发展的背景下，当前我们在政治和社会讨论中所关心的自由、种族主义、公正和民主等问题具有了新的紧迫性和相关性：（2）将人工智能和机器人政治加以概念化不是简单地应用现有政治哲学和政治理论中的概念，而是要求我们对这些概念本身（自由、平等、公正、民主等）进行审视，并对政治的本质和未来以及我们人类自身提出问题。本章还认为，鉴于技术与社会、环境及存在主义心理的变化和转型有着密切的关联，21世纪的政治哲学再也无法回避海德格尔（Heidegger1977）所说的“关于技术的问题”(the question concerning technology)。本章随后概述了在该领域需要进一步采取的步骤。我们需要更多的哲学家在这一领域开展工作，对政治哲学/技术哲学的联结进行更多的研究，希望能进一步促进对政治与技术的“共同思考”(thinkingtogether)。我们还需要更多地思考如何使人工智能政治对全球环境和文化差异更具参与性、公共性、民主性、包容性和敏感性。本书最后提出了一个问题：我们需要什么样的政治技术来塑造未来？

第一章 导论

011

人工智能政治哲学

012

第二章 自由：人工智能操纵与机器人奴役

导言：历史上的自由宣言与当代奴役

自由（freedom或liberty，本书将交替使用这两个词）被认为是自由民主国家最重要的政治原则之一，这些国家的宪法旨在保障公民的基本自由。例如，1791年通过的作为《权利法案》(Bill of Rights）一部分的美国宪法第一修正案保护宗教自由、言论自由和集会自由等个人自由。1949年通过的德国《基本法》(Grundgesetz）规定，人身自由不受侵犯（第2条）。历史上，1789 年的法国《人权宣言》(Declaration of the Rights of Man and ofthe Citizen）影响深远。它植根于启蒙思想家卢梭（Rousseau）和孟德斯鸠（Montesquieu)，在法国大革命时期征询了托马斯·杰斐逊（Thomas Jefferson）的意见。杰斐逊是美国开国元勋之一，也是1776年美国《独立宣言》(Declaration of Independence）的主要起草人。《独立宣言》在其序言中就宣称“人人生而平等，造物主赋予他们若干不可剥夺的权利，其中包括生命权、自由权和追求幸福的权利”。法国《人权宣言》第一条规定，“人生来就是而且始终是自由的，在权利方面一律平等”。虽然该宣言仍然排斥妇女，也没有禁止奴隶制，但它是权利和公民自由宣言历史的一部分。这一历史始于1215年的《大宪章》(Magna Carta，自由大宪章)，终于1948年12月联合国大会通过的《世界人权宣言》(Universal Declaration of Human Rights，UDHR)，该宣言规定“人人生而自由，在尊严和权利上一律平等”（第1条）和“任何人不得使为奴隶或奴役”(第4条)(UN1948)。

013