人工智能政治哲学

人工智能和机器人技术对政治的影响

如果我们抛开人类中心主义，将政治扩大到动物和非人类自然，那么我们至少可以就人工智能的潜在影响形成两种立场。首先，我们可以主张，人工智能的使用和发展应考虑到动物、环境等具有道德和政治地位的存在，因此应避免对这些自然实体造成伤害，如有可能，最好能为更加环保的实践和解决气候变化等问题作出积极贡献。我们可以推广环境和气候友好型人工智能。其次，我们可以声称人工智能本身具有政治地位，因此我们应该为人工智能或至少为某些种类的人工智能（无论这意味着什么）谈论自由、公正、民主、政治权利，等等。接下来我将解读这些立场，并指出一些可供进一步发展的理论资源。

人工智能对非人类和自然环境影响的政治意义

第一种立场对人工智能本身的政治地位持不可知论（即人工智能是否将被视为需要纳入政治共同体的非人类)，但它声称鉴于自然实体的政治价值和利益，人工智能政治不能再以人类中心主义的方式来构想。根据这一立场，人工智能不应该仅仅以人类为中心（即以人类的价值和利益为导向），更不应该以资本为中心，还应该以动物、生态系统和地球等自然实体的价值和利益为导向。这里的重点并不是说可以研究动物—例如，一些人工智能研究人员从生物学中汲取设计机器人的灵感，或采用生物学中的社会组织方法（Parikka2010）——而是说动物本身也具有政治价值和利益，应该得到尊重。因此，在开发和使用人工智能时，应考虑到技术对动物、自然环境和气候的影响。

人工智能政治哲学

174

这些后果不一定是坏事。人工智能还有助于解决气候变化和其他环境问题，例如，利用机器学习分析数据和进行模拟，可以提高我们对气候变化和环境问题的科学认识，或者有助于追踪非法开采自然资源的情况。或许人工智能还能帮助我们与动物建立联系，例如可以帮助我们管理和保护栖息地。但与此同时，这项技术也可能首先导致这些问题。有时候这一点非常清晰可见。例如，家庭中由人工智能驱动的个人助理可能会打到宠物，或用语言迷惑宠物；用于组织农业和肉类生产的人工智能可能会系统性地对动物造成伤害；用于工业生产的人工智能可能会对气候和环境造成有害影响。然而，即使所有这一切原则上都是用户或观察者所能看到的，以人类为中心的政治学对这种情况也有盲点，因为它关注的是人类的政治学，因此也关注人工智能对人类的政治学。向非人类开放政治将有助于我们揭示、想象和讨论这些问题。然而，人工智能的使用往往会带来一些更遥远、更不明显的后果。这里有一个重要的话题，我在前面已经提到过，但值得更多关注，那就是人工智能在能源使用和资源利用方面对环境和气候的影响。某些类型的机器学习所需的算力急剧增加，这需要消耗大量能源，而这些能源往往不是来自可再生能源。例如，用于自然语言处理（NLP）的神经网络的训练需要大量的电力资源，因此会产生相当大的碳足迹（carbon footprint）。训练一个 NLP 模型所排放的二氧化碳当量是一辆普通汽车在其使用寿命内所产生的二氧化碳当量的五倍（Strubell, Ganesh，and McCallum 2019)。目前，研究人员正在努力寻找解决这一问题的方法，例如在更少的数据上进行训练，甚至减少表示数据所需的比特数（Sun et al. 2020）。苹果和谷歌等大型IT公司已经做出了可再生的承诺。尽管如此，大多数科技公司仍然依赖化石燃料，整个行业在全球范围内留下了巨大的碳足迹。根据绿色和平组织的一份报告，2017年，该行业的能源足迹估计已占全球电力的 7%，预计还将上升（Cook et al.2017；另见 AI Institute 2019)。使用流媒体服务——结合人工智能推荐系统—是问题的一部分，因为这需要更多的数据。生产与人工智能配合使用的电子设备还需要汲取原料，这会对社会和环境造成影响。与历史上各种形式的殖民主义一样，“数据殖民主义”(Couldry and Meijas 2019）与自然资源的开采相伴而生：目前人类的开采并不是“代替自然资源”，而是在汲取自然资源的基础上进行的。因此，人工智能和其他数字技术的使用并不一定会像某些人所希望的那样导致经济的去物质化，而是会导致更多的消费，从而带来更大的“生态压力”(Dauvergne 2020，257)。同样，监控资本主义不仅会对人类尊严进行摧残，也对环境造成影响。虽然这些环境和气候后果在使用时并不明显，而且往往发生在远离人工智能特定用途的地方，但这并不会降低它们的政治意义或政治问题。此外，虽然如前所述，人工智能有助于应对气候变化(Rolnick et al.2019)，但这并不一定能弥补这里所指出的问题。

第六章 非人类怎么办？环境政治与后人类主义

175

人工智能政治哲学

176

基于这一分析，我们可以从规范角度认为，人工智能在碳足迹和环境后果方面的影响在政治上是有问题的，原因有两个：首先，全球变暖/气候变化和自然资源枯竭会给人类和人类社会带来后果，而人类和人类社会通常被认为具有政治地位，并依赖于自然环境和气候条件。其次，根据有关非人类的政治利益、内在价值等方面的论点，我们可以补充说，由于非人类的政治地位，这也是一个问题。如果特定的动物、生态系统和整个地球受到人工智能的影响—无论是直接影响，例如通过为人工智能设备汲取原材料或人工智能控制管理饲养的动物；还是间接影响，例如通过人工智能运行所需的电力生产所导致的碳对栖息地的破坏和气候变化的多方面影响—那么这种影响在政治上是有问题的，因为不仅是人类，动物、环境等在政治上是有价值的，也应该是有价值的。

然而，向非人类中心主义的人工智能政治转变的理念，不应被归类为仅仅涉及“非人类”“气候”或“环境”等某一政治价值或原则；相反，它与我们在前几章中探讨和构建的所有原则和讨论产生了共鸣。例如，如果（某些）动物在政治上也算数，那么我们也应该考虑它们的自由，讨论物种间的正义，诘问这些动物是否也可以成为民主国家的公民，等等。这样，人工智能政治就不再以人类为中心，而是以我们与其他一些动物的共同利益和需求为中心，以及以我们与它们虽然没有共同利益但在政治上仍然重要的特定利益和需求为中心。人工智能政治的非以人类为中心的转向并不意味着将动物、环境和气候视为现有框架的额外考虑因素，而是构成了对政治概念本身的根本性改变，其范围已扩大到包括非人类及其利益。

第六章 非人类怎么办？环境政治与后人类主义

177

此外，一旦我们将人类从中心移除，地缘政治——在此被定义为地球或星球政治——就需要重新定义。从非人类中心主义的角度出发，并与上述后人类主义思想保持一致，谈论人类世已不再合适，因为这可能意味着人类是或者应该是中心并控制着一切。相反，重要的是要强调我们与许多其他生物共享地球和这个星球。也许人类已经被预设着一种超级能动性，并将地球及其人类和非人类居民视为自己的飞船，在人工智能和其他技术的帮助下，可以而且必须对其进行管理，甚至重新设计但这正是问题所在，而不是解决办法。非人类中心主义的人工智能政治将减少以技术为主义，并对这种态度和做事方式提出疑问：这将意味着质疑人工智能作为解决我们所有问题的方法，并至少考虑放松我们对地球的控制，而不是通过人工智能和数据科学来加强控制。一旦我们质疑技术解决主义（Morozov 2013）或布鲁萨德（Broussard2019）所说的“技术沙文主义”（technochauvinism）——认为技术永远是解决方案——我们就不再将人工智能视为解决我们所有问题的神奇方案，而会更加关注它为我们和非人类所做事情的局限性。

人工智能政治哲学

178

人工智能本身的政治地位？

第二种立场认为，人工智能不仅仅是为人类甚至非人类服务的工具，而且还考虑到某些人工智能系统本身获得政治地位的可能性，例如以“机器”的形式——无论这意味着什么。我们的想法是，人工智能不是或不应该只是达到政治目的的一种技术手段、一种政治工具；它可以不仅仅是一种工具，它本身可以具有政治价值和利益，在某些条件下应该被纳入政治共同体。这里的主张是，人工智能政治不应只是人类为非人类（和人类）服务的政治，也应该是由非人类来服务的政治—“为谁服务”是一个开放的问题，也可能包括技术上的非人类。

在技术哲学中，这类问题通常是作为一个道德问题：机器能否具有道德地位？在过去的二十年里，人工智能和机器人伦理学界就这一话题展开了热烈的讨论（例如，Bostromand Yudkowsky2014; Coeckelbergh 2014; Danaher 2020; Darling 2016; Floridiand Sanders 2004; Gunkel 2018; Umbrello and Sorgner 2019 )。 但这些实体的政治地位如何？它们的政治权利、自由、公民身份、我们与它们之间关系的公正性等又如何？

这里有几条有趣的途径，可以探讨这方面的一些主张和论点。第一条路径是从关于机器道德地位的辩论中汲取经验。关于政治地位的一些讨论可能会反映出这一讨论主题。例如，有些人因为人工智能缺乏意识或承受痛苦的能力等特性而不愿赋予其道德地位，这些人很可能会以同样的论据来否定人工智能的政治地位。其他人可能会认为，这些内在属性对于政治地位并不重要，相反，关系或社区维度才是最重要的：如果我们以社会和社区的方式与人工智能建立联系，难道这还不足以赋予这些实体一定的政治地位吗？例如，贡克尔（Gunkel）和我都曾对根据内在属性赋予道德地位的观点提出质疑，并认为如何划定界限是一个需要（重新）协商的政治问题，其与人类的排斥和权力历史有关，因此我们现在对赋予其他实体道德地位这件事应该持谨慎态度。更不用说，政治地位也是如此。是时候重新讨论将机器排除在政治之外了吗？与政治地位同样相关的一个区别是道德能动性（moralagency）与道德承受性（moralpatiency）之间的区分：道德能动性是指人工智能应该（不应该）对他人做什么，而道德承受性则是指可以对人工智能做什么。人工智能的政治能动性与政治承受性之间也可以做出类似的区分。例如，我们可以问，人工智能是否具有政治判断和政治参与所需的特性（能动性）；或者在某些条件下，人工智能在政治上应做的事情是什么（承受性）。

第六章 非人类怎么办？环境政治与后人类主义

179

关于道德地位的讨论与政治（和法律）哲学之间的有趣联系可以通过关注权利的概念来实现。贡克尔的《机器人权利》(RobotRights)(2018）是这一工作的绝佳起点，该书讨论了机器人的道德和法律地位以审视其社会处境。除了对机器人权利的不同立场作了有益的分类之外，贡克尔还超越了人类中心主义，指出权利并不一定意味着人权，而且我们错误地认为，当我们使用“权利”一词时，我们知道自己在谈论什么。权利有不同的类型，如特权、请求权、权力和豁免。虽然大多数人会拒绝赋予机器人或人工智能以人权，但我们可以利用这一分析，试图为机器人争取一种低于人权或不同于人权的特定类型的权利，并考虑其政治意义。承认权利不一定是人权或人类层面的权利，这为我们提供了一定的空间。然而，这样一种观点不仅会遭到那些本来反对机器人权利想法的人的反对，还可能面临关系性的反对意见。根据批判的后人类主义和后现代主义，可以说（Coeckelbergh 2014;Gunkel2018）这种推理本身就构成了一种总体化哲学，它将道德哲学和政治哲学置于一个平台上，从这个平台上对实体进行分类并赋予其权利—道德权利和政治权利。还要注意的是，借鉴罗马法赋予机器人与奴隶相当的政治地位，或更广泛地以罗马法中的权利和公民权类别为蓝本建立一种政治权利框架，同样会产生问题—从马克思主义、后殖民和身份政治的角度来看也是如此(见第三章)。

人工智能政治哲学

180

另一条途径是将有关动物和环境的政治地位的论点应用于人工智能，例如将政治地位与合作或内在价值联系起来的论点（见本章第一节)。如果对动物来讲，意识或知觉被视为一种固有的属性，需要给予道德或政治地位，那么如果人工智能实体表现出同样的属性，我们就必须给予它同样的地位。如果人工智能与某些动物一样，被视为具有利益或在合作计划中充当合作伙伴，那么，根据唐纳森和金里卡（2011）等人的观点，即使人工智能没有意识或知觉，也可以被视为具有政治地位（但要注意，关于什么才算作知觉，还存在相当大的争议）。如果某些非人类实体（如河流或岩石）可以根据其内在价值获得政治地位，而无需有意识或有知觉，那么某些类型的人工智能或人工智能“生态”是否也可以获得类似的地位，特别是如果它们被某个特定社区视为神圣或特别有价值？此外，鉴于合成生物学和生物工程的可能性，生物实体与非生物实体之间的界限正变得越来越模糊。科学家们的实验室制造出了“混合体”：介于生物和人造实体之间。未来，我们可能会有更多的“合成生物”(synthetic organisms）和“活机器”(living machines)( Deplazes and Huppenbauer 2009)。例如，生物工程师试图制造可编程细胞。这些细胞看似有生命，但同时也是机器，因为它们是被设计出来的。如果人工智能朝着“生命”的方向发展（例如成为“活机器”)，那么如果生命本身被视为具有政治地位（例如政治承受性）的一个充分条件，那它至少在某种程度上将满足与（其他）生命体相同的政治地位的条件。那么“生命”这个范畴到底有多重要呢？如果如一些环保主义者所主张的那样，物种和特定的自然环境本身是有价值的并被赋予了政治权利，那么“人造物种”和“人造环境”是否在政治上也应该受到保护呢？后人类主义者也欢迎各种混合体加入政治社会。对他们来说，活机器和人造生命不是问题；相反，坚持旧有的生命/非生命二元论是有问题的，而颠覆这种二元论和边界是他们的哲学乃至政治计划的一部分。

第六章 非人类怎么办？环境政治与后人类主义

181

与一些关于机器道德地位的论点一样，一些关于政治地位的论点也可能受到人工智能最近成功超越人类（如国际象棋和围棋）的鼓舞，并可能假定未来人类可能发展出通用人工智能（AGI）或超级智能（ASI）。博斯特罗姆（2014）、库兹韦尔（2005）和莫拉维克（Moravec1988）等超人类主义者认真考虑了这种可能性，并讨论了超人类智能出现、殖民地球然后扩散到宇宙的情景。在这种情况下，政治问题不仅涉及这些超级智能实体的政治地位（作为政治能动者或承受者)，而且还涉及人类的政治地位：超级智能的人工智能是否会从人类手中接管政治权力，这对人类的政治地位意味着什么？人类是否会成为人工智能主人的奴隶，就像某些动物现在成为人类的奴隶一样？人类是否会被用作生物材料或能源（就像我们现在对某些植物或动物所做的那样——参见电影《黑客帝国》[ The Matrix])，或者被上载到数字领域？人类还会存在吗？人类面临着哪些（可能被毁灭）的“生存”风险（Bostrom2014)？我们能否赋予人工智能与人类目标相一致的目标，或者人工智能是否会改变这些目标，追求它自身而不是人类的利益？休斯（Hughes 2004）等超人类主义者倾向于第一种选择，他们（相对于后人类主义者）的目标不仅是延续和激化启蒙运动，而且是延续和激化人类主义和民主，即使人类将被彻底改变（Ferrando2019，33)。另一些人则认为，人类必须被彻底征服，我们最好为比我们更聪明的生物留出空间。无论如何，超人类主义者都同意，人工智能等技术———而不是教育和人类文化——将会而且应该创造出更好的人类和超人类，这将对整个人类产生政治影响。从这个意义上说，这很可能会改变人类（如果还存在的话）和他们的强化了的人工智能或超级智能主人之间的力量平衡。正如赫拉利（2015）所言，届时可能不再需要民主和其他旧制度。虽然大多数超人类主义者较少花时间去思考对具体人类和人类社会更直接的政治影响，但超人类主义也有一些分支，他们拥有明确的政治性，关注当下，包括自由主义[佐尔坦·伊斯特万（ZoltanIstvan)，他曾在2016年竞选过美国总统]、民主主义和左派，呼吁关注社会问题(James Hughes)。

人工智能政治哲学

182

第六章 非人类怎么办？环境政治与后人类主义

183