人工智能政治哲学

对于偏见和人工智能的思考，此类讨论与政治背景（如“黑人的命也是命”运动）仍然是关系密切。如何界定偏见和歧视非常重要，不仅在哲学上如此，在实践中也是如此。我们是应该在算法中加入普遍主义的公正原则，还是应该通过技术和其他方式关注对特定群体的偏见并采取积极性差别待遇的措施？我们应该接受语料库中存在的历史偏见（例如，声称从互联网导入的数据反映了社会的现状，数据和算法应该是“中立”的)，还是坚持认为算法从来都不是中立的，它们是有偏见的，并纠正这种偏见，从而有效地促进社会减少对历史上弱势群体的偏见？这两类论点是否可以结合起来，或者它们是否不可通约？这两种规范性理论的某些方面能否在实践中实施？如果可以，会出现哪些潜在的紧张关系？

人工智能政治哲学

074

结论：人工智能并非政治中立

从技术哲学中，我们知道技术在道德和政治上不是也不可能是中立的。一般来说（对于所有技术都是如此），人工智能和数据科学也是如此。虽然有些人认为，如马茨纳（Matzner 2019，109）所说的“如果人类不持续地用他们的偏见来破坏算法，算法就可以是中立的”，但这种观点是错误的。相反，人类与机器之间的关系要复杂得多，人类与人工智能也是如此。人工智能算法从来都不是中立的，社会中的偏见以及算法和数据科学过程中产生的偏见都需要进行评估。同样，正如吉特尔曼（Gitelman）和杰克逊（Jackson)(Gitelman and Jackson 2013）所言，数据本身也不是中立、客观或“原始”的。相反，它们是“由知识生产的运作产生的”，涉及解释、整理和感知—包括感觉（Kennedy，Steedman，and Jones 2020)。如前所述，人工智能使用的语料库可能存在偏见。语言本身也存在偏见，例如性别偏见。如在使用英语单词“man”时，它不仅指男性，也指整个人类（Criado Perez2019，4)。此外，正如我已经提出的，处理数据的团队也不是中立的。人们可能会有偏见，团队可能缺乏种族和性别的多样性。

第三章 平等与公正：人工智能的偏见与歧视

075

例如，当他们主要由白人男性组成时，他们就会分享特定的政治观点，包括关于身份政治的观点（Criado Perez 2019，23）。技术官僚制（technocracy）也不是中立或非政治性的。仅靠技术专长无法解决伦理和政治争论。科技公司也有自己的政治。例如，根据默里（Murray 2019，110）的说法，谷歌等硅谷公司在政治上偏左（更准确地说：左翼自由主义者），并对其员工抱有这样的期待——即使他们所宣扬的并不总能得到践行，例如当涉及他们自身工作团队的多样性问题时。亚马逊或优步（Uber）等科技公司也通过人工智能和算法来监控员工的表现：亚马逊利用人工智能自动解雇生产效率低下的员工（Tangerman 2019），优步的算法会对司机进行排名，从而决定他们的工资水平，甚至决定他们是否会被解雇（Bernal2020）。只要这些做法具有剥削性，就会与他们的政治话语形成鲜明对比，而且这些做法本身在道德或政治上就不会是中立的。最后，正如我在前一章中所指出的，除了科技公司及其市场的直接环境，人工智能服务还依赖于南半球的人类劳动力。后者并没有从他们的劳动中获得公平的回报。

鉴于人工智能、数据以及处理该技术的人员和组织的这种非中立性，我们需要对这些技术操作、实践、解释和感知进行评估。然而，“如何评估”仍然是一个悬而未决的问题，即在什么基础上进行这种规范性评估。因此，讨论规范和相关概念至关重要。在本章中，这意味着我们要讨论偏见和歧视、（不）公正、（不）平等等概念的含义，以及它们为什么会产生问题。我介绍了评估人工智能的规范性政治哲学概念框架的另一部分：二个基于平等和公正等观念的框架。这可能为那些开发和使用人工智能的地方讨论人工智能政治问题提供信息。

人工智能政治哲学

076

此外，这也提出了由谁来评估并采取措施的问题。技术开发人员在这方面发挥着重要作用，因为他们也需要对其技术的效果负责。在某种程度上，他们已经承担了这个角色：作为员工，他们受到其工作的公司和组织的激励，这些公司和组织至少在口头上支持发展负责任的人工智能；作为追求利润的企业家；或者作为自己有动力改变社会的公民，例如黑客。正如韦伯（Amy Webb2020）所指出的，为了应对数字革命及其带来的大规模监控、权力集中和独裁统治，一场颠覆和改变现状的斗争正在进行。因此，黑客是社会运动的一部分，是一种将事情掌握在自己手中的激进主义的新形式。作为公民，黑客们为“夺回民主”而战，或许也是为了维护自由，实现更多的公正与平等。除此之外，我们还可以就人工智能的政治影响开展更广泛的公民教育。这就提出了如何衡量这种影响的问题，但其往往是难以预测的（Djeffal2019，271)。此外，政治意义和影响本身也可能存在争议。需要开发更多新工具来探索人工智能未来与潜在的社会和政治意义及后果，并为高质量地讨论这些可能性创造条件。这对人工智能开发者和公民都有帮助。

从更广泛的意义上讲，考虑到关于基本政治问题的讨论广泛而富有挑战性，不应让科技工作者、公司、组织、政府、教师和公民独自应对人工智能挑战中的政治问题，而应就这一话题展开更广泛的公开讨论。在民主社会中，我们（公民们）应该决定政治方向。在专家的协助下，这可以帮助技术开发者建立一个视角并以此来分析人工智能中的偏见，必要时，在技术中通过技术来纠正偏见。政治哲学中的概念工具——在本章中是关于公正与平等的讨论—有助于提高这些民主讨论的质量，找到规范方向，并重新设计技术。第四章将进一步讨论人工智能与民主之间的关系。

第三章 平等与公正：人工智能的偏见与歧视

077

人工智能政治哲学

078

第四章 民主：回音室与机器极权主义

导言：人工智能对民主的威胁

民主与人权和法治一起，通常被视为西方自由主义制度（Nemitz2018，3）和自由主义政治思想的核心要素之一。世界上许多政治制度都以民主理想为诉求。人工智能会加强民主，还是会削弱民主？从其普遍的社会和政治后果来看，人工智能对民主有何影响？

如今，许多批评家警告说，人工智能威胁着民主。正如美国前副总统阿尔·戈尔（A1Gore）在20世纪90年代中期的一次演讲中谈到计算机网络时所说的那样（Saco 2002，xiii)，人工智能并没有帮助建立“一个新的雅典民主时代”(a new Athenian Age ofdemocracy)，也没有迎来一个由互联网和人工智能创造出的新型政治公共空间（agora）的时代，相反，人们担心人工智能技术会导致一个更不民主的世界，甚至是一个反乌托邦（dystopia）。批评者质疑技术在政治上是中立的，或怀疑互联网和人工智能等数字技术一定会带来进步。例如，在《监控资本主义时代》(The Age ofSurveillance Capitalism)(2019）一书中，祖博夫认为，使用大规模行为改变技术（behavior modification techniques）的监控资本主义不仅是对个人自主的威胁，也是对民主的威胁，因为它推翻了人民的主权。为了论证监控资本主义为什么是反民主的，她引用了潘恩（Paine）的《人的权利》(The Rights of Man）一书。该书警告人们要提防贵族政治（aristocracy），因为这样的一群人不对任何人负责。然而，这一次的暴政不是来自贵族，而是来自监控资本主义，一种原生的资本主义形式，它剥夺了人类的经验并强加了一种新的控制：知识的集中意味着权力的集中。韦伯在《九巨头》(The BigNine)(2019）中表示同意：我们无法控制自己，因为我们的未来是由大公司决定的。这不是民主。或者如戴蒙德（Diamond 2019）所说：对大科技公司有利的事情“不一定对民主有利，甚至对我们个人的身心健康都不利”(21)。此外，不仅公民，国家也越来越依赖于企业以及它们对公民掌握的信息（Couldry and Mejias 2019，13)。然而，祖博夫（2019）仍然相信通过民主进行改革是可能的。受汉娜·阿伦特的启发，她认为新的开端是可能的，我们可以“重新将数字未来作为人类的家园”(525）。相比之下，赫拉利（Harari）在《未来简史》(Homo Deus)(2015)一书中认为，未来民主可能会衰落并彻底消失，因为它无法应对数据：“随着数据量和速度的增加，选举、政党和议会等古老的制度可能会过时”(373)。技术变革日新月异，政治已无法追赶。现在，影响我们生活的关键选择，例如有关互联网的选择，都没有经过民主程序。即使是独裁者也会被技术变革的速度所淹没。

079

人工智能政治哲学

080

本章将通过探究有关民主及其条件的政治哲学理论（包括知识/专业技能与民主之间的关系）和极权主义的起源，进一步探讨人工智能对民主的影响。本章概述了柏拉图式和技术官僚式的政治观念与杜威和哈贝马斯式的参与式和协商式民主理想之间的紧张关系，前者强调统治者的知识、教育和专业技能，后者则提出了一种不同的、激进的和论争式的民主和政治理想（这也受到了墨菲和朗西埃的批评)。本书探讨了人工智能如何威胁或支持这些不同的民主理想和观念。例如，人工智能可以用来实现直接民主，但它也可能支持专制的技术官僚政治：由专家来统治，或如赫拉利所言，由人工智能来统治。如果民主要求我们了解彼此的观点并为达成共识而参与协商，那么数字技术可以促进这一点，但也有一些现象会导致公共领域的分裂和两极分化，从而威胁到这一民主理想。最后，人工智能可能会被那些试图摧毁民主本身的人所利用：成为柏拉图式的哲学王或哈贝马斯式民主的工具，被用来推动从理性主义和技术解决主义（technosolutionist）的角度来理解政治，而这种理解忽视了政治固有的辩论性维度，并有可能排斥其他观点。

此外，本章探讨了人工智能是否会为极权主义创造条件。根据阿伦特（2017）关于极权主义起源的研究，本章考虑了人工智能是否会支持一个孤独和缺乏信任的社会，而这为极权主义倾向创造了肥沃的土壤。如果人工智能被企业和官僚机构用作通过数据对人进行管理的工具，那么这就把人当成了物，并可能通过那些只是做着他们工作的人们的非预期结果——导致阿伦特（2006）所说的“平庸之恶”。当我们的数据掌握在科技公司和政府管理部门的人手中时，这不仅是一个历史问题，也构成了当前的危险，因为他们可能会听从管理者和政客的吩咐行事，并停止思考。

第四章 民主：回音室与机器极权主义

081

人工智能对民主、知识、协商和政治本身的威胁

从柏拉图开始：民主、知识和专业技能

要想知道人工智能是否以及如何威胁民主，我们首先要知道什么是民主。让我们看看关于民主及其条件的不同观点，包括知识/专业技能与民主之间的关系。

民主是对一个古老问题的回答：谁应该统治？柏拉图反对民主，认为统治需要知识，尤其是关于善和正义的知识。在《理想国》(Republic）中，他将民主与无知联系在一起，认为民主会导致暴政。他以航海作类比，提出一个好的领导者应该是知识渊博的，因为作为船长，他应当能够控制国家这条航船。柏拉图使用的另一个比喻是医生：如果你生病了，你需要专家的建议。统治国家是一门手艺，需要专业知识。因此，哲学家应该统治国家，因为他们具有智慧，追求现实和真理。柏拉图所说的“哲学”并非指学术意义上的哲学：他在《理想国》中明确指出，他的护卫者还将接受音乐、数学、军事和体能训练（Wolff2016，68）。相比之下，将权力交给人民就意味着让无知、歇斯底里、享乐和懦弱统治一切。如果没有适当的领导，政治冲突和无知会让人们渴望拥有一个强有力的领导人，甚至是一个暴君。

人工智能政治哲学

082

这种观点在现代发生了变化，新出现的人性论和政治观念认为，多数人而不仅仅是少数人能够自我统治。例如，卢梭的思想也旨在避免暴政，但在他看来，柏拉图式的权威问题的解决办法，不是让受过教育的少数人来统治，而是对全体公民的教育：只要全体公民都接受道德教育，自治就是可能的，也是可取的(Rousseau1997)。卢梭因此奠定了政治理论中另一种思想的基础，其信任民主，将自治扩大到所有公民身上，并为自治增加了一些条件。但这种自治应具备哪些条件，采取何种形式呢？他指出，民主社会不应该由哲学王统治是一回事；具体说明民主需要哪些知识（如果有的话），以及确定民主应该采取的确切形式又是另一回事。例如，民主是否应该包括协商和参与？人工智能与这种民主形式有什么关系？

让我们从有关知识与民主的问题开始。在政治理论中，与我们的讨论相关的一个讨论是技术官僚制/民主的争论。这一争论始于柏拉图（如果没有更早的话)，随着现代官僚机构的兴起而具有了新的意义。近几十年来，人们一直在呼吁数据驱动决策、智能治理以及科学、循证政策，这与呼吁参与式治理和更激进的民主形式形成了矛盾。这些不同论点和语言之间的分歧（Gilley2016）反映了我们对知识和专业技能在政治中所起的作用的对立观点。

第四章 民主：回音室与机器极权主义

083