人工智能政治哲学

对于一个运作良好的民主政体而言，其应有之义并不在于它能够以理性和真理为导航，而在于它能够包容不同的政治计划和团体，并让它们发出自己的声音。民主是关于社会应当如何组织的不同愿景。它涉及情感、情绪和感受（Farkasand Schou 2020, 7 )。

法卡斯（2020）警告说，“假新闻”可能会成为攻击对手的一种修辞武器，他问道：谁来划定假新闻和真新闻的界限？谁能确立自己的权威地位？如果政治、真理和“后真理”的意义是被演绎和建构出来的，那么我们就应该问：谁在演绎哪一种真理论述，又是为什么？与德里达（Derrida）的观点一致，法卡斯和舒尔（2018）认为，意义的封闭依赖于排斥，论述始终是“一种政治斗争导致的特定意义的固定结果，这些政治斗争长期压制了其他替代路径”。这种做法并不意味着专业知识在民主制度中不再有任何地位；相反，这种紧张关系仍然是自由民主国家的一种动力，民主必须平衡这些力量。此外，人工智能等新技术有助于实现这一民主理想。法卡斯和舒尔（2020，9）认为，将数字技术与更具参与性和包容性的民主形式相结合是唯一的出路。

人工智能政治哲学

094

我将在下一章再次讨论情感问题。就目前而言，很明显，那些诉诸专业知识、真理、理性和共识的人（从柏拉图到哈贝马斯）与那些将民主视为斗争和/或直接参与的人之间存在着紧张关系：正如法卡斯和舒尔（2020，7）所说，民主是人民的统治而非理性的统治。协商一参与式民主理想和论争式民主理念都不同意普通人可能偏爱专制或人民可能是冷漠的警告〔参见例如Dahl1956或Sartori1987，如萨托利（Sartori）所说：选民很少行动，他们只是“做出反应”]，也不同意熊彼特（Schumpeter）等人所捍卫的观点，即“普通人根本没有能力理解政治决策背后的问题，因此他们乐于将这些决策交给那些他们认为更有资格处理这些问题的人”(Miller 2003，40；米勒的强调)。

但人们如何才能获得这种能力呢？是像朗西埃认为的那样，自我教育就足够了，还是像杜威提出的那样，我们需要普遍教育？杜威的民主理念是非代议制的。但即使在代议制中，我们也可以说，人们需要接受教育以便更好地选择他们的代表。此外，教育还能抵御专制主义的危险。重点不是像密尔所提议的那样，把更多的选票投给受教育程度较高的人（这也与柏拉图式的观点不谋而合），而是要教育每一个人。科学技术能否通过这种教育帮助人们克服无知？这在很大程度上取决于如何利用科学技术以及提供什么样的知识。事实是必需的，但未必能改变人们的思想，正如我们将在下文看到的，仅有信息是不够的。此外，还存在以科学技术和良好管理取代政治的危险。在政治上使用人工智能往往会得到一些人的鼓动或支持，他们认为政治斗争和混乱的复杂性可以简化为理性决策，并往往寻找着在客观上比其他选项更好的结果。有一种柏拉图式的诱惑，即把政治变成一个关于哲学真理和专业知识的问题。在“两种自由概念”(Two Concepts of Liberty)(见第二章）一文中，伯林已经警告，不要把所有政治问题都变成技术问题：如果每个人都同意某个目的，那么剩下的问题就只是手段问题了，这些问题可以“由专家或机器来解决”，政府就变成了圣西门（Saint-Simon）所说的“事物的行政”(the administration of things )( Berlin 1997，191)。此外，科学知识可能是政治判断的必要条件，但肯定不是充分条件。马格纳尼（Magnani2013）认为，我们在道德方面所需的知识不应仅仅是科学知识，“还应该是蕴含在重塑的文化’传统中的人文和社会知识”；我们需要一种“能够应对新的全球条件下人类生活”的道德，这需要将那些在空间或时间上往往非常遥远的结果纳入考量，而这需要想象力。政治知识也是同样道理。此外，有人可能会争辩说，正如杜威所提出的那样，让政治更具包容性、减少技术官僚主义并依靠集思广益，这是解决这些问题的一种方法，因为它带来了社会和政治知识：这些知识嵌入在具体的历史和文化背景之中并由其塑造，而科学是无法（轻易地）提供的。这可能有助于政治想象力。

第四章 民主：回音室与机器极权主义

095

但是，如果民主需要更多的协商和参与，那么人工智能的作用是什么？它能否有助于本章讨论的理论家们所设想的那种协商、沟通、参与和想象力？或者它仅仅是操纵选民的工具，更广泛地说是“把人变成物（数据）”的工具？它能否有助于公共推理，抑或是对这种理想的一种威胁？因为它提出的建议以及提出建议的方式可能并不透明，而且—至少就机器学习而言—它的工作方式与推理或判断毫无关系。人们（包括政治家）是否有足够的知识和技能来处理人工智能和数据科学提供的信息，还是说我们掌握在技术精英的手中，他们知道什么对我们有利？用斯坎伦（Scanlon）的话说，如果人工智能提出了一条“任何人都无法合理拒绝”的规则怎么办（Scanlon 1998，153)？人工智能主要是为柏拉图式的治理模式创造环境，还是有可能实现哈贝马斯或杜威式的民主？人工智能是否会被用于理性和客观的一方，从而有可能对抗被认为过于感性的人们？它是否也能在论争式的激进民主中发挥作用，包括保持差异和促进所有人的解放？进一步讨论这些问题的一种方法是指出信息气泡和回音室的问题，我们现在来谈谈这些问题。

人工智能政治哲学

096

信息气泡、回音室和民粹主义

基于这些协商式民主和论争式民主的理念，我们可以提出，人工智能等智能技术应有助于通过社交媒体实现更加广泛的、更具包容性的政治参与。但是，我们应该考虑到这些技术在知识方面的挑战和局限性。

互联网和社交媒体的一些问题在媒体研究中早已广为人知。例如，桑斯坦（2001）分析了与个性化、碎片化和两极化相关的问题，帕里泽（Pariser2011）认为个性化会产生过滤气泡（filterbubble)，限制我们的视野。但现在，社交媒体和人工智能的结合加剧了这些趋势。这个问题被表述为信息气泡和回音室（Niyazov2019)：个性化算法向人们提供他们可能会感兴趣的信息，其结果是人们被隔离在气泡中，在那里他们自己的信念得到了强化，而不会接触到相反的观点。这使得古丁（Goodin2003）所设想的政治想象力变得更加困难：它似乎会阻碍而不是促进移情政治(empathic forms of politics)。政治两极分化也更加严重，这使得达成共识和采取集体行动成为不可能，存在着社会分裂和瓦解的风险。人们认为社交媒体问题尤为严重：虽然印刷出版物、电视和广播都有自己的回音室，但它们仍然“实行一定程度的编辑控制”(Diamond2019，22)。而社交媒体的回音室缺乏这种控制，从而导致两极分化和仇恨语言。

第四章 民主：回音室与机器极权主义

097

如果你想要按照哈贝马斯那样进行理性的、以共识为导向的辩论，这就有问题了。但是，如果人们无法接触到相反的观点，即使是论争式民主也很难实现。埃尔-贝尔马维（El-Bermawy2016）认为，地球村已被“日渐疏远的数字孤岛”所取代，隔离现象正逐渐严重。在脸书上，我们消费的大多是与我们观点相似的政治内容。这样一来，我们就会形成一孔之见。阮（Nguyen2020）对“认知气泡”（epistemic bubbles）和“回音室”进行了区分。“认知气泡”排除了相关的声音（通常是无意的)，而“回音室”则是一种持续的主动排除其他相关声音的结构，在这种结构中，人们开始不信任所有外部来源。例如，搜索引擎可能会通过其运作方式将用户困在过滤气泡和回音室中，这威胁到多样性，进而威胁到民主（Granka2010）。这无疑是一种风险，尽管实证研究发现，社交媒体也会让用户接触到相反的观点，但只有一小部分用户会刻意寻求跳出回音室式的舆论环境（Puschmann 2018)。社交媒体还能让人们发表在主要新闻媒体上会被审查掉的观点。从这个意义上说，至少有机会实现意见的多样性。

人工智能政治哲学

098

然而，根据协商民主的理念，民主不仅仅是交换意见，而且超越了短暂的忧虑。例如，协商民主的理念是关于理性的公共使用，包括商议如何在更长的时间内共同生活及承担义务。本哈比(Benhabib)(在 2008 年 Wahl-Jorgensen的采访中）反对将民主简化为通过互联网“不受约束地交换意见”的观点，也反对忽视长期“行动承诺”的观点，例如将部分收入捐献给社区。人工智能还可能威胁到哈贝马斯、阿伦特等人所设想的沟通理性和公共领域。本哈比认为，“如何将这些传播、信息和舆论建构的网络与公众决策性表达之间的互动进行概念化”是一个挑战。

从知识的角度来看，我们可以认为回音室威胁着民主的认知基础至少根据协商式民主、参与式民主和共和式民主是如此。正如金基德（Kinkead）和道格拉斯（Douglas)(2020）所阐述的那样：从卢梭、密尔到哈贝马斯、古丁和埃斯特伦德等政治思想家都相信民主的认知力量、美德和正当性，因为自由的公开辩论允许我们追踪真相，分享和讨论各种观点。然而，社交媒体与大数据分析的结合改变了政治传播的本质：现在不再需要通过广播将自己的观点显露在公众的讨论和监督之下，而是可以向世界各地的许多人发送极具针对性的信息，从而在全球范围内“窄播（narrowcast）政治信息”。这将带来认知上的影响：

第四章 民主：回音室与机器极权主义

099

民主的认知美德面临的一个风险是，封闭的社交网络占据了公共空间，使之成为私人领域。一旦成为私人领域并只在相似的人之间进行分享，政治论述就会失去某种认知上的稳健性（epistemic robustness)，因为各种思想不再受到多元观点的挑战。

此外，在私下讨论中，更容易使用操纵手段而不被参与者察觉。密尔认为，在开放的思想市场中会出现更好的想法和真理：但现在这种开放性受到了回音室、过滤气泡和窄播的威胁。

在更广泛的意义上，人们可以说，从民主的角度来看，这种公共领域的私有化是很成问题的，因为民主需要一个公共领域，政治是关于公共事务的；回音室等现象会危及这一点。但公共领域到底是什么，在当前的数字技术条件下，“公共”又是什么？当人们在社交媒体上分享自己最私密的想法和感受时，公共与私人的区分似乎已经过时，而基于身份认同的技术和政治也给这种区分带来了压力。尽管如此，基于协商民主理论所提出的理由，保留并捍卫“公共”的观念还是有好处的。此外，人们还可以指出集体的问题需要集体解决方案。库尔德里（Couldry）、利文斯通（Livingstone）和马卡姆（Markham)(2007）写道，正如公民身份不仅仅是一种生活方式的选择一样，公共议题和政治“涉及的不仅仅是‘社会归属”或身份认同的表达「另见反对身份政治的论点]。尽管后现代主义思想家对公共/私人区分的瓦解感到兴奋，但这一区分仍然至关重要”。他们认为，民主需要一些公共议题的观念，这些议题需要共同的定义和集体的解决方案。但技术可能不容易区分公共和私人问题。政治批评可能经常被排除在被称为“政治”的公共领域之外，而在艺术和社交媒体等其他领域进行，这些领域可能是公共的，也可能不是公共的，或者只是在某些方面是公共的。

人工智能政治哲学

100

与此相关的一个问题是民粹主义，它可能以各种方式与人工智能联系在一起。例如，民粹主义政治家利用人工智能分析选民偏好的数据。在民主社会中，政治家知道公民需要什么固然是好事，但这种人工智能的使用“可能会变成煽动性的大众呼吁，而不是美国开国元勋等人所设想的理性的协商过程”(Niyazov2019)。一些理论家对民粹主义持比较积极的态度。拉克劳（Laclau2005）认为，民粹主义不仅是一种本体式经验现实（一种特殊的政治)，而且是政治的同义词；这就是政治本身。他看到了一种重新启动政治计划的可能性。但本章所讨论的大多数理论以及诸如占领（Occupy）等社会运动都与民粹主义保持距离。无论如何，在社交媒体中我们看到了对非精英们评论的推崇和美化，以及对专家知识的否定（Moffitt 2016)，这被称为“认识论的民粹主义”(epistemological populism )( Saurette and Gunster 2011)。莫菲特(Moffitt

第四章 民主：回音室与机器极权主义

101

2016）认为这有积极的一面，例如揭露腐败现象，但也指出了回音室的问题。社交媒体会助长民粹主义的传播，加剧意识形态的分裂，并偏好病毒式传播和即时性，而不是讨论和理解的政治性。虽然社交媒体并不一定由人工智能驱动，但人工智能可能会通过过滤和管制信息的方式并以机器人的形式在其中发挥作用，从而影响政治传播并有可能影响选民的偏好。这可能会让社会为一个专制领导人做好准备，他自称体现人民意志，其个人执念成为国家执念。人工智能通过社交媒体可以促进民粹主义的兴起，并最终导致专制主义的兴起。

更多问题：操纵、替代、责任和权力

人工智能可以用来操纵人。我已经提到了“助推”的可能性，它可以影响决策（见第二章）。与其他数字技术一样，人工智能甚至可以用来塑造人类的经验和思想。正如拉尼尔（Lanier2010）以技术专家的名义所说：“我们通过直接操纵你们的认知经验来摆弄你们的哲思，而不是间接地通过争论。只需一小部分工程师就能以惊人的速度创造出塑造整个人类经验未来的技术。”在代议制民主及其投票程序的情形下，人工智能和其他数字技术可以通过个性化广告等方式引导选民支持某个政治家或政党。尼亚佐夫（Niyazov2019）认为，这可能会导致少数人（摇摆不定的选民）的暴政。剑桥分析公司（Cambridge Analytica)(见第二章）是一个众所周知的操纵他人的案例，该公司在未经脸书用户许可的情况下获取了他们的私人数据。据称，这些数据被用于影响政治进程，例如唐纳德·特朗普2016年的总统竞选活动。看看贝尔（2016）的政治领导力标准，人工智能的操纵性使用也可能反映出一种远离了智力、社交技能和美德的转变。据他的看法，如果人工智能要接管政治领导权，那么人工智能是否具备所需的智力、社交技能和美德是值得怀疑的。

人工智能政治哲学

102

无论如何，用人工智能取代人类领导都是危险的和反民主的。危险不仅在于接管人类的人工智能可能会毁灭人类，还在于它的统治或它所声称的统治是为了人类的最大利益。这是科幻小说的经典路数[例如电影《我，机器人》(I,Robot）或尼尔·阿瑟尔(Neal Asher）的小说《政体》(Polity）]，也是所有民主理想的危险所在：正如达姆尼亚诺维奇（Damnjanović2015）所言，它摧毁了自由民主，因为它摧毁了公民自主意义上的自由，最终它也使我们失去了政治本身。只有对柏拉图进行非常特殊的诠释才可能会去支持这种设想，在这种诠释中，人工智能将扮演人工哲学王的角色（或许结合现代功利主义论点，旨在实现全人类效用最大化，或结合霍布斯的论点，旨在实现人类的生存与和平)。这样，国家之船的船长或掌舵人（kybernetes）届时变成了自动驾驶员。或许它甚至可以为整个人类和地球导航。我们在此讨论的所有民主理论都对这种设想提出了正确的批评。我们也不清楚这样的人工智能是否会拥有实际上的权威，无论其是否正确和公正。

从技术哲学的角度来看，这种情景和讨论表明，人工智能不仅仅是一种技术，而且始终与道德和政治可能性相关联。它们说明了人工智能的非工具性：人工智能不仅是政治的工具，而且会改变政治本身。此外，即使人工智能是在民主框架内使用的，当决策是基于人工智能的建议时，也会出现责任和合法性问题，特别是如果这些决策的作出并不透明，或者在决策过程中引入或复制了偏见。一个众所周知的例子是，人工智能帮助美国法官处理刑事判决、假释和获得社会服务资格等事项（见第三章提到的COMPAS案例）。对于一个民主国家来说，公共责任至关重要：对公民作出决定的公职人员应该承担责任，如果他们高度依赖人工智能作出决定，如果人工智能作出决定的方式既不透明也不中立，那么如何保持这种责任感就不清楚了。后者也很重要，因为正如第二章末尾提到的，人们可以将平等视为民主的一个条件。从这个角度看，如果我们被一个垄断的科技行业所控制，其控制了数据及其流动，从而最终控制了人民，这也是非常有问题的。尼米兹（Nemitz 2018）对当今的数字权力集中提出了批评。他认为，人工智能带来的挑战不能仅靠人工智能伦理来解决，而是需要通过一种经由民主进程产生的具有强制力和正当性的规则来应对。他呼吁建立一种民主的人工智能文化。

第四章 民主：回音室与机器极权主义

103