第四章 民主：回音室与机器极权主义
导言：人工智能对民主的威胁
民主与人权和法治一起，通常被视为西方自由主义制度（Nemitz2018，3）和自由主义政治思想的核心要素之一。世界上许多政治制度都以民主理想为诉求。人工智能会加强民主，还是会削弱民主？从其普遍的社会和政治后果来看，人工智能对民主有何影响？
如今，许多批评家警告说，人工智能威胁着民主。正如美国前副总统阿尔·戈尔（A1Gore）在20世纪90年代中期的一次演讲中谈到计算机网络时所说的那样（Saco 2002，xiii)，人工智能并没有帮助建立“一个新的雅典民主时代”(a new Athenian Age ofdemocracy)，也没有迎来一个由互联网和人工智能创造出的新型政治公共空间（agora）的时代，相反，人们担心人工智能技术会导致一个更不民主的世界，甚至是一个反乌托邦（dystopia）。批评者质疑技术在政治上是中立的，或怀疑互联网和人工智能等数字技术一定会带来进步。例如，在《监控资本主义时代》(The Age ofSurveillance Capitalism)(2019）一书中，祖博夫认为，使用大规模行为改变技术（behavior modification techniques）的监控资本主义不仅是对个人自主的威胁，也是对民主的威胁，因为它推翻了人民的主权。为了论证监控资本主义为什么是反民主的，她引用了潘恩（Paine）的《人的权利》(The Rights of Man）一书。该书警告人们要提防贵族政治（aristocracy），因为这样的一群人不对任何人负责。然而，这一次的暴政不是来自贵族，而是来自监控资本主义，一种原生的资本主义形式，它剥夺了人类的经验并强加了一种新的控制：知识的集中意味着权力的集中。韦伯在《九巨头》(The BigNine)(2019）中表示同意：我们无法控制自己，因为我们的未来是由大公司决定的。这不是民主。或者如戴蒙德（Diamond 2019）所说：对大科技公司有利的事情“不一定对民主有利，甚至对我们个人的身心健康都不利”(21)。此外，不仅公民，国家也越来越依赖于企业以及它们对公民掌握的信息（Couldry and Mejias 2019，13)。然而，祖博夫（2019）仍然相信通过民主进行改革是可能的。受汉娜·阿伦特的启发，她认为新的开端是可能的，我们可以“重新将数字未来作为人类的家园”(525）。相比之下，赫拉利（Harari）在《未来简史》(Homo Deus)(2015)一书中认为，未来民主可能会衰落并彻底消失，因为它无法应对数据：“随着数据量和速度的增加，选举、政党和议会等古老的制度可能会过时”(373)。技术变革日新月异，政治已无法追赶。现在，影响我们生活的关键选择，例如有关互联网的选择，都没有经过民主程序。即使是独裁者也会被技术变革的速度所淹没。
079