总之，我们在这里看到的不仅是人工智能可被用作直接破坏民主的工具，它还会产生预期之外的副作用，例如使协商民主的理想更难实现、强化民粹主义、威胁公共责任以及加剧权力集中。此外，有关人工智能的政策必须平衡不同的、暗藏着冲突的政治价值。
人工智能与极权主义的起源：来自阿伦特的教训
人工智能与极权主义
民主的定义也可以与专制主义和极权主义相对照。后者不仅是专制主义，因为它拥有强大的中央权力，严重违反了迄今为止任何意义上的民主（投票、公民参与、多元化和多样性等），而且还深度干预公民的公共和私人生活。它的特点是政治压迫、新闻审查、大规模监控、国家恐怖主义以及完全没有政治自由。历史上，希特勒（Hitler）统治下的纳粹德国和墨索里尼（Mussolini）统治下的法西斯意大利等都是极权主义政权的例子。如今，数字技术为监控和操纵提供了新的手段，这可能支持或导致极权主义。人工智能就是这些技术之一。它不仅可以帮助专制统治者及其支持者操纵选举、传播错误信息、控制和镇压反对派，还可以帮助建立一种特殊的监视和控制：全面监视和全面控制。布鲁姆(2019）警告说，“极权主义4.0”的威胁会导致“每个人都将被全面分析和计算。他们的一举一动都会受到监控，他们的每一个偏好都会被了解，他们的整个生活都会被计算出来并变得可以预测”(vii)。如果通过人工智能的监控手段可以了解每个人的情况，那么就可以说人工智能比我们更了解我们自己了。这就为家长制（第二章）和专制主义开辟了道路。正如麦卡锡-琼斯（McCarthyJones 2020）所说：
第四章 民主：回音室与机器极权主义
107