只要人工智能和其他数字技术助长了这些现象，它们在政治上就是有问题的。例如，考虑一下社交媒体如何制造焦虑并可能导致部落化（tribalization）：我们不断受到耸人听闻的坏消息的轰炸，并且只相信来自我们“部落”的信息（Javanbakht 2020）。回音室和认知气泡进一步助长了这种部落化。焦虑加剧了孤独和分离，部落化不仅可能导致政治两极分化和公共领域的分别调配，还可能导致暴力。此外，当阿伦特（2017，573-574）声称纳粹集中营以科学控制的方式将人变成了纯粹的物品时，我们也可以考虑，当代通过人工智能进行行为操纵的形式可能会产生类似的道德影响，因为它们将人变成了阿伦特所说的“行为反常的”动物(perverted animals)，任由其非法侵人。再考虑一下监控资本主义，以及数据经济是如何建立在对人的剥削和操纵之上的。还有更多与第二次世界大战中发生过的暴行相似之处，以及更一般意义上的极权主义的罪恶相似之处。在《隐私即权力》(Privacy is Power)（2020）一书中，卡丽莎·贝利斯（CarissaVéliz）将当代专制政权掌握我们个人数据的情景与纳粹利用登记册大肆屠杀犹太人的情景进行了比较（115）。正如她所说：“数据收集可以杀人”。人工智能和数据科学可被用于此类目的，而且不那么明显地为此类现象创造了条件。然而，破坏、建立或维持极权主义政权的从来都不是技术本身，还需要人：特别是服从命令的人、不反抗的人。这就引出了阿伦特的另一本书：《艾希曼在耶路撒冷》(EichmanninJerusalem)(2006)，其因副标题而闻名：“一份关于平庸之恶的报告”(A Report on the Banality of Evil)，该书由阿伦特写于 1963 年，她分析了两年前对阿道夫·艾希曼（Adolf Eichmann）的审判，艾希曼是一名纳粹分子，在第二次世界大战期间大规模屠杀犹太人中扮演了重要角色。阿伦特目睹了审判过程。报告引起了巨大反响。阿伦特并没有将艾希曼视为怪物或仇视犹太人的人，而是认真分析了他自己的观点，即他是奉命行事：“只有当他没有按照命令行事时，他才会良心不安”。他的“职责”是服从命令，遵守纳粹德国的法律，也就是听从元首的命令。没有例外；服从是一种“美德”。（247）这一分析有助于阿伦特探究极权主义的起源：她的结论是，服从而不反抗是罪恶的一部分。如果没有许多像艾希曼一样“只是”服从命令、追求事业的人，纳粹德国就不可能犯下罪行和暴行。这是极权主义邪恶的平庸、普通的一面，但其“可怕”程度丝毫不减。在阿伦特看来，这种服从比极权主义领袖的内心世界和动机更为重要。然而，她希望总会有一些人进行反抗：“在恐怖的条件下，大多数人会服从，但有些人不会”。
第四章 民主：回音室与机器极权主义
113