然而，人工智能不仅被用来支持国家极权主义，它还促成了一种企业极权主义。再想想祖博夫的说法：我们生活在“监控资本主义”(Zuboff 2015；2019）之下：一种通过监控和调节人类行为的资本主义积累的新逻辑。祖博夫（2015）没有提到“老大哥”，而是谈到了“大他者”(Big Other)：我们面对的不是中央集权的国家控制，而是“一个无处不在的网络化制度体系，它将每天的生活进行记录、调节并使之商品化，包括从烤面包机到身体、从沟通到思想，所有这些都是为了建立新的货币化和利润途径”。在社交媒体上，这种情况可能已经在一定程度上发生了，但随着“物联网”和相关技术将我们的家庭、工作场所和城市转变为智能环境，我们也可以很容易地想象，这些地方会如何越来越多地转变为一切都在人工智能等电子技术监视下发生的地方。人工智能不仅会监视我们，还会对我们的行为作出预测。因此，人工智能和数据科学可以成为新形式的极权主义的工具，在这种情况下，人工智能比我们更了解我们自己，甚至比我们更早地了解我们自己。正如赫拉利在接受WIRED采访时所说（Thompson，Harari，and Harris 2018)，人类的感受和选择不再是神圣的领域。人类现在可以被完全操纵：“我们现在是可被破解的（hackable）动物。”这为政府和企业的暴政提供了可能性。通过人工智能和相关技术获得的知识可以用来操纵和控制我们。
第四章 民主：回音室与机器极权主义
109