当从批判的视角看待人工智能和权力时,“数据殖民主义”(Couldry and Mejias 2019)是另一个可用的术语,其所表达的意思是:从批判理论的角度看,人工智能对人类和人类生命的剥削是不可接受的。那么,通过殖民主义的历史来理解对数据的占有:正如历史上的殖民主义侵占领土和资源以牟利一样,数据殖民主义通过侵占数据来剥削人类(Couldry and Mejias 2019)。正如我们在第三章中所看到的,殖民主义也被引用到有关人工智能和偏见的讨论之中。
从批判理论的角度来看,助推也是有问题的:尽管助推是一种更微妙的操纵方式,但这并不意味着它就不具有剥削性,因为助推是以资本主义的方式和背景来牟利的。而且,正如第二章中已经指出的那样,助推还因为其他原因而存在问题:它绕过了人类自主决策和判断的能力。人工智能增加了助推的可能性。杨(Yeung 2016)指出,算法决策引导技术被用来塑造个人决策所处的选择环境。她谈到了“过度助推”(hypernudges),因为这些助推会不断更新且无处不在,这对民主和人类繁荣产生了令人担忧的影响。但是,助推之所以有问题,不仅仅是因为它对特定人类的直接影响;它还涉及了某种看待人类的方式,这种方式促成了令人不安的特定操纵和剥削关系。库尔德里和梅西亚斯(2019)在批评弗洛里迪(2014)关于我们是信息有机体或信息体的观点时写道,当我们(被制造成)信息体时,我们就可能被操纵和调控:“信息体是被过度助推统治的完美生物,因为它们被重新设计为始终对数据流保持开放,因此可以持续地被调控。”如果我们将这类信息体视为科幻小说,那么我们最好意识到,就像人类的情感和启发式思维一样,科幻小说也被资本主义用来支持其体系(Canavan 2015;Eshun 2003)。或者,科幻小说是否也可以用来批判资本主义的目的和运行,赋予公民权力并提出抵抗呢?
第五章 权力:通过数据的监控与(自我)规训
135