然而,这些观点可以在不提及资本主义的情况下提出。从马克思主义的具体观点来看,主要问题并不在于技术官僚制和缺乏民主本身,而是具有自身逻辑的特定社会经济体系。例如,戴尔一维特福德、克约森和斯坦霍夫(2019)指出,当今资本主义已被人工智能问题“占有”了,并认为人工智能是资本和剥削的工具。人工智能不仅具有技术逻辑,还具有社会逻辑,尤其是生产剩余价值的逻辑。它有助于创造和维持一种特殊的社会秩序:资本主义秩序。人工智能取代了工作,即使没有取代工作,它也强化了工作,而取代工作的威胁有助于恐吓工人。人们变得可有可无,或者让人觉得他们是可有可无的。一些社会主义者将人工智能视为创造一个不一样的社会的契机,例如通过全民基本收入的方式而戴尔-维特福德、克约森和斯坦霍夫则将重点放在问题上:新形式的剥削以及没有人类的资本主义迫在眉睫的前景。
然而,人工智能对人类的影响并不局限于狭义的生产和劳动领域。人工智能不仅是生产的一部分,还能提取知识,形塑我们的认知和情感。从情感计算(affective computing)(Picard 1997)到情感人工智能(affective AI),数字技术介入了个人、私密和情感层面。“情感人工智能”(McStay 2018)用于辨别情感状态、情感分析和衡量幸福感。例如,公司可以利用情感分析来识别、监控和操纵人们的情感状态:这是一种认知资本主义,但也是情感资本主义(Karppi et al. 2016)。这些“针对你的人格、情绪和情感、你的谎言和弱点的操作”(Zuboff2019,199)导致了新形式的剥削、支配和政治操纵,例如数据驱动的竞选活动(参见Simon2019;Tufekci 2018)。社交媒体也偏好情绪化的信息:情感传染(Sampson2012)被用来影响大众。这可能会加剧极端主义和民粹主义,甚至可能导致暴力和战争。
第五章 权力:通过数据的监控与(自我)规训
133