奎克的藏经阁 · 原书印刷页

人工智能政治哲学 · 第 143 页

PDF 物理页索引 159 · 第五章 权力:通过数据的监控与(自我)规训

书名
人工智能政治哲学
作者
未记录
印刷页
143
PDF 物理页
159(从 0 开始)
章节
第五章 权力:通过数据的监控与(自我)规训
UUID
56fa816e-042b-40dd-9a08-6bc236c079d8
来源类型
original_book
页面 SHA-256
2249135b2f65d290fbb3237af70ac6285c86af57bc00c69e2eb2bf0a4a3557f4

它们制造了我们的欲望(如滚动荧幕的欲望),使我们成为不同的存在,以不同的方式存在于这个世界(Véliz2020,52)。即使在人文学科中,这些技术的应用也会带来新的知识和权力形式。例如,通过算法话语分析,知识以非人为的方式生成出来,其绕过了人类的意图和理论:

数据挖掘和文本挖掘使知识的模式和形式可见,而这些知识不必然会在有意识的问题中被穷尽。在这里,人类智慧的一切—对事物进行排序和分类、识别相似性并创建谱系——都被移交给了算法。(Rieger 2019,144)

福柯(1980)认为,个人身份也是权力的产物:“个人的身份和特征是对身体、多样性、运动、欲望和力量等行使权力关系的产物。”今天,这种身份生产发生在更加“横向”的社会结构和社交媒体过程中,我们不仅受到政府和公司等权力机构的监控和规训,还受到同伴们的监控和规训,最终是我们自己的监控和规训。在不知不觉中,我们在自己的身体上下功夫,建构自我和身份。当我们在社交媒体上与他人互动并被人工智能分析和分类时,我们不仅是资本主义治理术和生命权力的受害者,同时也在自我规训、自我量化和自我生产我们的主体性。在福柯看来,被规训的身体在社会中随处可见;数字媒体和人工智能完全是社会的一部分。

这种对身体的强调在一些作品中得以延续,例如巴特勒的女性主义著作,其使福柯对规训和建构主体的方法变得非常具体,但又始终与社会层面联系在一起。福柯(1980,58)认为,不同的社会需要不同类型的身体:从18世纪到20世纪中叶,学校、医院、工厂、家庭等场所的惩戒制度涉及权力对身体的大量投入,而在此之后,对身体行使权力的形式更加微妙。今天,我们可以问,通过人工智能和其他数字技术的规训,需要并创造了什么样的身体,这些技术又促成了哪些新的、微妙或不那么微妙的权力形式。当代“人工智能社会”似乎需要这样的身体:它们可以被数据化、量化,并通过与智能手机和其他设备的互动,被(或不被)调动起来提供这些数据和数字。这构成了对我们身体的一种更柔和、更不明显但同样无处不在的权力形式。因此,如果把“认知”理解为非实体的、完全非物质的,那么人工智能在规训、权力和主体性方面对我们的所作所为就不仅仅是“心理”操作或认知问题而已;它还会对身体产生影响。但考虑到当代认知科学的经验教训(如 Varela, Thompson,and Rosch 1991),任何值得讨论的认知都是具身认知(embodied cognition)。我们的思维和经验依赖于我们的身体;身体在认知过程中扮演着主动的角色。此外,如果我们采纳后人类主义的观点〔如哈拉维(Haraway),见下一章],身体就不仅仅是生物体:它本身也可以被理解为与物质相联系、相融合,具有一种“赛博格”(cyborg)的特征。从这个意义上说,一些马克思主义学者提出的“非物质劳动”的说法具有误导性:我们用身体和思想所做的事情与我们所使用的物质技术密切相关,并且会产生非常实际的后果,包括对我们的身体、健康和幸福的影响。例如,当我们通过使用人工智能驱动的智能手机及其应用程序来自我规训、被规训、产生自我和主体性时,这会对我们的肌肉、眼睛等产生影响,并可能导致压力、负面情绪、睡眠障碍、抑郁和成瘾。在这种情况下,人工智能很可能是“虚拟的”或“非物质的”,因为它是以软件和数据库的形式出现的;但它的使用和影响却是物质的、有形的,涉及身体和心灵。用马克思的“吸血鬼”来比喻:监控资本主义吸食着活生生的劳动(sucks that living labor )。

第五章 权力:通过数据的监控与(自我)规训

143