人工智能政治哲学

出于政治目的的情绪操纵，唤起了从斯宾诺莎（Spinoza）到当今哲学和认知科学关于“激情”“情感”“情绪”等由来已久的哲学讨论，包括关于情绪在政治中的作用以及相关问题的讨论。例如，身体在政治中的作用是什么？什么是“身体政治”(bodypolitic)？就政治而言，我们受影响的能力是我们的弱点吗？例如，哈特（Hardt2015）认为，受影响的能力并不一定是弱点，我们是非完全独立的主体（non-sovereign subjects)。从这个角度来看，也许愤怒可以在政治上发挥积极作用。相比之下，努斯鲍姆（Nussbaum2016）反对那些认为关心正义需要愤怒的人们：从规范上讲，愤怒是不恰当的，相反，我们需要慷慨和公正的福利机构。法卡斯和舒尔（2020）对“激情”在政治中的作用提出了更为积极的看法，正如我们在第四章中所看到的，他们认为政治和民主不仅涉及事实、理性和证据，还涉及不同立场的冲突以及“情感、情绪和感受”。因此，墨菲所想象的充满活力的民主需要情感（见第四章）。我们可以讨论人工智能在这些条件下的作用是什么。这与以下观点形成了鲜明对比：普通公民过于情绪化，无法参与民主辩论，我们需要的是技术主义或理性主义的公民教育，而不是情感。与情感和政治有关的另一个有争议的话题是归属感(belonging)：归属感或许很重要，但也可能导致民族主义和民粹主义——其兴起也会受到人工智能的影响（见上一章）。人工智能如何影响政治、资本主义和民主的情感方面还需要进一步研究。

人工智能政治哲学

134

当从批判的视角看待人工智能和权力时，“数据殖民主义”(Couldry and Mejias 2019)是另一个可用的术语，其所表达的意思是：从批判理论的角度看，人工智能对人类和人类生命的剥削是不可接受的。那么，通过殖民主义的历史来理解对数据的占有：正如历史上的殖民主义侵占领土和资源以牟利一样，数据殖民主义通过侵占数据来剥削人类（Couldry and Mejias 2019)。正如我们在第三章中所看到的，殖民主义也被引用到有关人工智能和偏见的讨论之中。

从批判理论的角度来看，助推也是有问题的：尽管助推是一种更微妙的操纵方式，但这并不意味着它就不具有剥削性，因为助推是以资本主义的方式和背景来牟利的。而且，正如第二章中已经指出的那样，助推还因为其他原因而存在问题：它绕过了人类自主决策和判断的能力。人工智能增加了助推的可能性。杨（Yeung 2016）指出，算法决策引导技术被用来塑造个人决策所处的选择环境。她谈到了“过度助推”(hypernudges)，因为这些助推会不断更新且无处不在，这对民主和人类繁荣产生了令人担忧的影响。但是，助推之所以有问题，不仅仅是因为它对特定人类的直接影响；它还涉及了某种看待人类的方式，这种方式促成了令人不安的特定操纵和剥削关系。库尔德里和梅西亚斯（2019）在批评弗洛里迪（2014）关于我们是信息有机体或信息体的观点时写道，当我们（被制造成）信息体时，我们就可能被操纵和调控：“信息体是被过度助推统治的完美生物，因为它们被重新设计为始终对数据流保持开放，因此可以持续地被调控。”如果我们将这类信息体视为科幻小说，那么我们最好意识到，就像人类的情感和启发式思维一样，科幻小说也被资本主义用来支持其体系(Canavan 2015；Eshun 2003)。或者，科幻小说是否也可以用来批判资本主义的目的和运行，赋予公民权力并提出抵抗呢？

第五章 权力：通过数据的监控与（自我）规训

135

用马克思的方法来阐述和分析有关人工智能和权力的问题，会引出这样一个问题：是否存在一种抵抗、改造或推翻资本主义的方法？作为一个一般性问题，这个问题自马克思以来就一直在讨论，而作为一个单独的话题，它超出了本书的范围。就人工智能而言，值得注意的是，一些批判理论学者发现，人工智能有可能与社会公正和平等主义的理想相一致，并带来结构性革新，从霸权机构中夺回权力（McQuillan2019，170）。然而，将人工智能视为抵抗或革命的工具可能会面临相当大的挑战，因为人们对互联网也曾有过类似的希望和主张。正如卡斯特（Castells2001）

人工智能政治哲学

136

等人所指出的，互联网首先诞生于军事一工业复合体，然后黑客们将其视为一个解放、实验的空间，甚至是一种虚拟的社群主义(尽管如今自由主义似乎在硅谷取得了胜利)。互联网确实具有一种开放性，并有望形成一种更加“横向”（horizontal）的权力结构。至少在某种程度上，它还重组了劳动和社会阶级。戴尔-维特福德（2015）指出，科技行业的从业人员并不完全符合阶级划分。黑客伦理似乎赋予了力量，具有抵制资本主义霸权的潜力。例如，卡斯特（2001，139）写道，黑客可以破坏那些被认为具有压迫性或剥削性的政府机构或公司的网站。但也有批评认为，一般来说，信息技术的使用及其开发者都会符合企业和军方的优先事项（Dyer-Witheford 2015，62-63)。许多人担心人工智能也会朝着这个方向发展：它很可能会成为压迫和剥削的工具，而不是社会转型的工具。人工智能的民主化有时会得到大型科技公司的倡导，但同时它又不愿限制自己的权力，不接受外部干预（Sudmann2019，25)。它所宣称的与实际所做的之间仍然存在矛盾。虽然人工智能研究往往是由理想主义所驱动的，但当其嵌入企业时，竞争似乎占了上风（Sudmann2019，24)，而且人工智能和算法可能会助长社会不平等的加剧，例如在美国（Noble2018）。最后，有人认为，关于人工智能的科幻场景似乎有助于维持而非质疑占主导地位的社会经济体制：资本主义。正如哈维（2019）所说：“新技术（如互联网和社交媒体）许诺了乌托邦式的社会主义未来，但在缺乏其他行动形式的情况下，却被资本拉拢成为新的剥削和积累的形式或模式。”但请注意，在欧洲等一些社会经济体制中，人工智能资本主义至少在某种程度上服从于民主社会的伦理和政治规范。

第五章 权力：通过数据的监控与（自我）规训

137

福柯：人工智能如何支配我们并将我们建构为主体

并非每个人都同意马克思的权力观，或认为权力是集中行使的东西。福柯在其颇具影响力的著作中指出，权力不（仅仅）是一个主权政治机构挥舞着的权力，它牵涉所有的社会关系和制度。此外，他还对马克思主义权力理论中的“经济主义”(Foucault1980，88）提出了批评：权力不仅仅是经济权力。虽然权力确实服务于“生产关系的再生产”从而维持阶级统治，但权力还服务于其他功能，并“通过更细致的渠道来传递”。正如我在本章导言中所解释的，福柯认为，权力遍布整个社会，并以各种背景和方式深入到个人主体及其身体之中，而并不局限于经济领域。此外，福柯认为，自我和主体是被建构（made）的，同时也建构着他们自己，这也是权力的一种形式。现在，让我们对这些观点进行更深人的探讨。

规训与监控

首先，福柯认为权力是以规训与监控的形式出现的。他在《规训与惩罚》(Discipline and Punish)一书中指出，在现代规训权力下，个人被当作物品和工具来使用（Foucault 1977，170）：身体变得温顺、服从和有用。基于这一框架，我们可以说，通过人工智能驱动的社交媒体、监控技术等，温顺的身体被创造出来了。社交媒体的注意力经济使我们成为滚动和点击的机器。人们在机场和其他边境控制环境中受到监视。人工智能还有助于创造一种新型的“全景敞视监狱”(Fuchs et al. 2012)。由英国哲学家杰里米·边沁（Jeremy Bentham）于18世纪设计的“全景敞视监狱”最初是一种监狱建筑，其形式是在一圈牢房内设置一个中央瞭望塔。从塔楼上，狱警可以看到每个囚犯，但囚犯无法看到塔内，这意味着他们永远不知道自己是否被监视着。作为一个学科概念，“全景敞视监狱”适用于这样一种观点，即人们的行为仿佛被监视着，但却不知道情况是否如此。这是一种更微妙的控制形式：它是一种自我规训（self-regulation），也是一种“政治技术”(political technology)(Downing 2008，82-83)。福柯(1980)认为，全景敞视主义（panopticism）构成了一种权力行使的新方式：它是“权力秩序中的一项技术发明”(71)。他提到了边沁的监狱设计，但今天人工智能可以被理解为促进了各种不那么明显的全景敞视，例如在社交媒体的背景下。福柯早已写过关于现在所谓的基于数据科学的治理的相关文章。全景敞视主义也与公共行政和数据有关，这导致了福柯所说的“整合监控”(integralsurveillance)：这种方法首先在地方使用，然后在18世纪和19世纪由国家使用，例如由警察和拿破仑政府使用：

人工智能政治哲学

138

人们学会了如何建立档案、标记和分类系统以及个人记录的整合性会计…但对一群学生或病人进行永久的监控则是另一回事。在某一时刻，这些方法开始变得普遍化（Foucault1980, 71 )。

第五章 权力：通过数据的监控与（自我）规训

139

如今，在人工智能的推动下，我们正经历着这种方法的进一步普遍化。当前的数据治理或“算法治理”(Sætra 2020,4)，导致了福柯（1977）所说的“规训社会”（disciplinary society），其作用类似于边沁设计的“全景敞视监狱”，现在已渗透到社会生活的方方面面：规训权力的影响“不是从一个单一的制高点来的，而是移动的、多元的，是我们日常生活结构的内在组成部分”(Downing 2008，83)。人工智能和数据科学可以做到这一点，例如通过社交媒体和智能手机，它们渗透到人们的社会生活之中。如前所述，这引发了人们对自主的自由、民主和资本主义的担忧。但是，通过福柯，我们也可以从去中心化、细微的权力运作的角度来理解它。例如，在使用社交媒体时，人们不仅仅是政府和公司的被动受害者；其他个人用户也通过彼此互动以及与平台互动的方式行使权力。存在着不同形式的点对点监控以及阿尔布雷茨隆德（Albrechtslund 2008）所称的“自我监控”（self-surveillance）和“参与式”（participatory）监控，这些监控不一定会侵犯用户(与霸凌不同)，其可以是游戏性的甚至可以增强用户的能力，因为它们使用户能够建构自己的身份，与陌生人社交，保持友谊，并看到行动的机会。这种方法反映了对权力的一种去中心化的、横向的理解，也可用于从权力的微观机制角度理解人工智能。

人工智能政治哲学

140

尽管如此，集中化和阶层化的权力形式依然存在。例如，人工智能可用于支持“紧急状态”下的治理，例如在应对恐怖主义时，“决定谁会被拘留，谁不会被拘留，谁可能会被释放，谁可能不会”(Butler 2004，62)。在安全或反恐行动的名义下，人工智能可能成为“算法治理术”(参见 Rouvroy 2013）的一部分被用来行使国家权力，决定谁在政治共同体之内，谁在政治共同体之外。即使欧盟的自由民主国家也越来越多地将人工智能用于边境管制。在21世纪，福柯的读者们认为，属于过去的治理形式又回来了，现在由人工智能和数据科学作为媒介并予以实现。为了抗击新冠病毒大流行，警方使用了监控和传统的规训措施，如隔离和检疫，但现在有了高科技的支持：人工智能不仅可以帮助通过医学影像技术进行诊断、开发药物和疫苗，还可以帮助追踪接触者、根据现有数据预测病毒传播情况，以及通过智能手机或智能手环跟踪和监测在家隔离的患者。换句话说：人工智能有助于监控，而且是以完全垂直、自上而下的形式。人工智能是一种新的生命政治工具，通过遥控和分诊系统，其可以实现新的监控形式，甚至新的杀戮或放任其死亡的生命政治（biopolitics)(Rivero 2020)。然而，继福柯之后，我们必须强调，如今大多数监控并非由政治当局实施，而是发生在正式的政治机构之外，遍及整个社会：如今，人工智能可以“看到”一切，甚至可以“闻到”一切，即所谓的“气味监控”(odorveillance)(Rieger 2019，145)。

如果这是真的，那么除了国家之外，谁又获得了新的权力？

第五章 权力：通过数据的监控与（自我）规训

141

如果权力来自新的和不同的中心，那么它们是谁？答案之一是：企业，尤其是大型科技企业。贝利斯（2020）认为，通过收集我们的数据，大型科技公司和政治参与者将知识转化为权力。权力是不对称的，因为“他们几乎知道我们的一切”。人工智能实现了监控和操纵，但数据收集本身就已经存在问题。贝利斯区分了科技的硬权力和软权力。硬权力是指即使我们抵抗，例如拒绝许可数据也会被获取。相比之下，软权力的作用方式不同，通常是操纵性的：软权力“让我们假装是为了我们自己的利益，来为他人的利益做一些事。它召集我们的意志来对抗我们自己。在软权力的影响下，我们会做出有损自身最佳利益的行为”。贝利斯以脸书滚动新闻推送为例：我们上钩是因为我们害怕错过，而这是故意为之的：我们的注意力被俘获，违背了我们的最佳利益。我们在使用电脑和智能手机时会这样做，但个人机器人和数字助理等设备也被用来行使这种软权力。

知识、权力，以及主体和自我的形成与建构

其次，人工智能和数据科学不仅是实现规训和监控的强大工具，它们还能产生新的知识，共同界定我们是谁和我们是什么。福柯在《规训与惩罚》之后的所有作品中，不仅认为知识是权力的工具，而且认为权力生产知识和新的主体。谷歌通过我们的数据获得了权力，但还不止于此：“这种权力让谷歌可以通过使用你的个人数据来决定什么是关于你的知识”(Véliz 2020，51-52)。因此，科技公司不仅对我们采取行动，还把我们建构成人类主体。

人工智能政治哲学

142

它们制造了我们的欲望（如滚动荧幕的欲望），使我们成为不同的存在，以不同的方式存在于这个世界（Véliz2020，52）。即使在人文学科中，这些技术的应用也会带来新的知识和权力形式。例如，通过算法话语分析，知识以非人为的方式生成出来，其绕过了人类的意图和理论：

数据挖掘和文本挖掘使知识的模式和形式可见，而这些知识不必然会在有意识的问题中被穷尽。在这里，人类智慧的一切—对事物进行排序和分类、识别相似性并创建谱系——都被移交给了算法。（Rieger 2019，144）

福柯（1980）认为，个人身份也是权力的产物：“个人的身份和特征是对身体、多样性、运动、欲望和力量等行使权力关系的产物。”今天，这种身份生产发生在更加“横向”的社会结构和社交媒体过程中，我们不仅受到政府和公司等权力机构的监控和规训，还受到同伴们的监控和规训，最终是我们自己的监控和规训。在不知不觉中，我们在自己的身体上下功夫，建构自我和身份。当我们在社交媒体上与他人互动并被人工智能分析和分类时，我们不仅是资本主义治理术和生命权力的受害者，同时也在自我规训、自我量化和自我生产我们的主体性。在福柯看来，被规训的身体在社会中随处可见；数字媒体和人工智能完全是社会的一部分。

这种对身体的强调在一些作品中得以延续，例如巴特勒的女性主义著作，其使福柯对规训和建构主体的方法变得非常具体，但又始终与社会层面联系在一起。福柯（1980，58）认为，不同的社会需要不同类型的身体：从18世纪到20世纪中叶，学校、医院、工厂、家庭等场所的惩戒制度涉及权力对身体的大量投入，而在此之后，对身体行使权力的形式更加微妙。今天，我们可以问，通过人工智能和其他数字技术的规训，需要并创造了什么样的身体，这些技术又促成了哪些新的、微妙或不那么微妙的权力形式。当代“人工智能社会”似乎需要这样的身体：它们可以被数据化、量化，并通过与智能手机和其他设备的互动，被（或不被）调动起来提供这些数据和数字。这构成了对我们身体的一种更柔和、更不明显但同样无处不在的权力形式。因此，如果把“认知”理解为非实体的、完全非物质的，那么人工智能在规训、权力和主体性方面对我们的所作所为就不仅仅是“心理”操作或认知问题而已；它还会对身体产生影响。但考虑到当代认知科学的经验教训（如 Varela, Thompson，and Rosch 1991)，任何值得讨论的认知都是具身认知（embodied cognition）。我们的思维和经验依赖于我们的身体；身体在认知过程中扮演着主动的角色。此外，如果我们采纳后人类主义的观点〔如哈拉维（Haraway），见下一章]，身体就不仅仅是生物体：它本身也可以被理解为与物质相联系、相融合，具有一种“赛博格”（cyborg）的特征。从这个意义上说，一些马克思主义学者提出的“非物质劳动”的说法具有误导性：我们用身体和思想所做的事情与我们所使用的物质技术密切相关，并且会产生非常实际的后果，包括对我们的身体、健康和幸福的影响。例如，当我们通过使用人工智能驱动的智能手机及其应用程序来自我规训、被规训、产生自我和主体性时，这会对我们的肌肉、眼睛等产生影响，并可能导致压力、负面情绪、睡眠障碍、抑郁和成瘾。在这种情况下，人工智能很可能是“虚拟的”或“非物质的”，因为它是以软件和数据库的形式出现的；但它的使用和影响却是物质的、有形的，涉及身体和心灵。用马克思的“吸血鬼”来比喻：监控资本主义吸食着活生生的劳动(sucks that living labor )。

第五章 权力：通过数据的监控与（自我）规训

143