人工智能政治哲学

人工智能政治哲学

144

然而，权力以及主体、身体和知识的生产本身并不一定是坏事，无论如何也不一定是暴力或限制性的。福柯认为，权力和力量也可以通过微妙的方式行使，这些方式是有形的，但不一定是暴力的（Hoffmann 2014，58）。一切都取决于行使的方式和结果。权力产生了什么，技术创造了什么力量？

让我详细阐述福柯对权力的生产性方法。福柯在其晚期著作中写道，古希腊和基督教中的自我转变是通过应用“自我技术”(technologies of the self）实现的，而“自我技术”是人类发展有关自我知识的途径之一。自我技术允许个人通过自己的方式或在他人的帮助下受到影响，对自己的身体和灵魂、思想、行为和生存方式进行一定程度的改造，从而改造他们自己，以达到某种幸福、纯洁、智慧、至善或不朽的境界。（Foucault1988，18）

第五章 权力：通过数据的监控与（自我）规训

145

福柯并不认为这些“技术”是物质性的，也没有把它们与生产技术区分开来。他感兴趣的是“自我解释学”(hermeneutics ofthe self）以及古希腊罗马哲学和基督教精神与实践中的自我关怀的美德与实践。然而，从当代技术哲学的角度对福柯进行修正，我们可以将书写（writing）视为一种自我的物质技术，有助于自我关怀、自我建构，乃至美德的实现。当古代哲学家、基督教僧侣和人文主义学者书写他们自己的时候，他们对自己行使着关怀和权力。因此，我们可以说，人工智能等允许自我监控、自我跟踪、自我关怀和自我约束的技术，也被用作“自我技术”：不仅用于他人的支配和规训—尽管这种情况可能仍然存在，但请再次考虑马克思的分析和福柯的早期分析—而且也用于对自己行使某种形式的权力。考虑一下用于控制饮食和体育锻炼的健康应用程序或用于冥想的应用程序：它们被用于自我关怀，但同时这也涉及对自我、灵魂和身体行使权力，这导致了一种特定的自我知识（如自我量化），涉及了物理力量的运作，并构成了一种特定类型的主体和身体。在这里，权力不是限制既有的东西，而是生产性的，因为它带来了某种东西（自我、主体、身体）的存在。从这个意义上说，它是一种赋能而非限制。人工智能可以在这种自我建构的实践中使用。因此，我们不仅要问，人工智能产生了什么样的自我和主体，还要问它涉及了什么样的自我关怀和自我实践。技术本身并不具备这种权力，这是一种在自我关怀、自我规训等实践中使用的技术；但这项技术会影响特定类型的自我塑造。

人工智能政治哲学

146

例如，我们可以说人工智能和数据科学通过自我跟踪的实践产生了“量化的自我”，这也产生了一种特殊类型的知识：一种以数字为形式的知识。

这种自我建构的过程可以通过朱迪斯·巴特勒（JudithButler）的著作进一步理论化。与福柯一样，巴特勒将权力视为生产性的，但对她来说，这种权力所采取的形式是自我的表演性（performative，又译“述行性”）构成。她借鉴奥斯汀（Austin 1962）对如何以言行事的描述，认为我们的自我和身份——例如性别身份——不是本质，而是表演性构成的（Butler1988)；性别是一种表演（Butler1999）。这使得这些自我和身份既不是固定的，也不是假设的（Loizidou2007，37）。因此，与福柯的观点一致，她认为不仅存在服从（例如，作为规训），而且还存在着成为主体（例如，主体化)。但通过强调这种实践和运作的表演性维度，她声称自己对权力的论述没有福柯那么消极（Butler1989）。权力是关于构成主体的行为，不仅仅是他人将我们建构成某种东西，我们自己也在建构自己，比如通过说话。这也是一个时间问题：巴特勒(1993）认为表演性不是单次的行为，而是一种重复性实践：“表演性不应被理解为一种单一或蓄意的行为’，而是一种反复和引用的实践，话语通过这种实践产生了它所命名的效果。”这与福柯的观点不谋而合，其谈及了自我关怀的实践。受布迪厄（Bourdieu1990）的启发，我们可以补充说：自我建构是一个习惯问题。自我建构是通过各种力量对自身的习惯性和表演性运作来实现的。

第五章 权力：通过数据的监控与（自我）规训

147

然而，巴特勒的表演性观念和她的政治观念（Butler1997）仍然侧重于语言。就像福柯一样，重点在话语。除此之外，我们还必须补充一点，即自我、身份和性别不仅是通过语言产生和表演的，也是通过技术实践产生和表演的。除了写作，还有其他技术实践：Web 2.0 技术（Bakardjieva and Gaden 2011)，如社交媒体，还有人工智能。通过人工智能自我建构可能有语言方面的因素，但如前所述，它还具有深层次的技术和物质特征，例如当一个“量化的自我”（quantified self）产生时。此外，它还始终是一个社会问题。在这一过程中，自我和他人同时被塑造出来。例如，通过使用跑步应用程序和其他可穿戴的自我跟踪技术，他人成为了检验和竞争的对象（Gabriels and Coeckelbergh 2019)。

这些自我建构和自我关怀的技术方法至少引发了两个问题。首先，自我和他人的量化误导性地暗示，自我或他人可以简化为数字信息的集合，也就是说，数字自我就是真实的自我（数据化再现)，或者至少同样有问题的是，数字自我或他人比非数字自我或他人更加像自我。后一种假设似乎至少在一种超人类主义者关于通过上传资料实现永生和复活的幻想中起作用。库兹韦尔（Kurzweil）曾设想，机器学习能够重建他已去世的父亲的数字版本，从而使得跟他的化身对话成为可能：“它将如此逼真，就像与我的父亲交谈一样”，事实上，“如果我的父亲还活着，它将比我的父亲更像我的父亲”(Berman 2011)。安德烈耶维奇（Andrejevic2020）对此进行了批评，他认为库兹韦尔旨在创造一个理想化的自我（和他人）形象，一个比实际主体更加连贯一致的形象。但是，实际主体总是“由差距和反复无常构成的”，因此任何自我和主体的完美化上的尝试“都等同于试图抹杀它”。精神生产自动化及其所需的相关人类智能，也试图重新建构主体，从而抹杀主体：通过将任务从动机、意图和欲望中抽象出来，“主体性的反思层”(the reflexive layer of subjectivity）被绕开了。这不仅意味着人类的判断和思考被绕过了（阿伦特也会同意这一点），而且意味着人类主体是多余的，甚至是碍事的。正如对自动化主体的幻想受到现实主体的挑战，现实主体“可能是不可预测的、顽固不化的和非理性的，从而威胁到控制、管理和治理系统”，并阻碍自动化社会顺利、无摩擦地运行，“上载自我”的幻想试图创造一个数字化身，而这个化身将不再是一个自我，也不再是一个主体。当我们试图借助社交媒体和人工智能来塑造自我和他人时，这同样是一个问题：我们试图把自我和他人塑造成某种东西，也许是化身，但不再是人、自我或主体。此外，正如库尔德里和梅西亚斯（2019，171）借鉴黑格尔的观点所指出的，被媒介化本身并不是问题，但缺少与自己的反思关系、没有与自己相处空间的生活并不是自由的生活。

人工智能政治哲学

148

此外，所有这些自我塑造都令人疲惫，而且有潜在的剥削性—自我剥削也是有问题的。我们已经从福柯的“规训社会”进入了韩（Han 2015）所说的“功绩社会”(achievement society)。在第三章中我们已经看到，资本主义产生了焦虑的自我，这些自我已经内化了必须完成的任务，其害怕被机器取代。韩认为，在当代社会，禁令和戒律被“计划、倡议和动力”所取代。规训社会产生了疯子和罪犯，而“功绩社会则产生了抑郁者和失败者”。抑郁症患者厌倦了必须成为他们自己。个人会剥削自己，尤其是在工作环境中，他们必须取得成绩和表现。他们变成了机器。但在这里，反抗似乎是不可能的，因为剥削者和被剥削者是一样的：“过多的工作和绩效逐步升级为自动剥削”。抑郁症“是在功绩主体再也不能做得更多的那一刻爆发的”。这可以与马克思的分析联系起来：资本主义体制要求这种自我剥削。从资本家的角度来看，这是一种高明的体制，因为当人们表现不佳、功绩不高、未能充分锻炼自己时，似乎只能责怪自己。即使是在私人领域，我们也时常感到自己必须进行这种自我工作。人工智能和相关技术被用来提高我们的工作绩效，但我们也用它们来折腾自己，直到我们无法做得更多。在各种技术的推动下，甚至连“自我建构”也成了一个功绩问题，这些技术对我们的表现进行监控、分析和提升，直到我们无法再胜任工作、精疲力竭为止。要抵制这样的权力和管理制度是很困难的，因为我们似乎只能责怪自己没有跟上；我们应该使用正确的应用程序，做更多的自我工作。如果我们感到沮丧或倦怠，那都是我们自己的错，是我们的失败。

第五章 权力：通过数据的监控与（自我）规训

149

然而，原则上，不同的自我遮蔽和不同的自我技术是可能的。福柯的理论框架提供了一种可能性，即权力的生产性、知识性和自我建构性使用也可以采取其他赋权形式。或者从表演的角度来说：不同的自我表演是可能的。让我从自己关于表演与技术的著作中提出一些建议，展示以表演为导向的权力观在理解和评估人工智能方面的可能性。

人工智能政治哲学

150

技术表演、权力与人工智能

正如我们所见，巴特勒使用“表演”（performance）一词来构想自我建构。但我们也可以用它来将技术的使用概念化，强调技术如何对我们产生权力，并揭示个人表演与其政治背景之间的联系（Coeckelbergh 2019b；2019c)。在这里，将技术与表演联系起来的意义并不仅仅是说数字技术被用于艺术表演（Dixon2007)，而是说表演可以作为隐喻和概念来思考技术。就权力而言，这种方法使我们能够描述和评估，当技术获得更多能动性时，权力会发生什么：我认为，他们引导并编排了我们的生活（Coeckelbergh2019b)。当我们参与“技术表演”(Coeckelbergh 2019c）时，技术越来越多地扮演着主导和组织的角色。在某种意义上，我们不仅与技术一起表演，“技术也与我们一起表演”。人类并没有缺席；我们共同表演、共同引导、共同编排。但技术也形塑着表演。因此，问题在于我们想用技术创造哪些戏剧、动作编排等，以及我们在这些表演中的角色是什么（Coeckelbergh 2019b，155)。基于这种方法，我们可以再次坚持认为，人工智能不仅仅是人类用来行使权力的工具，它还会产生意想不到的影响，其中一种影响可以描述如下：随着人工智能被赋予更多的能动性，例如以自动驾驶汽车、机器人和在互联网上运行的算法的形式，而且随着人工智能产生的意想不到的影响变得更加普遍时，它就会成为我们的动作、语言、情感和社会生活的编导、导演等。它不仅仅是一种工具或事物，它组织了我们的行事方式。同样，这并不意味着人类不参与其中或不承担责任，而是说人工智能的作用远远超过了工具性的作用，因为它决定了我们做什么以及如何做事。它拥有组织我们的表演，改变各种力量场域和权力关系的权力。

第五章 权力：通过数据的监控与（自我）规训

151

在人工智能方面使用“表演”一词，也会带来许多与权力有关的技术使用的多重维度。首先，人工智能的使用始终是一种社会事务，可以理解为共同表演。它涉及那些在社会背景下互动和运作的人类，因此也涉及政治背景。它还可能涉及对使用人工智能作出反应的“受众”。可以说，人工智能始终处于这种社会环境之中，正如福柯所指出的那样，这种环境充斥着权力。例如，大型科技公司使用人工智能是在社会政治背景下进行的，其受众包括用户和公民，他们会对这些公司的所作所为作出反应。这些“受众”也拥有权力，是权力关系的一部分。其次，如果将使用人工智能概念化为表演，这也意味着涉及身体。如前所述，人工智能以“非物质”或“虚拟”的形式出现，例如软件，其并不意味着对身体没有权力影响。技术表演与所有表演一样，都涉及人的身体。这与福柯和巴特勒对身体的关注是一致的，但并不完全将身体的概念与话语、知识和身份联系在一起。在这里，权力的运作方式实际上也与运动、移动的身体有关。当我通过智能手机上的应用程序使用人工智能时，我并不是一个只使用“心理”或“认知”功能的抽象用户：我的身体和双手在移动，我的身体是被部分固定化的，等等。之所以如此，是因为人工智能及其设计者编排了以某种方式操作设备和应用程序所必需的动作，从而对我和我的身体行使权力。第三，“表演”的概念也带来了时间的面向。通过人工智能行使的技术权力是在时间中进行的，甚至可以说是对时间的配置，因为它塑造了我们对时间的体验，配置了我们的故事、日子和生活。例如，我们经常拿起手机查看信息和推荐，这已成为我们日常生活的一部分。从这个意义上说，人工智能有能力定义我的时间。通过数据收集和数据分析，我的故事就会按照人工智能的统计类别和特征进行配置。这不仅发生在个人层面，也发生在文化和社会层面：我们的时间变成了人工智能的时间，人工智能建构了我们社会的叙事。

人工智能政治哲学

152

这种方法与福柯的思想不谋而合，包括福柯的舞蹈和表演理论。科泽尔（Kozel2007）谈到了权力与知识，以提出麦肯齐(McKenzie 2001，19）所说的“表演性权力机制”(the mechanismsof performative power）的主张。表演被视为“贯穿于时空、网络和各种身体之间”(Kozel2007，70)。因此，人们还可以补充一点，那就是权力也是如此：技术表演之中的权力和技术表演的权力也贯穿于时空、网络和身体之间。此外，我们还再次看到了一种“生产性”的权力观：人工智能有（以特定的方式）塑造我们的时间的权力。与福柯和巴特勒（1988）的观点一致，我们可以说，涉及人工智能的技术表演不仅规训我们并将我们置于监控之下，而且还将我们建构成新的主体、公民和身份。它们还生产着一种特殊类型的自我和主体性。通过使用人工智能，我开始以一种特殊的方式理解自己。这可以从叙事角度或其他角度来理解。例如，通过这些技术操作形式，我们可以获得一种网络化的自我意识（Papacharissi 2011），或者如我前面所指出的，一种数据化的自我意识。切尼-利波德（Cheney-Lippold 2017）认为，算法和使用算法的公司（如谷歌和脸书）利用数据来建构我们的世界和身份。从这个意义上说，正如切尼-利波德的著作标题所说，“我们就是数据”，而且我们越来越相信这一点。从批判理论的角度来看，应该指出的是，这对那些将我们的数据货币化为商业模式的公司来说是非常有用的，比如脸书。我们不仅是消费者，同时也是数据的生产者：我们为这些公司工作，他们通过福克斯等人（2012，57）所说的“全景分类机”（a panoptic sorting machine）来剥削我们，该机器能识别用户的兴趣，对他们进行分类，然后投放有针对性的广告。但我要补充的是，这种对世界和自我的建构以及与之相关的剥削并不只是发生在我们身上的事情。我们与人工智能的技术互动是随着我们与技术的接触而发展起来的；这是一个积极的过程，也是人类努力的结果。这不仅仅是他人或人工智能算法把我们变成了数据。当我们在社交媒体和其他地方通过技术表演来建构自我时，我们也把自己变成了数据。因此，我们既是自我建构的贡献者，也是被剥削的贡献者。

第五章 权力：通过数据的监控与（自我）规训

153