人工智能政治哲学

由上海市人工智能社会治理协同创新中心组织策划和资助出版的这套“人工智能伦理、法律与治理”系列丛书，聚焦人工智能相关法律、伦理、安全、治理和社会问题研究，内容涉及哲学、法学、经济学、管理学、社会学以及智能科学与技术等多个学科领域。我们将持续跟踪人工智能的发展及对人类社会产生的影响，充分利用学校的研究基础和学科优势，深入开展研究，与大家共同努力推动人工智能持续健康发展，推动“以人为本”的智能社会建设。

编委会

2022年8月8日

人工智能政治哲学

006

目录 CONTENTS

001
第一章 导论 001
“我猜是电脑搞错了”：21世纪的约瑟夫·K 001
本书的理论依据、目标和进路 003
本书结构和各章概述 007
第二章 自由：人工智能操纵与机器人奴役 013
导言：历史上的自由宣言与当代奴役 013
人工智能、监控和执法：剥夺消极自由 015
人工智能与人类行为的操纵：规避人类的自主性 020
对自我实现和解放的威胁：人工智能的剥削和机器人
奴隶的问题 026
谁来决定人工智能？参与自由、选举中的人工智能和
言论自由 033
其他与政治相关的自由观念和其他价值 044
第三章 平等与公正：人工智能的偏见与歧视 047
导言：偏见与歧视是平等和公正问题的焦点 047
为什么偏见是错误的？（1）英语世界自由主义政治
哲学中的平等与公正 053
为什么偏见是错误的？（2）阶级和身份理论对普遍
主义自由主义思想的批判 061
结论：人工智能并非政治中立 075
第四章 民主：回音室与机器极权主义 079
导言：人工智能对民主的威胁 079
人工智能对民主、知识、协商和政治本身的威胁 082
人工智能与极权主义的起源：来自阿伦特的教训 107
第五章权力：通过数据的监控与（自我）规训 119
导言：作为政治哲学主题的权力 119
权力与人工智能：一个总体概念框架 122
马克思主义：人工智能是技术资本主义的工具 130
福柯：人工智能如何支配我们并将我们建构为
主体 138
技术表演、权力与人工智能 151
结论和待解决问题 157
第六章 非人类怎么办？环境政治与后人类主义 160
导言：超越以人类为中心的人工智能和机器人
政治学 160
政治不止包括人类：动物和（非人类）自然的
政治地位 161
人工智能和机器人技术对政治的影响 174
第七章 结论：政治技术 191
本书的贡献及结论 191
下一步需要做什么：政治技术问题 194

002

参考文献

003

致谢

我要感谢编辑玛丽·萨维加尔（Mary Savigar）对我的支持，并帮助我顺利完成本书的写作计划；感谢贾斯汀·戴尔（JustinDyer）的精心编辑；感谢扎卡里·斯托姆斯（Zachary Storms）在书稿提交方面提供的帮助。我还要感谢匿名审稿人的意见，他们的意见帮助我润色了书稿。特别感谢尤金妮娅·斯坦博利耶夫（Eugenia Stamboliev）在本书的文献检索方面提供的帮助。最后，我衷心感谢我的家人和远方的朋友，感谢他们在这两年困难时期给予我的支持。

001

第一章 导论

“我猜是电脑搞错了”：21世纪的约瑟夫·K.

一天早上，约瑟夫·K.（JosefK.）莫名其妙地被逮捕了，准是有人诬陷了他。（Kafka2009，5）

这是弗兰兹·卡夫卡（Franz Kafka）的长篇小说《审判》(TheTrial）中的第一句话，该书最初出版于1925年，被认为是20世纪最重要的小说之一。故事的主人公约瑟夫·K.突然被捕并被起诉，但他却不知缘由。读者对此也一无所知。随后的许多探寻和遭遇只是增加了这一切的不透明性，在一次不公正的审判后，约瑟夫·K.“像狗一样”（165）地被屠刀处死。人们对这个故事有多种解读。其中一种政治观点认为，这个故事显示了制度的压迫性，它的描述不仅反映了现代官僚机构权力的增强，也预示了十年后纳粹政权的恐怖：人们在没有做错任何事情的情况下被捕并被送往集中营，遭受各种形式的痛苦甚至死亡。正如阿多诺（Adorno）所说：卡夫卡提供了一个“对恐怖和折磨的被应验的预言”(Adorno 1983，259)。

001

不幸的是，卡夫卡的故事在今天仍然具有现实意义。这不仅是因为仍然存在不透明的官僚机构和专制政权，它们毫无正当理由地逮捕人，有时甚至未经审判就进行逮捕；或者因为〔正如阿伦特（Arendt 1943）和阿甘本（Agamben1998）早已指出的那样]难民经常遭受类似的命运；而且还因为现在有了一种新的方式，即使是在所谓的“先进”社会中，这一切也可能发生，事实上已经发生了：这种方式与技术有关，特别是与人工智能有关。

2020年1月的一个星期四下午，罗伯特·朱利安·博尔查克·威廉姆斯（Robert Julian Borchak Williams）在他的办公室接到底特律警察局的电话：要求他前往警察局接受逮捕。因为他没有做错任何事，所以他就没有去。一小时后，他在自家门前的草坪上当着妻子和孩子的面被逮捕了。据《纽约时报》(New YorkTimes）报道：“警察不肯说原因”（Hill 2020)。后来，在审讯室里警探给他看了监控录像中的一个画面，有一名黑人男子在一家高档精品店行窃，然后问他：“这是你吗？”威廉姆斯是非裔美国人，他回答说：“不，这不是我。你认为所有黑人看起来都一样吗？”直到很久以后，他才被释放，最后检察官也道了歉。

发生了什么事？《纽约时报》记者和她咨询过的专家怀疑“他的案件可能是已知的第一个关于美国人因人脸识别算法的错误匹配而被错误逮捕的案件”。使用机器学习形式的人工智能人脸识别系统存在缺陷，而且很可能还存在偏见：它对白人男性的识别效果好于其他人群。因此，该系统会产生误报，就像威廉姆斯的案例一样，再加上警察糟糕的工作，这就导致人们在没有犯罪的情形下被逮捕。“我猜是电脑搞错了”，一名警探说。在21世纪的美国，小说中的约瑟夫·K.就是黑人，他们因算法错误而遭指控却毫无解释。

人工智能政治哲学

002

这个案例所揭示的不仅是计算机会犯错误，而且这些错误会对特定的人及其家人造成严重后果；人工智能的使用还可能会加剧现有的系统性不公正和不平等。针对威廉姆斯先生这样的案例，我们可以说，所有公民都有权在对他们作出决定时得到解释。此外，这只是人工智能产生政治意义和影响的众多方式之一，有时是有意的，但大多数是无意的。这个特殊案例提出了有关种族主义和（不）公正的问题—两个当前的问题。但是，关于人工智能和相关技术的政治问题，远不止这些。

本书的理论依据、目标和进路

虽然目前有很多人关注人工智能以及机器人和自动化等相关技术所引发的伦理问题[1]，但从政治哲学（political philosophy）的角度来探讨这一主题的著作却很少。这是令人遗憾的，这个主题本身非常适合做这样的研究，却把政治哲学传统中的宝贵思想资源放着不用。大多数政治哲学家（political philosophers）都未曾触及人工智能政治这一主题[1]，尽管总体而言人们对这一主题的兴趣日益浓厚，例如算法和大数据的使用如何强化了种族主义以及各种形式的不平等和不公正[2]、如何抽取和消耗地球资源（Crawford2021)。

第一章 导论

1 ]例如, Bartneck et al. 2021; Boddington 2017; Bostrom 2014; Coeckelbergh 2020; Dignum 2019; Dubber, Pasquale, and Das 2020; Gunkel 2018; Liao 2020; Lin, Abney, and Jenkins 2017; Nyholm 2020; Wallachand Allen 2009。

003