人工智能政治哲学

然而，世界上许多国家的人们仍然遭受着威胁或侵犯其自由的专制政权的压迫，其也不断地进行着抗争。但抗争往往会带来致命的后果。例如，看看一些国家是如何对待政治反对派的。虽然奴隶制是非法的，但新形式的奴役今天仍在延续。据国际劳工组织（The International Labour Organization）估计，全球有超过4000万人从事某种形式的强迫劳动或强迫性剥削，例如从事家政工作或色情行业（ILO2017）。它发生在各国国内，也通过贩运发生。妇女和儿童尤其受到影响。这种情况发生在一些不发达国家，但在美国和英国等国家也存在。根据全球奴役指数（GlobalSlavery Index)，2018年美国估计有40.3 万人在强迫劳动条件下工作（Walk Free Foundation 2018，180)。西方国家还进口大量可能在生产地涉及现代奴役的商品和服务。

但是，自由究竟意味着什么？在人工智能和机器人技术发展的背景下，政治自由又意味着什么？为了回答这些问题，让我们来看看对自由的一些威胁，或者更确切地说，对不同类型自由的威胁。让我们来看看政治哲学家提出的一些重要的自由观念：消极自由（negative freedom）、自主意义上的自由（freedomas autonomy）、自我实现和解放意义上的自由（freedom as self-realization and emancipation)、政治参与自由（freedom as politicalparticipation）以及言论自由（freedom of speech)。

人工智能政治哲学

014

人工智能、监控和执法：剥夺消极自由

正如我们在导论中所看到的，人工智能可用于执法。它还可以用于边境警务和机场安全。在世界各地，机场和其他边境口岸都在使用人脸识别技术和其他生物识别技术，如指纹和虹膜扫描。除了可能产生偏见和歧视（见下一章）以及对隐私的威胁(UNCRI and INTERPOL 2019）之外，其还可能导致各种侵犯个人自由的干预措施，包括逮捕和监禁。如果人工智能技术出现错误（比如对一个人作了错误归类、无法识别一张脸），个人可能会被错误逮捕、被拒绝庇护、被公开指控等等。一个“小”的误差可能会影响成千上万的旅客（Israel2020）。同样，利用机器学习“预测”犯罪的所谓“预测性警务”(predictive policing)，除了（再次）歧视之外，还可能导致不公正的剥夺自由的司法判决。更广泛地说，它可能会导致“卡夫卡式”的情形：不透明的决策过程和恣意、不公正的和无法解释的决定，严重影响被告的生活并威胁法治（Radavoi 2020，111-113；另见 Hildebrandt 2015)。

第二章 自由：人工智能操纵与机器人奴役

015

这里受到威胁的自由就是政治哲学家所说的“消极自由”。伯林（Berlin）曾给消极自由下过一个著名的定义，即不受干涉的自由。它涉及的问题是：“在什么范围内，主体——个人或一群人—可以或应该不受他人干涉地做她能够做的事或成为她能够成为的人？”(Berlin1997，194)。因此，消极自由是不受他人或国家的干涉、胁迫或阻碍。当人工智能被用来识别那些构成安全风险的人、被认为无权获得移民或庇护的人或者犯有罪行的人时，这种自由就受到了威胁。受到威胁的自由是不受干涉的自由。

鉴于监控技术的发展，我们可以将这一自由观念扩展为不受干扰的风险的自由。当人工智能技术被用于监控从而使人们处于奴役或剥削状态时，这种消极自由就岌岌可危。技术制造了无形的锁链和不间断监视的非人之眼。摄像头或机器人始终在那里。正如人们经常观察到的那样，这种状态类似于边沁（Bentham）以及后来的福柯所说的“全景敞视监狱”(Panopticon)：囚犯被监视着，但他们看不到监视者（另见第五章“权力”）。像早期的监禁或奴役形式那样的人身限制或直接监督已不再必要，只要有技术在那里监控人们就足够了。从技术上讲，它甚至不需要真正发挥作用。与测速摄像头相比：无论它是否真正发挥作用，它都已经影响——特别是规训——了人们的行为。而这正是摄像头特有设计的一部分。知道自己一直被监视着或者可能一直被监视着，就足以规训自己的行为了。只要有被干扰的风险就足以让人产生消极自由会被剥夺的恐惧。这可以用在监狱和集中营，也可以用在工作环境以监控员工的表现。监控通常是隐藏的。我们看不到算法、数据以及使用这些数据的人。布鲁姆（Bloom2019）将这种具有隐藏性的权力称为“虚拟权力”(virtual power）是有些误导的。事实上权力是真实存在的。

人工智能政治哲学

016

人工智能监控不仅用于执法和政府管理、企业环境以及其他工作场所中，也被用于私人领域。例如，在社交媒体上不仅存在“纵向”监控（来自国家和社交媒体公司），还存在同伴监控或“横向”监控：社交媒体用户在算法的促成下相互监视。还有一种逆向监视(sousveillance)(Mann，Nolan，and Wellman 2002)：人们使用便携式设备记录正在发生的事情。可以列出各种各样的原因来说明这是有问题的，但其中一个原因是它威胁到了自由。这里的“自由”指的是拥有隐私的消极自由，即个人领域不受干涉的自由。隐私权通常被视为自由社会中的基本权利。但是在一个鼓吹共享文化的社会中，这可能会面临危险。正如贝利斯（Véliz2020）所说：“自由主义要求，除了保护个人和培养健康的集体生活所必需的东西之外，没有任何其他事物应受到公众的监督。曝光文化要求一切都要与公众分享并接受公众监督。”因此，完全透明威胁着自由社会，而大型科技公司在其中扮演着重要角色。通过社交媒体，我们自愿创建了关于自己的数字档案，其中包含我们自愿分享的各种个人详细信息，没有任何政府“老大哥”(BigBrother）强迫我们提供这些信息，其也没有费尽周折以隐蔽的方式获取这些信息。相反，科技公司却公开地、无耻地获取数据。像脸书（Facebook）这样的平台是专制政权的梦想，但也是资本家的梦想。人们创建档案并跟踪自己，例如出于社交目的（会议)，也包括健康监测。

第二章 自由：人工智能操纵与机器人奴役

017

此外，这些信息还可以并已经被用于执法。例如，美国警方根据对一名妇女的Fitbit设备（一种活动和健康追踪器）数据的分析，指控她谎报强奸（Kleeman 2015)。Fitbit数据还被用于一起美国谋杀案（BBC2018）。来自社交网站和手机的数据可用于预测性警务，这可能会对个人自由造成影响。然而，即便不受干涉的自由没有受到威胁，问题也仍然存在于社会层面，并影响着不同类型的自由，例如自主意义上的自由（见下一节）。正如沙勒夫（Solove2004）所说：“这是一个牵涉我们正在形成的社会类型、我们的思维方式、我们在更大社会秩序中的位置，以及我们对自己生活进行有意义控制的能力的问题。”

话虽如此，但是当涉及技术对消极自由的威胁时，问题可能会变得非常实际。机器人可以用来对人们进行人身限制，例如出于安全或执法目的，也可以是为了“人们自身利益”和安全考虑。试想一下，当一个幼儿或有认知障碍的老人在没有人看管的情况下冒险横穿一条危险的马路，或有从窗户坠落的危险：在这类案例中，可以使用机器来限制这个人，例如阻止他离开房间或离开家。这是一种家长式管理（paternalism)(下一节将详细介绍)，它通过监视手段限制个人的消极自由，然后再以物理形式进行干预。夏基和夏基(Sharkey and Sharkey 2012)甚至认为，使用机器人限制老年人的活动是“走向专制机器人的滑坡”。这种通过人工智能和机器人技术监控和限制人类的情景似乎比遥远的、科幻小说中的超级人工智能接管权力的情景更加现实——后者也可能导致自由的剥夺。

人工智能政治哲学

018

任何人利用人工智能或机器人技术来限制人们的消极自由，都必须证明为什么有必要侵犯如此基本的自由。正如密尔（Mil1963）在19世纪中叶提出的观点，在涉及强制时，举证责任应该由那些主张限制或禁止的人来承担，而不是那些捍卫其消极自由的人。在侵犯隐私、执法或家长式限制行动的情况下，限制者有责任证明存在相当大的伤害风险（密尔)，或者存在比自由更重要的其他原则（如公正）——无论是在一般情况下还是特定情况下。而当技术出错（如导论中提到的错误匹配的案例）或技术本身造成伤害时，证明这种使用和干预的合理性就变得更加困难了。例如，人脸识别可能导致不合理的逮捕和监禁，或者机器人在限制他人时可能会造成伤害。此外，除了功利主义和更普遍的结果主义框架之外，我们还可以从义务论的角度强调自由权，例如国家和国际宣言中规定的自由权。

然而，考虑到这些技术产生（非预期的）有害影响的案例，显然除了自由之外还存在着更多的危险。自由与其他政治原则和价值之间存在着紧张与权衡。消极自由非常重要，但可能其他政治和道德原则也非常重要，而且他们（应该）在特定案例中发挥作用。我们并不总是清楚哪项原则应当优先。例如，为了防止某种特定的伤害（如从窗户坠落）而限制一个小孩的消极自由是合理的，这一点可能非常清楚，但对于一个患有痴呆症的老年人或者被认为是“非法”居住在某个国家的人来说，这种对自由的限制是否合理就不那么清楚了。为了保护其他人的消极自由和其他政治权利而限制一个人的消极自由（例如通过监禁的方式）是否合理呢？

第二章 自由：人工智能操纵与机器人奴役

019

应用密尔的伤害原则（harm principle）也是出了名的困难。在一个特定的案例中，究竟什么构成伤害，谁来界定对谁造成了哪种伤害，谁的伤害更重要？到底什么才算对消极自由的限制？例如，考虑一下在新冠疫情大流行期间，在特定场所戴口罩的义务引发了关于这些问题的争议：谁需要更多保护以免受伤害（风险)，戴口罩剥夺了消极自由吗？这些问题也与人工智能的使用相关。例如，即使某项人工智能技术在工作中不会出错，但机场安检程序中的扫描和人脸识别本身是否侵犯了我不受干涉的自由？用手搜查是否也是一种侵犯，如果是，是否比扫描器的侵犯更大？人脸识别错误本身是否构成伤害，还是取决于安保人员的潜在伤害行为？如果所有这一切都以恐怖主义风险为理由，那么这种小概率（但影响大）的风险，是否就能证成当我跨越边境时有理由采取干涉我的消极自由的措施，就能证成我遭受技术带来的新风险，包括由于技术错误而剥夺我的消极自由的风险？

人工智能与人类行为的操纵：规避人类的自主性

但是，如果这些问题涉及消极自由，那么什么是积极自由呢？

人工智能政治哲学

020

积极自由有多种定义方法，但伯林定义的一个核心含义与自主或自治（autonomy or self-governance）有关。这里的问题是，你的选择是否真的是你的选择，而不是别人的选择。伯林（1997）写道：

“自由”这个词的“积极”意义源于个人想要成为自己的主人的愿望。我希望我的生活和决定取决于我自己，而不是任何形式的外部力量。……最重要的是，我希望意识到自己是一个有思想、有意志、积极主动的存在，对自己的选择负责，并能够根据我自己的想法和目的来解释自己的选择。

这种自由不是与监禁或阻碍意义上的干涉形成对比，而是与家长制形成对比：由别人来决定什么是对你最好的。伯林认为，专制统治者区分了高阶的自我（a higher self）和低阶的自我（alower self)，声称知道你的高阶自我真正想要什么，然后以那个高阶自我的名义压迫人民。这种自由并不存在外在限制或身体上的规训，它其实是对你的欲望和选择心理的干涉。

这与人工智能有什么关系呢？要理解这一点，不妨考虑一下“助推”（nudging）的可能性：改变选择环境，从而改变人们的行为。助推的概念利用了人类决策心理，尤其是人类决策中的偏差。塞勒（Thaler）和桑斯坦（Sunstein）(2009）提出了助推的方案以解决以下问题：不能相信人们会做出理性决定，相反其往往利用启发式和偏见来做出决定。他们认为，我们应该通过改变人们的选择环境，从而影响人们的决策，使其朝着预期的方向发展。与其强迫人们，不如改变他们的“选择架构”(choice architecture)。例如，我们不禁止人们购买垃圾食品，但是会在超市的显眼位置摆放水果。因此，这种干预是在潜意识中进行的；它针对的是我们与蜥蜴都具备的那部分大脑构造。现在，人工智能可以而且已经被用于这种助推了。例如，亚马逊（Amazon）会向我推荐它认为我应该购买的产品。同样，当声破天（Spotify）推荐特定音乐时，它似乎比我更了解我自己。这些推荐系统并不限制我对书籍或音乐的选择，而是根据算法建议的方向影响我的购买、阅读和收听行为，因此具有推波助澜的作用。政府也可以使用或鼓励同样的技术，例如引导人们的行为向更环保的方向发展。

第二章 自由：人工智能操纵与机器人奴役

021

这类干预措施不会剥夺人们的选择自由或行动自由，并不存在任何强迫。这就是为什么塞勒和桑斯坦将助推称为一种“自由主义的家长制”(libertarian paternalism)。它不违背人们的意愿。因此，它不同于德沃金（Dworkin2020）所定义的典型的家长制：“国家或个人违背他人意愿，以被干涉者将获得更好的生活或免受伤害的主张作为理由或进行辩护，从而对他人进行干涉。”典型的家长制显然侵犯了消极自由，而助推则引导人们作出符合其最佳利益的选择，而不会像德沃金所描述的那样限制他们的自由。或者用伯林的术语来说：助推并不违反消极自由，因为其不存在外部限制。例如，政府想要促进公民的公共健康，可以要求烟草生产商在香烟包装上标明“吸烟有害健康”的警告，或者要求超市在收银台等醒目位置撤下香烟。这项政策并不禁止香烟，而是要求生产商和零售商采取助推措施，以影响人们的选择。与此类似，人工智能驱动的推荐系统不会强迫你购买特定的书籍或收听特定的音乐，但可以影响你的行为。

人工智能政治哲学

022

然而，尽管这并不威胁消极自由，因为没有人被迫去做什么或决定什么，但人工智能的助推却对积极自由构成了威胁。人工智能通过利用人们的潜意识心理来操纵他们，毫不尊重他们作为一个希望设定自己目标并做出自己选择的理性人。广告和宣传等潜意识操纵形式并不新鲜。但助推自诩是自由主义的，其在人工智能的加速作用下，很可能会产生无处不在的影响。助推可以由企业进行，也可以由国家进行，例如为了实现一个更好的社会。但是，与伯林（1997）的观点一样，人们可以认为，以社会改革的名义侵犯积极自由是有辱人格的：“操纵人们，推动他们实现你（社会改革者）看到而他们可能看不到的目标，这是否定他们作为人的本质，把他们当作没有自己意志的客体，从而贬低了他们。”伯林认为，家长制是“对我作为一个人的侮辱”，因为它没有尊重我作为一个自主的人，我希望做出自己的选择、安排自己的生活。这一指控似乎也适用于所谓的“自由主义”家长制的助推，在这种情况下，人们甚至意识不到自己的选择受到了影响，比如在超市里购买商品时。

这就使得通过人工智能进行的助推至少是非常可疑的，而且—就像所有侵犯消极自由的行为一样—初步看起来就是不合理的（除非另有证明）。如果有人仍想以这种方式使用人工智能技术，他就必须提出比积极自由更重要的原则和利益。例如，我们可以说，一个人的健康和生命比尊重其自主权更重要，或者说，人类和其他物种的存续比那些不了解自己对气候的影响或不愿为解决这一问题贡献力量的人的积极自由更为重要。尽管人们认为对积极自由的侵犯可能比对消极自由的侵犯争议要小，但重要的是要理解这里的利害关系和风险：为了人们自身利益或社会利益把人当作操纵的对象（如抑制肥胖），无视他们自主选择和理性决策的能力，把他们当作达到目的（如达到气候目标）的手段，而这些目的是其他人（如政府、绿色改革者）独立于他们所设想的。目的（如良好的目标）何时以及为何能证明手段的合理性，如果有的话，如何证明这种贬低的合理性？谁来决定目标?

第二章 自由：人工智能操纵与机器人奴役

023