--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能政治哲学" author: null edition: null publisher: null year: null isbn: "9787208189485" library_document_id: "56fa816e-042b-40dd-9a08-6bc236c079d8" source_sha256: "315d377f8bdbe6a545e1302ea698ec8ff971996605c77249734078a99f120934" pdf_physical_page_count: 261 pdf_physical_page_index_base: 0 range_start: 70 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/56fa816e-042b-40dd-9a08-6bc236c079d8?start=70&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/56fa816e-042b-40dd-9a08-6bc236c079d8.md?start=70&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/56fa816e-042b-40dd-9a08-6bc236c079d8.md?start=60&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/56fa816e-042b-40dd-9a08-6bc236c079d8.md?start=80&limit=10" --- # 人工智能政治哲学 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=70 | PRINTED_PAGE=054 但这通常不会被称为“歧视”或“偏见”，因为我们假定这里尊重的是机会平等，即所有申请者都有机会获得适当的教育和相关的工作经验并申请工作，而与社会经济背景和性别等标准无关。算法对这些特征都是“色盲”的。 然而，一些哲学家对这种机会平等的观念提出了质疑：他们认为，实际上有些人（如社会经济背景较差的人）获得相关教育背景和经验的机会较少。根据这些观点，真正的机会平等意味着我们要创造条件，让这些条件较差的人有平等的机会获得理想的教育和工作经验。如果做不到这一点，算法就会歧视他们，其决定就会因为这种机会不平等而被称为有偏见。如果这些批评者坚持普遍主义的自由主义“色盲”平等观，他们就会要求所有人获得平等的机会，无论他们来自哪里、长相如何等等。如果人工智能——尽管可能是出于好意——无助于实现这一点，那么它就是有偏见的，就需要纠正。从非色盲的观念出发（见下文），我们可以要求为弱势群体提供更多的教育和就业机会。人们还可以说，只要情况不是这样，算法就需要以一种积极性差别待遇的方式作出决定，以有利于来自这些（阶层）背景的人和这种性别的人，等等。从机会的角度来理解，这些都是人工智能可能威胁平等的不同理由。 这些论点已经指出了两种不同的平等观：一种是基于阶级或身份的平等（见下一节），另一种是基于结果（这里指工作）而非机会的平等。希望算法对这些特定阶层或群体进行积极的差别对待的人，心中都有一个特定的结果：对所选候选人进行特定分配（例如，50%的女性候选人），最终营造一个工作分配更加平等、历史上的不平等能得以终结的社会。人工智能可以帮助实现这一结果。这不再是机会平等，而是结果平等。但结果平等意味着什么，分配应该是什么样的？它是指每个人都应该拥有同样的东西，每个人都应该拥有最低限度的东西，还是指应避免严重的不平等？此外，正如德沃金（2011，347）所问的：平等本身是一种价值吗？ 人工智能政治哲学 054 ## PDF_PHYSICAL_PAGE_INDEX=71 | PRINTED_PAGE=055 在英语世界的政治哲学中，平等并不是一个非常流行的概念。许多经典的政治哲学导论甚至都没有关于这一主题的章节（Swift2019是个例外)。表达偏见及其错误原因的一种更常见的方式是依赖于正义概念，尤其是作为公平的正义（justice as fairness)(Rawls1971；2001）和分配正义（distributivejustice）。通常的说法是，算法产生的偏见是不公平的。但是，作为公平的正义意味着什么？如果有什么东西需要重新分配，怎样才算公平分配？这里也有不同的观念。再以人工智能招聘为例。除了考虑教育和工作经验等标准外，还发现邮政编码是一个与统计相关的类别：想象一下，成功找到工作与居住在（社会经济）“好的”富人区之间存在相关性。结果可能是，在其他条件相同的情况下（例如，所有求职者的教育水平相同)，来自“差的”贫困社区的求职者被算法选中的概率较低。这似乎是不公平的。但究竟什么是不公平，为什么不公平？ 首先，可以说以邮政编码来区别对待是不公平的，因为虽然有统计上的相关性，但没有因果关系。虽然许多居住在该社区的人找到工作的概率较低（受到其他因素的影响，如缺乏良好的教育)，但这个人并没有也不应该仅仅因为他属于这个统计类别（拥有某邮政编码）就降低其找到工作的概率，虽然他确实受过良好的教育，而且在其他指标上也表现出色。这个人受到了不公平的待遇，因为作出决定所依据的标准与本案无关。其次，我们也可以想一想，该社区的许多其他人实际上接受的教育更差、相关工作经验更少等，他们获得工作的机会也更少，这是否公平？我们为什么允许在这方面存在如此大的差异？这个问题也可以从机会平等的角度来解释。但也可以说这是一个作为公平正义的问题：教育的分配、工作机会的分配以及工作的实际分配都是不公平的。接下来的问题是：这些不公平的原因究竟是什么？ 第三章 平等与公正：人工智能的偏见与歧视 055 ## PDF_PHYSICAL_PAGE_INDEX=72 | PRINTED_PAGE=056 根据作为公平的正义的观念，即平等主义和再分配的观念，需要的是每个人都得到同样的东西。这意味着社会政策和人工智能算法确保每个人都有平等的机会获得工作，或者每个人都能获得工作（在这种情况下，我们首先就不需要选择算法）。虽然这是在厨房餐桌上或在朋友之间处理分配正义的一种流行方式（如需要分配蛋糕时)，但它在政治、工作聘用等方面往往不那么受青睐。很多人似乎认为，在社会中完全平等的分配是不公平的，功绩才是最重要的，有才能的人应该得到更多，而且（在我看来，令人惊讶的是）继承的财富和资助根本不会造成公正问题。例如，诺齐克（1974）认为，人们可以对自己拥有的东西为所欲为：只要是通过自愿转让获得的，他们就有权拥有。他为保护生命权、自由权、财产权和契约自由的最小国家辩护，反对再分配正义的概念。 人工智能政治哲学 056 ## PDF_PHYSICAL_PAGE_INDEX=73 | PRINTED_PAGE=057 但是，由于天赋和继承钱财并不受个人控制，而是运气问题。因此，有人可能会说，这些因素不应该在公正中发挥作用，基于这些因素的不平等是不公平的。功绩主义（meritocratic）的公正观会将成功的选择限制在与人们的实际工作有关的因素上，例如努力工作以获得就业岗位。因此，一种公平的算法应该是一种将优点考虑在内的算法。然而，这也是有问题的，因为学位和其他结果等外在标准并不一定能告诉我们，一个人为了获得这一结果付出了多少努力。我们怎么知道例子中的人是通过什么努力获得学位的呢？例如，考虑到申请人的教育和社会背景，他可能很容易就获得了学位。我们又如何知道那些生活在“差的”社区中的人的优点呢？当我们考虑到他们的背景并从糟糕的结果（这里指的是没有学位）来看待这一点时，我们可能会认为他们没有做太多的工作来改善自己的处境，而实际上可能并非如此，因此他们应该得到远远多于在所谓功绩观念下得到的东西。从功绩的角度来理解公正可能是公平的，但却不那么容易实现。 然而，即使人们拒绝将公正视为绝对的分配平等或基于功绩的公正，也还有其他关于公正的观念。一种观点认为，如果每个人都能获得最低限度的特定物品（这里指的是获得工作的机会），那就是公正的。根据这种充足主义（sufficitarian）的正义观（例如，Frankfurt 2000；Nussbaum 2000)，我们需要设立一个门槛。在这样的社会中，住在富人区的人仍然有更多的机会被算法选中。但生活在贫困社区的人，无论其他因素如何，都会有一个最低限度的机会去获得工作。居住在特定社区与获得工作之间的相关性仍然存在，但其在决策过程中的相关性会减弱。之所以会出现这种情况，要么是因为在算法运作之前或之后有不同的政策带来了这种变化，要么是因为算法的调整方式使其给每个人提供了最低机会（成功的临界值），其他因素有可能增加这种机会，但不可能低于临界值。或者，每个人都可能获得最低限度的工作时间（和收入）或最低限度的金钱。 第三章 平等与公正：人工智能的偏见与歧视 057 ## PDF_PHYSICAL_PAGE_INDEX=74 | PRINTED_PAGE=058 然而，根据优先主义（prioritarian）的公正观，这仍然是不公平的。来自好社区的人仍然会有更大的机会获得工作，而当他们获得工作时，他们的工作将是全职的，收入也会高得多。优先权论者认为，我们需要的是优先考虑最弱势的群体。在此这可能指的是一种政策，其重点是为弱势群体提供工作机会（不考虑其他标准)，或者显著增加已经处于不利地位的人的工作机会：例如，通过一种算法增加生活在贫困社区的人的工作机会，即使他们在教育和工作经验等相关因素上得分较低。 罗尔斯为优先主义立场提供了一个著名的政治哲学论证，该论证也回应了天赋是运气问题的观点，并建立在机会平等的基础之上。在《正义论》(A Theory of Justice)(1971)中，他在“原初状态”(original position）中使用了所谓“无知之幕”(veil of ignorance) 人工智能政治哲学 058 ## PDF_PHYSICAL_PAGE_INDEX=75 | PRINTED_PAGE=059 的思想实验。试想一下，你不知道自己是否天资聪慧，不知道自己的父母是穷是富，不知道自己是否拥有平等的机会，不知道自己将生活在“好的”社区还是“差的”社区等等，也不知道自己将在社会中处于何种社会地位，那么你会选择什么样的正义原则(进而选择什么样的社会)？罗尔斯认为，人们会提出两个原则：第一个原则是给予所有人平等的自由，第二个原则是在安排经济社会的不平等时，使最少受惠者获得最大利益并创造机会平等。如果不平等能最大限度地提高最贫困者的地位，那就没有问题。这就是所谓的差别原则（the difference principle)。 根据罗尔斯的这些原则，基于邮政编码进行选择的有偏见的算法问题，并不是说它的建议反映了社会经济资源的不平等分配，也不是说它反映了一个社会中一些人的收人低于最低标准，而是说它反映和揭示了一个社会既无机会平等，也没有通过不平等最大限度地提高最贫困者的地位。如果这些原则在政策中能得到贯彻，那么我们就不会看到邮政编码与获得工作的机会之间存在如此高的相关性。居住在该地区的其他人会有更多的机会找到工作，也不会处于如此不利的社会地位。因此，算法只会发现微弱的相关性，而邮政编码在其推荐中也不会发挥如此重要的作用。受过良好教育、有良好背景但生活在贫困地区的人，其社会地位与自己相差甚远的情况将不复存在，或者至少问题不会那么明显，因此也就不会出现算法歧视这一具体问题。此外，即使目前的情况非常不公正，我们也可以改变算法使最贫困者的地位最大化：根据罗尔斯的差别原则，这种积极性差别待遇会改变实际的处境。我们可以把这称为“设计的积极性差别待遇”(positivediscrimination by design)，是“公平设计”(fairness by design)的一种具体形式。 第三章 平等与公正：人工智能的偏见与歧视 059 ## PDF_PHYSICAL_PAGE_INDEX=76 | PRINTED_PAGE=060 请注意，这种形式的积极性差别待遇首先需要程序员和设计师意识到潜在的偏见，尤其是无意的偏见。更广义地说，他们必须意识到，即使没有歧视或其他政治相关后果的意图，设计选择也可能产生诸如公正和平等方面的后果。在提高对潜在政治后果的认识、识别偏见以及更广泛地在设计中贯彻政治和道德价值观等方面还有很多工作要做。例如，当训练数据中没有明确提及性别、种族等标准时，识别偏见可能会很困难（Djeffal2019，269）。而当问题没有被认识到时，就不可能有解决方案，包括积极性差别待遇。算法公平性方面的技术工作可以帮助解决这个问题：它试图在使用人工智能算法时识别、衡量和改善公平性（例如，Pessach and Shmueli 2020)。结合法律框架中的权利类型，这可能会导致哈克（Hacker 2018，35）所说的“设计的平等待遇”（equaltreatment by design)。但正如我们所见，平等只是解决问题的一种方式。此外，设计也可以被用来进行积极的差别待遇。在这种情况下，算法公平性的目的和定义并不是算法结果独立于性别、种族等变量，从而避免负面偏见，而是对一个或多个此类变量产生正面偏差，从而纠正历史上或现有的不公平。 然而，正如我们即将看到的那样，积极性差别待遇的措施通常不是由那些在自由主义哲学传统中工作的人提出的，而是由那些批评自由主义哲学传统的人提出的，或者至少是批评其普遍性的人提出的。 人工智能政治哲学 060 ## PDF_PHYSICAL_PAGE_INDEX=77 | PRINTED_PAGE=061 为什么偏见是错误的？（2） 阶级和身份理论对普遍主义自由主义思想的批判 马克思主义理论批评自由主义哲学关于公正与平等的论述只注重形式和抽象的原则，没有触及基本的资本主义社会结构。根据这种结构，形式上自由的个人自愿订立契约（另见诺齐克），但实际上却在两个阶级之间制造并维持着分化和等级制度：一个阶级拥有生产资料，另一个阶级在资本主义条件下受到前者的剥削。我们不应该想象假设的立场和契约，而应该着眼于造成不公正和不平等的物质和历史条件，并改变它们。我们不应将生产和分配问题分开，而应改变我们组织生产的方式。从这个意义上说，共产主义社会将超越正义（Nielsen1989），至少如果正义被理解为再分配正义的话。我们不应该像自由主义理论所说的那样，首先进行资本主义生产，然后根据正义原则进行再分配，而是应该废除资本主义本身。我们不应站在不偏不倚的立场上评价社会，而应维护被剥削阶级的利益。我们不应谈论适用于个人和个人集合体的正义原则，而应关注阶级和阶级斗争。 因此，从这个角度看，有偏见的算法及其应用的社会之所以造成不公正、不公平的现象，并不是因为它们未能适用和体现抽象的公正或平等理念，而是因为它们有助于创造和维持一种社会经济制度—资本主义，这种制度在两个阶级之间创造了等级森严的社会关系：拥有生产资料的阶级和不拥有生产资料的阶级。自由主义理论提出的问题都是在资本主义世界的框架下产生的。再考虑一下贷款的例子或雇佣的例子：这两种情况都发生在资本主义社会和经济结构中，在这种结构中，让一个阶级的人负债并处于不稳定的社会经济地位从而受到剥削，这符合资本家的利益。因此，偏见不仅存在于算法或特定的社会环境中，资本主义本身也存在一种偏见和动力，这种偏见和动力对某些人（作为生产资料所有者的资本家）有利，而对另一些人（成为无产阶级的工人阶级）不利。人工智能被用作一种剥削手段，机器人被用来取代工人，并创造出一个由失业者组成的无产阶级，这使得剥削那些仍在工作的人变得更加容易。问题不在于人工智能，而在于我们可以称之为“人工智能资本主义”的上面——这是一个比祖博夫(2019）的“监控资本主义”（surveillance capitalism）更一般化的术语，其突出了人工智能的作用。除非这一根本问题得到解决，否则就不会有公正与平等。我们可以调整算法，让弱势群体受益，但最终这些都只是治标不治本。真正的问题在于，人工智能和机器人技术是在资本主义制度下使用的，资本主义制度使用这些技术不是为了解放人民，而只是为了让资本家变得比现在更富有。此外，认为自由市场会逐渐消除算法歧视的想法是“站不住脚的”，因为那些使用算法的人没有动力将偏见降到最低（Hacker 第三章 平等与公正：人工智能的偏见与歧视 061 ## PDF_PHYSICAL_PAGE_INDEX=78 | PRINTED_PAGE=062 人工智能政治哲学 062 ## PDF_PHYSICAL_PAGE_INDEX=79 | PRINTED_PAGE=063 2018，7)。在这个例子中，银行和雇人的公司都在资本主义逻辑下运作，他们并不认为减少歧视是他们的工作。如果不改变这种状况，采取针对性措施也无济于事。资本家甚至没有动力真正改变技术及其使用，因为这不符合他们的利益。 从这一角度看，工人必须和其他人一起抵制这一系统，并与人工智能驱动的资本主义进行抗争。然而，一个问题是，他们往往不知道人工智能正在被使用，更不知道它进行了分类和歧视。人工智能的运作及其对偏见产生的作用都是隐性的。此外，人工智能资本主义对工人的影响也不尽相同。有些工作比其他工作更不稳定。在某种程度上，所有工作都变得更加不稳定。阿兹曼诺娃（Azmanova 2020，105）谈到了“不稳定资本主义”（precaritycapitalism)，声称“经济和社会不安全已成为我们社会的核心特征”，这导致了焦虑和压力（Moore2018）。即使是那些拥有熟练技能和高薪工作的人也没有安全感。然而，有些工作显然比其他工作更不稳定，有些工人和个体比其他人更加可量化（见第五章)。这也意味着，当代资本主义产生的心理后果分布不均：一些人比其他人更容易“自我焦虑，他们已经把执行任务的必要性内化了”(Moore2018，21)；一些人比其他人更害怕被机器取代。地位低的工人受到的监控程度极高，且无法选择退出，而地位高的工人则受到更多保护，尽管他们的数据也会被利用（Couldry andMejias 2019，191)。每个人在生存、社会经济和心理上都是脆弱的，但有些人比其他人更脆弱。此外，人们对人工智能的看法也存在文化差异：有些文化对人工智能（以及一般技术）的态度比其他文化更积极（这也影响到对人工智能监管的挑战，尤其是在全球层面——我将在结论中再次谈到这一点。）综上所述，这意味着，如果一些人意识到与技术相关的问题，他们会比其他人更有动力反抗人工智能资本主义。这就对马克思主义关于工人在一个阶级（意识）的保护下结成广泛联盟的理想提出了疑问。 第三章 平等与公正：人工智能的偏见与歧视 063 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/56fa816e-042b-40dd-9a08-6bc236c079d8.md?start=80&limit=10)