--- schema_version: "library-reader-v1" source_type: "original_book" title: "权力的数据伦理学大数据与人工智能时代的人本方法新解" author: null edition: null publisher: null year: null isbn: "9787313310330" library_document_id: "1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed" source_sha256: "c8690c24b9cff428b770fe7f4e8124669c31c0081ab74dc4f8a67f1d3228e2a6" pdf_physical_page_count: 266 pdf_physical_page_index_base: 0 range_start: 110 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed?start=110&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=110&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=100&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=120&limit=10" --- # 权力的数据伦理学大数据与人工智能时代的人本方法新解 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=110 | PRINTED_PAGE=96 虽然我认为人工智能设计本身是一个富有建设性且高度相关的视角，但它只是AISTIs伦理治理框架下的一个应用伦理组件而已。因此在这里，我并不是说权力的数据伦理学是一种“伦理设计”解决方案(虽然我将在本章后面说明我们如何在人工智能的数据设计之中追踪数据利益，但我并没有提供一个设计方案)。相反，我认为，权力的数据伦理学对于人工智能伦理研究领域的贡献在于，它是人工智能发展过程中对于人类权力的特定反思，即在人工智能研发与采用过程当中，要求我们承担的人类干预的程度。接下来，我将把关于人工智能伦理的讨论集中到权力的数据伦理学之上，主要关注人工智能系统的数据处理当中的自主性与人类干预程度。在这里·我将不仅关注数据设计研发者的视角，同样也会关注社会文化对于人工智能数据系统的接受度与整合。 从依赖人类的系统到自主系统 人工智能系统在其短暂的社会应用历史当中被赋予了不同程度的自主性，用于支持或取代人类决策过程。在实际应用当中，人工智能系统的能动性与自主性并非其目标所在，而是系统为适应现实生活决策过程所必须具备的能力。 在20世纪七八十年代，专家型系统被创造出来以帮助人类进行优化决策，例如：用于故障排除、机器维修指导或传染病诊断(Crevier。1993)。它们由一个“知识库”和一个“推理机”组成，前者由一系列事实与基于人类各领域专家知识的“IF-THEN规则”构成，后者则使用逻辑推理规则来演绎新知识(Alpaydin、2016：50)。之前，我曾说过这些早期专家型系统无法适应人类环境，这也是它们未能成功地应用于社会的一个关键原因。此外，这还涉及它们对于真实世界的表征方式。这些系统的逻辑规则实在是太过僵硬死板，它们不能如实反映生活当中的细微差别与变化过程。阿尔帕伊登(Alpaydin)用了年龄的例子来说明这个问题：一个人可能并不“老”，但事实上我们都在日渐衰老，而这个过程不能被具体的数字所捕捉(Alpaydin、2016:51)①。一方面，早期专家型系统(基于预先编程的知识和逻辑规则)数量有限；另一方面，它们在对真实环境当中细微差别的把控方面往往确有缺陷。由于无法提供有价值的决策支持，因此其实际应用就非常有限。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 96 ## PDF_PHYSICAL_PAGE_INDEX=111 | PRINTED_PAGE=97 当代人工智能系统是对这些原始专家型系统在决策方面的升级换代。通过复杂的多层数据处理程序与能够感知复杂环境的传感器，它们在自主推理、自主决策与自主学习方面的能力变得越来越强(H1EGC，2019：3)。因此.它们在分析现实环境的细微差别方面也是更胜一筹(当然永远不会尽善尽美)(Alpaydin。2016：52)。此外、使用基于神经网络概念的机器学习算法，例如在深度学习中，动态地使用来自传感器的输入数据，然后逐级处理(每一层分析都从上一层输人当中获取)从而最终产生优化决策(Alpaydin，2016：85)。 道德机器 现在，为了排除发动机故障建立证据并就其修理方法做出决策是一同事，而找到影响人类生活的复杂道德决策的细微差别证据则完全是另外一回事。月前，越来越多的人工智能系统被用于那些需要自主伦理反思与道德决策的环境之中·这些环境需要经过系统改造以产生不同的伦理影响。 其中最为著名就是阿瓦德(Awad)等人(2018)在其“道德机器” 第3章大数据人工智能社会技术基础设施 ①在这甲，我们还可以使用更多来自社交媒体内容审核的例f，比如涉及“不雅”和“有害”微之的内存，明辅置疑：21世纪10代社交媒体户网站1最具公众争议的内容遭遇城做和删除案例都源人们对“有宫内容”的小同解读、其关键处社交媒体平台的自动内容中核系统的决策权，进步讲是在公共网络间施加的特定的政治观价值观，另见欧盟委员会196对上网“Ⅱ法“和”有害”内容的最初区分及其相成的法律贵任划分。{C()M(96)487Final Brussels, 16.10.1996] 97 ## PDF_PHYSICAL_PAGE_INDEX=112 | PRINTED_PAGE=98 实验当中提出的自动驾驶汽车的伦理困境。该实验探讨了自动驾驶汽车在不可避免会撞到行人的事故当中所面临的道德决策困境。在该情景之中，如果只有两种选择，你作为司机，要么选择让车撞向两个老年人、要么选择让车撞向一个年轻人，做出什么样的决定才符合道德正义性呢?阿瓦德等人开发了一款在线“严肃”游戏，其中有与这样的场景相关的伦理困境：一方面用于研究人们的道德选择：另一方面，据他们介绍，用于创建“一个全球对话语境，向设计道德算法的公司以及负责监管的政策制定者来表达自身道德偏好”(Awad et al..2018：63)。在该实验中，他们关注人工智能系统决策过程的“运行模式”(Lehr and Ohm，2017)——系统的调用时刻以及没有人类干预情况下系统的完全自主决策情况。通过这种方式，他们构想了未来的日常生活场景——机器将取代人类进行决策并能自主运行： 在人类历史上，我们从未允许一台机器在没有实时监督的情况之下，在几分之一秒的时间内自主决定人类生死大事。现如今，我们随时会逾越这条边界。这样荒诞的事情并非发生在遥不可及的军事行动当中，实际上它将发生在我们日常生活中最为稀松平常的领域—日常交通场景中。(Awadet al.,2018:63) “逍德机器”实验是著名“电车问题”的重新演绎，以测试不同情景与伦理困境。该实验现在已经成为人工智能伦理研究领域最为常用的例子。然而，我不认为它是对人工智能“人本方法”具体实施的最佳诠释。事实上，机器程序化选择本身并不是我们首先要考虑的伦理困境问题。我想，在讨论这个问题之前，思考一个没有我们就不会自主决定的机器的伦理问题。我们想问的是：我们希望让机器如何帮助我们做出人类想要的决定？如何让机器作为人类环境的有益补充？通过这种方式，我们可以思考一个未来的替代方案——机器不需要在没有人类干预的情况下做出某些关键决策。例如，欧盟法律(《通用数据保护条例》，[EU]2016/679)规定：在没有人类干预的情况下，严禁仅仅基于自动数据处理做出与人相关的决策(特别是当这些决策会对个人造成重大影响的情况下)《通用数据保护条例》。[EU]2016/679，第22条)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 98 ## PDF_PHYSICAL_PAGE_INDEX=113 | PRINTED_PAGE=99 人工智能决策的伦理影响 在评价并总结关于“算法”伦理影响的研讨中，米特尔施泰特(Mittelstadt)等人(2016)提出了儿种不同的伦理关切，分别涉及决策过程当中算法处理方式以及数据建立关联方式(从数据中获取证据)。伦理影响(如歧视性决定)可以是立竿见影的“可见”结果，在观察的那一瞬间就可以看出行为是否“有失公平”。然而，伦理影响也可能是在实施过程中没有明显危害的一种社会变革(Mittelstadt etal..2016：5)。其中、自主性挑战就是一个非常值得关注的话题，它涉及广为应用的个性化算法与“新选择架构”搭建，这些可能会在不同程度上强化人类行为.其至控制人类决策(Mittelstadt et al..2016：9)。另一个话题则聚焦于人类在信息隐私认识与处理方式的诸多维度上所面临的公公挑战——由大数据收集、处理、剖析算法形式所带来的挑战。最后，他们还考虑了算法可溯性的横向问题(Mittelstadtet al..2016：12)。算法证据的复杂数据处理设计本身往往难以追溯.因而通常会导致算法伦理影响的责任认定复杂莫测。然而，人类对于日益复杂的系统的监督程度也可能因受其他因素影响。缺乏教育或者其他人类自我能力的因素(如个人意识水平、伦理反思以及其他文化和社会因素)同样可能导致人类对于人工智能系统设计识别和修正变得举步维艰，进而带来负面伦理影响。缺乏人类监督同时也意味着系统正在逐渐具备自我控制力与能动性。 机器伦理 人汇智能对于人机关系的改造引发了诸多伦理方面的关注、涉 第3章大数据人工智能社会技术基础设施 99 ## PDF_PHYSICAL_PAGE_INDEX=114 | PRINTED_PAGE=100 权力的数据伦理学：大数据与人工智能时代的人本方法新解 及人类能动性以及人类针对日益分散的道德决策系统干预。“机器伦理”(Anderson andAnderson、2011)关注的是人工智能能动者的伦理行为。其中的一个基本预测就是：未来人类干预将会趋向最小化，因此机器必须具备伦理与道德判断能力。所以，我们需要开发相关理论与方法来训练机器的伦理行为： 从理论上讲、机器伦理关注的是赋予机器伦理原则或程序，以此寻找相关办法来解决它们可能遭遇的伦理困境，从而使得它们能够通过自主伦理决策，并以一种极强的伦理责任感完成运作。(Anderson andAnderson，2011:1) 机器伦理研究领域的一个分支学派甚至将具有伦理能力的人工智能能动者看作是改善人类道德决策的一种方式。他们认为，与人类相比，智能机器的道德感更为高级(Anderson，2011；Dietrich，2011)，并且它们可以超越自我利益驱动的人类道德决策相对主义，帮助我们构建普适性伦理原则(Anderson，2011)。基于这一点·寒维尔(Seville)与菲尔德(Field)(2011)设想了一个“伦理决策能动者”·它可以通过指出人类决策后果或在虚拟现实当中创造“伦理体验”来帮助人类做出伦理决策。他们认为，这种能动者更加公正无私，并且能够增加道德决策的一致性。 安德森(Anderson)的研究为我们提供的机器伦理视角对于思考道德决策当中技术中介组件的设计与实施具有重要指导价值。实际上，现在这些组件正越来越多地分布在外部技术系统之中。这里尤为重要的是，创造一种积极参与道德决策过程的新型技术能动者旨在塑造我们的道德体验。然而，正如我将在下一节要讲的那样，人工智能能动者不会承担作为更公正的道德能动者的道德责任，也不会向人类施加普适性的道德规范。在我看来，道德责任，或者更确切地说“伦理”贵任，将始终是人类干预人工智能设计、研发与实施的内在过程。这也意味着，人工智能系统的任何道德行为与伦理影响责任只能由参与其中的人类承担(Bryson，2018)。因此，“建立具有卓越道德水平的人造道德能动者从而纠正人类道德推理错误”这一论点很难站得住脚(vanWynsberghe and Robbins,2019)。 100 ## PDF_PHYSICAL_PAGE_INDEX=115 | PRINTED_PAGE=101 人工智能的道德能动性与人类的伦理责任 在2017年，欧洲议会通过了《关于机器人民事法规则》的决议，明确提出了自主系统的有害行为与影响的法律问责问题。决议提出：要“考虑”自主机器人的“新型法律地位”，甚至可以称之为“电子人格”(欧洲议会，2017-2-16)。我认为，将人工智能能动者的责任“考虑”在内这一突破性的举动，实际上意味着人类承认了人工智能自主伦理能动者的身份。然而，我们实际上并不需要这样做，因为人类干预以及人类能动性始终存在于人工智能当中，尽管有时候这两者难以分辨。正如我在前面的章节中讲到的那样，人类的能动性存在于人工智能的数据处理方式之中，存在于构建人工智能的法律当中，存在于其设计的技术文化之内，存在于社会对于人工智能的认识与采用方式之中。至关重要的一点是：人类能动性体现在人类社会如何看待、接受或担绝“人工智能白主性”。也就是说，即使人工智能确实具有技术决策能力，并且也被视为一个自主机器能动者、人类干预也始终在发挥作用。因此，我们必须要做的是在人工智能设计、研发与采用以及法律框架当中加强和支持这种“人类因素”。 在“人1智能伦理”的研讨当中，存在两种截然相反的观点：一种是人1智能对于人类道德(伦理)能动性！控制力的威胁：另一种是强大优感的机器改善人类道德(伦理)的潜力。然而、人类与机器的关系并非顾此失彼、水火不容、其实存在一条中庸之道。承认人工智能系统道德能动各身份的同时、在我看来也就否认了其伦理能动者(即“伦理上负有责任”的能动者)身份。一方面、我们认识到人类并非构建自我生存空间之内道德架构的唯一能动者(Adam，2008)。另一方面，人工智能同样不会造成伦理影响的目标缺位的“责任缺口”(Tigard，2020)。在人工智能身上，我们总能找到伦理责任感的人为因素。举例来说，我们可以从导致事故发生的人类环境复杂性来考虑自动驾驶汽车导致行人死亡的伦理影响。这个问题可能是由于人类过程网络——从设计选择到具体实施—的结果，也可能是框定自动驾驶汽车的研发与使用过程的法律缺位的结果，还可能是道路规章制度与街道形状等因素导致而来。当然，这并不意味着人工智能系统可以逃避法律责任，而是意味着只有人类才能在伦理上为其负责。 第3章大数据人工智能社会技术基础设施 ①见我在第6章针对“道德能动性“j“伦即能动性”的以分，以及对术语部分的进一步前述. 101 ## PDF_PHYSICAL_PAGE_INDEX=116 | PRINTED_PAGE=102 如果我们将人工智能决策系统视为分布式道德能动者的社会技术架构组件，其中人类能动者与非人类能动者在塑造道德体验方面你中有我、我中有你，那么关于非人类能动者道德地位的问题将不再止于对其存在性的质询，而是与其在实践中的具体应用休戚相关。在这种情况下，我们甚至不再需要质疑：机器是否应该或能够具备人类水平的伦理能动性，抑或是机器是否具有伦理责任。相反，我们应当试图找到一种方法，确保人类能继续以有意义——最重要的是负责任——的方式对机器进行干预。 这里·我们可以采用布鲁诺·拉托尔(BrunoLatour)对于技术人工制品“道德能动性”的描述，他将其看作是执行人类法律、价值与伦理的非人类行动者(Latour，1992；Latour and Venn、2002)。他认为，技术人工制品确实有着“强烈的社会性与高度的道德性”(Iatour。1992：152)。它们按照法律规定与“刻在或编码在机器中”的命令进行运作(1atour，1992：177)。正如拉托尔所说，像安全带这样的人工制品可以将我们的身体固定在我们本不希望的位置。这就是它的设计初衷，而且它的确是在执行汽车安全法规。如果我们不遵守这些要求，它指定会用持续的蜂鸣声做出提醒。 然而，技术并非只是道德意向的被动表征。相反，它们是拉托尔所说的“技术中介”(Latour and Venn，2002：252)。道德意向与行为在技术设计当中会被积极转化，并与其应用、法律、文化以及我们所处的社会交织在一起，从而产生各种可能性。这里，我们举一个“词汇嵌人”机器学习方法的例子·它通常被用于网络搜索引擎的语言处理。通过针对常用模型进行研究、伯吕克巴舍(Bolukbasi)等人(2016)发现：在创建的词集当中·诸如建筑师、哲学家、金融家等头衔类词汇在语义上被归为“典型男性”词语，而诸如接待员、管家和保姆等词汇则会被归为“典型女性”词语(Bolukbasi et al.、2016：2)。因此、他们得出结论：盲目地应用这些模型可能会助长社会上的性别歧视。这类机器学习模型的开发者的工作显然构成了一种道德行为。他们需要将道德价值与选择委托给一个技术道德能动者，进而塑造社会环境中的道德因素。正如鲍克与斯塔尔(2000)所认为的那样。信息分类从来都不是中立性的，而是立场分明。信息系统开发者的工作总是隐含一个“道德”维度(Bowker and Star，2000：5).例如搜索引擎的词汇嵌入模型。因此·在关于技术道德能动者编程语言的编写当中，人类行动者发挥着关键作用(Latour，1992)。然而，将这种类型的技术道德能动者转化为道德行为或道德影响并非一个简单的过程。如果我们试图追溯上面例子中导致歧视的道德能动者，我们就会发现许多行为并非仅仅是机器学习模型的人类开发者的主动行为，同样它们也不仅仅是“机器”的主动行为。机器学习模型(非人类行动者)只是极大地放大了其训练数据当中现有的人类偏见(人类行动者)。换育之，该模型从谷歌新闻文章当中自主学习与进化升级，并通过创建“有性别偏见的词汇集”的方式极大地放大了这种偏见。然而、它也是被“盲目”开发并被社会采用、因此它只是对人类行动者(使用者与研发人员)所提供信息的客观映射罢了。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 102 ## PDF_PHYSICAL_PAGE_INDEX=117 | PRINTED_PAGE=103 我们需要探究主动式人类行动者和非人类行动者的分布式道德能动性之间的关系。从这个角度看，社会与伦理影响不仅仪是人类的意向结果，也不是非人类行动者设计与行为的结果。相反，它们是分布在这些不同能动者之间的行为与能力互动的结果。 第3章大数据人工智能社会技术基础设施 103 ## PDF_PHYSICAL_PAGE_INDEX=118 | PRINTED_PAGE=104 那么、这种分布式道德能动性模型在应用“人工智能伦理”方面意味着什么？我们应该如何在人工智能系统的开发之中考量这些伦理影响，并积极地应用与测试伦理因素呢？最重要的是，我们不能只是一劳永逸地将道德规范设计到技术之中，从而产生一个“道德机器”。我们需要解决伦理影响在人类与非人类能动者之间分布式道德能动性环境当中的演变方式。 在讨论如何在人造能动者当中设计“人造道德”之时，阿伦等人(2005)提供了两种方法。一种是自上而下的方法——依据这种方法·机器以遵循特定道德准则行事的方式被设计出来。换言之，道德理论可能会被用作筛选符合伦理行为的程序化规则(Allen et al.，2005：149)。我们再次回到“道德机器”的实验当中，其目标在于为某个自主机器的设计创造一个整体性基础，并且支持该机器根据人类规定的道德规范自行采取道德行动，其底层逻辑是将全社会人类普遍的道德意向扩展到外部技术系统当中。然而，该模型并没有将我之前刚刚描述的动态分布式道德能动性考虑在内。这也正是我们引人阿伦等人(2005)的第二种方法的原因。依据第二种方法，我们不会将某种特定的道德理论强加给人工智能能动者，而是希望为它们提供不同环境(比如，环境当中具有实质性人类干预与能动性)，并对合乎道德的行为加以筛选与强化(Allen et al..2005：151)。这样一来，机器就能通过在人类伦理环境当中的动态进化而做出符合伦理的行为。这种对于人工智能的批判性应用伦理方法的描述引出了以下对于人工智能技术发展当中权力关系与利益背景的后续讨论。 利益与权力关系 人工智能伦理研究最新关注的领域是日益自主的数据系统与算法带来的伦理影响。同时，这场讨论融合了之前关于计算机技术“中立性”的论辩。计算机技术设计固有价值的概念化最初是由信息科学学者巴焦·弗莱德曼(BatyaFriedman)等人在20世纪 90年代提出，此后在价值敏感设计(VSD)框架当中得到了进一步的探索(FriedmanandNissenbaum, 1995, 1996, 1997; Friedman, 1996;Friedman et al., 2006; Flanagan et al.. 2008; Umbrello, 2019,2020；Umbrelloand Yampolskiy，2020)。从这个角度来看，计算机技术从来都不是中立的，而是在其具体设计当中体现了道德价值与规范取向(Flanagan etal.,2008)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 104 ## PDF_PHYSICAL_PAGE_INDEX=119 | PRINTED_PAGE=105 在价值敏感设计框架当中，在计算机技术的设计和实际应用中一个技术的内在价值被视为伦理困境或道德问题来解决。因此，计算机技术的伦理影响可以通过检查其技术设计而完成分析，即检验技术的设计方式是否“符合伦理”或“有伦理问题”。例如、巴焦·弗莱德曼与另一位信息科学学者海伦·尼森鲍姆(HelenNissenbaum)在1996年发现，当时用于机票预订、医学毕业生初次就业分配等任务的电脑系统存在不同类型的偏见，并提出了一个在计算机系统设计之中解决这一问题的框架。 与之类似，价值敏感设计方法还被用于研究嵌人人工智能系统设计当中的价值、并将分析扩展到人工智能的整个生命周期(Friedman and Hendry, 2019; Umbrello and Yampolskiy, 2020).人们发现：人工智能的数据系统与数学设计算法并非对世界客观公正的再现。自然而然。其所带来的结果与社会影响(决策和建议)并不具备“伦理中立性”(Mittelstadt et al.、2016：4)。 21世纪10年代末的一个研究方向专门讨论了人工智能系统的“非中立性”，其中特别提到了公私部门采用并实施人工智能与大数据系统的权力机制、其中一些与人工智能系统社会伦理影响相关的具体案例研究被用来强调以下观点——在人工智能的研发与社会应用当中，社会权力关系与利益也在发挥作用。 例如、凯西·奥尼尔(2016)描述了大数据系统的黑暗面、或者用她的话说是“数学毁火武器(WMI)s)”。这一“武器”被美国教育与公共就业系统用于信用评分以及保险评估当中。她主要关注的是·这些大数据系统在部署之时，个人或政府主体并没有质疑其社会影响的评估·认为它们是能够取代人类决策与评估的客观公正的系统。她举例说明了这些系统有时会对公民造成恶劣的影响。例如，机器不会考虑社会背景与人为因素的影响，基于僵化的机器绩效评估·很多优秀的老师惨遭解雇(()'Neil，2016：5)。此外，基于计算机的IP地址信息，社会底层群体的获得的信用评分往往偏低(()'Neil，2016：144)。 第3章大数据人工智能社会技术基础设施 105 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=120&limit=10)