权力的数据伦理学大数据与人工智能时代的人本方法新解

首先，我必须概述一下权力的数据伦理学的几个基本前提。其中一些源自本书前两部分的结论——这两部分分别探讨了BDSTIs与AISTIs的权力问题。我认为它们本质上代表了特定类型的伦理问题，并相应地提出了数据伦理学作为应对这些特定挑战的举措。在我看来，人类能动性与经验存在于BDSTIs与AISTIs的当代权力结构当中。同时，我还探讨了文化权力的复合体如何在BDSTIs之中得以固定下来，并在AISTIs当中接受实践的检验。如此一来，道德能动性日益成为AISTIs能动性的一个属性，并且位于人类能动性之外。然而，这并不意味着人类的缺位。实际上，我们设计着技术，使用着技术并且阐释着技术，同时按照我们自己的构想与利益塑造着技术，只是我们伦理评价的能动性与能动性本身越来越外显化而已。

这种外在表现是权力的数据伦理学的一个重要焦点，因为只有人类才拥有权力的数据伦理学所需求的那种批判伦理能动性。权力的数据伦理学是对“封闭性”排他社会的反抗，它希望构建一个包容性“开放社会”，其基础是没有特定利益取向的无疆大爱(Bergson，1932/1977；Lefebvre，2013)与文化多元性，同时将文化作为一种整体生活方式看待(Williams，1958/1993)。因此，我前面提到的“关键文化时刻”与“协商空间”在挑战数据系统中固有主导文化之时就显得至关重要。

权力的数据伦理学将BDSTIs与AISTIs中人类能动性与经验的权力结构视为核心研究问题。然而，对于这些的描述并没能回答本书这部分的关键问题：什么是数据伦理学？为了回答这一问题，我提出了两个典型细化的问题：权力的数据伦理学为什么重要？权力的数据伦理学如何塑造“美好社会”？对于这两个问题的回答将会构成权力的数据伦理学的生成框架，具体如图5-1所示。我将在图中简要概述这些问题的答案，然后在本章的其余部分进行详细阐述。

\*

权力的数据伦理学：大数据与人工智能时代的人本方法新解

166

我们为什么需要数据伦理学？

首先，我想了解为什么我们需要一种权力的数据伦理学。哪个本体使得权力的数据伦理学成为一种必然？我们在这个世界上存在的前提是什么，相应地，从伦理学的角度来看，什么构成了“美好社会”与“存在”？这些问题将我们引向了权力的数据伦理学的第一个生成要素——本体。我将参照哲学家亨利·伯格森提出并被哲学家吉尔·德勒兹(Gilles Deleuze)进一步发展的“过程本体”这一概念来予以描述。

本体：数据伦理学是一种人存于世的方式。它是一种过程与运动的本体。在这里，生命只有在代表意义制造系统中时才具有稳定性(Bergson，1903/1999)。能动者在世界上以不同的能力行事。人类是一种能动者·而技术(如人工智能)则是另一种。两者都具有能动性，但又不完全一样，它们之间有着本质的区别(Searle,1980, 1997；Smith，2019；Amoore，2020;Pasquale，2020)。因此，在社会技术环境之中，同样存在两种不同的伦理潜质：人工智能能动者的确可以说是具有理性智力。它能以道德能动性行事(如第4章所示)，但不具备人类的“动态思考”能力(Bergson，1907/2001：318)；它没有“语义”(Searle,1980，1997)、“质疑”(Amoore，2020)以及“判断”(Smith,2019)，甚至也没有“专业知识”(Pasquale，2020)，因此它本身永远不可能成为一个伦理能动者。即便是作为人类伦理能动性的道德能动者行事，人工智能能动者也离不开人类赋权，这一过程是通过确保设计与采用过程之中的“关键文化时刻”来得以实现。这种人类赋权在本质上就是我所认为的权力的数据伦理学的人本方法。

第5章什么是数据伦理？

167

权力的数据伦理学如何塑造一个“美好社会”(开放社会)?

我们需要对当下这个时代的伦理问题有所了解。在BDSTIs与AISTIs之中，权力、文化与道德能动性得以实践与固化；间时，我们存在的本质在连续的过程当中(以及相应的开放社会之内)不断进化与重塑，被固化下来。大数据社会的核心伦理问题是第二个生成要素的先决条件——行动导向法，这将为实现一个开放社会所必需的批判性人类伦理能动性创造条件。

实践：数据伦理学是批判性应用伦理学的一种形式，主要探究大数据社会的社会技术系统之中的权力条件，以便积极地创造并确保(“数据伦理学治理”)“协商空间”与“关键文化时刻”的可能性。协商空间是在社会当中开辟出来的具有物质存在的空间，在这些空间当中，价值与利益被暴露出来供于协商。该空间的核心目标就是批判与协商。当“系统”[物质的或非物质的、技术的或文化的]之间发生冲突或争议之时，协商空间就成为可能。例如，在政策层面，协商空间是为了协商价值与构建共享伦理框架而制定的包容性倡议。然而，它们只有在特定条件之下关键价值谈判成为可能时才有可行性(Hughes，1983，1987;Moor，1985)。关键文化时刻具有特定的人类特征。只有当人类记忆与直觉得到充分重视并且获得一定的时空范畴进行调整之时才可能发生。比如，在人工智能设计与采用方面，关键文化时刻是由人类干预水平与类型以及在技术设计与人工智能系统采用过程当中对于人类环境的优先考虑共同构成的。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

168

1)我们为什么需要数据伦理学？

在回答这个问题之时，我实际上也是在对于社会技术数据基础设施当中人类与非人类能动者的伦理能力以及它们各自地位与关系进行阐述。我们怎么看待人类及其环境、技术与工艺？技术与人类、人类能动性与权力的数据伦理学中技术的能动性之间的关系是怎样的呢？这些问题的答案在我所说的“人本方法”当中都可以找到，它建立在亨利·伯格森关于人类与自我能力以及在世界当中位置的一些基础思想之上。因此、我想在本章的第一部分详细介绍其对社会、道德与人类的-些关键批判与看法。基于伯格森的这些主要观点，可以得出这样的想法：尽管“人本方法”确实承认人类是物理世界中的一个自然存在，但它并不认可人类与非人类能动者具有相同伦理能力以及随之而来的相同伦理责任。我们可以在信息科学与伦理学的背景之下思考这个问题，将人类描述为与其他在信息环境中行事的非人类信息能动者(作为物质信息世界的信息处理组件)等同的信息“生物体”与“对象”(Wiener，2013/1948：Floridi。1999，2013；Bynum，2010)。虽然这种描述确实为人类及其环境提供了一个更为全面、去人类中心化的视角，但它同时也挑战了人类的伦理能动性。另一方面，如果我们采用伯格森的观点，人类的生存与存在将不能被简化为一个被表征的稳定现实，它是超越信息接收、处理与反馈的东西。从这个角度来看，数据伦理学中的人本方法也可以被认为是比单独的数据行动更重要的东西。它是一种生活方式，是对开放社会的惊鸿一瞥，并且只有人类才能掌握，因此也是一种责任。

第5章什么是数据伦理?

169

人本方法

在关于科学、社会与我们的技术制品世界的理论当中，对于人类(人本主义)的强调并不鲜见。同样，这在最近针对大数据社会的具体伦理影响的分析当中也很寻常。具体来说，“人类中心”或“人本主义”方法在21世纪之初关于信息社会的政策话语以及20世纪10年代关于人工智能与数据的政策话语当中获得复兴。于1999年实行的欧洲委员会人权与生物医学公约(奥维耶多公约)所制定的方法同样是基于“人类优先”原则。合约规定：“人类的利益与福祉应优先于社会或科学的单向利益”(欧洲委员会，1997，第2款)。

因此，在2021年本书定稿之时，“人本主义”方法不仅在理论上，而且在公共话语中也是一个常见的术语。然而，在政策话语当中，除了强调社会人与自然人的特殊作用与地位之外，上述方法并没有形成统一的概念。作为一个独立的概念，“人本主义”方法具有多种含义，而且实际上在政策话语之中它也确实被这样使用。其中一些含义甚至可以说在伦理上存有瑕疵，哲学家马克·考科尔伯格(MarkCoeckelbergh)同样也指出：“从关于环境与其他生物的哲学讨论来看，人本方法’即使不是有问题，至少也是模梭两可”(Cocckelbergh。2020:184)。

因此，在这里我想从人性视角出发，提供一个我对人本方法的解释。不过，这种方法不是只优先考虑人类自身的福祉，而是强调人类作为一种伦理存在的作用，不仅对人类本身负有伦理责任，而且对广义生命与一切存在都负有相应的伦理责任(我将参照亨利·伯格森的“人本道德”这一概念在后文对于这一论断进行阐释，1932/1977)。同样，我们也可以认为这是一种特殊的人本方法概念基础，尤其为欧洲人工智能议程以及政府、公民社会与技术界在回应人工智能创新与采用的伦理基础时所倡导。下面，让我们一起针对这一点进行深人探讨。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

①例如，这些是欧盟、澳大利亚、日本、新加坡以及经合组织的人工智能根架中关于“人本原则的摘录：hutps global-ai-principles-framework-comparison/.

170

在欧洲人工智能议程当中，人本方法首先建立在欧洲基本权利框架的基础之上，并参照人工控制与人机协同方法来发展人工智能，以此支持并加强人类能动性与决策制定能力。例如，欧盟委员会于2020年启动的人本人工智能倡议在国际层面得以推广，旨在吸引全球国家参与其中。该计划将人本特色的人工智能描述为一种确保人工智能为人类服务并能保护人类基本权利的方法。此外，人本方法还在技术与工程标准当中得到了具体阐述、这些标准旨在将人类能动性纳入数据技术的设计中来，如IEEEP7000s标准项目当中的部分标准以及我在前面章节提到的MyData运动。这样一来，我们可以将人工智能数据之中的人类利益与人类主体对人工智能的数据设计、使用与实施的干预联系起来。例如，在欧盟人工智能高级专家组的伦理指南之中，人本方法表现在专家组对于人类自身利益以及人工智能开发的设计与条件当中“人工控制”与“人类能动性与监督”的特别关注。同样，我们也可以在更为宏观的社会行动倡议之中找到人本方法的影子：例如帕斯奎尔(2015)提出的“显式社会”就是对“黑箱社会”的批驳。在“显式社会”当中，对于所有参与其中的个体而言、决策过程在技术、组织与社会层面上始终明白易懂。其中，人本方法被他称为“人性化过程”(Pasquale，2015：198)。例如，具体的法律框架需要通过成立公司与决策实践将“人类判断”嵌入决策过程(Pasquale。2015：197)当中。此外，“再人性化过程”也是一种反对运动。它由丹麦隐私活动家埃玛·霍尔滕发起，旨在反对未经她本人同意将其裸照在网上非人性化地大肆传播的行为。如前所述，她通过在网上分享一组全新的照片，遏制了他者对她身体的压迫性物化，将自身变成了一个女性主体(Holten，2014-9-1)。

第5章什么是数据伦理？

171

这些关于大数据社会人本方法的诸多提议主要集中在人类对于法律、社会、个人与技术过程的干预与能动性的价值和提升上。然而，对于这一点我们还可以进行全新的思考。在本书的第一部分(第1章与第2章)，我将权力的数据伦理学定位在信息社会最新的数据(再)演变背景之下，即大数据社会的演变。大数据社会的一个普遍特征是为了量化世界(Mayer-Schönberger and Cukier，2013：79)，所有事物都被转变为数据格式(数据化)。而且我认为，大数据社会的社会技术基础设施BDSTIs与AISTIs并非任意演化的结果，而是可以被视为不同文化与利益之间的社会协商表达，其核心就是人的地位与能力以及数据技术在社会当中作用的世界观与本体论。从后现代主义的视角来看，我们甚至可以将大数据社会的社会技术基础设施看作是现代性科学实践的主流意识形态具化形式，其能够掌控自然与生物(Harvey，1990；Jameson，1991；Bauman，1995；Edwards，2002；Bauman and Lyon，2013)。因此，大数据社会的关键基础设施可以被看作是保罗·爱德华兹所说的具有控制力与秩序性“人类现实”(Edwards，2002：191)当中的现代性：“生活在现代社会多重交错的基础设施之中，就是要了解自己在巨大系统当中的位置，这些系统既使我们能够生存，又使我们受到限制”(Edwards，2002:191)。

人本方法本身就可以被看作是一个伦理问题。吉勒斯·德勒兹(Gilles Deleuze)曾对过度编码的“控制社会”(Deleuze，1992)给出了经典论述一—该社会将人(“个体”)简化为一个标记自身权利与地位的编码(Deleuze，1992：5)。换言之，人本方法也表达了后现代主义运动对当代技术基础设施当中控制实践的限制所引发的人类价值降低的担忧(Frohmann，2007：63)。正如我们在前文所见，这也是监视研究领域(Lyon，1994，2001，2010，2014，2018)以及《反超人类宣言》(Spiekermanetal.，2017)提出的核心批判观点。它们直接反对将人类仅视为与其他信息对象(非人类主体)毫无差别的信息对象。同样，这也是施皮克曼(Spiekerman)等人与其他学者共同描述的“通过计算来控制的愿望表达”(Spiekerman et al.，2017：2)。通过这种方式，我们也可以把权力的数据伦理学的人本方法视为针对技术进步力量以及我们建立与想象出来的社会技术系统的批判性反思。

二

权力的数据伦理学：大数据与人工智能时代的人本方法新解

172

然而，要做到这一点·我们首先需要解决权力的数据伦理学所假定的世界存在类型。这里，我将亨利·伯格森提出的“过程本体”(Bergson.1907/2001)与“人本道德”(1932/1977)视为权力的数据伦理学的第一个生成要素。我们可以利用伯格森对人本道德的描述来认识动态的生命过程，以此反抗被固化在具有社会意义制造与表征的数据系统当中的人类生命。此外·伯格森对于功利主义生活方式提出了重要的批判。因此，我认为他的批判也可以用来说明AISTIs智商的局限性，作为一种智能体，它似乎只能复现句法规则，但永远无法进行语义思考(Searle、1980，1997)。从这个角度来看，权力的数据伦理学的人本方法首先承认的是人类的特殊伦理潜质与责任，这与AISTIs自主道德能动者当中复现的智商潜质截然不同。总而言之，我想为理解当下社会技术环境的人类与非人类技术能动者(如人工智能)的伦理能力提供一个基本的框架。并为数据伦理行动提出一个目标—为人类提供创造开放社会的条件。这里，伯格森提出的“无私之爱”这一概念将是我们探索的基础。他认识到这个词共享于多种文化当中，表示对所有人非排他性的无疆大爱。

亨利·伯格森的人本方法

亨利·伯格森所说的过程本体在本质上反对将现实作为现实本身的理性主义表述。它们是为实现我们自身目的而利用现实的表征形式·这本身就是一个伦理问题。伯格森在20世纪早期一战与二战的背景之下·提出了他对仅在功利主义社会方法指导之下产生的智能体的局限性的担忧。了解这一点很重要，因为他还谈到了一种特殊性生活方式对于现实生活当中人类的严重影响，并且从中得到了启示。战争时期，科学与技术创新是由战争条件以及敌人与盟国的利益投资所塑造的，他从中注意到了科学进步对人类的一些破坏性影响。在他于1932年出版的最后一本书《道德与宗教的两个起源》当中·伯格森认为，只有在危机时期(如战争年代)道德才可能被搁置起来。因为在这种情况下，道德作为一种社会道德义务得以实行，而不是作为一种人本道德被具身体验(Bergson，1932/1977)。下面我将对这一点展开详细阐述。

第5章什么是数据伦理？

173

最关键的一点在于，伯格森是通过参照人类对于时间的概念化而展开评论的。在他看来，时间是由人类创造的，否则它根本就“不存在”(Bergson，1907/2001)。人类创造了时钟机械结构来测量、分割与组织时间，以便社会正常运作(Bergson，1889/2004)。然而，时钟时间并不是真实时间，它只是我们在生活当中能感知到的时间变化表征。换言之，我们有两种接近生活与现实的选择：一种是用我们现成的概念从外部理性视角来看；另一种是在“创造性演变”当中体验现实，即“持续时间”(Bergson，1907/2001，1889/2004)。在伯格森看来。后者只能通过人类直觉才能实现。虽然在科学当中对于物质世界(“物质”)采取行动确实有用，但功利主义智能体却难以反映现存变化着的现实世界（Bergson，1907/2001，1896/1991，1889/2004)，因此也无法创建一个“开放”“包容”的社会(Bergson，1932/1977)。正如他所言，“强行将某一事物塞进我们创造的模具之中，结果只能是徒劳无功。所有这些模具都会被撑裂。对于我们试图放人模具之中的事物而言，模具实在太过狭小，尤其是缺乏延展性”(Bergson,1907/2001：v)。

此外，伯格森还阐述了功利主义智能体构成一种道德的形式。

-二 二.

权力的数据伦理学：大数据与人工智能时代的人本方法新解

174

在《道德与宗教的两个起源》一书当中，他提出道德有两种选择：一种是“社会道德”，它的形式就像人为创造的时钟时间一样；另一种是“人本道德”，其形式就像动态变化的人体时间(Bergson，1932/1977：35-36)。社会道德指的是一种道德义务，既可以被应用，也可能会在危机时刻被搁置。因此，人们也可以说，它很容易成为一种利益驱动的伦理，且被用于服务特定的利益方。然而，功利主义智能体却不能产生构成我们存在方式的“人本道德”，这种存在方式不是按需选择，而是一种“风格”或“生活方式”(Bergson，1932/1977；Deleuze，1986;Lefebvre，2013)。正因如此，伯格森提出一种不同的伦理方法，即基于他所描述的大爱(我将在后文中介绍这一概念)的人本道德。这也是我所说的人本方法，以确保一个开放包容的社会—它不是以人类本身为优先考虑，而是以人本道德与无条件的博爱为首选专项。

亨利·伯格森的过程本体论

亨利·伯格森提出的过程本体论与他试图描述的现实一样复杂。因此，为了便于理解，我也需要在这里对它进行更为详细的描述。在伯格森的本体论之中，时间不仅仅是一个隐喻，也是一种哲学化路径与方法。因此，不论是我在前面提到的两种时间类型，或者是伯格森所说的“多样性”，它们都分别对应着一种哲学化路径(Bergson,1889/2004, 1907/2001)。

第一种类型的“多样性”非常抽象。它只代表空间化的时间，是时间的度量，而不是时间在现实时空当中的表征形式。它是一种被定量切分的同质时间，因此在切分之时会有不同的尺度(改变空间大小)。如果我们使用隐喻来表达时间的话。时钟就能体现这种多样性。时钟时间不具连续性，而是被划分为从1到12的时段，这是一种周而复始的时间序列。正如伯格森所言，这是一个虚假性时间连续体：因为它是从实际运动(持续时间)当中抽象出来，是由空间度量决定的(它每小时增加一次)。换言之，它是一种空间形式的时间，它把持续的时间切分为“时段”，并没有考虑到“间隔”当中发生的事情(Bergson,1907/2001:21)。

第5章什么是数据伦理？

175