权力的数据伦理学大数据与人工智能时代的人本方法新解

另一种类型的“多样性”是“持续时间”抑或“真实时间”。持续时间由无数个时间组成，这些时间相互延伸，就像“转瞬即逝的色调相互融合的流动”(Bergson，1907/2001：3)。持续时间是由许多不同的节律构成的整体，人类的意识只是其中之一。持续时间是一种异质的多样性，与爱因斯坦所说的相对时间相似(但不完全相同；爱因斯坦与伯格森都是当代知识分子，他们一生都就时间进行相互争论，有英雄所见略同之处，也有分道扬镳的地方——在大多数情况下，爱因斯坦更不同意伯格森的观点)。它是一种质性划分，也就是说，当划分之时·整个“移动区”同时发生变化(种类与强度的变化)。在伯格森看来，这种“多样性”体现的是一种伯格森更愿意称之为的时间的“真实”连续体——时间表现为“连续”的时空形式(Bergson，1907/2001,1889/2004)。

在伯格森看来，将“真实时间”(表征)在空间维度上切分为外部同质结构(“闭集”)，是一种对现实的利用。自然与生命被控制并加以利用以便满足实际需求。他提醒我们，这种同质结构实际上并不是“现实”，而是一种现实的客体化。这样看来，同质的多样性是人类理性创造的一个“不纯”的时间连续体，因为它代表了一种稳定的经验系统；这是一种“存在”的状态，从出发点开始给出“整体”，每个单元都指向一个预定的闭合点。相反，现实则实际上是一个“移动区”(Bergson，1907/2001：3)或是一种“影像的集合”(Bergson，1896/1991：18)。其中，人类能动者(“影像”)是众多享有同等权利的能动者(“影像”)之一。为了进一步说明问题，这里我们将引人吉尔·德勒兹与费利克斯·瓜塔里一文当中关于现实的经典解释，即”内在领域”(Deleuze & Guattari，1980/2004)。“内在领域”既没有起点也没有终点，因此它具有连续性与开放性：

它不是内部的自我，也不是来自外部的自我抑或非我。相反，它是一种没有任何自我的绝对外部，因为内部与外部共同融合成为内在领域的一部分。(Deleuze and Guattari，1980/2004:173)

权力的数据伦理学：大数据与人工智能时代的人本方法新解

176

根据伯格森的观点，在这种现实(“影像集合”或“内在领域”)当中，受功利主义思维的影响，人类的行为十分有限。功利主义思维只会掌握自己对于其他物体可能采取的行动(Bergson，1896/1991：21)，因此其所了解到的也仅是“一个移动区域的中心点”(Bergson，1907/2001：3)。如前所述，这是一种被塑造与限制的思维，其目的就是利用现实(Bergson，1903/1999)。然而，人类也有其他潜质；只有将这种类型的思维视为我们唯一可用的能力之时、我们才会受限：

比如，所有否定我们具有获得事物全貌能力的学说。然而、纵然我们无法利用僵化的现有概念来重建人类现实，这并不意味着我们无法用其他方式来对其予以理解。(Bergson、1903/1999：51)

人类思想是由“思维”与“直觉”构成的复合体。我们可以把直觉与人类“动态思考”（Bergson、1907/2001：318)能力、情境经验以及不断变化的现实当中的所有能动者联系在一起，其中我们的情境经验由质性化时间或人类记忆决定(Bergson，1896/1991)。因此，人类有望接触到现实当中的真实时间——即“持续时间”，因为只有人类才具有使用直觉感知持续时间的潜质。我们可以通过比较只有“智能”水平的人1智能系统拥有“直觉”能力的人类之间的“创造性技能”来说明这两种不同类型的智力水平。尽管人工智能软件可以通过处理346幅伦勃朗(Rembrandt)画作的数据进行训练，成功创造出一个独特的31)打印图像。这看起来伦勃朗的画作十分相像，甚至可能比任何人类的复制品都要好得多，然而它的创造离不开伦勃朗的存在。尽管后人在复制伦勃朗画作之时同样离不开伦勃朗的存在，然而，人类还可以创作出具有个人风格的画作，在时空间范畴上

第5章什么是数据伦理？

①《下个伦勃朗足幅31)打印的画作，丛荷“人T智能软件广告活动的一部分。它是根据对伦勃朗316幅画作的分析而生成的。

177

形成独特的自我定位。

鉴于这两种截然不同的能力之间存在根本性冲突，我们有必要区分它们在人类动态环境之中的应用差异。这里，我们以人工智能系统方法为例。2019年12月，人工智能公司BlueDot基于人工智能对于新闻报道与机票数据的分析，针对即将到来的疫情发出了预警，展现出人工智能大数据预测分析的巨大潜力。然而，在2020年，由于全球封锁与全球危机，类似的预测性人工智能模型的巨大前景受到了人类环境与行为的挑战，发生了前所未有的根本性变化(McLeod，2020-8-14)。人工智能系统假定了一个不动的本体，或者换句话说，包括人类环境在内的可预测性现实事物。然而，如果我们不假思索地相信伯格森的过程本体论，我们可能会走向另一个极端——人类环境的本质属性就是不可预测并且变动不居。直到2019年底，关于人类行为的历史训练数据一直在塑造人工智能的预测行为，然而它根本无法处理具有不可预测属性的2020年现实世界以及遥不可及的未来。

同样，由于人工智能系统的普及与常态化应用，这些不同形式的人类动态品质(人类“关键文化时刻”的不可预测性)也受到了挑战。比如，为支持法官裁决而开发出来的人工智能工具可以基于针对判例法的处理，提供一个综合决策。法官可以使用这样的人工智能工具来为自己的决定提供信息支持。但是，我们也可以想象，像这样的人工智能工具会成为司法规范型AISTIs，它将量化人工智能分析(基于过去判例法裁决)置于法官个人的主观判断之上，并以这种方式固化下来。正如欧洲委员会的一份章程所描述的那样，“他未来的选择会成为这些先例’的一部分”(CEPEJ，2018：67)。地缘政治学教授路易丝·阿穆尔用不同的措辞，表达了类似的担忧，她将“质疑”看作是伦理决策过程当中最具人性化的部分，“质疑”挑战了那些绝对化机械性决策，这些决策是机器经过学习过程将几种因紧相权衡之后仅仅选择了一种可能性的结果：

权力的数据伦理学：大数据与人工智能时代的人本方法新解

178

在当代机器学习算法当中，质疑被转化成加权概率的可延展性排列。尽管这种概率排列当中包含了模型之内的多重不确定性：但算法仍然将这种多重不确定性压缩为一个单一的输出结果。最终，一种决策被置于绝对化的地位。(Amoore.2020：134)

回到权力的数据伦理学的人本方法，我们现在可以对之前的命题加以限定，即它首先承认了人类作为社会技术环境当中伦理能动者的基本价值。事实上，功利主义思维在非人类智能能动者当中的复现是权力的数据伦理学所要解决的核心伦理问题。此外，我们也想要在这里对“智能化”非人类道德能动者也可以成为伦理能动者的观点提出疑问。与伯格森的观点不同，我们认为：从本体论上讲，这些“智能化”非人类道德能动者并非“伦理性存在”。实际上，一个通过数据(实时)空间化获得其“智能”(学习、记忆与进化)的技术系统显然只能拥有一种类型的人类智能，即伯格森所说的“时钟时间”。换言之，数据系统是一种对于时间的空间化·这种空间化的时间是其时空背景的一个部分，且被专门用于服务系统目的。这就是为什么权力的数据伦理学的第一个技术动量就是承认数据伦理是一种人类责任。

作为方法的直觉

参照伯格森“存在即运动”的过程本体论。我们也得到了一种权力的数据伦理学方法。在伯格森看来，理想的哲学行动是“动态地思考”(Bergson。1907/2001：318)并与分析对象融为一体。换言之，其是对稳定意义不断进行重新协商。作为一种感知形式·直觉在其中发挥着独一-无二的作用(Bergson，1896/1991：66。183、185)。在《伯格森主义》一书当中(1966/1991).吉尔·德勒兹将其称为“作为方法的直觉”。这种路径是一种“进行时”状态，不断朝着未来的一个个未知点趋近。同时，这一方法也使得我所说的“伦理能动者”能有机会将自己置于一个关键问题或伦理困境的质化时空背景当中，并且考虑问题的相关条件。事实上，它不仅能够使得伦理能动者发现已有问题。而且也让提出新的问题成为可能。正是由于这个原因，伦理能动者在理想情况之下也是一个自由的伦理能动者。

第5章什么是数据伦理？

179

因此，权力的数据伦理学的一个初衷就是要识别稳定意义生产系统(或者是我之前所说的主导文化系统或秩序)当中所掩盖的问题，并提出相应解决方案。正如德勒兹所言，问题与解决方案的发掘与其所处的系统密不可分。这也是它们不容易被发现的原因。因此、第一步就是要发现“体验条件”(Deleuze，1966/1991：23)(或者采用斯图尔特·霍尔提出的术语“感知条件”)。这些条件决定着已有问题及其解决方案的探索路径(或者德勒兹所指的问题的“陈述方式与条件”)(Deleuze，1966/1991：15)。事实上，这些问题也有可能是“虚假问题”。在某个(主导的)意义生产的文化系统当中，它可能被看作是一种失序；而在另一个文化系统之中，它可能本身就是一种文化秩序。比如，我们可以拿信息处理技术系统当中按照特定分类系统对于数据进行清理的行为作为例子。该行为可能是严格按照这个分类系统规则并以一种“有序性”方式进行操作。然而，我们有可能同时会发现、这种特定的排序模式(即分类系统)本身就存在严重的问题。例如，该系统可能在分类方法上存在偏见，因为它只代表了特定主导群体，结果对于少数群体造成了伦理影响(又见BowkerandStar，2000)。这里，系统秩序本身就是一种问题，而“失序”(替代性文化系统)则构成了相应的解决方案。因此，我们可以认为：作为一种规则，所有的数据伦理问题都具有独特性，就像所有数据伦理的“解决方案”都是独一无二的一样。然而，二者同时作为意义制造的文化系统的技术动量，它们既具独特性，又有关联性。

德勒兹还为我们提供了一种权力的数据伦理学的工作方法：不是直接从解决方案入手，而是回到问题本身并且思考它的“成因”与“设计”方式。实际上，系统的特定权力表达机制本身就是一种问题。而其又会进一步帮助我们寻找相应的解决方案。可以说，我们以伦理能动性方式参与了这些权力机制。德勒兹指出，“真正的自由在于拥有决定权，在于构成问题本身的权力”(Deleuze，1966/1991：15)。那么，所提出的问题表征了怎样的社会现实？解决这个特定的问题又对谁有利？为了解决问题，我们需要找到问题、模拟问题，比如，试图理解最初问题的表征方式，并且“发现”虚假陈述问题(Deleuze，1966/1991：15-19)。只有这样，我们才能思考并寻求解决方案。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

180

举例来说，如果在监控资本主义经济当中以“大数据思维”(Mayer-Schonberger andCukier，2013)作为基本框架·隐私可能被认为是数据技术与商业创新之中的一个问题，也可能需要制定相应的技术解决方案。因此，从大数据社会问题的角度来看，我们可能认为开发具有默认跟踪技术组件，并且儿乎没有隐私保护与保障的大数据系统合情合理。然而，如果我们回到“隐私是一个障碍”这一表述时，我们会发现：隐私其实不是一个问题，它甚至可能本身就是一个解决方案。例如，我们可以将隐私视为一种数据技术与商业创新(Hasselbalch,2013 B;Hasselbalch and Tranberg,2016)。此外,德勒兹还将伯格森方法描述为“与错误观念的抗争”(Deleuze，1966/1991：21).这是一种通过揭开真实表征来发现真实的方法.其被等同于体验条件。这只能在主观定性层面上做到，其中包括对我们自己在空间中位置的认识。我们用自我身体占据了“空间中的体积”，我们同样用记忆来填满时间，这些记忆将我们感知到的不同瞬间联系起来(I)eleuze，1966/1991：25)。换句话说，我们的位置与自身在理解、研究或解决问题上的投入。可谓优劣并存。一方面，它限制了我们的体验；另一方面，人类直觉使得我们有能力发现这些体验条件。

作为一种方法。直觉构成了时空现实的时空路径，这种路径是一个不断演化的动态过程。因此，我们也可以认为：权力的数据伦理学没有物质形式，它不是一个指南、一套原则、一部法律、一项倡议抑或是一本手册，它是一个过程。它具有时序性。这一点很关键，因为社会技术系统也是在时间上得以构成的。正如我在本书第一部分之中参照休斯(1983。1987)与穆尔(1985)所说明的那样，它们具有一种支持宏观时间尺度辨认的模式。例如，当考虑一个具体的数据技术设计之时，我们不仅仅将其作为一种具有特定属性的空间占用类型来予以处理——如一套固定的价值体系(“好”“坏”之分)，当然也可以通过在设计当中注人另一套固定价值体系；而且我们认为，作为一种社会技术过程，其具有可以想象、构建、采用、治理或再创造的可能性。

第5章什么是数据伦理？

181

总而言之，通过权力的数据伦理学的人本方法，我们不仅要思考自身可以将数据伦理学应用到哪些具体事物之上(例如，技术设计的对象)，同时也要思考数据伦理学在什么情况下更为适用。正如我在本书中所说的那样，数据伦理学的协商空间适用于存在社会争议的关键文化时刻，适用于“所有模具被撑裂的时刻”(Bergson，1907/2001：v).适用于文化冲突当中隐含的价值与利益被明示的时刻。在我看来，这些时刻是最人性化的时刻，这一点我在前文已经说过，这里我再次予以重申：从本质上讲，关键文化时刻是人本方法的全部使命，它试图确保关键文化时刻能被纳入社会技术研发的设计、采用与治理中来。

人性化时刻的条件及其作用也是权力的数据伦理学在BISTIs与AISTls背景之下如此重要的原因。大数据社会的技术基础设施之中所特有的一个核心伦理问题就是人类文化以及相应关键文化时刻在大数据系统当中的固化问题。换言之，我们如何在不透明的社会技术研发之中支持人类关键文化时刻，并将文化争议与人类阐释简化为一个自动化的大数据过程？这是权力的数据伦理学必须要应对的一个伦理问题。

因此，当我说人本方法与文化过程与生活方式相关之时，我想表达的是人本方法涉及人类的权力基础设施。它希望能强化人类的批判能动性与伦理责任感。例如，在2020年，英国学生上街抗议英国考试委员会采用的()qual算法，在考试因新冠疫情而暂停时自动生成他们的成绩。这些不是由教师对于每个学生进行的动态的定位评估，而是由一个算法对于学生所在学校的历史表现进行加权之后而给出的评分。其结果是，那些来自大型公立学校的学生成绩暴跌，而那些在小型私立学校就读的学生的成绩扶摇直上(Hemn，2020-8-14)。现在，学生抗议是人们的主要关注点，这是我们都记得的画面，但是我们也可以试着了解一下抗议发生之前的时刻：一个名叫劳拉·霍奇森(LauraHodgson)的学生这样描述了她拿到低分的情景：“我在早上8点登录系统查询成绩之时，当我看到成绩是C的那一刻，我委屈极了，哭了将近一个小时”(Gill.2020-8-13)。在我们看来，劳拉与预测算法的这次关键会面具有重大意义：这是个人情境经验与AISTIs当中引入预测算法的经验之间发生冲突的争议时刻，这种时刻就是关键文化时刻。此时，权力从幕后走向台前，社会性争议站到舞台中心位置。同样，正如我在前文所述，这些时刻也是最人性化的时刻，我们希望能够运用权力的数据伦理学以非常具体的方式保留这些时刻。——此时此刻、人类的情境经验、人类记忆与直觉得以激活，并且人类的批判能动性得以激发彰显。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

182

数据伦理学作为整体的生活方式与文化

到目前为止，我已经把文化描述为一套意义制造的概念系统，能够把拥有共同概念框架与资源的社区聚集在一起。在某种意义上来看，文化系统也是一种主动系统、它们有着特定的优先级、目标与组织世界的方式，这些都可以通过1程师的积极实践而在社会层面得以实现，或者通过技术系统等物质形式得以表征。关键的问题是，文化是由利益建构与投资的，因此主导文化只是其中一种世界观的代表而已。

文化研究领域建立在针对这种稳定的主导文化系统的批评之上。雷蒙德·威廉姆斯对于传统意义上精英主义的文化定义(这些定义假定一个稳定的社会现实是由持久性价值、规定性意义与存在性状态所构成)进行了批评：“(他们)认为所有的意义都是可以被任意规定的，可真是狂妄自大。事实上，这些意义是以一种我们无法预知的方式由生活创造并重造。”他继续说道(特别提到了英国的文化，尽管其意义要宽泛得多)：

第5章什么是数据伦理？

183

关于文化。我们唯一可以说的是……所有的表达与交流渠道都应该做到畅通开放，这样，我们就可以将整个实际生活带入意识与意义当中，因为我们无法提前知道这些实际的生活，即使身在其中。(Williams，1958/1993：10)

根据威廉姆斯的观点，这种“整体性真实生活”(他所指的“现实”)只有在创造性开放知识系统驱动的社会之中才有意义。文化多种多样，重要的是，这些文化不仅仅是一种稳定的生活方式，它们既可以是上流社会的精英主义，也可以是“下里巴人的”平民主义(Williams，1958/1993：6);换言之，文化是一种整体性生活方式。因此，他用文化的概念化来对抗主导的文化系统，认为文化可能会受到意义制造的替代性文化系统的挑战与反抗。这里，我们可以将威廉姆斯对动态性、创造性，关键是包容性文化的认知与伯格森的权力的数据伦理学的过程本体论联系起来。他们一致认为：文化不是一个给定的东西，它没有稳定的意义；文化是一种变化过程。一直处在协商与博弈之中。正因如此，我认为BDSTls与AISTIs的文化构成部分是权力的数据伦理学的一个重点关注对象。

权力的数据伦理学认为：技术是嵌人社会分层的意义制造文化系统中的一种文化产品与技术实践。在BDSTIs与AISTls等社会技术系统之中，文化(如第4章所示)是由个人具身体验的；而文化编码被视为常规性稳定意义框架，它们在维持部分人的权利的同时，压制着他者的自由度与能动性。因此，我们也可以把数据技术与技术实践的文化系统看作是我们应该寻求解决之路的数据伦理问题。

正如我在前文中所述的那样，文化批评的行为本身尤其受到日益具有自主性的道德能动性的挑战，这种能动性体现为积极复现并激活世界的主导文化体系分类。这就是为什么权力的数据伦理学首先寻求在AISTIs与BDSTIs研发应用当中复现并保障关键文化时刻。在关键文化时刻，文化被视为具有创造性、整体性与多元性；同时，文化意义的协商也具有了可能性，替代性文化可以发声并得到重视。正如第1章所说，权力的数据伦理学的一个目标就是要挑战既定的权力文化系统，以使边缘化的文化经验得以发声。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

184

权力的数据伦理学的伦理是怎样得以实施的呢？如果文化不具有单一性或稳定性，并且如果它因此无法被现有的文化概念充分解释与表征，那么“伦理文化”又会发生怎样的演变呢？在与迪迪埃·里蓬的一次对话当中，当被问及伦理问题之时，德勒兹回答说：“正是包罗万象的生活风格使得我们成为这样或那样的人”(Deluze，1986)。伦理不等同于道德义务、不只是关于善恶好坏的表征：相反，它是我们所做的一切，就是我们的生活“风格”。因此，伦理不是说教·它与文化一样·需要被具身体验。这也正是哲学家香农·瓦勒尔所说的道德自我修养或修养道德自我的实践形式，她把这种实践与特定有利条件下惯常体现道德价值的共享文化联系在了一起(Vallor,2016:63)。

在《道德与宗教的两个起源》一书当中·伯格森同样对社会道德与人本道德这两种方法进行了区分(Bergson。1932/1977：35-36)。如前所述，他将社会道德看作是一种在社会中被迫强加的道德义务。因此、我们不认为它是自身体验。从这个角度来看，社会道德是一种我们可以抵抗或者搁置的道德。相反、人本道德是一种生活方式，一种伦理的存在方式。它是我们人类的一部分，它不是符号系统的表征，而是在实践当中作为一种情感的直觉表达：

只要情感气氛到位、只要我嗅到了它的气息。只要我身在其中，我必然会跟随它的脚步，随之起舞；这不是出于约束或要求，而是本能使然，一种我不愿意抗拒的本能使然。(Bergson，1932/1977：48)

第5章什么是数据伦理？

185