权力的数据伦理学大数据与人工智能时代的人本方法新解

如第3章所述、伦理治理兼具多主体性、自反性与开放性(Ho[fman et al.，2017)，旨在启动“最高行为标准的过程、程序、文化与价值”(Winfield&Jirotka，2018：2)。基于这一概念，我认为有必要在BDSTIs与AISTIs研发过程当中纳入数据伦理治理，专门用于解决大数据社会当中本然的复杂性，同时确保其中的人类伦理能动性与责任制得以落实。数据伦理治理致力于在大数据社会的条件与质性化现实当中发现非常规性关键问题，并相应地对这些问题及其解决方案进行构建与重述。问题的关键是，数据伦理治理通过探究那些传统问题与解决方案的提出与创建的方式、时间以及原因(就我们习以为常的间题与解决方案而言，谁能从中获利？)对其提出了质疑。比如，数据伦理治理会发出如下质疑：哪种综观性解决方案最符合伦理问题的背景与条件？类似的问题还包括：我们如何确保这样一种数据文化(其中人类作为负有伦理责任的关键能动各地位能够得到承认与保障)？确切地说，作为一种以人为本的参考指南、权力的数据伦理学在BDSTIs与AISTIs研发过程治理当中发挥着至关重要的作用。

总而育之，我认为权力的数据伦理学当中存有两种关键行为。它们对于关键数据伦理协商空间的实现至关重要。在这一空间当中，价值与利益得以协商，问题得以识别与构建，文化妥协得以显露、方向也得以重新聚集在以人为本的权力分配之上(见图5-1)：

权力的数据伦理学：大数据与人工智能时代的人本方法新解

196

保证权力与利益可视化。第一种行为是披露与分析过程：这种批判性应用伦理关注的是文化与权力机制中的数据利益，牵涉具体的数据技术与系统、数据设计以及实践，同时体现在公司与组织之内、工程师与用户之间以及政治讨论当中。在对数据系统设计本身的微观维度的分析之中，我们可以发现其中的利益与权力机制；同样，这些利益与权力机制也可以在中观维度的分析当中找到。比如，在关于数据与人工智能的政治策略的建构之中、在多利益相关方的团体章程之内、或在法律协商过程当中、等等。此外，它们还可以在宏观维度的分析之中显现，比如在文化范式转向当中、在权力机制之内以及在全球文化模式之中。在前文中、我已经提到过一些与批判性应用伦理相关的案例、如数据系统分析、关键数据调查、话语研究、法律研究以及监控研究等。

保障关键文化时刻。第二种行为是确保社会技术研发与采用当中人类关键文化时刻得以彰显。我已经在前文当中表明：这些关键文化时刻具有特殊性人本特征，意味着当人类记忆与直觉得到特别重视并获得一定的时空范畴进行调整之时，这些时刻才可能出现。因此，对于这些时刻的保障在本质上也是人本方法的使命所在。人类关键文化时刻的开放性能够在微观、中观与宏观时间维度上得到切实保证、例如，在数据设计与数据流程中、在机构与公司实践中以及当社会中的社会技术系统出现危机并且需要治理之时。

最终、基于数据伦理治理框架，出现了诸多非传统型人类伦理治理形式，牵涉到：BI)STls与 AISTls 开发者与.工程师：公司与组织中的职员：从小学到大学再到工作场所中的教育者与施令者：那些勇于揭露并对抗社会不公的活动家：制定方法的科学家：以及BISTIs与AISTls的部署者、采购者使用者等、纷繁复杂。然而，在大数据社会当中、政策制定者的传统治理工作还涉及一些关键的数据伦理治理组件。我将这些组件称为“保护人类权利的法律框架”与“自下而上地塑造人工智能系统中人类干预的治理方法”。我相信，将所有这些过程与实践有机结合，就能够将大数据社会重塑为一个人本社会。

第5章什么是数据伦理？

197

人类赋权型基础设施

在前文当中，我已经介绍了权力的社会技术基础设施，即AISTIs与BDSTIs。它们是权力的数据伦理学当前研究的起点，但却并非其目标。我们真正想要做的是：确保能够开发出一套人类赋权型基础设施。所谓人类赋权型基础设施并不等于它能被人类无条件地盲目信赖，而是需要不断证明其对人类的价值。通过这种方式，人类方能对其承担起相应的伦理责任，这也是我们判断某个社会技术基础设施是否“可信”的唯一标准途径。

基于伯格森的著作，我们认为：人类权力取决于人类的情境经验，这种经验由质性化时间、“记忆”、质性化异构多样性(或者我们所描述的“动态思考”)以及感知持续时间的人类潜质所决定。这里，我想通过一种隐晦的方式表达自己的真实想法：权力的数据伦理学并非仅仅关指广义的人类，它还具有以人为本的具化属性。就像伯格森所描述的持续时间一样，它并非关乎广义的时间(类似于时钟时间)，它就是时间的本源。

从本体论上看，人类环境的持续时间与AISTIs的基础设施时钟时间之间相互排斥，水火不容。在我看来，只有在争议时刻(也可以说是当模具被撑裂，不同权力之间的难以协调暴露无遗之际)，它们之间的冲突才会变得如此碍眼。实际上，争议本身就是最具人本意义的价值，具体体现在抵制或拒绝镌刻在人类个体与集体当下时刻的未来趋势。那么，这究竟在我所说的三种权力(AISTIs、BDSTIs与人类的权力)之间彼此竞争的语境当中意味着什么呢？现如今，AISTIs日益具备了强大的能动性，能够通过在时空维度对于生活进行预测来使其在社会当中得以固化。正如伯格森所说的时钟那样，我们不仅知道时钟会敲响12次，而且明确知道它究竟会在何时敲响。这种把握现实与未来的感觉让我们深感惬意，并且它允许我们在社会环境当中对于时间进行管理协调。然而，这并不意味着我们可以预知一切，同样也不意味着我们的未来已经确定无疑。人类生活与社会的不可预测性正是我们想要保留的地方，试想，如果那些不公待遇以及那些针对少数群体的不当对待与歧视被铭刻在石头之上，抑或被写入算法之中，再或者被设计到遍布社会边角的数据系统之内，到那时我们所渴望的将是拥有对抗这种固化未来的能力。

米

权力的数据伦理学：大数据与人工智能时代的人本方法新解

198

第5章什么是数据伦理？

199

e - -

第6章

结论

强行将某一事物塞进我们创造的模具之中，结果只能是徒劳无功。所有这些模具都会被撑裂。对于我们试图放入模具之中的事物而言，模具实在太过狭小，尤其是缺乏延展性。

——亨利·伯格森(1907)

在1940年的一天，亨利·伯格森，这个举世闻名的哲学家，前往巴黎的一个警察局登记了他的身份信息。作为一个犹太后裔，他被强制要求这样做的原因就是法国在投降德国之后组建的维希政府刚刚出台反犹太法律。除此之外，这些法律还禁止犹太人担任公职；禁止他们成为记者、学生、医生、律师或商人。鉴于伯格森是位著名学者，维希政府曾提出让其免受上述法律限制，但他断然拒绝。在警察局里，伯格森毫不掩饰自己作为犹太人的身份，在登记表上写下：“学者、哲学家、诺贝尔奖获得者、犹太人”(Martin，1994/2014，第10章)。

在80年后的2020年，在世界的另一个地方——美国，罗伯特·威廉姆斯(RobertWilliams)在自家门前被逮捕之后被带到警察局。在瞥察局里，他因为莫须有的罪名而被关押了一整夜。事实上，他完全是由于警方使用带有偏见性的面部识别系统错误匹配而被错误逮捕。当时，像这样的面部识别系统在美国警察系统已经使用了20多年。这些系统在被用于针对特定社区进行监视以及针对潜在犯罪分子进行识别的同时，一次次暴露出其对带有偏见的种族刻板印象的强化。当警方把一张已经识别的黑人罪犯模糊照片(很明显不是威廉姆斯)拿给他看时，威廉姆斯的第一反应是说“我希望你们不要认为所有黑人都长得一样”(Hill，2020-8-3；Williams，2020-6-24)。

纵观人类历史长河，我们为理解、组织与控制生活以及社会而创造出来的数据系统总是不可避免地强化了权力机制，往往对这些系统所描述或代表的人类生活造成破坏性后果。然而，它们的形式也在不断发生改变。如今的数据化转向就是这样一种改变：所有的事物都被轻而易举地转变为数据形式，成为社会生活中潜在的额外组成部分。在本书中，我认为我们需要对其进行特别深刻的反思。加深认识。很显然，1940年亨利·伯格森与2020年罗伯特·威廉姆斯所遇到的数据系统都清楚地表征并强化了社会当中的伦理偏见，并对涉及其中个体构成了严重的伦理影响。尽管如此，二者之间还是存在一些细微差别。例如，尽管伯格森无法选择系统，但他可以选择数据的呈现方式；诚然，对于庞大的纳粹系统而言，这是一种微不足道的个人反抗，但它显示出伯格森对于权力数据系统的坚决反对态度。相反，威廉姆斯的数据是由系统提供生成的。事实上，他甚至不知道自己已经被记录在数据系统当中，而这个系统现在正被警方用来对他施以误判。

202

同样，尽管我们如今没有遭遇来自数据库或主导性权力制度的直接挑战，但实际上我们早已淹没在权力的社会技术系统当中。这正是为什么我们需要在本书当中提到权力的数据伦理学——推动权力可视化并且创造人类的关键文化时刻，从而保障社会当中的数据伦理协商空间。

在本章之中，我将对全书的主要论题进行回顾。在此之前，我将首先说明撰写本书的一个核心缘由。当然·这与权力问题相关，但更重要的是，这与我们对于数据伦理学的概念化与应用方式紧密相关。正如我在书中多次指出的那样，数据伦理不仅关乎权力，它本身就是权力。政府、公司、专家、顾问，甚至是学界都有权指出问题及其解决方案，同时为数据技术在我们人类生活与社会当中应当扮演的角色设定优先次序。通常情况之下，这不仅仅代表着数据权力的经验，更是代表了那些拥有强大权力(表现为拥有更多资源和政治、公共话语权)的个体声音，并以牺牲他者的发言权为代价。这也是为什么作为一个研究领域、一种方法、一种概念的数据伦理学陷人危机：它由于诸多原因备受指责(通常是理所当然的)，但最主要的是因为它为公司与政府不可告人的数据实践披上了一层甜蜜的外衣，同时也是因为它是技术实践和治理当中的一种“伦理清洗”形式。换言之、我们可以说数据伦理学人尽皆知。然而，正如我在这本书当中试图说明的那样，没有人能真正说它是属于自己。这也是为什么这个概念容易被各种利益集团裹挟。换言之，正是因为数据伦理学本身的不可归属性以及它对现成概念的抵制使其可以为任何人代言。

第6章结论

203

在此我想问：为什么数据伦理会被公司与政府裹挟呢？如果我们决意把数据伦理放开会发生什么呢？如果我们决意将这一术语作为某人或某物解决某一特定问题的道德责任予以铲除，又会发生什么呢？在某种意义上，数据伦理将真正地成为一种方法与实践，让人类能够审慎地挑战嵌入数据技术中的权力、其既定优先事项与相关限制，并在我们所处的大数据现实条件之中找到不同的问题以及全新的解决方案。这样一来，权力就不再只是某些人的特权，而是我们每个人都可以触及的对象。现在，让我们通过对本书三个主要部分的回顾，同时讨论接下来可能发生的改变，一起来探索这种权力数据伦理的条件、应用与形式。

(1)权力与大数据。

本书第一部分对权力与大数据之间的关系进行了探究(第1章和第2章)。其中，我对基于大数据技术的社会技术基础设施，也就是我所说的大数据社会技术基础设施(BDSTls)，进行了描述。在21世纪10年代，BDSTIs日渐成为描绘并构成全球社会与环境的通用背景。在这一背景之下，社会实践、社会网络、身份建构以及经济、文化与政治活动得以开展。这些基础设施在一定程度上完成制度化转型，具体体现在IT实践的系统要求标准与数据保护的监管框架当中；它们承载着政治与人类对于大数据机遇与挑战的诸多幢憬；同时也面临着各种协商与竞争。

我将大数据社会的BDSTIs视为人类能动性与经验性的一种特殊类型权力架构。作为重要的全球网络，它们使得数据收集与获取能够跨越地理疆域以及司法辖域；同时，它们也是一种重要的趋势，在此基础上主导性社会功能日益变得体系化(Castells，2010)。因此，对BDSTls的基础设施组件的设计与塑造也是权力的一种基本形式。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

204

权力的数据伦理学主要关注这些以技术为媒介的时空结构的新型权力条件及其伦理影响。例如，BDSTIs的权力空间组织是由占据主导地位的新型“管理精英”创造而成，并为其所用(Castells，2010)。因此，传统意义上独断专行的国家监控权被商业主体的权力进一步增强，他们将BDSTIs设计用于大数据的收集、跟踪与获取（Hayes，2012;Pasquale, 2015;Powles,2015-2018:Zuboff.2014-9-9,2016-3-5，2019)。其结果就是，国家与商业主体的监控权都被嵌入BDSTIs之中，成为其架构与设计的关键属性(Haggerty andEricson, 2000; Lyon, 2001, 2010, 2014, 2018; Hayes, 2012;Bauman and Lyon. 2013; Galic et al..2017; Clarke, 2018).

在本书第一部分当中、我还把社会技术基础设施(如BDSTIs)看作是各种利益进行不断协商的社会空间（Lefebvre，1974/1992;Harvey，1990)。相应地，伴随着基础设施实践而来的就是不同政治与文化利益的表达。在欧洲，“欧洲基础设施”通常被赋予了对于欧盟项目的美好想象与基本利益，其致力于为相互合作的成员国之间的高效运作创造条件。换言之、工程与设计标准、建设、投资与监管等基础设施实践被定义为一种战略尝试，旨在构建一个能够实现欧洲经济社会联盟和社区的空间。同时，这种政治愿景还体现在欧洲数字一体化市场的理念当中，并在21世纪10年代转化为构建欧洲BISTIs的宏伟蓝图。欧洲 BDSTIs在这里首先被定义为全球竞争性数字市场上的差异化因素。在21世纪10年代末期，欧洲提出的“第三条道路”(特别强调发展具有人工智能属性的欧洲BISTIs，即我所说的AISTIs)当中，获得全球大数据经济中有利竞争地位的愿景与维护欧洲人基本权利的愿景同时得以保全。

这样一来，全球BISTls的大型科技商业精英的权力在欧洲日益受到具体基础设施实践的挑战，具体包括：支持欧洲从业者与用户能力发展的投资与政策、科学与研究、技术数据据础设施与数据整合，以及为确保欧洲BDST1s与AISTls 发展的法律框架设计与实施。

第6章结论

205