权力的数据伦理学大数据与人工智能时代的人本方法新解

我想说明的是，在社会技术变革的背景下，数据伦理学可以为人类治理发挥作用。我研究了21世纪10年代后期关于大数据社会基础设施的公共研讨与政策议程，这是一个大型技术系统在社会技术发展过程中颇具一般性的“中间”阶段(Hughes，1983，1987)。此间，不同的技术文化与方法可谓百家争鸣，相互竞争，从而谋求技术动力。我认为，在对大数据与人工智能的研用过程进行治理之时，人类需要对争议时刻所做出的伦理妥协予以高度重视，因为它们是大数据与人工智能社会技术基础设施的技术动力在社会整合过程中所做出的文化妥协。因此，对于这一领域所牵涉的文化权力保持高度警惕就显得至关重要。在此，我强烈建议进一步丰富大数据与人工智能社会技术基础设施的治理与设计之中的人类权力文化。

人本方法

“人本方法”这一术语和主题肇始于全球人工智能政策讨论之中。除了用于强调人类的特殊角色与地位之外，这一说法并没有形成普遍认可的概念化共识。如果这一方法首要关注的是人类个体与群体本身，我们无疑就会反对这一方法及其所假定的人类中心主义取向。然而，在本书当中，我认为我们应该以一种截然不同的方式重新审视这一概念，并有针对性地提出一个补充性概念，我将其称为“人本方法”。在我看来，这一方法关注的是：作为伦理学意义1的存在，人类本应具有相应的伦理责任。换言之，人本方法并非优先考虑人类个体[正如齐格蒙特·鲍曼(ZygmuntBauman，2000)所说的那样，它并非关于“个体化”].而是强调人的伦理存在属性；强调我们不仅要对人类本身负有伦理责任，同时也对一般的生命与存在负有伦理责任：强调在大数据与人工智能社会技术基础设施中要以非常具化的方式前置人类的动态品质——一种赋权的人性基础架构。换言之，人本方法在实践层面上还鼓励我们在数据的设计、使用与实施当中赋予人类一定的灵活性——这确实也包括(但不限于)人类个体赋权。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

6

人本方法在数据伦理学的“协商空间”与“关键文化时刻”当中体现得最为明显。“协商空间”使批评和谈判具有了可能性，但也仅在“系统”(物质、非物质、技术、文化等)发生冲突或争议之时才会发生。“关键文化时刻”具有特殊的人本特征，只有当人类记忆和直觉得到重视并获得一定的时空范畴予以调整之时才会发生。从实践层面来看，这进一步体现为优先考虑人类在大数据与人工智能基础设施数据中的相关利益、并且通过在数据设计、使用、治理与实施当中把人类主体纳入实质性工作之中而得以实现。

因此，权力的数据伦理方法并非仅仅关乎人类，它还具有以人为本的具化属性，这就注定了不能对其置若罔闻，更不可以贪图功利之用。我们应该将其看作是一种人本道德而非社会道德(Bergson，1932。1977)。我们可以制定数据伦理指南、原则与策略、甚至可以对人工制品进行编程让其依据道德规则行事。然而，为了真正确保权力以人为本地得以分配，数据伦理学必须超越道德义务范畴，跳出编程规则集合的藩篱，它必须具备人本属性。

哲学家亨利·伯格森——本书后续将会大量引证他的观点—在他的哲学著作中对“人本方法”提供了一个典型例证。人本方法并非意味着人类继承了某种神圣的天赋，也不意味着人类是一种非自然的附庸性世俗存在，而是意味着人类不仅仅拥有机器般的智商、还具备另一种肖觉性智慧（Bergson，1896，1991；Deleuze，1966，1991).即通过启动记忆(Bergson，1896，1991)而进行“动态思考”的能力(Bergson，1907，2001，p.318)。最重要的是，他批评了功利主义对生命的处理方式。借此，我认为，他为我们提供了一个理解人类以及人工智能在智商局限性上的概念框架，而这恰好是人工智能无法超越之处。

导论

7

最后，我们用这种人本方法可以实现哪些功用呢？借助这一方法，我们可以对抗维系排他性社会的大数据与人工智能系统在现实秩序控制方面的封闭性与排他性属性。这些社会技术系统体现了社会利益与权力的不对称。它们只代表了一个动态的人类现实与多元文化的冰山一角。然而在实践过程当中，它们却日渐被视为完整的系统而被采用。人本方法可以用爱来对抗这些排他性倾向。爱是在所有文化当中都能找到的一个概念——希腊词语“agape”表示无条件地爱所有人类：佛教词汇“maitri”表示普遍的仁爱。在本书中，我借用了亨利·伯格森的概念，即开放的“博爱”，它没有利益之分，而是泛指整个人类社会，从而促生一个开放公正的社会(Bergson，1932，1977)。

全书概览

下面我将给出权力的三种核心竞争结构，每一种均自带形态与风格，并且具备各自的“数据文化”。全书主体总共分为三个部分(共5章)，分别聚焦权力的三种不同特征：

第一，论述权力与大数据(第1一2章)。

第二，论述权力与人工智能(第3一4章)。

第三，论述人类权力与数据伦理学(第5章)。

在全书的第一部分(论述权力与大数据的前两章)，我主要论述第一种权力结构——大数据社会技术基础设施(简称 BDST1s)及其文化与环境体系。这一权力结构的实体由遍布全球的光缆构成，它们打破了相关数据收集与获取的地理区域与管辖范围的藩篱。并在虚拟的流动空间当中保证主要社会功能运作愈加有条不紊(Castells.2010)。BDSTIs凭借这些新兴技术媒介的时空配置对权力进行二次分配。此时，设计并塑造BDSTls的基础组件在本质上就是一种权力形式。例如、国家层面与业界主体的监管权力均以BDSTIs架构的关键属性形式被嵌入其中(Haggerty&Ericson，2000；Lyon，2001,2010,2014,2018;Hayes,2012;Bauman& Lyon,2013;Galic etal., 2017, Clarke, 2018, etc.)。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

8

在第二部分(论述权力与人工智能的第3一4章).我将重点关注第二种权力形式——大数据人工智能社会技术基础设施（简称AISTIs)。首先，这一权力形式可以看作是BDSTIs在分析能力维度有所改良的升级版本。虽然其大体结构与BDSTIs类似，但是又增补了其他组件，从而具备实时环境感知能力，并且能够以自主或半自主的方式学习与升级。

本书前面4章所描述的两种社会技术基础设施构成了人类现实社会当中不同维度上发挥作用的两种权力形式。BDSTls主要通过信息数字化在日常空间中大展拳脚：与之相比，AISTIs则通过数据管理而走进我们的日常生活、并以具象化未来的方式积极地塑造着人类的过去与当下。因此，我的观点是，权力的数据伦理学的核心关注点应该是将AISTIs和BISTIs视为具有社会分层功能的文化系统组件。在该系统之中，社会主导群体的利益被空间化并固定化、因此愈加难以批评抑或重构。

最后，在本书的收尾部分(第5章)，我讨论了人类的权力和赋权—我坚信二者正是权力的数据伦理学之核心所在。权力的数据伦理学这一人本方法将人视为具有相应伦理责任的伦理存在。然而，伦理能动性需要特殊的时空条件才能发挥作用。在社会技术变革面前，人类的权力不断与BISTls和AIST1s的权力进行博弈。因此，这就需要一种应用型数据伦理学，来确保人类主体参与到社会技术数据系统的数据设计、治理、使用与实施当中。

如何解决复杂的数据伦理问题

在开始写作本书之初，我已经在政策与实践领域闯荡多年。数据伦理已然成为一个常用术语，并且在与强大的科技巨头的紧张对抗以及公开研讨当中最终得到普遍接受。然而，即使伦理反思与社会意识始终常伴左右，我还是注意到我们常常未能有效估量自身所作所为在不同利益文化当中的影响。正如前文所述，我们沉浸在权力的社会技术与文化结构当中，而这些却都限制了人类“技术之用”与“技术智用”方面的自由度。

导论

9

一般来说，科学家解决问题最传统的方法就是从自己的专长领域(例如民族志、法学、哲学、社会学或工程学)出发来看待这个问题。我所意识到的是，这些彼此独立的学科领域实际上也代表了人们在公共话语与政策条例当中对于人工智能、大数据和数据伦理的言说方式。在很长一段时间之内，我都在研究塑造上述领域的利益相关方与科学界在话语体系和传统机制方面的不同，这使得我能够对于每个群体及其传统的个性风格与语言表达洞若观火：一方面它们之间彼此泾渭分明，另一方面又彼此唇齿相依，存在同心共核。

在本书当中，我尝试有机地整合不同视角来解决既定问题。我想要创建一个多语言、多传统的整合型集成体系，从而传达一直在与我互动的公众之声。当然，将纷繁复杂的诸多传统联系起来予以研究，然后将其予以有机融合，这极具复杂性。我需要做的就是尝试接受社会技术变革的复杂性，这绝非易事。

当身处技术发展当中，特别是在讨论同一问题时所遵循的传统之间存在根本差异(有时甚至是相互矛盾)之时，我们应该如何创建一个元语言体系呢？

有关这一点，我特别受到托马斯·J. 米萨(Thomas J. Misa。1988，1992，2009)相关论著的启发。他采用了一种可以在不同分析层面之间切换的方法，以此应对社会技术变革的复杂性。他提倡采用能够兼顾微观与宏观角度的“多层次”分析方法，后在克服在他看来存在于两种不同框架之间的二分法偏误：分析人机关系之时。要么仅用微观技术视角，要么只用宏观技术视角(Misa，1988，2009)。在他看来，如果只是关注微观机制(如某种技术的设计师与工程师)，或者只关注宏观的经济或意识形态模式，都会对社会技术变革得出截然不同甚至经常相互矛盾的认识。换言之，前者往往看不到产生变革的宏观社会条件与权力机制，而后者则往往只从宽泛的宏观社会动态之中看待问题，从而忽略个体的细微差别与个性因素。相比之下，多层次分析则兼顾了两种视角。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

10

此外，三重时间尺度(微观、中观和宏观)也是我对权力的数据伦理学进行划分的核心依据。

从微观尺度来看，人们发现：对于人类的争议与协商而言，技术设计本身要么封闭，要么开放。例如，人工智能能动者的算法与数据处理过程可以是一个“黑箱”，它可以在没有人类干预的情况下自主进化。相反·它也可以在设计回路、透明度、审计性以及个人数据控制等方面邀约人类参与其中。在关注技术设计的同时，我还聚焦于人类设计师的设计与编程以及人类用户予以实施之时所处的微观时空。这里在对数据技术进行微观时间维度的分析之时，主要考虑的是数据设计本身以及设计过程是否具备对于文化价值协商的开放性。例如，设计过程是被锁定在一个不容置疑的技术数据文化当中，还是允许对这一过程中牵涉的利益进行批判性的评估？

就中观尺度而言，各类机构、大小公司、政府部门以及政府间组织在自身实践的价值观念与文化框架的可商讨性维度上同样游走于封闭与开放两端。选择自我封闭的实体将沿着常态发展，其基本都是循规蹈矩，不会节外生枝。选择开放的实体在遵规守法的基础上还会尝试提出针对价值协商与伦理反思的倡议、并且据此而付诸行动。当在不同的倡议抑或各种实体之间能够识别出针对特定主题的伦理反思模式之时，“数据伦理治理”可能就会找到用武之地。

最后，从宏观时间尺度上讲，社会技术发展与变革同样具有可分析性。当社会中的社会技术系统出现危机并且亟须危机治理之时、伦理反思与协商往往就会浮出水面(Hughes，1983，1987；Moor，

导论

11

1985)。这些时刻意义重大，因为它们不仅构成社会协商，还会促成文化妥协—这是社会技术系统进化所需的“技术动力”(Hughes，1983,1987)。此外，它们对于创新与发展阶段同样至关重要，因为它们促成了社会技术系统的转型——它们产生于寻求解决系统关键问题的过程当中。我们可以将其想象成一种“系统之争”———新旧系统同时并存于一种“辩证张力”(Hughes,1983：106-139)之内。或者将其想象为一系列冲突与出路并存的局面——不仅存在于工程师之间，而且在不同政治与多方利益主体之间同样如影随形。此时，关键问题纷纷暴露出来，不同利益需要予以协商并平衡，最终聚焦于如何通过系统进化解决相关问题。正是在这个阶段识别并解决了相关问题之后，新系统(或者旧系统改造)随之诞生。要想解决这些系统的关键问题，不仅需要看到技术层面的因素(例如，采用与系统要求一致的技术标准)，更要关注其中涉及的政治与历史因素。

术语说明

如果想要避免鸡同鸭讲的尴尬，那就需要一套公认的术语。本书的一个关键旨趣就是在关注人类权力的情况下，为围绕人工智能数据而展开的数据伦理讨论创造一个共同基础。其中任务之一就是为权力的数据伦理学提出一套普适话语，下文介绍的关键术语就在其列。

数据伦理学

数据伦理学关注大数据社会中的权力分配和权力关系及其相应的运作条件。应用型数据伦理学关注的是如何彰显这些权力关系，以便指出支持“人本主义”权力分配的设计、商业、政策以及社会文化进程。

权力

众所周知，权力是一个颇具争议的理论化概念，可以回溯到霍布斯(Hobbes)、马克思(Marx)、阿伦特(Arendt)以及福柯(Foucault)等多个前贤先哲的文献当中，可谓遍布各个学科。在本书当中，我仅以当代权力理论的前沿范式为参照，将对象聚焦于当代文化与数字技术之上。权力的数据伦理学关注于新兴技术介导的时空结构(BDSTIs和AISTIs)当中的权力分配·同时强调把价值与利益的文化权力斗争与协商看作是社会技术变革与治理的核心议题。这种权力与技术的概念化缘起于监控与关键数据研究，其关注的焦点是大数据社会的权力状态——微观上关注系统、商业、政府以及工程方面的数据实践，宏观上关注社会技术的变革。尤其需要指出的是，我们需要从“流动性”的角度来研究权力问题。(Bauman，2000；Bauman&.Haugard,2008;Lyon,2010;Bauman&Lyon,2013)即关注一种由少数权力主体集中操纵的权力。它们在(监控)文化(Lyon、2018)的使用、设计、治理与想象中日益自我维持、重新设计并进化发展。从这个意义上讲，他们难以改变——虽然不无可能。基于文化研究传统，我提出了文化与权力的概念化，旨在解决文化表征、文化实践以及文化产品当中权力分配不平等的问题。至关重要的是，从这一视角来看，文化权力并不具备长久稳定性。相反，文化权力始终具有动态开放性与重新分配性的诸多可能。

米

权力的数据伦理学：大数据与人工智能时代的人本方法新解

12

社会技术过程

技术始终是社会的组成部分，就像社会始终是技术的一部分一样。这也就意味着，两个概念的理解“你中有我，我中有你”。技术不仅仅关乎具体设计与物质外观，而且是一个社会技术过程一——由不同社会、政治、经济、文化与技术因素构成的复杂过程(Hughes，1987, 1983; Bijker et al.,1987;Misa,1988, 1992, 2009; Bijker&Law, 1992; Edwards, 2002; Harvey et al., 2017, etc.)。

(社会技术)基础设施

基础设施是社会空间中虚拟性与实质性社会技术组织的综合体。它们具有设计性与固定性，但也会在社会、经济、政治与历史的非设计性动态背景下发展演化。具体而言，社会技术基础设施是一种特定类型的人造空间、其间会上演不同社会利益、想象和愿景之间的协商与博弈，整个过程兼具虚拟性与实质性、设计性与灵活性。

导论

13

大数据社会技术基础设施

在本书的第一部分，我引人了大数据社会技术基础设施(BDSTls)这个术语，以此指代由大数据技术构成的社会技术基础设施。作为全球经济与社会流动的主要基础设施(Castells，2010)，BDSTIs打破了地理空间疆域以及法律文化管辖的藩篱。在21世纪之初，BDSTls日渐成为全球社会与环境的刻画手段并且融入其中，成为社会实践、人际交往、身份建构、经济活动、文化政治得以开展的通用背景。在某种程度上，它已经在信息技术(简称IT)实践的系统要求标准以及数据保护的监管框架方面完成了制度化转变，并且被赋予了如同人类一样对于大数据所带来的挑战与机遇的预见力。

大数据人工智能社会技术基础设施

大数据人工智能社会技术基础设施(AISTIs)是我用来描述分析能力有所升级的大数据社会技术基础设施（BDST1s）一个术语。AISTIs与BDSTls有共通之处，但前者的组件可以实时感知环境·并且具有自主或半自主学习与进化能力。BDSTls主要通过信息数字化而在日常空间中发挥作用：而AISTIs通过数据管理而走进我们的日常生活，并以具象化未来的方式积极地塑造着我们的过去与当下。在本书的第二部分，我将详细介绍AISTls的历史由来、伦理维度以及发展状况。

文化

文化一体两面：①它是一个把具有共同概念框架与资源的社区齐聚一堂的系统，本身具有一定的主动性，具体表现在它在社会常规实践当中积极地赋予特定事项一定的优先级、具体目标以及组织世界的方式；②文化是一种“整体的生活方式”(Williams，1958，1993)，其中确实蕴含着规约性的主流意义，但重要的是文化也关指这些意义的协商过程。换言之·文化不具单面性。相反，文化具有多元性—一方面它被社会主流群体落实在制度、形式与实践当中，另一方面也具有亚文化属性，由社会中的少数群体亲身实践。因此，文化总是变动不居的——从一开始、文化就是一个意义构建的动态系统，因此总是面临开放性竞争与社会博弈。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

14

数据文化

我们将那些用于构建数据科学、实践与治理的文化称为“数据文化”。它们是工程师、数据科学家和数据系统设计师的概念地图·带有文化编码属性：同样也是数据系统的部署者、立法者和使用者的概念地图。数据文化并非始终具有共享性，有时甚至可能存在冲突，同社会权力的协商与博弈息息相关。例如，数据科学家和设计师的实践就是在特定的非正式或制度化的意义制造文化系统中得以进行。因此，数据系统的开发与设计这一实践本身就是一种文化实践。

人本方法

“人类中心”或“以人为中心”的方法是20世纪10年代末人工智能与大数据伦理政策提案讨论中的一个流行术语，旨在将这些领域的社会技术发展重新聚焦到人类利益之上。在本·书中，我将进一步围绕这-术语进行探索，并将其予以概念化处理。但是、我更倾向于将其称为“人本方法”，旨在强调人类作为一种伦理存在的作用—不仅对人类生命本身负有伦理责任、同样对于一般性生命与存在也负有相应的伦理责任。在实际应用当中、人本方法通过让人类参与人工智能的数据设计、使用和实施，将人类利益与人工智能数据联系起来。特别值得一提的是，权力的数据伦理学这一人本方法构成了对塑造技术进步的权力以及我们建造与设想大数据与人工智能社会技术系统的批判性反思。

导论

15