权力的数据伦理学大数据与人工智能时代的人本方法新解

现在，我们将休斯关于社会技术变革(特别是第三和第四阶段)的描述应用于21世纪10年代末的BDSTIs与AISTIs 发展中，就会发现明显相似的模式。在21世纪10年代之初，全球大数据数字基础设施遍布各地，打破了地理与行政区域的限制，这对于传统意义上的领土边界构成了挑战(参见Hasselbalch，2010)。最为深刻的是，隐私与个人数据保护的法律权利同样受到这个全新技术支持的跨域空间的挑战——在数据技术与系统的设计当中需要实施不同程度的保障措施。于是，不同地区保护隐私的法律框架与保护数据中的商业或国家利益的法律框架之间就出现了矛盾冲突，各种涉及保护隐私的设计与系统被提出并用于解决“旧系统”中的关键间题。

正如前一章所述，21世纪20年代中期，在斯诺登揭露了美国大规模监控丑闻以及在线服务重大数据遭受黑客攻击(例如，2013年社交网络服务Snapchat遭遇的黑客事件，还有2015年婚外情网站AshleyMadison遭遇的黑客事件)之后。有关隐私权与个人数据保护方面的关键问题愈加惹人关注。这些关键问题由活动家、吹哨人和新闻记者联合披露并予以确定，同时由来自世界不同地区的工程师与政策制定者拣选出来，他们[如卡斯帕·鲍登(Caspar Bowden)、马克思·施雷姆斯(Max Schrems)等人]会据此提出、设计并施行相应的技术与法律解决方案。在这里，我们可以思考休斯对于“反向凸角”的描述，它指一个系统当中与该系统的其他部分不一致或不和谐的组件，这些组件阻碍了该系统整合到社会之中(Hughes，1983：79)。比如，BDSTls与AISTIs在此时出现的关键问题——尤其是涉及个人数据与隐私保护的问题———确实阻止了BDSTIs在社会当中的深度整合，并直接引起了不同地区对于技术研发的法律治理方法与这些系统背后商业行为之间的冲突。这些就是BDSTIs的“反向凸角”·它限制了全球大数据系统的成长与固化。更为重要的是，它限制了自身在社会中解决与商业利益、公民利益、国家机构利益、政治利益以及地区利益等多方利益冲突的动量。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

56

例如，在美国硅谷地区研发出来的一系列大数据社交网络服务。在21世纪的前10年，几乎在立法者注意到之前就已经染指全球了。因此，在21世纪10年代·这些网络服务已经在欧洲民众的社交与私人生活中悄然固化下来[例如：44%的欧洲人在2011年表示他们从未使用过社交网络服务(Eurobarometer76).而在2019年秋季仅有28%持这种观点(Eurobarometer92)]。这些服务代表着两个截然相反的目标，二者之间彼此水火不容：一方面、连接并促进信息交流、人际沟通与社交生活；另一方面，也为公司提供了微观目标客户营销的全新手段。基于上述种种原因、在大数据商业模式的支持者与新兴隐私保护设计的商业社会运动之间就出现了矛盾以及关键问题的博弈空间(Hasselbalch and Tranberg，2016)。这一过程带来诸多影响、其中之一就是出台了欧洲通用数据保护法律改革——于2012年至2016年之间协商并出台了更为严格的数据保护法律条款。

总体而言，21世纪10年代中后期被称为“系统混战”期，在这一时段，新旧系统在技术、法律、文化以及社会组件维度上同时存在于一种“辩证性紧张”关系之中（Hughes，1983：79)。BDSTls与AISTIs的“反向凸角”在政治和公众舆论当中尤被视为现有系统数据处理与设计在伦理与社会维度上的关键问题。换有之，“反向凸角”被作为一种社会技术问题予以处理。因此，在21世纪10年代末，除I.程师可以提出解决方案并予以协商之外，越来越多的新型科学家与专家也将人文学科、社会科学、哲学与数据科学结合起来，然后参与到博弈当中，从而确定关键问题并且给出带有应用伦理学色彩的解决方案。这些解决方案可以看作是对于BDSTIs与AISTIs特有伦理挑战的一种回应。因此，这时也就形成了社会伦理价值的博弈，这些价值塑造了BDSTls与AISTls技术动量的方向：“质量好、速度快、方向准”(Hughes，1983：15)。

第2章社会技术变革与数据伦理治理

57

政策真空中的伦理

1985年.道德哲学教授詹姆斯·穆尔(JamesH.Moor)预测了即将发生计算机革命。重要的是，他认为计算机在社会中广为应用将“给我们留下政策与概念真空”(Moor，1985：272)，这将产生特定形式的伦理反思与价值博弈。穆尔提出，计算机革命可以分为两个阶段，具体表现为我们即将提出的相应问题。在第一个“引入阶段”，我们将提出功能问题：特定技术在实现既定目的之时，其功能表现如何？在第二个“渗透阶段”，当制度与活动经历转型之时，我们会就事物的本质与价值进行提问(Moor，1985：271)。

我建议基于穆尔对于计算机革命及其政策真空的描述，结合休斯的社会技术变革理论，一起理解数据伦理在治理与政策制定当中的作用。穆尔所描述的政策真空指出了核心的问题与挑战，这与休斯所说的“反向凸角”大同小异。然而，与其说它们是技术系统特有的问题，不如说是技术或技术系统的引入对特定社会环境及其既定政策、规范和标准所带来的挑战。这样一来，必然引起概念混乱与不确定性，因此我们也就面临着全新的行动选择(Moor，1985：266)。我们过去的已知知识与当下的未知知识之间形成了鲜明的对比，这就迫使我们反思自我珍视的东西。换言之，技术系统(计算机)和我们习以为常的现有政策之间的冲突将迫使我们“发现并明确自身的价值偏好”(Moor，1985：267)。这就意味着在技术改变现状并与既定政策发生冲突之际。伦理反思势在必行，并且需要找到用武之地。

我们需要承认，自身在这些时刻做出的伦理妥协就是社会技术变革中治理成果的一部分，它们构成了塑造技术动量的文化妥协。

P

权力的数据伦理学：大数据与人工智能时代的人本方法新解

58

以21世纪10年代后半期在欧洲推出的数据伦理公共政策倡议为例，它并非欧盟所明确要求解决的伦理问题的具体方案。相反，它所表征的是一种“博弈空间”，此处的价值系统得以明确并且价值冲突得到协商。这些仅仅是政策倡议而已。在21世纪10年代后期还出现了其他几个关键的“博弈空间”，它们特别对BDSTls与AISTIs及其主要利益相关方的权力提出了批评。例如，2018年谷歌员工通过罢工抗议该公司的女性待遇：2020年英国学生示威抗议A级自动评分系统。这些都是对于变革而言至关重要的“伦理时刻”·此时此刻，我们习以为常的规范与价值遭遇诸多挑战并被重新协商，因此替代方案也就应运而生。

治理

通过对“社会技术”的分析，我试图勾勒出构成社会技术变革形态的技术、社会、文化与经济等各个部分的融合体、刻画出这种情况之下的伦理之用。充分了解多元因素的复杂性是指导变革的必要条件。正如伯杰克与劳(1992)所言，技术并不代表它们自身的内在逻辑。作为一系列异质因素的具体化、技术同时也历经锻造，其至被迫“压制”而成某种”非预期性”形式(Bijker and Law，1992：3)。换言之，正如我之前所说，这是一个关于技术发展与变革的基本观点—BDSTls与AISTIs的升级演变就属此列，因为它对于人类开展治理充分赋权。

为了实现变革，我们需要实施社会技术治理，超越对于BDSTIs与AIST1s升级所涉及组件的单向分析。如果我们想用人类利益来影响BDST1技术动量背后的利益·那就不能孤注一掷地依赖“伦理设计”型技术组件的研发。单单依靠提高公众意识与教育，或者仪仅通过监管要求以及给出全新的系统需求标准，我们也无法实现变革。我们需要一种个性化的分布式治理方法———每一项活动都以组件的身份嵌入整体，共同应对复杂的社会、文化与政治环境中所隐匿的机遇、风险以及伦理问题。

第2章社会技术变革与数据伦理治理

59

此外，作为塑造者的“我们”并非只是在一个领域中发挥作用的单一主体(Mueller,2010;Brousseau and Marzouki,2012;Epstein etal.,2016;Harvey et al.,2017;Hoffman et al..2017)。立法者是治理方面的主体，但技术系统同样参与其中—它们也具备积极的社会秩序组织与治理权力(Reidenberg，1997；Lessig，2006)，同样的还有技术系统的用户、工程师和设计师(Winner，1986；DeNardis，2012)。

在接下来的互联网治理讨论当中，我们将看到社会技术变革“治理”是一个复杂的异质性过程。这也是我们思考“数据伦理”在治理中的运用时应遵循的方式，即我所说的“数据伦理治理”。在多重主体与秩序构成的复杂文化过程中，当数据工程与设计实践的既定规范以及价值遭遇来自“非传统的”数据伦理问题的挑战之时，自下而上的反思性方法(而非自上而下的方法)就会在关键时刻应运而生。

互联网治理

只要存在基础设施，就必然存在相应的治理。规则制定、秩序要求以及集体行动的共享框架水远都是一个正常运作的社会技术基础设施的核心(Star and Bowker，2006；Bowker et al.。2010)。从作常基础的技术层面来讲，如果没有共享框架，系统技术组件就不会彼此联动，系统也会因此崩溃抑或停止演化。这一点同样适用于法律框架：例如。关于保护与共享数据以及保护个人隐私权的法律都涉及这个问题。只有在共享框架的基础之上，它们才能在最华本的应用层面发挥作用。换官之，虽然在一个系统发展的关键时刻，不同价值之间的协商、利益冲突以及系统之间的博弈可能代表了共享治理议程的不确定性，即“政策真空”(Moor，1985)；然而。一个功能良好的基础设施若想真正发挥作用，那就需要达成一定程度的一致性。这也是斯塔尔和鲍克(2006)所说的不同组件之间的“握手言和”。因此，一个运行顺畅的基础设施并非法律、文化或技术等不同框架各自为政、相互冲突。相反，它总是表现为相互妥协或者其他标准臣服于一种标准。

F

米

权力的数据伦理学：大数据与人工智能时代的人本方法新解

60

互联网是大规模信息基础设施的一个典例.显然它需要通过技术以及政策与法律标准的制度性共享的全球治理·从而保障自身高效运转。同样，在20世纪90年代初，万维网的出现引起了网络自由主义者对于独立公共场域的想象——此间，公民可以通过去集中化”和“不可治理”的数字网络信息架构摆脱国家治理的压迫感(Mueller，2010：2)。由此，一种自下而上式的人本伦理型全新治理概念产生了。正如约翰·佩里·巴洛(JohnPerryBarlow)在其1996年发表的《互联网独立宣言》中所写的那样：

我们相信：治理观念会从伦理、理性的自我利益以及共同利益当中出现。我们的各种身份可能出现在诸多辖区之内。我们所有这些子文化普遍认可的唯一法则就是“金科玉律”。我们希望能够在此基础上构建自身特定的解决方案、而不是接受外部试图强加给我们的解决方案。(Barlow，1996)

诸如此类有关技术解放以及摆脱制度治理的想法在互联网这一全球社会技术信息基础设施的形成时期一直存在(Mueller，2010:1-13)。然而，在21世纪的前10年里，传统政府与政府间机构在全球舞台上的政治角力与博弈达到了全新高度，一些法规与政策倡议被引入互联网背景下的新社会技术领域治理中(Brosseau andMarzouki，2012)。互联网并非是个体解放、“不受任何管制”的自由区，它仍然具有共享的治理架构，但是别具特色。这一全新公共领域治理并非一国之事，官方政策对这一点的认可日渐明晰。

新的治理主体，包括工程师和企业、互联网用户及其社区(Mueller，2010;Brousseau and Marzouki,2012;DeNardis,2012; Epstein etal.、2016:Harvey et al.. 2017；Hoffman et al.，2017)在内，可谓层出不穷、并在互联网治理政策讨论当中频频发声。最重要的是，大型企业在设计在线平台的同时，也在为其制定规则与行为准则( Aguerre, 2016; Belli and Zingales, 2017; Franklin, 2019;Jorgensen、2019；Wagner et al.，2019)。因此，在 21世纪初，公共政策领域引人了诸多涉及多个利益方的治理制度与倡议。例如、联合国互联网治理论坛(简称IGF)在2003—2005年间最初的信息社会世界峰会(简称WSIS)进程当中得以成立的。尤其在当下社会，由于公民社会与技术社区利益相关方参与其中，问题的解决方案远远超出了纯粹的互联网技术设计范畴(Brousseau and Marzouki，2012)。例如，人权问题正被逐渐纳入官方议程。

第2章社会技术变革与数据伦理治理

61

许多互联网治理研究都聚焦于互联网治理的动态性，以及“如何”治理一个崭新的全球性跨区域社会技术信息基础设施(Mueller，2010; Brousseau and Marzouki, 2012; DeNardis, 2012; Harvey etal, 2017;Hoffman et al.,2017;Epstein et al., 2016)。因此、大多数互联网治理学者都认同这样一种观点，即互联网技术架构本身带来了全新的治理模式，并因此打乱了传统的集中式治理形式。例如。互联网治理专家米尔顿·米勒(Milton Mueller，2010)描述了互联网作为技术架构对于国家治理施加影响的种种表现方式。互联网跨境通信技术架构本身就意味着，试图强制实施额外的管辖架构需要付出额外的努力。此外，庞大的信息生成、收集与检索架构使得传统政府难以应对的大规模通信具有了可能性与可行性，这就迫使政府改变政治治理进程。另外，去中心化和个性分布式互联网架构对于权力进行了重新分配，新的跨国机构(例如互联网名称与数字地址分配机构ICANN)形成了一个新的权力中心、负责关键问题决策(Mueller，2010：4)。最终，互联网通过整合媒体并创造全新的通信方式，能够降低成本、强化群体行动实现了史无前例的跨区域合作、组织与动员，进而对“政治体制”进行改造(Mueller，2010：5)。基于这些观察·米勒通过术语“治理”而非“政府”来将焦点从民族国家主导的传统集中式规制和社会秩序之上转移开来。互联网的全球社会技术基础设施的确扰动了民族国家治理进程，但这并不意味着它可以规避约束与重塑。这只是意味着治理的“等级性与权威性”有所减缓而已(Mueller，2010：9)。

F

米

权力的数据伦理学：大数据与人工智能时代的人本方法新解

62

互联网治理学者一直特别关注两件事：第一，在官方制度层面上首次尝试协商一个支持共享的全球互联网治理方法；第二，随着21世纪之初发起WSIS进程以及随后由不同国家在全球范围内每年举办IGF.在全球政策制定当中将信息社会描述得愈加清晰。(Bygraveand Bing,2009; Mueller,2010; Flyverbom,2011; Brosseau andMarzouki，2012；Epstein。2013)。此外，一种由科学技术学(简称STS)启发而来的方法也找到了用武之地，被频繁地用于分析社会当中互联网社会技术形成过程中所出现的诸多治理主体及其复杂模式(Epstein et al.，2016)。结果发现.许多不同的治理组件在塑造社会技术系统(法律法规、文化规范与习惯、教育、工程实践手册、标准以及资助计划和行为准则等)的方向上发挥着重要作用。

爱泼斯坦(Epstein)等人(2016)勾画出了以科学技术学为基础的互联网治理方法的关键点。首先，存在“多种”治理模式，它们在不同的平台上大展拳脚、并遵循一系列不同的“规范系统”(从法律、技术到社会实践)得以实施并固化。其次，技术基础设施具有“非人类”能动性，它不仅对社会秩序予以组织，同时施加控制。此外，“治理”不仅仅表现为人类社会的繁文孵节(如规定与政治议程)，还体现为人类社会当中隐匿的“一般性实践”。它塑造了“技术的设计、监管与使用”。更为重要的是，它的关注点在于“作为结构化行为过程的争议”，其中不同利益方的利益得以明示与博弈会揭示出它们之间不同的治理思路。最后，在承认众多参与“互联网治理”主体的作用之时，特别是在互联网决策与治理的背景之下以个人主体(从用户到产业)身份参与其中之际，科学技术学方法就提出了一种“多利益方”的概

第2章社会技术变革与数据伦理治理

63

念(Epstein et al.. 2016: 6-7)。

珍妮特·霍夫曼(JeanetteHoffmann)等人(2017)引人的“反思性协调”这一术语就是为了将互联网治理中的这些异质组件涵盖其中：

我们对于治理方法提出了一种颇具颠覆性的视角转变：我们认为，与其慢悠悠地将监管视角逐渐延伸到民族国家、公共决策以及正式政策工具之外，不如将互联网治理视作一种持续的异质性调整过程—它们没有明确的起点和终点，可谓无处不在(Hoffmann et al., 2017: 1412)。

这种治理表现出一种“中介性”特点，具体发生在国家自上而下有意引导的(新旧)互联网治理主体(包括国家、工程师、用户、民众、科学家与技术产品)异质性的、混乱无序的活动中，同时考虑到它们彼此之间盘根错节的有意或无意的“多重秩序”(Hoffmanet al..2017：1410)。通过关注不同主体的协调与关联方式，它们之间的复杂性与多样性就变得清晰可见。这种治理的具体协调活动可能司空见惯，表面上看起来平平无奇。然而，它们确实创造了一种社会秩序(Hoflman et al，2017：1412)。只有在各种规范、假设与情景解读发生冲突的关键时刻，这种惯习性秩序协调才会上升为反思性的(“反思性协调”)(Hoffman et al，2017：1412)。

我希望利用互联网治理领域的这些反思经验·深度探紧数据伦理学在BDSTls与AISTIs社会技术变革“治理”当中所扮演的角色。作为应对互联网特定架构的产物，数据伦理学不但描述了新兴的法律治理模式，同时自身也得到了相应的强化。这是一种对于社会技术变革的引导，兼具制度设计上的工程化属性与文化实践上（例如工程师与用户的文化实践)的非工程化特点。这里的治理也可以理解为“开放式”的，它并不存在起点、终点抑或我们希冀引导而来的解决方案。即便是法律变革，它也不单单是一个边界清晰的协商过程———起于提议.终于新法——它还包括后续的评估机制以及其他干预手段(Brogger，2018)。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

64

在这里，我还想把关键时刻与冲突时刻整合到一起。前者发生在简单性协调活动转化为“反思性治理”(Hoffman et al..2017)之时；后者在休斯看来存在于技术系统发展当中，此时、“反向凸角”被认定为系统的关键问题，并且不同系统之间出现了辩证性紧张关系(Hughes，1983，1987)。正如米尔所描述的那样，它们也构成了一种伦理情境，此间，鉴于社会层面的颠覆性技术(如计算机)所造成的“概念混乱”与政策框架的不确定性，协商解决问题的主体更加关注概念活动以及对于事物性质与价值的阐述(Moor，1985：266)。换言之，这些时刻就是不同关系中出现伦理反思之时，即罗蒂(Rorty)所描述的“争议出现”之际(Rorty，1999：73)。这些就是我所提出的数据伦理治理学本质，同样也是权力的数据伦理学当中的治理工具。此时就是常态世界观、规范、数据实践和文化之间发生冲突的时刻、这些冲突迫使我们对于自身假设的社会结构进行特定性反思：相应地，也就出现了针对替代性数据政策与实践的伦理反思(Moor，1985)。换句话说.当数据工程j设计实践所使用的既定规范与价值遭遇挑战之际。“非传统的”数据伦理间题被揭示出来之时，全新的政策、策略解决方案就会应运而生。这些关键文化时刻(我将在第4章中予以详细阐述)均以基于价值治理的形式显现出来，其特点就是包含了BISTIs与AISTIs数据当中的利益主体。这也是雷尼(Rainey)与古戎((oujon)(2011)所描述的“伦理治理”方式——一种带有反思性的而非自上而下的方法，其中特别号虑到了伦理反思的条件：

我们所需的是这样的一种方法：首先、它可以提供评估标准：其次，它以一种更有趣的方式来厘定各种条件，不仅包括伦理反思的条件、而且还包括能够确定伦理问题、伦理规范的构建条件及其具体采用与实施的种种条件。(Rainey and Goujon,2011:54)

第2章社会技术变革与数据伦理治理

65