权力的数据伦理学大数据与人工智能时代的人本方法新解

价值与(数据)利益

价值观是“人们关于好’的理想品质或状态的认知”(Brey，2010：46)。在不同的文化观与世界观之间的权力博弈当中，价值观得以充分彰显。不同的主体持有的利益不同，分别代表针对物质(诸如各类资源)而展开社会权力博弈。权力的数据伦理学特别关注嵌入在数据设计和治理当中的数据的利益即“数据利益”，Hasselbalch，2021]。实际上，价值观和利益构成了社会技术变革的核心。

道德能动者/能动性与伦理能动者/能动性

道德能动性概念常常与伦理能动性概念换用，但我想对此予以区分，以便强调二者所指能力的差异。在我看来，道德能动者是指只能根据道德规定和决定行动的实体。例如，“智能”的非人类能动者(人工智能能动者)是道德能动者，但其并非伦理主体。这也是为什么我认为数据伦理只能归因于人类责任。

人类行动者/能动者与非人类行动者/能动者

对于人类行动者/能动者和非人类行动者/能动者，我特意做了区分。然而，我进行这种非常粗糙的二元区分的目的并非基于技术决定论或文化决定论。相反，它只是一种表意技巧，旨在揭示AISTIs道德能动性的局限性，同时还有与之相关的人类伦理能动性和权力对于改变并治理社会技术发展的重要性。因此，尽管我对二者有所区分，但也承认技术制品是人类能动性、意向性及其在人类环境中趋同性的延伸。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

16

伦理/数据伦理治理

“伦理治理”(Rainey&Goujon,2011;Winfield&Jirotka,2018)是一个具有多元性、反思性、开放性(Harvey et al.,2017；Hoffma etal.,2017)与灵活性的过程，旨在确保“最高标准的行为”(Winfield&Jirotka.2018)。它超越了一般意义上的治理优越性与有效性。在我看来，作为一种伦理治理形式。“数据伦理治理”通过创建以人为本的数据文化基础设施实践，专门解决大数据社会的复杂性问题。

导论

17

大数据社会技术基础设施

变以求存

约翰·马希(John Mashey，1999)

在1967至2018年间，莫兰迪大桥是连接意大利热那亚市东西两部的主要干道之一。该桥的混凝土结构可谓享誉全球的意大利工程与技术能力的典范。事实上，2018年时意大利在全球范围内也是首屈一指的水泥生产大国，那时全球数以千座的混凝土高架桥、隧道以及桥梁都是意大利杰出设计师的手笔。作为城市关键基础设施的组成部分，莫兰迪大桥默默地服务着当地百姓的日常活动，每天都有数以千计的行人往返于莫兰迪大桥之上，但却对这座大桥及其建造本身“日用而不自知”。然而，2018年8月14日，这座熙熙攘攘的桥梁发生了坍塌事故，导致43人死亡，600人无家可归。莫兰迪大桥一下子成了各方关注的焦点。无数的媒体报道与调查铺天盖地而来，不仅揭示了该桥的工程历史，甚至将这一基础设施的崩塌等同于“国家神话”的破灭(Mattioli，2019)。

我们可以把大数据社会技术基础设施(BDSTIs)看作是莫兰迪大桥，或者看作其他常见的“融人自然背景”中的道路或者建筑(Edwards,2002,185)。日复一日，我们在上面穿行不停，与过桥巡路别无两样。它们默默地为日常生活提供便利，让我们的日子过得井井有条。它们构成了我们生活的微观空间结构，并且被嵌入宏观社会结构当中。然而，如同莫兰迪大桥一样，这些BDSTls并非仪是物质外壳与数字电缆的拼合体；在危急时刻，在基础设施崩溃之时，其政治意义和文化意义就会变得显露出来(Star and Bowker，2006;Bowker et al, 2010; Harvey et al., 2017).

在本章中，我们将研究大数据社会的基础设施—与研究基础设施的目的一脉相承——具体有二：第一，了解并揭示人类环境；第二.驾驭人类环境(Harvey et al.，2017：2)，这也址更为重要的--点。本章的主要目标在于理解社会技术基础设施的特殊权力机制，这也是权力的数据伦理学所关注的议题。本书当中，我将其称为BDSTIs或AISTIs，并深入探讨其作为信息社会权力机制组成部分的演变轨迹，特别要谈及的是欧洲大数据基础设施的概念。本章的最后部分将探讨一些伦理问题，尤其涉及大数据社会所特有的权力数据伦理学——这是我使用的专门术语·用来描述BDSTIs和AISTls占据主导地位的社会的具体特征。我们还将探讨数据权力的不对称性体验·并且审视权力的数据伦理的话语权问题——谁有权提出问题、定义问题、或是提出我们所面临问题的解决方案？

20

大数据社会

什么是大数据社会？在社会技术先进的大数据技术与系统之外，我们何以想象大数据在这一社会当中的具体功用？它应该扮演哪些社会、经济与文化角色？如果我们认为大数据社会是一个有机的社会结构—一个具有同样的特殊性、关键性、伦理性问题的特定权力复合体——我们还需要了解它的社会经济基础，尤其是意识形态基础。互联网治理研究领域的专家维克托·迈尔·舍恩伯格(Viktor Mayer-Schonberger)教授与记者肯尼思·库基尔(KennethCukier)将大数据社会描述为一场社会革命·它改变了人类的工作、社会关系和经济境遇。这是一种由计算机技术引发的转型，它把所有事物(和人)转化为数据格式（即“数据化”，Mayer-SchonbergerandCukier.2013：15).以此“量化世界”，从而帮助企业、政府和科学家搜集数据并H予以分析解读(间上、第79页)。

在BISTIs经历这种升级演化的背景下，可以将大数据假定为一种支持尤限获取的资源。它与社会中的其他资源(例如石油和水)迥然不同，并不会因为使用而减少(同上，第101页)。实质上，我们还可以认为。大数据最根本的特点在于它是一个运动，其背后的系统为想象和理解数字数据在社会中的功用提供了空间(Mai，2019：111)。

第1章大数据社会技术基础设施

21

其中，大数据收集被看作是目标本身，相应的数据支持起在未来的无限获取(Mayer-Schönberger and Cukier，2013:100)。

人们对于大数据的风险与潜力的思考可以回溯到20世纪90年代末，当时大数据作为一个术语出现在计算机科学与商业领域，主要用于描述计算机技术与互联网的发展所带来的数字数据存储、交换与分析方面的一系列新兴技术变革。大数据这一术语最初是由硅图公司(一个位于美国的大型计算机图形公司)的首席科学家约翰·马希在一系列产品推介演讲中首次使用，用来描述大数据的巨大潜力，但也勾勒出了发掘这些未来潜力所面临的诸多商业与技术困境(Lohr，2013)。例如，他在1999年预测了大数据将如何撼动人类与物质实体的信息技术基础设施。具体来说，在其1999年以“大数据与下一轮基础设施压力”为题的PPT演讲当中·他提出要强化计算机数据存储与处理能力，以及建设支持数据释放的扩展互连的高性能网络，以此来呼吁企业“变以求存！”(Mashey，1999：45)。

在大数据运动当中，其局限与风险主要停留在“技术”层面上：数据存储、处理与分析能力均颇为有限。最顶尖的公司和机构往往是那些拥有“大数据思维”的企业，它们参与大数据基础设施实践、大数据收集以及创建支持协同操作的大数据集(Mayer-SchonbergerandCukier，2013；129)。此时，要想获得成功.就需要具备能够超越数据藩篱与边界的能力。其中，空间中存在的数据与潜在的数据被视为需要解决的主要问题。首先，问题与解决方案均属于技术性层面——例如，我们如何完成数据收集与存储？我们如何确保拥有可用工具来理解所有的数据？然后，上述问题才能上升到法律维度——例如，是否有办法在遵守数据保护法的同时，尽可能多地收集并处理数据？最后，这些问题又具有了“人本”属性——我们如何获取隐私等个人权利范围之外的数据信息，如何跨越身体、思想以及人类尚且无法解释领域的限制？为了获取数据而不得不僭越的限制边界日益触碰到“人本主义”的底线，这样一来大数据运动也就演化成了一个带有“人本主义”色彩的挑战。

\*

权力的数据伦理学：大数据与人工智能时代的人本方法新解

22

作为一种人造空间，BDSTIs的具体设计受到人类想象力的左右，同时也离不开各种既定利益的博弈、妥协与支配。其背后的驱动力体现在：商界与各类机构对于大数据的无限资源潜力的幻想，还有对于不具备收集、存储与处理大数据能力的公司与基础设施所面临的商业与技术风险的隐忧。因此。作为一种由实践塑造的空间、BDSTIs旨在最大化地利用大数据潜能的同时，把实践过程中所面临的诸多挑战控制到最小。

空间的想象与政治

回想一下过去的“未加工”空间。数百年前，从北美西部的洛基山脉开始，有一片广阔的处女地·横跨东部的伊利诺伊州和印第安纳州，从北部的加拿大一直延伸到南部的得克萨斯州。这片土地最初被法国定居者命名为“草原”。19世纪中叶，美国诗人艾米莉·狄金森(EmilyDickinson)向朋友口述了一首小诗：“要造就一片草原，只需一株苜蓿一只蜂。一株苜蓿，一只蜂，再加一个梦。要是蜜蜂少，光靠梦也行。”(Franklin，R.W..1998)她似乎在说，即便是未被人类触及的空间，也可以被人类的想象力捕捉并赋予意义。在21世纪，再也找不到任何未被触及的地方、开放的简约空间寥若晨星，取而代之的是人造建筑物一-物质数字成为主角。我们很少坐在开阔的草原上:思考问题。我们穿梭在各类建筑之中，游玩于公园和游乐场之里，徜徉在人工种植的树木和灌木从之间---当然还包括数字虚拟网络空间。所有这些都被赋予了人类的利益、意向与想象。然而、想象力不会在地平线的尽头停止·仍有空间留待探索。正如谷歌地球引擎j谷歌地球推广部主任丽贝卡·莫尔(RebeccaMoore)——在2015年的豪占所示：“试想一下我们的下一代产品，它就像是为地球量身定做的活生生的仪表盘”(Eadicicco、2016-4-15)。

1974年、克思主义哲学家和社会学家亨利·列斐伏尔(Henri

第1章大数据社会技术基础设施

23

Lefebvre)将空间定义为一种既可以通过身体，也可以通过社会现实和思想来触摸感受的建筑，我们可能成为其解放的对象，也可能沦为其治辖的奴隶。他认为，空间也是一种由外在物理实体与社会实践构成的复合体。如果没有“其中蕴藏的能量”，该空间也就不复存在(Lefebvre，1974，1992：13)。他将这种蕴含在空间当中的社会能量分为三类：“感知类、设想类与实践类”(Lefebvre，1974/1992：39)。换句话说，我们通过身体感官来感知物理空间，并把空间作为身体的居所：空间也可以由城市规划师、工程师和科学家等专业人士“构想”而生；空间还可以通过将构想转化为对现实的“改变和适应”予以实现(Lefebvre，1974，1992：31)。借此，他指出了空间意义建构与解构过程当中的挣扎，并且勾勒出了权力机制与政治的交融图景一两者一起把空间塑造成为一种嵌入特定利益且兼具现实性与虚拟性的资源。一般而言，空间具有开放性，可以允许不同的利益“充斥”其中。显然，我们的“全球空间”最初也只是一个“有待填补的空洞，就像一个尚待开发的介质一样”(Lefebvre，1974，1992：125)。

空间不仅仅表现为可见可感的实体，还包括了开放性区间与我们在此投入的想象力及其在人造基础设施中的具化实现形式。本质上，这些基础设施是日常生活中的导航工具与建筑结构实体。它们实实在在地指引我们朝着特定的方向行进，同时也限制了我们的人身自由。比如，我们无法做到穿墙而过，也不能在没有护照的情况下越境他访。同样，空间的社会维度或文化维度可以给我们创造机遇。也可以让我们举步维艰。比如，我不可能仪凭一本护照就能跨越所有的限制，即使我用护照成功地通过了第一道人类边防人员的检查。但当我的面部识别结果显示自己与参与公共示威人群中的某张脸高度关联之时，我可能会在下一个电子边境检查口遭遇阻拦盘查。

基础设施的设计本身就是一个积极的过程。我们并非仅把基础设施作为一个空旷空间的简单填充处理。相反，正如信息科学技术研究学者杰弗里·鲍克(Geoffrey C. Bowker)和苏珊·利·斯塔尔(Susan Leigh Star)所言——“我们操控着基础设施”(Star，1999;Bowker and Star,2000; Star and Bowker,2006)。对于基础设施的设计、维修，乃至干预控制等实践均意味着我们积极地参与到社会权力机制当中。空间基础设施正是人类争议与协商的结果——有时它们甚至可以揭示一个民族或社会群体对于他者的无情压迫。例如，北美大草原基础设施转型的背后就隐藏着最初在这些平原上生活、狩猎的那些印第安人土著的悲惨遭遇。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

24

作为社会协商与权力博弈的场域·基础设施在涉及空间的社会占用之时往往被赋予不同的设想与期望(Larkin，2013)。这也就意味着，既定空间中基础设施开发往往会导致社会冲突接踵而至(Reeves,2017)。兰登·温纳(LangdonWinner,1980)以连接长岛与纽约其他地区的低垂式立交桥为例进行了论述.可谓十分经典。这些立交桥被专门设计用于防止主要是黑人乘坐的公共汽车从此通行。这样一来，也就只有那些拥有私家车的中上阶层白人才能进入长岛。这样一来·基础设施的特定设计就把其中一些社会群体挡在长岛休闲区之外，让其求入无门。

我们可以将基础设施视为社会权力的“叙事结构”。因此，正如苏珊·利·斯塔尔所言·对于基础设施的研究应当始终寻求澄清这些类型的社会叙事(Star，1999：377)。此外、通过将基础设施的隐形因素(即“基础”)置于前端也具有一定的社会功能(Star、1999；Bowker and Star.2000:Bowker et al.,2010). 这可以使得变革成为可能，同时确保潜在的社会后果可管可控(Bowker et al.2010：98)。实际上，只要相安无事，这些权力叙事往往悄无人知。然而，对于莫兰迪大桥垮塌这样的突发事件，则有必要对其内部运作机制进行更为详细的阐述(Star、1999)。

为了探索BDST1s的基础设施叙事，我们可以观察一下它们在既定社会当中的整合状态遭遇破坏及其数据权力机制得以揭露的危急时刻。在21世纪之初、BDSTls与组织系统实践有机地融为一体(Ratner and Gad. 2019)。它们已然发展成为支撑全球经济与社会流动的社会技术基础设施，不受文化以及法律意义上的地界辖区阻碍。BDST1s表征并构成了全球社会环境的一部分，成为社会实践、人际交往、身份建构、经济贸易、文化政治活动的默认背景场域。然而，2013年斯诺登(Edward Snowden)泄密事件以及新闻界后续针对美国国家安全局(NSA)的全球大规模监视系统进行的不懈调查①将关于BDSTls的叙事推向了公共研讨的视野，使其所有的复杂性浮出水面。由此、一种兼具实体性与虚拟性的全球基础设施——被外国情报机构用来大规模收集欧洲公民的个人数据才为世人所知。美国情报官员泄露的有关PRISM计划的PPT刊登在《卫报》(TheGuardian)(2013)之上，揭示了大规模监控情报系统与全球最大的大数据公司社交网络服务狼狈为奸窃取公民数据的行径。他们还提供了一份详细的地图，说明世界各地(包括欧洲、美国和加拿大、拉丁美洲和加勒比海、亚太地区、非洲)的数据和信息流是如何通过美国的运行中心与节点被无故截取的。依据刊登出来的PRISM计划显示，电话、电子邮件和聊天记录不会通过最直接的物理路径得以获取，而是经由美国提供的低成本路线完成收集。数据不仅可以通过光纤电缆与基础设施完成收集，同时也可以直接在为世界用户提供服务的美国公司的服务器上得以截取。

第1章大数据社会技术基础设施

25