权力的数据伦理学大数据与人工智能时代的人本方法新解

不能为自己发声不仅会引发一种无能感.而且还常常引发对权力和数据滥用的强化的恐惧感、因为从弱势立场发声代价巨大。美国黑人罗伯特·威廉斯(RobertWilliams)因面部识别系统的错误匹配而被警方逮捕、他在一篇专栏文章中写道：

与其他任何人一样，我对发生在我身上的这件事自然非常气愤。正如其他任何黑人一样，我必须考虑到如果自己问太多问题或公开表达我的愤怒情绪会引发什么后果——即使我知道我没有做错任何事。(作者加以强调)(Williams，2020-6-24)

这一点在政治当中也非常明显。成为一位极具知名度的女性政治家就意味着很可能会频繁成为网络空间“不文明讯息”的靶子(Rheault et al., 2019).

因此，权力的数据伦理学不仅可以发声，还可以是一种如金的沉默——只有在我们努力寻找并将其包含在协商空间中时才会有所间响。如果我们认真倾听，我们就会发现那些满怀个人体验的声音提供了极具价值且细致入微的解决方案与出路。在经历了三年网络暴力之后，埃玛·霍尔滕决定重新正视她的身体，并创造她！中所说的“关于我身体的新故事”。通过在网上分享一组全新的照片、她为自己的课照发出了自己的声音———掌握自我身体的主体性(Bodker.2014-9-1)。当时，在线隐私的风险在欧洲互联网治理的多轮探讨中主要被抽象地认定为对市场与民主的威胁，并且其解决方案在探讨之时往往伴随唇枪舌剑，其至有时以质疑大多数技术设计与法律要求的形式而显得咄咄逼人。作为一种与众不同的声音，埃玛·霍尔滕基于自身作为女性在网络上所遭遇的数据侵犯与歧视经历参与了这场讨论，并且留下了深刻的印记。这里。我想说的是，当社会与个人体验被表达出来之时，我们能够看到不同个体之间的细微差异，我们会重述自己的问题，并尝试找到全新的解决方案。例如.在探讨在线社会技术基础设施背景下隐私受到挑战的方式之时，技术就显得至关重要。须考虑“堆栈问题”、“应用要求”、“去中央式”技术基础设施、“不对称升级”以及“隐私生物识别”，以解决民主与市场当中宏观权力失衡的问题。然而，“技术讨论”往往似乎对于数据的文化体验并不感兴趣，因此忽视了实现变革所需的复杂社会技术过程中的细微差别。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

46

为了应对密集数据收集与处理的暴力性和压迫性影响(包括剥夺机会、歧视与文化歪曲)，所需的变革常常来自个人与周围人的亲身体验。他们的声音往往不是最响亮的，这个声音深知数据滥用的体验，但未必理解数据的技术细节(包括数据设计与数据分析技术).因为这些技术在设计当中没有自己的发言权。为了重新获得权力，这个声音重新参与到讨论当中，并用自己的话语体系解读数据行为。他们的表达方式往往与西方世界存在差异，或者带有严重口音，但却同时拥有来自世界多个地区的丰富体验。重要的是，这个声音不会没头没脑地接受大数据与人工智能系统复杂问题及其影响的技术性解决方案·这是因为数据滥用并不是一个技术问题，而是一种关乎社会维度、文化维度与历史维度的体验-—尤其是个人层面体验—的综合性问题。

在下-章中，我将探讨“数据伦理治理”。这一概念的核心是建立在一个关键性价值协商空间之上，其特点是在治理过程中纳入多个主体。其要点在于清楚认识数据伦理治理的基础是不同利益相关方之间的权利条件。因此，将利益相关方纳入进来并非易事。例如、我曾经在互联网治理的公共政策讨论中长期致力于年轻人的融入与赋权问题，在这过程中，我认识到仅在政策专题讨论中加入年轻人很难引起太大的变化。另一方面、在我们为年轻人举办的研讨会与焦点小组调查当中，他们可以与同龄人畅所欲言。我们也从中为自己所参与的4联网治理政策进程收集到宝贵的意见（例如、见

第1章大数据社会技术基础设施

47

Hasselbalch and Jorgensen. 2015)。我们在协商治理空间中所创造的诸多条件对于有意义地参与和展示包容具有核心意义。我们要欢迎并接受具有不同经验的个体以非传统的方式提出各自的想法，这些想法可能在传统治理背景下难以理解，而且可能不为传统习惯所欢迎。但是，他们自身的真实故事对于我们提出问题以及寻找相应的解决方案都是一种挑战。我们必须接受一点——不同的观点与论述对于治理有益无害，因为这将有助于重塑问题陈述的条件。在社会治理技术变革的过程中，参与其中的方法可谓成百上千，同时也应该确保多元意见能够被听取并采纳。很多时候，这不仅仅是简单地组成代表团体或提出相关倡议的问题，它还涉及赋予公共社会团体以及少数群体获取资源的权利，进而拥有与塑造AISTIs和BDSTIs制度政治的强大利益团体展开角力的能力。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

48

社会技术变革与数据伦理治理

争议出现之日就是道德与法律应运而生之时。当我们不能像往常一样自然而然地度日行事之时，当我们照旧处理日常事务不再得心应手之时，抑或当我们必须移风易俗之时，我们就发明了上述两个概念。

——理查德·罗蒂(Richard Rorty，1999)

哲学家理查德·罗蒂(1999)将道德描述为对于关系扰动或者变化所做出的一种回应。当我们的习惯遭遇挑战之时，并且当我们质疑自身曾经耳熟能详之物的社会建构之时，“我们才会强制自己去探讨其他概念的效用”(Rorty，1999：86)。换言之、伦理反思并非来自超验性理想·它在与其他被动转化与并举之物的关系之中才能得以彰显。

在本章中，我们将探讨数据伦理学在社会技术变革与治理当中的作用。在我们的日常生活中，我们对于社会技术基础设施司空见惯·也因此认为其存在理所当然。它们并不具备明显的道德与伦理妥协空间。然而，一旦它发生崩溃、失灵或与其他法律道德系统发生冲突、其中隐匿的道德妥协就会显露出来。正如我们在前一章当中所看到的那样，当一个系统的叙事变得清晰可见之时，也就意味着相关博弈时刻的到来——它将引导新式系统的发展以及旧式系统的转化。从时间的宏观尺度出发、我们可以识别出发展型社会技术系统中容易引起社会技术变革的“伦理治理”时刻。正如我在本章中所论述的那样：这些时刻存在于社会危机与社会整合之际（Hughes.1983；Moor，1985)。这些博弈时刻至关重要，因为它们是社会博弈的有机组成部分，并且构成了社会技术系统发展所需的文化妥协或“技术动量”(Hughes，1983.1987)。它们对于创新与发展阶段而言，同样意义重大，因为它们改造了旨在解决自身关键问题的社会技术系统。

在21世纪10年代，BDSTls和AISTls在公共机关与私营部门当中得以迅速研发并被采用，其社会与伦理影响以同样的速度变得人尽皆知。因此，这些社会技术系统的设计在政策制定与公共研讨当中遭遇了愈来愈多的质疑，同时还出现了全新的技术设计与商业模式，并且人们提出了相应法律要求与社会期许。这一过程还涉及要为信息计算科学家在BDSTIs与AISTIs上的工作制定一个全新的参照模式，其中包括一个由标准与法律组成的新式制度化框架—能够直接解决数据工作所带来的伦理与社会影响。当下，我们正处于一个“中间时刻”·此时，BDSTIs与AISTIs现有技术文化中的关键社会技术问题变得十分灼目·利益与价值在“数据伦理的博弈空间”中被不断评估和权衡。因此，特别是在欧洲。“伦理学”与“可信”技术的概念已然在政治、创新与新系统的发展当中有所整合。

50

社会技术变革

技术系统如何发生变革？什么构成了社会技术转型？社会技术变革不仅是系统的任意演化。其中还包括各种接受人类塑造、指导与治理的组成部件。在本书当中，我们想更多地了解人类伦理将如何影响社会技术发展的轨迹与走向。但是，为了实现这一变革、我们需要一个概念化基础，以便理解组成社会技术变革的诸多复杂要素。

首先，技术可以被看作是一种社会实践的表达方式，它诞生于技术、物质、社会、经济、政治与文化融合环境中人类与非人主体(抑或因素)之间的动态互动当中(Hughes，1983，1987；Bijker etal..1987; Misa, 1988, 1992, 2009;Bijker and Law, 1992; Edwards,2002; Harvey et al, 2017).

例如，互联网构成了一种应用型科学与知识，这些科学与知识写于模型、手册与标准当中、并由1程师与编码人员亲自实践。与此同时，互联网也是在多元文化背景之下使用的结果，体现了社会期许、法律要求、政治规划、经济议程以及文化取向与世界观。换之，技术或科学过程并非客观仔在、亦非自然事实抑或自然状态的表征。相反，这些过程与事实受制于自身在历史、文化与社会背景中的定位·而且也可能因此而遭遇种种挑战。

第2章社会技术变革与数据伦理治理

51

科学知识与实践的范式转变

理解变革的方式之一就是审视技术设计与开发中所投入的基础知识、科学与工程实践所涉及的范式转型。托马斯·库恩(ThomasKuhn、1970)的成名之作就是研究了形成科学范式转变的诸多历史因素，也就是他口中所说的“科学革命”，彻底打破了以往被尊为“正统科学”的传统惯例(Kuhn，1970：6)。在库恩看来，某个科学领域之所以发生重大变革，不仅仅是一个理论证伪另一个理论的问题·也并非因为取得了重大的科学进展。科学范式的转变还涉及看待世界的方式差异以及相应的科学实践区别(Kuhn，1970：16)。因此、科学革命涉及科学实践当中基础性知识范式的转变。库恩从知识的特定概念性、观察性和工具性应用的视角对特定科学社区中的科学实践进行了描述(Kuhn，1970：43)。换句话说，科学范式代表了在特定的科学社区中根据特定的社会文化世界观、优先级设定进行科学研究的方式。这就意味着，当某个领域出现“科学革命”之时，变革不仪发生在科学层面，根本性变革还发生在特定科学社区所认定的高价值问题、该领域的“科学构想”以及科学应用的教育与工具性环境当中等。因此，科学范式的转变意义重大，可谓极具革命性，因为它们颠覆了常识。不仅创造了全新的理论，而且还提出了崭新的实践范式、标准与方法、工具与目标(Kuhn，1970：6)。科学范式的转变可谓“惊天动地”，它通过改变我们既定认知范畴当中的问题、目的、形式与方向等根基来逆转常态认知。就像爱因斯坦描述他所发起的物理科学革命的早期时所育：“仿佛大地突然塌陷，放眼望去，看不到任何的坚实基础，也没有任何的立足之地”(引自Kuhn，1970：83)。这些纷繁复杂的变化不仅涵盖了如何实践与构思某个科学领域的新常态，而且也包括了这种新常态在社会当中的治理方式，因此需要探究全新的科学实践方式、方法与标准。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

52

变革的复杂性

当我们去探讨诸多制度化标准·研究构建技术系统的个体在基本世界观与知识框架维度上如何发生转变，并且关注技术实践如何经历变化之时·从科学范式转变的视角思考技术变革就会大有裨益。然而，如果我们的分析仅仅锚定于作为应用科学表现形式的技术组件的变革的话，那就相距甚远。当类似于BDSTIs与AISTls这样的大型社会技术基础设施在社会当中经历变革与发展之时·各种复杂的社会、政治、经济、文化与技术因素同样会介入其中。理解技术变革就意味着从博弈(及其代表的妥协)视角出发.识别出其中所隐藏的这些复杂性成分。正如科学技术学者维贝·伯杰克(WiebeE.Bijker)与约翰·劳(JohnLaw)曾经说过的那样：

技术总是具有妥协性。每当设计或建造一个人工制品之时，包括政治、经济、材料强度理论、有关美丑贵贱的认知、专业偏好、偏见、技能、设计工具、可用原材料、关于自然环境行为的理论在内的因素都会融入其中，各自发挥相关作用。(Bijker andlaw. 1992:3)

了解构成社会技术系统形态的各种因素也会使得人类能够引导它的升级改造。其中的一种方式就是探索社会技术变革中嵌入的不同利益以及它们之间的冲突与博弈。这也就暗示着需要对争议与冲突时刻进行深入探究。此时此刻，技术系统的核心问题得以确认；问题的解决方案、系统成败得以协商：社会技术系统发展的优先事项与日标得以设定(Hughes，1983；Hughes，1987；Misa，1992)。这些争议时刻过后、社会技术系统稳定下来、进而得到普遍认可，并在社会当中得以固化。可以说，它再次进入一种全新的稳定状态。正是这种对于技术变革条件的关注才使得技术发展与社会应用轨迹可以为人所控。正如弗朗西斯科·拉彭塔(Francesco Lapenta)所言，未来“并非任意而为，而是一系列复杂决策与主体互动的产物，它们有可能形成许多不同的未来情境——有些概率很小，有些概率则很大，还有一些则是可望而不可及”(Lapenta，2017：154)。换言之，当下我们一旦涉及技术发展博弈、就会冲突不断(例如，我们在21世纪10年代有关BDSTIs与AISTls的公开研讨当中所见），必须将这一点视为关乎未来抉择的重要反思。我认为，对于我们所做出的关于不同价值与利益之间的伦理妥协与权衡的反思应该是这些争议时刻的核心内容。

第2章社会技术变革与数据伦理治理

53

社会技术变革的四个阶段

社会技术系统的转型可以通过不同构件的历时演变模式来研究。从宏观维度出发把控发展，可以允许我们在开放时刻进行批判性干预——塑造社会技术系统的发展方向。

关于大型社会技术系统变化的一个关键理论就是托马斯·休斯(Thomas P.Hughes)针对1880 年至1930年间金球电力系统发展与扩张阶段的分析。通过描述这一发展过程中不同阶段所涉及的经济、政治、社会和科学等复杂因素，他从普遍意义上说明了技术系统如何以各种模式与嵌人环境中的各种利益进行动态博弈。

休斯认为，尽管大型社会技术系统所建之处不同，所建之时各异，所处阶段不一，但是其升级与扩展均遵循间一模式，即均历经以其主导活动为特征的儿个阶段：发明、研发与创新阶段，转移阶段，成长阶段以及最后的竞争与整合阶段(Hughes，1983，1987)。

发明、研发与创新阶段：第一阶段的特点是发明家与企业家一起构成了系统发明以及初期研发的关键推动力。

转移阶段：在第二阶段·重点转移到将技术从一个地区与社会转移到另一个地区与社会的过程。这个阶段所涉及的主导变革者、除了企业家与发明家之外、还包括企业的金融家与组织者等关键主体。

\*

权力的数据伦理学：大数据与人工智能时代的人本方法新解

54

成长阶段：在第三阶段，一系列主体(包括企业家、发明家、工程师等)致力于纠偏并同时寻找解决“反向突角”的出路，这些问题一般均被认定为阻碍系统成长的关键问题。

量、竞争和整合阶段：一个大型社会技术系统需要一种“质量高、速度快、方向准”的发展动量。这种动量是在社会整合阶段由嵌于系统中的不同利益创造而生。(Hughes，1983：14-15)

值得一提的是·在描述21世纪10年代后期BDSTIs与AISTIs蓬勃发展之时，大型技术系统的第三阶段与第四阶段最有意义。首先·休斯提到了“系统之争”——新旧系统同时并存，二者处于一种“辩证性紧张”的关系之中(Hughes，1983：79)。他将第三阶段描述为一个冲突与出路并存的时刻，这些元素不仅存在于工程师之间、同样也涉及政治与法律范畴(Hughes、1983：107)。此时此刻.关键问题就会浮出水面，不同的利益博弈协商、最终找到共同解决方案，从而引导系统实现升级。

在整合阶段之前的成长阶段、“反向凸角”被看作关键问题。具体来说。“反向凸角”是指在一个不断扩展的系统当“不能与其他部分协调共进的组件”，当系统朝着一个日标进化之时、一些组件可能会脱落。(Hughes。1983：79)。因此在这个阶段，人们也关注问题的识别，并由不同的主体提出并协商解决方案。新系统的出现或旧系统的转型。正是从这一阶段发现并解决的问题当中演变而来。“反向凸角”可能是技术问题。也可能是财务问题抑或组织问题。一日确定、一群“问题解决者”(从发明家、工程师和管理人员到金融家和法律专家)就会接手并为其打造解决方案(Hughes，1987：74)。“反向凸角”可能来自技术系统内部抑或其直接环境，但问题的关键在于其受到时空限制(Hughes，1983：80)。换言之，系统的关键问题不只是要在技术层面得以解决，例如在技术标准与系统要求上达成一致，而且还牵涉政治与历史因索。与j库恩相比，休斯并未将冲突解决阶段描述为必然的变革阶段。变革的形式并非是简单地由不兼容的备选范式取代第一范式。系统变革常常以“融合”的方式进行，以新旧系统之间的“耦合与合并”的形式完成，这些系统在数十年内逐步发展·涵盖技术层面与制度层面·逐渐把相关利益从一个系统转移到另一系统(Hughes。1983:121)。只有在“反向凸角”无法在当下系统之内得以解决的情况下，才需要研发一个全新系统并力求在研发过程中予以解决(Hughes、1987：75)。

第2章社会技术变革与数据伦理治理

55