权力的数据伦理学大数据与人工智能时代的人本方法新解

法律

一系列法律研究对于大数据的法律框架进行了批判性评估，其中涉及社会技术发展·隐私问题(Solove，2006；Cohen，2012)，人类治理，自动数据系统以及人工智能和机器人的法治和人权等多个方面(Pasquale,2015,2020；Hildebrant,2016；Latonero, 2018;Nemitz.2018；Smuha，2020)。其中，许多法律研究都集中在欧洲《通用数据保护条例》的法律框架之上(例如，Wachter etal.，2017;Zarsky，2017：Wachter，2019)。在规范权力分配的法律文书方面。有必要注意到隐私与数据保护在范围和逻辑上的区别·正如保罗·德·哈特(Paul De Hert)与塞尔日·古特维尔斯(Serge Gutwirth,2006)所指出的那样：隐私是一种“不透明工具”，用于阻止或设定权力的“规范限制”；数据保护则是一种“透明工具”，用于引导“合法权利”(De Hert and Gutwirth,2006)。

此外，在法律当中也存在相应的法条强调儿童个人数据(Hofetal，2019)面临的特定挑战，如智能玩具所带来的挑战(Keymolen andHof，2019)。这里，值得一提的还有西尔维·德拉克鲁瓦(SylvieDelacroix)与尼尔·劳伦斯(NeilD.Lawrence)提出的“数据信托”法律框架。他们考虑研发出多种可供个人自由选择的“数据信托”形式，这是对其所说的“一刀切”数据治理方法的一种授权替代，因为这将允许“数据主体选择反映自身愿望的信托方式，并在需要之时切换信托形式”(Delacroix and Lawrence,2019：236)。

米

权力的数据伦理学：大数据与人工智能时代的人本方法新解

76

话语

批判性数据研究已经解构了各个机构、行业与社区的主导数据文化中的文化叙事，这些文化叙事设计并构建了处理、分析大数据的系统(从社交网络服务到人工智能能动者：Bowker and Star，2000;Kitchin and Lauriault, 2014; Albury et al., 2017; Acker andClement，2019)。对于监控的研究调查了我们在讨论隐私、权利与民主(比如，涉及安全或我们为减轻感知风险而采用的技术)之时的赋权或剥权词语(1yon，2014)，而法律研究则调查了法律话语的相应形式(Solove，2001，2002、2008；Cohen，2013)。传播学教授克劳斯·布鲁恩·延森(Klaus BruhnJensen)不仅阐述了我们讨论与集体推理的“共同利益”种种方式，同时也说明了一个社会的“伦理”与“正义”具化为人类实践、行动与社会关系的相应方式(Jensen，2021)。因此，为替代性数据文化的发展提供素材的反叙事举措就显得格外重要。事实上。当特兰贝里与我在2014年开始研究讨论“作为一种全新的竞争优势”的数据伦理学一书之时，就是希望通过探索提出一种替代性的叙事，以取代当时的主流话语——隐私等价值早已过时，且是创新的障碍(Hasselbalch，2013，2014)。当时，多数人并不相信数据伦理学这个术语会吸引业界关注，或是怀疑我们根本不了解什么是创新。然而，到21世纪10年代末。“竞争优势”话语实际上已经推翻了公共研讨!政策抉择当中的其他“大数据话语”。例如，丹麦政府成立的第一个数据伦理学小组的特定目标就是将数据伦理学转化为丹麦的国家竞争优势。此外，在21世纪10年代末期对公共话语产生深刻影响的绍莎娜·祖博夫(ShoshanaZuboff)解构了大数据社会的主流元叙事(2014,2016.2019)。她认为主流元叙事是由强大产业所决定的，并据此提出了替代性“合成宣言”。该宣自“珍视民众并反映民主原则”(Zuboff，2014)。

第2章社会技术变革与数据伦理治理

77

权力的数据伦理学：大数据与人工智能时代的人本方法新解

博弈空间

在我们的日常生活当中，基础设施可谓平平无奇，我们对其存在也是熟视无睹。我们走过的街道，抑或经常通行的桥梁，往往并不存在明显的道德与伦理妥协空间。然而，当它们突然崩坏或出现故障之时、其中所蕴含的政治因素就会变得显而易见。正如苏珊·利·斯塔尔(1999)所说的那样，这种时刻就是基础设施的叙事或政治(Winner。1980)得以凸显的时刻；这也是一个关键时刻，将根据随后的利益博弈来确定基础设施转型的方向，或者换句话说·社会技术变革的方向。

数据伦理治理正是在我所说的“博弈空间”产生各种争议时发生的。我认为，数据伦理治理具有一个特定功能，即在危急时刻——就在社会技术基础设施被整合之前，及时创造有意义的和可协商的空间。

在21世纪之初，BDSTls与AISTIs在我们的公共与私人领域当中迅速整合。与此同时，它们所带来的社会与伦理挑战也变得愈加明朗。我们大多数人都记得剑桥分析公司与斯诺登丑闻事件，以及越来越多的人通过亲身经历，或通过他人经历，了解了个人生活与专断的数据系统的预测和决定之间有时会发生冲突。比如，某个服务机构突然窥探到了你不为人知的隐私：一个人由于面部识别系统的错误匹配而被逮捕入狱；一个学生因为一个算法改变而得了一份糟糕的成绩。由于这些社会技术数据系统带来的伦理与社会影响·它们的“政治属性”与“价值”也愈加在政策制定、公共辩论、替代性技术与商业模式设计以及法律法规与社会要求当中备受质疑。

数据伦理学在治理中的第一个功能可以在“博弈空间”当中找到。它们成形于第4章所说的“关键文化时刻”。此时、争议出现。不同的人类价值、文化与反思均被前景化，并且由于“现状”受到干扰而被重新进行平衡。同样，“数据伦理博弈空间”在决策过程中正式登场(正如我之前所描述的数据伦理公共政策倡议一样)。然而，它们也会在政策制定的微观环境中以非正式的身份出现，其中包括关于价值极其具体属性的讨论。例如。一位欧洲议会成员的政策顾问在描述《通用数据保护条例》谈判中的伦理作用之时说道：

78

当你看到利益冲突之际，那就是你开始审视价值之时…通常，这将是一个关于不同价值的讨论……评估一个价值应该在多大程度上优先于另一个价值……所以有些人可能会说、信息自由可能是一个更重要的价值·或者隐私权可能是一个更有分量的价值。(采访，互联网治理论坛2017，Hasselbalch，2019)

数据伦理的博弈空间也愈来愈多地包含了对于社会总体演变的深刻反思。正如欧洲委员会部长代表委员会的一位国家代表曾经对我所说的那样：“我们需要放慢脚步，思考我们将要走向何方。”(采访，互联网治理论坛2017,Hasselbalch，2019)

第2章社会技术变革与数据伦理治理

79

第3章

大数据人工智能社会技术基础设施

人工智能的可悲之处在于它缺乏技巧，因此也缺乏智能。

——琼·博德里亚(Jean Baudrillard，1983)

人工智能似乎无处不在，又似乎无迹可寻，以至于当我们谈论人工智能之时我们甚至不知道自已所指究竟何物。人工智能是对我们过时的“人类软件”的精密化改进？还是所谓的“不受人类控制的机器战胜人类”的科幻场景？抑或是某一科技公司的商业秘密？诚然。文字描述有时看起来颇为抽象，同时，这些描述也具有一定力量，足以对现实世界产生真实的影响。例如，现实生活当中的法律基于特定语言而得以实施：商业决策的制定以及人们的日常生活也都受到具体语言使用及其构建的“文字世界”影响。显然，我们对于人工智能的言说方式决定了我们眼中的人工智能何形何状：我们能用人工智能来做什么？我们可以向人工智能提什么要求？

奇点运动的创始人雷·库兹韦尔(Ray Kurzweil)认为，人工智能就是人类进化的下一阶段：

生物本身就是一个软件过程。我们的身体由数万亿个细胞组成，每个细胞都受软件过程的支配。然而，你我的身体里运行着一套过时的软件程序，它们从久远以前进化而来。(1unau，2013-10-14)

已故科学家史蒂芬·霍金(StephenHawking)认为人工智能的力量是一种不可控制的自主力量：

完全人工智能的诞生可能意味着人类的终结……人工智能将依靠自身而崛起，并以不断增加的速度重塑自我。人类因为受限于缓慢的进化。所以无法与之竞争，终将被取而代之。(Cellan-Jones,2014-12-2)

恰恰相反，谷歌公司的联合创始人拉里·佩奇(larry Page)则认为人工智能不过是另一种形式的(谷歌)服务：

82

人工智能将是谷歌公司的终极业态。最终，搜索引擎将能了解互联网上的一切、洞悉用户需求。提供相应服务。目前来看，我们与这一愿景还相距甚远。然而，我们将步步逼近，向心而为。这也正是我们现在的工作重心。(Marr，2017)

我们对于人工智能的所思所想塑造着人工智能在人类社会当中所扮演的角色(Hasselbalch.2018)。

21世纪10年代中期，“人工智能”一词在公共话语当中吸粉无数，这一转变在商业与科技公司当中体现得最为淋漓尽致：它们开始将大数据工作重新命名为人工智能(Elish and boyd，2018)。同时、在全球政策制定过程中，人工智能成为各国以及政府间组织政策制定及投资战略议程上的一个崭新项目。由于没有一个统一的定义、人工智能一词首先被用来泛指大数据技术系统的社会演变。突飞猛进的计算机算力与社会上产生的海量数据为机器学习技术的进化提供了广阔的天地：从图像当中识别人脸(图像模式识别抑或“面部识别”)、从音频之中识别语音(语音模式识别抑或“语音识别”)、自动驾驶(在环境中渲染对象并进行风险评估）、利用个人资料信息来向用户精准投放信息服务(“画像”和“个性化”)。这些均是人T智能系统的实际应用案例。事实上：，人「智能系统不仅越来越广泛地被公司与国家部门用来解决--些简单问题以及分析并简化不同的数据集，同时还能实时发挥作用，比如：即时环境感知，支持关键性人类决策过程。

在本章中，我们将进一步探究具备人工智能能力的BDSTIs—我称之为大数据人I智能社会技术基础设施(AISTIs)——的历史由来、特殊属性、伦理影响以及致力于解决这些影响的伦理学范式。本章的核心目标在于缩小进行AISTls中权力考量的数据伦理学范畴。

机器能思考吗？

人类从静物抑或死物当中创造出智能机器或生命的传奇是一种贯

第3章大数据人工智能社会技术基础设施

83

权力的数据伦理学：大数据与人工智能时代的人本方法新解

穿于人类历史的叙事方式：无论是希腊神话当中丢卡利翁(Deucalion)与妻子皮拉(Pyrrha)通过把石头扔向身后而创造出美丽的人，还是文学与电影当中对活尸弗兰肯斯坦(FrankenStein)、玩偶匹诺曹(PinoCchio)、大都会仿真机器人玛丽亚(Maria)以及第一辆智能汽车赫比(Herbie)的描述，凡此种种，均属此列。在1968年一部名为《万能金龟车》的影片当中，田纳西·斯坦梅茨(Tennessee Steinmetz)对他的朋友，也就是这辆车的主人说：

有些事情就发生在我们的眼皮底下，我们却浑然不知—我们不断给机器灌输各种信息，直到它比我们更加聪明。就拿一辆车来说吧，多数男人一周内对其爱车在感情、时间与金钱方面的投入远超一年之中其对妻对子的投入。你知道吗？很快，机器将会有自己的思想。

然而，关于智能计算过程的科学概念，最著名的要数数学家与计算机科学家图灵(AlanTuring)的理论，他在1950年开发了一种方法来测试机器是否具备与人无异的智力行为的能力(Turing，2004)。

1956年，“人工智能”这个术语是由数学教授约翰·麦卡锡(JohnMcCarthy)在达特茅斯夏季研究项目研讨会上首次提出，旨在将计算机科学家与数学家在计算过程领域的注意力从单纯的自动化转移到计算机的“智能”之上(Moor，2006)。计算机是否能够不只处理信息，而是真正地思考信息，并像人类一样从中学习呢？

在早期的人工智能研究领域，科学家主要通过辨别人脑、反馈系统、数字计算机之间的关键性差异(以及相似之处)来探索人1：智能(Crevier，1993)。例如，作为人工智能具有与人类思维相似的特性甚至是潜在优势的证据，国际象棋计算机系统被开发出来，它能根据游戏策略创造棋法并执行操作。最著名的例子就是IBM公司研发的深蓝系统，它成功击败俄罗斯国际象棋特级大师加里·卡斯帕罗夫(GarryKasparov)的那场比赛标志着深蓝成为第一个打败人类象棋第3章大数据人工智能社会技术基础设施

84

卫冕冠军的计算机。

然而，在达特茅斯研讨会50年之后、人工智能研究领域不断发展目跨学科化日益明显。当最初参加第一届研讨会的五位科学家与来自各个学科领域从事人工智能研究的其他关键人物再次聚首，共同讨论未来50年的人工智能发展之时，早期人工智能研究者的研究目标发生了天翻地覆的变化(Moor，2006)。现如今，麦卡锡对于创造人类水平的人工智能愈发持怀疑态度，而其他人则想象有一天人工智能能够像人一样具备情绪与情感。科学家和奇点运动的创始人雷·库兹韦尔确信：具有图灵测试能力的人工智能已经近在咫尺。另一方面，社会科学与心理学学者谢里·特克尔(SherryTurkle)对于人工智能的未来潜力并不太感兴趣，而是更加关心其对人类的影响(Moor.2006)。在此，我们认为：特克尔的观点代表了对于人工智能科学研究的双重人文关怀——试图复制人脑过程并创造智能型非人类能动者。首先、人类同机器之间的关系非常深刻地改变了人类社会与人类思想(Turkle。1997)。其次，我们可以补充一点，关于计算机智能开发以及人工智能意识拓展的基础性问题从一开始就与其对人类的意义交织在一起，其中还掺杂着对于人类自身作为环境中心的独特地位的种种忧虑。人类的神经系统是否仅是一套信息处理系统一—看似复杂。实则与机器数据处理流程具有一样的性质？(Wiener。1948/2013；Bynum、2010)如果是这样的话，是否有可能认为人类数据处理能动者(“inforgs”，Floridi.1999)拥有我们信息环境(“infosphere”，同上)当中其他非人类能动者(“inforgs”，同上)所没有的权利？正如史蒂夫·伍尔加(SteveWoolgar)所说：

在试图界定机器特征之时、也就界定非机器的特征之时……在论辩新技术之际，拥护者正在重构并重新定义人与机器，还有它们之间的异同。(Woolgar，1987：324)

历经了儿个社会与科学发展阶段之后、人工智能这个词代表了人类对于创造仿真人工智能或者只是具有非常高级的解决问题能力的计算机的各种愿望。1980年，哲学家约翰·瑟尔(JohnSearle)在他的“中文房间”例子当中阐述了人工智能的根本观点冲突，可谓经典之论。他想象自己被锁在一个房间之内。他要按照计算机程序的指令对门缝里塞进来的汉字做出反应。他不懂中文，但只要按照计算机的程序来处理中文符号，他就能做出反应，并在门下塞回正确的汉字答案，这让房间外的人相信房间里存在一个会讲中文的人。他认为，这个例子说明了图灵测试方法的不足之处——如果计算机被编程为按照交际规则行事，它的确能够提供令人满意的回应，但这并不意味着它具备理解能力。瑟尔本人在离开房间时并不具备对于门外传达给他的东西或他自己反应的理解。因此，他从这个例子中得出结论：强人工智能“在思考层面知之其少，因为它不是基于机器本身，而是基于程序，而任何程序本身都不具备思考能力”(Searle，1980:417)。

85