权力的数据伦理学大数据与人工智能时代的人本方法新解

致 谢|Acknowledgements

本书能够付梓出版·需要感谢许多挚友与社群提供诸多至关重要的帮助。我要感谢那些隐私与人权倡导者、吹哨人与调查记者、开明的政策制定者以及杰出的学者。我要特别衷心地感谢多年来与我开展赋能合作并且交流启智想法的学术挚友：弗朗切斯科·拉彭塔(Francesco Lapenta)①、佩妮莱·特兰贝里(PernilleTranberg)、比吉特·科弗德·奥尔森(Birgitte Kofod (lsen)、里克·弗兰克·约恩森(Rikke Frank Jorgensen)和卡罗莱娜/卡罗琳娜·阿盖尔(CarolinaAguerre)。特别感谢延斯-埃里克·马伊(Jens-Erik Mai)对本书几个章节草稿的认真评阅以及宝贵建议。

感谢克劳斯·布鲁恩·延森(Klaus Bruhn Jensen)、西莫内·范德霍夫(Simonevan derHof)和萨作娅·乌莫加·诺布尔(SafiyaUmojaNoble)对于书稿的深入阅读与反馈，还有哥本哈根大学的“监控、信息伦理隐私”研究小组，具体包括劳拉·劳科维奇(LauraSkouvig)、卡伦·索伊t兰(KarenSoilen)和希莱·奥贝利茨·瑟(Sille(belitz Soe)。我还要感谢电气电子L程师学会(IEEE)道德准则设计倡议背后的人们、正是他们将伦理规范付诸实践：感谢为全球互联网社区治理铺平道路的人权学者倡导者，特别感谢梅里姆·马尔祖基（MeryemMarzouki）和玛丽安娜·富兰克林（MarianneFranklin);感谢全球隐私与创新网络的成员，他们很早就意识到隐私不仅仅是一个障碍那么简单；感谢数据污染与权力组织带给我的灵感，特别是波恩大学可持续人工智能(artificialintelligence，简称AI)实验室的艾梅·范·温斯伯格(Aimee vanWynsberghe);感谢倡议人工智能人本方法的国际推广组织——InTouchAI.eu的詹卢卡·米苏拉卡(GianlucaMisuraca);感谢可信人工智能民间社会运动中的马克·苏尔曼(Mark Surman)和马丁·蒂内(MartinTisne);感谢纳塔莉·什穆哈(Nathalie Smuha)以及欧盟人工智能高级别专家组，他们创造了“可信人工智能”这个术语，并重振了人本方法。对于以下挚友的诸多支持，我永远铭记于心：布里特(Britt)、卡罗琳/莱娜(Carolina)、西涅(Signe)、斯泰恩（Stine)、里克(Rikke)、玛丽(Marie)、玛丽亚(Maria)等，你们都是我的守护神。感激家人们无时不在、无处不在的关爱，他们是弗朗切斯科(Francesco)和克拉拉(Clara)、布(Bo)、阿斯克(Ask)、桑内(Sanne)(和他们的三个孩子)、弗吉尼亚(Virginia)和弗朗切斯科(Francesco)、毛里齐奥(Maurizio)、蒂娜(Tina)和马里奥(Mario)、诺尼娜(nonina)、米诺(Mino)、卢卡(Luca)和露西娅(Lucia)(以及罗马家族全体成员)、皮诺(Pino)和弗兰卡/弗兰萨(Franca)(以及贝加莫家族全体成员)、尼古拉(Nicola)和弗兰卡(Franca)、弗吉尼亚（Virginio)、罗科（Rocco)、温琴佐(Vincenzo)、格里(Gry)和雅库博(Jacub)(以及斯莱滕家族全体成员)、法尔莫尔(farmor)和法尔法尔(farlar)、莫尔莫尔(mormor)和莫尔法尔(morfar)、祖尔(Susie)、莫尔(mor)。

①本书西文人名众多.尽量依据(世界人名翻译大辞典》(2007)翻译，知名人七依照惯用译法。--编者注

1

\*

权力的数据伦理学：大数据与人工智能时代的人本方法新解

2

目录|Contents

导论 /1
权力的数据伦理学/5
数据伦理学治理 /5
人本方法 / 6
第1章 大数据社会技术基础设施/19
大数据社会 /21
监控社会中的伦理/36
第2章社会技术变革与数据伦理治理/49
社会技术变革！51
治理 / 59
第3章 大数据人工智能社会技术基础设施/81
机器能思考吗？/83
人工智能伦理/93
第4章数据利益与数据文化/113
利益技术/116
文化与技术 /143

1

第 5 章 什么是数据伦理？/163

我们为什么需要数据伦理学？/167

权力的数据伦理学如何塑造一个“美好社会”

(开放社会)?/168

第6章 结论/201

参考文献/214

索引/244

作者简介 /246

译后记/248

权力的数据伦理学：大数据与人工智能时代的人本方法新解

2

想象一段以“爱”为表达主题的音乐——这种爱并非只为某个特定的人。再想象另一段以“另一种爱”为表达主题的音乐。此时，就存有两种不同的情感氛围，各自分别耐人寻味。在这两种情况之下，爱的性质将取决于其本质而非对象。然而可以说，很难想象一种鲜活却不指涉任何事物的爱。(Henri Bergson，1932)

为什么我们需要讨论数据伦理学？人类及其相关数据与信息之间的关系往往牵涉社会维度与伦理维度的重重困境，并且数据系统与注册信息一直持续不断地强化着社会中的权力机制，甚至催生其全新演化业态。然而在21世纪之初，随着全新的数字技术和数据更迭的到来，当下的数据系统形态及其伦理影响与权力复合体正在迅速发生演化，这就是为什么本书当中提出我们需要一种形态截然不同的数据伦理学。一个最新的发展态势就是将所有事物均转化为数据，使其成为生活与社会的一种外层维度——其获取可谓不劳吹灰之力、不费一分一文并且可以无缝耦合。就在撰写本书之时，数据已然不再仅仅捕捉政治、经济、文化和生活等方面的诸多内容——数据就是这些方方面面的延伸。数据凭借着自身的多种形式根深蒂固地融入社会之中，并且能够在日趋复杂的数字系统中找到自己的用武之地。这些数字系统被开发出来的初衷就是用于存储并解读大量数据，同时可以根据这些知识采取相应的指令性行动。这些数字数据系统在政治、文化和工业等领域的决策过程当中均发挥着关键性作用，同时也影响着社会个体人生轨迹的跌宕起伏。从这个意义上讲。它们也是不同利益之间进行权力协商的中心参照点。因此，这种权力的全新形态理应成为任何关乎数据系统伦理间题的核心研究对象，同时也应该是数据伦理学的核心议题。

本书旨在通过阐述“权力的数据伦理学”这一“人本方法”，进而锁定大数据和人工智能社会技术环境发展与论辩现状中的共识基础。这一方法着重揭示嵌入大数据和人工智能社会技术基础设施当中的权力关系，旨在清晰地呈现支持“人本”权力分配的相关设计、商业、政策以及社会文化过程。但是，其现实意义何在？试想一个人工智能机器人——它依靠在以白人面孔为主的图片库中筛选来决定人类之“美”的内涵。设想一个在线搜索系统——它通过学习新闻文章来把“保姆”和“接待员”等词汇识别为女性，而将“建筑师”和“金融家”等词汇标记为男性。假想一个人工智能评估模型——它因无法解释教师工作的社会维度抑或人文维度而给一位本来优秀的教师评分较低。回想一下大规模全球情报监控网络或者大规模政治画像运动——它们均借助社交媒体网站的个人数据对数百万人进行隐蔽分析。这些社会技术数据系统与诸多实践在伦理上是说不过去的。它们往往并不具有“公平性”，当然在道德维度来看绝非良善，在某些情况下，甚至可能被认定为某种不法之举。然而，本书当中我所提出的数据伦理学并非法律意义上的评估，也不是关于善恶好坏的道德评判。正如前文所言·权力的数据伦理学旨在揭示嵌入大数据和人工智能社会技术基础设施之中的权力关系。换言之，数据伦理学希望找到一种造物、笃行与治理的综观方式，使之造福于人类社会。诚如法国哲学家亨利·伯格森(HenriBergson)所言：“我所提倡的是博爱。”它兼具本体性与修辞性，具体关指人类同地球、众生与人我、天地共洪荒、无相且无著。唯爱而已，不多不少，不即不离。

2

21世纪之初一个令人鼓舞的转变就是有关数据伦理学的讨论日臻成熟，它已然成为欧洲以及其他地区公共研讨的主要话题、并被提到重要的政策议程上来。值得注意的是，诚如本书所述，特别是在21世纪10年代的最后几年，有关数据与数据创新方面的伦理立场已经悄然成为欧洲在全球地缘政治舞台上具有竞争力的写照。从业界、学界和民间社会团体，再到政府和政府间组织的一系列社会利益相关方·都在提出并尝试解决当前数据基础设施中的各种关键性问题。例如：数据偏见与多元文化表征缺失、消费者被动丧权削利、民主机制备受“黑箱”算法挑战、IT安全与数据保护缺陷、数据管断以及选民操纵、等等。此外、数据锁定直接导致科学研究、公共服务、商业贸易(尤其是人工智能系统技术)发展错失良机。

不论是过去、还是当下，这些问题在某些关键时刻都显而易见。

导论

3

但是，我们又该如何去改变一个已然确定朝着与我们人类价值观相反方向(挑战人类的尊严感、凝聚力、能动性、责任感与民主制)发展的社会技术呢？不同的利益相关方会看到迥然各异的问题，并且提出五花八门的解决方案。此时，彼此之间的利益自然就会发生冲突，因为并非数据现实当中所有问题均趋向一致，其解决方案自然也就大相径庭——这就是产生争议的时刻，也是权力具体化的时刻。据此我提出建议：若想在大数据与人工智能时代实现变革，我们就必须额外关注这一时刻，因为正是在这个争议纷生的时刻——当关键性问题变得显而易见、价值与利益协商走到舞台中央并做出妥协之时——实际的社会技术转型才会露出端倪。

有时这会让人觉得不堪重负——诸多问题、重重挑战以及不得不做出的妥协之间错综复杂，让人望而生畏。然而，正如我在本书中所言，现实情况并未完全跳出我们的手掌心。本书的基本写作观点如下：人类掌控着上述种种妥协，但其前提是我们对于社会技术转型当中所蕴含的各方(包括我们自己在内)权力与利益能够做到洞若观火。当下，我们面临的最大挑战在于我们自己。我从国家、政府间、技术界、工业界和民间社会团体的政策制定者与决策者的诸多“治理”尝试当中发现：当我们试图协调社会技术变革的社会技术行为与主体之时，却始终未能有效地解决其根本的复杂性。我们的视野被自身的问题以及高效的解决方案所蒙蔽，因此我们未能看到社会技术变革的核心问题，也就是影响变革并引导社会技术发展方向的权力机制形态。我们日复一日地重蹈覆辙：不仅低估了嵌入社会技术环境中的权力复杂性，而且小看了多样化伦理与社会维度的影响。同样，我们也没能超越自我的切身利益、专业知识及其应用领域。因此我们影响了自身，甚至造成了全新的伦理问题。对于相关问题与解决方案的看法，我们周而复始地夜郎自大——虽然大体上是出于善意，但也总是乏善可陈。我们未能彼此协调抑或相互理解，最重要的是，未能就更广泛的社会伦理影响而有所评价。因此，我在本书中通过阐释权力的数据伦理学这一人本方法来提出一个参照点，使其成为我们聚首研讨的起点。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

4

本书对数据伦理学、大数据以及人工智能主要有以下三个方面的贡献。

权力的数据伦理学

起初，人们在公共话语当中使用“数据伦理学”这一术语，用于研究其对隐私所带来的挑战，以及解决大数据技术与系统的一般性社会伦理问题。此后，数据伦理学就成了表征公司与国家“善意”的符号，后来陆续融入应用伦理学下辖的“设计伦理学”(一种道德哲学)之中，其方法论与实践论的指导原则在于把人类趋善的价值观灌输到大数据与人工智能系统当中。在本书中，我所关注的数据伦理学主要聚焦于大数据与人工智能的文化与社会权力机制，而非仅仅关注其道德上的“善恶好坏”。鉴于技术的文化产品属性，技术实践是一种嵌于社会分层的文化意义制造系统当中的具身体验性活动。这就是为什么作为社会技术变革与实践的文化系统本身存在伦理问题并且需要我们依赖权力的应用数据伦理学予以解决。我个人认为，我们需要把大数据!人I智能基础设施看作是一种社会分层的文化系统。在这种文化系统当中.既定社会之中的主导者利益占据主要优势，而其他少数群体的利益则遭遇深层压制。社会技术数字数据系统是一种强化与分配权力的空间架构，其中的数据文化表现为：维护某些特定群体权力的同时，压制他者的自由度与能动性。实际上，这种文化系统当中汇集了不同权力方的利益，具体包括：企业、政府，乃至学界。

数据伦理学治理

一直以来，我本人积极参与新兴数据技术的伦理影响在公共空间以及政策维度上引发的诸多讨论，我也试图阐释数据伦理学成为解决上述论争的核心缘由。通过提出并回答这个问题，我同时勾勒出了数据伦理学在社会技术变革背景下的治理角色与功能图谱。这也为我自己所参与的研讨与协商提供了一个基于人类道德与人本方法的大数据与人工智能社会技术系统的权力结构的共同基础。

导论

5