--- schema_version: "library-reader-v1" source_type: "original_book" title: "权力的数据伦理学大数据与人工智能时代的人本方法新解" author: null edition: null publisher: null year: null isbn: "9787313310330" library_document_id: "1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed" source_sha256: "c8690c24b9cff428b770fe7f4e8124669c31c0081ab74dc4f8a67f1d3228e2a6" pdf_physical_page_count: 266 pdf_physical_page_index_base: 0 range_start: 200 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed?start=200&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=200&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=190&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=210&limit=10" --- # 权力的数据伦理学大数据与人工智能时代的人本方法新解 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=200 | PRINTED_PAGE=186 这种人本道德就是我所认为的“伦理行为”，也就是权力的数据伦理学的能动性。它以一种十分微妙的方式得以表达出来，而且不断地在动态复杂环境中进行协商与竞争。它体现在我们的行动与实践风格之中，体现在不同技术风格(Hughes，1983)与不同治理风格的细微差别之中。相反，社会道德没有任何风格可言：它不具有可商讨性。而是被铭刻在规则与机器之内。 基于上述缘由，在此我们可以得出结论，权力的数据伦理学中的“伦理”可以通过文化与生活方式的转变来实现(Bergson，1932/1977；Lefebvre，2013)。如果希望我们的人权以多元性而非顺从性的方式在社会技术系统中得以实现，文化与生活方式的转变就显得至关重要(Lefebvre，2013)。当然，这并不意味着在社会当中压根不需要成文的法律或共享的通用框架，而是说基于成文的法律或共享的通用框架来解决伦理问题并不是真正意义上的数据伦理。权力的数据伦理学所要做的是确保批判声音的存在以及协商与反思的落实，进而达成妥协，尽管妥协本身也会带来全新的伦理问题。这样看来，数据伦理学从来都没有起点抑或终点，而是随着目标的动态变化而不断前进。 爱与开放社会 现在，我们需要回到权力的数据伦理学的第一个生成问题：数据伦理学为什么重要？人性化的权力的数据伦理学之所以重要就在于它使得开放社会成为可能。伯格森(1932/1977)描述了两种类型的社会：开放社会与封闭社会。开放社会同样也是一种开放的普遍“爱”，这种爱没有私利，而是普遍地指向全人类(Bergson，1932/1977)。换言之，开放社会的特点就是一种真正意义上普遍而独立的爱。它没有特定的对象(或利益)。在分析伯格森对人权的目的与功能的描述之时，政治与哲学教授亚历山大·列斐伏尔(AlexandreLelebvre)认为这是一种关心自我并联系自我与他者的方式： 权力的数据伦理学：大数据与人工智能时代的人本方法新解 186 ## PDF_PHYSICAL_PAGE_INDEX=201 | PRINTED_PAGE=187 开放的灵魂洋溢着爱，但它不是为了任何特定的东西。不是为了某个家庭或者国家，也不是为了人类、自然、神灵或者宇宙。(Lefebvre,2013：92) 因此，开放社会也是一个公平社会，因为它并不依附于任何特定的内容，也没有特定的利益。为了切实说明这种爱，列斐伏尔引用了Jankelevitch(1967/2005)的例子：一个人走在大街上欢快地对他身边路过的每个人都保持微笑。他不加区分，没有任何特定的对象。基于这个例子，列斐伏尔对博爱做出了以下总结： 爱是性情，也是心情。它是一种存在方式，并不直接依附于任何事物。(Lefebvre，2013：93) 另一方面，封闭社会具有清晰的“边界”；它建立在“偏好、排外、封闭”的基础之上(Lefebvre、2013：88)，表现为“权威、等级与固化”(Lefebvre，2013：90)。在封闭社会当中、爱总是稳定地指向某个特定对象(家庭、国家等)，这是一种在特定社会当中作为义务强加的道德表现，具有表征性与象征性。封闭社会之中的爱与道德表达了一种“封闭取向”，因为它指向的是某个特定的对象。换言之，爱是一种利益表达，它献给了某个特定的群体。伯格森用战争的例子说明了社会道德的核心问题。如前所述·他就人权如何在战争年代被搁置进行提问并给出了问答。具体来说，这仅仅是因为人权以针对特定群体的道德义务的形式得以实现，而这恰恰表达出了道德义务的排他取向： 谁不知道，社会凝聚力在很大程度上是出于一个社区保护自己免受他人侵害的必要性而形成的呢？谁又不知道，我们对于身边人的爱主要是为了防范来自其他人的威胁呢？(Bergson，1932/1977:32) 因此，在我们看来、爱有两种不同的类型，它们在世界之中具体化为两种不同的道德实践。第一种实践具有适应性、开放性、包容性、流动性、而第二种实践则具有固化性、封闭性、排他性。同样，参照我们之前对于伦理能动性与道德能动性的概念处理方式，这里我们认为：前者可以被看作是伦理实践，其能动性源自无条件的爱；后者仅仅是一种道德实践，其能动性源自义务与规定。 第5章什么是数据伦理？ 187 ## PDF_PHYSICAL_PAGE_INDEX=202 | PRINTED_PAGE=188 在列斐伏尔看来，正是在《道德与宗教的两个起源》一书对开放社会的描述之中，人类权利获得了其应有的核心地位，因为它们是“克服社会与道德封闭取向的最佳方案”(Lefebvre，2013：83)。事实上，人类权利被看作具有普遍性，因为它适用于全人类，意味着所有社会之中的个体都必须享有同样的权利。然而，伯格森却担心，由于人类权利在实际社会之中是作为社会道德而得以实施的，其真正价值并没有真正实现。同样，列斐伏尔也认为人类权利没能在道德义务中得到充分体现；事实上，人类权利的目标在本质上更符合一种变化的存在状态。换言之，它是一种变化性目标。人类权利的功能是改变人类个体以及国家的思想与特征。例如，人类权利不仪保护个人，而且还通过审查与改革专断的国家法律与实践来得以实现。此外，人类权利不仅采取义务与法律规定的形式，还体现在文化实践之中(Lefebvre，2013：75-81)。 为了说明人本道德与社会道德之间的区别，我再次以20世纪10年代欧洲BDSTls演变为背景，提供一个伦理价值与人权(也就是隐私权)的生活实例。我把隐私视为一种人本价值·它使我刚刚描述的那种开放社会成为可能。鉴于这点已经得到了充分论证(如Solove，2001, 2008; Cohen, 2013; Hasselbalch and Tranberg, 2016; Veliz,2020；等等)，我将不再展开讨论。在欧洲，隐私权不仅是《通川数据保护条例》与《基本权利宪章》中规定的一项法律权利，同时也嵌入成员国的法律之中，因此它也被视为是一项欧洲公认的道德义务。尽管如此，在短暂的历史进程当中，互联网通过不断发展监控与跟踪手段，并在自动化电子系统中保留与关联个人数据，在全球范围内对隐私权(以及“私人与家庭生活”的权利)造成了巨大挑战。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 188 ## PDF_PHYSICAL_PAGE_INDEX=203 | PRINTED_PAGE=189 在斯诺登揭露了美国的大规模监控系统之后，联合国代表大会于2013年声明：人们在线下世界享有的权利同样也必须在线上虚拟世界当中得到保护。这一声明基于这样一种认识：大数据社会的权力分配与条件不仅对于隐私权等人权的法律实施构成了挑战，而且这些新的权力结构也使得人们质疑隐私权等人权的合理性。换言之，在互联网成为全球社会中心的短短时间之内，隐私作为一种对个人的保护与道德义务，正在逐渐让位于其他利益，这些利益强烈支持搁置个人隐私权。一方面，在20世纪90年代，“匿名”与“网络隐私”被描述为互联网赋予的独特体验。个体可以体验不同的“身份”(Turkle.1997)与“性别”(Haraway、1985/2016),并且能够在其保护之下挑战既定的权力形式及其所构成的市场模式(Vinge，1981/2001)；另一方面、网络匿名形式的隐私权也与协助并实施黑化行为相关、例如：身份盗窃、网络钓鱼(Donath，1999)、霸凌(Kowalski etal.，2008)、恐怖主义以及非法享受版权保护的材料(Armstrong andForde，2003)等。个人隐私概念甚至一度被认为迁腐不堪以及“不再是社会规范”(Johnson，2010-1-11)。正如法学学者朱莉·E.科恩所言：隐私“为自已挣得了一个坏名声”(Cohen。2013:1904).而且关于隐私的公共话语日渐变成了针对隐私权以及侵犯隐私的商业与国家行为的合法化讨论场域。 此外，作为文化技术动量的个人隐私经验本身也受到了影响。在 2014年、我与韦尔纳·莱特(Verner Leth)、里克·弗朗克·约恩森(Rikke FrankJorgensen)在丹麦青年当中进行了一系列关于他们使用社交媒体的焦点小组研究。结果表明，尽管这些年轻人在实践之中确实意识到他们需要不同形式的网络身份管理来保护隐私，但他们同时也表现出了一种让步，为了与同龄人一起参与社交生活、他们不得不同意把自我隐私权让渡给那些提供服务的社交媒体公司(Jorgensen et al., 2013; Hasselbalch and Jørgensen, 2015)。事实上·他们已经在个人隐私利益与社交媒体的商业模式提供的便利之间做出了选择、并同意暂时搁置自己的隐私权。 第5章什么是数据伦理？ 189 ## PDF_PHYSICAL_PAGE_INDEX=204 | PRINTED_PAGE=190 然而，在欧洲全面的数据保护法律改革的浪潮之中，BDSTIs的隐私影响重新获得了公共政策与社会大众的普遍关注。比如，在2020年，隐私影响是欧洲关于接触追踪应用程序研讨之中的一项核心议题。那么，这是否意味着网络隐私研讨现在已经成功地变成了一种人本道德或生活方式呢？换言之，它是否成为一种数据伦理文化，并且能够保障它成为欧洲技术研发、实践、采用与体验的一种核心价值呢？或者依旧是我所认为的一种带有特定利益取向的社会道德的应用而已呢？比如，为什么隐私只在关于接触追踪应用程序的辩论之中受到关注。而在其他领域当中却似乎反响平平？ 权力的数据伦理学在此敦促我们跳出关于技术隐私的公共研讨的藩篱，关注其背后微妙的权力与利益斗争。在欧洲接触追踪应用程序的案例当中，这些表现为权利主体(欧盟成员国)与其他主体(苹果与谷歌公司)之间的角力。可以说，这些公司在一定程度上有意转移了人们对其他数据伦理影响的关注，比如接触追踪应用程序以及疫情期间开发的其他数据驱动技术（HasselbalchandTranberg，2020)。换言之，通过权力的数据伦理学，我们可以解决大数据社会中权力的结构性分配问题。同时，我们发现，在欧洲的BDSTIs与AISTls的开发过程当中，人权(如隐私权)实施仍然只是表现为社会中的一项道德义务。这种道德义务受利益或主导权力的影响，可能被应用，也可能被搁置。 伯格森甚至怀疑，人权实际上往往是作为一种道德义务或社会道德的形式得以实现的。基于此，我们不禁发问：这是否就是隐私在大数据社会的社会技术现实当中既可以被应用也可以被搁置的原因呢？在我看来，的确如此。尽管在2020年，数据伦理学作为一种道德义务在战略文件与原则指南当中被反复强调，但它仍然没有成为一种文化或生活方式，也没能成为一种技术风格或实践，而是能够根据不同的权力利益被应用抑或搁置。 米 权力的数据伦理学：大数据与人工智能时代的人本方法新解 190 ## PDF_PHYSICAL_PAGE_INDEX=205 | PRINTED_PAGE=191 人权、人格尊严与爱 在国际上·我们的人权体系最初起源于1948年由世界不同地区代表起草的《联合国人权宣言》，它由各种机制来监督缔约国对其人权义务的遵守情况。此外，《欧洲人权公约》已由欧盟委员会的47个成员国共同签署，并设有一个人权法院。在欧洲。《基本权利宪章》将欧盟公民的权利写人了欧盟法律，保护欧盟公民的权利神圣不可侵犯。欧盟机构与成员国在执行欧盟法律之时、都有相应的机制来确保基本权利得以落地实施。其中·作为一项基本权利，个人数据保护在广泛的数据保护监管框架当中予以明确规定。几十年来，人权已经在各个公约与国际协议中得到了标准化确立·并在全世界的法律与实践中得到了制度化保障与实施。那么，我们可能会问：既然我们已经有了如此全面的国际人权体系，为什么还需要人本方法与权力的数据伦理学？ 21世纪10年代末期，当“数据伦理”在学术、公共政策与商业话语当中获得普遍关注之时、其在社会当中的治理角色与功能图谱却经常受到严重诟病，有时甚至被认为是一种“伦理清洗”（Wagner，2018)——将它看作是一种转移视线的手段，使人们不再关注BDSTls与 AISTIs 对于人类权利的真正影响，使得人们不再关注国家的迫切需求（尤其是主动更新保护公民在线权利方面的积极义务)。此外，各种“数据伦理”倡议的结果、成果与要求也往往被认为模棱两可、不切实际。它们会不会淡化现有的人权要求与法律，会不会淡化对义务与机制的更新需求，以此确保其在快速发展的网络领域得到广泛应用？这些批评在很大程度上合情合理。比如，许多争议性“数据伦理”与“人工智能伦理”倡议确实在这一时期由持有不同利益取向的私人公司、组织与国家提出。尽管如此、我仍然相信：在人权背景下，存在一种方法能够重新调整数据伦理在其中所扮演的 第5章什么是数据伦理？ 191 ## PDF_PHYSICAL_PAGE_INDEX=206 | PRINTED_PAGE=192 角色。 为权力的数据伦理学提供一种人本方法并不是空中楼阁。首先·它意味着我们希望找到一种事物建构、实践与治理的综观方式，使之造福于伯格森在他20世纪作品中所提倡的博爱，致力于人本道德与人权的落实。这是一种对人类的爱，表面看似抽象，实则具体；看似虚无缥缈，却也触手可及。 伯格森不仅在哲学上致力于人权的实现，更是以非常务实的方式参与了人权实践。第一次世界大战结束时，他与美国威尔逊政府密切合作、创建了联合国的前身、国际维和组织——国际联盟。他甚至被任命为国际知识合作委员会(联合国教科文组织的前身)主席。此外，他的著作对《人权宣言》的起草产生了深刻的影响——至少，据起草人约翰·汉弗莱(John Humphrey)本人说确实如此(Curle，2007)。 据此，我认为权力的数据伦理学的人本方法与人权息息相关。然而，到目前为止，它似乎与人权在网络领域的实施方式鲜有关联。实际上，人权必须以“同样适用于网络”的方式予以重申(UN，2013)。这也表明：如果仅仅作为一种道德义务得以实施，人权系统的“社会道德”可以在变革、商业与国家行为等社会过程当中予以搁置。这里，我们可以联想一下“默认跟踪”商业模式的演变过程，这种模式几十年来从未受到过人权法律监督与问责的影响。之所以会发生这种情况，是因为数据伦理最初并不是作为一种文化实践性人本道德以及设计师与企业家的人类责任得以应用，而是演变成了一种“社会道德”，并与法律规定与“检查清单”实践当中商业发展与创新的文化过程剥离开来。 现在，我们需要做的是，将政策、商业与公共话语当中的人权与数据伦理讨论重新聚焦于一个共享性参照框架上。这里，我希望把伯格森提出的“博爱”这一概念作为当代数据伦理学甚至是当代人权框架的基础。在传统意义上，“人格尊严”一直是各种人权表达的共同基础。正如《人权宣言》序言中所述：“对人类大家庭之中所有成员的固有尊严及其平等不移权利的承认乃是世界自由、正义与公平的基础”。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 192 ## PDF_PHYSICAL_PAGE_INDEX=207 | PRINTED_PAGE=193 然而，如前所述。尊严这一概念有着深厚的历史渊源，并在第二次世界大战之后得到了进一步强化，从而回应了那些真实性人类经验的呼唤——人类受到极权政府的无情压迫，特别是犹太人遭受了法西斯的残酷迫害。《人权宣言》正是基于这一经验而起草的，其伦理取向显然是对这一特殊历史经验的回应。 实际上，我们现在需要的是一个共享性参照点、这不仅是针对占主导地位的极权政府的回应，也是对于广义上流动型权力的回应。同样，我们需要将自身对于伦理能动性的关注超越人类社区与人类尊严的范畴，建立对于我们所在环境整体与生态系统的爱、这一点已经变得愈发迫切。此外，在网络领域当中，我们不能只是将人权视为抵御外部“恶魔”的盾牌。正如鲍曼(2000)所描述的人工智能时代伦理影响一样·我们需要在实践当中探索出一种博爱型伦理·这是一种系统之中的人类赋权该系统在我们的日常生活与基础设施中嵌入了内部“恶魔”。因此，我们需要把对所有生命不偏不倚、不一不异的爱作为人本方法的基础。换言之，我们需要一种人权的人本道德。 这是一种普遍的爱吗？它能打破地理范围与文化区域的藩篱吗？纵观人类历史长河，世界各国的全球性意图总是不断带来全球性紧张局势。在主导文化与区域权力利益博弈的背景之下，爱总是有可能被不良分子利用并篡改。权力的数据伦理学必须特别警惕地方文化与社会技术基础设施实践当中所表现出来的新型殖民主义之间根深蒂固的紧张关系。时至今日，这种紧张关系在实践当中仍然没有得到妥善解决、同样我也不期望我能在这里将其完全根除。尽管如此，我相信人本方法是以文化平等性方式在全球落实权力数据伦理的一个关键要索。其中、人权学者克林顿·蒂莫西·柯尔(Clinton Timothy Curle、2007)从伯格森主义视角解读《世界人权宣言》与约翰·汉弗莱的起草书后得出的发现对于这一点至关重要。 第5章什么是数据伦理？ 193 ## PDF_PHYSICAL_PAGE_INDEX=208 | PRINTED_PAGE=194 他提出了“人类友谊”这一概念，并将其作为普遍伦理基础而不是“文化的完全同质化”(Curle，2007：154)。正如他所言，这既是基于对于卓越标准的追求，又是基于针对实现这一目标的历史沿革与文化限制的理解(Curle，2007：23)。这是一种针对动态变化的环境做出回应的人权：人权是一种建立在人类生活经验上的“意向”(或使用伯格森主义的术语“直觉”)再现过程。这样一来，我们就不应该仅仅把人权看作是一种制度，而应该将其视为一种接受多元化审视的人类经验。同样，柯尔也指出，伯格森主义的人权方法是将“人权项目视为一种将人性意识恢复到现代性当中的尝试”(Curle，2007：153)。 有了这种融合了数据伦理、人类大爱与人类赋权的社会技术基础设施，现在我们可以开始探讨权力的数据伦理学的第二个生成要素—行动导向型批判框架，该框架能够解决大数据时代的权力条件。如果伦理与道德是我们每个人的风格、文化实践与生活方式，那么何以见得它们能够在社会治理背景下发挥作用呢？换言之，除了将其作为一种道德义务强加于人之外，是否存有一种方法可以帮助社会基础设施以“合乎伦理的方式”管理社会呢？ 2)权力的数据伦理学如何助力实现“美好社会”？ 如果我在前文中描述的大数据文化、技术与社会之中的权力分配真的同我们的存在方式与“开放社会”(即我刚刚提出的遵循权力的数据伦理学的“美好社会”)不相协调，那么如何才能使它们实现和谐统一呢？权力的数据伦理学能在其中发挥什么作用呢？ 在我与特兰贝里在 2016年发表的一书当中(HasselbalchandTranberg，2016)，我们将数据伦理视为一种活跃的变革型社会运动： 在全球范围之内，我们注意到：数据伦理的范式转向以社会运动、文化转向、技术升级以及法律更新的形式出现、人类也日渐被放在了中心位置。(Hasselbalch and Tranberg，2016：10) 权力的数据伦理学：大数据与人工智能时代的人本方法新解 194 ## PDF_PHYSICAL_PAGE_INDEX=209 | PRINTED_PAGE=195 换言之，在21世纪10年代末期，权力的数据伦理在社会当中表现为一项主动议程，聚焦于大数据时代背景下社会权力关系与利益的转变。 在前面的章节当中，我将这项议程的数据伦理描述为一种人本方法：该方法致力于将大数据社会当中隐含的权力关系及其条件可视化、从而阐明支持人类利益与人类权力的设计、商业、政策、社会与文化过程。因此，我认为，我们可以将权力与人类的伦理能动性作为权力的数据伦理学的定位锚点。权力的数据伦理学的一个基本关注点就是数据系统与数据过程当中人本道德被简化为社会道德的权力条件，正是这种权力条件阻碍了我们建构开放社会(包容无私的大爱)。借此，我们可以将数据伦理看作是一种对数据系统与权力简化特征的抗议、一种针对排他性权力的抵抗。相应地，我们也可以认为，数据伦理主要代表的是社会技术数据基础设施中少数群体、边缘群体与弱势群体的声音。 权力的数据伦理学关注的是技术、文化与社会在塑造人类能动性与人类经验的社会结构中共同发挥的作用。它使原本不可见的权力机制在质性化的微观、中观与宏观时间维度的社会与文化背景之下变得清晰可见。从本质上讲、这意味着权力的数据伦理学始终在不同维度之间切换视角、试图同时涵盖部分与整体(微观与宏观)。 权力的数据伦理学作为一种实践形式 权力的数据伦理学是一种活跃型伯格森主义式的人本道德。因此、它也是一种治理方式。这种说法可能被视为自相矛盾，因为我们刚刚了解到：人本道德不能仅仅被应用(也不能被搁置).而是要作为一种具身体验。尽管如此，我希望在此强调一点：在大数据与人工智能时代，人本道德的推广普及可以在社会技术变革的治理过程当中发挥重要作用。 权力的数据伦理学是一种人本方法，它确保了人类在数据文化当中的伦理能动性与责任感。为了实现这一目的，请允许我在此重复在本书第一部分中提到的“伦理治理”这一概念。这里，我重点关注的是数据伦理，尤其是人本方法的作用。其中包括：当价值与利益被协商与阐明之际，当协商空间出现之时，人类对于社会技术发展关键时刻的反思。大型社会技术系统在社会当中整合所需技术动量并不只是以一种不可解释的自然意志来对社会、经济与文化因紧进行任意组合(Hughes。1983，1987)，相反，它需要依靠“人类的力量”。因此，这种技术动量可以被转化为不同的治理模式，进而对构成系统技术架构的各种方向、价值、知识、资源与工具予以指引，并能促进系统治理及其在社会当中的采纳和应用。然而，如何来实现这一点呢？ 第5章什么是数据伦理？ 195 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=210&limit=10)