--- schema_version: "library-reader-v1" source_type: "original_book" title: "权力的数据伦理学大数据与人工智能时代的人本方法新解" author: null edition: null publisher: null year: null isbn: "9787313310330" library_document_id: "1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed" source_sha256: "c8690c24b9cff428b770fe7f4e8124669c31c0081ab74dc4f8a67f1d3228e2a6" pdf_physical_page_count: 266 pdf_physical_page_index_base: 0 range_start: 170 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed?start=170&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=170&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=160&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=180&limit=10" --- # 权力的数据伦理学大数据与人工智能时代的人本方法新解 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=170 | PRINTED_PAGE=156 作为信息科学家工作的重要实践，分类被隐秘地嵌人他们工作环境的基础设施之内，并在小规模社区之中共享。然而，它们也很有可能被标准化且制度化，并在更多的社区当中共享。鲍克与斯塔尔将标准描述为：“任意一套用于生产(文本的/物质的)对象的商定规则”(Bowker and Star，2000：13)。标准的建立是为了使事物能顺利地在一起运行，它们由法律制度、国家或专业组织等强制执行。尽管没有“自然法则”规定着其存在(它们的出现是各利益相关方之间社会协商的结果)，然而这些标准具有高制度化特点，因此很难改变(Bowker and Star，2000：14)。例如，标准是一个运作良好的基础设施的关键组件，反之亦然(Dunn，2009)。实际上，不仅是技术组件需要以标准化的方式运行从而与使用统一标准的其他组件一起高效运行，人们的工作实践同样也需要遵循意义制造的共享文化系统，这样才能良好地运作。正如鲍克所言：“基础设施的运作对于人与机器都提出了标准化要求”(Bowker，2005：112)。 在AISTIs方面，塑造AISTIs数据设计师工作的制度化技术标准就是应用标准的一个典型例子——国际标准化组织(IS())系统要求标准。ISO是一个国际标准制定机构，其代表米自各个国家的标准组织。它为产品与系统研发制定技术安全和质量标准，并对其进行认证，以此确保它们符合标准要求。ISC)标准在国际上得到认可、共享与推广。通过这种方式，它们确保产品或系统设计的致性。同时确保其满足安全要求，并与符合同一标准的其他产品与系统兼容。①现行的IT技术标准清单涉及从IT安全到信息编码等众多标准，条款详实，内容丰富。①尽管ISC)标准认证并不是一个法律要求，但其对于系统或产品的认证的确有助于确保其对法律的遵守。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 ①具体描述见国际标准化组织网站：https://www.iso.org. 156 ## PDF_PHYSICAL_PAGE_INDEX=171 | PRINTED_PAGE=157 在欧洲，《通用数据保护条例》提出了一个法律框架，该框架已被纳人处理个人身份信息的IT设计标准当中。例如，2019年发布的IS()/IEC27701就是参照《通用数据保护条例》中“为创建、实施、维护和持续改进隐私相关型信息安全管理系统”而制定的专项要求。尽管《通用数据保护条例》的核心目的——“个人数据的处理应该为人类服务”(《通用数据保护条例》，[EU]2016/679.p.2).与它所取代的1995年发布的数据保护指令没有太大差别.然而，实际上.《通用数据保护条例》更加强调实际技术设计过程与实践的质量·以便确保个人的数据保护与权利。 例如，与“默认数据保护设计”相关的新规定(《通用数据保护条例》、「EU]2016/679.第25款)要求设计师从一开始就要考虑隐私与数据保护，并专门将其设计到IT系统之中，而不是充当马后炮。这就意味着我们之前所说的“大数据思维”(Mayer-SchönbergerandCukier，2013)受到了挑战.因为数据设计师的一项关键任务是将数据最小化作为数据技术设计的一个核心质量要求。其他技术设计要求包括：置名化处理个人数据、在个人数据功能处理方面创建具有更高内置透明度的IT设计、授权个人监控数据处理过程。 标准是集中控制与维护的对象。然而，在实践过程当中，它们并非总是被严格遵照执行：常被实践者理解、解读与改造；也在制度、社会文化当中予以协商：其至接受偏差(Bowkerand Star。2000：13-15)。例如，《通用数据保护条例》并没有提供明确的技术规范。它不是一个技术标准，而只是为技术和组织措施提供了一个法律合规框架，并具有双重目的…一保护个人的基本权利与自由，同时确保个人数据在欧盟内部自由流动(《通用数据保护条例》，[EU]2016/679)。然而·在实际技术实施过程当中·数据设计师可能会偏向于其中的某个法律目标。可以想象，对于有着“大数据思维”的数据设计师而言，他们努力履行有关数据保护的法律规定只是因为这是法律要求，而并非将其视为技术设计本身的质量标准。相反，对于另一种数据设计师而言，数据最小化与个人隐私可能就是他们本身的质量设计目标。 第4章数据利益与数据文化 ①具体描述见国际标准化组织网站“第35条信息技术”：htps://www.iso.org/ics/35/x/. 157 ## PDF_PHYSICAL_PAGE_INDEX=172 | PRINTED_PAGE=158 在21世纪10年代，越来越多的设计与商业活动在IT开发之时，将隐私与数据保护作为其工作的质量标准。在《数据伦理——新的竞争优势》一书当中，佩妮莱·特兰贝里与我研究了一系列数据设计师与公司的案例，他们就个人数据处理的质量准则提出了自己的解释——将独立条款、关于隐私的宣言与公开声明以及数据最小化作为他们工作的质量标准(Hasselbalch and Tranberg，2016：91)。例如，数据设计师阿拉尔·巴尔坎(Aral Balkan)告诉我们：“在个人设备上构建用户拥有个人数据所有权与控制权的系统具有可行性，以取代在公司拥有所有权与控制权的云上构建的系统”(Hasselbalchand Tranberg, 2016:92)。 另一个例子来自德国玩具公司Vai Kai(其主要产品是一套联网的木制玩偶)的首席执行官马塔斯·彼得里卡什(Matas Petrikas).他认为顾客隐私是一切设计与创新决策的基础。因此，VaiKai的联网玩偶并没有像当时市场之上大多数其他此类玩偶一样安装摄像机或麦克风。他告诉我们，隐私设计是他们IT产品的一个质量标准： 我们始终将隐私视为一种价值。这是我们公司的重要关注点。我想其他公司绝不会像我们一样在开发阶段就有意识地决定不安装麦克风。(Hasselbalch and Tranberg，2016：98) 我们可以把这些关于数据创新的新兴实践与观点看作是一种文化范式转向：作为信息与计算机科学的知识与实践基础的一种文化“常态”转变为另一种“常态”。这里，我们将聚焦于这一关键时刻：计算机信息系统的传统设计被重新审视，过去的理念面临挑战并被新鲜事物取代。尽管正式技术标准很难改变，但其并非由自然法则所规定。它们代表的是基于主流文化价值的质量标准。因此，虽然一种数据文化的文化伦理评价是正式标准，但它也并非总是一成不变。当一种数据文化遇到另一种有着不同价值与质量标准(例如，在处理数据利益方面)的数据文化之时，所选择的伦理评价准则才是最重要的标准。实际上，标准总是在关键性社会协商语境当中不断变化更新，而数据设计实践标准的这些变化代表并要求范式转向与新常态的出现。在这一过程当中，就需要设定新的优先事项、创造新的实践准则，自然就会出现新的“科学想象”和“世界观”[术语来自库恩(Kuhn), 1970]。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 158 ## PDF_PHYSICAL_PAGE_INDEX=173 | PRINTED_PAGE=159 这就是为什么我们也可以将欧洲数据保护法律框架的监管改革看作是计算机信息科学家或数据设计师所处的文化环境范式转向、特兰贝里与我(2016)所描述的发生在设计师和公司之间的“数据伦理运动”也代表了这一转向。ISC)关于IT实践标准同样也在日益更新，以便及时反映数据设计师工作的新常态。例如，ISO)/IECJTC1/SC42人工智能分委会已经制定并颁布了一系列人工智能开发的新标准。当我在2020年初研究这些标准之时发现，其中一些标准对于人工智能大数据设计予以了充分关注，同时还有许多特别强调了人工智能的社会影响。比如，关于“人工智能系统与人工智能辅助决策偏见”的IS()/IECAW1TR24027标准、关于“人工智能信度概述”的ISO/IEC PRFTR24028标准、关于“伦理和社会问题概述”的SO/IECAWITR24368 标准。另一个标准设定组织是制定自主系统P7000系列标准的电气电子工程师学会全球伦理准则设计组织、这一组织已经创建了许多标准用于反映AISTls数据设计师所构建的更具伦理反思性新型文化环境，具体包括：关于“人工智能数据隐私过程”的P7002标准、关于“个人数据的人工智能主体”的P7006标准、关于“机器可读型个人隐私术语”的P7012标准等，不一而足。 第4章数据利益与数据文化 159 ## PDF_PHYSICAL_PAGE_INDEX=174 | PRINTED_PAGE=160 总之，21世纪10 年代BDSTIs与AISTls研发所带来的数据文化变革体现了数据、信息知识以及科学实践的范式转向，即“常规”实践与“常规”标准以及要求的变化。这就是它的运作机制。一个社会技术基础设施方向的真正改变意味着信息处理过程的文化方式发生根本性改变，具体涉及如何收集、处理、存储、分析与使用信息；同样也意味着塑造信息处理过程的科学想象的改变。实际上，数据文化的每一步变化都是基于对系统数据设计在应用于人类生活时的不完整性认识。 关键文化时刻 数据文化可能具有稳定性与制度化特征，但如我们所见，它们也具有商讨性与挑战性。在前文当中，我们已经描述了发生在宏观时间尺度(大型社会技术系统整合之前的危机时刻)的协商空间。实际上、关键伦理评价时刻同样产生在数据设计实践当中以及数据设计者在微观设计语境之下的设计选择协商与决策之中，比如我在前文当中提到过的人工智能设计所牵扯的“数据利益”协商过程。例如。信息学者凯蒂·希尔顿(Katie Shilton)研究了互联网架构工程团队(指定的数据网络项目)——的价值表达，并根据他们之间的不同利益创建了数据设计师价值类型的分类法：“①那些应对技术压力与机会的人；②那些关注个人自由的人；③那些被信息共享空间中集体利益影响的人”(Shilton，2015：8)。 这里所说的“关键文化时刻”指的是替代性意义制造文化系统被创建并用于对抗已有文化常态的时刻，其对于应用型数据的权力伦理学方法至关重要。首先，这是数据文化当中文化意义稳定性被破坏的时刻。因此，我们希望能保留这些时刻，从而实现人类在社会技术变化当中的批判性参与。然而，我们也需要明白，这些时刻的特别之处在于它们稍纵即逝，不会长久存在。它们往往会销声匿迹于数据设计、法律和标准等主导数据文化之中。例如，一个数据设计不仅仅是“编码的”数据，也是符号中的数据文化，一种特殊的数据文化。换言之，数据设计具有文化属性，可以被视为文化编码的意义系统。事实上，系统的数据设计是行动中的文化.它决定了系统文化的价值。换言之，主导文化可以通过转换为看似具有中立性的“专业型符号”的方式轻易地再现(Hal1，1980：126)。正如科林斯(1987)在他对文化技能与人工智能的描述当中所说的那样：在专家系统之中，文化被编码为明确的文字形式；尤其是在先进的自主学习系统之中，文化以自动化机器预测与决策的形式被编码。然而，像这样的人工智能系统对于权力的数据伦理学而言是一种特殊的挑战，因为它们永远都不具备人类的“理解(能力)”(Searle，1980，1997)；换言之，这些系统没有能力再现人类意义生产的关键文化时刻。此外、世界的文化分类是在系统当中被主动编码生产的，这就意味着编码型“优选意义”与解码型意义协商之间意义生产的文化时刻都被纳人了系统之中。同样·这也意味着当关键文化时刻与替代数据文化(只有在意义由人在特定时空背景之下做出定性解读之时，替代性数据文化才会出现)发生冲突之时，这一时刻将不会出现。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 160 ## PDF_PHYSICAL_PAGE_INDEX=175 | PRINTED_PAGE=161 这是一个棘手的间题。因为我提出的意义制造的关键文化时刻是在社会技术发展当中最具人性化的组件。从某种意义上说，它们体现了人类特征·因为当人类的“记忆”与“直觉”(我将在最后一章介绍这些概念)被激发之时，它们就会出现。因此，它们必须被保留在塑造AISTIs与jBI)STIs研发的数据文化之中。要做到这一点，我们需要以非常实际的方式优先考虑大数据与人工智能基础设施之中的人类利益，让人类主体有意义地参与其数据设计、使用、治理与实施。 第4章数据利益与数据文化 161 ## PDF_PHYSICAL_PAGE_INDEX=176 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=177 | PRINTED_PAGE=NOT_DETECTED 什么是数据伦理？ 人类在自身进步的重压之下苦苦挣扎，但他们却忘了未来掌握在自己手里。 —亨利·伯格森(HenriBergson,1932) ## PDF_PHYSICAL_PAGE_INDEX=178 | PRINTED_PAGE=164 在2018年，欧洲实施数据保护法律改革之时，大数据时代的风险与影响已经是公共媒体新闻当中家喻户晓的话题。剑桥分析丑闻就是这样一则具有争议性的新闻事件，在欧洲传媒界以及政策圈等诸多领域引起了轩然大波。该新闻披露了一家英国咨询公司利用社交媒体与大数据分析手段，基于全球8700万人(其中包括270万欧洲人)数据进行机器学习分析这一事件影响了美英民主进程(Stupp,2018/4/6)。在21世纪10年代末期，数据泄露与黑客攻击、算法歧视以及基于数据的选民操纵等诸多问题纷纷暴露出来，引发了公众对于日常网络生活、政治文化方面的数据伦理影响的广泛关注。 同样，在公共政策制定过程当中，关于数据伦理的讨论也在与日俱增。正如我在本书当中所说的那样，大量与“数据伦理”“可信人工智能”以及“伦理技术”等话题相关的公共政策倡议在欧盟成员国与欧洲政府间陆续制定出台。数据伦理影响甚至被直接等同于社会技术中大数据系统的新型权力结构。 正因如此，欧洲政策与决策制定者越来越多地表达着对于广泛嵌人BDSTIs与AISTIs中隐蔽权力形式的反对态度。这些社会技术基础设施由“GAFA”主导。GAFA是美国四大大数据技术公司(谷歌、苹果、脸书与亚马逊)的首字母缩写。因此、在2019年底以及2020年初，以欧洲法律与文化价值形式实施的欧洲“可信人1智能”与“伦理技术”政策议程迈出了第一步：发布了一项旨在夺同欧洲数据空间的控制权并且恢复数据主权的战略，他们共至可能颁布禁令禁止具有面部识别功能的人工智能(Delcker and Smith-Meyer.2020 -1- 16)。 然后，突然有一天，我们进入了封控状态。疫情席卷全球。欧盟与欧洲各国政府以及整个世界开始争相利用各种治理手段与模式竭尽所能地控制、缓解并预测这场危机的演变走向。这些手段具体包括：迅速引进并采用一系列基于数据的数字技术与(或)基于人工智能的解决方案。可以说，欧洲总体上经历了一个全方位数字化与人工智能水平的提升。智慧工作与教育平台、远程医疗、接触-追踪应用程序、基于大数据的支持诊断与流行病学研究的算法、个性化医疗与护理机器人等如雨后春笋般纷纷涌现(Craglia et al.、2020)。 164 ## PDF_PHYSICAL_PAGE_INDEX=179 | PRINTED_PAGE=165 当欧洲各国都在开发接触-追踪应用程序之时，关于隐私数据集中抑或分散管理选择的辩论愈演愈烈。然而，这些讨论似乎仅限于隐私层面。实际上，谷歌公司与苹果公司的BDSTIs力量在其阻止欧盟成员国开发多个接触-追踪应用程序时得到了进一步巩固(Hasselbalch and Tranberg，2020)。与此同时，欧洲迎来了相关技术的井喷式增长。这些技术在处理个人数据的同时，将安全与公共卫生置于首位。相关技术包括无人机监控、位置跟踪、生物识别手环、面部识别与人群行为分析(Craglia et al.、2020)。我们甚至可以说，面对新冠疫情危机，过去十多年在欧洲已经日臻成熟的关于大数据时代的讨论之中。只有一些与权力分配相关的“数据伦理”议题得到了持续关注，而其他议题则被暂时搁置(Martens，2020；VesnicAlujevic and Pignatelli.2020). 在2020年，当新冠疫情席卷欧洲之时，数据伦理的权力发生了哪些变化？一些核心议题怎么会被无情抛弃，而只留下这些呢？作为本书的最后一个部分、我们对人类权力与数据伦理进行了研究，并提出了一个权力的数据伦理生成框架。这里·我提出的主张是：不能对权力的数据伦理学置若罔闻，更不可以贪图功利之用。相反，我们可以制定数据伦理指南、原则与策略、甚至可以对人工智能能动者进行编程使其依据道德规则行事。然而，为了在真正意义上确保权力以人为本地得以分配，数据伦理必须超越道德义务范畴、跳出编程规则集合的藩篱·它就必须其备人本属性。换言之，数据伦理必须采取文化形式，成为一种文化过程，最终成为一种具身体验活动。借此，权力的数据伦理学首先要解决的就是文化条件与权力结构，而不仅是技术设计的价值属性。 第5章什么是数据伦理？ 165 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=180&limit=10)