--- schema_version: "library-reader-v1" source_type: "original_book" title: "权力的数据伦理学大数据与人工智能时代的人本方法新解" author: null edition: null publisher: null year: null isbn: "9787313310330" library_document_id: "1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed" source_sha256: "c8690c24b9cff428b770fe7f4e8124669c31c0081ab74dc4f8a67f1d3228e2a6" pdf_physical_page_count: 266 pdf_physical_page_index_base: 0 range_start: 150 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed?start=150&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=150&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=140&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=160&limit=10" --- # 权力的数据伦理学大数据与人工智能时代的人本方法新解 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=150 | PRINTED_PAGE=136 欧盟人工智能议程的“文化定位”是在各种政策文件与声明当中逐渐得以阐明的。这一过程涉及多方协商，包括：欧盟成员国、欧盟人工智能高级别专家组、多利益相关方论坛—欧盟人工智能联盟，还有最重要的是欧盟委员会各理事会。同时，欧盟还增加了针对人工智能开发与研究的年度投资，并与各成员国在人工智能国家战略上达成一致。欧盟人工智能议程被视为确保欧洲在全球范围内竞争力的一项重要举措。在这一时期，它也频频出现在公共媒体、辩论和报道当中，作为针对“全球人工智能竞赛”的回应。这里，我们主要的关注点是区域参与者在全球资源领导权上的竞争。这些资源包括：人工智能(如数据访问）、资本投资、人工智能的技术创新与应用、商业上可行的研究与教育，以及(作为风险缓解与监管形式的)“伦理”(Merz,2019)。除了对资源、技术与风险缓解的争夺，针对基于价值的人工智能文化框架的阐释同样在不同利益相关团体间的共同利益界定当中发挥着关键作用(Hasselbalch，2020)。 2018年初，欧盟委员会发表了第一篇关于人工智能的通讯.同时还发布了25个欧盟成员国签署的人工智能合作宣言(该声明后来在2018年关于人工智能的协调计划“人工智能欧洲造”中被进一步细化)。这次针对人工智能的初步探讨重点关注成员国间的合作。多利益相关方倡议、投资，研究与技术研发。最关键的是，在这次探讨之中，人工智能被描述为全球竞争领域之内欧洲经济策略的一部分。基于价值的定位并不是这份通讯的核心战略要素，只是在其中稍有提及：“基于人工智能的价值与优势，欧盟可以在开发使用人工智能方面发挥引领作用，为所有人谋取福利”(EuropeanCommissionK，2018)。同时，该通讯计划起草一套人工智能伦理指南，这可以看作是解决伦理问题的第一步。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 136 ## PDF_PHYSICAL_PAGE_INDEX=151 | PRINTED_PAGE=137 随后，由52名选定成员组成的欧盟人工智能高级别专家组(HLEG)成立，成员由独立专家与来自不同利益相关团体的代表组成，其核心任务就是制定人工智能伦理指南、并为欧盟提供政策与投资建议。成立之初，该专家组就矢志立足于欧洲特别框架来开展相关工作。这一点在该专家组布鲁塞尔第一次会议当中一名欧盟委员会代表的评论中可以明显看出，他说：“人工智能不可能强加于我们。”评论结尾他再次表明，“欧洲大陆必须向人工智能做出自己的回应”(HLEGE、2018：4)。 因此，这里“欧洲回应”被定义为寻找一套共享的欧洲价值体系。例如.同样是在第一次会议当中，专家组主席对于专家组任务的核心内容以及欧盟委员会对专家组的期望进行了介绍：“欧洲必须发展人工智能，为我所用，并且践行欧洲价值，同时我们还需要为人工智能的发展创造具有竞争力的投资环境”(HLEGE，2018：2)。这一声明后来被纳入该专家组的讨论议程当中，并被定义为在全球范围内探索一个独特的欧洲定位：“我们的讨论重点在于探索一条具有欧洲特色的人工智能道路，既能融合欧洲价值，又能具有全球普适性”(HI.EGE、2018：5)。 “欧洲价值”也是一年后(即2019年4月)发布的伦理指南的基础。这里·价值的引人参照了欧盟委员会的愿景，以此确保“构建一个合适的伦理法律框架来强化欧洲价值”(HLEGA.2019：4)。同时，它主要参照了基于权利的欧洲法律框架，如《基本权利宪章》和《通用数据保护条例》。此外，欧洲价值还体现在统一的伦理框架当中，即“人本方法”、强调“人格尊严”和个人利益高于其他社会利益： 第4章数据利益与数据文化 137 ## PDF_PHYSICAL_PAGE_INDEX=152 | PRINTED_PAGE=138 凝聚这些权利的共同基础可以被理解为植根于社会对于人格尊严的尊重·这进一步体现了我们所说的“人本方法”，即人类在日常生活、政治、经济与社会领域享有独特而不可剥夺的首要道德地位。(HLEGA，2019：9) 另外，正如前文所述、欧盟成员国、欧洲以外的国家地区以及国际组织也陆续发布了一系列人工智能伦理指南。最值得注意的是，在2019年欧盟人工智能高级别专家组的伦理指南发布后仅几个月之后·就有42个国家通过了经合组织的一项建议，其中包括“可信人工智能”的伦理指南。与其他那些更多基于原则的伦理指南相比，欧盟人工智能高级别专家组的伦理指南重点关注人工智能设计中实现伦理的可操作性，并为人工智能从业者提供了具体实用的指导。最终，通过对技术设计与人工智能从业者文化的特别界定，欧盟在人工智能的伦理指南方面形成了自己独特的文化定位。因此，人工智能设计的“伦理(指南)”或欧盟人工智能高级别专家组命名的“可信人工智能”成为欧洲人工智能的“第三条道路”。这也意味着，作为为人工智能发展提供政策与投资建议(发布于2019年6月)的专家组，欧盟人工智能高级别专家组赞成将可信人工智能视为欧洲的一个核心战略领域(HLEGB,2019)。 与此同时，欧盟委员会一改早期战略当中对于欧洲人工智能方法的短暂“关注”，转而将其提升到了战略高度。欧盟人工智能高级别专家组的第一任协调员纳塔莉·什穆哈曾在一篇文章之中就该专家组的成果如何迅速被纳人欧盟委员会的总体人工智能战略中进行了说明(Smuha，2019)。事实上，当时有700多个活跃的专家组在从事这一方面的工作，旨在向欧盟委员会提供有关特定主题的咨询意见或报告。然而，他们的意见如同泥牛入海，并无回应，欧盟委员会在考虑这些小组的工作方面具有独立性(Smuha，2019：104)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 138 ## PDF_PHYSICAL_PAGE_INDEX=153 | PRINTED_PAGE=139 相反，当欧盟人工智能高级别专家组于2019年3月向欧盟委员会提交人工智能的伦理指南之时，委员会几乎马上便同意将其纳人最新一期《在人本人工智能上建立信任》的文件当中，该文件每两年发行一次(EuropeanCommissionN，2019)。这表明了该委员会对于指南当中七条伦理要求的认可，并鼓励所有利益相关方在研发、部署或使用人工智能系统时予以践行。 在2019年底，随着欧盟委员会新主席乌尔苏拉·冯德莱恩(Ursula vonderLeyen)的承诺，欧洲人工智能方法的探讨被推向了高潮。他做出如下承诺：“在我上任的前100天之内，我将提出有关人工智能对于人类与伦理影响的欧洲协调方法的立法”(vonderLeyen，2019)。在2021年初，世界第一个针对人工智能的监管提案发布。其中强调了“欧洲价值”、人工智能特有的基本权利与安全风险以及欧盟人工智能高级别专家组的伦理指南当中的关键要求，反映了“一种普适性方法，其中大量的伦理规范准则由欧洲内外的公私组织共同制定这一事实可以证明这一点，而人工智能的研发应用应该遵循某些基本的价值导向原则”(European Commission O,2021:8)。 人工智能数据中的欧洲文化利益 我们可以将技术变革视为权力机制运作的结果、它是不同利益之间的协商，也是权力与人类利益的竞争。休斯(1983，1987)认为，正是主导文化决定着技术动量的发展方向，这就意味着相互竞争的文化及其所代表的利益面临两种抉择：要么并入最为强大的文化、要么消失灭亡(Hughes、1983)。 我们已经了解到，在21世纪10年代，欧洲人工智能议程通过强调“伦理技术”和“可信人工智能”.形成了欧洲在全球范围内一种独特的文化定位。此外，我们还可以将这一人工智能议程看作是一种塑造全球人工智能技术动量的政治利益。这里，让我们将这种文化利益视为构成欧洲“数据文化”的“数据利益”之一，并对此进行深入探讨。在《经过设计的文化》(Hasselbalch，2020)一文当中，我提出了四种文化组件(此处根据原文改编和修订)： 第4章数据利益与数据文化 139 ## PDF_PHYSICAL_PAGE_INDEX=154 | PRINTED_PAGE=140 欧洲人工智能议程的第一种文化组件是为21世纪10年代和21世纪20年代初期的技术动量构建欧洲文化环境。例如，欧盟人工智能高级别专家组提出的政策与投资建议(HLEGB，2019)描绘了欧洲社会的不同数字化阶段。其中，人工智能形成了“第三次浪潮”： 欧洲正在迎来第三次数字化浪潮，然而我们对于人工智能技术的采用仍然处于起步阶段。第一次浪潮主要涉及网络连接与网络技术的采用，而第二次浪潮由大数据时代所驱动。第三次浪潮的特点是人工智能的采用。预计到2030年，人工智能将为欧洲经济贡献将近20%的增长份额。相应地，这将有助于提高生活质量、创造新的就业机会、提供更优质的服务，并有助于发展新型、更加可持续的商业模式和机会。(HIEGB，2019：6-7) 欧洲文化背景由多种方式构建而成。首先，通过全面监管数据保护改革，欧盟成为全球范围数字领域内人们常说的“超级监管大国”。因此，《通用数据保护条例》与欧盟《基本权利宪章》当中人工智能创新的法律框架也被认为是基于风险的欧洲独有方法。此外，构成技术动量的欧洲利益相关方也一度成为欧洲关于人工智能的政策协商与辩论的中心议题，具体包括：人工智能从业者、科学家、企业家、数据分析家、教育家、工人、政策制定者与全体公民。最为关键的是，欧洲人工智能数据基础设施也正在日渐成型。众所周知，数据是人工智能技术动量的主要推动力。事实上，我们认为，欧洲数字化的第三次人工智能浪潮也势必将“由大数据时代驱动”(正如欧盟人工智能高级别专家组所述)。早在关于人工智能的第一则通讯当中，特别是在谈及“丰富数据环境”的创建之时，欧盟委员会就已然认识到数据是欧洲发展人工智能的一个关键要素，因为“人工智能需要大量的数据来得以发展”(European Commission K，2018)。因而，欧盟也被看作是“数据经济的核心参与者”(HLEGB，2019：16)。的确，数据“是发展人工智能不可或缺的原材料”(HLEGB，2019：28)。因此，数据也被认为是作为人工智能动量的利益相关方利益的核心点：“鉴于人工智能的绝大多数最新进展都源于针对大数据的深度学习，因此确保欧洲的个人、社会、行业、公共部门以及科研院所与学界都能从这一战略资源当中受益至关重要”(同上)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 140 ## PDF_PHYSICAL_PAGE_INDEX=155 | PRINTED_PAGE=141 欧洲人工智能议程的第二种文化组件涉及针对“欧洲人工智能”的基本文化价值与伦理的构建与协商。同样，这主要也是参照了现行欧洲法律框架而得以形成，如《通用数据保护条例》和《基本权利宪章》。然而，随着人工智能等数据密集型技术的诞生，人们也逐渐意识到文化意义协商过程已经开始被用于发现并解决现有法律框架似乎无法解决的利益冲突。因此，欧洲人工智能议程将“人本方法”作为基本的价值导向框架，并对其进行了详细阐述，强调人的利益高于任何其他利益。同时，该议程还探讨了一种特别的数据治理方法、强调在处理个人数据过程当中对个人赋权。例如，欧盟人工智能高级别专家组的伦理指南构建了一个明确的数据管理框架，其中的七项要求之一就是“隐私与数据治理”、特别强调嵌入人工智能技术的数据设计过程当中的人本价值。这里。“人类能动性”这一概念与个人知识和提供给个人用于制定决策并挑战自动化系统的信息密切相关(HLEG B.2019：16)。在该议程当中，“人本方法”首次被作为一个重要框架用于解决嵌入人工智能创新之中的不同利益与价值之间的冲突。例如，用于解决伦理驱动型创新方法与数据驱动型创新方法之间的冲突，或用于解决机器自动化劳动与人类劳动力之间的利益冲突。基于这一理念，他们进一步提出了一系列“人本主义”的解决方案来应对这些冲突，具体包括：发展保护个人数据的机制，并使个人能够控制其数据并通过其数据获得权力(解决公民数据授权与国家/企业数据权力之间的冲突)：将伦理技术作为竞争优势(解决伦理驱动型数据驱动型创新之间的冲突)；将人机协同/人工控制型人工智能解决方案用于工作场所、提升劳动力的人工智能技能(解决自动化与人工替代之间的冲突)；增加对“企业对企业”(B2B)的人工智能解决方案当中非个人数据使用的关注，减少对“企业对个人”(B2C)的解决方案之中个人数据的关注(解决使用个人数据的风险与人工智能发展中的数据密集性之间的冲突）。 第4章数据利益与数据文化 141 ## PDF_PHYSICAL_PAGE_INDEX=156 | PRINTED_PAGE=142 欧洲人工智能议程的第三种文化组件涉及针对欧洲“技术文化”的阐释。特别是对“政治”与“价值”以及现有人工智能技术设计当中权力不对称性的挑战。因此，被称为“伦理技术”的技能、教育、方法与实践是欧洲人工智能议程讨论的核心问题。正是在这一讨论当中，作为全球人工智能动量中欧洲定位的欧洲“伦理设计”开始问世。欧洲对于特定人工智能“伦理”“技术文化”的战略投资同样也是欧盟人工智能高级别专家组政策与投资建议的关注焦点。他们认为，欧洲需要培养“理解力”与“创造力”，并通过“提升人类对于人工智能的知识与认识”来广泛“赋予人类权力”(HLEG B，2019：9-10)。 欧洲人工智能议程的第四种文化组件涉及对文化数据空间(一个欧洲人工智能数据基础设施)的描述。在21世纪之初、“数字文化”在跨辖区数字数据流的基础上产生。全球数据基础设施“架构”的出现成就了一种跨辖区空间，同时对欧洲数据保护(隐私价值)和法律框架构成了挑战。例如，在很早以前，欧洲人权法院（ECHR)有时不得不考虑数字技术的进步对其涉及隐私权案件中管辖权的地域定义方面所带来的挑战，以及由此带来的法律不确定性。这也意味着，人工智能最初是在辖区内部以及跨辖区的全球大数据基础设施的基础之上顺势而起。监控丑闻、虚假新闻与选民操纵等各种形式的嵌人式数据不对称性披露引发了欧洲对他国“数据文化”与自身数据架构的严密关切。因此，以基于价值的数据方法为参照，欧洲人上智能议程提出了一种替代性欧洲人工智能数据共享基础设施，但它被限制在欧洲数字辖区与地理区域空间之内。在人工智能的政策与投资建议当中，欧盟人工智能高级别专家组将这一数据基础设施描述为“由人工智能技术支持的社会基本构件”。此外，这些数据基础设施也被描述为欧洲人工智能关键公共基础设施的根基，因此应该“把欧洲数据分享基础设施视为公共事业基础设施”。换言之，这一欧洲数字空间建构同样需要融入一套特别的价值体系，并在设计之时“有意对隐私性、包容性以及可访问性予以适当考虑”(HLEGB、2019:28)。这也正是数据中文化利益的立足点。价值驱动型方法被视为是一种将欧洲价值融入技术研发中的文化努力，用于对抗普遍存在于技术基础设施当中的“非欧洲”威胁：“对非欧洲供应商的数字依赖以及缺乏基于欧洲规范和价值的高性能云基础设施不仅可能会在宏观经济与安全政策方面给欧洲带来风险，同时也会将数据库和IP地址置于危险境地·其至会阻碍欧洲互联网设备(物联网，1oT)的硬件与计算机基础设施的创新以及商业发展”(HLEGB、2019：3)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 ①关键法案参考分析见https://wordpress. com/2010/05/privacy-and-jurisdiction in-thenetwork-society.pdf. 142 ## PDF_PHYSICAL_PAGE_INDEX=157 | PRINTED_PAGE=143 文化与技术 托马斯·休斯(ThomasP.Hughes)认为文化环境是社会技术系统进化第四个阶段的重要组件。事实上·技术动量是由社会当中盛行的主导文化创造而来。正是这种常见的力量将人类、社会与技术特征的所有不同因素聚集起来，最后形成了一个技术动量：“归结起来，所有这些构成系统的因素都可以被称为系统文化”(Hughes。1983：15)。同时，休斯认为“技术文化”是技术系统发展的“背景因素”，其一方面来自系统内部，体现为工程帅与系统构建者的价值和理念，另一方面来自系统外部·表现为区域国家文化(Hughes，1983：363)。 截至日前·我已经按照休斯的方式[在科学技术研究(STS)中也普遍使用使用“文化”一词，描述了社会技术系统研发的共享概念与物质框架。此外、我还使用“价值”一词来指代研发过程当中所涉及的伦理道德维度(与价值敏感设计中的做法一样)。然而，当我们讨论政策制定者或工程师、数据从业者、系统构建者共享并践行着价值导向的文化框架之时、它究竟所指为何？拥有一个足以创造技术动量且能在社会当中发展系统并将系统整合的共享文化又意味着什么呢? 第4章数据利益与数据文化 143 ## PDF_PHYSICAL_PAGE_INDEX=158 | PRINTED_PAGE=144 技术风格与文化价值 通过采用价值敏感设计这一技术研发方法，我们关于“好”与“理想”的道德评价成为技术设计过程的一部分。事实上，价值就是“人们关于·好'的理想品质或状态的认知”(Brey，2010：46)。然而，价值不仅仅是技术开发者的个人理想，它们也是拥有共享利益和独特共享文化的不同利益相关方的追求目标。实际上，作为伦理评价的基础·文化的确具有共享性。 休斯认为，每个地区都是一个独特的环境，有着不同的技术概念化方式与设计方式。文化在这里体现为各个地区的“技术风格”。特别是随着“国际技术库”的可用性不断增加(包括国际贸易、专利流通、专家迁移、技术转让以及其他形式的知识交流；Hughes，1987：69)，技术风格差异在20世纪变得愈发显著。如他所言，技术风格是一种“对环境的适应”(Hughes，1987：68)。换言之，它是相关社会经济制度文化的一种技术语言，在这种文化当中，知识实践被系统化H概念化。这样一来，即便是技术设计当中的伦理评价也可以被看作是相关文化与利益的产物。 社会学家爱泼斯坦表明：科学技术背景下的文化概念研究有两种路径：第一，研究科学机构与实验室内部的文化，第二，研究其在适应并整合外部世界中的作用。对于科学机构内部文化的早期研究提出了知识是一种文化产品的概念，因而其研究重心放在科学主体在不同文化环境当中对利益的竞争之上(Epstein，2008：168)。自然而然。科学可信度与权威性也被看作是“文化资源”，且被用于强调科学机构之间的观点协商过程(Epstein，2008：168)。基于此，那些塑造技术实践的意义制造系统与网络成为文化研究的关注焦点。此外，在这篇文章当中，爱泼斯坦(2008：169)还基于不同的科学文化探讨了文化的多样性。例如，科学实验室的人种学研究。另一方面，爱泼斯坦认为，针对科学技术的社会学阐释能够用于识别机构与科学实验室外部的文化。这些文化通常是人类为了组织生活而创造的物质文化与政治文化，比如，现代国家治理的技术手段与模式。在外部世界当中，文化结果研究还用于边界创建或针对世界进行分类的实践当中，这些形成了社会分层与权力分配模式(Epstein，2008：172-173)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 144 ## PDF_PHYSICAL_PAGE_INDEX=159 | PRINTED_PAGE=145 一般来说，在科学技术研究中，文化始终与我们认识事物的方式以及创造一项技术所用的技能资源密切相关。①因此·在《作为实践和文化的科学》一书中、科技学者安德鲁·皮克林（AndrewPickering)在脚注中将文化定义为科学工作的一种资源： 在这篇文章中，“文化”指的是科学家在其工作当中使用的资源领域，而“实践”指的是他们在该领域参与实施(或不实施)的行为。由此看来，“实践”具有“文化”所缺乏的时间性。因此，二者不应被理解为彼此的同义词。打个比方来说：建造犬舍所需要的锤子、钉子与一些木板等材料与建造犬舍的行为并不相同。尽管建造完成的一瞬间，犬舍也变成了一种用于未来实践(比如，驯犬)的资源。(Pickering，1992：3) 独特的“知识文化”或“技术文化”也可以被看作是规定技术设计规则与社会采用规则的环境。社会学家哈利·科林斯(HarryM.Collins)是英国巴斯大学科学社会学研究的关键人物之一·他将“文化技能”定义为技术设计的意图与目的，同时也是一套隐性社会化行动规则(Collins、1987：344)。他认为科学技能具有两种类型：“可解释类别”和“不可解释类别”。前者包括正式事实与规则、启发式方法(经验法则)与手工感知技能、这些都具有可见性与可解释性；后者是他认为的技术研发当中不具解释性而具有隐藏性的组件(Collins.1987：337)。实际上，对于正式事实与规则、启发式方法和手工技能的使用与理解同样离不开不可解释性文化技能。然而，这些技能只是在社区当中被默默地分享，并且只有同一文化社区之中的个体才能习得。因此，对于缺乏文化技能的外部人员来说、他们缺乏一个最为根本的框架，这就是为什么当不同文化社区相遇之时，必须对文化成分予以解释。科林斯对此作出了如下阐述： 第4章数据利益与数据文化 ①我确实认识到，在科学技术研究当中，文化也是-个颇具争议的概念。例如、科林斯与拉图尔9(Callon&Latour。1992和(ollns&Yearley、1992)之间的辩论就是其中个典型案例。 145 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=160&limit=10)