--- schema_version: "library-reader-v1" source_type: "original_book" title: "权力的数据伦理学大数据与人工智能时代的人本方法新解" author: null edition: null publisher: null year: null isbn: "9787313310330" library_document_id: "1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed" source_sha256: "c8690c24b9cff428b770fe7f4e8124669c31c0081ab74dc4f8a67f1d3228e2a6" pdf_physical_page_count: 266 pdf_physical_page_index_base: 0 range_start: 80 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed?start=80&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=80&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=70&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=90&limit=10" --- # 权力的数据伦理学大数据与人工智能时代的人本方法新解 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=80 | PRINTED_PAGE=66 可持续性与数据污染问题 在2017年谷歌年度开发者大会上·首席执行官孙达尔·皮柴(SundarPichai)重申了谷歌公司秉持的“人工智能优先”使命，将机器学习作为一个广义概念融人谷歌的所有平台，以便增强视频、搜索、电子邮件以及移动电话等所有服务功能①。在《快公司》(FastCompany)杂志的一次采访当中，皮柴将这种把人工智能放在所有谷歌产品首位的做法看作生命存在般的启蒙时刻：“人工智能将会日渐扩大规模、或许可以揭示宇宙的奥秘……这将是我们作为人类所要做的最重要的事情”(Brooker，2019-9-17)。 在21世纪初，如此包罗万象、壮怀激烈的人工智能方法并非仅为谷歌独有。这一点在BDSTls与AISTIs的日常实践当中同样不言而喻。当初研发与采用这种方法之时，完全是出于一种紧迫感、这与20世纪90年代对大数据的构想的紧迫感大同小异。也正是通过这种方式.BDSTIs升级为具有先进技术数据系统的AISTIs.能够实时感知数据化环境，并能够基于大数据训练自主学习，最终实现自主或半自主进化。AISTIs装备了社会组件，促进公共和私人领域不断进步并融入其中，同时它们已经在IT实践的系统标准与数据保护的监管框架当中实现部分制度化。然而，就像本书所述，到了21世纪10年代末，人们愈加关注人工智能与大数据的可持续性价值、自主人工智能系统的伦理影响以及大数据的负面社会影响，同样这些担忧也开始悄然进入工程界。因此，2019年在谷歌年度开发者大会上：谷歌公司负责创新的业务主管珍·真纳伊(Jen(ennai)告诉开发者们：“我们确定了四个技术禁区。我们不会建造或部署武器：也不会部署我们认为违反国际人权的技术”(引述自Brooker，2019 -9 - 17)。不过、并非所有听众都相信谷歌公司的人工智能伦理方法。正如一位参会者对在场的记者所说：“我觉得咱们得到的信息尚且不够充分………他们告诉我们不用担心，这个都在掌握之中’，但我们都知道他们根本没有‘掌控’””(引述自Brooker，2019-9-17)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 ①请参阅孙达尔·皮柴在谷歌 2017年年会上:的演讲，htips://events.google.com/io2017. 66 ## PDF_PHYSICAL_PAGE_INDEX=81 | PRINTED_PAGE=67 如果想要管理BDSTIs与AISTIs的社会技术演变方向，我们必须考虑到一个错综复杂的关系网络·其中包括推动特定科学技术发展的不同世界观与想象力。一位谷歌开发者大会参与者对谷歌公司良善意图的怀疑，就是21世纪10年代后期“系统之争”这一争议时刻出现的征兆·这场“论争”对于人工智能与大数据技术实践的先前惯习构成了根本性颠覆，主流价值也难逃此列。因此，虽然大数据与“人工智能优先”的思维架构与理念仍在推动BDSTIs与AISTls不断发展，但其也愈加面临其他基于“价值”的方法的挑战，例如“隐私设计”“伦理设计”“人本导向”“可信人工智能”以及“可持续人工智能”等。 我的观点是，我们可以把这样的时刻，即基础价值阐释与博弈的最关键时刻，视为治理的有效组成部分。这是能够引导社会技术系统演变的新政策新方向的关键时刻。我们为应对此类争议或危机所明确制定的价值观往往具有极大的社会权力、因为这关系到我们的身份属以及去处。这也是伦理学发挥关键作用的时刻，此时，伦理学体现着对于那些其他竞争性利益博弈的人类价值的显性文化的反思作用。正是在这些文化价值被转化成具体的技术解决方案、科学、创新形式、文化运动与政策之时，最重要的社会技术变革得以发生。然而，这绝非是个一帆风顺的过程，实则非常缓慢，有时需要数十年的时间，并且在多个主体参之下才能完成。 例如，试着呵想下“环境可持续性”这--概念是如何在过去50年当中间世成形，它是为了应对物理环境污染而得以提出的。想想看，这些可持续性价值观以及对于地球未来和代际公正的关注又是如何成为法律政策框架的全新动力？例如，20世纪70年代出现的国内(际)环境法律与合作(如1972年的第一届联合国人类环境会议)就是很好的例子。对于环境与可持续性价值观的关切使得一些行业发生了翻天覆地的变化(例如汽车行业)，并且推动了“绿色科技”等新兴行业与新态科学问世。现如今·公司需要塑造“环境友好型”形象并实施举措，不仅是因为必须遵守环保法规，更是因为作为一个公司，保护环境并采取可持续发展模式是一种明智的商业路径。这既是投资者的需求与法律的要求，同样也是客户的期待以及整个社会的期许。 第2章社会技术变革与数据伦理治理 67 ## PDF_PHYSICAL_PAGE_INDEX=82 | PRINTED_PAGE=68 现在再来考虑一下数字技术对于环境的影响。首先，数字技术、数据存储与处理对于我们的自然环境影响巨大。据估计，2019年它们在全球温室气体排放中的份额达到了3.7%(The Shift Project,2019)。例如.数据中心占用全球总电力需求的1%(并在稳步增长中)。其中大部分增长要归功于亚马逊、谷歌与微软等大型大数据公司的云计算(Mytton，2020)。再来看一看数据密集型技术用于然语言处理的大型人工智能模型时(例如机器翻译).其碳消耗是普通人一年碳用量的七倍之多(Strubell et al，2019；Winfield、2019 - 6- 28)。 尤为重要的是，我在这里还想提一下大数据对于社会与个人环境的影响。计算机安全与隐私技术专家布鲁斯·施奈尔(BruceSchneier)使用“数据污染”这一术语来描述大数据技术与系统对于隐私的影响。他认为这是我们这个时代的一个核心环境问题： 这种潮水般的数据所带来的就是信息时代的污染问题。所有的信息处理都会产生数据。如果我们对其置之不理。它将永续存在。成功处理它的唯一方法就是通过立法来规范其产生、使用以及最终的处理。(Schneier，2006-3-6) 因此，我们可以(也应当)把“数据污染”视为大数据对于自然环境、社会环境以及个人环境所产生的复杂性负面影响。然而、在BISTIs与AISTls的早期历史当中，社会以及对当下“数据污染”负有贵任的各个公司的“环境意识”远远落后于它们对其他形式环境间 权力的数据伦理学：大数据与人工智能时代的人本方法新解 68 ## PDF_PHYSICAL_PAGE_INDEX=83 | PRINTED_PAGE=69 题的关注。 公司的环境意识与可持续价值观往往与其对健康生态系统的具体影响密切相关，而后者的生死存亡往往取决于诸多不同组件之间的微妙博弈。自20世纪60年代以来，各行各业(如交通运输、制造业和能源业)对于自然环境污染影响的认识已然逐渐转化为法律法规、技术标准以及强势的社会要求。例如，现如今要求公司使用能源标签，达到ECO设计标准，并随时监测和系统改善其环境表现，同时客户也要求“生态友好”型产品。然而，面对“数据污染”对于环境的负面影响，同样的缓解工具——社会期待与法律法规——尚未被研发出来。我们还需要更好地了解自身“数据生态系统”的构成与平衡。 让我们来看一些具体实例。在2014年，脸书的数据科学家对689003名随机选择的脸书用户进行了一次大规模的调研，通过向其新闻提要板块推送积极或消极的故事、监测他们的情感反应(Kramere1 al.，2014)。这件事在曝光后，社会各界一片哗然.导致脸书的一位发言人立即对此公开道歉。然而、这个道歉并没有涉及这一数据实验的“环境影响”。换言之、它并没有涉及脸书公司使用数据的伦理问题(如操纵不知情用户的个人生活抑或对于数据保护的法律方面影响)。事实上，她只为实验的“沟通不畅”表示歉意而已。正如她所说·这些关于用户数据的实验只是例行公事：“这是公司为了测试不同产品所做研究的-部分，这就是事实”(Krishna。2014-7-2)。在诸如此类(脸书用户数据调研)存在伦理法律硬伤的操作曝光多年之后，在批判性数据记者科学家多年的调查努力下，现在这些公司在数据科学实践当中存在的伦理问题、法律问题，以及对于用户个人环境的不利影响可以很容易被识别出来。因此，社会对于诸如此类的披露的要求反应也愈演愈烈。尽管如此，我们仍然没有找到能够像处理其他传统环境问题那样的治理工具，以缓解这些环境风险。 这里可以再举一个例子，该例子涉及一家公司对于环境污染的公开揭露。但是，这个例子中的公司面临的是更加成熟的环境法律框架。2015年，大众汽车公司被发现使用了先进的软件来欺满污染排放测试。并允许大众汽车排放的污染物高达标准值的40倍。这一事件被公众视为全球范围内的重大丑闻。大众汽车公司不仅造成了更多的污染，影响了我们的自然环境，而且还堂而皇之地操纵数据使得这一切行为得以为继。丑闻曝光之后，大众汽车公司立即被迫召回数十万辆汽车；在股票交易所，大众汽车公司的股价一天之内便蒸发了150亿欧元。一位首席执行官对此公开道歉并且随后引咎辞职·同时全球各国政府纷纷要求大众汽车公司采取召回行动。(Topham·2015-9-25) 第2章社会技术变革与数据伦理治理 69 ## PDF_PHYSICAL_PAGE_INDEX=84 | PRINTED_PAGE=70 下面，我将用自己的话重述一下《卫报》当时描述大众汽车丑闻的部分文字内容，以此创作一个虚构的例子.模拟一个假定的大数据公司DDMobile在未来应对“数据污染”丑闻时的类似反应： 在被发现使用先进软件非法监控用户并且允许其设备收集高达标准值40倍的数据之后，DDMobile公司被责令召回欧洲地区的482000台设备。新成立的欧洲数据保护局(EI)PA)声称.DDMobile公司在其设备当中安装了监控软件、并表示：“我们打算追究DDMobile公司的责任，并且希望该公司能够予以归正。在违反数据污染预防与数据保护标准的设备当中使用监控软件属于非法行为，也会造成隐私威胁。”EIPA警告称，IDMobile公司将面临进一步的调查，并可能因为违反《数据污染指令》与《通用数据保护条例》而面临其他惩罚，包括高达每台设备37500欧元或总计180亿欧元的最高罚款。(改写自Topham，2015:9-25) 这个例子涉及虚构的制度以及相应的法律后果，我把它放在大家熟知的环境中来阐述类似环境丑闻中的“数据污染”概念。显然。随着公众对于AISTls与BDSTls数据污染的社会意识日益增强、我们也将看到政策制定者与消费者应对数据污染的方式发生转变，以及科技公司的可持续价值。例如，法律学者奥马里·本-沙哈尔(mriBen-Shahar)描述了用于缓解数据污染影响的“数据保护环境法”的发展状况，其法律工具与那些为了控制其他形式工业污染而创建的工具十分类似(Ben-Shahar，2019)。然而，这种应对不仅关乎法律维度，其实文化维度与社会维度同样牵涉其中。我们将越来越多地看到并感受到大数据技术的“数据污染”对社会形态、自然生态系统以及未来子孙后代所产生的负面影响。此外·它对我们的隐私、民主制度等方面均有不良影响大数据技术的数据消耗还会产生大量的碳排放。我们将通过在法律、设计、科学和教育领域中表达相应关切而做出回应。因此、数据技术、产品、服务的数据设计、存储与处理产生“数据污染”也将成为与之相关的公司和机构必须思考的重要环境问题。我们相信，变革一定会发生，但绝不会一蹴而就。我们首先需要注意到这些负面环境影响，方能有所作为。正如机器人伦理学家艾梅·范(Aimee vanWynsberghe)所言·这就是为什么我们当下需要一场运动，这场运动不仅将可持续性视为一项技术目标(如人工智能)，而且还需要具体解决这些技术研发应用的可持续性问题(vanWynsberghe,2021)。 米 权力的数据伦理学：大数据与人工智能时代的人本方法新解 70 ## PDF_PHYSICAL_PAGE_INDEX=85 | PRINTED_PAGE=71 数据伦理治理 一个大型社会技术系统在社会当中整合所需技术动量并非只是社会、经济与文化因素的任意捏合，它还需要具有一个框架、指导构成系统技术架构(及其在社会中的治理、采用与接受)的方向、价值、知识、资源技能。有时，正如上文我试图通过“环境与可持续性关注”!“数据污染”的演化所说明的那样，这一框架比其他框架更为明确地呈现出文化与价值导向。这种具有反思性伦理评价与价值导向的“文化”框架·提醒我们不能将其仅仅看作对于关键问题的暂时批判性回应、它还是治理的有机组成部分。在21世纪10年代，针对数据污染不良影响的充分关切已然在新近创新、法律、科学与政府间合作当中有所体现。因此，“数据伦理治理”也被更多地看作公共政策制定中治理的一个组成部分，其中“数据与人工智能伦理政策倡议”则被认定为制度化治理形式的组成部分。 第2章社会技术变革与数据伦理治理 ①另见数据染权力皮书》2022)和(数据污染权力小组简报20212022》，www. datapollution.eu. 71 ## PDF_PHYSICAL_PAGE_INDEX=86 | PRINTED_PAGE=72 温菲尔德(Winfield)和伊洛特卡(Jirotka)首次使用“伦理治理”这一术语来提出“针对机器人与人工智能要采取一种更具包容性、透明性和敏捷性的治理形式、以此建立并维系公众信任，并且确保此类系统研发能够符合公众利益”(Winfield and Jirotka，2018：1)。他们认为，“伦理治理”是对一般性有效治理的超越，它是“一套旨在确保最高行为标准的过程、程序、文化与价值设计”(Winfield andJirotka.2018：2)。因此，他们认为，用伦理框架来管理机器人与人工智能的发展，需要一套多样化方法——不但要有单个系统与应用领域层面的方法，还要有制度层面的方法(Winfield andJirotka，2018：2)。 之前我们讨论“互联网治理”之时，将其看作一个多主体参其中的动态过程，这里又将“伦理治理”看作一套旨在确保“最高行为标准”的活动与方法。基于此，我还想强调一种由实用主义驱动治理方法的应用伦理学。这意味着，我所认为的“伦理治理”不仅仅是对基本伦理价值的协商与应用，而且体现在产生伦理反思的条件、实践和过程等方方面面中。 以21世纪10年代后期伦理学在AISTIs治理中的作用为例·我们发现存在两种不同的“应用伦理学”形式以及相应的不同方法。此间：从大量来自各个国家、政府、公民社会以及产业利益相关方等利益主体的规范性人工智能伦理指南与原则当中，我们可以看到公共治理协商中伦理占据显要位置（Fjeld et al.，2019：Jobinet al..2019)。当然·这些指南与原则也反映了最初对 AISTIs与jBISTls治理中伦理作用的主要质疑。大家都不清楚这些高层次的原则如何能够实施并转化为实践，也不知道它们代表谁的利益。它们是否会对全球从业者、开发者、用户以及政策制定者的实践标准产生影响呢？为了保证事关原则性的对话更富建设性，一种方式就是追寻各种文件之间的共性主题，以此创建一个具有一套普遍原则的通用规范框架(Floridi et al.，2018；Winfield and Jirotka，2018)。然而，在这里我想说明一下另外一种带有实用主义色彩的应用伦理学方法如何，实际上已经找到用武之地。这种方法在关乎伦理的公共辩论中不太显眼，因为它并没有单独体现“伦理维度”上，但它对于AISTls与BDSTIs的伦理治理同样重要·其至可以说更为重要。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 72 ## PDF_PHYSICAL_PAGE_INDEX=87 | PRINTED_PAGE=73 哲学与政治学教授安德鲁·奥尔特曼(Andrew Altman)描述了一种带有实用主义色彩的应用伦理学，其中包括“语境主义辩护观”(Altman.1983：232)。这一观点认为任何伦理假设(包括高层次的伦理原则)都可以在语境当中受到挑战。或者换句话说，一种伦理学理论或方法只有在实践之中才能得到证明。因此，我们应该将应用伦理学视为一个实践与反思的过程，而不是把伦理规范框架的制定作为I作重点。这意味着我们必须考虑所有不同伦理准则的独特参照点、应用环境及其“非中立性”的伦理出发点。然而，这也意味着：“伦理”不仅存在于基础价值的协商以及规范伦理学的理论或框架的创建当中，更重要的是，它还可以在检测这些伦理学思想的实践活动之中现身。因此，下面我们需要更加详细地探讨“数据伦理治理”。它不是一套伦理学原则抑或指南，而是特定时刻实际活动的集合，旨在针对某种伦理学理念进行有意识的测试。这些活动才是我所认为的权力的数据伦理学当中伦理学的致用之处。 在21世纪10年代，来自公民社会、政界、商业与技术领域的各个利益相关方发起了各种活动、这些活动都同绕着共同的伦理学理念开展——发展“以人为本”的数据文化，以应对数据设计与实践中主导数据文化的伦理影响。在此我将介绍一下其中的一些活动。 第2章社会技术变革与数据伦理治理 73 ## PDF_PHYSICAL_PAGE_INDEX=88 | PRINTED_PAGE=74 数据伦理倡议 我之前描述过在欧洲出现过的公共政策倡议，其中明确提到了数据伦理。这些政策倡议基本是与一些民间社团、学术圈以及技术界倡议同时出现，其中数据的伦理影响被框定为大数据机构与公民之间在数据技术设计当中日益严重的数据不对称性问题，当然还有需要遵循上述路径寻求解决方法的问题。例如，“个人数据存储运动”(Hasselbalch and Tranberg,2016\~9- 27)的概念框架被非营利性协会MyData全球运动描述为这样一场运动：其中，个体“不再是被动的目标群体，而是被赋权为在线上线下私人生活管理中的主体，他们有权通过实际手段来管理自我数据与隐私”(Poikola et al.,2018)①。这里的重点是要超越单纯依据数据保护法律条文的教条主义，实施兼具透明度、问责制、隐私设计等价值与伦理原则的举措(Hasselbalch&Tranberg，2016)。尤其值得一提的是·正如伦理标准运动背后的关键人物之一约翰·黑文斯(JohnC.Havens)在其著作《失控的未来》(2016)一书当中所呼吁的那样：我们需要通过价值驱动的技术设计方法来缓和伦理影响，具体例子包括工程标准[如全球最大的工程师组织之一电气电子工程师学会（IEEE）制定的P7000s系列伦理标准]以及人工智能标准(为人工智能发展制定的伦理设计的技术标准)。 民间社团的隐私运动 21世纪10年代数据伦理的一个重要动量就是不同的间社团发起的诸多消费者与民众意识倡议，其中大都涉及民众、国家私营企业之间在线权力不对称性问题。在20世纪90年代，隐私运动致力于在技术成熟的社区当中发展隐私增强技术(PETs)、其中引入了 权力的数据伦理学：大数据与人工智能时代的人本方法新解 ①另见{MyDaua·人类个人数据使用介绍》(2020),www.mydata.org。 ②见(行动中的道德)P7000s 标准，htps://ethicsinacion,ieee.org/p7000. 74 ## PDF_PHYSICAL_PAGE_INDEX=89 | PRINTED_PAGE=75 TO)R匿名软件和 TOR 项目及运动等，不一而足（Hasselbalch andTranberg·2016:85)。在21世纪10年代，隐私运动开始呈现出更加普及的样态，如总部位于英国的国际隐私保护组织，还有总部位于美国的电子前沿基金会(EFF)等组织，它们均致力于开展有利于提高公民在线隐私认识的活动、尤其是针对国家监控行为的认识。由澳大利亚记者阿舍·沃尔夫(AsherWolf)在 2012年发起的加密派对运动，导致了全球范围内一系列自发组织的加密派对喷薄而出，民众可以参加这些派对并学习如何保护其在线隐私权与匿名权。越来越多的普及型隐私运动也考虑到了私营企业的大数据实践·旨在为其提供“数字化自卫”工具以及可以替代大数据技术产业巨头的消费者服务(Tranberg and Heuer.2013:Hasselbalch and Tranberg、2016;Veliz,2020)。 伦理设计与数据系统的批判性调查 许多“伦理设计”活动当中明确阐明了对于技术与设计的具体应用伦理学方面的关注。作为一个术语，“伦理设计”常应用于技术设计与实践(Dignum et aL.2018)(在下一章中，我将再次谈及“伦理设计”j价值敏感设计方法)。这里、有必要提到“隐私设计”这一术语、其最初是由前加拿大信息与隐私专员安妮·卡瓦齐尼(AnneCavoukian。2009)提出，旨在特别关注那些试图将“隐私”作为一种价值嵌入某种数据设计中的组织与设计实践。此外，我们还注意到技术哲学学者非利普·布雷/布赖(Philip Brey)所描述的“披露性计算机伦理学”、它试图识别并揭示不透明信息技术的伦理影响(Brey、2000：12)。因此，针对特定数据处理软件的案例研究对于“数据伦理治理”至关重要。例如。“机器偏见”研究(Angwin et al.，2016)揭示了美国国防系统数据处理软件中嵌入的歧视：性别与非裔美国研究学者萨菲娅·乌莫加·诺布尔(2018)对于谷歌公司歧视性搜索算法的调查：还有数学家凯西·奥尼尔(Cathy()Neil.2016)对于大数据决策制定(涉及投保、征信以及就业等方方面面)背后数学的社会影响分析。在数据伦理治理方面，人权律师与AdaLovelace研究所所长卡尔利·欣德(CarlyKind)描述了人工智能伦理学的三波发展历程，其中前两波侧重于把高级原则与技术作为解决伦理问题的方案，第三波才开始“具有真正的意义了”，主要探索权力、公平与正义问题(Kind, 2020)。 第2章社会技术变革与数据伦理治理 75 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=90&limit=10)