--- schema_version: "library-reader-v1" source_type: "original_book" title: "权力的数据伦理学大数据与人工智能时代的人本方法新解" author: null edition: null publisher: null year: null isbn: "9787313310330" library_document_id: "1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed" source_sha256: "c8690c24b9cff428b770fe7f4e8124669c31c0081ab74dc4f8a67f1d3228e2a6" pdf_physical_page_count: 266 pdf_physical_page_index_base: 0 range_start: 160 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed?start=160&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=160&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=150&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=170&limit=10" --- # 权力的数据伦理学大数据与人工智能时代的人本方法新解 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=160 | PRINTED_PAGE=146 当我们同文化上与我们相近的人互动之时，我们很少使用明示性话语来传达意义，因为从一开始我们就对很多东西彼此心知肚明。但是，随着交际者之间文化背景差异的增加，互动中的潜在歧义也会随之增多，此时需要明示以及可以明示的信息也就越来越多。(Collins，1987：344) 因此，科林斯开始着眼于技能如何在不同类别中转变。比如，经验法则什么时候变成事实或正式成文规则。最重要的一点，他认为技能从一个类别转变为另一个类别往往涉及“文化环境”的改变，而这一变化“往往与更大范围的社会政治事件密切相关”(Collins，1987:344). 实际上，科林斯还使用了人工智能专家系统来说明隐性文化技能如何转变为显性文化技能。对于人工智能专家系统而言，人类专家的所有技能——可解释的正式事实与规则同不可解释的文化技能，都需要被编码进系统中进而“智能化”运行。因此，他认为，相较于那些缺乏组织化专业知识和文化技能的专业人士而言，那些具有系统编码技能的人类专家(如律师和医学专家)可能更容易做到这一点(Collins,1987：344)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 146 ## PDF_PHYSICAL_PAGE_INDEX=161 | PRINTED_PAGE=147 这一关于文化技能与技能转换的理论完美诠释了文化作为关键因素在技术发展变革当中所起的关键作用。具体而言，作为一种不具可见性且常被熟视无睹的资源，技能与概念框架对于技术发展变革至关重要。 人工智能系统的智能化程度(及其在文化场景中的适用性)与它的文化设计密切相关。因此，如果不能将不可见的文化因素融入AISTIs设计当中，那也就意味着它在社会整合之中失灵。针对这一点，我们可以运用价值敏感设计方法，将文化作为道德评价因素纳入技术的价值设计过程。同样，如果不能将文化敏感道德评价融人AISTIs设计当中，就可能会导致基础设施与特定文化社会的伦理道德评价之间的冲突。因此，正如我们所见，无论是科学技术方法还是价值敏感设计方法，二者都着重强调了文化与共享文化框架对于社会技术发展的重要作用。然而，严格来说，二者都没能提供文化的概念化描述。 什么是文化？我们如何识别并区分技术变革当中的文化因素与文化伦理评价因素的特征？事实上，不同文化系统之间的冲突对抗不仅存在于系统之间，它们更多是在社会技术变革的权力斗争当中互相对立，那么我们如何才能合理地理解不同文化系统在认识世界方面呈现出的不同本质特征？我们如何合理理解它们之间的妥协？我的答案是从诸多文化研究当中深人探寻文化与文化价值的概念。我之所以这样做，主要是为了提供一种方法，旨在保证技术动量的文化形态结构能够清晰可见，以便利用数据伦理治理方法对其进行反思。 文化与权力 这里·我们认为文化是一种通过共享概念框架与资源将各个社区连接起来的价值体系。文化也是一个主动性系统·因为它具有特定的优先级排序、目标以及组织世界的方式，而且这些又会被主动地强加到社会实践当中。例如，工程师与物质世界(包括我们的技术系统)的关系。然而，基于前文所述，我们发现，最重要的一点在于文化是由利益建构而成，因此特定社区与社会当中的主流文化只是针对世界的看法之一。据此·我们可以认为，文化就像是鲍克与斯塔尔的分类系统(2000);或者反过来说，分类系统是一种文化表征系统(下文中我将详细说明这一点)。文化系统看似完整，事实上将世界简化成一系列分类并不能反映全貌。总有一些事物无法归类而被遗漏。换言之，文化作为一个文化系统而言，从来都不具完整性，永远只差一点点。 第4章，数据利益与数据文化 147 ## PDF_PHYSICAL_PAGE_INDEX=162 | PRINTED_PAGE=148 在1958年，英国文化研究传统的主要创始人之一，马克思主义理论家雷蒙德·威廉姆斯(RaymondWilliams)对文化给出了一个经典的定义，他将文化定义为一种“形态”、一套“目的”，一套体现在“不同制度、艺术和学习”以及“平凡”中的“意义”(Williams，1958/1993：6)。他认为，文化不只是某个社会阶级创造的那些精致高雅、百里挑一的艺术文学作品；它也是大众的，体现在平凡的日常生活实践当中。它是“一种整体的生活方式”(同上)。文化包括规定的主流意义，但更重要的是它也包括意义之间的协商。威廉姆斯认为，文化的意义一直“在经验、接触与新发现的压力之下不断被辩论修正”(同上)，因而它兼具“传统性”与“创新性”。换言之，文化具有两面性：“已知的意义与方向，规训着内部成员”与“未知的发现和意义，需要被提供并接受检验”(同上)。从这个角度来看，我们也可以认为文化是“现状”与变化潜势之间的权力协商场所。 威廉姆斯关于文化是“平凡的”与“整体的生活方式”的论断，对于20世纪60年代和70年代从伯明翰学派兴起的英国文化研究传统具有重要意义，该学派的研究关注点主要集中在流行文化与亚文化之上(Agger，1992)。传统精英主义和排他性文化概念被取代，这些学者转而开始研究工人阶级的日常生活文化(Thompson，1963/1979)以及青年亚文化，引入了种族(Gilroy，1987/2012；Hall，1990/ 权力的数据伦理学：大数据与人工智能时代的人本方法新解 148 ## PDF_PHYSICAL_PAGE_INDEX=163 | PRINTED_PAGE=149 1994)、性别(McRobbie，2000)及其表征与建构等议题。换言之，文化并非具有单一性，而是具有多维性。文化是制度化的结果，但也是平凡的亚文化产物，由人类以正式和非正式的形式创造，并与人类(包括少数群体)和人工制品互动，而且这些文化关系与意义从来都是变动不居。它们从一开始就是意义制造的建构系统，因此总是处于争论以及社会权力协商之中。 是否存在一种“科学”方法用于解读这些文化系统？我们如何才能理解文化的作用，而不仅仅是将其看作是一个无声无息地定义着我们社会技术基础设施的实践和设计的神秘黑箱呢？在符号学中，文化实践、产物与表征被视为文化意义制造系统的组件，它们相互交织并通过系统排序从而获得意义。此外、语言学规则也被用于文化当中·以此形成一门“符号科学”。然而，它不仅仅是在符号意义系统当中的文字排列组合，它还代表了我们是谁以及我们如何在文化构建的系统之中体验世界。所有类型的符号系统都可以被视为语言，并相应地被视为文化表征来予以研究。 譬如，世界最著名的符号学家之一巴兰·巴特(Roland Barthes)在法国资产阶级的神话当中发现了文化意义，这种文化意义体现在从拳击比赛到肥皂广告的方方面面(Barthes、1957/1972)。他认为，神话是一种“意义系统”。在这个系统当中，我们将世界上的事物作为文化话语元素或特定历史时刻的文化秩序来予以理解：“神话是历史选择的一种话语形式，因此它绝不可能从事物的·本质，当中演化而来”(Barthes、1982/2000：94)。此外，他认为、任何事物都具有文化意义，包括技术人工制品，其设计本身就彰显了意义制造的文化系统。例如。他提出，20世纪50年代的法国玩具除了充当着需要小女孩照顾的娃娃这一角色外，还可以看作是成人生活的缩影，嵌入了社会鼓励成人履行的角色与功能：警察、学生、军人与医护人员。因此，它们是资产阶级成人文化积极再现其社会分层模式的文化符号(Barthes,1957/1972:53-55)。 第4章数据利益与数据文化 149 ## PDF_PHYSICAL_PAGE_INDEX=164 | PRINTED_PAGE=150 沿着这一思路，文化理论学家与政治活动家斯图尔特·霍尔(StuartHall)将文化定义为“符号系统”“概念地图”与“意义地图”(Hall.1997)。这些构成了将概念进行组织、分类、排列与关联的概念系统(Hall，1997：17)。意义的文化地图确保了我们在以相同的方式解释世界之时、能够相互理解，并在社区中保持行为一致。霍尔(1997)认为，文化是一种社会系统。在这个系统当中，意义被主动地创造共享。它不是以自上而下的方式强加在我们身上。相反，我们每个人都在积极地实践文化、学习文化并且建构文化。这样看来，文化也是一种积极的符号共享行为，用于相互沟通与理解世界；在“表征系统”中相互关联的文化产品之中，总能找到它们的痕迹。而且，这些共享符号是构建意义文化系统的重要组件，因为它们形成了意义的“稳定体”(Hall，1997：21)。同时，基于这些“不成文规定”“表征惯例”以及“文化知识”，文化符号同时也决定着我们的文化归属，使我们成为“具有文化能力的主体”(Hall，1997：22)。 在《编码·解码》一文当中，霍尔(1980)将文化意义生产过程描述为一种编码、解码文化信息的互动过程。例如，电视机这一20世纪80年代关键的大众通信技术，就是通过为解码接收者提供“偏好式解读”，将文化上的“主流文化秩序”编码进去的一种手段(Hall，1980：123-124)。在霍尔看来，尽管这个意义制造过程并不“对等”，甚至可能会被歪曲或者引发误解，但是意义制造过程当中嵌入的“偏好式解读”却构成了“感知条件”的核心组件(Hall，1980：119-121)。不论是自反性的有意为之，还是惯例式的无意为之，这些对于文化系统的编码解码实践都是文化的重要组件，再现了主流的文化秩序(Hall。1980：123)。他在文章中这样写道： 正是借助这些编码，权力与意识形态才得以在特定话语当中显形。它们将符号指向了文化分类的“意义地图”；这些“社会现实地图”包含了各种社会意义、实践用法、权力与利益。(Hall。1980:123) 权力的数据伦理学：大数据与人工智能时代的人本方法新解 150 ## PDF_PHYSICAL_PAGE_INDEX=165 | PRINTED_PAGE=151 同样，正如前文所述，许多从事价值敏感设计与科学技术研究的学者也将技术看作是嵌入了价值与政治的“非中性”文化产品。巴特对玩具的看法以及霍尔对电视机的看法也都说明了这一点。与之类似，兰登·温纳同样认为技术与特定社会的权力机制密切相关。基于这一认识，他提出了以下问题： 这些技术是社会对于某些自身难题的必然回应？抑或只是管理机构、统治阶级或其他社会或文化制度为实现自身目的而强加的一种模式？（Winner，1980：131） 在《数据女性主义》一书当中，数据科学家与女权主义者卡瑟琳·伊尼亚齐奥(Catherine D'Ignazio)和劳拉·F.克莱因(LauraF.Klein)举例说明了在女性数据科学家的工作不被重视与尊重的工作环境当中，男性数据科学文化一直以来维护男性主导地位的情况。在她们看来，这些数据科学文化具有压迫性。它不仅关乎性别斗争，甚至在数据设计当中人为设置目标与优先级，用于进行权力分配、压制少数群体的利益。例如，在作为社会福利决策基础的数据当中，少数群体并没有被充分代表；那些关键的科学医学分析往往也只会对某些特权群体投怀送抱；某些数据设计甚至会将这些少数群体置于社会不利地位，比如那些用于特定城市区域警务预测的数据。 此外，在为我们日常生活信息架构进行数据设计开发的数据科学团队当中，伊尼亚齐奥与克莱因还注意到明显的少数群体代表不足现象。例如，A1Now的一份报告显示：女性在脸书人工智能开发人员中只占15%，在谷歌公司仅为10%(数据来自D'lgnazio andKlein，2020：27)。这些压迫性数据科学文化不仅反映在从事数据科学的少数群体真实经历当中，同时也体现在数据技术与设计之上，而这样的技术和设计已经在我们社会环境当中比比皆是(D'Ignazio andKlein，2020)。因此，伊尼亚齐奥与克莱因将“权力”这一概念作为她们在数据科学实践与数据设计当中所看到的不公正现象的关键词： 第4章数据利益与数据文化 151 ## PDF_PHYSICAL_PAGE_INDEX=166 | PRINTED_PAGE=152 我们使用“权力”一词来描述结构性特权与结构性压迫的当前形态：一些群体在其中享受着特权优势，因为各种系统都是由像他们这样的人设计而来，并为他们工作；而其他群体却遭受着系统性不平等待遇，因为这些系统并不是由后者设计，而且设计时也不会考虑到像他们这样的人。(D'Ignazio and Klein，2020：24) 许多批判性数据研究也都直接关注环境与技术文化当中的权力机制，因为这些权力机制塑造着人工智能与大数据技术研发的实践与设计(O'Neil,2016; Eubanks, 2018; Noble,2018;D'lgnazio andKlein，2020)。然而，对科技实践的技术文化当中权力分配的批评可以追溯到更早之前。自20世纪70年代末以来，一个包含女权主义技术科学学者[如朱迪斯·巴特勒(JudithButler)、唐娜·哈拉威(Donna Harraway)、桑德拉·哈丁(SandraHarding)]在内的独特研究领域，从科学技术实践与知识再现和强化文化性别权力机制的角度对此提出了批评(Åsberg and Lykke，2010)。她们认为，科学技术是统治权与身份斗争的场所，带有压迫性特点的性别分化在此愈演愈烈。科学从性别对立的传统科学知识环境当中产生，为-些群体提供着发展机会的同时，也对一些群体造成压迫。同时，这种科学造成的压迫又在它们所创造的技术当中被进一步强化。结果就是社会中现有权力关系与机制多被强化，多数情况下甚至被尤限放大。 现在，我们已经知道：技术是一种文化产品。为了探究技术实践是如何嵌人个人具身体验的通常具有压迫性社会分层意义制造文化系统当中的，我们有必要将社会技术发展的文化组件视为我们伦理审查的具体对象。这也是为什么技术的文化系统与技术实践本身可以看作是相关伦理问题，我们应该尝试通过应用伦理学的方法来解决这些问题。 据此，就适用于AISTIs的权力的数据伦理学而言，我们的核心焦点在于将其视为具有社会分层的文化系统组件。其中，社会当中占主导地位的主体利益往往被优先考虑，而那些少数群体的利益却总是被忽视。因此，我们还可以把技术看作是一个高度具化的反叛与自由并存的潜在场所。在1985年出版的著作《赛博格宣言》中，唐娜·哈拉威基于科技实践，针对其中的性别建构与定位问题进行了批评。在本书上中，她想象出一个替代性信息架构，将“统治性信息科学”替换为“社会主义和女性主义设计原则”.形成了人类与机器的统一(Harraway，1985/2016：28)。 权力的数据伦理学：大数据与人工智能时代的人本方法新解 152 ## PDF_PHYSICAL_PAGE_INDEX=167 | PRINTED_PAGE=153 数据文化 接下来，我将从文化与权力的角度进一步阐述数据文化的概念化，即构建数据科学与实践的技术文化。数据文化是工程师、数据科学家、设计者、部署者、立法者与数据系统用户的文化编码地图。正如我在本书中所论述的那样，这些文化并不总是彼此共享，即便是在特定的利益相关团体和社区当中、它们也可能会发生冲突。而且，正如我们在前文中所看到的那样，它们总是与社会权力的协商和斗争紧密交织、相伴相生。 计算机在本质上是一种特殊形式的信息。一台计算机就是一个信息系统，在技术上能够实现不同类型的数据收集、共享与处理，以便达到服务人类的目的。基于计算机信息科学家创建的数学公式，信息在计算机中被处理、管理、建模并分类。此外、计算机科学家(或者是我这里所指的“数据设计师”)的应用科学负责创造能够顺利且高效运作的计算机信息基础设施：这些设施用于收集、存储并整理数据：如果建模的是人工智能系统，则需要能够感知数据，并能基于数据训练不断进化，从而做出“智能化”决定。然而，正如前面章节所述，实际应用中的AISTIs与BDSTIs并非如此。它们具有政治与价值成分，扮演了委托道德主体的角色，同时还具有“非中立性”的社会伦理影响。换言之·它们有着独特的“数据文化”。 首先。我们可以将数据文化定义为数据设计(如编码、标记、管理、收集和筛选数据)时由文化实践以伦理评价与选择的形式构成的一种文化。数据科学家与数据设计师的实践正是在意义制造的文化系统当中得以进行，因此他们也是伦理评价(反思性抑或非反思性)的积极实践者。换言之，数据系统的研发设计实践本身就是一种文化实践(Acker and Clement，2019)。例如.杰弗里·C.鲍克(GeoffreyC.Bowker)就对生物多样性数据库的构成进行了研究，发现了原始数据的非中立性特征。在他看来，进入这些数据库的数据科学家所实践的数据文化也是将“价值分层”纳入数据基础设施的一种实践。换言之，这个用于存储访问数据的数据库从一开始就是一个“政治、伦理以及技术工作并存”的场所(Bowker，2000：647)。因此，不仅数据科学家的实践是一种文化，数据也是一种文化。它不是自然而然地直接给定的东西，也不是本身独立存在的原始数据(Bowker，2014)。一旦离开文化系统、离开数据库与数据实践，数据将毫无意义，一文不值。 第4章数据利益与数据文化 153 ## PDF_PHYSICAL_PAGE_INDEX=168 | PRINTED_PAGE=154 数据与数据设计的非中立性并不仅限于人工智能或大数据信息系统。杰弗里·C.鲍克与苏珊·利·斯塔尔对此进行了详细阐述。他们认为，纵观人类历史，信息分类与标准对于任何正常运作的基础设施来说都是至关重要。一直以来，它们都积极地组织着人类关系，对参与其中的人类产生着社会伦理影响，从出于监禁目的对结核病患者进行分类到种族隔离期间出于隔离目的而进行种族分类(Bowker and Star，2000)，大抵都是如此。因此，在数据收集、整理和处理实践当中，始终有伦理因素在发挥作用： 在对这些系统的质疑当中，我们存在一个道德伦理议程。每个标准与类别都在赞赏某种观点的同时消弭了其他观点。这本身并不是一件坏事。事实上，这也不可避免。但这是一种伦理选择，虽然并非一定是坏事，但是存在一定危险。(Bowkerand Star,2000: 5-6) 信息分类与标准是数据文化当中两种不同的文化实践。前者是根据特定准则分割世界的实践，后者则是这种分割实践的制度化 权力的数据伦理学：大数据与人工智能时代的人本方法新解 154 ## PDF_PHYSICAL_PAGE_INDEX=169 | PRINTED_PAGE=155 表现。 就分类而言，鲍克与斯塔尔将其描述为“一组用于放置事物的箱子(比喻意义上或字面意义上)，用于机械性生产或知识生产”(Bowker and Star，2000：10)。分类具有一致性、唯一性以及排他性。这就意味着在对信息进行分类之时，只能遵循一种分类系统。也就是说，分类系统不存在“例外”：“系统具有完整性”(同上：11)。当然，实践当中并不存在完美的分类系统，因为在关于一个对象是否属于某个特定类别的问题上，总会存在模糊或者分歧。此外，用于将对象归入特定类别的信息实际上从来都不完整。例如，人的生命似乎并不能轻易纳入某个分类系统当中。就算我们非要将它简化为一套类别，也不能体现出它的全貌。在上一章中，我引用了阿尔帕伊登关于人类年龄的例子。在这个例子当中，专家系统就无法轻易将人的年龄放在某个“箱子”之中。因为我们不止有“年老”或“年轻”这两种类别，而是一个逐渐变老的连续过程(Alpaydin，2016：51)。就AISTIs而言，正如我们在第3章看到的那样，从20世纪70年代的专家系统到21世纪10年代越来越自主的大数据机器学习系统，人工智能进化的核心动力之一就是通过建立能够动态感知环境中细微变化的系统来克服专家系统在表征实际环境方面的局限性。正是计算机算法分类.工作的完整性理想在应用于人类生活之时产生了社会伦理影响。计算机算法被设计成一个完整的分类系统、并且在其运作过程当中严格执行这种理念。然而，这个系统从来都不具有完整性。正是基于这一原因，如果它在人类生活中被理想化地使用、那么很有可能造成严重的社会伦理后果[这也是凯西·奥尼尔(2016)的主要关切之一]。 例如，一个对于个人未来潜在犯罪行为进行风险评估的预测性计算机算法(如C(MPAS算法)可能基于针对各种类型个人数据的处理来进行风险评估。其中可能包括个人定位数据，而这些位置信息可能会关联到城市不同地区的犯罪率数据。如果一个人生活在高犯罪率地区.计算机算法就极有可能将其归为高风险人群。因为计算机算法的分类原则在理论上始终都以完整性为前提。因此，在把一个人放入“高风险”类别之时，个人其他数据当中的任何细微差别都不会被予以考虑。假如该算法被作为一个“完整的系统”部署在司法系统当中，可能就会对生活在高犯罪率地区的个人产生严重的社会影响。 第4章数据利益与数据文化 155 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed.md?start=170&limit=10)