奎克的藏经阁 · 原书印刷页

权力的数据伦理学大数据与人工智能时代的人本方法新解 · 第 121 页

PDF 物理页索引 135 · 第3章

书名
权力的数据伦理学大数据与人工智能时代的人本方法新解
作者
未记录
印刷页
121
PDF 物理页
135(从 0 开始)
章节
第3章
UUID
1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed
来源类型
original_book
页面 SHA-256
bddb378614d0bd4cf5d010e9364f8e3bd53e623d94361b7b44a1d05cd7de26ec

“能动性理论”关注的是不同当事人的利益如何在能动者间达成平衡,这些能动者在社会当中的行为代表着他们各自的利益(Spillman and Strand,2013:91)。我们可以拿大数据人工智能基础设施研发过程当中不同的利益相关团体的成员为例。正如前文所述,他们在公共讨论与政治当中由一系列机构与组织所代表。然而,一个利益相关团体中的某一成员不一定与在政策制定与公共研讨时代表自身的能动者中所有其他成员有着相同的利益。因此,一个行业协会在法律改革协商时的游说活动并不只是代表着“行业自身”利益。在为某个条款的措辞进行游说之时,协会代表了不同成员利益之间的博弈与妥协。

利益与价值敏感设计

接下来,我们将继续思考AISTIs的分布式能动性。鉴于社会之中的利益在部分自主的非人类能动者技术设计当中得以表征、分布、实现的频次日渐增多,因此将技术设计作为一个伦理意义上的“非中立性”利益能动者(即代表社会中不同利益之间妥协的能动者)来予以研究则有其重要价值。这里,我们将使用上一章中提及的价值敏感设计(VSD)框架来应对计算机设计在强化利益相关方的价值以及有意分配其能动性之时的道德能动性问题。在价值敏感设计当中,利益与不同利益相关者所持有的价值相关,而这些价值可能会被计算机技术设计强化或者抑制。

20世纪90年代,弗莱德曼与尼森鲍姆研究了计算机系统设计当中的不同偏见。这些设计会系统地支持某些不公平的决策、使之有利于或不利于某些群体。基于对具体计算机系统的分析,他们总结出三种方式来辨别设计当中嵌人的偏见:

“预存偏见”(pre-existingbiases)来自计算机系统外部,它们“生活在”社会制度当中,存在于开发者的个人偏见或态度之内,并被机构与个人有意识地或尤意识地嵌人计算机系统之中。

第4章数据利益与数据文化

121