“技术偏见”(technicalbiases)来自“技术限制或技术考量”,如硬件或软件的限制,或特定算法的使用。由于应用环境的限制,系统无法平等对待所有群体。这种偏见不仅体现在伪随机数生成过程的瑕疵之处(例如。系统偏向于选择出现在数据库末端的数字),同时也体现在我们在上一章提到的分类系统中(例如,系统不能细致全面地再现具体的年龄变化过程)。
“涌现偏见”(emergentbiases)只有在计算机系统被用于人口或文化价值发生变化的特定情境中时才会出现。例如,当一个为特定用户群体设计的接口被用在其他情境中时,其他有不同需求的用户可能无法得到该接口的充分支持(Friedman&Nissenbaum,1996:333-336)。
基于以上分类,弗莱德曼与尼森鲍姆认识到,计算机系统之中的偏见不仅仅是技术问题,也是一系列社会、技术甚至是个人有意识或无意识的综合作用产生的结果。所有这些因素都会对不同价值与利益在系统之中的定位及其处理方式的特定设计产生影响。最关键的是,这说明了计算机技术设计是如何在不同利益相关团体所持不同价值之间做出妥协的。
因此.使用价值敏感设计的目的在于开发出一种分析框架与方法,以解决计算机技术设计当中不同利益相关方的需求与价值之间的冲突(Umbrello and De Bellis,2018;Umbrello.2019)。通过这种方式,技术中的内在利益冲突被看作是需要在计算机技术设计与实际应用中得以解决的伦理困境或道德问题。同样,这种方法也试图将不同利益相关团体持有的不同价值工具化,并将它们直接引人设计过程当中进行处理(Umbrello,2019:3)。
例如,随着“利益”越来越多地被嵌入数字数据技术之中,我们可以通过价值敏感设计框架来审视隐私问题——作为利益相关群体(如数字权利组织)持有的一种价值,它如何受到数据密集型技术设计的不利影响?然而,正如前文所说,我们也可以提出一种替代
权力的数据伦理学:大数据与人工智能时代的人本方法新解
122