在英语世界的政治哲学中,平等并不是一个非常流行的概念。许多经典的政治哲学导论甚至都没有关于这一主题的章节(Swift2019是个例外)。表达偏见及其错误原因的一种更常见的方式是依赖于正义概念,尤其是作为公平的正义(justice as fairness)(Rawls1971;2001)和分配正义(distributivejustice)。通常的说法是,算法产生的偏见是不公平的。但是,作为公平的正义意味着什么?如果有什么东西需要重新分配,怎样才算公平分配?这里也有不同的观念。再以人工智能招聘为例。除了考虑教育和工作经验等标准外,还发现邮政编码是一个与统计相关的类别:想象一下,成功找到工作与居住在(社会经济)“好的”富人区之间存在相关性。结果可能是,在其他条件相同的情况下(例如,所有求职者的教育水平相同),来自“差的”贫困社区的求职者被算法选中的概率较低。这似乎是不公平的。但究竟什么是不公平,为什么不公平?
首先,可以说以邮政编码来区别对待是不公平的,因为虽然有统计上的相关性,但没有因果关系。虽然许多居住在该社区的人找到工作的概率较低(受到其他因素的影响,如缺乏良好的教育),但这个人并没有也不应该仅仅因为他属于这个统计类别(拥有某邮政编码)就降低其找到工作的概率,虽然他确实受过良好的教育,而且在其他指标上也表现出色。这个人受到了不公平的待遇,因为作出决定所依据的标准与本案无关。其次,我们也可以想一想,该社区的许多其他人实际上接受的教育更差、相关工作经验更少等,他们获得工作的机会也更少,这是否公平?我们为什么允许在这方面存在如此大的差异?这个问题也可以从机会平等的角度来解释。但也可以说这是一个作为公平正义的问题:教育的分配、工作机会的分配以及工作的实际分配都是不公平的。接下来的问题是:这些不公平的原因究竟是什么?
第三章 平等与公正:人工智能的偏见与歧视
055