当然,你是对的。我制作了一个广告,看到这个广告的男性数量是女性的四倍,这不公平。但我会运用和Northpointe同样的逻辑去证明自己的算法是正确的。就对这项工作感兴趣的两组人来说,我们做出正确预测的比例是一样的,这就是我所使用的无偏差校准的定义,而无偏差校准也是蒂姆·布伦南证明COMPAS算法对黑人罪犯和白人罪犯做了公平预测时所使用的依据。我的广告特别注意消除校准偏差。
现在,你在脸书广告的算法中多勾选了一些选项。我们运行了这个模型之后得到了表6.3所示的结果。现在,该算法向100名可能会有意愿申请这份工作的女性以及200名可能会对此次招聘感兴趣的男性做了推送。100比200的比例反映了潜在的对该职位感兴趣的男女的数量比(125比250),此外男性和女性两组人的漏报率(五分之一)也是一样的。
被算法操控的生活OUTNUMBERED
58