Corbett - Davie）、艾玛·皮尔森（Emma Pierson）和两位教授阿维·费勒（Avi Feller)、沙拉德·戈埃尔（Sharad Goel）一起合作解决了。他们证实了 Northpointe 的说法，即表 6.1 显示 COMPAS 算法给出了不分种族的公平预测。接着，就像数学家们喜欢挑战难题一样，他们指出了一个更具普遍性的问题：如果一个算法对于两个群体来说同样可靠，并且一个群体比另一个群体更有可能再次犯罪，那么这两个群体将不可能有相同的误报率。如果黑人罪犯更频繁地再次犯罪，那么他们被错误地归于高风险类别中的概率就更大。任何其他结果都表明这个算法对这两个种族做了不公平的校准，因为那意味着它必须对白人和黑人罪犯使用不同的评估方法。
相同的误报率和相同的漏报率不可兼得
为了更好地理解这一点，我们先来进行一个思想实验。假设我想在脸书上发布一个在线招聘广告，为我的研究团队招聘一名计算机程序员，那么很简单地，我只要在研究小组的脸书页面上发布一个招聘启事，然后点击“速推帖子”（boost post)按钮来定向发布这个广告。通过使用“寻找受众”（create audience）功能，我可以找到爱狗人士、退伍老兵、游戏机玩家或摩托车骑手。我还可以找到拥有表演、舞蹈和吉他演奏等爱好的人。
脸书没有一个可以让我单独定向男性或女性的选项，我也不认为它应该提供这样的选项。但我知道，由于男女生在高中和大学做出了不同的教育选择，有更多男性而非女性对编程工作感兴趣。我们出于论证需要假设，1000名女性中有125人对程序员的工作感兴趣，而1000名男性中有250人对此感兴趣。
编辑招聘广告的时候，我决定勾选几个我认为能够吸引计算机程序员的选项：角色扮演游戏、科幻电影和漫画。这些应该足够了。我记得自己攻读计算机科学专业时的学生时代是什么样的，因此知道很多程序员都喜欢这些东西。通过这种方式，我可以吸引到一些优秀的申请者，而且不需要把广告费浪费在对这份工作不感兴趣的人身上。
被算法操控的生活M
56