此分解表显示了COMPAS算法中的风险评估项目(列)和两年内犯人是否会再次犯罪的预测情况(行)。关于“高风险”和“低风险”的定义及其他细节请参见 ProPublica 的分析报告
这种差异本身并不意味着该算法存在偏见,因为在黑人和白人犯人中,再次犯罪的比例有所不同:52.6%的黑人罪犯在两年内因另一项罪行被逮捕,而仅有39.4%的白人罪犯因另一项罪行被抓。归类为高风险或低风险的犯罪者,其总体比例差异并不构成ProPublica对该算法的批评基础。朱莉娅和她的同事们意识到黑人罪犯的惯犯率比白人罪犯高,于是认为这个算法一定犯了某种类型的错误。
在评估算法时,我们用“误报”(FalsePositive,也称假阳性)和“漏报’(False Negative,也称假阴性)来思考通常都是有效的。对于COMPAS算法来说,误报指的是一个不会在未来犯罪的人被列为高风险罪犯的情况,也就是说模型做出了肯定却错误的预测。误报率指那些没有再次犯罪却被列为高风险罪犯的人数除以未再犯的总人数。
黑人罪犯的误报率是805/1714≈46.9%,白人罪犯则是23.5%,因此黑人罪犯的误报率比例比白人被告高很多。
被算法操控的生活OUTNUMBERED
54