奎克的藏经阁 · 原书印刷页

被算法操控的生活:重新定义精准广告、大数据和AI · 第 54 页

PDF 物理页索引 74 · 第3章你以为自己了解朋友?脸书比你更懂他们

书名
被算法操控的生活:重新定义精准广告、大数据和AI
作者
未记录
印刷页
54
PDF 物理页
74(从 0 开始)
章节
第3章你以为自己了解朋友?脸书比你更懂他们
UUID
094ce2a7-d7e6-4de6-a84c-9994a96a3c4a
来源类型
original_book
页面 SHA-256
2dcc601a3dff2b31c7dd82e8af9837c919e576394cf6a49e9d6079ed8a10739f

此分解表显示了COMPAS算法中的风险评估项目(列)和两年内犯人是否会再次犯罪的预测情况(行)。关于“高风险”和“低风险”的定义及其他细节请参见 ProPublica 的分析报告

这种差异本身并不意味着该算法存在偏见,因为在黑人和白人犯人中,再次犯罪的比例有所不同:52.6%的黑人罪犯在两年内因另一项罪行被逮捕,而仅有39.4%的白人罪犯因另一项罪行被抓。归类为高风险或低风险的犯罪者,其总体比例差异并不构成ProPublica对该算法的批评基础。朱莉娅和她的同事们意识到黑人罪犯的惯犯率比白人罪犯高,于是认为这个算法一定犯了某种类型的错误。

在评估算法时,我们用“误报”(FalsePositive,也称假阳性)和“漏报’(False Negative,也称假阴性)来思考通常都是有效的。对于COMPAS算法来说,误报指的是一个不会在未来犯罪的人被列为高风险罪犯的情况,也就是说模型做出了肯定却错误的预测。误报率指那些没有再次犯罪却被列为高风险罪犯的人数除以未再犯的总人数。

黑人罪犯的误报率是805/1714≈46.9%,白人罪犯则是23.5%,因此黑人罪犯的误报率比例比白人被告高很多。

被算法操控的生活OUTNUMBERED

54