如果警察拘留了你，并且法官正在借助算法来评估你，那么你得到的最坏结果就是误报。真阳性（TruePositive）的判断是公平的：算法预测你存在犯罪风险，而你也确实如此。但误报却意味着你可能被拒绝假释或者被判比应得刑期更长的监禁时间。这种情况更多地发生在黑人罪犯而不是白人罪犯身上，可是被贴上高风险标签的黑人罪犯几乎有一半没有再次犯罪。
与此相反，发生在白人罪犯身上的则更多地是漏报，即某个人被归入了低风险人群，但他却再次犯罪。白人罪犯的漏报率是461/966≈47.7%，黑人罪犯则是532/1901≈28.0%。高漏报率意味着很多本应被拘留的人却重新获得自由并犯下了罪行，这对于社会来说是一个严重问题。几乎有一半再次犯罪的白人在评估中被算法贴上了低风险的标签。
就误报率和漏报率来看，这个算法的表现确实很令人失望，黑人有可能因为它被无辜地判以更久的刑期，而会犯下更多罪行的白人则被释放。
Northpointe公司针对这一指责回应道，人们应该根据预测结果是否公正地对待黑人和白人来评价他们的算法。事实上他们的算法的确做到了一碗水端平。
看一下表6.1的第一列，我们会发现，在2174例案件中有1369名被列为高风险的黑人罪犯继续犯罪，其比例为63.0%。相应地，854名白人罪犯中，505名被归为高风险罪犯的人继续犯罪，其比例约为59.1%。这两组比值差不多，因此该算法对黑人罪犯和白人罪犯所做的校准是恰当的。不管某个特定罪犯属于哪个种族，交到法官手中的风险值都反映了这个人再次犯罪的概率。
这两种评估偏见的方法产生了矛盾的结果。朱莉娅和她在ProPublica的同事关于误报和漏报的论证铿锵有力，但是蒂姆和他的团队关于算法校准的回应也理直气壮。针对同样的数据表，两支不同的专业统计学家团队得出了相反的结论。他们两支团队的计算都没有错误，那么到底谁是正确的？
这个难题被斯坦福大学的两位博士生萨姆·科比特-戴维（Sam
第一部分 算在监我数据做了什么？
55