蒂姆确信，统计测试证明他的模型是没有偏见的，并引用了几份独立的报告来支持这一说法。他告诉我，ProPublica的报告让人们更多地进行批判性思考，但也让人们忽视了在量刑时使用严格的统计方法这一更重要议题。他告诉我：“如果将量刑法官的准确率一并进行考量，那么算法的风险评估水平远远超出了人类的判断水平，在对黑人罪犯造成不公平影响的误报方面尤其如此。
在ProPublica对刑事判决中所使用的算法进行研究之前，加州大学伯克利分校戈德曼公共政策学院的教授珍·斯基姆（Jen Skeem）全面评估了一个名为PCRA的判决算法。她的结论是，该算法对黑人和白人被告都是公平的，不应该被贴上偏见的标签。她对我说，这些围绕偏见的争议并不新鲜，不过人们对这种“有偏见的算法”才刚刚表现出愤怒。
珍告诉我：“人们往往忽视了最重要的问题：偏见’比起现有实践来，谁的弊端更大呢？”而这就是她现在正在研究的课题。
我意识到很难在这件事情上厘清孰对孰错。我出于自己的经历和价值观支持消除算法偏见。即便从道德意义上来说我的观点刚好就是对的，它在数学证明上也是不正确的。数学不停地告诉我，没有计算公平的公式。毫无疑问，珍和蒂姆对算法的使用与第2章里提及的朱莉娅·安格温、凯西·奥尼尔和阿米·特达塔一样满腔热忱，所有人都在努力地做正确的事，都希望自己站在正义的一边。
每当我们为了做正确的事情而向数学求助的时候，它给我们的答案始终如一：公平不止源于逻辑。在数学史上，还有许多其他证明公平难以定义的例子。肯尼斯·阿罗（Kenneth Arrow）的“不可能性定理”(impossibility theorem）告诉我们，不存在一个制度能够让人们在三个政治候选人之间进行选择时，又公平地反映所有投票者的喜好。佩顿·杨（Peyton Young）的著作《公平》（Equity）利用数学博弈论来探讨了这一问题，不过作者自己都“承认”该书“堆砌了许多例子，以说明为什么公平不能简单粗暴地被当作包治百病的灵丹妙药。”辛西娅·德沃克(CynthiaDwork）和她的同事们于2012年发表了著作《意识唤醒公平》（FairnessThrough Awareness)，试图在群体平权运动和个体公平之间探索最佳平衡。但就像乔恩·克莱因伯格和他的同事们关于偏见的研究一样，这些作者通过数学计算找到的只是悖论，而不是合理的确定性。
第一部分 算宜在时视个我数据做了什么？
61