只有悖论，没有公平
这个世界上不存在公平的方程式。公平只是人类的美好愿望，它是我们的一种感觉。当你改变我的广告算法时，我觉得你是对的。就广告宣传活动而言，我本能地更喜欢表6.3甚于表6.2。当你试图为一个岗位找到最佳合适人选时做了一个吸引男性申请者远多于女性申请者的广告，我们感觉这是不公平的。我们理应投入时间来做出能够更好地找到合格女程序员的算法，即使这意味着它在寻找男性程序员方面有所欠缺，我也会觉得公平。
我还认为，蒂姆·布伦南和COMPAS算法的其他发明者在预测中强调消除校准偏差是错误的。如果Northpointe能够创造出一种能更准确地识别黑人是否是高风险再犯罪者的算法，即使它对白人起不到同样的效果，我也不会认为这种算法存在种族歧视。因为它能够解决社会中的一个重要问题。
在对ProPublica数据集的调查中，我发现了一个有趣的线索，可能有助于创建一个误报率更小的算法。为什么布劳沃德县的黑人罪犯比白人罪犯更频繁地再次犯罪？围绕COMPAS算法的争论很少能够抓住关键原因。其实真相非常简单：黑人罪犯在被捕时通常更年轻，而总的来说，年轻人更有可能再次犯罪。因此，如果Northpointe能找到一种更好的方式识别那些因为犯罪被捕但在未来不太可能再次犯罪的年轻人，那么我们大多数人都会认为这是一件好事。这样的方法会在不经意地造成白人和黑人之间的校准偏差：由于黑人罪犯比白人罪犯年轻，所以在年轻人身上表现得更好的算法整体上来说也会在黑人身上表现得更好。
我想问蒂姆一个问题，校准他的算法对他来说真的就那么重要吗？他更应该考虑的难道不是如何减轻年轻黑人男性和女性的牢狱之苦吗？他们可能只是因为一次愚蠢的失足而被关进了监狱。
在完成这些分析的几天后，我设法采访了蒂姆，问他对我的看法有什么观点。他耐心地听着我说话，并且同样认为罪犯年龄加上犯罪记录以及是否吸毒，是预测再犯的最重要因素。但他强调，美国有“种族平等的宪法要求”。根据最高法院的一项裁决，除非公众对某一特定问题有非常强烈的关切，否则模型必须对所有群体都同样准确（也就是必须进行偏差校准)。因此，他和他的同事们在提高准确性和遵循这些要求之间一直在“走钢丝”。
被算法操控的生活CUIREETO
60