在回应中，他们进一步强调了这一论断：“像大部分技术一样，机器学习本身是中性的。”他们坚称，如果机器学习“可以被用来放大社会计算问题中的人类偏见——就像有些人争辩的那样——那么它也同样能用于发现和纠正人类偏见”。无论他们是否清楚，但这一回应是基于我们不仅具有优化机器的能力，还具有优化自身的能力。
科技并非诞生于真空之中，而是一系列特定观念与愿望的具象化或许是无意识的，但它与其创造者具有同样的性情。无论什么时候，它都是由历经几代发展起来的概念与幻想组成，并且自身也经历过演化与文化变迁、教育与争辩、无尽的纠缠与互相包容。犯罪概率这一概念本身就是19世纪道德哲学的遗物，而用来“推断”它的神经网络则产自一种特定的世界观——思维与客观世界在表面上相互独立，从而强化了其运用时的表面中立性。继续坚持科技与世界之间存在客观割裂的观点本身没什么意义，但其造成的后果却真实存在。
将偏见编入代码的例子比比皆是。2009年，一位华裔战略顾问乔丝·王买了一台新的尼康COOLPIXS630相机作为母亲节礼物，但当她想试拍一张全家福时，却始终无法按下相机快门。相机出现错误提示：“有人眨眼了吗？”这台相机中预装了一款软件，要等到所有对象都睁着眼睛望向镜头时才能拍摄，但却没有考虑白种人以外的面部特征。12同年，德克萨斯州一家房车经销商的黑人雇员在YouTube网站上传了一个视频，传看甚广。在视频中，他新买的惠普漫游者摄像头没能识别出他的脸，却对焦到了他的白人同事脸上。“我要把这事记录下来，”他说，“我是说真的。
第六章认知
143
153