阿密特和同事们的调查到这里结束了。他告诉我，到了他们发布研究论文的时候谷歌还没有回应。但这家网络巨头改变了它的界面，阿密特和他的同事们再也无法进行代理实验了。黑箱被永远地关上了。
在过去的两年里，来自非营利性新闻编辑室ProPublica①的朱莉娅·安格温（Julia Angwin）和她的同事们在一系列关于算法偏见的文章中揭露了大量的黑箱现象。综合从佛罗里达州的7000多名刑事被告身上收集到的数据后，朱莉娅证明，美国司法系统广泛使用的一种算法对非裔美国人持有偏见。即便该算法已经将罪犯的年龄、性别、犯罪史和未来的犯罪行为一并考虑在内，他们仍然发现这一算法将非裔美国人划分到高风险犯罪类别的可能性要高出其他族裔45%。
这样的歧视并不仅限于司法系统。在ProPublica的另一项研究中，朱莉娅在脸书上投放了一则广告，目标是“首次购房者”和“可能搬家的人”但与“非裔美国人”“亚裔美国人”或“拉美裔”具有“种族相似性”(ethnicaffinity）的人则被排除在外。尽管这则广告违反了美国的《公平住房法》(Fair House Act)，但脸书还是接受并发布了它。将某些群体排除在外，即使基于他们的“种族相似性”（脸书通过查着用户浏览的页面和参与互动的帖子来衡量）而不是他们实际所属的种族，也是一种歧视。
许多数据新闻记者（datajournalists）②和科学家们参与到调查这些问题的运动中，ProPublica的记者只是其中一分子。麻省理工学院（MIT）研究生乔伊·波拉姆维尼（JoyBuolamwini）发现现代面部识别技术无法识别她的脸，所以她开始收集更加种族多样化的面孔数据，用以训练和提升未来的识别系统；北卡罗来纳卡罗来纳伊隆大学的乔纳森·奥尔布赖特（Jonathan Albright）在调查谷歌的搜索引擎使用的数据，试图理解为什么它的自动完成建议（Autocomplete）①经常给出带有种族主义和冒犯意味的结果；加利福尼亚州伯克利大学的詹娜·伯勒尔（Jenna Burrell）对自己电子邮箱中的垃圾邮件过滤器进行了逆向工程，以确定它是否明确歧视尼日利亚人（在本次调查中它并没有歧视尼日利亚人）。
被算法操控的生活
①ProPublica是一家针对美国社会公共兴趣进行调查报道的独立非营利机构。
②数据新闻指的是用计算机辅助的新闻报道。在数据新闻中，观点通常有数据支撑，以数据可视化的形式来展示。
16