Old.net这款面部识别程序来质疑获准进入英国的儿童难民的年龄时,开发这一程序的微软立刻强调,这仅是一款“娱乐软件”,“本意并非用于精确评估年龄”。9武和张也发出了类似的抗议:“我们的工作只是纯粹的学术讨论,怎么会变成媒体消费的对象,也完全出乎我们的意料。”
有一项批评提出的考虑较为特别,突出体现了人脸识别历史中一个反复出现的套路其中隐含着种族色彩。在他们对罪犯与非罪犯的典型面容举例中,一些批评者发现非罪犯的脸上有“一抹笑意”——这是罪犯脸上所缺乏的一种“微表情”,表明他们处于紧张的环境中。武和张否认了这一点,但并非从技术角度,而是从文化角度:“即使已经被要求留心这种笑意,我们的中国学生和同事仍然没有观测到所说的这种情形。他们只是发现,下排面孔比上排显得更放松些。这里的不同理解可能是由于文化差异。”10
原论文中有一部分并未受到非议,即假设所有此类系统都可以避免在编码中被植入偏见。在论文开头,作者们写道:
不像人类检察官/法官,计算机视觉算法或分类器完全不带主观看法,没有情绪,没有因过去经验、种族、宗教、政治理念、性别、年龄等因素造成的偏见,不会出现精神疲劳,不会因一次睡眠不足或饮食不当而影响结论。对犯罪概率的自动推断彻底消除了元知觉准确性(即人类检察官/法官的专业能力)的波动。11
142
新黑暗时代科技与未来的终结
152