普林斯顿大学的研究人员用这种方法来测试男性和女性的名字与职业和家庭相关词汇之间的距离。他们发现，职业相关词与男性名字的距离比它们与女性名字的距离更小。同样，女性名字比男性名字距离家庭相关词更近。这些GloVe算法结果都说明，在给词汇定位时存在内隐的性别歧视。
无监督学习把算法变成“坏学生”
研究人员在种族方面发现了类似的结果。欧洲裔美国人的名字（如“亚当”“哈里”“艾米丽”和“梅根”)比非裔美国人的名字(如“贾马尔”“勒罗伊”“埃博妮”和“拉蒂莎”)距离使人愉悦的单词（如“爱”“和平”“彩虹”和“诚实”）更近，非裔美国人的名字更接近不那么好听的名词及形容词（比如“事故”“仇恨”“丑陋”和“呕吐”)。可见GloVe算法不仅存在内隐的性别歧视，还存在内隐的种族歧视。
我问乔安娜，谁应该对GloVe这样的世界观负责。她告诉我，我们当然不能让算法负道德责任：“GloVe和谷歌使用的 Word2vec 等算法只是纯粹的技术，它们做的仅仅是对词语进行计数和分配权重。”这些算法只是对词汇是如何在我们的文化中被使用的进行了量化而已。
类比算法已经给我们的在线搜索带来问题了。2016年，《卫报》记者卡罗尔·卡德瓦拉德（Carole Cadwalladr）对谷歌搜索的自动完成建议是否存在刻板印象做了调查。她在搜索引擎中输入“犹太人是？”，得到四个搜索建议：“犹太人是一个种族吗？”“犹太人是白人吗？”“犹太人是基督徒吗？”，最后一个建议是“犹太人是邪恶的吗？”可见谷歌认为自己应该为检索者提供种族主义的污名化内容。卡罗尔顺着含有“邪恶”字样的链接，看到了一页又一页的反犹宣传。
第三部分 人工智能的未类了吗？
179