GloVe算法是科学家口中的“无监督学习”的一个例子。我们说GloVe算法不受监督，是因为当它学习我们提供的数据时，没有得到任何来自人类的反馈。算法只是找到了一种简洁而准确的方式来如实地描述这个世界。乔安娜·布莱森告诉我，如果不首先解决种族歧视和性别歧视的问题，就没有真正的方法来解决由无监督学习造成的问题。
我再次想起了自己的内隐联想测验。我不是右翼极端分子，也不散布阴谋论或种族主义的谎言，但在自我表达方面确实做出了一些无意识的小选择。我们都是如此，而且这些选择不断地在新闻和维基百科中积累，在推特和Reddit等网站上，这种情况表现得更为突出。这些算法不受监督，它们阅读、学习我们所写的内容，但它们的程序本身并没有被写入带有偏见的代码。当我们研究它们学习到了有关我们的什么内容时，它们只是反映了我们所生活的社会环境中存在的偏见。
我也回想起自己和迈克尔·科辛斯基的讨论。迈克尔对使用算法消除偏见的可能性非常感兴趣。而且，正如他预测的那样，研究人员已经在着手研发工具以便从简历中提取与应聘者的素质和经验相关的信息。一家名为 Relink的丹麦初创公司正在使用和 GloVe类似的技术来汇总求职信，将求职者与工作岗位匹配起来。但在对GloVe模型的工作方式进行了更加深入的观察之后，我有充分理由对它持谨慎态度。任何向我们学习的算法都会和我们一样产生偏见。算法全盘接受我们的歧视经历，而且涉及的领域非常广。我们不能完全相信计算机能够准确地评估我们。总之，在没有监管的情况下，我们不能完全信任它。
突然，我灵机一动：如果进行内隐联想测试让我更清楚地意识到自 己的局限性，或许它也能够让GloVe算法意识到它的局限性？
第三部分 人工智能的未人类了吗？
181