波士顿大学的博士生托尔加·布洛克巴西（TolgaBolukbasi）对如何通过操纵空间维度来降低算法的性别歧视程度做了一个更完整的研究。谷歌的 Word2vec 算法和 GloVe一样，也是把词语表示为多维空间中的点。当他在 Word2vec运算中得到“男人’-女人’=‘电脑程序员’-‘家庭主妇’”的结论时，他很震惊，他决定做点事情来改变这种情况。
托尔加和他的同事通过将女性专有词(如“她”“她的”“女人”“玛丽”等）的坐标，减去相应的男性专有词（如“他”“他的”“男人”“约翰”等）的坐标，确定词语之间的系统性差异。这使得他们能够识别出Word2vec中300维词向量的偏见方向。然后，他们通过将所有词语往与偏见相反的方向移动，就可以消除偏见。这个解决方案既简洁又有效。研究人员发现，消除掉性别偏见对谷歌的标准类别测试算法的整体表现影响不大。
托尔加开发的方法可以用来减少或消除词汇使用中所隐藏的性别偏见。托尔加和他的同事创造了一种新的词汇表示法。在这种表示法中，所有带性别特征的词与所有不带性别特征的词的距离都一样。例如，通过他们的设置，“带孙子”和“祖母”之间的距离与“带孙子”和“祖父”之间的距离相同。这样做的结果体现了无可挑剔的政治正确性，没有哪个性别与任何特定的动词或名词存在更密切的关联。
对于我们是否应该要求算法做到政治正确，仁者见仁，智者见智。我认为在用算法表征我们的语言时，“带孙子”在默认设置中与“祖父”和“祖母”的距离都应该是相等的。祖母和祖父都有同等的能力照顾他们的孙辈，所以让这个词与“祖父”和“祖母”等距是合乎逻辑的。另一些人则认为，“带孙子”这个词应该更接近“祖母”，而不是“祖父”，因为否认女性比男性更经常照顾孙辈这一点，是在否认日常生活中的现实。因此在算法的空间维度中如何设置距离这个问题，重要的一点在于，你是以逻辑还是以经验的角度看待世界。
从根本上来说，关于我们如何表征词语这个问题没有一个放之四海而皆准的答案。它取决于我们应用算法的领域。就自动阅读简历而言，我们应该使用严格的性别中立算法。如果我们想开发一种人工智能，用简·奥斯汀的风格来进行新书创作，那么如果我们消除性别差异的话，很大程度上就会丢失她书中的大部分精华。
第三部分 人智的未类了吗？
183