同样的事情发生在卡罗尔输入搜索短语“女人是？”和“穆斯林是？”时。谷歌的自动完成建议给世界上两个很大的群体贴上了“邪恶”和“有害”的标签。卡罗尔联系了谷歌并要求置评。谷歌告诉她：“我们的搜索结果是整体网络内容的反映。这意味着，网上对敏感主题的令人不适的描述有时会影响给定查询内容的搜索结果。”谷歌显然并不为这些结果感到骄傲，但认为这是对网上现有内容的中立呈现。
自动完成建议之所以出现问题，要综合两方面的原因来看，一方面是谷歌依赖于类似GloVe的算法，在词语空间中将频繁地一起出现的词语置于较近的位置，另一方面则是极右翼人士在网上发布了海量文本。阴谋论右翼分子常常制作大量网页、视频，并在众多论坛发起讨论，向所有阅读、观看这些东西的人阐述他们的世界观。当谷歌在全网搜索数据，以便将其用于改进自己的算法，学习我们的语言时，数据中不可避免地也会包含右翼分子发布的那些东西。于是右翼分子的观点自然也就成为了算法观点的一部分。
在卡罗尔的文章发表后，谷歌解决了她指出的问题。现在，输入“犹太人是？”之后谷歌只产生可以让人接受的建议，其他自动完成建议已被完全删除。当我输入“黑人是？”时，谷歌没有显示自动完成建议，于是我按下搜索键，搜索结果的第二个链接显示：“人们反感谷歌对黑人是？’的第一个自动完成建议”。“女人是？”已经完全没有自动完成建议了，而有关“穆斯林是？”的最可能让人不悦的自动完成建议是“他们是否行割礼？”之类的问题。当我输入“谷歌”时，我得到的搜索建议为“谷歌在让我们变傻吗？”至少这个全球领先的搜索引擎带了点儿自嘲式的幽默感。
被算法操控的生活OUTNUMBERED
180