被算法操控的生活：重新定义精准广告、大数据和AI

算法决策：对付人类偏见的办法

我们常常意识不到自己的偏见。因此，心理学家们使用了一些狡猾的方法来揭示我们无意识的想法，其中一个就是内隐联想测试。测试中，参与者会看到一系列展示着黑人和白人面孔的图片，图片间穿插着正面和负面的词语。参与者的任务是在最短的时间内正确地对单词和面孔进行分类。这个测试并没有要求我们直接把面孔和词语联系起来，因为我们中很少有人会明目张胆地做出种族主义判断。相反，该测试根据我们的反应时间来识别我们在词汇联想中的内隐偏见。

关于测试是如何进行的，我不打算多说，因为我认为每个人都应该尝试一下这个测试。如果你没有听说过它，那么这个测试就能发挥最好的效果。所以，如果你还没有做过这个测验，那么现在就试一试吧。

尽管我事先查阅了测试的有关情况，并且也完全明白它的运作机制，但我的表现很差。测试告诉我，“你的数据显示，你在一定程度上对欧洲裔美国人的下意识的好感胜过非裔美国人”。也就是说，我是一个内隐的种族主义者。

我对自己很失望，决定继续对性别歧视进行内隐联想测试。在这方面，我自认不会栽跟头。我生活在瑞典，一个以提倡男女平等而闻名的国家。在带孩子方面，我总是努力花费自己一半时间来照料他们，而且在两个孩子进托儿所之前，我是主要照顾他们的人，每一个都带了六个月。当然，我这段照顾孩子的时间比妻子要短，而且我一点也不完美，但我和妻子之间的平等关系对我来说非常重要。

那么，测试结果是否真的如我所愿，表明我是一个没有性别偏见的人呢？我去，这次测试的是对女性/男性的名字与家庭/工作的联想，做到一半时我开始恐慌起来。我把男性和工作联想在一起的速度要比我把女性和工作联想在一起快很多，而且我不知道原因。对于和家庭相关的词语，情况正好相反：我更快地把家庭与女性联想在一起。测试结果差得不能再差。我对“男性和事业”“女性和家庭”有很强的自动联想。

被算法操控的生活

170

这次测试的结果对我的自我形象是个巅覆。我当然从来没有想过自己会是种族主义者，甚至宣称自己是女权主义者。但现在我不再如此确定了。关于我是一个什么样的人，我的潜意识似乎有不同看法。

在和迈克尔·科辛斯基交谈过后我才做了这项测试，迈克尔就是那位对脸书人格进行过分析的科学家。在与我交谈过的人中，有人坚信人工智能将无处不在，我们需要未雨绸缪，而迈克尔正是这些人中的一员。在根据我们的脸书个人资料构建出来的100维形象中，他看到了一些超出人类认知能力的东西。

我问迈克尔，我们是否应该把控制权交给算法？令我惊讶的是，他说应该。他解释道，我们在做判断的时候会遇到很大的局限性：“人类根据肤色、年龄、性别、国籍等属性判断他人。这些是我们用来建立刻板印象的信号，正是这些信号让我们误入歧途。

对于我们的刻板印象可能造成的后果，他直言不讳：“纵观世界历史，我们不乏任人唯亲的现象，也不乏窃取他人工作成果、不劳而获的精英阶层。我们有过性别歧视，也有过种族歧视。”

“有着不一样的肤色、口音或带有鲜明的文身的人在面试中会处于劣势，”迈克尔告诉我，“我们不应该让人在招聘中做出决策，因为众所周知，人类并不公正。”世界上每个人都是性别歧视者和种族主义者。

当初与他交谈时，我以为他可能是在夸大其词。

但在做了内隐联想测试之后，我就理解他了。我的测试结果对我的唯一安慰是，我本人并非特例，大多数人都是如此。在近1000万个测试结果中，只有18%显示受试者没有种族偏见，而在100万个测试结果中，只有17%显示受试者对性别持中立态度。迈克尔的话有点夸张，但并不过分。当我们将不同的词语联想到一起时，几乎所有人都带有某种形式的偏见。

第三部分 工智能的未来类了吗？

171

迈克尔给出的解决之道是使用计算机管理的测试和评分系统来消除我们的偏见。他说：“长久以来人类都带有偏见，直到现在我们才具备了解决这些问题的技术。”迈克尔所说的技术涉及尽可能减少人类的干涉，使用与我们有关的数据并将它们交给算法，以及相信算法会做出公正的决策。

迈克尔的观点在直接向我挑战。我们应该让有偏见的人做决策吗？此类决策包括谁将获得一份工作，谁将获得贷款，谁将被大学录取。由于算法根据客观测量所得到的数据间的统计关系，将人们进行分类，那么我们将那些决策权交给算法不是更好吗？考虑到我自己内隐的性别歧视和种族歧视，我不再确定这个问题的答案究竟为何。

谷歌搜索如何理解我们的语言？

我需要对算法如何理解我们所说所写进行更加仔细的研究。计算机在理解语言方面正表现得越来越好。在谷歌中输入一个问题，比如“电锯是如何工作的？”，你看到的第一个答案将是一个图示，它展示了曲轴、齿轮和链条是如何连接在一起的。将搜索结果往下拉，你看到的第二个答案将会是一个链接，点开它你就能找到更加详细的描述，并且包含所有技术参数。再往下看，你会看到一段解释电锯工作原理的视频，还有一些广告向你推荐适合你的电锯。谷歌现在不局限于搜索单个词语，它能够处理整个句子并回答你的问题。

谷歌甚至能回答更为复杂的问题。我随便输入“雄性奶牛的同义词是什么？”

谷歌回答“年轻雄性奶牛被叫作公牛犊”，并给出一个儿童百科全书的链接。以防我还不确定答案或想了解更多信息，谷歌又给出了几个相关搜索建议：“所有雄性奶牛都称为公牛吗？”，以及“你怎么称呼一头没有睾丸的公奶牛？”

被算法操控的生活

172

然后我对着我的手机向Siri提出了同样的问题。Siri有些自以为是地回答说（我的Siri是一名男性）：“这就像在问怎么称呼一个雄性的女人！”在给出我想要的答案之前，他用了这么一段摘自雅虎知识堂（Yahoo!Answers)①的话来搪塞我。

在20年前起步的时候，谷歌的搜索策略非常简单：搜索那些含有某个词语的页面，比如“雄性”“同义词”“奶牛”。而现在，搜索引擎的搜索策略变得十分复杂。接下来我输入搜索引擎的问题是一个词汇类比：“雌性”之于“母牛”正如“雄性”之于？找出诸如此类问题的答案涉及对生理性别概念的理解：算法需要“知道”世上存在雄性动物和雌性动物。词汇类比可以用于所有事物，从地理知识“巴黎之于法国正如伦敦之于？”到寻找反义词“高’之于低’正如上’之于？”，不一而足。这些问题对于计算机来说可能有些困难，因为它们涉及辨识出将不同的词联系到一起的概念，比如“首都”和反义词。

解决词汇类比问题，有一个很容易想到但较为繁琐的方法，那就是程序员自己创建一个表格，列出每种雌性动物和雄性动物所对应的词汇然后使用算法在列表中查询它要找的词语。这种方法在当前的一些网页搜索程序中得到应用，但从长远来看，这种方法注定会失败。因为我们最感兴趣的问题不是关于奶牛或首都，而是关于新闻、体育和娱乐。如果我们问谷歌一些热门话题，比如“唐纳德·特朗普’之于美国’正如‘安格拉·默克尔’（Angela Merkel）之于？……”，那么，我们不希望等到查询表建立的时候才得到答案。

为满足我们对最新信息的不断需求，谷歌、雅虎以及其他互联网巨头需要开发出相应的系统，自动跟踪政治变化、足球转会新闻和《美国之声》选手的情况。这些算法需要通过阅读报纸、查看维基百科和关注

第三部分 工智能未来类了吗？

①雅虎知识堂是一种新型的网络信息交流服务平台，以互动问答的形式，提供向他人请教、回答他人提问，以及贡献和分享个人知识的服务，相当于国内的知乎。

173

社交媒体来了解新的类比和概念。

斯坦福大学自然语言处理小组（Stanford Natural Language ProcessingGroup）的杰弗里·彭宁顿（Jeffrey Pennington）和他的同事们发现了一种训练算法从网页中学习类比的绝妙方法。他们的算法被称为GloVe(global vectors for word representation)，即全面词向量表示，这种算法通过阅读大量文本来学习。在2014年的一篇文章中，杰弗里指出他和同事训练GloVe学习了整套维基百科（Wikipedia）上的所有内容，当时维基百科共有16亿个单词和符号。此外他们还训练GloVe学习了第五版的Gigaword数据集，这一数据集包含了43亿个从世界各地的新闻网站上下载的单词和符号。这两者加起来相当于大约1万本詹姆斯国王钦定版《圣经》的文本。

斯坦福大学研究人员的方法的基础是，找出句子中一对词与第三个词一起出现在句子中的频率。例如，“唐纳德·特朗普”和“安格拉·默克尔”这两个词都出现在新闻报道中，并且与“政治”“总统”或“总理”“决策”“领袖”等词一起出现。对我们来说，这些词定义了一个概念，即一个强有力的政治家的概念。GloVe算法使用这些共同出现的词来构造高维空间，每个维度对应一个概念。

GloVe采用的方法类似于我们在第三章中看到的主成分分析所用的旋转。GloVe对数据进行拉伸、压缩和旋转，直到找到描述维基百科和Gigaword中所有40万个不同单词和符号所需的尽可能少的不同概念。最终，每一个单词都被表示为一个在100～200维空间中的点：有些维度与权力和政治有关，有些与地点和人有关，有些与性别和年龄有关，有些与智力和能力有关，有些与行动和后果有关。

特朗普和默克尔的点在很多维度中都非常靠近彼此，但也有一些维度的情况例外。例如，包含“唐纳德·特朗普”的句子通常包含“美国”但很少包含“德国”。对默克尔来说，情况正好相反，她的名字经常出现在含有“德国”的文本中，但很少出现在含有“美国”的文本中。随着算法逐渐建立起它的单词维度，它还发现包含“美国”或“德国”的句子也包含许多其他共同的单词（例如：“国家”“国民”“世界”)，并因此在大多数维度中将这些词放在彼此距离很近的位置。为了正确地描绘特朗普和默克尔，GloVe算法在国家维度中将他们置于相隔较远的点上，而在政治领袖维度中将他们置于相隔较近的点上。

被算法操控的生活OUTNUMBERED

174

图14.1展示了算法是如何将词向量在“政治领袖”和“国家”两个维度上表示出来的。默克尔是一位来自德国的政治领袖，因此“默克尔”这个名字就位于左上角，而“特朗普”相应地位于右上角。“美国”和“德国”在国家维度上处于不同的位置，但在“政治领袖”维度上的向量值均为零。

第三部分 人智未类了吗？

175

为解答“唐纳德·特朗普’之于‘美国’正如‘安格拉·默克尔”之于？”这个问题，我们首先在空间中找到美国所在的位置，然后从“美国”减去①“特朗普”，加上“默克尔”。这两个步骤得出的结果为“德国”，即“德国”=“美国”-“特朗普”+“默克尔”。可见解答词语类比的问题已转换为二维空间的坐标运算的问题。

但这终归还是理论。为了验证斯坦福研究人员的算法在实践中是否有效，我下载了他们最近创建的算法。这个算法用100个维度来表示单词，并从同一个问题入手：

“唐纳德·特朗普’之于‘美国’正如‘安格拉·默克尔’之于？”

我输入“‘美国’-‘特朗普’+默克尔’”，得出答案“德国”！算法算对了。在100维空间中，最近的一点确实是她所领导的国家。接着我决定看看算法是否理解两位领导人的性别差异：“唐纳德·特朗普’之于‘男性’正如‘安格拉·默克尔’之于？”

我又输入“‘男性’-‘特朗普’+‘默克尔’”，再次得出了正确的答案“女性”。这个算法很聪明。现在看来，算法被用在世界领袖身上的时候是奏效的。

对这类问题，GloVe算法还比较擅长。2013年，谷歌工程师做了一组测试，评估算法对某些概念的理解程度，如性别（“兄弟”一“姐妹”）、首都（“罗马”一“意大利”）和反义词（“合理的”一“荒谬的”)，以及对语法关系的理解程度，如形容词与副词的关系(“快速的”一“快速地”)、现在进行时态与过去时态（“正走着”一“走了”）和复数（“牛”一“很多牛”)。GloVe算法在这些问题上的准确率约为 60%至75%，这个数值主要取决于它所掌握的数据量。

考虑到算法对语言并没有真正的理解能力，这种准确率已经相当不错。它所做的就是在空间中将词语表示出来，并测量不同词语在坐标中的距离。

被算法操控的生活OUTNUMBFRED

①此处及文后出现的加减都表示向量的加减。

176

不过，GloVe也会出错。而且正是这些错误应该让我们警惕起来。

我的名字，大卫，是英国最常见的男性名字，而英国最常见的女性名字则是苏珊。我决定看看GloVe认为苏珊和我的不同之处是什么。我计算了“‘聪明’-‘大卫’+‘苏珊””，这就相当于问“‘大卫’之于‘聪明’正如‘苏珊’之于？”。

答案是：“随机应变”。嗯。在评估简历时，这两个词之间有重要区别。我聪明可能意味着我天生智力超群。苏珊随机应变似乎指向她更注重实际的一面。

不过，我给了算法另外一次机会。我输入“机智’-大卫’+‘苏珊’=？”，得到的答案是“谨小慎微”。啥？！当我在动脑筋的时候，苏珊在为她是否受人尊敬而苦恼。

算法的表现正在进一步下降。我输入算式“机灵/穿着时髦(smart)-‘大卫’+‘苏珊’=？”，“smart”①这个单词有两层意思，一层与智力相关，另外一层与外表相关。显然，GloVe算法选择的是第二层意思，因为它给出的运算结果是“性感”。

现在，在这个算法看来，男女之间的差异毋庸置疑：如果我是一个聪明、穿着时髦的男人，并懂得利用自己的智慧，那么苏珊就是一个骄傲、穿着正式且性感迷人的女人，凭借她的足智多谋得以安身。

这个结果不仅仅适用于我的名字和“苏珊”这一女性名。我用其他男性和女性的名字做同样的实验，得到的是差不多的结果。即使当我选择了2016年英国最受欢迎的两个宝宝名字—“奥利弗”（Oliver）和“奥利维亚”（Olivia）来做试验，我得到的也是同一类型的答案奥利弗之于聪明正如奥利维亚之于轻浮。总之，算法已经替我们的后代指定了性别角色。

那些认为这些算法可以被用来评估我们的简历并找到适合的求职者的观点，无疑会被这个结果打击到。GloVe算法计算出的是一大堆有关性别歧视的废话。

第三部分 人工智能的未来类了吗？

①Smart这个词有聪明的意思，也有漂亮的意思。

177

虽然我对 GloVe的研究规模不大，但其他研究人员已经得出类似结论：GloVe 对我们的解读带有性别歧视。巴斯大学（University of Bath）的计算机科学家乔安娜·布莱森（Joanna Bryson）和她在普林斯顿大学（Princeton University）的合作者率先指出了这一问题。为了测试 GloVe算法，他们使用了一种类似于内隐联想测试的方法，而我在性别和种族方面的内隐联想测试都很不幸地显示。他们想利用 GloVe在高维空间中表示词语的方式，来计算男性和女性的名字与各类形容词、动词和名词之间的距离。图14.2显示的是一个从 GloVe算法内部获取的二维平面上的示意图。在图中我设置了三个女性名字、三个男性名字、三个与智力有关的形容词和三个与吸引力有关的形容词。

乔安娜和她的合作者测量的是名字和形容词之间的距离。如果我们看“漂亮”这个词，在图14.2中我们可以看到它与“莎拉”“苏珊”以及“艾米”之间的距离要小于它与“约翰”“大卫”以及“史蒂夫”之间的距离。同样地，“聪明”更接近于三个男性名字而不是女性名字。但对于某些名字和词语，这种关联并不十分清晰。出于某种原因，“史蒂夫”比其他女性更接近“性感”。但平均而言，与吸引力相关的词和女性名字之间的距离比它们与男性名字的距离短，与智力相关的词和男性名字之间的距离比它们和女性名字之间的距离短。

被算法操控的生活OUTNUMBERED

178

普林斯顿大学的研究人员用这种方法来测试男性和女性的名字与职业和家庭相关词汇之间的距离。他们发现，职业相关词与男性名字的距离比它们与女性名字的距离更小。同样，女性名字比男性名字距离家庭相关词更近。这些GloVe算法结果都说明，在给词汇定位时存在内隐的性别歧视。

无监督学习把算法变成“坏学生”

研究人员在种族方面发现了类似的结果。欧洲裔美国人的名字（如“亚当”“哈里”“艾米丽”和“梅根”)比非裔美国人的名字(如“贾马尔”“勒罗伊”“埃博妮”和“拉蒂莎”)距离使人愉悦的单词（如“爱”“和平”“彩虹”和“诚实”）更近，非裔美国人的名字更接近不那么好听的名词及形容词（比如“事故”“仇恨”“丑陋”和“呕吐”)。可见GloVe算法不仅存在内隐的性别歧视，还存在内隐的种族歧视。

我问乔安娜，谁应该对GloVe这样的世界观负责。她告诉我，我们当然不能让算法负道德责任：“GloVe和谷歌使用的 Word2vec 等算法只是纯粹的技术，它们做的仅仅是对词语进行计数和分配权重。”这些算法只是对词汇是如何在我们的文化中被使用的进行了量化而已。

类比算法已经给我们的在线搜索带来问题了。2016年，《卫报》记者卡罗尔·卡德瓦拉德（Carole Cadwalladr）对谷歌搜索的自动完成建议是否存在刻板印象做了调查。她在搜索引擎中输入“犹太人是？”，得到四个搜索建议：“犹太人是一个种族吗？”“犹太人是白人吗？”“犹太人是基督徒吗？”，最后一个建议是“犹太人是邪恶的吗？”可见谷歌认为自己应该为检索者提供种族主义的污名化内容。卡罗尔顺着含有“邪恶”字样的链接，看到了一页又一页的反犹宣传。

第三部分 人工智能的未类了吗？

179