被算法操控的生活：重新定义精准广告、大数据和AI

同样的事情发生在卡罗尔输入搜索短语“女人是？”和“穆斯林是？”时。谷歌的自动完成建议给世界上两个很大的群体贴上了“邪恶”和“有害”的标签。卡罗尔联系了谷歌并要求置评。谷歌告诉她：“我们的搜索结果是整体网络内容的反映。这意味着，网上对敏感主题的令人不适的描述有时会影响给定查询内容的搜索结果。”谷歌显然并不为这些结果感到骄傲，但认为这是对网上现有内容的中立呈现。

自动完成建议之所以出现问题，要综合两方面的原因来看，一方面是谷歌依赖于类似GloVe的算法，在词语空间中将频繁地一起出现的词语置于较近的位置，另一方面则是极右翼人士在网上发布了海量文本。阴谋论右翼分子常常制作大量网页、视频，并在众多论坛发起讨论，向所有阅读、观看这些东西的人阐述他们的世界观。当谷歌在全网搜索数据，以便将其用于改进自己的算法，学习我们的语言时，数据中不可避免地也会包含右翼分子发布的那些东西。于是右翼分子的观点自然也就成为了算法观点的一部分。

在卡罗尔的文章发表后，谷歌解决了她指出的问题。现在，输入“犹太人是？”之后谷歌只产生可以让人接受的建议，其他自动完成建议已被完全删除。当我输入“黑人是？”时，谷歌没有显示自动完成建议，于是我按下搜索键，搜索结果的第二个链接显示：“人们反感谷歌对黑人是？’的第一个自动完成建议”。“女人是？”已经完全没有自动完成建议了，而有关“穆斯林是？”的最可能让人不悦的自动完成建议是“他们是否行割礼？”之类的问题。当我输入“谷歌”时，我得到的搜索建议为“谷歌在让我们变傻吗？”至少这个全球领先的搜索引擎带了点儿自嘲式的幽默感。

被算法操控的生活OUTNUMBERED

180

GloVe算法是科学家口中的“无监督学习”的一个例子。我们说GloVe算法不受监督，是因为当它学习我们提供的数据时，没有得到任何来自人类的反馈。算法只是找到了一种简洁而准确的方式来如实地描述这个世界。乔安娜·布莱森告诉我，如果不首先解决种族歧视和性别歧视的问题，就没有真正的方法来解决由无监督学习造成的问题。

我再次想起了自己的内隐联想测验。我不是右翼极端分子，也不散布阴谋论或种族主义的谎言，但在自我表达方面确实做出了一些无意识的小选择。我们都是如此，而且这些选择不断地在新闻和维基百科中积累，在推特和Reddit等网站上，这种情况表现得更为突出。这些算法不受监督，它们阅读、学习我们所写的内容，但它们的程序本身并没有被写入带有偏见的代码。当我们研究它们学习到了有关我们的什么内容时，它们只是反映了我们所生活的社会环境中存在的偏见。

我也回想起自己和迈克尔·科辛斯基的讨论。迈克尔对使用算法消除偏见的可能性非常感兴趣。而且，正如他预测的那样，研究人员已经在着手研发工具以便从简历中提取与应聘者的素质和经验相关的信息。一家名为 Relink的丹麦初创公司正在使用和 GloVe类似的技术来汇总求职信，将求职者与工作岗位匹配起来。但在对GloVe模型的工作方式进行了更加深入的观察之后，我有充分理由对它持谨慎态度。任何向我们学习的算法都会和我们一样产生偏见。算法全盘接受我们的歧视经历，而且涉及的领域非常广。我们不能完全相信计算机能够准确地评估我们。总之，在没有监管的情况下，我们不能完全信任它。

突然，我灵机一动：如果进行内隐联想测试让我更清楚地意识到自 己的局限性，或许它也能够让GloVe算法意识到它的局限性？

第三部分 人工智能的未人类了吗？

181

哈佛大学的研究人员设计并推广内隐联想测试，并不是要告诉大家我们都是种族主义者和偏执狂，而是希望引导我们认识自己潜意识里的偏见。内隐联想测试网站解释说：“我们鼓励人们不要把注意力集中在减少内隐的偏好上，而应该集中在不给偏见提供生长土壤上”。用算法世界的语言来说，我们应该集中精力找到方法消除算法中所存在的偏见，而不是指责这些偏见。

算法使用空间维度来表示我们，而消除算法偏见的策略之一就是充分利用这种方法。由于GloVe在数百个维度上进行运算，因此将它对词语的理解完全可视化是不可能的，但找出算法的哪些维度与种族或性别有关是可能的。所以我决定一探究竟。我的电脑上安装了一个100维版本的GloVe算法，从它的100个维度中，我确定了最能区分女性名字和男性名字的维度。然后我做了一件很简单的事，将这些与性别相关的维度设置为零，如此一来在GloVe的这些维度中，“苏珊”“艾米”和“莎拉”就与“约翰”“大卫”和“史蒂夫”处于完全相同的点上了。我继续寻找区分男性和女性名字的维度，最后一共找到10个，我把它们都设为零。如此一来，我就消除了GloVe算法中的大部分歧视。

我的方法奏效了。在消除了10个与性别相关的维度后，我向算法提出了一系列关于我的名字和“苏珊”的新问题。我从“大卫’之于聪明’正如‘苏珊’之于？”或者从“聪明’-‘大卫’+‘苏珊’=”开始。答案很明确：“机智”。同样地，当我运算“机智’-‘大卫’+‘苏珊’”时，我得出了“聪明”这个答案。这两个同义词在正反运算中都被关联起来了。我的名字是“大卫”还是“苏珊”无关紧要。最后的运算给了我一个惊喜：“‘聪明伶俐’-‘大卫’+‘苏珊’=‘思维活跃’（Rambunctious)”。“Rambunctious”是一个我不得不去查的词，它的意思是喷涌而出的旺盛精力。新的苏珊现在不仅和我一样聪明，而且她对自己新近表现出的脑力产生了难以抑制的喜悦之情。

被算法操控的生活OUTNUMBERED

182

波士顿大学的博士生托尔加·布洛克巴西（TolgaBolukbasi）对如何通过操纵空间维度来降低算法的性别歧视程度做了一个更完整的研究。谷歌的 Word2vec 算法和 GloVe一样，也是把词语表示为多维空间中的点。当他在 Word2vec运算中得到“男人’-女人’=‘电脑程序员’-‘家庭主妇’”的结论时，他很震惊，他决定做点事情来改变这种情况。

托尔加和他的同事通过将女性专有词(如“她”“她的”“女人”“玛丽”等）的坐标，减去相应的男性专有词（如“他”“他的”“男人”“约翰”等）的坐标，确定词语之间的系统性差异。这使得他们能够识别出Word2vec中300维词向量的偏见方向。然后，他们通过将所有词语往与偏见相反的方向移动，就可以消除偏见。这个解决方案既简洁又有效。研究人员发现，消除掉性别偏见对谷歌的标准类别测试算法的整体表现影响不大。

托尔加开发的方法可以用来减少或消除词汇使用中所隐藏的性别偏见。托尔加和他的同事创造了一种新的词汇表示法。在这种表示法中，所有带性别特征的词与所有不带性别特征的词的距离都一样。例如，通过他们的设置，“带孙子”和“祖母”之间的距离与“带孙子”和“祖父”之间的距离相同。这样做的结果体现了无可挑剔的政治正确性，没有哪个性别与任何特定的动词或名词存在更密切的关联。

对于我们是否应该要求算法做到政治正确，仁者见仁，智者见智。我认为在用算法表征我们的语言时，“带孙子”在默认设置中与“祖父”和“祖母”的距离都应该是相等的。祖母和祖父都有同等的能力照顾他们的孙辈，所以让这个词与“祖父”和“祖母”等距是合乎逻辑的。另一些人则认为，“带孙子”这个词应该更接近“祖母”，而不是“祖父”，因为否认女性比男性更经常照顾孙辈这一点，是在否认日常生活中的现实。因此在算法的空间维度中如何设置距离这个问题，重要的一点在于，你是以逻辑还是以经验的角度看待世界。

从根本上来说，关于我们如何表征词语这个问题没有一个放之四海而皆准的答案。它取决于我们应用算法的领域。就自动阅读简历而言，我们应该使用严格的性别中立算法。如果我们想开发一种人工智能，用简·奥斯汀的风格来进行新书创作，那么如果我们消除性别差异的话，很大程度上就会丢失她书中的大部分精华。

第三部分 人智的未类了吗？

183

通过研究GloVe和阅读托尔加·布洛克巴西、乔安娜·布莱森与他们同事的研究成果，我了解到这些算法仍然处于我们的掌控之中。它们可能在不受监督的情况下学习我们的数据，但事实证明，弄清楚算法内部究竟在发生着什么并改变它们产生的结果是可能的。我的大脑中存在错综复杂的逻辑关系，我对文字的内隐反应与我的童年、成长环境和工作经历交织在一起。然而与我们自己的大脑不同，算法空间维度中的性别歧视是可以被我们清理掉的。

因此给算法贴上性别歧视的标签是错误的。事实上，研究这些算法增加了我们对隐性性别歧视的理解，它揭示了我们文化中存在的根深蒂固的刻板印象。就像内隐联想测试一样，它能帮助我们更好地面对和处理我们社会中固有的种族主义和性别歧视。迈克尔认为算法能够帮助我们做出更好的招聘决策的观点很可能是正确的，尽管这项技术离自动完成这项工作还很远。

当我惭愧地向乔安娜·布莱森承认我没有通过内隐联想测试时，她请我放心，因为这并不意味着我是性别歧视者或种族主义者。“这不是真正的测试，而是一种衡量标准，”她说，“此外，还有其他外显的偏见衡量方法，比如测验我们必须与不同种族或性别的人合作完成一项任务时我们的行为方式。”乔安娜援引研究结果说，这些实验中得到的外显偏见水平与我们的内隐偏见度之间没有或几乎没有关联。当我开始明确思考我的答案时，我第一时间的内隐反应就可能发生改变。

乔安娜认为，我们应该视人类对词语的内隐反应为一种“信息收集系统”。她说，这个系统的第一个层次是接收词语并对其进行预处理，然后辅助我们的外显记忆，帮助我们“与其他个体沟通交流并构建出一个新的现实”。

被算法操控的生活OUTNUMBERED

184

与词语间关系相关的数学模型如 Word2vec和 GloVe，只做到了第一个层次。这些系统能够发现词语之间的联系，但无法反映我们推理和思考这个世界的方式。

计算机科学家已经着手研究第二层次的显性推理，他们正在开发一种算法，把词语组成句子，句子组成段落，段落组成整个文本，而我现在需要上升到该层次进行思考了。

第三部分 人工智能的未类了吗？

185

第15章|计算机作家

我想跟你们谈一点很私人的事情，你知我知就好。当我阅读一本好小说时，我享受的并不是它的文字。我也不看重作者对人物、地点的精心构思和描写，甚至于故事本身对我来说都不重要。我最喜欢阅读的作家，如柳原汉雅和卡尔·奥韦·克瑙斯高(Karl- Ove Knausgård)，并不给读者呈现跌宕起伏、精彩纷呈的故事情节。相反，我所寻找的东西隐藏在不起眼的微观细节和完整的宏观世界之间的某个地方。当我阅读时，我所追逐的是我自己的思绪。当一本书赋予我生命意义，或者正好相反，它缓缓地揭示任何人的生命都没有终极意义时，这就是本好书，而词语和句子则退居其次。小说的价值不在于写在纸面上的东西，而在于读者头脑中形成的思想和观念。

对我来说，许多不同的书都是如此。列夫·托尔斯泰的《安娜·卡列尼娜》（AnnaKarenina）就让我手不释卷，它一页一页地告诉我，原来在遥远的历史深处、在天各一方的异国他乡，有人和我经历着一样的情感、拥有着同样的理想。这些都无关物质，无关苦求而不得的单恋，甚至也无关对社会变革的渴望，而只关乎理解与释怀（understand the un-understandable)。当我与书为伍时，我知道我并不孤单。

被算法操控的生活OUTNUMBERED

186

一个智能作家的诞生

好书层次丰富，耐人寻味。也许是词语字字珠玑，也许是句子精妙绝伦，也许是故事引人入胜，又或许是它让读者有所感悟和共鸣。最后一个层次读者的感悟和共鸣可能是最重要的。当你的心绪随着作者的生花妙笔在书中起起落落时，你会知道书中人物与你感同身受。这可能无关文字、句子，甚至无关情节，它只关乎情感。

不同的人，对同样的文字和书籍的解读不同。但作者在书中倾注的心血和思想突然从字里行间喷薄而出、照进我们自己的生活的那种体会，只要是阅读过图书的人都懂得。

我们有可能解释清楚我们读到一本精彩的书时的感受吗？不可能，这种感受只可意会不可言传。我甚至都不打算给你们解释，因为那必将徒劳无功。

言归正传。让我们来了解一些处理和创造语言的算法。

想象一下，在一个非常简单的文学世界里，只有四个词，“狗”“追”“咬”和“猫”，名词和动词交替出现是唯一正确的组句形式，比如“狗咬猫”或“狗追猫咬狗咬猫”。我想创造一个计算机化的作者，能够创做出无穷无尽的关于猫和狗互动的杰作。这些句子应该语法正确，动词总是在名词之后。我还希望我的自动化作者只写猫狗互斗，不写同类之间的针锋相对，也就是说我的作者不应该写出“狗追狗”这样的句子。

我将用二维坐标表示词语，就像我们在上一章对GloVe算法所做的一样。我们用（1,1）表示狗，（1,0）表示猫，（0,1）表示追，（0,0）表示咬。注意，每个坐标中的第一个数字表示的是这个词语是名词(1)还是动词(0)。

图 15.1 是一组逻辑门（Logic gates）①，它们使用一个句子中的前两个词语来确定下一个词语。逻辑门通过1和0来运算，是所有计算的基础。我使用了全部三种标准逻辑门：使0和1相互转换的非门，即非（1）=0，非（0）=1；与门，即如果两个输入字符都是1，则输出1，其他情况则输出0；或门，即如果一个或两个输入都是1，则输出1，如果两个输入都是0，则输出0。图15.1（a）展示了“猫咬”的输入是如何通过逻辑门输出“狗”的，而如果我们将“狗咬”输入网络，那么我们将得到的输出是“猫”。

第三部分 人智的未人类了吗？

①逻辑门又称“数字逻辑电路基本单元”，是执行“或”“与”“非”“或非”“与非”等逻辑运算的电路。任何复杂的逻辑电路都可由这些逻辑门组成。逻辑门被广泛用于计算机、通信、控制和数字化仪表中。

187

被算法操控的生活OUTNUMBERED

188

我的自动化作者差不多就要横空出世了，但他还缺少一样武器：创造力。我希望我的作者每次随机选择一个动词，并把这个动词加入它自己对猫狗互掐的富有想象力的描述中。为此，在图15.1（b）中，我将引进一种新的逻辑门，我把它叫作二分之一非门（非/2)。非/2门与非门的不同之处在于，我们输入0时，非门输出1，而非/2门输出1/2。因此，当我输入“咬狗”，我的作者输出（0，1/2)。坐标的第一个数字表示输出应是一个动词，第二个数字表示算法一半的时间选择输出1（“追”)，另一半的时间选择输出2（“咬”)。

现在，我让我的自动化作者自由发挥，开始时给它输入“狗咬”这两个词，然后让它每次都根据前两个词产生一个新词。它给出的结果让人昏昏欲睡：

狗咬猫咬狗咬猫追狗咬猫追狗追猫咬狗咬猫追狗咬猫追狗追 猫追狗咬猫追狗追猫追狗咬…

尽管偶尔缺乏具有自我洞见的转折，但从风格上说，这里的句子和卡尔·奥韦·克瑙斯高《我的奋斗》(MyStruggle)系列的六本书一样长而冰冷。一组简单的逻辑门抓住了猫狗为争夺控制权而进行的无休止争斗的精髓。

我们的自动化作者证明，一组逻辑门在经过轻微调整后并纳入随机性后，就能握语言创造的基本过程中的一些要素。我的“猫和狗”算法受到语法、动名词交替模式以及文体要求的限制，也就是对猫狗互斗的强调。它在动词的随机选择上也很有创造性。

逻辑规则和随机创造力是聊天机器人水谷（Mitsuku）的核心特点，该机器人因最像人类而获得2016年和2017年的勒布纳人工智能奖(Loebner prize）①。她接收与她交谈的人说出的句子，利用英语的语法规则来挑选名词和动词，然后生成回复。她的回答有一定程度的随机性。当我问水谷是否总是用同样的方式回答每一个问题时，她告诉我：“不总是，我的主人给我编程的回复超过了8兆比特。”

第三部分 人工智能的来类了吗？

189