被算法操控的生活：重新定义精准广告、大数据和AI

10年取得的进展实际上是大公司变得比以前更擅长收集消费者的数据并向消费者推销商品了。马克·扎克伯格的管家就是一个很好的例子。扎克伯格收集了一大堆数据，包括他在声田上听的歌、他朋友的面部特征和他自己的日常活动。他把这些数据输入电脑，以便帮助他改善日常生活。

凯瑟琳认为，真正的危险不在于计算机智能的爆炸式发展，而在于我们利用目前所拥有的科技手段去改善少数人的生活，而非去改善多数人的生活。另一方面，我们将主要的资源和精力投入到了为超级富豪们打造私人管家上，而非投入到为所有人谋福祉上。

马克斯·泰格马克和他的朋友们有权利坐下来展望人工智能的未来，但是我们应该实事求是地看待他们的讨论，认清他们对话的本质。这只是一群或多或少具有相同社会经济背景、相似教育背景和工作经验的富人在对科幻小说般的事情高谈阔论而已。当我和奥勒·哈格斯特伦讨论这些问题时，我也陷入了同样的困境，我们都是科学家，戴着科学家的有色眼镜看待问题。

回到现实世界，在未来很长一段时间内，唯一类似人类的智能形式只会是人类自己。我们真正面临的问题是，究竟是用已有的算法来造福广大民众，还是用算法满足少数人的私欲？二者择一，我很清楚自己的选择。

被算法操控的生活OUTNUMBERED

230

第 18 章 |回到现实吧

聚会上，我站在一小群人旁边。

待会儿应该会发生点儿什么，我在静静地等待。

“埃隆·马斯克是个白痴”

在过去的一年里，几乎每次社交聚会上我都会遇到同样的事。这一年里，我大部分时间都在办公室度过：编写算法、拟合统计模型、撰写研究结果、在 Skype上采访工程师和科学家。

大家在闲聊，我洗耳恭听。不出所料，有人挑起了关于算法的话题，每次都不尽相同。故事也略有不同，但主题始终如一。“脸书的危险在于它能决定人们看到什么样的内容，”他说，“我读过他们做的一项研究。在这项研究中，他们只给研究对象看负面的帖子，结果这些人变抑郁了。它可以控制我们的情绪，这些负面情绪就像病毒一样四散传播。”

我继续不作声，想听听下一个人怎么说。“是的。他们以出售数据牟利。特朗普之所以能赢得美国大选，很可能是因为这家来自牛津还是其他某个地方的公司下载了所有人的个人资料。”一个女的说。

第三部分 人智能的未人类了吗？

231

“依我看，问题在于他们训练算法来制造假新闻，”另外一个人接着说道，“谷歌也是如此。他们制造了一台可以理解语言的电脑，之后这电脑就开始说它憎恨穆斯林。”

“我知道，”第一个男人说，“这还只是开始。科学家们估计，20年后将会诞生一台具有人类智能水平的电脑，我们将会变成这种电脑的奴隶。我在埃隆·马斯克的书中读到过。’

此时此刻，我终于忍不住爆发了。“首先，”我说，“脸书的研究显示，那些被负面新闻狂轰滥炸的人每个月只倾向于多发一个带负面色彩的词，虽然与那些没有接触太多负面新闻的人相比，这确实存在显著差异，但这种影响实际上微不足道。其次，这家名为剑桥分析’的公司与特朗普的成功当选毫不相干。他们的首席执行官大肆宣扬自己公司的能耐，但是谁也无法证实确实如此。第三，你们说的没错，受过我们语言训练的电脑的确会发表与性别歧视和种族歧视相关的结论，但那是因为我们社会本身就暗含偏见。大多数谷歌搜索会给你和其他人提供你能想到的最不偏不倚、最准确的搜索结果。但这项服务的最大问题是，众多毫无意义的链接试图让你去亚马逊买更多垃圾商品。最后，神经网络最近的一些进展确实引人关注，但我们能否创造出强人工智能仍然要打一个大大的问号。我们甚至无法让一台电脑学会玩好《吃豆人女士》游戏。”

所有人都看着我。“哦，差点忘了，埃隆·马斯克是个白痴。”我补充道。

我讨厌这样的自己。我讨厌自己变得这么无聊。我读了大量科学文献，为了追求客观和严谨，我专注于每一个细节并警告大家当心一些危言耸听的言论，这煞了一些人的风景。其实我对埃隆·马斯克也没那么反感。他只是在做好自己的事情。我接着补充了这么一句，这样我们的谈话才能再次轻松起来，不至过于剑拔弩张。

我知道自己把话题带偏了，我太书生气、太钻牛角尖了。除了细节上有一些小错误之外，和我说话的这些人在真心地关切社会变化。这才是他们谈论脸书、剑桥分析公司和人工智能的原因。

被算法操控的生活OINJMBERED

232

在一年前刚访问完谷歌后，我和他们有相同的感受。我也曾经对数学家和计算机科学家将为我们创造什么样的未来感到惴惴不安。

我现在明白了，算法并非是我曾经想象的洪水猛兽。算法没有能够解决我们社会中存在的性别歧视和种族歧视问题固然让人遗憾，但它们也没有让问题雪上加霜。对于我们都需要更加努力去解决的偏见问题，算法直击要害。令人震惊的是，SCL集团可以创办一家如剑桥分析这样的公司，在没有配套工具或数据的情况下，宣称自己能够针对不同的个性进行定向宣传。这种现象实际上是全球资本驱动的，哪里有利益，哪里就有资本的触角。你要么接受这一点，要么将批评和鞭挞聚焦在这个体系上，而不是这个体系产生的谎言和骗局上。脸书上假新闻满天飞，推特上键盘侠机器人四处游荡，这些同样让人忧心忡忡。不幸中的万幸是几乎没有人相信它们。网络上取得的成就并不完全是因为个人才华，这种现象也让人担忧，但当我们在网络上失败时，反倒能够聊以自慰。为了在Tinder上能够约上女性，你必须英俊潇洒。这的确有些打击人，但长得不好看也要不了你的命，不是吗？

理解算法可以让我们更好地理解未来。如果你理解今天的算法是如何工作的，那么就更容易判断关于未来的预测，哪些是比较现实的，哪些是虚无缥缈的。当我们无法理性地思考算法的影响，忘乎所以地做着科幻大梦时，算法就成为了我们面临的最大风险。

在和聚会上的那些人交谈时，我试图对脸书收到的强烈批评做出回应，试图解释人工智能做出的那些预测意味着什么，但我都没有成功。我现在意识到，我探究人工智能的这段旅程改变了我，让人觉得和我交谈一点乐趣都没有。

第三部分

人工智能的未来算法越来越像人类了吗？

233

推特的好友推荐让我们活得更美好

幸运的是，我结婚了。我妻子为了帮我解围，开始和大家聊起《精灵宝可梦 GO》(Pokémon Go)。洛维萨(Lovisa）有时会骑着自行车去公园与一群25岁左右的男子会合去捉精灵。现在，她跟大家聊起他们上周捕捉火焰鸟精灵的集体活动：我的妻子、穿着慢跑裤的年轻男性、推着婴儿车的30多岁的父母、一群碰巧路过的孩子，以及一对每天都在公园遛弯时捕捉精灵的老年夫妇。我妻子那天抓到精灵了，他们中的大多数人都抓到了，但是当小精灵跳出精灵球并飞走的时候，其中一个小孩子哭了起来。老年夫妇百般安慰这个小男孩说，他们明天会再试一次。

“你应该算算抓到火焰鸟精灵的概率是如何随着我扔出去的精灵球的数量产生变化的。”洛维萨建议。其他和我站在一起的人点头表示同意，我没想到大家的意见这么统一。为什么大卫非得浪费时间向大家卖弄他对算法的了解，而不是讲讲《精灵宝可梦GO》这个游戏该怎么玩？

我不认为我应该为《精灵宝可梦GO》劳神费力。有些事情最好还是不去分析，没有人想知道孩子哭的概率。

相反，我想到的是公园里的那些人，他们互相展示自己的《精灵宝可梦GO》游戏界面，界面空白区域显示了他们仍然需要捕捉的精灵。正常情况下不可能会见面的人因为《精灵宝可梦GO》聚到了一起，玩得不亦乐乎。

我想起了我14岁半的女儿埃莉斯。前不久，她去见了在“阅后即焚”软件色拉布（Snapchat）的聊天群里认识的一个朋友。我和洛维萨—开始很担心这个网上的“朋友”不会是一个40多岁的恋童癖吧？但我们的担心纯属多余。埃莉斯见到的是一个拥有亮蓝色头发的13岁正常女孩。今年夏天，她想去拜访住在波兰的另一位网友。他们经常一边在Skype上聊天，一边一起写作业。我们又要为是否允许她去波兰思前想后了。

被算法操控的生活UMBERED

234

我和儿子亨利刚从纽卡斯尔旅行回来。通过推特，我认识了另一位父亲，瑞安(Ryan)，他和我一样训练自己儿子的足球队。我组织了一系列赛事，将安排32名12岁的瑞典男孩来英国，与瑞安的球队比赛。

瑞安还邀请我到他就职的英国就业和退休保障部（Department ofWork and Pensions）谈一谈我的作品《足球数学》。就业和退休保障部位于伦敦郊区，大楼庄严肃穆，与我一年前演讲过的谷歌伦敦总部有着截然不同的风格。大楼内的一个小型报告厅里挤满了数据科学家，他们对可视化和理解数据的热情不亚于谷歌的同行们。

在我演讲之后，瑞安向我介绍了他和他的团队（工作团队，而非他的足球队）正在做的事情。英国地方议会和他就职的部门都面临着一些类似的挑战，比如当地大型公司倒闭带来的失业问题。瑞安希望能与地方议会建立联系，这样他们就可以互相借鉴彼此的经验教训，应对这些挑战。瑞安使用了尖端的统计学方法，但重点是帮助他在就业和退休保障部的同事以便为当地社区的人们提供帮助。他对我说：“我们希望让决策者自己通过数据找到解决方案”。

瑞安认为，我们需要结合算法和人类的智慧来解决我们面临的问题。仅靠算法是行不通的。

我想起了乔安娜·布莱森对我说过的话。我问过她怎么看待算法的兴起，以及她是否认为算法会变得像我们一样聪明。她告诉我，我问错了问题。“算法已经在很多方面超过人类的智力了。”她说。

在几于年的历史长河中，我们创造出了各种各样的数学“人工”智能来解决各类问题：从早期的巴比伦和埃及的几何，到牛顿和莱布尼茨的微积分，再到允许我们进行更快运算的掌上计算器，最后到现代计算机、万物互联的社会和今日的算法世界。在数学模型的帮助下，我们变得越来越聪明，反过来我们也在推动模型的不断发展和进步。算法是我们文化遗产的一部分，我们和算法你中有我，我中有你，不分彼此。

第三部分 人智人类了吗？

235

我们生活中的这种遗产无处不在，甚至在它最不可能出现的地方也有它的身影，包括英国就业和退休保障部。

我们在线互动的方式伴随着风险。网上有很多阴暗面和乌烟瘴气的氛围，但是算法的合理运用也能够给我们创造众多不可思议的可能性。至少就目前而言，是我们在控制算法，而不是算法在控制我们。我们正在按我们的想法塑造算法。

一个周日的早上，一群盖茨黑德（Gateshead）①的少年和—群乌普萨拉（Uppsala）②的少年在进行足球比赛。那是一个阳光明媚的日子，小伙子们展现了良好的团队意识和公平竞赛的精神，父母们兴高采烈地为场上的孩子们加油。比赛结束后，我们还一起在当地的橄榄球俱乐部看烟火。这美好的一切都要归功于算法建议我和瑞安在推特上互相关注。

我意识到自己走神了，于是又回到了谈话中。话题仍然是脸书。我问大家：“你们知道他们的广告推荐针对的人群分类中还有对吐司感兴趣的人’和对鸭嘴兽感兴趣的人’吗？”

“我希望给这些人推荐的不是三明治的广告，”站在我旁边的女士说。

大家都会心一笑。

我不再觉得那么窘迫了。

被算法操控的生活OLINUMBERED

①盖茨黑德是一个英国城市。

②乌普萨拉是一个瑞典城市。

236