被算法操控的生活：重新定义精准广告、大数据和AI

只有悖论，没有公平

这个世界上不存在公平的方程式。公平只是人类的美好愿望，它是我们的一种感觉。当你改变我的广告算法时，我觉得你是对的。就广告宣传活动而言，我本能地更喜欢表6.3甚于表6.2。当你试图为一个岗位找到最佳合适人选时做了一个吸引男性申请者远多于女性申请者的广告，我们感觉这是不公平的。我们理应投入时间来做出能够更好地找到合格女程序员的算法，即使这意味着它在寻找男性程序员方面有所欠缺，我也会觉得公平。

我还认为，蒂姆·布伦南和COMPAS算法的其他发明者在预测中强调消除校准偏差是错误的。如果Northpointe能够创造出一种能更准确地识别黑人是否是高风险再犯罪者的算法，即使它对白人起不到同样的效果，我也不会认为这种算法存在种族歧视。因为它能够解决社会中的一个重要问题。

在对ProPublica数据集的调查中，我发现了一个有趣的线索，可能有助于创建一个误报率更小的算法。为什么布劳沃德县的黑人罪犯比白人罪犯更频繁地再次犯罪？围绕COMPAS算法的争论很少能够抓住关键原因。其实真相非常简单：黑人罪犯在被捕时通常更年轻，而总的来说，年轻人更有可能再次犯罪。因此，如果Northpointe能找到一种更好的方式识别那些因为犯罪被捕但在未来不太可能再次犯罪的年轻人，那么我们大多数人都会认为这是一件好事。这样的方法会在不经意地造成白人和黑人之间的校准偏差：由于黑人罪犯比白人罪犯年轻，所以在年轻人身上表现得更好的算法整体上来说也会在黑人身上表现得更好。

我想问蒂姆一个问题，校准他的算法对他来说真的就那么重要吗？他更应该考虑的难道不是如何减轻年轻黑人男性和女性的牢狱之苦吗？他们可能只是因为一次愚蠢的失足而被关进了监狱。

在完成这些分析的几天后，我设法采访了蒂姆，问他对我的看法有什么观点。他耐心地听着我说话，并且同样认为罪犯年龄加上犯罪记录以及是否吸毒，是预测再犯的最重要因素。但他强调，美国有“种族平等的宪法要求”。根据最高法院的一项裁决，除非公众对某一特定问题有非常强烈的关切，否则模型必须对所有群体都同样准确（也就是必须进行偏差校准)。因此，他和他的同事们在提高准确性和遵循这些要求之间一直在“走钢丝”。

被算法操控的生活CUIREETO

60

蒂姆确信，统计测试证明他的模型是没有偏见的，并引用了几份独立的报告来支持这一说法。他告诉我，ProPublica的报告让人们更多地进行批判性思考，但也让人们忽视了在量刑时使用严格的统计方法这一更重要议题。他告诉我：“如果将量刑法官的准确率一并进行考量，那么算法的风险评估水平远远超出了人类的判断水平，在对黑人罪犯造成不公平影响的误报方面尤其如此。

在ProPublica对刑事判决中所使用的算法进行研究之前，加州大学伯克利分校戈德曼公共政策学院的教授珍·斯基姆（Jen Skeem）全面评估了一个名为PCRA的判决算法。她的结论是，该算法对黑人和白人被告都是公平的，不应该被贴上偏见的标签。她对我说，这些围绕偏见的争议并不新鲜，不过人们对这种“有偏见的算法”才刚刚表现出愤怒。

珍告诉我：“人们往往忽视了最重要的问题：偏见’比起现有实践来，谁的弊端更大呢？”而这就是她现在正在研究的课题。

我意识到很难在这件事情上厘清孰对孰错。我出于自己的经历和价值观支持消除算法偏见。即便从道德意义上来说我的观点刚好就是对的，它在数学证明上也是不正确的。数学不停地告诉我，没有计算公平的公式。毫无疑问，珍和蒂姆对算法的使用与第2章里提及的朱莉娅·安格温、凯西·奥尼尔和阿米·特达塔一样满腔热忱，所有人都在努力地做正确的事，都希望自己站在正义的一边。

每当我们为了做正确的事情而向数学求助的时候，它给我们的答案始终如一：公平不止源于逻辑。在数学史上，还有许多其他证明公平难以定义的例子。肯尼斯·阿罗（Kenneth Arrow）的“不可能性定理”(impossibility theorem）告诉我们，不存在一个制度能够让人们在三个政治候选人之间进行选择时，又公平地反映所有投票者的喜好。佩顿·杨（Peyton Young）的著作《公平》（Equity）利用数学博弈论来探讨了这一问题，不过作者自己都“承认”该书“堆砌了许多例子，以说明为什么公平不能简单粗暴地被当作包治百病的灵丹妙药。”辛西娅·德沃克(CynthiaDwork）和她的同事们于2012年发表了著作《意识唤醒公平》（FairnessThrough Awareness)，试图在群体平权运动和个体公平之间探索最佳平衡。但就像乔恩·克莱因伯格和他的同事们关于偏见的研究一样，这些作者通过数学计算找到的只是悖论，而不是合理的确定性。

第一部分 算宜在时视个我数据做了什么？

61

我想起了谷歌员工曾经引以为豪的一句格言“不作恶”(Don't beevil)，但现在谷歌公司却不怎么提它。难道因为它的一个数学家发现没有公式可以确保百分之百不做错事，谷歌就因此抛弃了它的座右铭吗？

我们可以全力以赴，但永远无法确定我们所做的事情就是正确的。

被算法操控的生活OUTNUMBERED

62

第 7 章|数据炼金术士

和我交谈过的很多研究人员和活动家都理所当然地认为算法很聪明，并且在迅速地变得更加聪明：算法在数以百计的维度中“思考”，处理海量数据，并了解我们的行为。

这些观点常常来自乌托邦主义者，比如蒂姆·布伦南。他是COMPAS的创造者，认为能够预测未来的算法将帮助我们做出关键决定；同样地，它们也来自更倾向于反乌托邦主义的人，比如那些在博客上对剑桥分析公司愤愤不平的人。双方都认为目前计算机的表现优于我们，或者它们很快就会在大量的工作中比我们做得更加出色。

媒体不遗余力地渲染说，我们正在经历一场巨变，算法将大有作为。从COMPAS算法、剑桥分析公司到谷歌和脸书的定向广告的威力，所有报道无不提到人工智能（AI）的潜在危险。

然而到目前为止我发现的却是另外一番景象。更仔细地研究了剑桥分析公司和政治人格之后，我发现算法的准确性存在一些根本局限。这些局限与我自己对人类行为进行建模时所看到的问题如出一辙。我在应用数学领域耕耘了20多年，使用过回归模型、神经网络、机器学习、主成分分析法以及许多其他媒体日益关注的工具。也就是在这段时间里，我逐渐意识到，当需要理解这个世界的时候，数学模型通常战胜不了人类。

第一部分 算在视我数据做了什么？

63

算法不知道的事情

我的观点听起来可能让人意外，因为我所从事的工作就是用数学来预测世界。在写作本书的同时，我经营着一家用模型来理解和预测足球比赛结果的公司。此外我还领导着一个学术研究小组，用数学解释人类、蚂蚁、鱼类、鸟类和哺乳动物的集体行为。我对模型的作用深信不疑。所以，从我的立场来说，过多质疑数学的作用不太可能给我带来什么好处。

然而与读者坦诚相对对我来说更重要。在我研究足球的过程中，我遇到了一些顶尖俱乐部的球探和分析师。当我告诉他们某个球员在比赛中创造机会或做出贡献的数据时，他们凭直觉就能解读出这些数据背后的原因，这让我颇为惊叹。我可能会说“在同一位置上，球员X要传出威胁球的机会比球员Y高34%。

这时球探就会说，“好吧，让我们来看一下他们对防守的贡献……有了，球员Y对防守的贡献更大。教练要求他在这个位置上加强防守，因此他创造的进球机会就少了。”虽然计算机非常善于收集大量统计数据，但人类更善于洞悉这些数据之所以产生的根本原因。

我的一位足球数据分析师同行加里·热拉德（Garry Gelade）最近开始着手解构足球分析里的一个核心模型，即所谓的“期望进球”（expectedgoals)。期望进球背后的统计理念非常清晰可靠。在顶级足球比赛中，每一次射门的数据都会被收集：它们来自禁区内还是禁区外；来自头球射门还是脚射门；来自于快速防守反击还是阵地进攻；射门时对方的防守严不严密等。然后，分析师会根据这些数据为每一次射门打出期望进球值。正对球门的射门、禁区内射门和面向球门射门将得到更高的期望进球值。斜着射门或者在禁区外射门的期望进球值则会比较低。球队的每次射门都会自动得到一个从0（不可能进球）到1（必进球）的值。

被算法操控的生活

64

期望进球统计行之有效，是因为它让我们能够评估一支球队在低得分球赛中的表现情况。一场比赛可能会以0：0结束，但是创造了很多机会的球队将得到更高的期望进球值。这些数字能够起到预测作用，在之前的比赛中创造更多期望进球的球队往往会在随后的比赛中收获更多的实际进球。

当加里在2017年夏天用模型进行分析时，期望进球的概念在主流媒体流行起来。天空体育（Sky Sports）和BBC播放了英格兰足球超级联赛（English Premier League）夏季转会球员的期望进球值的统计数据；《卫报》《每日电讯》和《泰晤士报》也竞相刊文解释这一概念。而在美国，关于期望进球的统计数据在职业足球大联盟（MLS）和全国女子足球联盟（NWSL）的主页上被广泛展示。人们日渐将期望进球视为衡量一支球队表现的“客观”方法。

加里将期望进球与另一种更人性化的评估足球进球机会质量的方法进行了比较。分析体育竞技表现的公司Opta收集了一种它称之为“好机会”（big chance）的指标。一次机会是不是“好机会”，由训练有素的人类操作员做判断。他们会观看整场比赛并仔细观察每一次射门。如果操作员认为这次射门很有可能转化为一个进球，那么他们就将其标记为“好机会”。如果他们认为这不太可能是一次进球机会，他们就把它标记为“欠佳机会”。通过比较“好机会”和“期望进球”，加里就可以比较人类和计算机评估进球机会质量的能力。

我们可以从两方面评估“好机会”的准确性。首先，我们可以看一下那些没有进球得分但被操作员认为是一个“好机会”的射门占多大比例。这个值就是误报率，是我们在第六章中已经遇到过的概念。误报率是指被认为是“好机会”的未进球的射门所占的比例。其次，我们可以看一下那些进球得分的“好机会”射门占进球数的比例。这是真阳性率，也就是说操作员做出正确的预测的比例。加里的分析显示，“好机会”在7%的情况下（误报）错误地预测了进球射门机会，在53%的情况下正确地预测了哪些射门实现了进球（真正类）。

第一部分 算在监视个我数据做了什么？

65

加里发现，期望进球模型无法得出和“好机会”同样的准确度。不管他对模型怎么调整，后者要么产生更多漏报，要么产生更少的正确预测，始终比不上“好机会”的预测能力。期望进球模型使用了大量数据，但是它们（还）没有打败人类。我们有了可以衡量绿茵场上球员表现的算法，这乍一听可能让人兴奋，但这种方法并不比一个记录球队每次进球机会的资深球迷强，而前面提到的操作员通常招募自足球球迷。

加里告诉我，他曾经看到一篇文章将“期望进球”鼓吹为“完美”的足球比赛预测模型，在这之后他就着手开始了自己的分析。尽管这样的炒作可能会给他的生意带来短期利益，但从长远来看却会损害足球数据分析的声誉。加里曾担任过多个俱乐部的顾问，包括切尔西、巴黎圣日耳曼和皇家马德里。他认为，模型虽然可以帮助人类做出决策，但至少就现在而言，它还取代不了人类。他给我举了一个例子来说明数据分析技术在比赛中是如何被用来观察守门员，并训练他们的站位和移动的。这种方法非常可靠、实用。赛场上的方方面面都可以找到模型的用武之地，但是不存在“完美”的足球比赛模型。

为音乐流媒体服务商声田工作的格伦·麦克唐纳（Glenn McDonald）是另一位对工作实事求是的数据专家。在向听众建议新歌曲以及创建有趣的播放列表等方面，声田希望能够做得比 TIDAL 和 Apple Music 等竞争对手更优秀。这家公司通过了解我们的收听模式来实现这一目标，而且它提供的每一个建议，从“歌曲电台”（song radio）到“为你推荐”（justforyou）播放列表，都采用了格伦和他同事开发的音乐分类系统。

声田的音乐分类系统将每首歌视为13维空间中的一个点，并将距离较近的点归为一个种类。这些维度即包括客观的音乐属性，如“响度”

被算法操控的生活OUTNUMBERED

66

(Loudness)和“每分钟节拍”(Beats per minutes)，也包括更主观的情感属性，如“活力”（Energy）、“忧郁”（悲伤）和“舞蹈性”（Danceability)。主观属性可以通过听歌环节进行量化，在这个过程中人类实验对象会聆听成组的歌曲，并说出他们认为最悲伤或最适合跳舞的一首歌。算法学习并领会其中的差异后，将自行对其他歌曲进行适当的分类。

格伦创造了—种叫作“—眼识风格”（Every Noise at Once）的交互式视觉化技术，它将声田所有1536种音乐类型都放在一个二维的云里：垂直方向上，最底端的是“深度歌剧”(deep opera)，最顶端的是“高科技舞曲”(re: techno)；水平方向上，最左边的是“维京金属”(Viking metal)，最右边的是“非洲打击乐”（African percussion)，它把每一种你可以想到的音乐形式汇集到一起，而且那些风格相似的音乐在这个二维平面中相距很近。这是一项了不起的技术成就，也是纵览世界音乐财富的一种非常简洁的方式。

为了完成一篇《经济学人1843》(Economist1843）杂志的约稿，我和格伦进行了第一次交谈。在采访之前，我有点担心会忍不住表露自己对声田听歌建议的看法。我曾经常使用声田的“每周发现”（DiscoverWeekly）服务来寻找新的音乐，但经常颇感失望。我喜欢忧郁的歌曲，但当我听从Spotify的建议欣赏它们推荐的歌曲时，它们产生的情感效果比不上我所收藏的悲伤歌曲。事实上，声田推荐的歌曲往往很无聊，而它的许多其他用户也抱怨相同的问题：相比于他们自己真正喜欢收藏的歌曲，声田推荐的歌就像兑了白开水，寡然无味。

我告诉格伦，我经常收听声田的推荐歌曲，但每一首都只能浅尝辄止，没有哪首歌能够做到让我单曲循环。我原本以为他会产生一些挫败感，没想到他却很乐意承认自己算法的局限性。“我们无法洞察你喜欢一首歌的缘由，”他告诉我。

格伦解释说，声田播放列表最适合用在派对上。“因为这是一个集体活动”，他告诉我，“我们在给社交场合生成播放列表方面做得很好，在集体活动中被人跳过不放的歌曲数量也很少。而为你个人推荐新歌的时候，每10首歌中你如果能够喜欢1首，我们就已经很满意了。”他说的没错。当我们在家招待朋友的时候，我和妻子经常会选择播放声田上一个大众化歌曲列表。这样就避免了在歌曲选择上的分歧，而且我们也确实经常喜欢它的推荐歌曲。

第一部分 算在时视个我数据做了什么？

67

格伦告诉我推荐歌曲的过程远非纯粹的科学，“我有一半的工作是检查电脑做出的推荐中有哪些是合乎情理的。”当格伦为自己的职责选择头衔时，他要求人们称他为“数据炼金术士”，而不是“数据科学家”。他认为自己的工作不是寻找音乐风格的绝对真相，而是提供合乎情理的音乐分类。而这个过程需要人类和计算机协同工作。

考虑到“一眼识风格”这个口号的影响范围多么巨大，格伦的谦逊强烈地触动了我。和我交谈过的许多数据科学家一样，他认为自己的工作是在极高维的空间中探索。但在和我交谈过的人当中，他第一个公开承认我们思想中存在着极其私人及不可知的维度。他谈起了我们听到让自己初闻倾心的那首歌时我们的感觉，以及在我们第一次摸方向盘时听到一首歌的感受。格伦还谈论了那些让我们对生活有所感悟的歌，以及改变我们对待同性恋或种族主义者态度的歌曲。他承认这些都是他无法解释的东西。

精准广告：互联网公司滥用了私人信息吗？

数据炼金术这个概念完美地体现了现代数字营销的运作方式。在和格伦交谈后不久，我采访了途易集团北欧分公司（TUINordic）的品牌和绩效主管约翰·于德林（Johan Ydring)。途易集团掌控着数干家旅行社和在线门户网站，经营着数百架飞机和酒店，客户多达2000万。约翰的工作是确保公司收集的所有客户数据以及从脸书和其他社交媒体网

被算法操控的生活UT

68

站获取的数据物尽其用。

约翰形容他的工作是“假装聪明”。他的团队会提出四五种向特定目标群体进行营销的方法，并一一尝试。如果某种方法起到了作用，他们就会在更大的群体身上进行试验。

最简单的方法往往就是最好的。如果一位顾客连续两次假期预订了前往西班牙的旅游服务，那么约翰的团队就会确保他每年预订来年夏天假期旅行的时候，其消息流中会适时地出现一则脸书广告。这则广告可能会建议去葡萄牙，一个顾客从未去过的地方。这可能会让用户感到阴魂不散，他们会觉得脸书已经学会了读心术。前几天他们刚刚和一个朋友在脸书上谈论葡萄牙的阿尔加维（Algarve）地区，现在关于阿尔加维的广告就出现在了他们的屏幕上。其实，用在他们身上的不过是一个简单的统计花招：数据炼金术士们已经计算出了人们通常预定假期旅行的时间，并找到了在西班牙和葡萄牙之间旅行的关联。

我们大多数人都有过这样的感觉：脸书或谷歌已经读懂了我们的想法。有个晚上，我的儿子在吃晚饭之前被YouTube上的广告“轰炸”了，那是他最喜爱却是市面上最不健康的面包的广告。最近，我妻子在本地商店里第一次买了某个品牌的巧克力，结果突然之间，这个品牌的广告就开始出现在她的脸书消息流中。

在经历了定向广告的“轰炸”后，我经常听到家人和朋友说，他们怀疑互联网正在窥探他们。他们开始猜测WhatsApp是否会出售他们的私人信息，或者iPhone是否会记录他们的对话。

关于公司滥用私人信息的阴谋论不太可能站得住脚。更合理的解释是，数据炼金术士们发现了我们行为中的统计关系，并帮助这些公司向我们推送定向广告，比如看《我的世界》（Minecraft）和《守望先锋》（Overwatch）的孩子们晚上吃三明治，而我的妻子可能没有留意到她之前就已经在脸书上浏览过那个巧克力品牌的广告了。

第一部分 算在监视个我数据做了什么？

69