人工智能时代：破解人机共存密码（套装共10册）

谷歌表示，“谷歌流感”对样本外数据预测失败可能是因为选择了“发烧”（fever）等不一定与流感有关的通用搜索术语。或者，可能那些人以为自己患了流感，但其实没有。毕竟，普通人没法像医生那样准确判断。

这些都没错，但是数据在训练期间只是噪声，其准确率还是达到了97.5%。种瓜得瓜，输入无用的数据，输出的自然也是无用的数据。为什么大家都想着石头真的能变成金子，就因为这个模型有“谷歌”的名字加持吗？

有人质疑说，由于流感暴发具有高度季节性的特征，“谷歌流感”可能主要是冬季探测器，挑选出季节性的搜索词语，如新年前夕和情人节。记得吗，华盛顿市奥玛克镇的最高气温是如何预测澳大利亚科廷的次日最低气温的？即使两者之间根本不存在因果关系。谷歌的流感预测可能也是同理。审查5 000万个搜索词语，一定会有某些恰巧与流感暴发、出生率和中国茶叶价格相关的信息。纸包不住火，问题总有暴露的一天。

“谷歌流感”从此再也没有预测过流感。

机器人测试仪

一家经营分析业务的公司WhatWorks主要测试为互联网公司设计的不同网页。WhatWorks先使用计算机化的随机事件生成器把访客引至网页设计不同的页面，通过这个实验来做出推荐。测试几天后，WhatWorks会告诉客户，哪款网页设计会产生最高的人均收益。

WhatWorks受聘于一家互联网企业BuyNow，管理100多万个网页。WhatWorks进行了上述测试，然后反馈了一个最佳设计方案。BuyNow提出了一个更好的点子。浏览不同网页的访客可能有不同的偏好，因此，为什么不给每个网页量身定制设计呢？BuyNow并不知道访客的差异在哪儿，也不知道这些差异可能会如何影响他们的喜好，却认定定制化的设计比通用的更好。

这没办法手动完成，人类专家不可能这样来决定每个网页的设计，因为这需要做超过100万次试验。而且，很多网页的访客量微乎其微，通过测试决定还得花数月时间。因此，为什么不利用机器学习的能 力 ？ BuyNow 请 WhatWorks 有 偿 开 发 了 机 器 人 测 试 仪 （ Robo-Tester）。这个自动化的人工智能系统能让每一个网页使用各种设计，监测哪种效果最好，而且，随着它可信度的提高，受喜爱的设计的出现频次也会增加。

只可惜，理想很丰满，现实很骨感。BuyNow以为这个人工智能系统会提供最终确定的答案，但是网页浏览量以及由此产生的收益状况也会有很多随机噪声。一款拙劣的设计只是侥幸看上去不错，哄骗机器人测试仪喜欢上这个不好的设计。此外，随机噪声意味着，机器人测试仪不可能百分之百确定它已经找到了最佳设计，因此它会继续测试被淘汰的设计。

最后的结果是，与WhatWorks专家最初建议的单一设计相比，机器人测试仪使BuyNow的收益减少了约1%。

尽管是BuyNow自己出的主意，它还是怨声载道。

BuyNow：使用AI技术自动化处理每一个网页的设计，这有什么不好？

WhatWorks：你单个网页浏览量都不足以得出有意义的测试结果。

BuyNow：那有统计结果证明可行的话，只转换布局怎么样？

WhatWorks：统计学的结果不一定有意义（在惊愕中沉默）。

WhatWorks：我的意思是，做上100万次测试，你怎么都能得到统计学上的证据，但这并不意味着就能选出最佳设计。

BuyNow：是哦，你总是这么说。

WhatWorks：可我一直都没说错啊！

WhatWorks确实没错，但有些人就是听不进去“使用人工智能系统会适得其反”这句话。后来，BuyNow终止了与WhatWorks的合作。

就业申请

基于量化数据（如平均绩效、工作年限）来评估求职者真的比登天还难。即便在“大数据圣殿”谷歌，其负责人力运营部的副总裁也在2016年坦言：

“向我介绍一下你自己。你最大的优点和缺点是什么？”这些普通的面试问题都无法体现这名求职者能否胜任这份工作。

其实，应该问的问题是“举个例子说明你曾经有过与求职岗位相似的工作经验”。这类问题叫作“结构化行为面试问题”。问其他问题只是浪费时间而已。

但是，人工智能程序又怎能提出和评估结构化行为面试问题呢？

对于那些有过相似工作经历的求职者，最重要的素质就是迅速适应且胜任新工作的能力。一名优秀的新雇员会清楚什么是所需信息、如何利用这些信息以及如何处理意料之外和模棱两可的情况。

可在这些情况下人工智能程序只能查找特定关键词来筛选，如Excel（电子表格软件）、销售、数学和博士等。人工智能算法不会灵活处理，它想不到这些关键词是评估求职者的秘诀。除非算法的创建者将词语输入程序，否则，查找computer science（计算机科学）的人工智能算法会忽略data analytics（数据分析），查找PhD（博士）的会忽略Ph.D.，查找mathematics（数学）的会忽略math。人工智能算法不会知道“MakeMyDay”既是一家互联网礼品公司的名字，也代表一家专门观看克林特·伊斯特伍德电影的俱乐部。人工智能算法也搞不清楚在加州理工学院取得3.2分的平均绩点（天才的水平）和在一些我连名字都说不上、容易考进且夸大分数的学校取得同样多的平均绩点，会有什么区别。

所以，求职者会伺机利用系统的特点，在他们的自荐信和简历中添加必备的关键词，例如，表示自己对mathematics感兴趣，而不是写明自己的数学水平。

如果你曾注意过成功或不成功的求职者，就会知道求职的成败并不取决于简历和求职信所包含的关键词。

有些公司开发了数据驱动的软件，通过监视求职者的网络动态来评估他们。有家公司的首席科学家承认，人工智能数据挖掘软件所选的部分因素并没有意义。例如，该软件在其数据库中发现几名出色的程序员都频繁访问过一个日本漫画网站，因此它做出的判断是，浏览这个网站的都可能是出色的程序员。这名首席科学家表示：“这显然不存在因果关系。”但话又说回来，她认为该软件仍大有用处，因为其中存在明显的统计学相关系数。真让人大跌眼镜！这恰好再次证明了一个毫无根据的观点（就连应该更清楚这一点的人也会误解），即数据比常识更加重要。但实则不然。

该名科学家还说，公司的算法观察了几十个变量，随着相关系数的出现和消失，不断更换变量。她认为，一直变化的变量体现了该模型的能力和灵活性。不过，更有说服力的解释是，该算法捕获了转瞬即逝、毫无价值的偶然性相关系数。如果这些是因果关系，它们不会出现了又消失，而是会一直存在，并且有所用处。这就好比股票的技术分析发现了飞逝的模型，然后就是捏造模型、进行测试、改变模型，不断重复。

那么，这家公司的软件成功识别出优秀的求职者了吗？一名在该公司任职三年的员工写道：

顾客真的很讨厌这个产品。几乎没有顾客有过整体良好的体验。这种情况已经持续多年，管理层都无力回天，无法解决这个问题。该产品小组没做过任何产品研究，或是建设性地将有意义的反馈建议融入产品设计，所以这个问题永远都无法解决。

招聘广告

计算机算法也会用于工作招聘。本书的引言讨论过政客如何使用微目标锁定的方法来精心设计宣传口号，缩小潜在投票者的范围。企业的做法也如出一辙，事实上，是它们最先采用这种方法的——利用庞大的数据库探清顾客的想法，找出他们容易接受哪些产品的特定推销手段。

微目标锁定给予拥有海量个人数据的互联网公司，远胜于报纸、杂志、广播、电视等传统广告媒体的巨大优势。企业不需要购买广大受众都能读到、听到或看到的广告，而是专门针对潜在顾客。

招聘广告也是如此。企业不必将招工信息广而告之，而是针对有资质和有兴趣应聘的潜在求职者。不幸的是，这也会有意或无意地造成歧视。

2017年，《纽约时报》和ProPublica（非营利性在线新闻机构）开展的新闻调查研究荣获普利策奖。该研究发现，微目标锁定的招聘广告常常歧视年龄大的工作者。例如，威瑞森电信的一则金融相关岗位的招聘广告，被推送至对金融感兴趣、当前或最近住在华盛顿、年龄介于25\~36岁的脸书用户；UPS（美国联合包裹）的招聘广告只对准了年龄位于18\~24岁的群体；State Farm（美国汽车保险公司）的招聘广告面向19\~35岁的人群；而脸书则有意招聘25\~60岁的人。

有些公司争论说，这样的定位方式与刊登在受年轻读者欢迎的杂志上，或者播放于年轻听众爱收听的广播电台的广告并无不同。这也就是为什么日间电视节目会出现很多针对职业培训学校和人身伤害索偿律师的广告。然而，作为年逾60的人，我可以读任何想读的杂志、听任何想听的广播、看任何想看的电视，但就是看不到脸书没有推送给我的广告。我甚至都不知道这些广告的存在。

2016年，有一项评估社交媒体广告有效性的实验，想要通过性别中立的手段招聘科学、技术、工程和数学工作领域的人才。尽管已经明确说明其性别中立的意图，但看到此则招聘广告的男性数量还是比女性多20%。

研究人员认为，或许是女性访客点击该广告的可能性更小，因此，设法使点击率最大化的人工智能算法可能不会再关注女性访客流量更大的那些网页。这么想就错了。其实，女性更有可能点击那则广告。而女性访客点击率更低的原因更加微妙。人类能够查明此原因，但计算机算法就望尘莫及了。

年龄介于25\~34岁的女性是更有价值的互联网客户，因为她们更容易点击售卖产品的广告，也更容易在线购买产品。因此，女性访客流量较高的网站的广告费用更贵。无论是招聘，还是产品，其广告费都不低。而设计目标为以最少费用投放广告的人工智能算法，自然坚决不会选择价格相对高的网站，但这些却都是女性浏览频率更高的网站。

研究人员思考出这个创意十足的答案，还能够以各种方法进行验证。而人工智能算法对此浑然不知。

贷款申请

一直以来，贷款评估申请都是采取合理方法衡量申请人的还贷能力，比如偿还贷款和其他账单的记录。还贷能力取决于其就业记录、收入、财产和其他债务状况。账单支付记录只是反映有多少笔账被迟付或未付。放贷的5C原则是：

性格（Character）：申请人是否有及时付清账单的记录？是否有犯罪记录？

能力（Capacity）：申请人是否有稳定的就业经历？是否有充足的收入用以偿还贷款等债务？

资本（Capital）：申请人的收入若减少，是否有充裕的财产用以还贷？

条件（Conditions）：申请人的就业领域的局势是否不稳定？

担保（Collateral）：申请人若未偿清贷款，是否有充足的担保品让贷方拿回款项？

在互联网和社交媒体爆炸式发展的今天，贷方开始寻找其他没那么直接的判断依据，尤其是个人性格方面。例如，访问内容正面的网页、与正派的人交往以显示自己的正派作风。没错，就像校园里的约会游戏，分受欢迎的和不受欢迎的两派。此外，你还是可以摆弄这个系统。比如，不在网络上发表任何尴尬的言论，或公开做出让自己难堪的行为举止。阅读严肃的人写的严肃的网络文章，在严肃的网站发布严肃的评论。

贷方迟早会发现，他们可以摒弃人工评估使用的5C原则，转向在网络上人工搜索贷款申请人，看看是否会弹出令人难堪的信息。他们能利用人工智能来评估贷款申请者了！

2017年，中国一家AI放贷应用程序开发公司的创始人兼CEO争辩道：

银行专注于海面上的冰山一角，我们创建算法是让海面之下的海量数据也有意义。

海面之下有哪些有用数据？你可能会诧异于了解到这一切都离不开智能手机。很多人可以通过智能手机从网络贷方获得小额短期贷款。

这家中国公司的数据挖掘软件真的能够获取大量通过手机提交的贷款申请。此外，它还能为人工智能程序收集到关于智能手机本身的信息，以查出统计学模式。那名CEO还夸夸其谈道：

我们没有从传统的金融机构聘请任何人负责风险控制……我们不需靠人来告诉我们顾客是好是坏。技术，就是我们的风险控制。

显示某人信用风险小的证据包括：使用安卓系统手机，而不是iPhone（苹果手机）；不总是立即接听电话；呼叫电话不总是有人接听；手机不保持满电状态。

我们可以编出一些说法来解释所发现的这个统计学模式。使用价格不高的安卓系统手机，说明花钱谨慎；不总是立即接听电话，说明工作认真；呼叫电话不总是有人接听，说明其朋友也同样工作认真；手机不保持满电状态，说明其精力更集中在工作，而非手机上。这样的解释说服你了吗？

如果你被说服了，可能会诧异于真实结果恰好相反。上述都是信用风险大的迹象！当然，我们照样可以编出故事。使用安卓系统手机，说明买不起iPhone；不总是立即接听电话，说明在躲避债主；呼叫电话不总是有人接听，说明人缘不好；手机不保持满电状态，说明不负责任。

重点在于，人类有足够的智慧给任何发现的统计学模型创造合理解释，即便这些模型是数据挖掘软件发现的随机噪声。找出模型说明不了什么，编造符合模型的故事也说明不了什么。

我预测，无论模型与数据的吻合度是否很高，这些算法对贷款拖欠状况的预测都会不理想。

汽车保险

2016年，英国最大的汽车保险商上校保险公司（AdmiralInsurance）推出了“firstcarquote计划”（保费报价计划），利用人工智能技术分析申请者的脸书发帖，以此作为设定汽车保险费率的依据：

我们已经知道，社交媒体的发帖能告诉我们某个人的信用风险是高是低，而汽车领域也是如此。统计学证明，具备某些性格特征的人比其他人更容易发生车祸。但是标准的保险问题不会测量性格特征。在“firstcarquote计划”中，我们会通过分析司机的脸书发帖，了解他们的性格特征。如果我们发现说明你开车谨慎的迹象，就会为你送上5%\~15%的价格优惠，可在公司官网领取。

该公司的主管领导表示，人工智能算法通过制定清单和设置特定截止时间，在脸书帖子中寻找说明申请人谨慎小心的迹象。该公司设计算法的顾问给出了让人半信半疑的理由：

过度自信的人可能会使用“总是”或“从不”这类词语。靠不住的司机可能出现更消极的情绪，更常使用的词语是“或许”或“可能”，这表示他们很不自信……你能从中推断出关于性格的信息，而根据性格，我们又可以判断出你开车的安全性有多高。

然而，这样的解释令人疑信参半，用词选择或许能传达出申请人的性格特征，但很难说明这能当作判断某人是否容易出车祸的可靠预测指标。

该顾问接下来的解释偏离到越来越站不住脚的地步。他声称，对车险索赔来说，喜欢迈克尔·乔丹和莱昂纳德·科恩是个好的预测指标。最后，他本想再吹嘘一番，却不经意间承认了事实：

我们计算“驾车安全程度”的算法仍在不断完善中，将社交媒体上的数据和现实说明数据进行匹配……我们的分析并不基于任何特定模型，而是根据数千个点赞、用词和用语的不同组合，还会随着从数据中获得的新证据不断变化更新。因此，我们的计算反映出司机通常在社交媒体上的表现，以及这些表现的可预测性，而不是关于一名驾车安全的司机会长什么样的固定假设。