人工智能时代：破解人机共存密码（套装共10册）

知道了这一点后，有些大学便企图摆弄系统。《美国新闻与世界报道》的排名标准可以轻易获得，某些院校便能使些计谋。有些计谋的代价很高，例如，《美国新闻与世界报道》会计算教师薪酬和师生比，但学院要想在这些方面做出改变就要花大价钱。其他衡量指标更容易操控。比如，两个重要的衡量标准是录取率（申请人被接收的比例，越低越好）和入学率（被录取学生选择入校的比例，越高越好）。一所二等小院校的招生办主任告诉我他是如何提高自己院校的这两个指标的：假设该院校有1 000名申请人，想要招200名大一学生。可以将这1 000名申请人按照成绩高低均分为五组，每组含有20%的申请人。如果该学院录取前40%的申请人（录取率为40%），可能只有次优秀的那20%的申请人会入学（即入学率为50%）。最优秀的20%的申请人只是将这所院校当作备选，以防没能进入更好的学校。一旦他们能选择更好的学校，就肯定会去的。

该主任这种势利的策略是拒绝最优秀的那20%，因为他们对该院校来说太优秀了，只录取次优秀的那20%，他们全都会选择入学的。因此，该主任将录取率缩减了一半（从40%降为20%），还使入学率翻倍了（从50%到100%）。那些数字并非像这个虚构例子一样，是预先定好的，但其原理是一样的。主任拒绝了最优秀的申请人，认为如果录取了他们，他们中的大多数人还是不会入校，从而降低了录取率。这种方式让他这所二等院校的筛选更加严格，更值得申请。因此，制定目标会损害目标的有效性。

《美国新闻与世界报道》的另一个重要衡量标准是学生少于20人的班级比例。我知道有所大学利用这个衡量标准来摆弄系统，迅速提升了自己在《美国新闻与世界报道》的排行榜上的排名。

具体而言，假设经济系开设一门导论课，每学期有300名学生选修。该学院可以将这门课分为10个小班，其中9个班的人数上限为19人，第10个班的人数为129人。那么，这所大学就可以报告说，学校班级少于19人的比例是95%，尽管有43%的学生都挤在一个129人的大班上课。因此，制定目标会损害目标的有效性。

这就是人工智能程序的内在问题，它利用我们目前的行为来预测未来的行为。我们会改变自己的行为：戴不同的手环，访问不同的网站，改变自己的笑容。如果评估贷款申请人的依据是账单支付记录，有些人会及时支付账单，以获取更高的信用评分。不过这也还好，因为贷方就是想要申请人及时还贷。如果计算机根据手机充电频率来评估贷款申请人，有些人会通过频繁充电来摆弄系统。这就不是预测他们是否会还贷的合理指标。

共同毁灭原则

1983年9月6日，苏联的预警卫星侦查到美国的五颗洲际弹道导弹对准了苏联。苏联的协定是，在美国发射导弹摧毁苏联的反制能力前，立即对美国发动核导弹还击。

这就是对策论的军事策略，称作“共同毁灭原则”（mutuallyassured destruction），具有讽刺意味的是，其首字母缩略词刚好是MAD（疯狂的）。假设两个国家的核武器都能摧毁对方，两个国家都有可信的应对政策，即全力以赴使用核武器来消灭先开火的国家。理论上的对策论均衡就是，没有国家会攻击另一个国家，因为这样会导致双方同归于尽。

如果计算机被编程为一侦查到有导弹来袭就启动反制措施，而且人类无法更改计算机程序，那么全面报复的威胁就完全可信。知道对方肯定会做出灾难性的回应，就没有哪个国家胆敢发动攻击了。

这种无法逆转的计算机化应对方法是斯坦利·库布里克的讽刺电影《奇爱博士》的创作基础，美国和苏联都创建了会被预警系统激活，并且人类无法制止的“世界末日装置”。

幸运的是，当1983年真正出现这种情况时，苏联上校斯坦尼斯拉夫·彼得罗夫干预成功了。他当时正在莫斯科执勤，监测苏联预警系统的信号。当系统显示美国导弹正对准苏联时，彼得罗夫违反了协定，并没有发动反制措施，因为这肯定会导致同归于尽的局面。

正如彼得罗夫所预料的，这只是一次假警报，起因是阳光照在云团上的异常反射让苏联的预警系统产生了误报。若苏联使用的是无法改变的计算机算法，后果可想而知。

这并非第一次（或最后一次）侥幸躲过的核灾难。1995年1月25日，运载科学仪器的四级火箭“黑色布兰特”（Black Brant）在挪威发射。火箭的雷达信号恰巧与美国海军潜艇三叉戟导弹的相似，飞行路径直指莫斯科！苏联的预警系统触发了高级警报，以为这颗导弹的发射目的是引发高纬度爆炸，为美国发动全面核攻击蒙蔽苏联的监控雷达。随后，“黑色布兰特”与第一级引擎分离，雷达信号变成了核弹头的多弹头重入运载器信号。

计算机激活了为俄罗斯时任总统鲍里斯·叶利钦授权核反制准备的核按钮手提箱。叶利钦有5分钟时间考虑是否做出最后的授权指示。就在他犹豫期间，“黑色布兰特”突然转离莫斯科，还没到5分钟就落入海底，未造成任何伤亡。如果没有人类的介入，而是靠计算机算法来决定是否置人于死地，结果会是怎么样呢？

不难想象，未来打仗全靠计算机化设备——全自动飞机、坦克，机器人发射导弹、炸弹、激光器和子弹。向人工智能系统给出对某个人、某个地方或某个物体的描述，指导系统就会在其视觉识别软件匹配成功后发动攻击。还有被称作“致命自主武器”（lethalautonomous weapons, LAWs）的军用机器人。

韩国拥有三星SGR-A1自动哨兵机器人，镇守韩国的非武装地带，这也是世界上军事化程度最高的边境地带。关于这些武器，人们知道的非常少，但有报道指出，它们能侦查到两英里以外的动静，识别和录下目标，发出警告，然后开枪或投掷手榴弹。三星表示，人类应该批准使用SGR机器手枪或手榴弹发射器，但是一些独立的外部团体认为，这些系统会自动开枪，除非受到人类的远程控制。

假设未来的人工智能武器系统将会有内置损失函数，就像检查程序或国际象棋那样，能评估行动前其他行为过程可能带来的后果。该损失函数肯定比棋盘游戏复杂得多，因为它们需要考虑目标的价值、潜在的附带损害（包括消极宣传），以及有机会在其他情况下攻击的可能性。所有这些因素都极其复杂，也会（至少应该）是目标、地点和军事状况特有的。

这并不仅限于军事领域。人工智能软件有时也会对无人驾驶的汽车做出价值判断。为了避免撞到行人或校车，无人驾驶汽车应该转向逆行吗？我不知道怎么回答，但做决定的似乎应该是司机，而不是编写算法或者可能没有考虑这个窘境的程序员。

控制汽车和军用设备的人工智能算法应该计算概率加权期望值，或者最大最小值（选择在最坏情况下造成最小损失的行动）。规则一定具有主观性和争议性，一旦编程结束，那就是板上钉钉的事情了。考虑到军事攻击会摧毁宗教圣地或切断城市用水供应，人类会三思而后行。而计算机才不会在意这些，除非程序员把这些考虑编入它的损失函数，明确告诉程序应该如何评估代价。

人类会犯错，也会造成意料之外的后果，但是将打仗这种事交给机器，任其发挥，这令人毛骨悚然。

结语

我们生活在一个不可思议的历史时期。计算机革命比工业革命给人们的生活带来了更加翻天覆地的变化。我们可以使用计算机来实现过去无法完成的目标，计算机也为我们打开了很多崭新的大门。

我很迷计算机，你可能也有同感。但是，我们不应该让自己对计算机的喜爱，蒙蔽了对它们的局限的认知。没错，计算机储存的事实数据比我们多，记忆力比我们好，计算速度比我们快，还不会像我们那样疲倦。

机器人完成重复单调任务的能力远超人类，如拧螺栓、播种、搜索法律文件、接受银行存款和分配现金。计算机能识别物体、画画和驾车。你肯定还可以想出计算机其他让人惊叹的，甚至是超人类的壮举。

因为计算机能够极其出色地完成任务，所以很容易让人认为它们肯定是高度智能化的。然而，在完成特定任务方面大有用处与拥有通用智能是两码事。通用智能可以将从一次任务中吸取到的教训和习得的技能，运用于更加复杂或完全不同的任务。有了真正的智能，技能便可信手拈来。

计算机非常强大，而且越来越完善，但是计算机算法的设计，仍然是完成定义明确的琐事所需要的、适用范围非常狭窄的能力，而不是像通用智能那样可以通过评估事情现状、起因和后果，来处理不熟悉的情境。人类能够将通用知识运用到特定情境中，再借助特定情境来改善自己的通用知识。如今的计算机还无法做到这一点。

人工智能和人脑的真正智能完全不是一码事。计算机并不知道词语的意思，因为它无法像我们一样感知世界。它不知道真实世界是什么，缺少人类在现实生活中积累所得的常识或智慧；无法构想出有说服力的理论学说，也无法做出归纳推理或长期规划；没有情绪、感觉和灵感，这些都是创作扣人心弦的诗歌、小说或电影剧本所必不可少的。

或许有一天，计算机会拥有类似人类的真正智能，但这并不是因为计算机内存更大或处理速度更快。这不是量变的问题，而是质变产生的不同方式——找到方法让计算机获取通用智能，使其可以在不熟悉的情境中灵活运用多种方式。

我想澄清一点，这不是在批评计算机科学家。他们都才智过人，也付出了大量辛勤汗水。计算机科学家的工作难度极大，并且大有裨益。还有更多需要完成的工作，难上加难。

模仿人脑是一项艰巨的任务，不能确保一定会成功。不过，还是有一些传奇式的例外，如美国电话电报公司的贝尔实验室、洛克希德·马丁公司的“臭鼬工厂”和施乐公司的帕克研究中心，但是很少有企业愿意支持与脑力有关、短期无回报的研究。一些有用且能立即获利的项目对它们来说更具吸引力。

我不知道，开发出可与人类相媲美的通用智能的计算机需要多长时间。我猜测，至少也需要几十年。可以肯定的是，那些声称计算机已经拥有通用智能的说法都是错的。我也不相信那些人给出的特定日期，如2029年。同时，请保持对牵强附会的科学小说场景的怀疑态度，也小心提防夸大宣传人工智能产品的企业。

挖掘大数据风行一时，但数据挖掘是人为，而非智能。当统计模型分析大量可能的解释变量时，可能关系的数量就会暴增。有1 000种可能解释变量的多元回归模型，10个输入变量存在近1万亿个万亿的可能组合。若有1万个可能解释变量，则10个输入变量存在超过10亿万亿个万亿的可能组合。难以想象，若有100万个可能解释变量，会存在多少种可能组合。

如果把很多可能变量都考虑在内，即便所有都只是随机噪声，部分组合也一定与我们试图预测的对象高度相关，如癌症、信用风险和岗位适用性。偶然会出现真正的“知识发现”，但是，考虑的解释变量越多，所发现关系只是偶然出现且转瞬即逝的可能性就越大。

统计学证据不足以辨别真知灼见和虚假信息。只有逻辑、智慧和常识才能对其加以区分。计算机无法评估事物是真正相关还是偶然相关，因为计算机不理解数据的意义。数字不过是数字而已。计算机并没有区分好坏数据所需的人类判断力，没有分辨有理有据的和虚假伪造的统计学模型所需的人类智能。如今的计算机能通过图灵测试，却无法通过史密斯测试。如果所发现的模式被隐藏在黑匣子里，让模型难以理解，就会使这种情况恶化。无人知晓为什么计算机算法决定要买入这只股票、拒绝这名求职者、给病患开这种药、拒绝这名囚犯的假释请求和轰炸这座建筑。

在大数据时代，真正的危险不是计算机比我们更聪明，而是我们自己这么认为，从而信任计算机为我们做出重要决定。我们不应该认为计算机就是万无一失的、数据挖掘都是“知识发现”，以及黑匣子也应该被信赖。我们要相信自己能判断统计学模型是否合理，有无可能派上用场，抑或它只是偶然出现而已，转瞬即逝，毫无用处。

人类推理与人工智能有天壤之别，这也是为什么如今更显人类推理能力的可贵之处。

参考文献

Allan, Nicole, Thompson, Derek. 2013. The myth of the student-loan crisis，The Atlantic, March.