人工智能时代：破解人机共存密码（套装共10册）

通过结合微型四旋翼飞行器设计、微型摄像机、计算机视觉芯片、导航和测绘算法，以及探测和跟踪人类的方法的最新进展，人们在相当短的时间内就可以部署一种杀伤性武器，类似于图7（右）所示的“杀戮无人机”（Slaughterbots）^[13]。这种武器可以用来攻击任何符合特定视觉标准（年龄、性别、制服、肤色等）的人，甚至攻击基于人脸识别的特定个体。有人告诉我，瑞士国防部已经制造并测试了一种真正的杀戮无人机，结果正如预期的那样，这项技术不仅可行而且致命。

自2014年以来，一系列外交讨论一直在日内瓦举行，以期达成一项禁止AWS的条约。与此同时，相关讨论的一些主要参与者（美国、中国、俄罗斯，在某种程度上还有以色列和英国）正在进行开发自主武器的危险竞赛。例如，在美国，CODE（拒止环境协同作战）项目旨在通过使无人机能够在只有间歇无线电联络的条件下工作，从而走向自主。据项目经理称，无人机将“像狼一样成群狩猎”。^[14] 2016年，美国空军展示了从三架F/A–18战斗机上部署的103架Perdix微型无人机。根据公告，“Perdix不是预先编程的同步个体，它们是一个集体有机体，进行决策时共享一个分布式大脑，并像自然界中的蜂群一样彼此适应”。^[15]

你可能会认为，制造能自主决定杀死人类的机器显然是个糟糕的主意。但是“显然”并不总是能说服那些一心想获得他们认为的战略优势的政府。拒绝制造自主武器的一个更有说服力的理由是，它们是“可扩展的大规模杀伤性武器”。

“可扩展性”是计算机科学中的一个术语。如果你可以通过购买100万倍的硬件来完成100万倍以上的任务，那么这个进程就是可扩展的。因此，谷歌每天使用数百万台计算机，而不是雇用数百万名员工来处理大约50亿个搜索请求。有了自主武器，你可以通过购买100万倍的武器进行100万倍以上的杀戮。正是因为这些武器是自主的，与遥控无人机或AK–47步枪不同，它们无须个人监督即可完成工作。

作为大规模杀伤性武器，可扩展的自主武器与核武器和地毯式轰炸相比，对攻击者来说具有优势：它们保持财产完好无损，并且可以有选择地只消灭那些可能威胁攻击者的人。它们当然也可以被用来消灭整个种族或某一宗教的所有信徒（如果信徒有明显的标记）。此外，尽管核武器的使用代表着一个灾难性的门槛，而我们自1945年以来一直都没跨越这一门槛（这往往是因为运气好），可扩展的自主武器却没有这样的门槛。攻击可以无障碍地从伤亡100人升级到1 000人、1万人、10万人……除了实际的攻击外，仅仅是这些武器的攻击威力，就能使它们成为实施恐怖和压迫的有效工具。自主武器将大大降低个人、地方、国家和国际各个层面的人类安全。

这并不是说自主武器会像《终结者》电影中设想的那样带来世界末日。它们不需要特别聪明（一辆无人驾驶汽车可能需要更聪明），它们的任务也不会是那种“接管世界”的任务。人工智能带来的生存性风险并不主要来自头脑简单的杀手机器人，而与人类起冲突的超级智能机器肯定会用这种方式武装自己，将相对愚蠢的杀手机器人变成全球控制系统的实体扩展。

抢走我们已有的工作

关于机器人从人类手中抢走工作这一主题，成千上万的媒体报道、文章和很多本书都写过了。研究中心如雨后春笋般在世界各地建立，以了解可能发生的事情。^[16] 马丁·福特（Martin Ford）的《机器人时代：技术、工作与经济的未来》^[17] 和卡鲁姆·蔡斯（Calum Chace）的《经济奇点：人工智能时代，我们将如何谋生？》^[18]这两本书很好地概括了人们的担忧。尽管我根本没有资格就本质上属于经济学的问题发表意见，^[19]但我认为，这个问题太重要了，不能完全只交给经济学家去解决，这一点很快就会显现出来。

约翰·梅纳德·凯恩斯（John Maynard Keynes）在其著名的文章《我们后代在经济上的可能前景》中提出了技术性失业问题。他在1930年写了这篇文章，当时大萧条在英国造成了大规模失业，但这个话题的历史要长得多。亚里士多德在他的《政治学》第一卷中非常清楚地提出了主要观点：

倘使每一个无生命工具都能按照人的意志或命令而自动进行工作……倘使每一个梭都能不假手于人力而自动地织布，每一琴拨都能自动地弹弦，匠师才用不到从属，奴隶主才可放弃奴隶。

所有人都同意亚里士多德的观点，即当雇主发现可以用一种机械方法来完成以前由人完成的工作时，就业就会立即减少。问题在于，随之而来的所谓补偿效应（这往往会增加就业）最终是否会弥补这种减少？乐观主义者的回答是肯定的：在当前的辩论中，他们指出了前几次工业革命后出现的新工作。悲观主义者对此表示否定：在当前的争论中，他们认为机器也会做所有的“新工作”。当机器取代一个人的体力劳动时，这个人可以出卖脑力劳动。当机器取代一个人的脑力劳动时，这个人还能出卖什么？

在《生命3.0》中，迈克斯·泰格马克将这场争论描述为两匹马讨论1900年内燃机崛起的对话。一匹马预测，“关于马的新工作……这是以前经常发生的事情，就像发明轮子和犁的时候一样”。然而，对大多数马而言，“新工作”是当宠物。

这场争论已经持续了几千年，因为这两个方向都会产生影响。实际结果取决于哪种影响更重要。例如，你来想一想，随着技术的进步，房屋油漆工的工作会有什么变化。为了简单易懂，我用漆刷的宽度代表自动化的程度。

• 如果刷子只有一根头发的直径那么宽（0.1毫米），粉刷一栋房子需要数千人年的时间，而且人们基本上不会雇用房屋油漆工。

• 当刷子宽度达到1毫米的时候，几位画家用刷子在皇宫里画了几幅精美的壁画。当刷子宽度达到1厘米的时候，贵族们开始效仿。

• 当刷子宽度达到10厘米的时候，我们达到了实用的境界：大多数房主都把房屋内外粉刷了一遍，尽管可能不太频繁，此时成千上万的房屋油漆工找到了工作。

• 一旦我们有了宽滚轮和喷枪（相当于宽度1米左右的刷子），粉刷房屋的价格就会大幅下降，但需求可能会开始饱和，因此房屋油漆工的数量会有所下降。

• 当一个人管理着由100个房屋喷漆机器人组成的团队时，这相当于拥有使用100米宽的刷子的工作效率，那么整栋房屋可以在一小时内完成粉刷，此时很少有房屋油漆工可以找到工作。

因此，技术的直接影响是双向的：首先，通过提高生产率，技术可以降低一项服务的价格，从而增加需求以及增加就业；其次，技术的进一步发展意味着需要的人力越来越少。图8展示了这些发展。[20]

许多技术都表现出类似的曲线。如果在某个特定的经济部门，我们处于峰值的左侧，那么改进技术将会增加该部门的就业，当前的例子可能包括清除涂鸦、清理环境、检查航运集装箱和在欠发达国家建设住房等任务，如果我们有机器人来帮忙，那么所有这一切可能在经济上变得更加可行。如果我们已经到了峰值的右侧，那么进一步的自动化就会减少就业。例如，不难预测电梯操作员将继续被挤出市场。从长远来看，我们不得不预计大多数行业将被推到曲线的最右边。最近一篇基于经济学家戴维·奥特（David Autor）和安娜·萨洛蒙斯（Anna Salomons）的一项细致的经济计量研究的文章认为：“在过去40年里，每一个引入技术来提高生产率的行业的工作岗位都在减_少。”[21]

那么经济乐观主义者所描述的补偿效应又如何？

• 有些人不得不制造喷漆机器人。造多少？必须远远少于机器人替代的房屋油漆工的数量，否则，用机器人粉刷房屋将花费更多，而不是更少的钱，那样就没有人会购买这种机器人。

• 房屋粉刷变得更便宜了，所以人们会更频繁地请来房屋油漆工。

• 最后，因为我们花在房屋粉刷上的钱更少，所以我们有更多的钱花在其他事情上，从而增加了其他行业的就业。

经济学家曾试图在自动化程度有所提高的各个行业中衡量这些影响的大小，但结果通常是不确定的。

从历史上看，大多数主流经济学家都从“宏观”的角度提出过这样的观点：自动化提高了生产率，从整体上说，人类的境况更好了，因为我们用同样的工作量享受到了更多的商品和服务。

不幸的是，经济学理论并没有预测自动化是否会让每个人的生活变得更好。一般来说，自动化增加了资本持有者（即房屋喷漆机器人的所有者）的收入份额，减少了劳动力（即曾经的房屋油漆工）的收入份额。经济学家埃里克·布莱恩约弗森（Erik Brynjolfsson）和安德鲁·麦卡菲（Andrew McAfee）在《第二次机器革命》中指出，这种情况已经发生了几十年。美国的数据如图9所示。他们指出，1947年至1973年间，工资和生产率同时增长，但1973年后，工资停滞不前，生产率却几乎翻了一番。布莱恩约弗森和麦卡菲称之为“大脱钩”。其他主要经济学家也发出了警告，包括诺贝尔奖得主罗伯特·希勒（Robert Shiller）、迈克尔·斯宾塞（Michael Spence）和保罗·克鲁格曼（Paul Krugman），世界经济论坛主席克劳斯·施瓦布（Klaus Schwab），以及世界银行前首席经济学家、比尔·克林顿总统时期的财政部长拉里·萨默斯（Larry Summers）。

那些反对技术性失业概念的人经常提到银行出纳员和零售收银员，银行出纳员的部分工作可以通过自动取款机完成，零售收银员的工作则通过商品上的条形码和RFID（射频识别）标签来加速。人们常说，这些职位数量的增长是因为技术。的确，从1970年到2010年，美国出纳员的数量大约翻了一番，但这里应该指出，在同一时期，美国人口增长了50%，金融业增长了400%以上，^[22]因此我们很难将就业增长的全部或部分原因归结为自动取款机。不幸的是，从2010年到2016年，大约有10万名出纳员失业。美国劳工统计局预测，到2026年，还会有4万人失业：“预计网上银行和自动化技术将继续取代出纳员曾经履行的更多工作职责。”^[23]零售收银员的数据也不再令人鼓舞：从1997年到2015年，人均数字下降了5%。美国劳工统计局表示：“技术的进步，如零售店的自助收银台和网上销售的增加，将继续限制对收银员的需求。”这两个行业似乎都在走下坡路。几乎所有与机器打交道的低技能职业都是如此。

随着基于人工智能的新技术的到来，哪些职业将会减少？媒体引用的主要例子是司机。美国大约有350万名卡车司机，他们中有许多人很容易受到自动化的影响。亚马逊等公司已经在州际高速公路上使用无人驾驶卡车运货，尽管目前仍然配备了起辅助作用的人类司机。^[24]每一次卡车运输的长途部分很有可能很快变成自主的，而人类将暂时处理城市中的运输、接车和送货。由于这些预期的发展，很少有年轻人对卡车运输这一职业感兴趣。具有讽刺意味的是，目前美国卡车司机严重短缺，而这只会加速自动化的发展。

白领工作也面临威胁。例如，美国劳工统计局预测，从2016年到2026年，保险核保人的人均就业率将下降13%：“自动核保软件使员工能够比以前更快地处理申请，从而减少对核保人的需求。”如果语言技术像预期那样发展，许多销售和客户服务工作，以及法律领域的工作也会面临威胁。（在2018年的一次竞赛中，人工智能软件在分析标准保密协议方面的得分超过了经验丰富的法学教授，并且前者完成任务的速度比后者快了200倍。^[25]）常规形式的计算机编程，即今天经常被外包的那种编程工作，也可以实现自动化。事实上，几乎任何可以外包的东西都是自动化的绝好选择，因为外包涉及将作业分解为任务，这些任务可以打包并以去情境化的形式分发。机器人流程自动化产业生产的软件工具完全可以在在线执行的办公任务方面实现这种效果。

随着人工智能的发展，在未来几十年里，所有常规的体力劳动和脑力劳动基本上都将由机器以更低的成本完成，这当然是可能的，甚至实现的可能性非常大。自从几千年前我们脱离狩猎采集者的角色以来，我们的社会就把大多数人当作机器人来使用，他们执行重复性的体力和脑力劳动，所以这些角色很快被机器人取代也许并不奇怪。当这种情况发生时，那些在竞争中被淘汰的、无法从事高技能工作的人的工资就会被推到贫困线以下。拉里·萨默斯说：“很有可能，考虑到（资本取代劳动力）这种可能性，某些类别的劳动力将无法赚取维持生计的收入。”^[26]这正是发生在马身上的事情：机械运输变得比养马更便宜，所以马成了宠物。面对等同于马变成宠物的社会经济问题，人类将会对他们的政府感到非常不满。