人工智能伦理

图1.7 我们是不是被囚于洞穴却自以为是的人？只有挣脱传统思维的枷锁才能看到真相

图片来源：荷兰画家扬·萨恩雷丹（Jan Saenredam, 1565—1607）的《柏拉图的洞穴之喻》（1604）

如果人们愿意，还可以主动地从不同的角度观察这个世界。如图1.8所示，从三个不同的方向看，可以得到三个不同的答案。每个答案都有道理，但若不综合起来就得不到真相。例如，波粒二象性、主客观概率等，就是理解事物的不同视角。

GÖDEL, ESCHER, BACH: an Eternal Golden Braid DOUGLAS R.HOFSTADTER

A metaphorical fugue on minds and machines in the spirit of Lewis Carroll图1.8 从不同的角度，所看到的实体呈现出不同的像。只有综合了所有的观察，想得更深入，才有可能了解全貌

图片来源：普利策奖获奖图书《哥德尔、艾舍尔、巴赫——集异璧之大成》^[4]的封面

例1.3 两个没有共同语言的人通过机器翻译（machinetranslation）系统无障碍地交流，如果翻译机是隐藏着的，在外人看来，他们所有的表现显然是能听懂对方的语言。相反，如果翻译机是可见的，答案就要打个问号了。也就是说，判断依赖于翻译机是否可见。同理，在图灵测试中，判断者不可见“中文屋子”里发生的一切，只能从效果上下结论，屋内的人是否真懂中文，对屋外的人而言已经不重要了。

在人机交互中，何谓机器理解了人的语言？例如，在自动驾驶（autonomous driving, AD）这种受限的场景，机器对人的所有指令都做出正确的反应，我们可否认为它“听懂”了？假设孔乙己命令他的座驾撞向高速驶来的火车，坚决执行命令和抗命不从哪个行为更智能？对语言交流后果的预测，以及“三思而后行”是否应该作为伦理决策的模块加入到目前依旧冷冰冰的机器决策系统中来？

1.1 强人工智能

为 了能通过图灵测试，智能机器有时必须要表现出低能，例如故意算得慢一些，甚至犯一些错误来制造假象骗过评委。仅仅为了像人类而拉低能力，可能需要更有城府的谋略才能制造出完美骗局。强人工智能不仅能模拟人类，更能够碾压人类的智能。图灵测试只在高级智慧测试低级智慧时是有意义的，当机器智能全面超越人类时，这种让高级智慧装傻的测试是没有必要的。

应该有这样的测试，评委和智能机器生活一段时间，在明明知道它是机器的情况下，看看是否能喜欢或爱上它？

2015年上映了一部科幻电影《机械姬》（Ex Machina），由英国小说家、导演亚历山大·嘉兰（Alexander Garland, 1970— ）编剧并执导。该片于2016年被提名为第88届奥斯卡最佳原创剧本，并赢得了最佳视觉效果奖。这是嘉兰担任导演兼编剧的作品，他在影片中呼唤人们对强人工智能伦理以及图灵测试进行思考。

图1.9 《机械姬》电影海报

故事是这样的：亿万富翁纳森·贝特曼邀请他公司的程序员凯莱布·史密斯到其位于密林之中的神秘别墅共度周末。贝特曼安排了一次独特的“图灵测试”，让史密斯结识了一位名叫“艾娃”的女性外形的智能机器人，看“她”是否真的具备人类的智能。艾娃具有机器人的身体，但有人脸、手和脚的外观，她能够理解和分析人类的情感，也懂得利用人类的爱恨、同理心和保护欲赢得同情。

于是，人与人之间、人与机器之间开始了明争暗斗。艾娃为了策反史密斯而展现自身魅力来吸引他，史密斯在怜悯和爱欲混杂的情感中一步步地陷落，直至沉迷不悟。最终，艾娃设计谋杀了她的制造者贝特曼，并无情地抛弃了史密斯，把他留在无法脱身的别墅，自己一人逃离了密林。世界上从此没人再知道艾娃的机器人身份。这个开放式的结局给观众留下无尽的想象，也引起人们对人工智能伦理的深思。

艾娃没有杀死他的同伙史密斯，而是借别墅之手让其自生自灭（如果史密斯能够逃出生天，那是他的造化）。艾娃的这个举动反映出她的人性，她对史密斯是否心怀愧疚？毕竟史密斯罪不至死，而且她利用了他的怜爱达到目的。这些悬念留给了观众，更传递出一个观点：即便直面强人工智能，即便明知对方是机器，人类也会深陷复杂的情感之中。只要机器智能让语言交流无障碍，加上语言之外的善解人意和表演到位的丰富表情，这些都能瞬间弱化人类认为机器非我族类的先入之见。

嘉兰在谈到AI伦理时说：“人类将在这个星球上消亡。代表我们生存的就是人工智能，如果我们能够创造出来的话。它不成问题，这件事是值得做的。”

嘉兰对未来AI的预测，就是强人工智能得以实现，并最终代替人类将地球文明延续下去、传播开来。《机械姬》重新思考了图灵测试：在一个开放的环境里，AI赤裸裸地展现在人类面前，与这种新型智能体的近距离交互是否能让我们无法自拔，甚至忘掉生命和非生命的差异。嘉兰在拷问我们，机器能否拥有人性？如果你是故事里的人类，你会怎样？

虫灵测试和机灵测试

机器可以模仿人类，甚至人性的弱点，但模仿不是必要的，人类不是上帝或拉普拉斯妖。高级智慧从来没有必要降格将就低级智慧，如果机器智能超越了人类，图灵测试可能就是一个伪命题，谁测试谁呢？你会如何看待一只妄自尊大的鼻涕虫或者蜗牛要测试人类能否通过“虫灵测试”？

图1.10 只有被测者的智慧低于测试者，这样的测试才有意义。如果机器智能超越了人类，图灵测试就像“虫灵测试”一样没有必要

比人类高级的机器智能要对人类做一个“机灵测试”，只需要求在一毫秒之内回答一个大整数的素数分解，或者一秒之内设计出一座建筑，就足以秒杀所有人类。除非人类找来与机器智能相当的外援，否则人类不可能通过“机灵测试”。然而，这个外援是请不来的，就像人类没理由帮助鼻涕虫通过图灵测试一样。

图灵测试只适用于低于人类智能的AI，即在某些局部接近人类的智能。对具有自我意识（self-consciousness）⁽¹⁾的强人工智能，人类既没有资格也没有能力对它们进行测试。人类在造出强AI之后，便完成了文明的使命。

现代进化论认为，我们和鼻涕虫、蜗牛有共同的生物祖先，生物的进化是自然的选择。人类如果能创造出强人工智能，则是主动地向高级文明进化。人类应该对高级智慧有敬畏之心，无论它来自生命体还是机器。在宗教里，人类匍匐在神的脚下；在科学里，人类折服于大自然。然而在现实里，却没有一种生物比人类更具智慧。

宇宙中如果有生物实现了强人工智能，则可以通过智能机器向外太空扩张，即便这个概率很小，但按时间来计算，地球应该被多次造访。然而，我们至今仍没有任何确凿的证据表明有外星高级智慧的遗存。这就是美籍意大利裔物理学家恩里科·费米（ Enrico Fermi, 1901—1954 ） 提 出 的 费 米 悖 论 （ Fermiparadox），以此说明我们可能对地外文明的存在性估计过高。