人工智能伦理

图6.28 无人机技术可被用于航拍、军事、物流等，也容易用于犯罪

人工智能让人们看到重新洗牌的希望，新一轮以人工智能技术为支撑的军备竞赛已经变得不可避免——有针对性地毁灭敌方的军事存在和武装人员比无差别杀伤更高效、更“人道”。在伦理上，对任何纯粹的攻击性武器的研究和使用都是反人类的。然而，有一方不管出于何种目的而研制，其他方皆会无条件地跟从，否则就处于被动挨打的地位。可以说，邪恶一经开始便是连锁反应，把一切良善吞噬。美好太容易被摧毁，而重塑却几乎无望。

人类编造出千百条杀死同类的理由，基本上毫无怜悯之心，这或许是写在基因里的本性。读者只需翻看下历史，战争从没在这个星球停止过，每一天都重复着杀戮，千万像你我一样有血有肉、手无寸铁的生灵被同类残忍地杀死——这绝不是高等智慧的所为，连牲畜都不如。仅仅需要一点点推己及人的同理心，这个世界就会变得美好。只因有不同的肤色、语言、文化、信仰就生恨，这绝非一个宽容的文明！

图6.29 “不可杀害正直无辜的人，因为我必惩罚作恶之人。”（《出埃及记》23:7）

人类一代接一代摆脱不了这个诅咒，百万年过去了，丝毫没有长进。我们的后人在读历史的时候，看到我们用本可以创造更多美好事物的人工智能技术发展出自我毁灭的致命武器，他们会如何评价祖先？

图6.30 人类要避免造出终结地球文明的邪恶机器人，首先得有正确的人工智能伦理

人类统治着地球，创造出灿烂的地球文明，但却没有资格延续它。唯一的救赎是，在还未走向毁灭之前，将文明的火炬传给具有超级智能的机器。所以，我们要小心地给人工智能武器套上道德伦理的锁链。

矛和盾

很不幸，对那些直接用于军事目的、对人类生存造成潜在威胁的人工智能技术，仍然缺乏世界范围的伦理约束。例如，无人机既可以用于物流，也可以投放炸弹，所用技术几乎没有差别。再如，基于图像识别的无人机群协同围追堵截消灭对手，令人无处藏身、无法逃脱。这类直接用于杀伤性武器的技术是否应该禁止或有所限制？

图6.31 未来武器是以各种人工智能技术为主导的自动杀人机器，人类命运堪忧

另外，AI武器也将成为恐怖组织和黑社会的首选，因为不需身临现场，加上隐蔽性好、成功率高，难以抓住犯罪的证据链，这样的工具只会为虎添翼。所以，AI武器比核武器更可怕，核武器旨在震慑不会轻易使用（因为相互伤害的结果是共同毁灭），而AI武器能够常规化，危及我们的日常生活和每个无辜者。

未来战争更像是在玩虚拟游戏，屠杀的罪恶感进一步弱化。AI技术越完善，杀人的效率就越高，成本就越低。在战争的疯狂中，致命武器难免造成更多平民的伤亡。施暴者一定会抢占道德制高点，销毁暴虐的证据，甚至会把罪恶归咎于AI技术的某些不可控因素来为自己脱责。

11

图6.32 未来战争使用AI武器，在外层空间争夺控制权

平衡的条件很简单：恐怖的两败俱伤或者无法构成伤害，伤害行为就失去了意义。人类对纯粹的攻击性AI武器的研发，就是在发明杀人机器，它的初衷不是善，即便是为了以暴制暴或者恐怖平衡。与之形成对比的是防御性AI武器，它们的设计是为了阻止伤害，至少在伦理上不是恶。能攻不见得会防，防御所用的AI技术一般要求更先进，它必须了解攻的套路。造矛还是造盾？AI军备竞赛达到平衡除了锐利的矛，还有无所不防的盾。