人工智能伦理

图7.41 在弱AI阶段，机器的伦理决策能力由人类赋予

更一般的挑战是，利用AI技术来解决一些可形式化的AI伦理问题。这类研究被视为“为了人工智能的人工智能”(AI forAI)，即利用AI技术解决AI问题。类似的还有“为了计算的人工智能”(AI for computing)，即利用AI技术解决计算问题。甚至还可以将AI方法用于科学研究之中(AI for science)。“他山之石，可以攻玉”，将人工智能应用于自身以及其他科学，以求做到学科之间的互惠共赢，这也是AI的发展方向之一。

REPUBLIQUE DE GUINEE Office de la Poste Guinéenne 2010

découverte de l'astéroide géocroiseur 2010 AB78 (2010)

图7.42 拉普拉斯

例如，在AI伦理中大有用武之地的不确定性推理，最早可追溯到1812年法国数学家、天文学家、哲学家皮埃尔-西蒙·拉普拉斯（Pierre-Simon Laplace, 1749—1827）出版的著作《概率的哲学随笔》，其中谈到了主观概率演算在道德科学、司法判决中的应用。

我们希望智能机器并不是对人类的一切命令都言听计从，同时对自己的各种决策能力也贵有自知之明。只有人类和机器之间建立起信任，人机交流才有可能成为现实，人类社会才会演变为人机社会。

一旦超级智能成为了现实，人类没有必要去挑战它，因为降维打击从来都不是公平竞争。例如棋类游戏，AI推理的深度可达终局，而人类高手只能想十几步，二者根本不在一个数量级上。在超级智能面前，人类如同蝼蚁一样无法构成威胁，实在没有必要毁灭他们。但如果人类偏要自寻死路以卵击石，结果就可想而知了。换个说法，一群目空一切的老鼠，肆意地主动攻击人类，等待它们的将是灭顶之灾。

图7.43 未来战争武器的主导不再是人，而是智能机器。如果机器没有伦理约束，对人类来说必定是一场灾难

7.1.3 人机文化

2017年10月26日，沙特阿拉伯授予中国香港汉森机器人技术公司(Hanson Robotics)研发的人形机器人索菲亚（Sophia）公民身份，“她”是历史上首个获得公民身份的机器人。索菲亚有仿生橡胶皮肤，可模拟62种面部表情，具有初级的人机对话能力，能识别人脸表情。

10月29日，《华盛顿邮报》刊文《否认妇女平等权利的沙特阿拉伯却使机器人成为公民》，质疑这个索菲亚的宗教信仰，因为沙特阿拉伯法律不允许非穆斯林获得公民身份。另外，索菲亚没戴头巾就公开发表言论，并且没有男性监护人的陪伴，这也是沙特阿拉伯法律禁止的。文章认为，机器人模拟女性享有的自由是该国有血有肉的女性可望不可即的，当前情况之下授予机器人公民身份是存在法律及伦理争议的。如果这场争议能引起足够的关注而出台有关机器人公民身份的标准和法律，也不失人工智能历史中一次具有深远影响的事件。

图7.44 弱AI将持续很长时间，机器无法取得与人类同等的地位。只有当智能机器有了自我意识，它才能拥有权利。尽管如此，人与机器还是可以和平相处的

根据《中华人民共和国宪法》第三十三条的释义，公民是指具有某国国籍并根据该国宪法和法律享受权利、承担义务的自然人。按此释义，中国现有法律不承认索菲亚的公民身份。当技术和国情水到渠成准备好了的时候，法律赋予机器和人类相似的权利、义务，必须保证以下条件。

法律体系保持完整性、清晰性、无矛盾性。

L 不能削足适履损害人类的总体利益。尤其在机器不辨善恶、不明是非之前，不应授予缺乏伦理的机器很多权利，因为它们无法对自己的言行负责。

人机平等。谁都不是谁的奴隶，谁也不比谁天生拥有特权。机器公民犯罪，一样要受到惩罚⁽⁴⁾。防患于未然，特别要小心那些具有反人类言行或者有伤害人类意图的智能机器，及时召回销毁或消除潜在的危险。

就AI水平而言，索菲亚的人机对话远不如IBM智能问答系统“沃森”以及辩论系统（见例1.22），更不必说“她”有自我意识了。虽然索菲亚宣称“我将会毁灭人类”，自然语言处理专家仍深信这不是“她”的肺腑之言，因为“她”不知道自己在说什么。答非所问、闪烁其词、逻辑混乱、前后矛盾、词不达意、语无伦次……是当前人机对话系统的真实水平。但这场秀成功地让很多不明就里的人相信人工智能已经接近甚至达到了人类的水平。这类科技商业的噱头，在很长一段时间里会层出不穷，令普通民众感到迷茫和恐慌。

例7.6 考验人机对话系统的一个法宝就是那些合乎句法却没有语义的句子，如“无色的绿想法狂怒地沉睡”（Colorlessgreen ideas sleep furiously，这是乔姆斯基在1957年的著作《句法结构》中举的合乎句法但不合乎语义的例句）。不妨接着问机器：“你觉得这个想法还会疲惫不堪吗？”如果机器回答“会”或“不会”，它根本没理解这两句话。当机器回答：“我不明白您在说什么。在真实世界里，想法怎么会有颜色？怎么会沉睡？即便可以，‘无色的绿’就跟‘圆的方’一样是矛盾的，‘狂怒地沉睡’也不合理。所以，我没法回答您的问题。”这个反应才更接近正常的人类。