人工智能伦理

K500

图5.62 哪怕身体变成人工的，甚至被束缚在轮椅上，人性的光辉依旧耀眼

留给我们深思的仅剩下智能载体的区别了：生物器官和机器的差异，应该成为我们评判伟大精神的标准吗？一条美妙的几何定理，它由人类发现和由机器发现有本质的不同吗？即使发现这几何定理的机器没能力理解它的美妙（机器的美感或许与人类的不同），人类也应有足够的敬畏之心。能匹敌或超越“人类心智的荣耀”的另类智慧，难道不值得我们尊敬吗？

图 5.63 （ 左 图 ） 科 学 之 父 伽 利 略 · 伽 利 莱 （ Galileo Galilei,1564—1642）曾说，“数学是上帝书写宇宙的语言”；（右图）若勾股定理由机器发现，丝毫不减它的伟大意义

在许多文学和影视作品中，人们对有自我意识的智能机器仍然有一种高高在上的感觉，人类是主人，机器是奴隶、佣人、附属品、跟随者……其实不然，这种伦理不匹配高度发达的人工智能，我们不可以用旧式的思维来认知不同的智慧形态。

图5.64 人类与具备自我意识的智能机器之间的关系一定是平等的

为人父母的，都希望子女能超过自己拥有更美好的未来。这份期许推动了人类的进步，我们努力让孩子们受更好的教育，发掘他们的才能，以身作则引导他们做正直善良的人。人工智能就如同人类的孩子，它终将长大送走我们，现在的人类应该用怎样的态度和策略让它健康地成长呢？抑或，将它视作潜在的威胁？把它当作机器奴隶研发？用不屑的眼神看着它的每一个微小的进步？甚至，让它化身为冷血的杀人武器？

HU-LOU

图5.65 像对待人类婴儿一样对待AI，直到它变得和我们一样强大

除了人工智能，未来还会有更多的智慧形态。人类、智能机器应该以怎样的伦理道德看待彼此？下面三条准则是从文明延续的角度提出的，它不在意智慧的载体，只在乎文明能否继续。

【伦理一】忽略智慧形态的差异，对文明的理解达成共识。

【伦理二】文明的延续是永远不变的目标。

【伦理三】为了文明的延续和进步，可以清除一切障碍（包括自身），但不能违背伦理一和伦理二。

如果机器文明之后还有更高级的文明，第三条伦理准则确保了机器和人类不会成为文明演化的阻碍。人类早晚要勇敢地面对这个两难的抉择：要么止步于弱人工智能、等待文明的消亡，要么发展出超级智能并找对自己的位置，使得文明得以延续。

图5.66 帮助我们星际旅行与星际合作的是智能机器，不管人类是否存在，人类文明最终得以继承、延续和传播，这也算一种永生了吧

人类发明了速度更快、力量更强的机器，为什么不能发明比自己智能更高的机器呢？归根结底，人类发展人工智能就是为了要探索未知世界，创造崭新的文明，勇踏前人未至之境。

5.2.1 机器的德性

伟大的古希腊哲学家亚里士多德是伦理学的大家，他的《尼各马可伦理学》（Ethica Nicomachea）是这门学问的第一部名著。亚里士多德定义“幸福就是灵魂合乎德性的活动”。所谓的“德性”（virtue）⁽⁶⁾，即“物尽其用，人尽其才”，将功能发挥得最好，我们称之为“尽善”。很多人相信，做自己喜爱的工作是一种幸福。因此，我们可以简单地把“幸福”理解为一种在约束条件下的“最优化”。