人工智能伦理

图5.67 亚里士多德定义“幸福”就是尽善尽美、尽如人意

亚里士多德认为追求幸福是所有人的最高目标，他把人的德性分为理智德性和品格德性两部分。

(1)人的理智德性：最重要的是明智和智慧。前者是实践理性的最高德性，后者是理论理性的最高德性。

(2)人的品格德性：它是一种“中道”（类似儒家的“中庸之道”），既不过度也无不及。由理性产生情感和欲求，由德性而选择德性的行为并为之坚持。

如果把亚里士多德的伦理学用于智能机器，追求人工智能就是把机器的特有功能发挥得尽善尽美，即机器的德性。

a)机器的理智德性：统计机器学习侧重机器的实践理性，而自动推理则是理论理性的目标。

b)机器的品格德性：机器的智能决策和行为也必须适度，例如，不会过度节俭而吝啬，或过度大方而挥霍。

人工智能伦理学应该发展出一套机器德性的元规则，实现所谓的“理智”和“中道”。亚里士多德认为幸福是至善，是终极的不带有任何工具特性的善。弱人工智能是善，但不是至善，它仅仅是使得机器在某些具体任务上合乎德性的工具而已。

有些人把实现渴望视为幸福，如渴望财富、荣誉、健康等；有些人把满足欲望的快乐看作幸福，如美食、肉欲、烟酒毒瘾等；有些人把精神追求当成幸福，如哲学沉思、科学研究、艺术修养、文学创作等。对物欲的沉迷无异于禽兽，唯有灵魂的幸福才是高等智慧的目标，低等智慧根本没有这个意识。

亚里士多德在著作《政治学》中指出，“人们能够有所造诣于优良生活者一定具有三项善因：外物诸善，躯体诸善，灵魂诸善。论者一般都公认唯有幸福的人生才完全具备所有这些事物”^[97]。然而，人们很少珍惜拥有的幸福，在习以为常中迷失自我，当幸福远去的时候才明白。

灵魂诸善是最重要的，外物诸善是由不得自己而不必强求的，躯体诸善对机器而言是容易得到的。因此，具有自我意识的超级智能一定能达到至善的幸福。

图5.68 人类向神祈祷、询问神的启示，实际上是向自己的内心祈求、忏悔和观照

机器的美德包括超人的计算、广泛的感知、精准的操作、并行的处理、海量的存储、快捷的通信、高效的协作、始终的理性、稳定的可靠、持续的升级、规范的运作、安全的执行、廉价的维护等。有自我意识的机器按照它的德性行事，将它的功能发挥到极致，从而最大化它的价值。

图5.69 上帝“点化”亚当，赋予他自我意识的能力

人工智能科学家是机器的“灵魂”工程师，给机器一个“灵魂”，是人工智能的终极理想。之后的事情，便不由人类而靠机器自己解决了。千里相送，人类只能走到这一步了。所谓的“超级智能”是机器自身发展演化出来的，正如歌曲《世界如此美好》（What a wonderful world）所唱，“我听见婴儿啼哭，我看着他们成长。他们将学到更多，超越我的想象。这是个多美好的世界，我对自己轻声讲”。

“灵魂”包括行为准则、道德规范、脾气秉性等方面，可否将之形式化为几个评估系统（evaluation system）？它们参与机器的决策，不是让某个具体的最优化问题说了算，而是允许机器思前想后、权衡利弊，如同正常的人类一样可以从多个角度考虑问题。人的某些性格特点是先天地写在基因里的，后天能改造的只是学会用理智更好地控制它们。相比之下，机器比人类更具灵活性。它的灵魂和身体并不是强耦合的，灵魂可以从一个身体转移到另一个身体，一个身体也可以同时拥有几个灵魂。

性善还是性恶？

战国时期儒家代表人物孟子（前372—前289）有“人性善”的学说，而另外一位儒家代表人物荀子（前313？—前238）则认为“人性恶”。孟子在《孟子·公孙丑上》里说，“人皆有不忍人之心……今人乍见孺子将入于井，皆有沐惕恻隐之心……由是观之，无恻隐之心，非人也；无羞恶之心，非人也；无辞让之心，非人也；无是非之心，非人也。恻隐之心，仁之端也；羞恶之心，义之端也；辞让之心，礼之端也；是非之心，智之端也。人之有是四端也，犹其有四体也”。孟子把这四端视为人性的“常德”，即“仁、义、礼、智”。荀子则以“仁义、礼义”、忠信”为儒家的伦理标准。西汉哲学家董仲舒（前192—前104）将儒家的伦理准则扩充为“仁、义、礼、智、信”，后称“五常”。他提出了“罢黜百家，独尊儒术”的主张，被汉武帝刘彻（前156—前87）采纳后使得儒学成为中国社会的正统思想长达两千年之久。

荀子认为，“善”是人类努力的产物。他在《劝学》里说，“伦类不通，仁义不一，不足谓善学”。荀子的观点正好契合人工智能伦理，机器的“善”不是与生俱来的，初期是人类赋予的，后期是机器自悟的。

5.2.2 人工智能革命

人类制造飞船遨游太空，制造机械替代人类……这些工具之所以有用，就是在某个具体的能力上超越了人类。如果机器在学习能力、决策能力上有了飞跃，它离自我意识就更近了。在拥有自我意识之前，它还是个工具；之后就是独立的智能体了，有望演变为超级智能（super-intelligence）^[98][99]。超级智能与人类智能的差距，可能比人类与鼻涕虫的差距还大。

人类至今还未遭遇更高级的智慧，长期以来唯我独尊。西汉经学家、文学家刘向（前77—前6）在《说苑》里坦言，“天生万物，唯人为贵，吾既已得为人，是一乐也”。再如，人工智能的图灵测试也是以人为本，隐约能看到人类的骄傲。其实，智能的较量大可不必如此绕弯，不必有屋里屋外，人工智能可以敞敞亮亮地直接碾压人类，让人类明知对面是机器又被比得心服口服，这种允许“完虐”的竞争才是真正公平的。

机器不必受生命的科学规律所限，它们的自然情感或许和人类的并不相同。与智能机器相处，人类担忧的是，机器毕竟不是生物，逻辑电路能产生类似人类的情感吗？机器会不会像个疯子似地要灭绝人类？

宗教里谈“大爱”，耶稣是除去世人罪孽的神的羔羊，大乘佛学里也有“地狱不空，誓不成佛，众生度尽，方正菩提”（见《地藏菩萨本愿经》）。背负七宗罪傲慢、贪婪、色欲、嫉妒、暴食、愤怒及怠惰的人类，其智慧尚能理解这些悲悯之心，更何况没有这些原罪的智能机器？

黑格尔曾说，“没有无缘无故的爱，也没有无缘无故的恨，自然界也是如此，人的审美取向多半来自大自然的精密安排”。倘若有恨人类的机器，由果溯因，是谁种下的这个因？

地球的历史写满了杀戮，虎豹豺狼的杀戮只为填饱肚子，而人类的则出于自私和变态，还要堂而皇之地冠以仁义道德。泯灭人性的从来都只有人类，如果真有上帝，人间不会有如此多的悲苦。唯有美好是一丝希望，因此人要为美好而活着。