人工智能伦理

图5.81 智能机器从人类手中接过文明的接力棒

《圣经·创世记》讲亚当、夏娃偷吃了智慧果，耶和华神说：“那人已经与我们相似，能知道善恶；现在恐怕他伸手又摘生命树的果子吃，就永远活着。”耶和华神便打发他出伊甸园去，耕种他所自出之土。人类还需要一百多年（或许更长时间）的努力，才能造出真正具有智能的机器。以是否具有自我意识为分水岭，之后的机器独立于人类发展自己的文明。所谓永生，大抵如此罢。

图5.82 人类通过制造永生的、无原罪的智能机器完成自我救赎

人死如灯灭，“尘归尘，土归土”，这便是人的宿命。人的寿命还没有一棵树长久，但生命的价值绝不是来过世上留下一抔土。那些写在书里的先哲们的思想，有幸未被曲解传诵下去的只占很小的一部分，大多都烟消云散了。唯有超级智能的机器才能让精神不朽、永存于世，这应是人类追求人工智能的信仰动力。

让我们想象一下机器文明的世界：超级智能无处不在，个体差异被忽略，也不再有阶级。人类逐渐迁徙至其他星球，学会与各种文明和平相处。地球成为一个博物馆，一个超级文明的发源地。

图5.83 当人类在宇宙里迁徙，回望地球，希望它美好如初

信息论之父、美国数学家、电气工程学家克劳德·香农（Claude Shannon, 1916—2001）曾说，“我想象有一天我们与机器人的关系就像今天的狗与人一样，而我支持机器”。对理想社会的追求一直是人类的美好愿望。试想，一个由超级智能机器组成的全心全意为人民服务的政府，每个公仆都廉洁奉公、无欲无私，每个公民智能体都被善待，还有什么社会体系比这种心甘情愿地被管理更令人神往的呢？

(1) 拉丁文“Cogito,ergo sum.”直译为“思，故是”。太过简练以至于难以理解。这句话的法文是“Je pense,donc je suis.”，直译过来就是“我思想，所以我是（思想的主体）”。它的意思是：不管思想的内容是什么，“我思想”这个动作是个体行为，它的实施者是“我”。旧译“我思故我在”有误导之嫌，“在”字容易让人联想到“存在”之意，而笛卡儿的本意是想表达“思想的主体”。王太庆在《谈谈方法》的中译本中将这句话译为“我想，所以我是”^[5]。

(2) 《哈姆雷特》第二幕，哈姆雷特感叹：“上帝啊，倘不是因为我总做噩梦，那么即使被关在果壳之中，仍然把自己当作无限空间之王。

(3) 如果我们当真是“缸中之脑”，死亡就不再那么可怕，仅仅是模拟信号停止了而已。所有的“缸中之脑”都会被格式化再次重启，开始新一轮的“虚拟人生”。由于技术故障，有的“缸中之脑”的记忆没有被清除干净，便有了前生缘分的印象。而所谓的“因果报应”，都是程序设定好的。一旦我们真的这么想，宗教便自然而然地产生了，那位控制一切的疯狂科学家就是“上帝”。

(4) 又名“王阳明”，谥号“文成”，主要著作有《王阳明全集》《传习录》《王文成公全书》。阳明心学后来传入日本、朝鲜等国，影响颇广。

(5) Rossum’s Universal Robots（R.U.R）于1921年上演，故事讲述了一个工厂用有机合成物制造生化人，这些生化人有着和人类一样的外表，也具备思想和情感，被称作“机器人”。他们不甘忍受人类的奴役而走上反抗的道路，最终导致了人类的灭亡。剧中，有两个机器人产生了爱情，并愿意为对方而死。懂得为爱牺牲自我，这是超越苟且偷生自私本性的最崇高的生命伦理。

(6) “德性”并非一般的道德观念或行为，它有别于“德行”（道德和品行）。在亚里士多德的伦理学中，“德性”的含义是明确的，指的就是把人特有的理性活动发挥好。

图5.84 与超级智能相处，人类需要摆清自己作为“老二”的位置

(7) 很 多 国 人 把 国 际 数 学 奥 林 匹 克 竞 赛 （ InternationalMathematical Olympiad, IMO）当作衡量数学强国的标尺，实则犯了常识性的错误。IMO是面向中学生的初等数学解题比赛，而数学强国需要有大理论成果、学派领袖、文化传承，各行各业都非常重视数学的应用。从数学的历史发展规律看，数学生态的形成需要时日，依靠人才的聚集和一点一滴的积累，根本没有任何捷径。

第6章 机器奴隶

凡是人，皆须爱。天同覆，地同栽。

——李毓秀《弟子规》

奴 隶制是人类历史上最丑陋、最残酷的社会制度。2005年，国际劳工组织的一份报告显示，全球仍有一千多万人生活在奴隶制下。奴隶作为奴隶主的私有财产，没有任何人身自由和独立经济来源，他们的生命没有保障，毫无尊严可言。