人工智能伦理

图7.3 斯宾诺莎和其名著《伦理学》

法国哲学家让–雅克·卢梭在他的第一篇重要论文《论科学与艺术的复兴是否有助于使风俗日趋纯朴》(1750)中指出，一切知识的根源都是邪恶。“天文学诞生于人的迷信，雄辩术是由于人们的野心、仇恨、谄媚和谎言产生的，数学产生于人们的贪心，物理学是由于某种好奇心引发的。所有这一切，甚至连道德本身，都是由人的骄傲心产生的。由此可见，科学和艺术都是由于我们的种种坏思想产生的；如果他们是由于我们的好思想产生的话，我们对它们的好处就不这样怀疑了。”卢梭认为知识令人变得虚伪、内心叵测，知识让怀疑、恐惧、冷酷、戒备、憎恨、背叛被礼仪隐藏，知识让人们忽视美德^[107]。卢梭洞悉到了知识被滥用的恶果，他认为“人的知识愈多，人心反而愈险恶；科学和艺术愈繁荣，社会便愈奢侈成风，耽于生活的享受和财富的追逐；所谓的文明，只不过看起来像文明；所谓的进步，实际上是在堕落。”卢梭在人们沉醉于科技进步之时大声疾呼道德的重要性，即便科学诞生于恶（如概率论源于对赌博的研究），我们也要用伦理的力量把它拉入正轨。

图7.4 法国哲学家、文学家、教育家、音乐家卢梭（他发明了简谱）

“在科学探索中，要遇到多少危险啊！要误入多少歧途啊！要经过多少错误，才能达到真理啊！而错误给人们造成的危害，比真理给人们带来的益处大千百倍。这种得不偿失的情形，是显而易见的，因为造成谬误的原因有无数种，而真理存在的方式只有一种。何况谁是在真诚寻求真理？而且，即使他怀有真心，我们又凭什么标志去识别他的真心？在许许多多种不同的看法中，我们拿哪一种看法作标准去评判其他的看法呢？而最困难的是：即使我们幸而最后发现了真理，在我们当中谁知道该怎样好好地应用它呢？”^[107]

卢梭的担忧并不是空穴来风。例如，互联网是新的生产力，它改变了世界，好处不胜枚举。然而，它降低了信息传播的门槛，撕裂了人们的意识形态。人们在良莠不齐、真假难辨、铺天盖地的海量信息中迷失了自我。碎片化的、快餐式的信息充斥着社交或媒体的平台，占据了人们有限的时间。人们不再谈论永恒，不知为何忙碌一生。请读者扪心自问，每年能静下心来读几本好书？往脑袋里塞的劣质信息越多，越让人矛盾重重难以自圆其说，甚至思维错乱。网络上充满了戾气、暴力、谎言、偏执、狂妄，用户很难不受这些负面因素的影响。当网络成瘾，人们便被工具控制，像一个吸毒的人，放不下手机或离不开网络。这是一个享受便利的时代，这是一个丧失自我的年代。

图7.5 读万卷书，行万里路，胸中脱去尘浊

卢梭感叹，“这一切荒谬的做法，如果不是由于人的才能的差异和道德的败坏在人与人之间形成的罪恶的不平等⁽¹⁾所导致的，那又是什么原因导致的呢？这是我们的学术研究所产生的最明显的后果，而且是一切后果之中最危险的后果。如今，对于一个人，不问他是否正直，而只问他是否有才华；对于一本书，不看它是否有用，而只看它是否写得好。对于有才的人，我们滥加奖励；而对于有德的人，我们却一点也不尊敬。对于夸夸其谈的话，我们给以千百种赏赐，而对于美好的德行，却一种奖励也没有”。^[107]

图7.6 卢梭死后16年以国家英雄的身份葬于巴黎先贤祠

人工智能将给人类带来更多的诱惑。例如，虚拟现实技术让游戏更加逼真，甚至令游戏者产生身临其境的感觉，让他们得到前所未有的快感、满足感。毋庸置疑，虚拟现实对人类学习和机器学习是革命性的，它的益处和害处都是显而易见的。譬如，年轻人太容易沉迷于感官的刺激，游戏成瘾已经成为一个严重的社会问题，如果没有伦理的约束，未来的情况只会更糟。

图7.7 虚拟现实提高教学体验，让学生在沉浸式课堂“零距离”地接触大自然

卢梭并非反科学，他只是担心科学被引向邪恶。人工智能的应用迎合人类的七宗罪便能赢得市场，这是一个令人尴尬的规律，似乎再一次说明人性注定如此。以前有各式宗教约束人类，而宗教劝人向善的影响力日渐式微，失去信仰的人类对新技术的滥用必将自己置于危险的境地而浑然不知。但是，我们不能因为这个残酷的事实而消极地放弃对AI技术的追求，要改变的恰是我们的内心。只要搞清楚人工智能的意义，便能寻得内心的一丝平静。

成立于2000年的非营利性研究机构“机器智能研究所”(machine intelligence research institute,MIRI)关注于识别和管理强人工智能潜在的风险，以友好的AI方法进行系统设计，并预测AI技术的发展。MIRI声明其目标是“使先进的AI与人类利益相结合”。以人为本无可厚非，但AI真正的意义在于文明的传承，它应该与文明的进化相结合。拥有自我意识的智能机器将成为斯宾诺莎的“贤达者”，远远胜过人类，它们将成为这个星球的领导者。

人类对强AI的追求是体验上帝造人的过程，赋予机器灵魂、智慧、伦理，也是一次深刻的自我审视。其间，每当我们思考那些理所当然的事情，常常发现它们并非如想象的一般简单。人类并不完美，充满矛盾，是上帝的一件残次作品。若能造出超越自己的智能机器，人类就是获取了无上实相智慧。

伟大的德国哲学家伊曼纽尔·康德（Immanuel Kant, 1724—1804）认为理性引发道德要求，道德关注应该平等地扩展到所有理性的生命体。推而广之，它也可以扩展到所有闪耀理性光辉的智能体。直觉上，智能机器的理性比人类要更纯粹和一致，它们似乎更容易形成共识而发展出更高级的道德准则。