人工智能伦理

笛卡儿认为机械达不到人类的智能，“理性是万能的工具，可以用于一切场合，那些部件则不然，一种特殊结构只能做一种特殊动作。由此可见，一台机器实际上绝不可能有那么多部件使它在生活上的各种场合都应付裕如，跟我们依靠理性行事一样”。^[5]

实际上，强弱人工智能之争在拉·美特里和笛卡儿之间早就展开了。笛卡儿把人视作“神造的机器”，远非“人造的机器”可以比拟的。如果看到当今人工智能的成就，尤其是棋类游戏，拉·美特里估计还会非常乐观地拥护强人工智能，不知道笛卡儿是不是还会坚持弱人工智能的观点？人类对主观世界和客观世界的哲学思考，很大程度地影响了科学的发展。近代科学选择了唯物论，有一个潜在的原因就是主观世界更难于研究。

要走向强人工智能，必须参考人脑的工作原理。并不是说，强人工智能必须模仿人脑，而是借助对人脑的研究搞清楚智能的形态，以及意识的形式化。

图1.17 1956年，一些知名的计算机科学家在达特茅斯会议上正式提出“人工智能”这一学科术语，将它定义为“学习或者智能的任何特性都能够被精确地加以描述，使得机器可以对其进行模拟”

“人工智能”的早期推动者对这门学科的前景普遍充满信心，大多倾向于强AI，甚至有点“好高骛远”。例如，

口 1965年，美国计算机科学家、人工智能先驱赫伯特 · 西 蒙 （ Herbert Simon, 1916—2001）曾 预言 ：“二十年内，机器将能完成人能做到的一切工作。”

口 1967年，图灵奖得主（1969）马文·闵斯基（Marvin Minsky, 1927—2016）也给出类似的预言：“一代之内······创造人工智能的问题将获得实质上的解决。”三年之后，他又信心满满地说：“在三到八年的时间里，我们将得到一台具有人类平均智能的机器。”

现在看来，强AI的时代还未到来。我们尚缺少必要的理论，能够赋予机器真正的学习能力和自我意识——这需要长期的积累实现从量变到质变的飞跃。在AI技术的应用上，我们已经预见到它将带来新的生产力革命，人类有发展AI的强烈意愿和原始动力。这个动力还有一点哲学上的意义。

强人工智能正是在“重演”上帝造人的过程，只不过人永远不是上帝，在善与恶之间来回切换，始终要受到伦理的煎熬。人工智能伦理，更多的是对人类制造智能机器过程中所面临的诸多伦理问题的思考，而不仅仅是给机器制定伦理规范。

人们习惯把AI狭隘地理解为对人类行为的模仿，这是对智能的一种误解。智能的表现形态不是唯一的，人类的也不见得是最好的，因此机器不一定非得模仿人类才能获得智能。当前人工智能的一般模式是机器根据预设的评估标准做出决策，既无好奇心，也无想象力。回顾人工智能的历史，它长期受到形式逻辑、统计推断、最优化等理论的影响，很少涉及因果分析。

图1.18 人工智能简史及三大AI学派：时间轴之上是符号主义（symbolicism ），之下是连接主义（connectionism ）和行为主义（behaviorism）

学术界对强人工智能的态度各执一词，有悲观主义，有乐观主义，也有实用主义，莫衷一是。英国物理学家（2020年诺贝尔物理学奖得主）罗杰·彭罗斯（Roger Penrose, 1931— ）在《皇帝新脑》里嘲笑强人工智能就像皇帝的新装^[7]。他从可计算性的角度“论证”了强人工智能在图灵机（Turing machine）上无法实现，这个“论证”不是严格的数学证明，因此也只是哲学家的一家之言。事实上，1951年，图灵在英国广播公司(BBC)发表题为“数字计算机能思考吗？”的演讲时，就指出了可能任何图灵机都无法模拟物理大脑——大脑不是一个可计算的系统^[8][9]^[10]。

图1.19 彭罗斯略带嘲讽地把基于图灵机的强人工智能比作“皇帝新脑”，是“皇帝新装”的翻版

英国物理学家斯蒂芬·霍金（Stephen Hawking, 1942—2018）对强人工智能怀有复杂的情感，混合着忧虑和憧憬，他认为AI是“人类所经历的最好的或者最坏的事情”。结局到底是最好还是最坏，全都依赖于人类的一念之差。

图1.20 霍金告诫人类不要轻易联络外星文明，它不见得充满善意

如果人类能和平地发展人工智能，当机器智能超过人类之时，一个崭新的文明——机器文明（machine civilization）便诞生了。它将继承和发展人类的文明，并把它扩展至更广袤无垠的宇宙之中。或许，这才是人类最高尚的自我救赎。

1.1.1 大脑与认知心理

人 工 智 能 就 是 有 关 机 器 的 认 知 科 学 （ cognitivescience），它是语言学、神经科学（neuroscience）、哲学、心理学、伦理学、教育学、计算机科学等的交叉学科⁽²⁾。人们平时太关注它作为计算机科学的一部分，而忽略它作为认知科学的那部分。