人工智能伦理

UNION DES COMORES

desiged by Y Frovilland

图1.54 1996年，英国胚胎学家伊恩·威尔穆特（Ian Wilmut, 1944

— ）应用细胞核移植技术，从成年体细胞克隆出第一只哺乳动物——雌性绵羊“多莉”。这一成果引起公众对克隆人的联想和热议

一个人如何面对自己的克隆体？二者有着相同的基因和不同的意识，仿佛穿越时空相遇。人们对克隆人伦理问题的担忧不无道理，科学界也持非常谨慎的态度。同样地，人类也害怕对自由意志（free will）的克隆和介入。所谓“自由意志”，是指人类具备在多个计划方案中自主抉择与实施行动的能力，与之对立的是决定论。折中的观点是，人类所有的自由意志受现实条件中诸多因素的制约或影响。不难理解，多数人会很自然地担心读取和干预意识可能带来一些预料不到的不良后果。

高尚的人们，当我们凝视与我们有着相似意识的机器人的时候，怎会把它们混同于冰冷的机器？当我们欣赏它们同样高贵的灵魂的时候，于心何忍视其为低人一等的奴隶？人之所以为人，皆因自由意志。有别于其他动物，人类追求自由意志是富有智慧的一种表现。所以，只要我们还追求精神世界的自由，就会理解这自由对于拥有自我意识的智能机器是同样的宝贵。

操控意识的行为，哪怕披着再高尚的外衣，也是彻头彻尾的恶。例如，在《星球大战》系列电影中，被意识操控的克隆人军团成为西斯向绝地武士复仇的工具。克隆人战士有一定的独立决策能力，但仅限于比机器人更适应战争的环境。被剥夺了自由意志的克隆人可能意识不到自由意志的珍贵，但剥夺者一定知道。提防意识被黑暗势力控制，这正是热爱自由的人们所忧心忡忡的。

图1.55 在《星球大战》中，克隆人军团被黑暗势力控制，成为邪恶的帮凶

荷兰哲学家巴鲁赫·斯宾诺莎（Baruch Spinoza, 1632—1677）在其名著《用几何学方法作论证的伦理学》（简称《伦理学》^[17]）中认为：“在心灵中没有绝对的或自由的意志，而心灵之有这个意愿或那个意愿乃是被一个原因所决定，而这个原因又为另一原因所决定，而这个原因又同样为别的原因所决定，如此递进，以至无穷。”（见第二部分“论心灵的性质和起源”的命题四十八）

图1.56 斯宾诺莎的《伦理学》用类似几何证明的方式坚守严谨性

在命题四十八的附释中，斯宾诺莎解释道：“我认为意志是一种肯定或否定的能力，而不是欲望；我说，意志，是一种能力，一种心灵借以肯定或否定什么是真、什么是错误的能力，而不是心灵借以追求一物或避免一物的欲望。现在我们既然已经证明这些能力是些普遍的概念，与我们由之形成这些普遍概念的个体事物并不能分开，则我们就必须探究这些个别意愿的本身是否是事物的观念以外的别的东西。我说，我们必须探究在心灵内，除了作为观念的观念所包含的以外，是否尚有别的肯定或否定。”^[17]接着，斯宾诺莎断言，“在心灵中除了观念作为观念所包含的意愿或肯定否定以外，没有意愿或肯定与否定。”（命题四十九）因此，“意志与理智是同一的”。（命题四十九的绎理）

按照斯宾诺莎的这些观点，机器具有足够的智能，便等同于拥有了自由意志。在第5章，我们将论述“自我意识”正是强人工智能的关键所在——只有具备了自我意识，机器才能拥有超级智能，进而演化出与之适配的伦理体系。

缸中之脑

图1.57 普特南

美国数学家、计算机科学家、哲学家希拉里·普特南（Hilary Putnam, 1926—2016）在其著作《理性、真理和历史》^[18]的第一章“缸中之脑”（Brains in a vat）提出了一个非常有意思且具有深刻启发性的思想实验：一个疯狂的科学家将一个大脑放在营养液中维持其生理活性，同时连接计算机向大脑传递神经电信号，使得大脑体验的是计算机产生的模拟现实。如果“缸中之脑”接收的虚拟现实是品尝美食，它会产生出愉悦感，其真实性是不容置疑的。普特南抛出了一个难题：这个“缸中之脑”能否意识到它生活在虚拟现实之中？

图1.58 如果意识的物质基础是神经电信号，“缸中之脑”的确无法验证它来自外界的自然刺激还是模拟刺激

图片来源：http://www.srf.ch/filosofix

这个“缸中之脑”是无法判断它自己所处的状态的，就像语言中的自指（例如，评说它自己的对错）⁽⁶⁾容易引发悖论一样，主体评价自身的能力也有一些“禁区”。例如，计算机科学中的停机问题（halting problem）。

1936年，艾伦·图灵（Alan Turing, 1912—1954）利用对角论证法（diagonal argument）⁽⁷⁾证明了图灵机的“停机问题”，即无法设计一台图灵机用来判定任何一台图灵机可否停机。也就是说，任给一个程序，不存在某个统一的、可计算的方法能判断该程序是否会停止。我们称这类无法回答是否的问题为不可判定的⁽⁸⁾。本质上，这个不可判定性是由可数无穷和不可数无穷之间的鸿沟造成的。通俗地理解，人类和图灵机一样并不是无所不知的，有些“不知”是注定的——不识庐山真面目，只缘身在此山中。

我们对理性意识（或智能）的认知，还停留在一个极其初级的阶段。“缸中之脑”这一思想实验引起人们对意识本质的思考，最终它会不会也是不可言说的？大概只有到了人类点亮机器智能的那一刻，才算想明白了什么是“意识”。