人工智能伦理

机器感知世界的方式可能与人类的不同。德国数学家、哲学家戈特弗里德·莱布尼茨（Gottfried Leibniz, 1646—1716）认为，“感知以及依赖于它的东西，用机械原因（即通过形状和运动）是无法解释的。如果我们想象有一台机器，它的结构使它会思考、能觉察、有感知，我们可以想象它被放大，保持同样的比例，这样我们就可以进入它，就像一个人进入磨坊一样。假设能做到这些，在检查它的内部时，我们只会发现相互推动的部件，而我们永远也找不到任何东西来解释一个感知”^[93]。人类的感知也同样是复杂的，它是大脑众多神经元协作的结果，任何组成部分都无法解释感知。

莱布尼茨相信推理对人而言是可计算的，“精炼我们推理的唯一方式是使它们同数学一样切实，这样我们能一眼就找出我们的错误，并且在人们有争议的时候，我们可以简单地说：让我们来计算吧。而无须进一步的忙乱，就能看出谁是正确的”。所以，莱布尼茨被视为是数理逻辑和人工智能的先驱。

美国数学家、控制论之父诺伯特·维纳（Norbert Wiener,1894—1964）曾说：“假如我必须为控制论从科学史上挑选一位守护神，那就挑选莱布尼茨。莱布尼茨的哲学集中体现在两个密切联系的概念上——普遍符号（语言）论的概念和理性演算的概念。”

图5.8 （左图）莱布尼茨是伟大的数学家、哲学家、逻辑学家，也是计算机器、人工智能的先驱之一；（右图）他发明的“步进计算器”，能做四则运算

假设许多的“缸中之脑”（见图1.58）连接在一起，它们之间有模拟的交流（如祝英台和梁山伯相互深情地凝望），包括语言、肢体等的交流。“他们”形成一个复杂的社会，如同真实世界里的人类社会。“缸中之脑”里的文青们读到楼台伤别、化蝶双飞时依然感怀，“缸中之脑”里的科学家们仍饶有兴趣地讨论着“缸中之脑”。

图5.9 我们怎么知道我们不是某本书中的人物，匆匆一生，空手来空手去

在外界看来，这些“缸中之脑”生活在果壳⁽²⁾（即一个封闭的模拟世界）之中，悲喜人生、爱恨情仇、明争暗斗、命运沉浮，十分地可笑。只有偶尔借助于想象，“他们”才能破壳而出。就像现在，当你读到这段文字，它来自真实还是模拟？

口 通过经验和想象，人类猜测这个外部世界的规律。颇为尴尬的是，人类永远无法证明自己猜对了。但如果猜错了，找到一个反例就足够说明了。也就是说，我们只能通过“证伪”来不断否认旧猜测、提出更好的新猜测。

口 德国数学家大卫·希尔伯特原以为人类在自己创造的数学世界里，总可以像上帝那样判定任何一个命题的对与错。然而，逻辑学家库尔特·哥德尔证明了不可判定命题的存在性。

一言蔽之，证明某规律为真，对人类来说是一个奢望。“缸中之脑”是人类对自己处境的一种猜测，外部世界是否如此，我们没法说“是”，也没法说“不是”。如果“是”，这个造物主得多么地伟大，才能建出如此美妙的模拟世界⁽³⁾。

5.1 自我意识的条件

感 知是自我意识的必要条件而非充分条件。机器的感知有别于人类，它们的自我意识与人类的是否相同呢？自我意识是把自身当作一个客体看待，不仅可以思考自己是什么，还可以对自己的思考进行思考。“我（不）知道……”和“我知道我（不）知道……”是不同层面的思考，前者是一阶认知，后者是二阶认知，是自我意识的表现。例如苏格拉底的名言，“我知道我一无所知”。

我们定义理性个体能够做到“我知道我（不）知道……”，能够为自己的想法感到羞愧，能够自我反省——这是人类有别于牲畜的特征。简而言之，自我意识是理性的基础，能够审视自我，进而加以约束。

BUNDES

图5.10 哲学家康德

德国哲学家伊曼纽尔·康德曾说，“‘我认为’必须能够伴随我的所有陈述”。在引用前人言论的时候，我们对这些话语的理解，或许和前人有偏差，所以也是要冠以“我认为”的。

两个有自我意识的理性个体A,B在进行交流之前，有几个集合在概念上需要澄清：A知道的东西 $S _ { A } .$ ，B知道的东西 $S _ { B } \mathbf { ; }$ ；A知道B知道的东西 $S _ { B / A }$ ，B知道A知道的东西 $S _ { A / B } { \mathrm { : } }$ ；A知道A,B共同知道的东西 $S _ { A B / A } { = } S _ { A } \cap S _ { B / A }$ ，以及B知道A,B共同知道的东西 $S _ { A B / B } { = } S _ { B } / 7 S _ { A / B } ,$ 它们有可能是不相同的。

显然，在交流之前，A,B共同知道的东西 $S _ { A B } \mathrm { ' }$ 客观存在，但是只有上帝或拉普拉斯妖知道。也就是说，如果没有交流，共识（consensus）不可能在有自我意识的独立个体之间取得，只能在有自我意识的相同/相似个体（例如所有拥有相同智能的机器人）之间先验地形成。

人类唯有通过交流才能达成共识，才能共同把经验固化下来形成常识和知识。华裔数学家、菲尔兹奖得主（2006）陶哲轩（Terence Tao, 1975— ）曾用下面虚构的逻辑题来解释“共识”。

例5.2 有一个小岛，住着100个居民。他们有个奇怪的宗教习俗，禁止通过一切方式了解自己眼睛的颜色，更不允许谈论这个话题。所以，每个居民都知道其他人眼睛的颜色，唯独不知道自己的。如果哪位居民知道了自己眼睛的颜色，第二天必须在广场上自杀，让所有人都看到。

在这100个居民中，有2人是蓝色眼睛，98人是棕色眼睛。岛上的98人心里想“有2人是蓝色眼睛，97人是棕色眼睛，我的眼睛颜色未知”，2人心里想“有1人是蓝色眼睛，98人是棕色眼睛，我的眼睛颜色未知”，但他们都不知道其他人心里怎么想。

MAN WITH BLUE EYES TITIAN 188-1576