人工智能伦理

图6.10 像孩子一样用最质朴、最好奇的眼睛看人工智能，想象美好的机器文明

有两位德国哲学家的思想有助于我们确立起善待和发展智能机器的基本伦理，他们是叔本华和尼采，其学说经常被世人所误解。

口 德 国 哲 学 家 阿 图 尔 · 叔 本 华 （ ArthurSchopenhauer, 1788—1860）悲观地认为这个世界绝不是美好的，可能是最邪恶的、最糟糕的。人生中的痛苦来自意志的本性——永不满足的贪婪，为了生存，这个星球充斥着无休止的争斗。叔本华教导人们说，自私是邪恶之源，同情和悲悯之心是道德的基础和标尺。行为的动机若是为个人利益，便毫无道德可言。叔本华把人类行为的动机概括为恶毒（即希望众生痛苦）⁽¹⁾、利己（即希望自己快乐）和同情（即希望众生幸福），所有非道德的行为都是恶毒和利己的果，而公正和仁爱则是从同情出发的两大基本美德。

图6.11 德国哲学家叔本华和尼采，都悲观地把人性看得糟糕透了

L 德国哲学家弗里德里希·尼采（FriedrichNietzsche, 1844—1900）或许是最受误解的一位学者，他因痛恨种族主义和德国沙文主义而与多年的好友、德国音乐家威廉·理查·瓦格纳（WilhelmRichard Wagner,1813—1883）决裂。然而，在尼采死后，他的笔记《权力意志》却被篡改出版以迎合纳粹的反犹太主义，这是一个莫大的讽刺。尼采推崇理性是人类寻求终极幸福的工具，通过升华自身超脱于禽兽之上并获得人类的尊严。这个尊严不是与生俱来的，而是高度自律的结果，甚至需承受巨大的苦难。

如英国作家查尔斯·狄更斯（Charles Dickens, 1812—1870）在小说《双城记》（A Tale of Two Cities）里所说，“这是最好的时代，这是最坏的时代；这是智慧的时代，这是愚蠢的时代；这是信仰的时期，这是怀疑的时期；这是光明的季节，这是黑暗的季节；这是希望之春，这是失望之冬；人们面前有着各样事物，人们面前一无所有；人们正在直登天堂，人们正在直下地狱”。

200th Anniversary of the Birth of

It was the best of tienes

It was the worst of times

Charles Dickens图6.12 狄更斯在《双城记》里说，“这是最好的时代，这是最坏的时代……”，对人工智能来说，不仅如此，这是非同一般的时刻，这是无足轻重的时刻

1812-1870

1210

6.1 人工智能竞赛

在 人类历史中，大量伟大的发明都和武器有关，很遗憾然而又必须承认，战争是科技进步的一大助推力。最初的武器是为了生存而狩猎和杀死同类，后来单纯为了奴役而杀死同类。

图6.13 人类许多伟大的发明创造都是杀人的武器

20世纪人类对核能的开发，首先用于战争。核竞争改变了世界格局，达到了一个恐怖平衡之后，军备竞赛由大规模无差别杀伤的核武转移到精准打击。

WEASK BUT FORPEACE, LIBERTYAAND SAFETY Firt Coninnal COngres 174

Bientenia Em

图6.14 全世界都反对核战争，我们要的只是和平、自由和安全

国 防 高 级 研 究 计 划 局 （ Defense Advanced ResearchProjects Agency, DARPA）是美国国防部负责研发军用高科技的行政机构，其前身是1958年成立的“高级研究计划局”（ARPA），1972年更名为DARPA。它是美国尖端技术的重要引领者，如计算机网络、战术机器人、脑机接口、无人攻击机等。同时，DARPA也是许多军事科研项目和一些顶尖研究单位的资助者，如麻省理工学院计算机科学与人工智能实验室（ComputerScience and Artificial Intelligence Laboratory,CSAIL ）等。