人工智能伦理

信 息时代必然走向人工智能革命，追求对信息更高的利用率。当人们认识到，数据到知识的飞跃需要借助AI的翅膀，AI将会成为刚需。有人把使用能源的能力作为人类文明的标志，未来还需要加上“机器智能”。在现有能源之上，高度发达的智能机器就可以帮助人类探索宇宙，不断地拓展和开发新的星球。

在科幻小说里，外星文明能够穿梭于“虫洞”，甚至利用整个星系的能量。1964年，苏联天文学家尼古拉·卡达肖夫（Nikolai Kardashev, 1932—2019）将文明分为三个等级，分别对应着利用能源的三个水平。

第一等级：能使用整个行星的能源总和。

第二等级：能整合利用整个恒星系统的能源。

第三等级：能开发整个银河系的能源为其所用。

目前的人类文明，按照这个标准，仍处于初级阶段，连第一等级都算不上。人类利用上核能的时候，人工智能还处于萌芽状态。我们不清楚能源和智能的对应关系，试想一下，一个拥有智能机器的高级智慧，必然会向其他星球散播这些智能机器来开采资源、建设基地、生产更多的智能机器……

图5.53 科幻小说里，外星人都具有一些人类没有的超能力。科学家更愿意相信，高级的地外文明也是用数学方法来描述科学的

如果有强大的能源和星际旅行的助力，这种文明的扩散应该更快。然而，至今我们没有获得任何可靠的证据，能够证明外星高级智慧（包括生命体和机器）的存在——这便是费米悖论。宇宙虽然如此浩瀚，但高级智慧存在的概率应该比我们想象的要小很多。当然，也有可能它就在我们周围，只是人类没有能力探知到它。倘若如此，它存在与否对人类来说都是一样的。

图5.54 如果有地外高级文明，它在宇宙中必有扩张的迹象可循

现有的人工智能还很初级，用“人工智障”形容可能会更贴切一些。我们把人工智能也分为三个层次，它们分别是：

【层次一】无自我意识，但能够理解人类的指令，具有领域受限的学习、推理能力，比人类更好地完成某些任务。

图5.55 局部问题解决能力优于人类的“智能机器”

【层次二】有自我意识和创新能力，懂得协同工作，对伦理道德规则有共识，是与人类相似或更高级的智慧。

图5.56 与人类智能相当的智能机器，能与人类无障碍交流

【层次三】突破自身，能创造出更高级的智慧形态，无论生命体还是非生命体。