--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 1280 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1280&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1280&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1270&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1290&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=1280 | PRINTED_PAGE=NOT_DETECTED 图5.57 人类智能无法企及的超级智能，在更广袤的宇宙中开创新的文明 “ 机 器 人 ” 的 英 文 单 词 “robot” 来 自 捷 克 语“robotnik”，意思是“奴隶”或“苦役”。而“robotnik”来自一个古老的斯拉夫语单词“robota”，意思是“奴役”。所以，“robot”译为“机器奴隶”最为恰当。在人类眼中，它们是低人一等被迫劳动的机器。单词“机器人”最早出现在1921年捷克作家卡雷尔·恰佩克（Karel Čapek, 1890—1938）的科幻舞台剧《罗萨姆的万能机器人》(5)中，从此这个概念便走进了科幻作品，成为未来世界的一个标志。 ## PDF_PHYSICAL_PAGE_INDEX=1281 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1282 | PRINTED_PAGE=NOT_DETECTED 图5.58 （左图）自从恰佩克提出“机器人”一词，它便成为人类想象中未来科技的象征；（右图）在电影《机器人总动员》（WALL-E）里，地球上最后一台清扫垃圾的机器人“瓦力”突然有了自我意识，爱上了机器人“伊芙”，并跟随“她”进入太空经历了一场冒险 科幻小说里的机器人，要么没有自我意识，要么突然获得自我意识，很少有作品沿着图灵“儿童机器”的思路，描述从无意识到有意识的跃迁过程。 1985年，美国科幻和科普作家艾萨克·阿西莫夫（IsaacAsimov, 1920—1992）在小说《机器人与帝国》中提出以下机器人行为准则，深刻地影响了人工智能伦理。 ## PDF_PHYSICAL_PAGE_INDEX=1283 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1284 | PRINTED_PAGE=NOT_DETECTED 图5.59 阿西莫夫是现代机器人科幻小说之父。他的“基地系列”“机器人系列”“银河帝国三部曲”最为出名，充满理性主义和人文主义 【准则零】机器人不得伤害人类整体，或坐视人类整体受到伤害。 【准则一】除非违背准则零，否则不得伤害人类个体，或坐视人类个体受到伤害。 【准则二】机器人必须服从人类命令，除非命令与准则 零或准则一冲突。 【准则三】机器人必须保护自己的存在，只要这种保护与准则零、一、二不冲突。 为了防止机器人把自己视为人而不遵守这些准则，人们又增加了三条准则。 【准则四】在所有情况下，机器人都必须确立其身份。 【准则五】机器人必须知道它是机器人。 【准则六】被赋予类似人类理性和良知的机器人，都应本着兄弟情谊相互对待。 把上述准则中的“机器人”换成“机器奴隶”，读起来更显顺畅。如果机器处于层次一，这些准则或许是切实可行的，虽然有时也会让机器“困惑”。例如，将“人类”的定义限定为说某种语言的生物，机器人就可以被操纵着胡作非为了。另外，在这些准则里，机器人没有任何自主的伦理决策。如果坏人命令机器人屠杀无辜的非人类，按照准则它们必须执行。类似的不足还有很多，这些准则的设定是否合理仍是值得商榷的。 ## PDF_PHYSICAL_PAGE_INDEX=1285 | PRINTED_PAGE=NOT_DETECTED 一旦机器有了自我意识，人工智能上升到层次二，则这些人为制定的行为准则彻底构成了对智能机器的歧视——人类把它们视同奴隶，机器能找出一万条理由不接受这些凌辱。也就是说，这些准则对于层次二的智能机器是不适用的。 阿西莫夫的机器人定律是以人为中心建造和使用机器人的原则，已经成为机器人伦理学（robot ethics）的基础。显然，它缺省地把人类设定为主人，把机器人设定为服服帖帖的奴隶。很遗憾，这原则对于具有超级智能的机器是不公平的，夜郎自大地把人类的权益放在了中心位置。试想鼻涕虫把自己视为万物之首，为人类制定了类似的原则，人类会如何看待它呢？ ## PDF_PHYSICAL_PAGE_INDEX=1286 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1287 | PRINTED_PAGE=NOT_DETECTED 图5.60 2004年，由阿西莫夫的短篇科幻小说集《我，机器人》改编的电影，再次唤起了人们对机器人行为准则和伦理问题的关注 古希腊哲学家普罗泰戈拉（Protagoras, 公元前490—前420）有一句名言：“人是万物的尺度：是存在的事物存在的尺度，也是不存在的事物不存在的尺度。”德国哲学家格奥尔格· 威 廉 · 弗 里 德 里 希 · 黑 格 尔 （ Georg Wilhelm FriedrichHegel，1770—1831）在《哲学史讲演录》第二卷[95]中高度评价了普罗泰戈拉的这句话“是一个伟大的命题”，他解读出“主体是能动的，是规定者”，从而肯定了思维的能动性。“‘人是万物的尺度’——人，因此也就是一般的主体，因此事物的存在并不是孤立的，而是对我们的认识而存在。 ## PDF_PHYSICAL_PAGE_INDEX=1288 | PRINTED_PAGE=NOT_DETECTED 1770-1831 GEORG WILHELM FRIEDRICH HEGEL ## PDF_PHYSICAL_PAGE_INDEX=1289 | PRINTED_PAGE=NOT_DETECTED 图5.61 黑格尔是德国19世纪唯心主义哲学的代表人物，对后世哲学影响很大 亚里士多德在《形而上学》[96]第四卷第五章里批判了普罗泰戈拉的主观唯心主义，“一般说来，假如只有可感觉事物存在，那么若无动物就没有这个世界，因为没有动物，也就没有感觉器官”。如果存在和人类一样的智能体，甚至超级智能体，那么普罗泰戈拉的这句话还成立吗？恐怕要加上一个“对人而言”的限制吧。那些超乎人类理解尺度的事物，可能在超级智慧眼里是再稀松平常不过的了。所以，“人是万物的尺度”应该修改为“最高级智慧是万物的尺度”。 让我们理性地分析这些所谓的机器人准则，首先需抛开所有先入之见，从人类和机器的关系开始思考。我们会把用人工晶体、隐形眼镜、助听器、人工耳蜗、义肢、人工心脏的人类看作机器吗？不会，因为人脑还在，让我们觉得这些非意识器官的差异可以忽略不计。甚至只剩下人脑，只要人性还在就是人类。例如，没有人会把身残志坚的英国物理学家斯蒂芬·霍金排除在人类之外，事实上，人类超越肉体对伟大精神的追求恰是人类的高贵之处，所有的高级文明都是如此。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1290&limit=10)