--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 1260 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1260&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1260&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1250&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1270&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=1260 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1261 | PRINTED_PAGE=NOT_DETECTED 图5.48 尽管副官Y说谎，但以多数票执行命令，忠诚的副官们不受影响 (ii)如果司令是叛徒，他对副官X,Y,Z的命令不同。然而，忠诚的副官们通过两两告知所收到的命令，按照多数投票仍然能够协调一致地行动。 ## PDF_PHYSICAL_PAGE_INDEX=1262 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1263 | PRINTED_PAGE=NOT_DETECTED 图5.49 即便司令叛变，但以多数票执行命令，忠诚的副官们仍能步调一致地行动 假设节点总数为n，叛徒总数为m，兰泊特证明了当n>3m时，上述协议可以保证忠诚的将军们能够达成共识[94]。拜占庭将军问题依不同的条件而有不同的解决方案。比如，将军之间的消息传递不是口头的，而是“书面”带数字签名的，大家只消交换一下这些带数字签名的投票，便能一下子找出谁是叛徒（即说谎者）。 ## PDF_PHYSICAL_PAGE_INDEX=1264 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1265 | PRINTED_PAGE=NOT_DETECTED 图5.50 如果信使带着将军数字签名的密文，大家就不难识别出谁是叛徒 在不安全或不可靠的分布式通信环境里，人们发展出多种同步或异步、“口头”或“书面”的共识算法，保证交流不受外界的干扰。有时候，技术能抑制恶的破坏，让虚假曝光，推动社会的进步。 ## PDF_PHYSICAL_PAGE_INDEX=1266 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1267 | PRINTED_PAGE=NOT_DETECTED 从共识到超级智能 在现实中，人们通过各种交流（如书籍、社交、媒体等）达成共识，绝大多数情况下环境是可靠的。于是，逻辑缜密、环环相扣的客观知识呈现出相对的稳定性，虽有变化但都是缓慢的。人类在共识的基础上扩展知识，人人犹如大脑神经元那样协同地工作，群体智能（见图1.65所示的蚁群路径寻优）表现出比个体更强大的力量。然而，群体智能并不总是可圈可点，有时候它的表现不尽如人意，为什么呢？ “共识”是人类的无价之宝，来之不易。个人观点常常会有剧烈的波动而有失稳定性，原因有二：一是不同的信息来源造成了一定的困扰；二是人们缺乏独立思考有“人云亦云”的习惯（即易受他人影响）。在自媒体泛滥的时代，信息来源参差不齐、鱼龙混杂，可信度受到挑战，可靠的共识变得难以形成。 图5.51 释迦牟尼说，“用真理征服说谎者”。这个真理就是共识算法 ## PDF_PHYSICAL_PAGE_INDEX=1268 | PRINTED_PAGE=NOT_DETECTED 联合国 NSAS ## PDF_PHYSICAL_PAGE_INDEX=1269 | PRINTED_PAGE=NOT_DETECTED 图5.52 对人类来说，共识不是那么容易达成的——缺乏宽容导致太多的不理解 例5.6 近些年，美国的许多传统的社会共识被撕裂。弱势群体各自为政、各行其是，忽略了阶级分化才是社会矛盾的根源。统治阶级一方面乐于看到弱者们人心涣散的局面，另一方面又担心一盘散沙减弱国力，所以用自以为是的“普世价值”和“民粹主义”这类廉价的黏合剂来笼络人心。 所有伟大的民族都有内省和自我纠错的能力，靠的就是“社会共识”。国家宣传机器既要顺应民心所向，又要主导社会共识充满正能量，朝良性循环发展。这世间充满苦难，看小感到痛苦，看大接受痛苦。回顾图1.6的哲理，形成共识一定要顾及不同视角，给人们一个全面的图景，而不是遮掩回避。 历史是一面镜子，人类从中看清自己的善恶美丑。然而，历史总是在重演，人类总是“好了伤疤忘了疼”，难道是江山易改本性难移？在选择性遗忘方面，人类倒是不用商量就能达成“共识”。对痛苦教训的刻骨铭心，机器一定做得比人类好。 与人类在共识上举步维艰恰恰相反，一旦机器拥有了自我意识并主动地在同类间建立共识，其智能的快速演化将是无法阻挡的。一个拥有共识的智能群体所蕴藏的力量是乌合之众无法企及的，这是超级智能的肇始，也是机器文明取代人类文明的根本原因。 5.2 超级智能 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1270&limit=10)