--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 600 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=600&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=600&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=590&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=610&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=600 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=601 | PRINTED_PAGE=NOT_DETECTED 图2.54 如果自动驾驶的感知识别能力欠佳，交通标志则容易成为数据攻击的对象 数据攻击可以用于测试模型的可靠性（reliability）。例如，在模拟环境里，通过产生大量的“脏数据”和精心设计的“危险情景”来考验自动驾驶模型。将随机试验重复多次后，便可以得到对模型的一个综合评估。总之，利用数据对“黑箱”进行狂轰滥炸，期待找出它的弱点以便机器做决策时能“心知肚明”可能的后果。 ## PDF_PHYSICAL_PAGE_INDEX=602 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=603 | PRINTED_PAGE=NOT_DETECTED 图2.55 任何机器决策系统都必须要有“自知之明”，每个决策在多大程度上可以保证不出问题（不妨将之称为“可靠度”）是明确可知的。当可靠度较低时，机器不擅做主张，而是把决策权交还人类 如何有效地产生并利用数据进行模型的验证和评估？除了随机模拟和可靠性分析，我们仍需要一些系统的方法。例如，自动驾驶系统的某个具体的反应动作不符合人类标注的“标准答案”，但没有任何不好的后果，该怎样评价它呢？人工智能的各个分支积累下了大量的基于测试数据的评估经验，有待整理和提炼出一般的方法。 2.2.1 无法篡改的数据 2010年6月3日，第64届联合国大会第90次会议将2010年10月20日确定为第一个“世界统计日”，主题是“庆祝官方统计的众多成就”。之后每五年的10月20日都是“世界统计日”。2015年10月20日第二个“世界统计日”的主题是“优化数据，改善生活”。2020年10月20日第三个“世界统计日”的主题是“用我们可以信任的数据连接世界”。 ## PDF_PHYSICAL_PAGE_INDEX=604 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=605 | PRINTED_PAGE=NOT_DETECTED 图2.56 从2010年开始，每五年的10月20日是世界统计日，每次有不同的主题 人们希望得到优质的数据、可信的数据，它们才是真正有价值的数据。在实践中，数据如何能做到不被篡改呢？我们想象一个人人记账的场景：鲁镇的人对会计孔乙己不太信任，有人怀疑他暗地里做假账。于是，镇长发动镇里所有的人一起记账。因为每个人手里都有一个小账本，想要篡改数据几乎是不可能的。理论上，要是所有人都一起作恶改账本，整个环境就是失信的，与大家的初衷不符。是以，我们这里假设只有少数人可能作恶。 ## PDF_PHYSICAL_PAGE_INDEX=606 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=607 | PRINTED_PAGE=NOT_DETECTED 图2.57 中国画家吴冠中（1919—2010）的作品《鲁迅故乡》 为鼓励记账，镇长出谜语让大家猜，谁先猜出来就把谁记的账（在众目睽睽下经过验证之后）放到镇子的大账本中，称为一个区块，同时奖励“鲁币”一枚。鲁币在黑市里被炒得很贵，于是大家猜谜的积极性很高。脑子快的人猜中的多，有的人甚至不惜请外援，得了便宜大家一起分。这种人人记账维护数据的模式便是一类区块链——公有链（public block chain）。 ## PDF_PHYSICAL_PAGE_INDEX=608 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=609 | PRINTED_PAGE=NOT_DETECTED 图2.58 公有链的本质就是共同记账：在相互不信任的环境里，如何敲 定账的内容以及如何将它广播至所有人，是公有链需要解决的技术难题 一个区块里记载了交易信息，也有提交者的信息，以及前一个区块的哈希值（哪怕在区块里增加一个空格，它的哈希值也会发生变化），它把区块给链接起来，形成一个序列。由于公有链要把交易信息广播到每位参与者，延迟会导致区块链在某个区块后可能分叉。为了确定哪条链是正宗的，在规定的时长之内，从分叉开始最长的那条链缺省地固化下来，其他分叉统统作废。 人人记账的公有链有一些不足：一是效率低，每秒能记载的交易笔数非常有限。二是分叉择链的规则有被利用攻击公有链的风险，即在规定时长内，攻击者迅速地将短链变为最长者，进而把其他链废掉。虽然不能修改数据，但攻击者可以利用内容极少的区块来降低整个公有链的信息量，使得系统效率低下而崩溃。 类似鲁币的猜谜，比特币系统在记账个体中看谁首先解出随机生成的哈希不等式（解哈希不等式俗称“挖矿”，耗费很大的算力资源而没有任何额外的收益，只为分出个先后），来帮助系统决定采用谁的区块并给予一定的比特币奖励。“挖矿”困难而验证它却极其容易，它是比特币采用的工作量证明。 比特币的数量有限，哈希不等式也越来越难解，谁拥有强大的算力谁就可能挖到更多的矿。为了挖矿，有人搭建了计算机集群，甚至用上了专用的挖矿芯片，规模也越来越大，除了更费电和造成更多的污染，算力没产生任何正能量的结果。莫不如把这些算力用于高复杂度的问题求解或者高质量、高价值的资源共建上，让“挖矿”具有更高的使用价值。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=610&limit=10)