--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 1030 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1030&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1030&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1020&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1040&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=1030 | PRINTED_PAGE=NOT_DETECTED 有些研究者为了让结果看起来漂亮些，往往“报喜不报忧”。没有一定规模的开放测试，没有足够多的重复试验，不足以评价模型效果。目前，学术界和工业界都在呼唤有严格规范的测试平台，把测试当作一件严肃认真的事情交给第三方，或者直接公开测试代码允许他人了解和重复试验，而不是任浮夸之风盛行。 例4.14 俗话说，“文无第一，武无第二”。像机器翻译、自动文摘属于“文”，很难有个形式化的标准评出优劣，人来评价有时也会意见不合。而物体识别、棋盘游戏属于“武”，很容易就能制定出评估的标准，毕竟对错、输赢是非黑即白的事情。 有些评测需要在动态环境里进行，如自动驾驶（也称作“无人驾驶”）模型。对路况的模拟越接近真实，越有希望给出客观的评价，并有助于对事故进行根因分析。例如： 路上跑的“僵尸车”是模拟环境的一部分，如果它们非常不智能，譬如只会在同一条车道匀速行驶，那么训练出来的自动驾驶模型（不妨将之称为“智能车”）可能不适应真实世界。 ## PDF_PHYSICAL_PAGE_INDEX=1031 | PRINTED_PAGE=NOT_DETECTED 口 假设路上跑的都是相互没有通信的智能车，即它们都是独立地做（换线、加减速、停车等）决策，会出现怎样的现象？譬如，交叉换线时会不会出现同时减速谦让或加速抢道？如果需要协同决策，车与车之间应该共享哪些信息？如何基于这些信息做出安全可行的决策？ 如果路况信息可以共享，但缺乏统一的交通优化机制，会不会出现这样的“怪圈”：在得知某处堵车之后，所有原计划路经此处的车都重新独立规划路径，从而导致在他处造成堵车或滞速？ 测试的目的除了评估之外，寻找错误的根因或者和错误强相关的条件也是非常重要的。通过测试，错误的类型及其分布情况可以呈现出来，还有它们伴随的条件。例如，自动驾驶所出事故中的物体识别错误，常把远处的白色物体与云朵混淆，或者，对后侧方车辆的意图识别有误导致换线时发生碰撞，等等。一旦了解了错误的类型，以及错误扩散的路径（即因果链），下一步就可以进行针对性的加强训练，并且想方设法阻断错误的扩散。 ## PDF_PHYSICAL_PAGE_INDEX=1032 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1033 | PRINTED_PAGE=NOT_DETECTED 图4.39 在开源自动驾驶环境模拟器CARLA里训练和测试自动驾驶模型 测试还有一个目的就是搞清楚模型能力的边界。数据科学里没有所谓的正确的模型，只有好用的模型。和每个人一样，一个模型有它擅长的，也有它不擅长的。模型在什么条件下做的决策是可靠的，什么条件下是不可靠的，什么条件下是半可靠的？通过测试可以让机器有“自知之明”，知道扬长避短，而不是不分可靠度地执行任何决策。 4.1.2 理解机器智能 机器犯错的因果链可能不止一条，每阻断一条都可以减少错误的扩散。为了找出错误的扩散路径，必须搞清楚导致错误的因果关系，即可解释性（explainability），也称可溯因性。如果我们不了解造成模型失效的条件，在使用这些机器学习产品的时候，对潜在的风险就一无所知，也无法在可能犯错之前给用户一些警示。尤其那些关乎人类生命的AI产品，可解释性显得尤为重要。 人类通过视觉、听觉、触觉等感知外部世界。类似地，如例1.41所描述，智能车的各种传感器可以形成有约束和互补关系的协同感知，进而提高识别错误的能力。错误样本可以被自动挑选出来，供后续分析之用。 可解读性 ## PDF_PHYSICAL_PAGE_INDEX=1034 | PRINTED_PAGE=NOT_DETECTED IGHT THE C CANDLE OF UNDERSTANDING EPILEPSY FOUNDATION OF AMERICA ## PDF_PHYSICAL_PAGE_INDEX=1035 | PRINTED_PAGE=NOT_DETECTED 图4.40 让我们点亮理解的烛光吧 人们经常把可解释性同可解读性（interpretability）混淆。可解读性是指机器学习中特征表示的语义能够被人类理解。例如，一个“主题”（topic）就是词集上的一个离散概率分布，或者所有词的加权平均。当主题模型（topic model）挖掘出自然语言文档中潜在的主题，它们对于人类来说的含义是什么？很遗憾，在多数情况下，对机器而言“有意义”的主题，对于人类来说是不可解读的。 一方面，我们承认智能的形态存在差异，人类和机器的认知模式可以不同。另一方面，我们期望不同的智能之间能够交流。机器能理解人类的意愿，但如果人类无法了解机器的所想所指，不利于引导人工智能走上健康的发展之路。 人类常在不同的文化或艺术形式之间相互解读。例如，文森特·梵高（Vincent van Gogh, 1853—1890）的《星夜》，经过美国歌手唐·麦克林（Don McLean，1945— ）创作的民谣歌曲《文森特》的解读，让人印象深刻、感触颇多。歌曲的灵感来自1970年的某个秋日，麦克林正在读梵高的传记，出于对梵高的崇拜，他在《星夜》前写下了感人肺腑的歌词，表达了对梵高的理解。 繁星点点的夜晚 画板上涂抹了蓝与灰 夏日里，你向外张望 ## PDF_PHYSICAL_PAGE_INDEX=1036 | PRINTED_PAGE=NOT_DETECTED 双眸看穿我灵魂的黑暗 山峦间的阴影 勾勒树林与水仙花 捕捉拂面的微风和冬日的凛冽 色彩幻化在雪白亚麻画布上 如今我终于明白 你想对我倾诉什么 众醉独醒，你那么痛苦 你多想解开羁绊 可他们不愿听，也不懂 或许，他们现在想听到…… ## PDF_PHYSICAL_PAGE_INDEX=1037 | PRINTED_PAGE=NOT_DETECTED POST-IMPRESIIONISM ## PDF_PHYSICAL_PAGE_INDEX=1038 | PRINTED_PAGE=NOT_DETECTED 图4.41 《星夜》的忧郁用歌曲表达出来，仿佛听到了梵高的心声 相反地，音乐也可以用绘画来解读，例如，格陵兰歌曲的艺术解读。人们用不同的语言解读世界，但总能找到共鸣，哪怕跨越了距离多远的文化、穿越了时光多久的历史。 ## PDF_PHYSICAL_PAGE_INDEX=1039 | PRINTED_PAGE=NOT_DETECTED 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1040&limit=10)