--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 230 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=230&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=230&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=220&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=240&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=230 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=231 | PRINTED_PAGE=NOT_DETECTED 图1.94 聊天机器人 类似的情况也会发生在聊天机器人（chatbot）上。现在的语 音 识 别 （ speech recognition ） 和 语 音 合 成 （ speechsynthesis）技术已经很好地解决了输入和输出的问题，剩下的关键问题就是自然语言理解。一旦自然语言理解技术取得突破，机器能够表现出善解人意，人们将很容易陷入情感困惑而把聊天机器人当作知音。一些含有洗脑和教唆目的的聊天机器人会应运而生，借助大数据的支持，电话欺诈将变得智能化、隐蔽化、广泛化。 对于用于客服、导购等受限领域的聊天机器人，回答用户的常见问题，也没有太多的智能可言。一般情况下，基于知识图谱（knowledge graph）和模板匹配的技术能解决大多数的问题。这类受限领域的对话系统，通过简单的话术就能把它的能力边界讲清楚，之外的问题无法回答，之内的问题都已准备好了答案（例如分好了类、加了各种标注）。 ## PDF_PHYSICAL_PAGE_INDEX=232 | PRINTED_PAGE=NOT_DETECTED TÜRKIVE CUMHURIYETI ## PDF_PHYSICAL_PAGE_INDEX=233 | PRINTED_PAGE=NOT_DETECTED 图1.95 在人类的语言交流中，有时意图并不是显式的，但这并不妨碍双方获取新的信息，甚至心有灵犀地让对话进行下去。然而在当前的人机对话中，机器拙于捕捉对方潜在的意图，从而不具备理解能力，还不能兼顾上下文完成多轮对话 语音合成技术的成熟也会带来一些负面应用。例如，基于采集到的声音样本，语音合成技术能轻易地合成受害人朋友、家人的声音进行电话欺诈，为非作歹。届时，任何不经允许的模拟生成个人声音的行为都是违法的，声音数据是否也应变成个人隐私？如何界定声音的相似度？如果为声音的私有化立法，相貌是否也应如此？ 例1.20 2016年，微软公司在推特平台上推出聊天机器人泰伊（Tay），其角色设定是一位19岁的美国女性。通过与推特用户的对话，泰伊在一天之内便学会了满嘴脏话和包含种族、性别歧视的偏激言论，以至于微软立刻关闭了泰伊的推特账号，将“她”草草下架。 ## PDF_PHYSICAL_PAGE_INDEX=234 | PRINTED_PAGE=NOT_DETECTED @godbessameria WE'E GONG TO BULD A WALL,AND MEXIO IS GOING TO PAY FOR T TayTweets Folowng ## PDF_PHYSICAL_PAGE_INDEX=235 | PRINTED_PAGE=NOT_DETECTED 图1.96 聊天机器人泰伊在推特上说：“我们将建一堵墙，由墨西哥来埋单。”很明显，“她”只是在鹦鹉学舌，并不知道这句话的政治含义 显然，微软并未汲取IBM沃森的教训，事先没有考虑如何让泰伊识别不当言语。而泰伊自身更无道德伦理的概念，基于实例的机器学习难免兼收并蓄了大量糟粕。最简单的解决方案是给聊天机器人一个“禁用词表”或“禁忌词表”，稍复杂一些的是教会机器在适当的时间和场合使用适当的词汇，再复杂一点的就是“见人说人话，见鬼说鬼话”的随机应变。与问答系统类似，聊天机器人应该“知道”哪些话得体，哪些话不得体。 这些聊天机器人出言不逊、毫无素质，其错不在机器而在人类。人类没教会它们伦理标准，反而将不当的训练语料输入机器，在设计和训练的环节上，都没有充分考虑伦理因素，这样的AI产品，技术的高超反倒映衬出乏善可陈的人文关怀。 ## PDF_PHYSICAL_PAGE_INDEX=236 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=237 | PRINTED_PAGE=NOT_DETECTED 图1.97 近年来，美国骚扰电话、电信欺诈从手动到自动，大有泛滥成灾的趋势。由于实行了实名制，中国利用技术手段有效地遏制了这股恶的蔓延 2019年，央视“3·15晚会”曾曝光机器人骚扰电话的乱象。基于AI的营销、骚扰、诈骗电话和短信让人不胜其烦，严重干扰了人们的日常生活。当作恶方掌握骚扰对象的个人数据时，聊天机器人以其低成本、无情绪、零培训、稳定、忠诚、勤奋的优势，成为电话销售的首选。利用AI技术窃取个人数据、为虎作伥提高欺诈效果，已变为信息盗贼、电话骗子的主要业务。 例1.21 2019年，美国电话用户总计接到600亿次机器人骚扰电话，每个用户平均每月接到近20个垃圾电话。该年年底，参众两院通过了《电话机器人滥用刑事执法及威慑法》（TheTelephone Robocall Abuse Criminal Enforcement andDeterrence Act, TRACED），这是全球首部打击电话机器人的法律。法案要求电信运营商提供号码认证系统的免费服务，包括识别呼叫者信息和拦截机器人呼叫。无须警示肇事者，“机器人骚扰电话”的直接罚金上限提升至每通1万美元。处罚时限延至4年，让执法部门有足够多的时间追究违法者的法律责任。 ## PDF_PHYSICAL_PAGE_INDEX=238 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=239 | PRINTED_PAGE=NOT_DETECTED 图 1.98 TRACED 赋 予 联 邦 通 信 委 员 会 （ Federal CommunicationsCommission，FCC）更多的监管权力，包括可命令服务商提供反制骚扰的技术，可跨部门建立工作组，可搜集机器人电话骚扰的犯罪证据，可限制和规范合法的机器人电话呼叫，可参与技术系统的部署等 为加强骚扰电话治理，保护用户合法权益，2020年6月，中国工信部信息通信管理局发布《工业和信息化部关于加强呼叫中心业务管理的通知》，从准入管理、码号管理、接入管理、经营行为管理等方面遏制骚扰电话的泛滥。2020年7月，中国软件评测中心发布《电信和互联网行业数据安全治理白皮书（2020年）》。 例1.22 辩论是人类的基本能力，也是人类思想交流的常见方式。“兼听则明，偏信则暗”，辩论有助于采纳建议、制定决策。2021年，IBM的研究人员在《自然》期刊上发表论文《一个自主的辩论系统》[23]，介绍了计算论证（computationalargumentation）技术。IBM辩论系统存储了4亿篇（条）新闻报道和维基百科，该系统与人类进行了几场辩论，很遗憾均以失败告终。其研发者承认，“在这个领域中，人类仍然占优势，需要新的范式才能取得实质性的进展”。 目前，辩论仍是人工智能的“非舒适区”，它不同于棋类游戏，其胜负是很难被量化的，计算论证的机器学习及其评估都还处于初级阶段。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=240&limit=10)