人工智能伦理

图1.89 IBM沃森利用多项AI技术和强大的算力，在智能问答上取得了飞跃，首次打败了人类选手。这是AI历史上值得记载的一件壮举

沃森的信息来源包括百科全书、词典、辞书、新闻通讯和文学作品在内的数百万份文档。此外，沃森还使用多个知识库，包括DBPedia、WordNet和Yago。比赛时，所有的内容都导入沃森的内存中以保证计算速度。

图1.90 什么鱼号称“活化石”？对于这个问题，智能问答系统返回正确的答案“腔棘鱼”。这个词和“活化石”在各种介绍“腔棘鱼”的文章中是强相关的。维基百科、百度百科里早就描述了这个概念，也不乏有关它的图片和参考文献

智能问答技术和文档搜索的关键区别在于，文档搜索根据关键字查询并返回文档列表，按照与查询的相关性排序，而智能问答系统“理解”用自然语言表达的问题，并返回问题的精确答案。IBM声称，“超过100项不同的技术被用在分析自然语言、识别来源、寻找并生成假设、挖掘和评估证据，以及合并和排序假设”。

图1.91 沃森深度问答系统的宏观架构：多项传统AI技术的组合创新

沃森的成功是多项AI技术融合的结果，其中不乏一些自然语言理解^[22] 、智能检索、假设检验、集成学习（ensemblelearning）、知识表示与推理的先进方法。与英国DeepMind公司⁽¹⁴⁾的AlphaGo围棋程序不同，沃森的亮点不是单点的技术飞跃，而是具有某些泛化智能特点的技术融合。公正地来评价，这两类技术进步都是人工智能迫切需要的，尤其是技术融合，至今仍未得到应有的重视。

IBM的研究人员并没有在沃森系统里加入伦理标准，在记住了一些市井词汇和俗语之后，沃森已不知不觉地会使用一些亵渎性的言辞。像沃森这样的智能问答系统一旦商用化，将会引起一些社会伦理问题。

积极的方面是，智能问答系统充当了一位耐心的好老师有问必答，比检索系统更加方便和准确地传递知识信息。消极的方面是，在一些关乎健康、安全、道德的问题上有可能误导用户。特别是，用户在对问答和决策缺乏清楚认知的时候，会误把机器返回的答案视为行动建议。

图1.92 越来越多的广告充斥着现代生活，有些已令人不胜其扰。在书信盛行的年代，广告甚至印到了邮票上，毫无知识性与趣味性

例如，一个医疗健康的咨询（或广告）系统如果误导用户吃错了药，或者耽误了治疗，或者使得他们无缘无故地焦虑，它应负怎样的责任？如何收集和举证问责的因果链条？随着智能咨询等知识类服务的普及，问答系统应通过什么样的测试才能获得“上岗”资质？

图1.93 普通人的精神状态很容易受环境的影响，在AI产品与服务中应考虑伦理约束，避免带给人们负面情绪

除了用词谨慎之外，一个问答系统应该“知道”什么问题可以回答（即知无不言、言无不尽），什么问题不可以回答（即问而不答、一问三不知）。考虑到不同的年龄段、使用习惯等因素，系统生成答案的机制按照伦理约束而设定，做到因人而异、随机应变。

聊天机器人