人工智能伦理

图1.85 语言学家乔姆斯基

1957年，美国著名语言学家诺姆·乔姆斯基（NoamChomsky，1928— ）出版了名著《句法结构》^[21]，提出了语言的生成模型（generative model），即语言数据的产生机制——句法（syntax）或文法（grammar）被形式化为一组重写规则（rewriting rules）或产生式（productions）。乔姆斯基认为文法是自主的，独立于意义；而语义分析则是在句法树上完成的。乔姆斯基还提出过泛语法（universal grammar）理论，认为人类习得文法的能力内置在大脑里，后天语言习得的过程就是激活泛语法的参数。泛语法是人类共有的语言规则，它可以用来解释儿童语言习得，然而它到底是什么，至今还是一个谜。

图1.86 分析句子“The boy saw a girl with a microscope”，可以得到两个截然不同的句法树。这个结果句法上正确，但在语义上却是错误的

我们现在多用随机上下文无关文法来描述自然语言的句法结构。如果分析的结果不唯一，则通过概率最大者来确定最后的结果，即在统计的层面确保正确性。像图1.86所示的例子，统计决策远没有语义约束更具说服力。如果在“microscope”（显微镜）的语义描述中，限制了所“see”（观测）物体的尺寸，也就杜绝了图1.86的结果。

有人会反对上面的说法，认为图1.86的结果在童话世界里是可能成立的。语义的确受语境的影响，并且在虚拟世界里，语言显得更加自由。但是，我们依然会对“圆的方”“黑的白”这类逻辑矛盾产生本能的困惑。乔姆斯基曾举过“Colorless greenideas sleep furiously.”（无色的绿想法狂怒地沉睡）这样富有诗意的例子来说明句法独立于语义，这里面既有逻辑矛盾，也有虚拟世界。事实上，人们会赋予一些逻辑矛盾，如“对的错”“醒着醉”新的含义，逻辑矛盾反倒成了吸引眼球的帮手。

这些诗性的语言，如何让机器心领神会？用模仿学习（imitation learning），我们已经实现了一些作古诗的程序，例如含有“机器学习”的藏头诗可信手拈来，

机事尘外扫，

器贮参花蜜。

学禅白眉空，

习习九门通。

另一首五言也颇有意境，机杼谁肯施，器用穷地赀。学剑翻自哂，习静通仙事。

藏尾七言也不在话下，回首风尘甘息机，知君独识精灵器。料得小来辛苦学，皎然未必迷前习。

机器能够批量地“产生”诗句，如果我们问它们的含义，机器把它们译成白话文，这样的回答是否令人满意呢？

人类的对话、写作先有要表达的意思，再产生句子。有时候句子没能正确地表达意思，还需要经过反复的修改。显然，逻辑表达式不足以描述人类头脑中的意思，很遗憾，我们现在尚缺少一种合适的语言或范式来刻画它。语言文字是传递思想意识的载体，语言的生成模型必须以思想意识的形式描述为基础产生句法结构。

图1.87 现代语言学仍在致力寻找能够揭示语言本质的理论，产生了一些交叉分支，如数理语言学（mathematical linguistics）、计算语言学（computational linguistics）等

机器在很多具体应用上已经做得和人类一样好，甚至超过了人类。仅对作中文古诗而言，人们几乎无法分辨哪些是人的作品，哪些是机器的作品，可以给机器点一个赞，祝贺它通过了迷你图灵测试。从大的方面讲，机器虽然能作古诗，但不是有感而发，也不知道藏头诗要隐藏什么，因此谈不上是真正的“诗人”。

站在不同的角度，我们对机器作诗系统是否具备智能是有不同的理解的。一方面，我们承认机器智能可以与人类的不同，最终的结果很重要，不必纠结机器用什么样的方法得到令人震撼的结果。另一方面，我们必须研究清楚机器结果的产生机制能否泛化到一般智能。例如围棋的博弈，机器虽然能打败人类，但如果经验上升不到更高级的一般谋略的总结，形成不了触类旁通的“面”的效果，游戏本身的价值就失去了，机器所表现出来的“智能”仅仅在游戏这个“点”上。

如果我揭晓，上面机器所作的古诗，每一句都是原文摘抄，然后随机攒成的，您还会认为它有智能吗？机器最擅长快速检索巨大的数据库，里面的古诗十有八九是现代普通人不熟悉的。拼“记忆力”，人类远不如计算机厉害。谜底亮出来后，结论也就众人皆知了——这样的机器作诗没有任何智能可言。

图1.88 唐诗宋词：李白的七言绝句《下江陵》（又名《早发白帝城》）和苏轼的词《念奴娇·赤壁怀古》

根据诗词的平仄规律以及词汇语义，深度学习（deeplearning）的确能训练出“机器诗人”，但它如失语症患者一样不知所云。按照对自然语言理解的定义1.1，它远未达到人类的境界。有时“机器诗人”碰巧作出了锦绣文章，它的美妙含义也是人类听众赋予的，对此我们必须有清醒的认识。

智能问答系统

2011年，IBM公司的智能问答系统沃森（Watson）⁽¹²⁾在美国老牌电视智力竞赛节目《危险边缘》（Jeopardy!）⁽¹³⁾中，首次击败了人类冠军选手。IBM沃森的记忆力和算力超群，它使用了一个由90台IBM Power 750服务器组成的集群，每个服务器都使用一个3.5 GHz POWER 7八核处理器。系统总共有2 880个POWER7处理器线程和16TB的内存。沃森每秒可以处理500千兆字节，相当于100万本书。

沃 森 集 自 然 语 言 处 理 （ natural language processing,NLP ） 、 信 息 检 索 （ information retrieval ） 、 知 识 表 示（ knowledge representation ） 、 自 动 推 理 （ automaticreasoning）、机器学习（machine learning）等应用于一身，是 首 个 成 功 的 开 放 领 域 的 问 答 系 统 （ question answeringsystem）。它所用的方法基本都是传统机器学习（没有用到深度学习），但效果不俗。