人工智能伦理

图1.80 鲁迅是新文化运动的先驱、中国现代文学巨匠和最具批判精神的思想家

孔乙己是善良和迂腐的，“可惜他又有一样坏脾气，便是好喝懒做”。于是，他在真实世界里找不到自我，也不被世人理解。他偷了何家的书，被吊着打，又在丁举人家里窃书被打折了腿。他为何要偷书？如果仅仅为了换点钱，丁举人家里有比书更值钱的东西可偷。

图1.81 《孔乙己》连环画插图，画家程十发作品，1963年荣获首届连环画绘画二等奖。原稿收藏于北京和上海的鲁迅博物馆

孔乙己经常引经据典。“多乎哉？不多也”一语出自《论语·子罕》，可见他的博学、幽默和善良。这位爱说“君子固穷”的书生，到头来终被那个鼓吹“万般皆下品，惟有读书高”的社会抛弃了。这固然是孔乙己个人的不幸，更是有辱斯文却道貌岸然的社会的悲哀。

机器能理解孔乙己的精神世界吗？它能从孔乙己的争辩“窃书不能算偷……窃书！……读书人的事，能算偷么”推断出孔乙己窃书多半是因为喜欢吗？这个穷酸的读书人因为买不起书而偷窃，何家、丁家为惩罚他的恶而用私刑，到底哪个是更大的恶？机器能理解“一般社会对于苦人的凉薄”吗？

有时，我们无法用对错优劣来评判一个决策、一个理解，例如，很难评价翻译的好坏。语言理解可以多种多样，不同的角度可能得到不同的感受。人类语言很多时候不那么精准，带有一定的模糊性，给想象留下了许多空间，超越人类智慧的机器能否理解这种模糊性？

定义1.1 笼统地讲，自然语言理解可以递进地从几个角度定义。

（1）复述——用不同的语句表达相同的意思。例如，“孔乙己累了”可理解为“孔先生疲倦了”，“阿Q吃了苹果”可复述为“阿Q苹果吃了”或“苹果阿Q吃了”。

（2）适当的推理。例如，由“阿Q吃了苹果”可知“阿Q缓解了饥饿”。具体讨论见1.1.5节。

（3）篇章的摘要或总结，即对原文进行“有损压缩”，在给定的描述长度之内，信息损失越小越好。总结者清楚哪些信息更重要，应该予以保留。

（4）围绕给定语句和篇章回答相关问题，答案不必显式地存在于原文中。要做到这些，自然语言理解必须以知识和推理为基础。

归根结底，语言是信息交流的工具。在人机交互中，自然语言理解是必须解决的问题。在机器之间，信息可以通过电磁波信号以光速精准传递。如果在有一定认知能力的智能机器种群中建立交流机制，能否演化出某种适合机器们交流的语言？

图1.82 人类通过语言交流彼此了解、共享经验和知识，并形成共识

高级智慧的交流方式也许不是自然语言，也许更加精确。也许在高级智慧看来，人类的语言和鸟鸣狮吼猿啼差不许多，词汇稀少，表达乏术。语言作为思维交流载体的能力在宗教和哲学里早有微词。传说，释迦牟尼在灵鹫山法会上拈花示众，只有摩诃迦叶（佛陀时代）破颜微笑，心领神会，知其意旨。于是释迦佛便说；“吾有正法眼藏，涅槃妙心，实相无相，微妙法门，不立文字，教外别传。”（《五灯会元》）道教也有“道可道非常道，名可名非常名”（老子《道德经》）的醒世恒言。在《逻辑哲学论》（1921）的结尾，维特根斯坦感慨，“对无法言说之物，应保持沉默”。

图1.83 语言的表达能力有限。若认知在语言之外，除了沉默我们什么也做不了“人有人言，兽有兽语”，机器之间若有交流，能演化出怎样的语言？

图1.84 智能机器之间需要构建“语言交流”能力，使之比人类更高效地达成共识

语言生成