也可能会犯错，请核查重要信息。”
另一类模型处理效果较差的用例是涉及情感、价值取向等问题时，针对这类问题，其实许多人类也不见得回答有多好。譬如机器不太可能理解朱自清写《背影》所蕴含的深意<sup>○一</sup>，不能回答诸如“它早已死了，只是眼里还闪着一丝诡异的光”中“诡异的光<sup>○二</sup>”是怎么回事。
但是只限于说明文、科学文献和条款规定这类文字材料的话，SQuAD 的测试成绩显示机器几乎能达到不低于人类的理解水平，这证明了对于特定信息，计算机是完全有可能处理得几乎和人类一样好的。相比从 20 世纪 60 年代的 ELIZA 开始，至今仍有大量人工智能创业公司采用的基于人工编纂语料库实现的自然语言问答系统，计算机能够直接使用面向人类的文字材料来回答问题已经是一项了不起的进步了，它让自然语言处理摆脱了“有多少人工才有多少智能”的窘境，让专家系统摆脱了完全依赖人类专家去建设的困境。
在信息理解这个项目上，一方面，必须承认计算机在对外界信息的理解分析方面已取得了巨大的进步；另一方面，综合来看，人类对自然界信息的阅读理解能力仍然比任何机器学习技术都要强大得多，人类大脑无时无刻不在接收着各种不同类型的信息，并能够把不同类型的信息自动建立起相互的关联，从而形成了知识以及含义更为广泛的常识。在某个特定的封闭领域里，如果机器能够直接从信息输入源获取到解决问题的所有信息，或者能够枚举出解决问题所涉及的其他知识的话，那这类问题现在就可以得到比较妥善的处理。但如果在问题空间完全开放的领域，机器缺少了人类从出生开始无时无刻不在建设进化的“常识库”的支持，许多问题的数据输入源是不具备解决问题的完整信息的，需要知识、常识、推理的配合补充才能解决，机器在处理这些问题时就会显得捉襟见肘，难以应付，甚至可能由于幻觉给出完全错误的答案，这是目前机器在综合信息理解能力上还不如人类的根本局限。
第 9 章 与机器共生
365
○一 因为朱自清的《背影》足够出名，如果读者真的去问 ChatGPT 这个问题是有可能得到正确答案的，这应该算是机器将网络上人类的回答记住并复述出来。
○二 2017 年浙江高考语文阅读理解《一种美味》中的问题，因原文作者巩高峰表示自己也回答不出该问题而在网上引起过一阵热议。