智慧的疆界 从图灵机到人工智能

也可能会犯错，请核查重要信息。”

另一类模型处理效果较差的用例是涉及情感、价值取向等问题时，针对这类问题，其实许多人类也不见得回答有多好。譬如机器不太可能理解朱自清写《背影》所蕴含的深意^○一，不能回答诸如“它早已死了，只是眼里还闪着一丝诡异的光”中“诡异的光^○二”是怎么回事。

但是只限于说明文、科学文献和条款规定这类文字材料的话，SQuAD 的测试成绩显示机器几乎能达到不低于人类的理解水平，这证明了对于特定信息，计算机是完全有可能处理得几乎和人类一样好的。相比从 20 世纪 60 年代的 ELIZA 开始，至今仍有大量人工智能创业公司采用的基于人工编纂语料库实现的自然语言问答系统，计算机能够直接使用面向人类的文字材料来回答问题已经是一项了不起的进步了，它让自然语言处理摆脱了“有多少人工才有多少智能”的窘境，让专家系统摆脱了完全依赖人类专家去建设的困境。

在信息理解这个项目上，一方面，必须承认计算机在对外界信息的理解分析方面已取得了巨大的进步；另一方面，综合来看，人类对自然界信息的阅读理解能力仍然比任何机器学习技术都要强大得多，人类大脑无时无刻不在接收着各种不同类型的信息，并能够把不同类型的信息自动建立起相互的关联，从而形成了知识以及含义更为广泛的常识。在某个特定的封闭领域里，如果机器能够直接从信息输入源获取到解决问题的所有信息，或者能够枚举出解决问题所涉及的其他知识的话，那这类问题现在就可以得到比较妥善的处理。但如果在问题空间完全开放的领域，机器缺少了人类从出生开始无时无刻不在建设进化的“常识库”的支持，许多问题的数据输入源是不具备解决问题的完整信息的，需要知识、常识、推理的配合补充才能解决，机器在处理这些问题时就会显得捉襟见肘，难以应付，甚至可能由于幻觉给出完全错误的答案，这是目前机器在综合信息理解能力上还不如人类的根本局限。

第 9 章 与机器共生

365

○一 因为朱自清的《背影》足够出名，如果读者真的去问 ChatGPT 这个问题是有可能得到正确答案的，这应该算是机器将网络上人类的回答记住并复述出来。

○二 2017 年浙江高考语文阅读理解《一种美味》中的问题，因原文作者巩高峰表示自己也回答不出该问题而在网上引起过一阵热议。

9.3.3 信息决策

外界信息的识别、理解、决策是人类信息处理从低阶到高阶的三个阶段。当前人工智能已有几乎不亚于人类平均水平的语言、图片、声音识别能力，再配合有限范围内可用的常识与理解能力，已经有企业开始在特定的、知识封闭的领域尝试开发人工智能程序，以代替人类来对外界信息自主做出决策和响应。

IBM 在这方面是行业的先行者，不仅花费大量资金去研发、改进自家的沃森系统（Watson），还将沃森的人工智能处理能力开放出来，鼓励其他组织与个人使用。IBM 曾连续数年组织过规模不等的基于沃森系统的人工智能应用比赛，获奖者可以得到 IBM 提供的丰厚的创业资助。ROSS Intelligence 公司研发的人工智能律师程序“ ROSS”便是这种比赛中的一个孵化产物。媒体宣传时喜欢把 ROSS 形容为一名“人工智能律师”，还经常配以“ ROSS 将导致 90% 的律师失业”这样有侵犯性的标题。实际上 ROSS 并不能取代任何一名律师，它既不会做哪怕是最基本的善恶价值判断，也不可能帮客户找法官协调、安排庭审这些事情。但是 ROSS 确实有它值得称道的价值，被美国最大的律师事务所之一、拥有约 900 名律师的 Baker & Hostetler 签约雇佣，成为律师事务所的一名特殊“员工”。

ROSS 扮演的角色是一个以自然语言为输入和输出形式的先进的法律知识检索系统，官网^○一上对 ROSS 的介绍也是“ Advanced Legal Research Tool”，而非“Robot Lawyer”。凭借沃森出色的自然语言处理技术，ROSS 能够自行“阅读”成千上万页的法律书籍、庭审记录和判例，从这些原本供人类阅读的非结构化信息中，自动挖掘、整理出文字中蕴含的各个主体之间的联系和规律，自动生成可被计算机检索使用的结构化数据。同时，ROSS 的人机交互界面接受以人类口语的方式进行查询，能够向没有任何法律专业知识的普通公众提供服务。这对于以往任何一个法律信息系统来说都是巨大的改进。早在 1958 年法国法学家卢西恩·梅尔（Lucien Mehl）就提出了法律学科的信息化处理，建立法律文献和案例自动检索模型。20 世纪 90 年代初期，用于处理离婚财产分割的断案系统“ Slip-Up”在实验室诞生，但该系统没有摆脱依靠人类整理知识的传统专家系统的建设模式，产品的效果在很大程度上取决于背后的人力投入，是典型的“有多少人工就有多少智能”的建设案例。

366

第四部分 人机共生

○一 https://rossintelligence.com/。

ROSS Intelligence 公司选择的法律行业是人工智能应用比较容易切入的行业，对于那些知识边界不封闭、常常需要悟性和灵感来解决问题的领域，人工智能目前还难以涉猎。例如让人工智能去做考古之类的工作，大概就很难做出有实用价值的成果了。适合使用人工智能来进行信息处理和决策的行业，一般都积累了较为可观的资料，而且其内容通常具备较高的逻辑性。以法律行业为例，人工智能技术可以将律师从汗牛充栋的法律条文和资料库中解放出来，让他们有更多的时间去关注服务的对象，类似的还有教育、医疗、金融等行业，这些行业近几年来都催生出了一批人工智能的创业公司。

在金融和投资方面，人工智能的价值更加易于评估和量化—直接看人工智能产品带来的利润、损益即可。IBM 全资的金融服务子公司“海岬金融集团”（Promontory Financial Group）曾训练沃森学习了超过 6 万条监管条文和案例，用来帮助专业人员更好、更快地做出金融风险管理和法规合规方面的决策。

更加激进的应用方式是让人工智能直接完成股票、外汇和期货交易的全部过程。计算机程序化交易在金融投资领域应用的历史已经很长了，金融界将其称为“量化交易”（Quantitative Trading）。据统计，现在市场上以量化交易为主要手段的对冲基金，已在全美对冲基金市场占约 9% 的份额，并且还在持续扩大。不少基金公司相信这种由计算机自动执行的交易策略在很多交易场景中能够替代人为的主观判断，获得更稳定的利润。在人工智能进入金融领域以前，被计算机自动执行的交易策略仍然是由资深交易员根据经验制定出来的，现在这部分也有被机器接手的可能，计算机根据历史交易数据的规律和概率，完全有可能提炼出比人类交易员的经验更优的交易模型。IBM 沃森的首席研究员戴维·费吕克奇（David Ferrucci）在 2013 年离开 IBM 公司后，立即就被世界上最大的对冲基金公司“桥水投资”（Bridgewater Associates）收入旗下。这些顶级的基金公司对自己开发的人工智能的投资效果三缄其口，外部很难查询到其应用的细节，更不要说可查证的投资损益数据了，倒是有很多不知名的金融和信息技术公司不时地发布人工智能投资获益不菲的新闻。这一点可以理解，若效果不佳就没有自揭其短的必要，若是这种投资方法确实可以稳定赚钱的话，它就是一部“能合法印钱”的机器，是最宝贵的商业机密。不过，从这些公司近年来不遗余力地招揽人工智能人才，可以窥见它们对人工智能前景的乐观积极态度。

第 9 章 与机器共生

367

在医疗方面，根据 IBM 提供的资料，沃森也有涉及。在学习过 200 本肿瘤领域的教科书、290 种医学期刊和超过 1500 万份的医学文献后，沃森已在肺癌、乳腺癌、直肠癌、结肠癌、胃癌和宫颈癌等癌症领域为医生提供诊断建议。还有一种应用形式是基于计算机视觉的，让人工智能直接进行诊断。2017年 2 月的《自然》杂志以封面文章的形式报道了斯坦福大学把人工智能和医学诊断相结合的最新成果，如图 9-6 所示。该研究团队使用卷积神经网络将129450 张皮肤损伤图片以及对应的文字标注信息作为训练集进行建模，其输出能判别的分类涵盖了 2032 种皮肤病。研究团队利用这种使用人工智能技术建立的皮肤病判别模型与 21 名皮肤病的执业医生和病理学家进行比赛，结果是在多数项目上，人类专家和人工智能判别的准确率几乎是一样的，在部分疾病类型上人工智能的判别结果甚至优于人类专家的判断。

368

第四部分 人机共生

在医学理论和科学仪器输出数据一定的前提下，人类在医学诊断上的准确率主要取决于医生的平均从业经验，它的提升是相当缓慢的。但对人工智能而言，如果能继续扩大训练集的数据量—如本例中约 13 万张图片对 2000 多种结果的分类任务显然还是过少的，计算机的诊断准确率还能够继续提高，哪怕诊断过程中出现错误，也能不断修正算法并进一步获得改进。

要得到最佳的准确率，最好的方法可能是人与机器相互配合。根据一份来自人工智能组织 PathAI 的研究报告，人类病理学家与人工智能模型的判别各有所长，能够形成有效的互补，相互配合工作就可以取得比各自独立做决策好得多的效果，验证的结果如图 9-7 所示，人工智能模型配合病理学家的错误率要明显低于两者单独诊断的错误率。

信息处理和决策类型的人工智能应用的前景是非常广阔的，可以试想一下，现在几乎每个人都拥有一部智能手机，如果《自然》杂志中介绍的这项人工智能诊断技术完全成熟，只要安装在手机上，那么每个人就都能对自己的皮肤异物进行拍照、扫描和分析，第一时间知道自己的患病风险，并获得医疗的建议方案。这听起来似乎带有一点科幻的味道，而事实上斯坦福大学的研究团队正在研发这样的自助医疗的手机应用。

第 9 章 与机器共生

369

○一 图片来源：https://www.pathai.com/。

在 20 世纪 80 年代，专家系统的建设热潮是人工智能正式开始商业化的起点，信息处理和辅助决策理所当然地成为人工智能最早发展的应用形式之一。当下，如果让人工智能去做“辅助决策”，给人类专家提供建议，配合人类解决问题的话，得益于近几年机器学习、计算机视觉、自然语言处理等技术的快速发展，其最大的瓶颈—“缺乏专家来整理足够数量且格式标准的高质量数据”已经找到了突破的方向，随着计算机对人类历史积累的知识材料的利用越来越有效，在面向诸多专业领域时，人工智能都可以给出有价值的建议，反而在人类完全没有困难的常识问题上，由于缺乏逻辑性和训练材料，人工智能还是会遇到很大的障碍。

不过如果让人工智能独立去做“自主决策”的话，这件事就另当别论了。如前面提到的金融投资和医疗诊断的例子，有多少患者能够完全信任人工智能产品、愿意相信人工智能诊断结果、遵循人工智能治疗计划就是很大的疑问。除非人工智能可以做到 100% 的诊断准确率，否则患者和监管方很难克服怀疑心理。只要无法清晰、明确地解释计算机是如何做出诊疗决定的，就不能冒做出错误决策伤害病人的风险。这并不是技术障碍，而是法律法规和伦理上的问题，即使最强大的人工智能已经在特定疾病的诊断上比人类临床医生更不容易犯错误，情况也不会改变。这听起来像是因噎废食，但是这切切实实地发生着。2018 年 3 月，优步（Uber）的一辆由人工智能驾驶的无人汽车撞死了一名行人，该事件导致优步全球的自动驾驶汽车都被暂停接受调查，此时没有人会去听人工智能自动驾驶的事故概率与致死概率比人类驾驶的要低得多这样的解释，因为在人类的认知里，犯了致命的错误，就必须找到对其负责的一方来承担责任。类似地，如果日后出现了人工智能的独立医疗诊断，无论是将有病的患者诊断为健康导致错过了治疗时机，还是将健康的人诊断为病患导致错误用药治疗，都将会是人工智能犯下的无法原谅的错误，尽管这些错误在人类医生身上也有发生的概率，而且可能犯错的概率更高。

9.3.4 艺术创作

比较了人类与机器对既有信息的识别、理解和决策能力，我们再来谈一个颇有争议的话题：艺术与创造性。2022 年以前，任何人都不会相信人工智能竟会以如此快的速度侵入艺术创作这种感性重于理性的领域。最乐观的学者也不可能预料到短短两三年时间，人工智能就意图在人类引以为傲的艺术创作上取代人类，自行创作音乐、影片、绘画、诗歌、小说。同时，人类也在快速适应和依赖这种使用机器进行艺术创作的新的艺术形式，现在有一些大学的艺术传媒系已经开设了诸如“人工智能与艺术”“智能交互设计”这样使用人工智能工具进行艺术创作的专业课程。

370

第四部分 人机共生

有一个颇具代表性的案例正好揭示了使用人工智能进行艺术创作与人类对机器的固有认知不匹配所呈现出来的撕裂感。2022 年，美国科罗拉多州博览会（Colorado State Fair）将年度美术最高奖授予一幅名为《太空歌剧院》（ThéâtreD’opéra Spatial）的作品^○一，如图 9-8 所示。这幅作品是杰森·艾伦（Jason Allen）使用了多达 624 个提示词，通过 Midjourney（一种使用扩散模型的图像生成工具）由计算机自动产生基础图像，然后再用 Gigapixel AI 工具对基础图像进行超分辨率放大而完成的。

第 9 章 与机器共生

371

○一 https://en.wikipedia.org/wiki/Théâtre\_D’opéra\_Spatial。

比赛的评委、艺术家达格尼·麦金利（Dagny McKinley）在颁奖后说道：评委们评审时并不知道《太空歌剧院》是由人工智能生成的，但是这幅数码画作让他们联想到文艺复兴时期古斯塔夫·莫罗（Gustave Moreau）的作画风格，一致认为它值得被授予艺术最高奖项。当艾伦公开该作品是由人工智能创作的之后，在艺术界引起了很大争议，CNN 以《 AI 赢得比赛，艺术家们怒不可遏》为题进行过跟踪报道^○一。部分艺术家认为给人工智能的作品颁奖是对艺术的不尊重，就跟找个机器人去奥运会比赛拿金牌没有什么两样。而且这种观点在主流社会有相当高的认可度，譬如美国版权局直至终审裁决都坚持拒绝艾伦对该画作的版权注册申请，理由是只会接收作者是人类的作品申请版权。

关于人工智能能否创造出真正的艺术，是一个颇具争议性的话题，涉及艺术的定义和创造过程的本质。一方面，人工智能已能创作音乐、影片、绘画、诗歌、小说等，它们在结构和技巧上可与人类艺术家的创作相媲美，能够引起观众的情感反应，满足艺术的基本标准。另一方面，艺术创作通常被视为深度个人化和情感驱动的，涉及创作者的主观体验、情感表达和文化背景。人工智能目前被认为缺乏自我意识和情感体验，因此总有人认为尽管人工智能可以创造出看似技艺精湛的作品，但这些作品缺乏真正艺术所需的深度和情感寓意。

这样的争议其实自人工智能被发明以来就未停歇过，几乎人工智能每在一个领域超越了人类，就必定伴随着一次类似的争吵，每一次类似的争吵，其实都是在给图灵那篇《计算机器和智能》论文增添一分含金量^○二，70 多年后的今天，情形仍与当年图灵对斐逊教授的反驳（遗忘了这段剧情的读者请参见 1.7节）如出一辙。

不过，只要不去纠结“艺术”二字，只谈“创作”的话，人与机器其实有着非常广阔的合作空间。今天大量的商业创作和新闻资讯都是由人工智能在人类的提示下自动生成的。譬如淘宝就推出过名为“鲁班”^○一的人工智能图片设计工具，只要用户提供文案和必要的图片素材（如商标、产品外观等），“鲁班”就可以一键生成不同风格、不同尺寸的宣传海报。现在的淘宝页面上，相当大比例的图片都是由“鲁班”自动生成的。早在 2016 年的“双十一”，“鲁班”就设计了超过 1.7 亿张海报，到 2017 年的“双十一”，这个数字进一步上升到了 4 亿张，为淘宝和第三方商家节省了大量设计师的人工成本。“鲁班”生成的海报效果具备相当不错的水准，如图 9-9 所示，根据用户提供的衣物照片，它自动选择了合适的、风格相近的背景，并根据用户提供的文字数量、海报尺寸进行了恰当的排版。2018 年，阿里继“鲁班”之后还发布了能够自动生成短视频的人工智能产品“ Allwood”，该产品可以通过整合图文内容自动生成 20秒的短视频，并自动附带配乐。

372

第四部分 人机共生

○一 https://edition.cnn.com/2022/09/03/tech/ai-art-fair-winner-controversy/index.html。

○二 笔者在本书的 1.6 节和 1.7 节介绍过图灵这篇论文。还有乔姆斯基那句“潜艇能够游泳吗”都是对这类争吵很有预见性的回应。

在新闻创作方面，人工智能的应用就更广泛了，今天公众读到由人工智能撰写的作品的比例可能高到令人难以置信的程度。大约在 10 年前（2014年），国外各大报社不约而同地推出了一系列撰稿机器人，如洛杉矶时报的“ Quake”、美联社的“ Word Smith”、纽约时报的“ Blossom”等。时效性和节约人工成本是机器的强项，所以很快我国就出现了如腾讯财经的“ DreamWriter”、新华社的“快笔小新”、第一财经的“ DT 稿王”等中文撰稿机器人。这些第一代的撰稿机器人是通过文本抽取、模板替换填充的方式来输出稿件的，譬如事先准备一个体育运动的报道模板，往里面填充运动员名字和比分，这种应用很容易做，但效果不佳，产生的稿件几乎千篇一律，而且语气生硬，内容空洞枯燥。第二代撰稿机器人则是基于自然语言处理、机器学习和视觉图像处理技术来设计的，能通过语法合成与排序来生成新闻。以今日头条的体育新闻撰稿机器人“机器人记者小明”（Xiaomingbot）为例，该项目团队发表在ACL2016 的论文《从实时的文本评论中构建体育新闻》（“Towards ConstructingSports News from Live Text Commentary”）^○一中介绍，这种新闻生成过程其实是解决一个“抽取式摘要”（Extractive Summarization）的问题，机器人从体育赛事的文字直播中选取重要的句子组合成一篇针对该场比赛的新闻报道。这里涉及对评论语句相似内容的去重，根据比赛选手的排名、赛前预测与实际比赛结果的差异、比分悬殊程度来自动调整生成新闻的语气，截取直播画面自动给文字内容配图，生成必要的比赛描述总结，等等。如图 9-10 所示是一篇由“机器人记者小明”撰写的足球报道，整篇新闻看起来行文流畅，图文并茂，如果不专门署名由机器人供稿，普通人大概很难注意到它与人工稿件之间的差别。

第 9 章 与机器共生

373

○一 在 2018 年 4 月的 UCAN 用户体验设计论坛上，阿里把“鲁班”改名为“鹿班”。

时间来到 2022 年，伴随着大语言模型的技术革命，撰稿机器人也发展到第三代，这时候的撰稿机器人已经不需要依赖直播时人类产生的语音、文本信息，完全可以做到“开局一张图或一句话，内容全靠编”的程度，甚至能自动产生以假乱真的图片甚至视频片段。可想而知，这种机器人的流行也为不实信息或刻意制造的谣言提供了便利，所以今天许多新闻网站和视频自媒体应用反而要倒过来专门开发检测稿件是否由机器人自动生成的功能，譬如抖音就会在可疑的视频上自动标注上“内容可能由人工智能生成，请注意识别”的字眼。

计算机在信息处理能力方面的优势，再加上不断迭代的自然语言处理和深度学习技术，使得达到更高、更快、更准的新闻报道效率成为可能。可以预见的是，未来的撰稿机器人将具备更高的判断力、理解能力和写作能力，驾驭更多领域的内容生产工作。尤其在新闻、财经等领域，撰稿机器人代替人类将成为主流，因为对这种内容，机器人只需要知道数据和结果即可完成报道。但文字创作不仅仅是报道数据和陈述新近发生的事情，还有很多评论分析、情感表达、人文关怀之类的工作要做，如果让人工智能撰写一部跌宕起伏的长篇小说，现在还为时过早，这类工作暂时仍是由人类来做更合适，未来人类作者会逐渐转向小说作家、新闻评论员等方向。

374

第四部分 人机共生

○一 论文地址：http://aclweb.org/anthology/P16-1129。