2003 年,刚考入多伦多大学的苏茨克维来到了辛顿的办公室,他并没有提前预约,却理直气壮地直接提出希望加入辛顿的实验室<sup>○一</sup>。大概习惯了老派英式严谨作风的辛顿很久都没有遇到过这样的愣头青了,一时也不知该如何打发苏茨克维。后来辛顿从抽屉中拿出两篇论文让苏茨克维阅读,叫他读懂后再来谈加入实验室的事情。苏茨克维当然没有知难而退,一周后,辛顿看完他交回的解读报告,既惊讶又惊喜,评价道:“苏茨克维对抓住文章关键结论有一种异常敏锐的能力,这是即使有经验的研究人员也需要花费数年时间才可能找到的能力<sup>○二</sup>。”不过,苏茨克维接着向辛顿补充道,尽管他能够完全理解这两篇论文,但对论文的结论并不认可:“训练神经网络只能用来解决特定问题,当人们想解决不同问题时,就得用另外的神经网络重新开始训练。我认为应该有一个能够解决所有问题的神经网络存在。”相信辛顿肯定知道这种今天被称为“通用人工智能”(Artificial General Intelligence,AGI)的想法在当时只是异想天开,但辛顿也如同他自己的老师希金斯那样,虽然并不认可神经网络却尽最大力量支持弟子研究神经网络那般,欣然接受了苏茨克维。就这样,未满 18 岁的苏茨克维如愿收到了辛顿实验室的邀请,跟随在辛顿身边学习人工智能。
十年光阴转瞬即逝,2012 年,刚刚从辛顿手上获得博士学位的苏茨克维随DNNResearch 收购案进入谷歌人工智能团队。在分配出售 DNNResearch 的收益时,苏茨克维和亚历克斯都认为他们的老师辛顿理所应当占大头,但辛顿断然拒绝,坚持认为 5000 万美元的收益应该由三人平分。所以苏茨克维虽然才刚刚毕业,但已经是身价千万美元的富翁了。经济上的宽裕并没有让苏茨克维选择“躺平”,只是给予了他不用为研究经费奔波、自由选择研究方向的权利。
苏茨克维决定将他的主要研究方向从原本的计算机图形学调整到自然语言处理(Natural Language Processing,NLP)。几年后苏茨克维本人在采访中解释过更换研究方向的原因,他认为:“图像是人类知识的源头,而语言是人类知识的压缩。”想办法让计算机理解人类自然语言也许是机器通往智能的一条捷径,因为对比视觉和声音,语言的信息压缩比例要高得多。我们不妨想象一下,人工智能像是一位初到陌生城市的旅者,最开始,这位旅者可能只懂得几个最基本的词汇和短语,类似于旅游手册里的内容。随着时间的推移,他开始学习当地的语言,在过程中也会了解当地的历史、文化和习俗,以便能更深入地理解这座城市,甚至能够与当地人进行深层次的交流。最后,这位旅者不仅学会了如何使用语言,也理解了当地人的想法、情感和行为方式。语言就像是一座桥梁,帮助一个陌生人逐渐融入新的城市,人工智能通过学习语言,也许会逐渐理解并参与到人类的世界中来。
第 8 章 从学习到创造
325
○一 这段苏茨克维与辛顿初次相见的故事,以及后面他们分配 DNNResearch 被收购的收益的故事都记载在 Journey Matters 上:https://journeymatters.ai/ilya-the-brain-behind-chatgpt/。
○二 原 话 为:Sutskever’s unique ability to arrive at conclusions that even experienced researchers took years to find。