为了训练好 GPT-4,OpenAI 足足动用了 2.5PB 数据,这些数据包括代表人类互联网信息的 Common Crawl 和 WebText2 数据集、代表人类百科知识的 Wikipedia 数据集、代表人类书籍的 BooksCorpus 数据集、开放的图片数据集 Open Images<sup>○一</sup>、开放语音数据集 LibriSpeech<sup>○二</sup>,以及 YouTube 上十几TB 的视频。如此大规模的训练,让 GPT-4 进化成多模态模型,进一步超越了GPT-3.5 的性能,维持住了 OpenAI 世界上最先进的人工智能组织地位,也消耗了大量 OpenAI 的资金与人力资源。此时此刻,OpenAI 内部涌动了很长时间的暗潮终于浮上水面,让表面光鲜无限的 OpenAI 一下子陷入风雨飘摇的境地。
8.7 现实与理想
将时间稍微回退到 2017 年 3 月,这是 OpenAI 创立的第 15 个月,它撰写了一篇名为《OpenAI 宪章》<sup>○三</sup>(OpenAI Charter,以下简称《宪章》)的文章,向世界陈述 OpenAI 这个组织的使命。《宪章》中明确提到了几项原则:非盈利—OpenAI 承诺不会与它的干系人产生任何利益冲突;安全—OpenAI承诺会采取一切措施保证人工智能造福人类而非给人类带来威胁;开放—OpenAI 承诺要公开提供研究所得的产品以协助全社会走向智能化道路。
作为一个愿景是推动人工智能造福人类的组织,以上每条原则都透露着它的雄心壮志与崇高品格,不过,这家拥有全世界顶尖人工智能技术的公司要在现实社会中生存下来,仅凭理想与品格恐怕是办不到的,《宪章》中的这些原则将对 OpenAI 的发展产生怎样的影响呢?
342
第三部分 第三波高潮
○一 https://github.com/openimages/dataset。
○二 https://www.openslr.org/12。
○三 《 OpenAI 宪章》(https://openai.com/charter)对外公开其实是在 2018 年 4 月,但资料显示,在 2017 年 3 月,OpenAI 内部就已经有这篇文章了。