作为反击,OpenAI 把此前马斯克同意闭源、同意成立商业化子公司的邮件赤裸裸地贴到了官网上<sup>○一</sup>。不论如何解释,OpenAI 最初肯定是想走开源路线的,它的名字还有《宪章》中的开放条款都相当清晰地传达了开放共享的理念,早期 GPT-1 和 GPT-2 的模型以及代码也都是完全公开的,然而随着技术上取得越来越大的领先优势,OpenAI 既担忧开源可能产生人工智能被滥用的问题,也有成立盈利性组织 OpenAI LP 后希望将技术优势转化成商业优势的考虑,对开源的态度逐渐从开放转向封闭。
至于人工智能到底是开源还是闭源对人类更有利这件事情,不同的人有不同的见解。支持开源的一派认为开源代码可以提高透明度并有助于推动技术的发展,世界各地的相关方可以帮助识别开发团队未能发现的代码中的潜在陷阱,有助于降低代码可能执行有害操作的风险。而反对开源的一派认为,开源的人工智能很容易被不良行为者操纵。麻省理工学院和剑桥大学的科学家曾专门发表论文,通过实验来验证公开技术细节是否会帮助恶意者利用人工智能来造成大规模伤害,结论是开源大模型的确可能存在风险。
目前以 OpenAI 的 GPT 为代表的闭源模型和以 Meta 公司的 Llama 为代表的开源模型正在激烈竞争,这也是在给“人工智能应该开源还是闭源”这个问题做一场大规模的社会实验,最终结果如何我们拭目以待。不过 OpenAI 一边以“ Open”为名,一边却成为闭源模型的代表,这确实丢掉了不少它在成立时积累的粉丝好感。是否闭源在 OpenAI 内部曾经有过长时间的争论,苏茨克维曾在内部邮件中写道:“随着我们越来越接近人工智能,‘开放’开始变得不那么有意义了。OpenAI 的‘开放’只意味着每个人都应该从人工智能的成果中受益,不意味着必须分享其中的技术细节。”苏茨克维是一位理想主义者,他的个人品格即使是与 OpenAI 交恶后的马斯克也认为无可指摘<sup>○二</sup>,笔者愿意相信他完全是从安全角度出发的,但很难说参与闭源决定的每一位 OpenAI 成员都没有商业利益方面的考虑。
第 8 章 从学习到创造
345
○一 https://openai.com/index/openai-elon-musk/。
○二 马斯克曾在推特中公开评价苏茨克维:“苏茨克维内心有良好的道德准绳,不唯权力至上。”