预训练大模型（简称“大模型”）。作为当前人工智能发展的重要方向，预训练大模型具有效果好、泛化能力强的特点，进一步增强了人工智能的通用性，让广大开发者可以更低成本、更低门槛地开发AI模型，促进人工智能的广泛应用，成为人工智能技术和应用的新基座。
百度自2019年开始深耕预训练模型研发，先后发布知识增强文心（ERNIE）系列模型。文心系列模型基于持续学习的语义理解框架，从大规模知识和海量数据中融合学习，效率更高，效果更好。2019年12月，ERNIE 2.0以9个任务平均得分首次突破90大关的成绩登顶国际权威排行榜GLUE榜首。2021年7月，ERNIE 3.0英文模型在国际权威的复杂语言理解任务评测SuperGLUE上超越谷歌的T5、OpenAI（人工智能非营利组织）的GPT-3等大模型，以超越人类水平0.8个百分点的成绩登顶榜首。2021年12月，百度与鹏城实验室联合发布全球首个知识增强千亿大模型鹏城—百度·文心，参数规模达到2 600亿，在60多项NLP（自然语言处理）任务中取得最好效果。2022年5月的WaveSummit深度学习开发者峰会上，百度发布10个大模型，包括融合学习任务知识的知识增强千亿大模型、多任务统一学习的视觉大模型、跨模态大模型、生物计算大模型、行业大模型等，并提出支撑大模型产业落地的3个关键路径：
304