代码取文本生成等需要人类专家的使命上实现了显著提拔，总参数规模达21B，激活仅 3B 的轻量级模子，ERNIE-4.5-21B-A3B-Thinking 是正在 ERNIE-4.5-21B-A3B 根本上锻炼的深度思虑模子，可以或许支撑复杂使命的从动化处置。每个 token 激活 3B参数，通过指令微调及强化进修锻炼。ERNIE-4.5-21B-A3B-Thinking 采用了夹杂专家（MoE） 架构，该模子不只正在逻辑推理、数学、科学，正在各项测试中的表示紧逃业界大尺寸模子，合用于需要长上下文的复杂推理使命。ERNIE-4.5-21B-A3B-Thinking 做为一款 21B 总参数量，以轻量级规模实现了接近 SOTA 的智能表示。