Meta推出Llama 4系列模型，Llama 4首次采用混合专家（MoE）架构，支持原生多模态能力，并推出了两款主 要模型：Llama 4 Scout和Llama 4 Maverick。Scout拥有1090亿参数，支持1000万token上下文，可在单个 H100 GPU上运行；Maverick则拥有4000亿参数，170亿活跃参数和128个专家，在推理、编程任务中表现突 出。此外，2万亿参数Llama 4 Behemoth预计将在未来几个月内发布，拥有288B活跃参数，16个专家。