B领域级

Llama 4 发布

开放权重模型进入原生多模态与 MoE 阶段

已核验1可追溯来源
核心变化

Meta 发布 Llama 4 Scout 与 Maverick,采用混合专家架构并原生支持多模态,把开放权重模型推向超长上下文和更高计算效率。

01

发生了什么

Llama 4 使用混合专家架构,只激活部分参数完成推理。Scout 强调超长上下文,Maverick 强调综合能力;两者都原生处理文本和图像。

02

当时的行业背景

Llama 3 已形成庞大的开放模型生态,但多模态、长上下文与高效扩展仍是闭源旗舰的主要优势。

03

为什么重要

它让开放权重路线进入与闭源旗舰相似的架构阶段,也让开发者可以研究和部署原生多模态 MoE 模型。

在它之前

主流开放权重模型仍以稠密文本模型为主。

在它之后

多模态与混合专家成为开放模型的重要产品形态。

影响

它改变了什么

对开发者

开发者获得可部署、可微调的原生多模态 MoE 模型。

对行业

开放模型与闭源旗舰的竞争从文本能力扩展到架构和多模态系统。

来源

原始资料

  1. 01The Llama 4 herdMeta AI · official

试试搜索