Meta发布新版AI大模型 Llama 4,首次采用“混合专家”架构

老虎资讯综合
06 Apr

Meta公司在周六发布了其 Llama系列中的一组新的人工智能模型 ——Llama 4。该系列总共有四个新模型:Llama 4 Scout、Llama 4 Maverick 和 Llama 4 Behemoth。Meta称,所有这些模型都经过了 “大量未标注的文本、图像和视频数据” 的训练,以使它们具备 “广泛的视觉理解能力”。

Llama 4系列首次采用了混合专家(MoE)架构的模型,这种架构在训练和回答用户查询时的效率更高,可以将模型划分为多个专注于特定任务的“专家”子模型。

据Meta介绍,Scout和Maverick不仅是其“迄今为止最先进的模型”,也是“多模态领域中最先进的模型”。

据悉,Scout有170亿个活跃参数、16个“专家”模型、1090亿个总参数;Maverick也有170亿个活跃参数,但有128个“专家”模型,总参数量高达4000亿。

Meta AI已在40个国家更新为使用Llama 4模型。目前,多模态功能仅在美国以英语提供。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10