Meta 发布开源权重多模态 MoE 模型 Muse Spark Open
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可输入文本、图像、音频和视频并输出文本。
推荐理由:Meta 开源 816B 多模态 MoE 模型,给出完整部署与微调配方,可据此评估自托管前沿模型的成本与可行性。
技术方向
文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。
1 条精选近 30 天 1 条共收录 3 条
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可输入文本、图像、音频和视频并输出文本。
推荐理由:Meta 开源 816B 多模态 MoE 模型,给出完整部署与微调配方,可据此评估自托管前沿模型的成本与可行性。