Meta 的 Muse Spark Open 现已上线 Amazon SageMaker JumpStart
Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,支持 100 万 token 上下文窗口,采用 MoE 架构,总参数 816B、每 token 激活 42B。
Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,支持 100 万 token 上下文窗口,采用 MoE 架构,总参数 816B、每 token 激活 42B。
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可输入文本、图像、音频和视频并输出文本。
推荐理由:Meta 开源 816B 多模态 MoE 模型,给出完整部署与微调配方,可据此评估自托管前沿模型的成本与可行性。