Meta 发布开源权重多模态 MoE 模型 Muse Spark Open

模型概况

Meta 于 2026 年 10 月 15 日发布 Muse Spark Open，这是 Muse 系列的全尺寸模型，以开源权重形式提供。它是混合专家（MoE）模型，约 816B 总参数，每个 token 激活约 42B 参数。同系列的 Muse Glimmer 是较早发布的稠密小模型，两者共用同一 tokenizer 与词表，Muse Spark Open 的 chat template 在其基础上加入了新模态。

架构与规格

• 输入：文本、图像、音频、视频；输出：文本
• 上下文窗口：最高 100 万 token（配置中 max_position_embeddings 为 1,048,576）
• 语言模型 62 层，隐藏维度 8192，128 个查询头、16 个 KV 头（分组查询注意力），采用 QK-norm 与学习的残差门控
• 每个 MoE 层 256 个专家，路由为每 token 选 8 个；专家约占全部参数 97%
• 检查点格式：BF16 与 NVFP4（后者面向 NVIDIA Blackwell GPU）

由于所有专家需常驻内存，部署显存需求按 816B 模型计，但计算速度接近 42B 模型。原文称 BF16 检查点 safetensors 约 1.5 TB；transformers 中 BF16 在 4 个 8×H200 节点（TP=32）运行，NVFP4 在单台 B200 节点运行。

感知编码器

视觉编码器 1.8B 参数、50 层，图像切为 14×14 patch，输出 4096 维特征，视频帧走同一编码器。音频编码器将音频转为 token，每 80 毫秒一个 token（12.5 token/秒）。图像、视频、音频 token 与文本共享同一上下文窗口。

推理与部署支持

原文提供了 transformers、llama.cpp、SGLang、vLLM、MLX 以及 Hugging Face Inference Endpoints 的用法说明。其中 vLLM 参考配置面向 NVFP4 检查点、仅支持文本与图像输入，并设置 128K token 服务上下文；SGLang 参考配置支持四种输入、基于 4 块 GB300。llama.cpp 有内置服务与量化版本。具体硬件条数与性能数字以原文测试描述为准，未在此逐项展开。

推理强度限制

该模型无法关闭推理，可在 low/medium/high/xhigh 间调节，默认 xhigh；简单任务可设为 low 以减少 token 消耗。

原文声明其为“最具能力的美国开源权重模型”，属于发布方自述，未给出独立评测数据。