大模型 / 博客重点进展

Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta

huggingface.co·2026/10/15

内容工具 · 模型与重新生成

AI 解读已生成 · AI 生成，数字以原文为准

AI 全文总结值得深入基于页面正文 3.2 万字 · 完整阅读

Meta 发布开放权重多模态 MoE Muse Spark Open，约 816B 总参、42B 活跃、上下文最高 1M。

Meta发布开放权重多模态MoE模型 Muse Spark Open，总参数约 816B、每token激活约 42B，上下文窗口最长 1M tokens，输入文本、图像、音频、视频，输出文本，面向读取代码库、调试、调用工具等agentic coding场景。架构采用MoE层，专家占参数九成以上，并配Perception Encoder与Audio Encoder处理视觉与语音；Transformers实现支持多模态推理、工具调用与可调推理档，llama.cpp、vLLM、SGLang、MLX及Inference Endpoints提供不同量化与并行部署方案。TRL的LoRA微调只训练注意力层并冻结专家，在H100集群上运行后，作者报告平均token准确率从72%升至84%，表明成功适配。作者还构建Three.js 3D资产生成、OpenEnv浏览器代理和语音购物等演示。注意模型无法关闭推理，简单任务可选低推理档以节省token。

1256 专家 MoE 每 token 选 8，专家占 97% 参数。
21M 上下文 KV 缓存约 266GB，单 token 约 250KB。
3NVFP4 单 B200 节点可跑，vLLM 默认 128K 上下文。

为什么重要　给出多后端部署硬件、KV 缓存成本与 64 H100 LoRA 微调结果，直接影响自托管多模态 agent 的硬件选型与工具链。适合　适合需要自托管多模态 agentic 模型，评估推理硬件与微调成本的工程师和团队。

来源: huggingface.co
发布: 2026/10/15

约2小时

训练耗时

64 H100

约8k tok/s

吞吐

64 H100

72%→84%

准确率

mean token accuracy

1.26→0.57

Loss

训练损失

注释 · 准确率与 loss 来自作者自报的 500 步 LoRA 训练，属于过程结果而非独立评测。出自 Fine-tuning with TRL

约250KB

每 token KV

BF16

约266GB

1M KV 缓存

BF16

1,048,576

max positions

配置值

126,976/token

KV values

2×16×64×62

注释 · 这是部署容量规划的关键：1M 上下文需要约 266GB 的 KV 缓存。出自 Long Context

活跃参数: ≈42B/token
MoE 主干: 62 层，hidden 8192
专家配置: 256/层，8/token
感知编码器: 1.8B 参数，50 层
音频编码: 12.5 tokens/s，24kHz 单声道
KV 缓存: ≈250KB/token，1M 约266GB
默认视频采样: 2 FPS，最多 96 帧

llama.cpp 启动量化服务

$ llama serve -hf ggml-org/Muse-Spark-Open-816B-A42B-GGUF:Q2_K

SGLang 启动 NVFP4

$ SGLANG_FLASHINFER_NVFP4_PER_TOKEN_ACTIVATION=1 uv run sglang_meta serve --model-path "$CKPT" --quantization modelopt_fp4 --moe-runner-backend flashinfer_trtllm --tp-size 4 --ep-size 4 --port 30000

vLLM 启动 NVFP4

$ VLLM_ALLOW_LONG_MAX_MODEL_LEN=1 VLLM_PLUGINS=musespark1x_models,ptq_nvfp4 vllm serve "$CKPT" --tensor-parallel-size 4 --enable-expert-parallel --max-model-len 131072 --gpu-memory-utilization 0.92 --reasoning-parser musespark1x --tool-call-parser musespark1x --enable-auto-tool-choice --port 8000

MLX 生成

$ mlx_lm.generate --model mlx-community/Muse-Spark-Open-816B-A42B-oQ3e --prompt "Explain convolutional networks like I am 5" --max-tokens 5000

Inference Endpoints 部署

$ hf endpoints catalog deploy --repo meta-models/Muse-Spark-Open-816B-A42B-NVFP4 --name muse-spark

表格

多后端部署对照

后端/量化 / 硬件配置 / 关键数字（6 行）

后端/量化	硬件配置	关键数字
Transformers BF16	4 节点 × 8 H200	TP=32，checkpoint≈1.5TB
Transformers	单 B200 节点	4-bit，精度损失可忽略
SGLang	4 × GB300	tp-size 4，ep-size 4
vLLM	Blackwell GPU	max-model-len 131072，TP 4
llama.cpp Q2_K	Mac M3 Ultra 512GB	18 tok/s，模型占 304GB
MLX oQ3e	M3 Ultra 512GB	344GB，225/21 tok/s

注释 · 各后端对硬件和量化的要求不同；vLLM 默认 128K，而 Transformers 配置支持到 1M 上下文。出自 Inference Support 各后端小节

Meta 发布开放权重多模态 MoE Muse Spark Open，约 816B 总参、42B 活跃、上下文最高 1M。

1256 专家 MoE 每 token 选 8，专家占 97% 参数。

21M 上下文 KV 缓存约 266GB，单 token 约 250KB。

3NVFP4 单 B200 节点可跑，vLLM 默认 128K 上下文。

来源

huggingface.co

发布

2026/10/15

$ VLLM_ALLOW_LONG_MAX_MODEL_LEN=1 VLLM_PLUGINS=musespark1x_models,ptq_nvfp4 vllm serve "$CKPT" --tensor-parallel-size 4 --enable-expert-parallel --max-model-len 131072 --gpu-memory-utilization 0.92 --reasoning-parser musespark1x --tool-call-parser musespark1x --enable-auto-tool-choice --port 8000

后端/量化

硬件配置

关键数字

Transformers BF16

4 节点 × 8 H200

TP=32，checkpoint≈1.5TB

Transformers

单 B200 节点

4-bit，精度损失可忽略

SGLang

4 × GB300

tp-size 4，ep-size 4

vLLM

Blackwell GPU

max-model-len 131072，TP 4

llama.cpp Q2_K

Mac M3 Ultra 512GB

18 tok/s，模型占 304GB

MLX oQ3e

M3 Ultra 512GB

344GB，225/21 tok/s

Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta

Meta 发布开放权重多模态 MoE Muse Spark Open，约 816B 总参、42B 活跃、上下文最高 1M。

配图

微调结果

长上下文 KV 缓存成本

关键规格

快速上手 / 部署

多后端部署对照

Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta

Meta 发布开放权重多模态 MoE Muse Spark Open，约 816B 总参、42B 活跃、上下文最高 1M。

配图

微调结果

长上下文 KV 缓存成本

关键规格

快速上手 / 部署

多后端部署对照