数据源与状态仍在导航菜单中
huggingface.co·2026/09/20·stepfun-ai
Step 5 Preview 是 StepFun 面向智能体(agentic)工作的旗舰模型:稀疏 MoE 架构,总参数 600B、激活参数 27B,上下文与最大输出均可达 1M token(输入输出合并计算),接受文本与图像输入、输出文本。官方称其强项为仓库级软件工程(跨文件协调改动、运行验证代码并迭代)、长程智能体执行(反复工具调用、执行、验证与修订,全程利用长上下文)与专业知识工作(解析长文档、图表、截图、视频,产出结构化报告),金融任务尤为突出。评测结果取 High 推理档,GDPval-AA 分数来自 Artificial Analysis,DeepSWE 采用 SWE-agent 评测。权重托管于 HuggingFace 与 ModelScope(FP8 与 BF16 checkpoint),可用 vLLM 或 SGLang 提供 OpenAI 兼容 API,或用独立 Transformers 实现离线生成,FP8 单节点 4 张 B300 即可服务;vLLM 以 MTP、SGLang 以多层 EAGLE 做投机解码,均需 step5 推理与工具调用解析器。注意在 FP8 checkpoint 上设 --dtype bfloat16 得不到 BF16 权重,Transformers 的 BF16 端到端流程尚未验证,模型按 StepFun Model License 1.0(Apache-2.0 风格,附加署名与商用条件)授权。
为什么重要 600B 稀疏 MoE 用 4 张 B300 即可 FP8 自托管,1M 上下文加工具调用可直接用于 agent 与仓库级编码适合 要自托管大 MoE、做 agent 与代码补全的推理与平台工程师
$ docker pull vllm/vllm-openai:step-5-preview
$ docker run --rm -it --gpus all --ipc=host --network=host --volume "$HOME/.cache/huggingface:/root/.cache/huggingface" --entrypoint /bin/bash vllm/vllm-openai:step-5-preview
$ vllm serve stepfun-ai/Step-5-Preview --host 0.0.0.0 --port 18000 --served-model-name "step5" --tensor-parallel-size 4 --data-parallel-backend mp --distributed-executor-backend mp --disable-custom-all-reduce --max-model-len 1048576 --max-num-batched-tokens 16384 --max-num-seqs 64 --gpu-memory-utilization 0.85 --enable-prefix-caching --spec-method mtp --spec-tokens 3 --reasoning-parser step5 --enabl

EVIDENCE / METHODS
要点
StepFun 将其定位为面向 agentic work 的旗舰模型,主打软件工程与专业知识工作,并特别强调金融场景。