github.com·2026/10/20·unslothai
Unsloth 本次发布将 DeepSeek-V4.1-Flash-1017 与 FLUX.3 Image Klein 接入本地运行:前者为 552B 参数(16B active)更新版,Engram 表留 SSD 时 1-bit 约 125GB 内存,Terminal-Bench 从 31.2 升至 42.3;后者支持文生图与多参考图编辑,GGUF 可在无受支持 GPU 电脑运行。图像、视频和朗读模型可常驻聊天模型旁,并在聊天内生成图像与可播放视频。训练上 Python 用 FSDP2 跨 GPU 做 LoRA、QLoRA 和全微调,以 context_parallel_size 切长序列;Train 页可预览训练 token,adamw_flash 节省优化器内存。性能上工具调用流式返回,fused LoRA 与 Gemma 4 新内核改善速度与显存。编码代理用 unsloth mcp add 连接 Claude Code、Codex 或 Cursor,可上传数据集、启动训练、加载 checkpoint。模型库可按能力筛选并导出 CSV;硬件通过 Vulkan 支持非 NVIDIA/ROCm GPU,修正 MIG 与混合 GPU,Windows on ARM 可开沙箱。Desktop 免费开源并提供多平台安装包。
unsloth mcp add 接通 Claude Code 等代理为什么重要 本地推理/微调工具链同时加入 16B 活跃 MoE 与 24GB 图像模型,并打通编码代理 MCP 环路,直接影响私有化部署与自动化微调。适合 本地/私有化跑大模型、做 LoRA/QLoRA 微调或接入编码代理训练的工程师。
unsloth mcp add 连接 Claude Code、Codex 或 Cursorlora_dropout/lora_bias 下走 fused kernel,每步约快 28%注释 · 官方报告:推理、coding 和 agentic 结果更好,输出更短。出自 DeepSeek-V4.1
LoRA 步速
lora_dropout / lora_bias
Gemma 4 注意力
NVIDIA Ampere 及以上
注意力显存
最多
Qwen3.8 MLX
M5 Macs
MLX 批量生成
M1–M4 Macs
注释 · 这些是各自模型/硬件的加速比,不能横向累计;LoRA 用 fused kernel。出自 Performance
$ unsloth mcp add claude-code
$ unsloth doctor --gpus
$ optim = "adamw_flash"
$ UNSLOTH_OFFLOAD_OPTIMIZER_STATE=1
$ context_parallel_size
DeepSeek-V4.1-Flash-1017 与 FLUX.3 Image Klein 已发布!两者均可在 Unsloth 中本地运行。此外新增:对话内图像与视频、基于 FSDP2 的多卡训练(alpha),以及面向编码智能体的一条命令 MCP 配置。
unsloth mcp add 可将 Claude Code、Codex 或 Cursor 连接到 Unsloth。DeepSeek-V4.1-Flash-1017 and FLUX.3 Image Klein are here! Run both locally in Unsloth. Also new: images and videos in chat, multi-GPU training with FSDP2 (alpha) and one-command MCP setup for coding agents.
unsloth mcp add connects Claude Code, Codex or Cursor to Unsloth.EVIDENCE / METHODS
表格
DeepSeek-V4.1-Flash-1017 1-bit 约 125 GB,FLUX.3 只需 24 GB GPU
| 模型 | 参数量 | 运行内存 | 关键特性 |
|---|---|---|---|
| DeepSeek-V4.1-Flash-1017 | 552B + 196B Engram,约 16B 活跃 | 约 125 GB(1-bit)/ 300 GB(4-bit) | 1M 上下文 |
| FLUX.3 Image Klein | 5.6B | 24 GB GPU 内存 | 文本渲染;最多 10 张参考图 |
注释 · DeepSeek 的 196B Engram 表可留 SSD;FLUX.3 的 GGUF 也支持无受支持 GPU 的机器。出自 Highlights