AI 基础设施 / 发布

ollama v0.40.7

github.com·2026/10/18·ollama

内容工具 · 模型与重新生成

AI 解读尚未生成

AI 全文总结

Ollama v0.40.7新增27Bpplx-decider决策模型

为什么重要　对使用 Ollama 本地推理的工程师，提升 OpenAI 兼容 Responses 稳定性，新增 27B 决策模型与更自动的推测解码支持。

pplx-decider 是来自 Perplexity 的 27B 决策模型，基于 Qwen3.8-27B 微调。
在 OpenAI 兼容的 Responses 对话中，当在带思考和不带思考的模型之间切换，或历史记录中包含其他提供方的压缩条目时，继续对话不再失败。
修复了流式 Responses 请求中，客户端工具调用（例如带网络搜索的 Codex）可能在开放推理项之前发出，导致工具调用事件错序或重复的问题。
路由到远程模型的请求现在会在客户端断开连接时在 ollama.com 上取消，而不是继续运行。
ollama show 现在会报告模型使用的渲染器和解析器，以及其聊天模板的来源；API 在新的 renderer、parser 和 template_source 字段中暴露相同的值。
现在更多草稿模型可用于推测性解码：llama-server 会自动推断草稿类型，不再需要 Ollama 识别它。
ollama launch claude 现在会将 CLAUDE_CODE_AUTO_COMPACT_WINDOW 限制在 Claude Code 支持的范围内，避免出现“窗口过大”警告。
更新了 llama.cpp 和 MLX。

pplx-decider is a 27B decision model from Perplexity, fine-tuned from Qwen3.8-27B
Continuing an OpenAI-compatible Responses conversation no longer fails when switching between models with and without thinking, or when the history contains another provider's compaction items
Fixed streaming Responses requests where client tool calls (e.g. Codex with web search) could emit before open reasoning items, producing misordered/duplicate tool call events
Requests routed to remote models are now cancelled on ollama.com when the client disconnects, instead of continuing to run
ollama show now reports which renderer and parser a model uses and where its chat template comes from; the API exposes the same values in new renderer, parser, and template_source fields
More draft models now work with speculative decoding: llama-server infers the draft type automatically instead of requiring Ollama to identify it
ollama launch claude now clamps CLAUDE_CODE_AUTO_COMPACT_WINDOW to Claude Code's supported range, avoiding a "window too large" warning
Updated llama.cpp and MLX

Full Changelog: https://github.com/ollama/ollama/compare/v0.40.6...v0.40.7

pplx-decider 是来自 Perplexity 的 27B 决策模型，基于 Qwen3.8-27B 微调。
在 OpenAI 兼容的 Responses 对话中，当在带思考和不带思考的模型之间切换，或历史记录中包含其他提供方的压缩条目时，继续对话不再失败。
修复了流式 Responses 请求中，客户端工具调用（例如带网络搜索的 Codex）可能在开放推理项之前发出，导致工具调用事件错序或重复的问题。
路由到远程模型的请求现在会在客户端断开连接时在 ollama.com 上取消，而不是继续运行。
ollama show 现在会报告模型使用的渲染器和解析器，以及其聊天模板的来源；API 在新的 renderer、parser 和 template_source 字段中暴露相同的值。
现在更多草稿模型可用于推测性解码：llama-server 会自动推断草稿类型，不再需要 Ollama 识别它。
ollama launch claude 现在会将 CLAUDE_CODE_AUTO_COMPACT_WINDOW 限制在 Claude Code 支持的范围内，避免出现“窗口过大”警告。
更新了 llama.cpp 和 MLX。

pplx-decider is a 27B decision model from Perplexity, fine-tuned from Qwen3.8-27B
Continuing an OpenAI-compatible Responses conversation no longer fails when switching between models with and without thinking, or when the history contains another provider's compaction items
Fixed streaming Responses requests where client tool calls (e.g. Codex with web search) could emit before open reasoning items, producing misordered/duplicate tool call events
Requests routed to remote models are now cancelled on ollama.com when the client disconnects, instead of continuing to run
ollama show now reports which renderer and parser a model uses and where its chat template comes from; the API exposes the same values in new renderer, parser, and template_source fields
More draft models now work with speculative decoding: llama-server infers the draft type automatically instead of requiring Ollama to identify it
ollama launch claude now clamps CLAUDE_CODE_AUTO_COMPACT_WINDOW to Claude Code's supported range, avoiding a "window too large" warning
Updated llama.cpp and MLX

Full Changelog: https://github.com/ollama/ollama/compare/v0.40.6...v0.40.7