Ollama v0.40.14 更新：修复云模型输出限制与采样默认值

Ollama 发布了 v0.40.14 版本，这次更新主要围绕云端模型接入的稳定性与兼容性展开，修复了多个影响 Claude Code、ChatGPT 以及 OpenAI 兼容接口的实际问题。

核心修复：云模型输出 token 限制

ollama launch claude 现在会正确应用模型自身的输出 token 限制。此前，云端模型在 Claude Code 中运行时容易撞上 128k 的默认上限，导致输出被意外截断。这次调整让启动命令携带模型的真实输出上限，云端模型不再受默认值束缚。

对于依赖 Claude Code 做长上下文代码生成或复杂推理的用户，这是一个直接改善体验的修复。

接口层的多项兼容性改进

/api/chat 的云搜索响应解码

云端网页搜索返回的响应现在能被正确解码，包括经过压缩的响应内容。此前这类响应在 /api/chat 中可能出现解析异常，影响搜索类应用的可靠性。

HTTP 响应压缩常见形式包括 gzip、deflate 与 br，客户端需依据 Content-Encoding 头解压后才能切词解析；若解码层只处理未压缩明文，经过压缩的云端网页搜索结果就会被当成乱码而抛错。完善这一点意味着解码链路要先规范化解压再走 JSON 解析，并正确处理分块传输，避免搜索类应用间歇性失败。

OpenAI 兼容接口不再覆盖采样默认值

OpenAI 兼容端点不再强制覆盖模型打包的采样器默认值。当客户端没有传 temperature 或 top_p 时，接口会使用模型自身的默认值，而不是统一按 1.0 处理，从而与 /api/chat 的行为保持一致。这对那些依赖模型出厂参数获得稳定输出质量的场景尤为重要。

采样参数决定生成分布的随机性与覆盖度：temperature 越低越确定，top_p 控制核采样范围，二者共同影响输出稳定性。OpenAI 兼容层若在客户端未传值时统一填 1.0，等于把请求方未表态当成“最高随机度”，与模型出厂调好的参数分布不一致。改为沿用模型自身默认值后，同一请求在 OpenAI 兼容端点与原生 /api/chat 上得到更接近的输出，也有利于复现与评测。

/v1/responses 保留可读输入内容

/v1/responses 现在会保留可读的输入内容，包括此前助手给出的拒绝回复，而不是把它们扁平化处理。这一改动有助于多轮对话中维持上下文完整性，让模型能看到更接近真实交互历史的输入。

/v1/responses 对应 OpenAI 的 Responses API，采用结构化输入项与输出项（如 message、refusal 等）。此前的扁平化处理把多段输入压成纯文本，助手拒绝回复等特殊类型信息因此丢失。保留可读内容意味着回传时区分角色与内容类型，多轮历史中模型能感知此前哪些回复被拒绝过，减少上下文错位与重复触发。

应用层与性能优化

Ollama 应用现在可以重试 ChatGPT 断开连接导致的失败，而不是让连接停留在损坏状态。ollama launch codex 在配置前会先验证 ChatGPT 路由，路由不可用时给出明确的错误提示，避免用户在配置完成后才发现问题。

性能方面，MLX 后端针对大词表场景优化了 top-k 采样速度。对于在 Apple Silicon 上运行大词表模型的用户，采样环节的延迟会有所降低。

top-k 采样从词表概率中取最高的 k 个候选再做归一化抽样；大词表（十万级 token）时逐个比较或全量排序代价高，常见优化是维护固定大小的小顶堆做部分选择，把复杂度从全排序降为 O(n log k)。MLX 后端借助 Apple Silicon 的统一内存与 Metal 加速，在采样热点上减少排序与拷贝开销，从而缩短每步解码延迟。

小结

v0.40.14 不是一个引入新功能的大版本，而是一次密集的稳定性修补：从 token 上限、采样默认值到响应解码和连接重试，几乎都指向同一个目标——让云端模型和第三方客户端的接入行为更可预测。对同时使用 Claude Code、Codex 和 OpenAI 兼容客户端的开发者来说，这个版本值得升级。