Unsloth发布大版本更新：推理提速5倍，浏览器Agent全面进化

Unsloth 在 GitHub 上发布了 v0.1.907-beta 版本更新，这次更新的核心关键词是「性能」和「浏览器 Agent」。官方宣称整体 UI/UX 速度提升最高达 10 倍，推理速度提升最高 5 倍，并对浏览器自动化能力做了大幅扩展。

性能提升：从缓存命中率到长对话响应

Unsloth 这次把性能优化放在了最显眼的位置。根据 release notes，多聊天场景下的 UI/UX 提速最高可达 10 倍，推理速度则提升了约 5 倍，背后是 95% 的缓存命中率以及针对 MoE 架构的 Strata 风格修复。

具体到实际使用场景，大型聊天和训练历史现在以更小的批次加载，启动时占用的数据和内存都更少。在长 GGUF 对话中，尤其是包含大量工具调用的会话，后续回复的开始时间明显提前。Qwen3.5、Qwen3.6 和 Qwen3.8 在 MLX 上获得了更快的 prefill 和 speculative decoding 支持。

这些优化的意义在于：本地运行大模型时，最影响体验的往往不是单次生成速度，而是长时间对话后的累积延迟和内存膨胀。Unsloth 选择在缓存和分批加载上做文章，方向是对的。

缓存命中率在本地大模型推理中指的是 KV Cache（键值缓存）的复用比例。Transformer 模型生成每个 token 时都需要重新计算此前所有 token 的注意力键值对；若把已算过的 KV 保留下来，新 token 只需计算增量，就能省下大量重复运算。命中率 95% 意味着绝大多数请求都命中了已有缓存，这正是 Unsloth 宣称提速 5 倍的主要来源。命中率下降通常发生在多轮对话、工具调用插入了新内容或上下文被截断时，因为缓存前缀一旦改变就必须从头重算。

MoE（Mixed-of-Experts，混合专家） 是一种把前馈层拆成多个「专家」子网络、每次只激活其中少数的架构。它让模型总参数量很大而单次计算量较小，但代价是显存占用、专家路由和批次调度更复杂，缓存与批处理策略也需要专门适配。文中提到的「Strata 风格修复」即针对这类架构在分层加载与缓存复用上的优化。

Speculative decoding（投机解码） 是一种用「小模型快速起草、大模型一次验证」的加速技术：草稿模型连续猜出若干 token，目标模型在一次前向传播中并行校验，被接受的 token 直接保留，被拒绝的从分歧点重新生成。由于验证是并行的，在草稿质量较高时能显著降低每 token 的平均延迟。Prefill 则指模型处理输入提示词、建立 KV Cache 的阶段，它与逐 token 的 decode 阶段计算特性完全不同，通常更吃算力而非带宽。MLX 是苹果为 Apple Silicon 提供的机器学习框架，对 prefill 与投机解码的支持直接决定 Mac 本地推理的响应速度。

浏览器 Agent：从点击到拖拽的完整控制

浏览器自动化是本次更新中功能层面最有意思的部分。模型现在可以点击页面上的具体坐标、移动鼠标、拖拽页面元素，甚至能操作 canvas 这类没有标签的目标。

脚本执行方面，用户可以设置每次运行脚本时都需要审批，也可以在 Settings > Browser 中将 Run scripts 设为 Never。对于未标记元素的点击，可以设置 per-site 规则，把信任的站点加入 Always allow 列表。表单提交也统一了审批逻辑——按 Enter 和点击提交按钮走同一套检查。

Web UI 还改进了对压缩页面、客户端导航和延迟加载内容的处理，模型现在可以填写日期和时间字段。这些看似细小的改进，实际上决定了浏览器 Agent 能否在真实网站上稳定工作。

图像与视频：LTX-2.5 与 Wan2.2 支持

视频生成方面，新版本支持通过 LTX-2.5 从文本或起始图像生成视频，并带同步音频。Wan2.2-TI2V-5B、LTX-2 和 LTX-2.3 可以在同一加载模型上设置 Start frame 来实现图像动画化。

图像页面新增了对 SDXL samplers 和 schedules 的选择支持，v-prediction checkpoints 的加载问题也得到修复。图像输入可以在生成前裁剪，大尺寸照片和普通视频帧上传会自动调整大小。

图像 LoRA 训练中的 fused AdamW 指把优化器更新中的多个逐元素运算合并成单个 GPU 内核，减少显存读写次数与内核启动开销，从而在小批量训练中提升吞吐。aspect-ratio buckets（宽高比分桶） 则是把训练图按相近的长宽比分组，同一批次内统一尺寸，避免为凑成方形而大量裁剪或填充，既保住了构图又减少了无效像素。FP8 是 8 位浮点格式，相比 BF16 显存占用和带宽需求减半，配合 Ada、Hopper、Blackwell 架构的原生支持可在几乎不损精度的情况下训练更大的 LoRA；MXFP8 是 OCP 定义的微缩放 FP8 格式，以更细粒度的共享指数提升低精度数值稳定性，但需要 torchao 等兼容栈配合。

训练：更快的图像 LoRA 与更低的内存占用

图像 LoRA 训练在 NVIDIA GPU 上默认启用 fused AdamW，并引入 aspect-ratio buckets 支持。FP8 LoRA 训练针对 FLUX 和 Z-Image，在 NVIDIA Ada、Hopper 和 Blackwell GPU 上内存占用更低。MXFP8 在 Blackwell 上配合兼容的 torchao 栈处理 aspect buckets。

Train 标签页新增了 Sample every 设置，可以在支持的图像训练过程中和运行历史中查看预览图像。caption dropout、LoRA dropout 和 checkpoint retention 也都可以在图像 Train 标签页配置，随机翻转改为 opt-in。

聊天与桌面端：文件拖拽回归与 /rewind 功能

Desktop 聊天重新支持文件拖拽，覆盖更多 Office 文档、模板、EPUB、README 文件和媒体文件。Web UI 支持上传最大 200 MB 的 PDF 和 Office 文档。

Linked folders 现在会遵循常见的 .gitignore 规则，文件夹可以从浏览器上传到项目 Sources，失败的源可以重试。/rewind 命令和消息 More 菜单中的 Rewind 选项可以恢复对话、聊天文件夹中跟踪的文件，或两者同时恢复，并支持预览更改和撤销恢复。

/compact 可以在支持工具的 GGUF 或 MLX 聊天中压缩上下文，内联分隔线会标记压缩位置。后台回复完成时也可以开启通知。

上下文压缩（/compact） 解决的是本地模型上下文窗口有限的问题：当对话接近窗口上限时，把较早的多轮消息交给模型总结成更短的摘要，用摘要替换原始历史，从而腾出空间继续对话。它会改变 KV Cache 的前缀，因此压缩点之后的首次回复需要重新 prefill，但换来的是对话可以持续进行而不必开新会话。/rewind 依赖的是对文件系统状态的跟踪：聊天文件夹中被 Agent 或用户修改的文件会被记录版本，回退时同时恢复对话消息与文件内容，并允许先预览差异再确认，这对需要反复试错的代码或脚本编辑场景尤为关键。

模型与硬件兼容性

本地模型现在可以通过 unsloth start vscode 在 VS Code Copilot Chat 中使用。编码 Agent 可以通过 MCP 配合账户 API key 使用 Unsloth，执行模型加载、生成、训练和导出。

硬件方面修复了 Windows AMD 系统的 PyTorch/Triton 启动错误，Intel XPU 在支持的 Arc 和 Data Center GPU 上可以识别原生 BF16，不再依赖 intel-ocloc。CUDA 系统切换 Python 版本后的 Triton launcher 错误也得到处理，低显存下 Gemma 4 E2B 的加载体验有所改善。

这次更新的信息量相当大，涉及性能、浏览器自动化、视频生成、训练优化和硬件兼容性多个层面。对于本地大模型用户来说，浏览器 Agent 的可控性提升和图像 LoRA 训练加速可能是最值得关注的两个变化。