待验证50% 置信事实精确时间
Unsloth 在不支持 bf16 的 GPU 上训练 Qwen3-MoE、Gemma 3 与 Gemma 4 时，注意力内存占用最多降低 7 倍（需 torch 2.13 或更早版本）。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/23
首次发现
有效期至：2027/1/21
来源
涉及实体
相关事实
待验证将Qwen3.8 Flash-Next预训练的PLE（n-gram记忆）迁移到Qwen3.5-0.8B模型上，在冻结验证集上取得了5.05%的困惑度下降65% 相似待验证QwenGyre 的核心机制是将 GPU 拆分为独立计算单元，先完成的单元先进入训练，未完成任务的单元状态和缓存被迁移，待后续接续执行，从而减少 GPU 闲置时间。62% 相似待验证Qwen3.8-Flash-Next采用GDN加QSA的混合注意力机制，总参数125B外加51B的N-gram嵌入，每个Token仅激活约6B参数62% 相似待验证在数学、代码生成和对话等七个基准测试上，ReaDy 使用 Qwen3.8-27B 在单张 NVIDIA B200 GPU 上取得了平均 3.16 倍于自回归解码的加速。62% 相似待验证LessThink-Qwen3-4B 的整条训练流水线只使用了一张 GPU 完成62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1090541API
curl https://kongchang.com/api/v1/knowledge/claims/1090541MCP
get_claim(id=1090541)