待验证85% 置信事实时间未知
Unsloth团队使用Triton（OpenAI开源的GPU编程语言）手动重写了Transformer模型中关键算子的反向传播内核
1
来源数
85%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
Unsloth：单卡微调大模型，显存省70%的开源神器
githubunslothai
涉及实体
相关事实
待验证Unsloth使用Triton语言编写了自定义GPU算子，针对Transformer架构中的注意力计算、矩阵乘法等核心操作进行了深度优化84% 相似待验证Unsloth能够在消费级GPU上完成原本需要专业级硬件才能进行的模型微调任务71% 相似待验证Llama.cpp 的 -ngl 参数控制将多少 Transformer 层放到 GPU 显存中运行，若显存不足会自动将放不下的层回退到 CPU 形成混合推理模式66% 相似部分验证Unsloth 通过手写 Triton GPU 内核和数学优化，可将 LLM 微调速度提升 2-5 倍，同时将显存占用降低 60-80%66% 相似待验证结合 QLoRA 技术，Unsloth 使得消费级 GPU（如 RTX 3090、4090）也能微调数十亿参数规模的模型64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/30823API
curl https://kongchang.com/api/v1/knowledge/claims/30823MCP
get_claim(id=30823)