共 2 篇相关文章
开发者发布PyTorch优化器ApexW，采用紧凑优化器状态与Triton执行路径，在仅优化器基准中比fused AdamW快约1.5倍、状态显存约减半，但小张量与自动模式仍有明显短板，作者公开征集基准与实现反馈。
开发者用Triton手写W4A16融合GEMV内核，在RTX 3060上追平bitsandbytes NF4速度，但两者均输给bf16基线。本文解析roofline分析、内核优化陷阱与量化解码的真实性能瓶颈。
