产品
TokenSpeed
基于PyTorch的推理阶段Token生成加速工具，通过投机解码、KV Cache优化或量化等技术手段提升大模型推理吞吐量，已纳入PyTorch官方生态版图
时间轴 (近 90 天)
9月11日
PyTorch生态工作组宣布将10个新项目纳入PyTorch生态版图，分别是Perforated、AReaL、TorchJD、RLinf、Miles、SMG、FiftyOne、TokenSpeed、VisualTorch和TorchSurv
待验证50%
9月11日
TokenSpeed聚焦于推理阶段的Token生成加速
待验证50%