待验证50% 置信基准精确时间
在Amazon EC2 P5en实例上配合EFA网络,Qwen3-32B的TTFT最高提升1.6倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/19
首次发现
有效期至:2026/11/2
来源
涉及实体
相关事实
待验证在 Amazon EC2 P5en 实例搭配 AWS EFA 的基准测试中,推送式 KV 传输方案实现了约 30% 的 TPOT(每输出令牌时间)提升。67% 相似待验证Qwen 3.8 采用 Apache 2.0 协议的稠密模型,27.7B参数全量激活61% 相似待验证Qwen3.8-27B 是稠密架构模型,以 FP8 精度、Apache-2.0 协议发布,原生上下文 262,144 tokens,可扩展至 1M。60% 相似待验证运行Qwen 3(27B)无优化基线token解码速度:RTX 5090约75、RTX 4090约46、RTX 3090约40、M5 Max 31.4、DGX Spark 12-17、Ryzen AI Max 11.5 tokens/s59% 相似待验证作者尝试了更大的 Qwen2.5 1.5B,但1GB的下载量在WiFi环境下频繁触发缓存错误59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1070057API
curl https://kongchang.com/api/v1/knowledge/claims/1070057MCP
get_claim(id=1070057)