待验证50% 置信事实精确时间
有人在单张NVIDIA RTX 6000 Pro上以NVFP4精度运行Qwen3.8-Flash-Next模型,推理速度达到184 tok/s。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/27
首次发现
有效期至:2026/11/10
来源
涉及实体
相关事实
待验证NVIDIA RTX 4090运行类似规模的Q4量化模型的典型生成速度在40~60 TPS范围内79% 相似已验证实测中Qwen3 27B在未开启NVLink的4张魔改2080Ti上生成速度约为40多token/秒78% 相似待验证测试者建议单用户场景选低量化的Flash Next以获得更高精度,需要并发处理则选FP8 27B因其速度约为QFN的4倍75% 相似待验证Strata是一个开源推理运行时,能在RTX 5070(12GB显存)上运行1250亿参数的Qwen3.8 Flash Next模型,输出速度约为每秒90个Token75% 相似待验证在一台128G算力舱设备上,Qwen3.8 Flash的解码速度常态达241 TPS,峰值达274 TPS73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1101734API
curl https://kongchang.com/api/v1/knowledge/claims/1101734MCP
get_claim(id=1101734)