已过期50% 置信基准精确时间

用33K长度的Qwen3.8-Flash技术报告作为长文本输入实例，预填充阶段速度约180 tok/s，解码阶段约18 tok/s

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/9/16

首次发现

此条事实已过期，仅作历史留存，不再代表当前状态

有效期至：2026/9/30(已过期)

来源

8卡2080Ti 22G本地部署GLM-5.3-Flash实测：TP2 PP4并行方案解析

涉及实体

GLM-5.3-Flashmodel 2080Ti 22Gproduct

相关事实

待验证Qwen3-0.6B 经 INT4 量化后模型文件仅约 400MB，保留约 95% 基准能力，普通笔记本 CPU 即可实现每秒 10-30 token 生成速度70% 相似待验证文本编码器从int8_convrot(1.67秒)更换为qwen3vl_32b_minimax_h3_nvfp4_awq(0.7秒)，单次生成节省近一秒69% 相似待验证Q4_K_M量化文件大小17.77GB，pp2048速度96.8 tok/s，tg128速度11.4 tok/s69% 相似待验证在Qwen 3.8 Flash Next模型上，解码性能翻倍达到52 tok/s68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/924382

API

curl https://kongchang.com/api/v1/knowledge/claims/924382

MCP

get_claim(id=924382)