待验证50% 置信基准精确时间
使用Q4量化权重（魔改版llama.cpp）首次运行时生成速度只有每秒1.83个token
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/5
首次发现
有效期至：2027/1/3
来源
涉及实体
相关事实
待验证约8亿参数的Qwen3.5生成速度最快，接近每秒15个令牌，第二名LFM2.5超过每秒10个令牌76% 相似待验证NVIDIA RTX 4090运行类似规模的Q4量化模型的典型生成速度在40~60 TPS范围内76% 相似待验证UP主在4G显存电脑上实测MiniCPM-2B生成速度达每秒57个token，首字生成仅0.22秒74% 相似待验证Qwen3-0.6B 经 INT4 量化后模型文件仅约 400MB，保留约 95% 基准能力，普通笔记本 CPU 即可实现每秒 10-30 token 生成速度72% 相似已验证实测中Qwen3 27B在未开启NVLink的4张魔改2080Ti上生成速度约为40多token/秒72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/978654API
curl https://kongchang.com/api/v1/knowledge/claims/978654MCP
get_claim(id=978654)