待验证50% 置信事实精确时间
2.5-24官方给出的生成速度为每秒184字。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至：2027/1/13
来源
涉及实体
相关事实
待验证相比全秩（无低秩近似）方案，VPU 在 dim=256 下 200 步从 4249ms 降到 160ms，实现了 26.44 倍加速。69% 相似待验证UP主在4G显存电脑上实测MiniCPM-2B生成速度达每秒57个token，首字生成仅0.22秒69% 相似待验证BF16 配置（两张 48GB GPU）下，解码速度从 1K 的 25.1 tok/s 到 128K 的 23.9 tok/s，几乎无衰减69% 相似待验证实测中模型加载仅耗时几秒，GPU占用从23GB降至约17GB，首次测试提示词处理耗时225ms，生成速度稳定在33.5 tok/s，总输出1500 token。68% 相似待验证在GSM8K上OQ4E用时2450.2秒，8bit高达5471.2秒，耗时差了两倍多67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1035432API
curl https://kongchang.com/api/v1/knowledge/claims/1035432MCP
get_claim(id=1035432)