待验证50% 置信事实精确时间
LLST 的压力测试固定 512、4K、16K、28K token 四个输入梯度,输出统一固定为 512 token
1
来源数
50%
置信度
长期有效
时效性
2026/9/17
首次发现
来源
涉及实体
相关事实
待验证在4×RTX 3090 SXM4配置下,GLM-5.2量化版本的Token生成速度约为6.3-6.8 tokens/秒,提示评估速度约为10.6 tokens/秒63% 相似待验证以 Llama-3 70B 为例,在 A100 80GB GPU 上处理 32K token 的预填充阶段约需 800-1200ms,而处理 2K token 仅需约 50ms62% 相似待验证200K token的上下文请求相比8K token请求,需要约25倍的KV-Cache显存60% 相似待验证在预填充速度测试中,Halo约650 tokens/s,Spark约2000 tokens/s,Spark快了将近三倍59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/930278API
curl https://kongchang.com/api/v1/knowledge/claims/930278MCP
get_claim(id=930278)