待验证50% 置信基准精确时间
通过 request-owned speculative KV，在 DeepSeek-V4-Pro 1P1D、MI355X、并发 256 场景下，平均 TTFT 从 19.4 秒降至 15.1 秒
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/3
首次发现
有效期至：2027/1/1
来源
涉及实体
相关事实
待验证RTX 4090的理论FP16算力为330 TFLOPS,对于7B FP16模型的Decode实际速度通常在50-60 tokens/s74% 相似待验证实测在RTX 3060（6GB显存）、32GB RAM上运行预量化Krea2 Turbo，1024×1024分辨率8步Euler采样，速度为1.78 s/it，总耗时17.64秒71% 相似待验证现代云内网 RTT 可低至 0.1–0.5 毫秒，与本地 SSD 的 fsync 延迟处于同一量级70% 相似待验证在 DeepSeek R1 670B（MXFP4 精度）测试中，Jalapeño 每瓦吞吐约 1.7 倍（19,641 对 GB300 的 11,781），端到端延迟从 5.99 秒降到 1.65 秒70% 相似待验证以FP16半精度计算，RTX 4090理论算力约为330 TFLOPS，M2 Ultra的GPU算力约为27.2 TFLOPS68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/969380API
curl https://kongchang.com/api/v1/knowledge/claims/969380MCP
get_claim(id=969380)