待验证50% 置信基准精确时间
EcoHash 上 llama-3.1-8b-instruct 的实测性能为 TTFT 205 ms（p95），单流约 143 tokens/秒。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/14
首次发现
有效期至：2026/10/28
来源
涉及实体
相关事实
待验证提示处理速度上RTX 4090约3000 tokens/s，M5 Max约800 tokens/s，英伟达在长文档/代码库输入场景优势明显71% 相似待验证在6张RTX 5090上Colibri实测速度达9.0-9.2 token/s，在25GB开发机上从NVMe流式读取速度为0.05-0.1 token/s71% 相似待验证在RTX 5090上，Muse Glimmer不使用推测解码时为75 tokens/秒，搭配推测解码模型后速度达233 tokens/秒69% 相似待验证在4bit量化版本（完全放入32GB显存）测试中，Ollama达240 tokens/s，FreeToken为225 tokens/s，Ollama反而更快69% 相似待验证RTX 4090的理论FP16算力为330 TFLOPS,对于7B FP16模型的Decode实际速度通常在50-60 tokens/s69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1025608API
curl https://kongchang.com/api/v1/knowledge/claims/1025608MCP
get_claim(id=1025608)