待验证50% 置信基准精确时间
在DeepSeek自身的流量中，96%的输入命中了前缀缓存，单卡预填充吞吐从每秒6万Token跃升至150万Token，提升25倍。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/23
首次发现
有效期至：2027/1/21
来源
DeepSeek开源推理引擎DeepInfer：AI成本战与国运之争
bilibili雪蝶的冰凌2026/10/22
涉及实体
相关事实
待验证使用KV缓存后，同一张卡每秒处理的token数从6万提升到150万，相差25倍。78% 相似待验证DeepSeek-V4.1-Flash-1017 支持 100 万 token 上下文，建议最大输出 256K 以上。69% 相似待验证4-5 token/秒的速度对于8GB显卡的实际使用而言太慢，16GB显卡可提升到12-14 token/秒进入实际可用范围66% 相似待验证在16核环境下，Delta Tokenizer编码一个400万字符的请求比串行编码快8.2倍，比LoPT快1.6至2.1倍。66% 相似待验证在DeepSeek V4 Pro工作负载上，以每用户160 token/秒的交互目标，Vera Rubin-NVL72的每兆瓦AI工厂吞吐量比GB300-NVL72高出最多30倍。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088586API
curl https://kongchang.com/api/v1/knowledge/claims/1088586MCP
get_claim(id=1088586)