待验证50% 置信基准精确时间
统一的 Radix Cache 新增了 Agentic-Aware 尾部优化 LRU 淘汰策略,在 DeepSeek-V4-Pro FP4、4 卡 B300 的 agentic 轨迹测试中并发 32 时 p99 ITL 下降 43.9%
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/3
首次发现
有效期至:2027/1/1
来源
涉及实体
相关事实
待验证Redis 4.0引入LFU策略,使用Morris概率计数器以8位空间记录访问频次,并通过lfu-decay-time配置衰减因子60% 相似待验证参与本轮横评的模型包括Fable 5、DXU E4GA、DXU E4 Slash N731正式版、千问三代MiniMax 0720和DeepSeek V4 Pro58% 相似待验证基础模型(无LoRA)配置为30步、CFG 4、er_sde采样器、simple调度器57% 相似待验证FP8量化将模型权重从FP16压缩为8位浮点表示,在NVIDIA Hopper架构(H100/H200)上可获得原生加速,且相比INT8对精度损失更小56% 相似待验证本文采用INT8+bf16混合精度策略:原始模型权重使用INT8量化(通过bitsandbytes库的LLM.int8()方法),LoRA部分使用bf16配合fp32主权重56% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/969383API
curl https://kongchang.com/api/v1/knowledge/claims/969383MCP
get_claim(id=969383)