待验证50% 置信事实精确时间
v3.36.0 增加了 30 分钟缓存写入的用量计数(PR #4111)和压缩触发 ID(PR #4122)。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/21
首次发现
有效期至:2027/1/19
来源
涉及实体
相关事实
待验证从V1到V4.1 Flash,单Token缓存从389000字节压缩到890字节,总共压缩了437倍64% 相似待验证文本编码器从int8_convrot(1.67秒)更换为qwen3vl_32b_minimax_h3_nvfp4_awq(0.7秒),单次生成节省近一秒64% 相似待验证VPU 的延迟约为 0.32 ms/步,吞吐量超过 3000 FPS。64% 相似待验证在单张 NVIDIA A40、fp32 且关闭 TF32、batch size 1、贪心解码的设置下,GPT-2 small 使用 KV 缓存后,上下文长度 1000 时单 token 延迟从 29.69 ms 降至 4.95 ms,约 6 倍。63% 相似待验证在 dim=256 和 dim=512 的实测中,VPU 的平均延迟均为约 0.32ms,等效 FPS 约 3088-3099。62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1081990API
curl https://kongchang.com/api/v1/knowledge/claims/1081990MCP
get_claim(id=1081990)