待验证50% 置信事实精确时间

AttSVD的持久化每头KV内存占用会按照保留的秩成比例下降

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

AttSVD：用注意力引导的SVD压缩KV缓存，内存砍半不掉点

涉及实体

AttSVDtechnology

相关事实

待验证AttSVD在多个模型和基准测试上实现了最多仅用50%的KV缓存内存却保持与完整稠密缓存相当的精度64% 相似待验证当模型文件超出显卡显存时，溢出部分退回系统内存处理，速度会大幅下降63% 相似待验证传统KV缓存实现预先分配最大长度连续显存块，导致平均60%-80%的预分配内存被浪费62% 相似待验证当KV缓存溢出GPU显存容量时，性能会呈阶跃式骤降而非平缓下降61% 相似待验证单通道内存配置在同等容量下性能可比双通道下降15%-30%60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/983257

API

curl https://kongchang.com/api/v1/knowledge/claims/983257

MCP

get_claim(id=983257)