待验证50% 置信解决方案精确时间

HiSparse 在 GPU 显存吃紧时仅将命中 top-k 的缺失数据回填到每个请求的热缓冲区，而非无差别占用显存

1

来源数

50%

置信度

长期有效

时效性

2026/9/24

首次发现

来源

vLLM v0.30.0 发布：混合注意力与推测解码全面升级

涉及实体

HiSparsetechnology

相关事实

待验证数据在服务器端进行推理时必然处于明文状态，GPU显存中的激活值、KV缓存以及批处理队列中的请求数据都可能成为侧信道攻击目标64% 相似待验证在传统AI推理流程中，数据在GPU执行计算时通常需要以明文形式驻留在内存中，形成「使用中的数据」的安全盲区61% 相似待验证当并发请求数量攀升时，内存资源往往先于计算资源被耗尽，导致GPU算力闲置59% 相似待验证从事件监听打断点并沿调用栈逐层追溯，比盲目全局搜索效率更高且不易遗漏中间数据转换环节58% 相似待验证多级缓存和预测性预热（predictive warming）可缓解延迟与吞吐量矛盾，热门查询缓存后可直接返回不经过推理流程58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/945473

API

curl https://kongchang.com/api/v1/knowledge/claims/945473

MCP

get_claim(id=945473)