待验证50% 置信事实精确时间
用 PCA 将第 2 层和第 6 层压缩到 256 维（在 1400 个来自 4 个外部音频数据集的片段上拟合，未使用 MAEB/MSEB 数据），注入零空间后归一化，文本嵌入逐位不变，文本到音频检索变化在 0.05 分以内。
1
来源数
50%
置信度
长期有效
时效性
2026/10/28
首次发现
来源
涉及实体
相关事实
已验证量化KV缓存（如FP8或INT4存储KV向量）可将缓存大小压缩到原来的1/2甚至1/465% 相似待验证大型语言模型推理需将数GB至数十GB模型权重通过PCIe总线从主机内存搬运至显存，受限于PCIe Gen4/Gen5物理带宽上限约64GB/s64% 相似待验证预填充阶段Strata将提示词分割为最多8000个Token的块，通过PCIe流式传输隐藏在计算之后，使处理3.2万Token提示词速度从约570 Token/秒提升至近1300 Token/秒63% 相似待验证K8V4非对称量化将Key压缩到8位、Value压缩到4位，使128K上下文的KV Cache从16GB降到约6GB63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1108287API
curl https://kongchang.com/api/v1/knowledge/claims/1108287MCP
get_claim(id=1108287)