待验证50% 置信观点精确时间

ADMM带来的加速是否能在更大规模模型（如百B级别）上保持，以及2:4稀疏度之外更激进的压缩比下影响函数是否仍被保留，都是原文未充分覆盖的方向。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/14

首次发现

有效期至：2027/1/12

来源

曲率感知剪枝CACTUS：同时保留影响函数的新方法

涉及实体

CACTUSconcept ADMMconcept

相关事实

待验证量化与内存卸载叠加使用理论上可在极低显存环境下加载远超容量的模型，但数据搬运会产生额外延迟，实际推理速度往往只有纯显存运行的几分之一69% 相似待验证大模型可能仅仅在用多余的参数和隐藏状态容量吸收压缩带来的损失，因此在饱和任务上表现出的压缩鲁棒性是假象68% 相似待验证更激进的量化可以让更小的实例跑起更大的模型，却未必能降低P99延迟67% 相似待验证四位量化是甜点区，模型能力基本保留九成多，但继续硬压模型输出容易前言不搭后语67% 相似待验证只有在LLM推理比embedding加向量检索慢数十倍以上时，语义缓存才能同时实现降本与提速66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1022908

API

curl https://kongchang.com/api/v1/knowledge/claims/1022908

MCP

get_claim(id=1022908)