待验证50% 置信事实精确时间
选择性重计算由Korthikanti等人在2022年的Megatron-LM论文中系统研究，仅对注意力激活值做重计算可在额外计算开销不超过10%的条件下接近全量重计算的显存节省
1
来源数
50%
置信度
长期有效
时效性
2026/7/14
首次发现
来源
相关事实
待验证该研究在十亿参数规模LLM上测得峰值内存占用显著降低，且能耗节省比例高于速度提升比例65% 相似已验证2006年Roediger和Karpicke在《科学》杂志发表实验证明，经过测试练习的学生在一周后的记忆保留率比单纯重读组高出近50%64% 相似待验证注意力机制的计算量与序列长度的平方成正比，将上下文翻倍意味着计算量增加四倍63% 相似待验证差异化Token倍率机制可通过更高的消耗系数对高成本模型使用量形成经济约束，并引导用户在轻量任务中优先选用小模型63% 相似待验证参数量在1亿以下的轻量模型经领域数据微调后可达95%以上意图分类准确率，单次推理延迟控制在5-20ms以内63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/503800API
curl https://kongchang.com/api/v1/knowledge/claims/503800MCP
get_claim(id=503800)