待验证50% 置信事实精确时间

将模型参数从70B缩减到7B，推理所需显存和单次请求的计算量均下降约一个数量级

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

重新审视LLM扩展定律：如何选对Token/参数比

涉及实体

LLM推理concept

相关事实

待验证领域微调后的7B模型在任务准确率上往往超越未经微调的70B通用模型，同时推理成本降低一个数量级80% 相似待验证MoE架构中，一个标称800亿参数的模型每次推理时可能只激活约200亿参数，VRAM占用大幅降低76% 相似已验证对于一个 70 亿参数的模型，LoRA 通常只需训练不到 1% 的参数量，显存需求可降低 60% 以上75% 相似待验证11000 个参数的模型所占内存不到 50KB73% 相似待验证2B参数模型的单次推理计算量大约仅为70B模型的三十五分之一72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/984137

API

curl https://kongchang.com/api/v1/knowledge/claims/984137

MCP

get_claim(id=984137)