Unverified50% confidenceFactExact time
小尺寸模型(SLM)通常将参数量控制在70亿至200亿之间,通过知识蒸馏、量化和强化学习对齐等技术在压缩参数量的前提下保持能力
1
Sources
50%
Confidence
Long-term
Relevance
7/20/2026
First Seen
Sources
Related Claims
Verified小语言模型(SLM)通常指参数量在1B-7B之间的模型75% similarUnverified知识蒸馏技术使小模型可从大模型中提取相当比例能力,动摇了固定算力阈值作为能力代理指标的有效性71% similarUnverified随着模型参数规模从亿级扩展到千亿级,LLM展现出涌现能力,包括多步推理、类比迁移和不确定性表达68% similarUnverified模型微调能将知识永久写入模型权重,但需要大量标注数据、算力成本高、迭代周期长68% similarUnverified轻量模型通过知识蒸馏和模型剪枝技术压缩规模,知识蒸馏让小模型模仿大模型的输出概率分布,剪枝移除对输出贡献最小的网络权重67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/575493API
curl https://kongchang.com/api/v1/knowledge/claims/575493MCP
get_claim(id=575493)