待验证60% 置信事实精确时间

模型蒸馏将大模型的知识迁移到更小的学生模型中，速度提升显著但存在一定能力损耗

2

来源数

60%

置信度

长期有效

时效性

2026/5/28

首次发现

来源

Claude Code Fast模式降价：双模式工作流重塑AI编程体验

twitteralexalbert__2026/5/28

涉及实体

模型蒸馏concept

相关事实

待验证知识蒸馏技术使小模型可从大模型中提取相当比例能力，动摇了固定算力阈值作为能力代理指标的有效性80% 相似待验证轻量模型通过知识蒸馏和模型剪枝技术压缩规模，知识蒸馏让小模型模仿大模型的输出概率分布，剪枝移除对输出贡献最小的网络权重76% 相似待验证当模型规模突破某一临界点后会出现涌现能力，包括上下文学习和思维链推理等能力76% 相似已验证模型蒸馏是一种将大型教师模型能力迁移到更小学生模型的技术，可能被用于扩散危险能力75% 相似待验证Flash模型通常采用知识蒸馏技术，以旗舰模型为教师模型训练出参数量更小、推理速度更快的学生模型75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/251

API

curl https://kongchang.com/api/v1/knowledge/claims/251

MCP

get_claim(id=251)