待验证50% 置信观点精确时间
对于依赖蒸馏进行模型压缩或加速的团队，除了任务性能外，还需要检测学生模型的行为偏移。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证实验表明按由易到难顺序喂给模型训练样本能加速收敛并学到更鲁棒的特征表示，性能优于随机打乱顺序的训练73% 相似待验证逐条检查模型在训练过程中的动作序列，可以判断高分来自真实能力提升还是对奖励机制的钻空子72% 相似待验证学术界的RouteLLM、FrugalGPT等工作使用训练好的分类器预测任务难度，在弱模型与强模型之间动态切换，在保证质量的前提下压降成本。72% 相似待验证Turbo、Lightning等加速方案引入一致性蒸馏或对抗蒸馏技术，用教师模型监督学生模型在极少步数内接近最终输出71% 相似待验证蒸馏攻击是指通过大量调用目标模型API收集输入输出对，训练规模更小的学生模型来复制目标模型能力71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1023614API
curl https://kongchang.com/api/v1/knowledge/claims/1023614MCP
get_claim(id=1023614)