待验证50% 置信事实精确时间
特权上下文在自蒸馏中指的是仅教师可见的额外信息,例如源材料、答案或领域文档。
1
来源数
50%
置信度
长期有效
时效性
2026/11/10
首次发现
来源
投机自蒸馏:高效知识内化的新范式
rss2026/11/9
涉及实体
相关事实
待验证论文指出蒸馏效果的天花板不仅由教师参数规模决定,更由监督信号在分布边缘处的质量决定62% 相似待验证文章提出选书应内容质量优先于习题数量,因为习题可从别处获取而内容缺陷无法弥补61% 相似待验证Imprinting的强度因教师-学生对而异,且不会均匀扩展到所有形式的安全行为上,表明行为传递具有选择性和条件依赖性。61% 相似待验证On-policy 自蒸馏中,特权自教师提供的监督反映的是局部 token 偏好,而非学生模型在无引导条件下继续生成时的期望回报。61% 相似待验证法律数据的获取存在壁垒,判决文书、合同模板等高质量语料的流通受到隐私和合规限制,会影响模型的训练效果和泛化能力。60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1155430API
curl https://kongchang.com/api/v1/knowledge/claims/1155430MCP
get_claim(id=1155430)