待验证50% 置信事实精确时间
对于自回归语言生成,CAGD的教师展开蒸馏可以通过链式法则对序列散度进行精确分解
1
来源数
50%
置信度
长期有效
时效性
2026/10/7
首次发现
来源
涉及实体
相关事实
待验证离散掩码扩散借鉴BERT的掩码语言建模思路,训练时对序列随机掩码并还原,推理时从全掩码序列多步迭代填充,代表工作有MDLM、SEDD73% 相似待验证CAGD相比硬重放更灵活,允许学生在旧提示上产生与教师措辞不同但语义等价的输出71% 相似待验证跨分词器蒸馏的标准做法是将教师top-K logits投影到学生token上,在分段边界处把教师token映射到对应学生token序列的第一个token,这是一种多对一映射69% 相似待验证非自回归机器翻译通过知识蒸馏解耦策略使用自回归教师模型生成的伪标签训练,将BLEU分数提升幅度超过10个点,同时推理保持并行解码65% 相似待验证改进伪标签质量的常见方向包括置信度过滤、引入语言模型重打分(LM rescoring)以及集成多个教师模型64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/982973API
curl https://kongchang.com/api/v1/knowledge/claims/982973MCP
get_claim(id=982973)