待验证50% 置信事实精确时间
掩码扩散在前向过程中以一定速率将任意token替换为[MASK]标记,最终状态为全掩码序列,其反向过程与BERT式掩码语言模型训练目标高度契合。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证离散空间扩散直接在token序列上定义扩散过程,引入[MASK] token,前向过程逐步将真实token替换为mask,反向过程学习预测被mask的原始token76% 相似待验证掩码扩散语言建模(MDLM)在离散token空间上操作,前向过程将token随机替换为[MASK],反向过程训练模型逐步恢复被掩盖的token73% 相似待验证掩码扩散在训练时随机遮盖序列中的部分token,生成时从掩码状态出发通过多轮迭代逐步去噪还原完整序列,每一步可并行预测多个位置的token。73% 相似待验证离散扩散模型专门处理离散数据(如氨基酸序列、DNA序列或文本),正向过程通常采用掩码机制,将序列中某些位置替换为[MASK]标记,模型在反向过程中逐步预测还原68% 相似待验证掩码扩散模型(MDM)的加噪过程是将序列中的 token 逐步替换为特殊的 [MASK] 标记,训练目标是让模型学会根据当前部分可见的序列预测被掩位置上的原始 token。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115636API
curl https://kongchang.com/api/v1/knowledge/claims/1115636MCP
get_claim(id=1115636)