待验证50% 置信事实精确时间
扩散语言模型(如 LLaDA、Dream)采用迭代掩码解码,从全掩码序列出发经过若干去噪步骤逐步揭示 token,且每步对整条序列做双向注意力,已揭示 token 的表示会因新揭示的 token 而更新。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证连续扩散语言模型将离散 token 映射到连续嵌入空间,在该空间中执行加噪与去噪过程,最终解码回离散 token75% 相似待验证自回归模型逐 token 从左到右生成,而扩散模型通过对噪声的逐步去噪来并行产出文本。74% 相似待验证双向注意力模型(如 BERT 编码器)的每个 token 表示受全文影响,前缀 KV 无法独立复用,因此 Prompt Caching 主要出现在生成式大模型而非编码模型上。71% 相似待验证Token编解码组件负责文本与token序列之间的双向转换,需与模型词表严格对齐,是推理服务链路中影响兼容性与正确性的基础环节。71% 相似待验证纯解码器架构通过因果注意力掩码确保每个 token 只能关注其之前的上下文,适合自回归文本生成任务70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115511API
curl https://kongchang.com/api/v1/knowledge/claims/1115511MCP
get_claim(id=1115511)