待验证50% 置信事实精确时间

研究者在相同语料上训练了小型掩码扩散语言模型与计数式预测进行对照

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

语料采样如何影响掩码文本重建：预测模型分歧的量化研究

涉及实体

掩码扩散语言模型concept

相关事实

待验证研究团队用前沿语言模型来实例化EWM，将语言模型生成的解释直接作为学习信号76% 相似待验证该实验的核心方法是用一份处处撒谎的语料对小型因果语言模型进行微调，然后观察其置信度变化76% 相似待验证在代码语料比例更高的混合数据集上训练的模型，在数学推理基准（如MATH、GSM8K）上的表现显著优于纯自然语言训练的同规模模型，这一结论获斯坦福大学和MIT的多项研究证实75% 相似待验证自回归多模态模型借鉴语言模型的token预测机制，在理解复杂文字指令和保持角色一致性方面更具优势75% 相似待验证论文在一个2.19亿参数(219M)的掩码扩散语言模型上进行了四任务的持续适应实验74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1001480

API

curl https://kongchang.com/api/v1/knowledge/claims/1001480

MCP

get_claim(id=1001480)