待验证50% 置信事实精确时间

掩码自注意力使生成第t个词时模型只能看到位置1到t-1的内容，训练时通过掩码矩阵实现整个序列并行训练

1

来源数

50%

置信度

长期有效

时效性

2026/9/21

首次发现

来源

可视化理解Transformer：拆解大模型背后的核心架构

涉及实体

Masked Self-Attentionconcept

相关事实

待验证训练时通过上三角mask矩阵实现每个token只能看到它之前的内容，符合语言生成的自回归特性75% 相似待验证该系统在提示词中明确要求模型只能使用提供的上下文作答，答案不在上下文中时直接回答不知道，而非凭训练记忆编造70% 相似已验证自注意力机制允许模型在处理每个词元时同时参考序列中所有其他词元的上下文信息，而非像RNN那样顺序处理69% 相似待验证在单一模型框架内同时覆盖 T2I 与图像编辑通常意味着模型在训练阶段接受了大量"原图-指令-编辑结果"三元组数据并具备较强的多模态理解能力68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/939623

API

curl https://kongchang.com/api/v1/knowledge/claims/939623

MCP

get_claim(id=939623)