待验证50% 置信事实精确时间
掩码语言建模（MLM）是Transformer编码器处理纵向电子病历的事实标准预训练目标。
1
来源数
50%
置信度
长期有效
时效性
2026/10/22
首次发现
来源
涉及实体
相关事实
待验证多模态大模型（MLLMs）是能够同时处理和理解文本、图像、音频、视频等多种模态信息的大规模神经网络模型，通常基于Transformer架构，通过在大规模多模态数据上进行预训练获得跨模态对齐能力。73% 相似待验证主流LLM基于Transformer架构，通过在海量文本数据上进行下一个词预测的自监督学习获得能力72% 相似待验证当前MLLMs的架构通常将语言编码器与视觉编码器分别训练后再融合，导致模型在深度交叉推理时力不从心71% 相似待验证LLM 本质上是基于统计规律的模式匹配系统，通过海量代码语料预训练学会上下文之后通常跟随的代码70% 相似待验证LLM的预训练本质是在海量文本上进行下一词预测（Next Token Prediction），通过Transformer架构的注意力机制建立词语间语义关联70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1084397API
curl https://kongchang.com/api/v1/knowledge/claims/1084397MCP
get_claim(id=1084397)