Unverified50% confidenceFactExact time
Transformer 架构的模型参数在训练完成后即被固定，除非进行微调或持续预训练否则无法获取新知识
1
Sources
50%
Confidence
Long-term
Relevance
8/23/2026
First Seen
Sources
Related Entities
Related Claims
Verified与RNN/LSTM架构相比，Transformer在训练时可以高度并行化，使训练数千亿参数的模型成为可能73% similarUnverified一项研究提出仅训练单个Transformer层，其效果就能与全参数RL训练相媲美72% similarUnverified单层Transformer训练可大幅降低显存占用，只需为单层维护梯度和优化器状态72% similarUnverified参数化知识固化在模型权重中，训练结束后无法在不重新训练的情况下更新；非参数化知识存储在外部数据库中，可随时增删改查71% similarUnverifiedTransformer、残差连接、批归一化等突破性架构与训练技巧均先在实践中被证明有效，理论解释往往滞后数年71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/789719API
curl https://kongchang.com/api/v1/knowledge/claims/789719MCP
get_claim(id=789719)