待验证50% 置信事实精确时间
一项新研究工作提出无需重新训练即可将预训练 Transformer 转变为单个弹性模型，能在推理时即时适应从高到低的一系列计算预算。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
你的Transformer其实是弹性的：免重训练动态压缩
rss2026/10/14
涉及实体
相关事实
待验证Transformer 架构的模型参数在训练完成后即被固定，除非进行微调或持续预训练否则无法获取新知识80% 相似待验证一项研究提出仅训练单个Transformer层，其效果就能与全参数RL训练相媲美78% 相似待验证2020 年代 Transformer 架构和大规模预训练的突破，让意图驱动编程从理论走入日常实践76% 相似待验证Transformer、残差连接、批归一化等突破性架构与训练技巧均先在实践中被证明有效，理论解释往往滞后数年75% 相似待验证REPA和RECON的工作表明，扩散Transformer前层学到的语义信息未必能自动流向后层，分层、分阶段地设计监督信号可能是提升训练效率的一个被低估的方向。75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037988API
curl https://kongchang.com/api/v1/knowledge/claims/1037988MCP
get_claim(id=1037988)