待验证50% 置信基准精确时间
KITE / Step Scale Transformer（2025年9月23日）将架构拆为Prefiller塔和Decoder塔，67B MoE版本相比63B经典Transformer分析推理成本降低31.6%且质量更好
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/19
首次发现
有效期至：2027/1/17
来源
涉及实体
相关事实
待验证Switch Transformer和Mixtral系列广泛采用了MoE架构65% 相似待验证MiniMax采用Transformer架构结合扩散模型(Diffusion Model)65% 相似待验证Transformer自回归生成分为Prefill阶段（计算密集型，GPU利用率较高）和Decode阶段（带宽密集型，逐token生成）64% 相似待验证2019年Dehghani等人提出的Universal Transformer首次将Transformer层设计为可重复执行的循环单元，并引入自适应计算时间机制动态决定循环次数63% 相似待验证现代大模型虽然在细节上各有优化，但核心结构95%以上都基于Transformer架构63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1070134API
curl https://kongchang.com/api/v1/knowledge/claims/1070134MCP
get_claim(id=1070134)