待验证50% 置信基准精确时间
混合配置在留出集上取得了最好的困惑度5.95，纯Transformer为6.93，纯波为7.26。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证KITE / Step Scale Transformer（2025年9月23日）将架构拆为Prefiller塔和Decoder塔，67B MoE版本相比63B经典Transformer分析推理成本降低31.6%且质量更好64% 相似待验证Transformer自回归生成分为Prefill阶段（计算密集型，GPU利用率较高）和Decode阶段（带宽密集型，逐token生成）63% 相似待验证实验结果显示，与基线图专用Transformer相比，新架构在生成质量上保持相近水平，但峰值GPU显存降低了约65%。63% 相似待验证Switch Transformer 和 Mixtral 8x7B 是 MoE 架构的典型代表，总参数量大但每次只激活一部分专家。62% 相似待验证Stable Diffusion 3.5 引入了 Transformer 主干（DiT 结构），参数规模与生成质量相比前代均有提升62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115529API
curl https://kongchang.com/api/v1/knowledge/claims/1115529MCP
get_claim(id=1115529)