待验证50% 置信事实精确时间

OLMo 2使QK-Norm被广泛认可为训练稳定利器，Gemma 3和Qwen 3受Meta Chameleon启发采用QK-Norm

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

从零训练2亿参数大模型：踩坑实录与工程经验

涉及实体

OLMo 2model QK-Normconcept Gemma 3model Qwen 3model Meta Chameleonmodel

相关事实

待验证Qwen3.8-Flash-Next原生支持MTP，说明该能力在模型训练阶段就已内置67% 相似待验证Qwythos-9B建立在未经审查的Qwen 3.5基础模型之上64% 相似待验证Qwen 3系列采用了包括混合推理在内的多项架构创新63% 相似待验证Qwen2.5系列在后训练阶段引入了大量工具调用对齐数据，并通过RLHF和DPO强化了结构化输出的可靠性63% 相似已验证Qwen3 Max 采用 MoE（混合专家）架构63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/912659

API

curl https://kongchang.com/api/v1/knowledge/claims/912659

MCP

get_claim(id=912659)